クラウド設計図鑑

最新記事

連載・単発記事をまとめて、公開日の新しい順に並べた一覧です。どのカテゴリの記事がいつ増えたのかをここで確認できます。

全14記事直近30日の新着9件最終更新
AI基盤編Level 3新着

推論サーバーを選ぶ

同じモデル・同じGPUでも、推論エンジンの実装でスループットは数倍変わる。Continuous BatchingとPagedAttentionが何を解いているのかを計算で確かめ、Ollama・vLLM・SGLangから要件で選ぶ。

応用24分
AI基盤編Level 2新着

モデルとGPUを理解する

「27BだからこのGPU」では破綻する。要件から必要スループットを出し、メモリ収支と帯域の両面から、モデル・精度・GPUの候補を絞り込む手順を扱う。

応用22分
AI技術解説新着

GPU

容量・帯域・演算性能は別の指標である。LLM推論でどれが効くのかを、プリフィルとデコードの違いから整理する。

中級12分
AI技術解説新着

KV Cache

同時実行数とコンテキスト長に比例して膨らむ、サイジングの主役。計算式・GQA・PagedAttention・KV量子化を整理する。

応用12分
AI技術解説新着

LLM

パラメータ数、Dense と MoE、コンテキスト長、トークナイザ。AI基盤の設計に効くLLMの構造を、必要な深さだけ整理する。

入門10分
AI技術解説新着

量子化（BF16 / FP8 / FP4）

メモリと帯域を減らす代わりに品質を差し出す技術。何が減り、何が減らないのか、どう検証するのかを整理する。

中級11分
AI基盤編Level 0新着

企業課題・要件定義

社内に散らばった10万件の文書に対して、そもそも何を解決したいのか。技術を選ぶ前に、機能要件・非機能要件・評価指標を先に固める。

入門12分
AI基盤編Level 1新着

生成AIの導入方式を決める

外部API・Managed・Self-hostの3方式を、機密性・レイテンシ・コスト・運用能力で比較する。Self-hostが優れているから選ぶのではなく、要件から導く。

中級14分
業務システム編

既存オンプレミスCRM

架空のB2B企業が抱える、老朽化したオンプレミスCRM・SFAの現状と課題を整理する。

入門8分
業務システム編Level 1

AWSへの初期移行

老朽化したオンプレミスCRMを、アプリケーションを大きく作り変えずに安全にAWSへ移行する。

中級14分
業務システム編Level 2

高可用化・安定運用

利用者増加とEC2単一障害点への不安から、Auto ScalingとRDS Multi-AZで高可用化する。

中級9分