AI基盤編 / はじめに
AI基盤エンジニアとは
AI基盤エンジニアは、モデルを動かす人ではなく、要件から性能・コスト・セキュリティを逆算してAI基盤を設計する人です。このJourneyで扱う範囲と進め方を説明します。
モデルを動かす人ではない
LLMをローカルで起動すること自体は、いまや数コマンドで終わります。企業でAI基盤を担うエンジニアの仕事は、その手前と後ろにあります。「何人が、どんな文書に、どの応答速度で、どこまでの権限で到達してよいか」を要件として定義し、そこからモデル・GPU・推論方式・検索構成・監視・コストを逆算する仕事です。
順序を逆にしない
AI基盤の設計でよく起きる失敗は、技術から入ることです。このJourneyでは、一貫して右側の順序で考えます。
vLLMを使いたい → Qwenを置く → RAGを作る
利用規模 / 同時利用 / 機密性 / SLA → 必要性能 → LLM・GPU・Servingを選ぶ
27Bモデルだから、このGPUを買う
Model weights + KV Cache + Batch + Context Length + Runtime = 必要メモリ
検索した機密文書をLLMへ渡し、回答から隠す
利用者の権限を先に確定し、検索の時点でACLを適用する
回答が古いのでFine-tuningする
課題の種類を切り分け、更新性の問題ならRAGで解く
JourneyとTechnologyを分ける理由
Journey
「なぜこのタイミングでvLLMが必要なのか」を学ぶ場所。企業の状況と課題から、判断を追体験します。
Technology
「vLLMそのものを詳しく知りたい」ときに読む辞書・専門解説。判断の文脈から切り離して参照できます。
このJourneyで身につける流れ
- 要件定義
- 非機能要件
- Build / Buy判断
- LLM選定
- GPU選定
- Serving選定
- RAG設計
- Security設計
- Observability
- Benchmark
- Capacity Planning
- 本番Architecture
題材
架空企業「Nortia株式会社」（社員1,000人、AI利用想定500人、対象文書約10万件）の社内ナレッジAI基盤を題材にします。社員がPDF・設計書・規程・FAQについて質問すると、権限を確認し、関連文書を検索して根拠付きで回答するシステムです。