コンテキストエンジニアリングとは：AI活用が失敗する本当の理由
AIの答えがいまひとつ。プロンプトを工夫しても改善しない。そのとき多くの人はモデルを疑い、言い回しを変え、また試す。だが本当の問題は別の場所にある可能性が高い。2025年6月、ShopifyのCEOとAndrej Karpathyが相次いで注目した「コンテキストエンジニアリング」という概念は、この問いへの答えを持っている。AIが業務で機能するかどうかを左右するのは、モデルの賢さでも、プロンプトの語り方の上手さでもない。何をAIに渡すかの設計力だ。この記事では、コンテキストエンジニアリングとは何か、プロンプトエンジニアリングとの違い、そして中小企業が実践できることを整理する。
プロンプトの先にある問い
プロンプトエンジニアリングとは、AIへの質問の形を磨く技術だ。どう問うか、何を先に伝えるか、役割をどう与えるか。文章のレベルで行われる工夫の総体だった。
コンテキストエンジニアリングは、まったく別の問いを立てる。Andrej Karpathyはこれを「次の処理ステップに対して、LLMのコンテキストウィンドウをちょうど適切な情報で満たす精妙な技術」と表現した。Shopify CEOのトビ・ルクトは「タスクをLLMが解ける可能性のある形にするために必要なすべての文脈を提供する技術」と定義した。Gartnerも2025年に「コンテキストエンジニアリングの時代が来た」と評した。
コンテキストウィンドウに入るのはプロンプトだけではない。会話履歴、外部データベースから検索してきた文書、ツールの実行結果、エージェントの作業状態。これらすべてが「コンテキスト」だ。実際のAIエージェントでは、ユーザーの質問が占める割合は全体の5〜10%程度に過ぎない。残りの90%以上が、設計次第で変えられる情報だ。
図1: プロンプトとコンテキストの違い — 対象レベルが根本的に異なる
プロンプトの書き方を変えることと、AIに渡す情報の構造を変えることは、効果の桁が違う。前者は文章の問題で、後者はシステム設計の問題だ。
なぜ今、これが重要なのか
METRが2025年に実施した大規模な無作為化比較試験（RCT）は、AI活用に取り組む企業に不都合な事実を突きつけた。AIコーディングツールを使った開発者は、作業を24%速く終わらせると予想していた。実際は19%遅くなった。
原因はシンプルだ。ツールにコードベースの十分な文脈が渡っていなかった。AIは「このプロジェクトで何を作ろうとしているのか」「どんな設計方針で進めているのか」「過去にどんな判断をしてきたのか」を知らなかった。文脈の薄いAIが生成したコードは、つじつまが合わず、やり直しが増えた。人間一人より遅い、という結果になった。
このパターンは業種を問わず繰り返されている。MITの2025年「State of AI in Business」調査によれば、企業のAIパイロットの95%が測定可能なROIをゼロしか生み出せていない。Gartnerは「AIエージェントプロジェクトの40%以上が2027年末までにキャンセルされる」と予測しており、その主因をモデルの能力不足ではなくコンテキスト設計の失敗に置いている。
問題はAIではない。AIへの問いかけの仕方でもない。AIに何を渡しているか、だ。
コンテキスト設計の3つの柱
1. RAG — 知らないことを渡す仕組み
AIモデルは、自社の製品カタログ、社内規則、顧客の過去のやりとりを知らない。知るためには、教える仕組みが必要だ。
RAG（検索拡張生成）は、AIが回答を生成するタイミングで、データベースや文書から関連情報を検索し、コンテキストに注入する技術だ。ファインチューニング（追加学習）との違いは実務上重要だ。ファインチューニングはモデル自体に情報を焼き込む。時間とコストがかかり、情報が古くなっても更新しにくい。RAGは毎回「最新の情報」を渡す。情報を変えれば即日反映される。
実務のポイントは「渡しすぎない」ことだ。50件の検索結果をそのまま注入するより、再ランキングで上位5件に絞った方が回答品質は上がる。関係のない情報が混入したコンテキストはノイズになる。RAGの詳しい仕組みと企業導入の注意点は、RAGとは — 企業データを活かすAI技術の本質と限界で解説している。
2. メモリ設計 — 覚える仕組みを作る
AIはセッションをまたいで記憶を持たない。これは当然の仕様だが、ビジネス活用では致命的になる場面がある。
顧客との商談履歴、過去に伝えた情報、好みの報告スタイル。これらを毎回ゼロから伝え直す必要があるAIは、本当の意味でのアシスタントとは言えない。Anthropicが2025年9月にClaudeのデベロッパープラットフォームに追加したメモリツールは、長期稼働するエージェントが経験を蓄積できるように設計されている。Mem0の2026年の研究では、適切なメモリ設計により時間的な問いへの精度が29.6ポイント、複数ステップの推論精度が23.1ポイント向上したと報告されている（出典: Mem0, 2026）。
中小企業での入口は難しくない。顧客ごとの背景情報をまとめたメモをAI呼び出しのたびに渡す習慣から始めるだけでも、回答の精度と一貫性は大きく変わる。
3. コンテキストの質の管理
コンテキストエンジニアリングで最も反直感的な原則がある。「多く渡せば渡すほどAIの答えはよくなる」は誤りだ。
コンテキストの過負荷（Context Overload）は出力品質を劣化させる。データベースの50件の検索結果をそのまま渡すより、上位5件に絞った方が回答は改善する。関係のない情報が混入したコンテキストはノイズになる。
何を入れるか、と何を入れないかの両方をデザインすること。それがコンテキストエンジニアリングの核心だ。
図2: コンテキストウィンドウの中身 — ユーザーの質問はわずか5%
Shopifyはコンテキストを「全社の基本スキル」と定義した
ShopifyのCEO、トビ・ルクトが2025年6月に社内に向けて発したメモが公になった。そこには、AI活用は「全社員の基本的な期待値」であり、採用・評価基準に組み込むと書かれていた。特に強調されたのがコンテキストエンジニアリングだ。
Shopifyが定義したのは「どんなAIを使うか」ではなく、「そのAIが動く際に何の情報を持っているか」を設計する能力だ。プロンプトの書き方を教えることと、コンテキスト設計を教えることは違う。前者はテクニックの話で、後者はシステム設計の話だ。
ノルウェーのエンタープライズアーキテクチャツール企業Ardoqは2025年、企業のポリシー・データの系譜・組織定義をAIが参照できるコンテキストとして提供するMCPサーバーを一般提供した。AIが「その会社特有の制約と文脈の中で」正しい答えを出せるようにする。これがコンテキストエンジニアリングの実装例だ。
共通するのは、コンテキスト設計をエンジニアリングチームだけの仕事ではなく、業務知識を持つ人間が担う仕事として位置づけていることだ。AIに何を知らせるべきかを最もよく知っているのは、その業務の担当者自身だ。
中小企業が今週から始められること
大企業がコンテキスト基盤に多額投資する話を聞くと「うちには関係ない」と思うかもしれない。だが、コンテキストエンジニアリングの本質は技術的な問いではなく、業務的な問いだ。
「このAIに、何を知らせる必要があるか」
この問いを3つの業務に当てはめてみることが、最初の一歩だ。
- カスタマーサポート：過去の問い合わせ対応履歴、自社製品のFAQ、対応方針ドキュメント。これらをAIが参照できる形で整備するだけで、回答品質は大きく変わる。
- 営業サポート：商談相手の企業情報、過去のやりとり、提案書の実績。文脈を持たないAIへの質問は、文脈を持たない新入社員への質問と同じ結果を生む。
- 社内ナレッジ活用：社内規程、業務マニュアル、過去の意思決定の記録。RAGで参照可能にすることで、AIの回答は「一般論」から「自社の現実」へと変わる。
完璧な設計を最初から目指す必要はない。最も頻繁にAIに聞いていること、最も回答が外れている業務から着手するだけでいい。手動でFAQをプロンプトに添付するところから始めても、コンテキストエンジニアリングの効果は確認できる。効果が見えたら、自動化に投資する。その順序が正しい。
よくある疑問に答える
プロンプトを丁寧に書けば済む話では？
プロンプトの工夫には限界がある。自社の価格表を知らないAIに、どれだけ上手にプロンプトを書いても、正確な価格を答えることはできない。プロンプトは問いの形を整える。コンテキストは問いが解ける条件を作る。条件が整っていなければ、形を磨いても結果は変わらない。
RAGや外部メモリは開発が必要でハードルが高い
高度な実装には開発が要る。だが最初の一歩は開発なしでもできる。FAQをテキストにまとめて毎回プロンプトに添付する、商談相手の情報をメモとして共に渡す。これもコンテキストエンジニアリングの原理を使っている。ツールの複雑さと概念の重要性は別物だ。
どのモデルも変わらないのでは？
モデル間の性能差より、コンテキスト設計の差の方が実際の出力品質に与える影響は大きい。METR試験が示したように、優れたAIツールもコンテキスト不足では人間一人より遅くなる。モデルの選定より先に、コンテキスト設計を整える方が投資対効果は高い。
まとめ
- コンテキストエンジニアリングとは、AIに渡す情報の設計であり、プロンプトの書き方とは別次元の技術だ
- 企業AIパイロットの95%がROIゼロに終わる根本原因は、モデルの能力不足ではなくコンテキスト設計の失敗にある（MIT 2025）
- RAG・メモリ・コンテキスト品質管理の3つが、AIを業務で機能させるための基盤だ
- Shopifyはすでにコンテキスト設計を「全社員の基本スキル」と位置づけた
- 中小企業での入口は「このAIに何を知らせる必要があるか」という業務的な問いから始まる
コンテキストエンジニアリングは特定のツールや技術の話ではない。AIとともに業務を進める際の情報設計の原則だ。プロンプトを磨くより先に、AIに何を渡しているかを問い直すこと。それが今、最も費用対効果の高い改善になる。
Lat91では、AIエージェントの設計・導入から運用まで、一気通貫でサポートしています。
社内のAI活用がうまく機能していない、あるいはコンテキスト設計から見直したいという方は、まずは無料相談からお気軽にどうぞ。