なぜコンテキストエンジニアリングが重要なのか、その理由を説明します。 エージェントが内部知識に頼るべきか、ある質問タイプに対してデータ内の関連文脈を見つけるべきかを2時間も議論しました。数百件のテストケースを2回乗り越えました。 ブレインストーミングに関わった人たちでさえ、この状況で人間に何を期待するか全員が意見が一致できなかった。正解は本当になく、常に顧客ごとに状況が異なります。 コンテキストエンジニアリングのすべては、エージェントにどれくらいの速さで質問に答えてほしいか、ユーザーにどれだけやり取りを求めるか、質問に答える前にどれだけの作業をすべきか、質問に答えるための網羅的なソース資料を持っているかどうか、 間違った答えのリスクレベルはどのくらいか、などです。 これらの次元のいずれかで下すすべての決定は、反対側の結果をもたらします。タダより高いものはない。だからこそ、AIエージェントの構築は非常に大胆なのです。 また、LLM層の上にどれだけ価値があるかも強調しています。これらの判断を正しく行うことは、価値提案の質に直接関係しています。

カルパティの最新投稿より: 「LLMアプリは、プライベートデータ、センサー、アクチュエーター、フィードバックループを提供することで、特定の分野でチームを組織化し、微調整し、実際に展開するプロフェッショナルへとアニメーション化します。」 まさにその通りです。AIエージェントの世界では、当初認識されていたよりもはるかに厚い層がLLMの上に存在します。 薄い包装に対する批判は、2年前にはトークンを軽くカスタマイズしたインターフェースやシステムプロンプトで再パッケージ化していた時代には多少効果がありました。 しかしAIエージェントは、ツール、独自のデータ、高度にドメイン特化したシステムプロンプト、ワークフローの人間が関わる部分のための専門インターフェース、コンテキストウィンドウの制限に対応する高度なコンテキストエンジニアリングなどを組み合わせます。これらの多くは、特定の職種、職務、またはタスクの種類に合わせて調整することでより良いパフォーマンスを発揮します。 さらに、企業で本格的な導入を得るには、ワークフローの変更と導入を促進するために、システム統合と変更管理の高度な取り組みが必要です。だからこそ、特定の機会に特化した企業(あるいは少なくとも製品)が、これらのワークフローを実際に動かす必要があることが多いのです。 これからの一年にはたくさんのチャンスがあります。

こうしたことは、仕事の未来を考えるときに見落とされがちなものです。 比較的需要が高い(ただしコストが高いため希少なもの)を作れて、その生産量を増やせば、需要は下がらず増加します。 AIエージェントが存在する以前はROIがなかった問題でエンジニアを雇う企業の例を数多く見てきました。 経済にはソフトウェア対応すべき仕事が多くありますが、プロジェクトが1〜2年かかりそうな場合、ソフトウェアを始める壁は乗り越えられないように感じます。AIが1〜2ヶ月かかると、計算がすべて変わります。 医療、法律、マーケティングの一部、その他多くの知識関連の分野でも同様です。