信頼性の高いAIエージェントを実現するための実践ガイド

ビジネスリーダーがLLMの信頼性に懸念を抱くのには、もっともな理由があります。 多くのAIモデルは過剰な創造性を発揮する傾向があり、重要なビジネスタスクには適しません。 これらのAIモデルは手順を省略してルールを無視し、事実のハルシネーションを起こします。 こうした信頼性の欠如が、企業のAI投資拡張を阻む要因となっています。 これを裏付ける調査結果も出ています。 たとえばGartnerは、企業が2027年までにエージェント型AIプロジェクトの40%を中止すると予測しており 、信頼性を最大の障壁として挙げています。 一方で、Anthropicの最新の経済指数 でも、タスクが複雑になればなるほど、AIの成功率が低下することが浮き彫りになりました。

LLM単体では、AIエージェントを動かす信頼できるエンジンにはなりえません。 LLMは、一見すると専門性に長けた信頼できる回答を生成します。しかし、ワークフローが複雑な場合や、重要な局面において、予測不能な結果を生成することも少なくありません 。 実際に、私たちが自社で最初のエージェントを導入した際にも、このような課題に直面しました。 詳細なプロンプトを用意しても、AIエージェントが意図どおりに動くとは限りませんでした。

AgentforceのプロダクトディレクターであるAron Kaleが指摘する ように、こうした信頼性やコントロールの欠如により、企業のワークフローにおけるAIエージェントの使用範囲が、シンプルなFAQ対応や重要度の低い業務といった「プールの浅瀬」の領域に制限されてしまうことが多々あります。

そこで私たちはプラットフォームを変革し、AIエージェントの動作を完全に制御できる環境を構築しました。 AAgentforce Scriptt とハイブリッド推論機能 を導入したことで、AIエージェントが確率的な出力と決定論的な出力を適切に組み合わせられるようになりました。

プロンプトを調整し、「まずはこれをやって、必ずこれをして、これは絶対にやらないで」といった形式の指示にAIエージェントが従うよう期待する必要はもうありません。これからは、AIエージェントを常時、的確に動かすことができるスクリプトをこのようなルールに組み込むことができます。 ユーザーは、AIに対する決定論的な制御レベルを容易に調整できます。

本ガイドでは、LLMの創造性と企業に必要な予測可能性を併せ持つ、パワフルで信頼性の高いAIエージェントを構築するにあたり、ハイブリッド推論が私たちの思考にどのような変化をもたらすのかを解説します。