안정적으로 작동하는 AI 에이전트를 위한 실용 가이드

비즈니스 리더들이 LLM을 신뢰하지 못하는 데에는 그만한 이유가 있습니다. 대부분의 AI 모델은 리스크가 큰 비즈니스 업무에 적용하기에는 지나치게 창의적입니다. 이러한 모델은 단계를 건너뛰고 규칙을 무시하며, 사실과 다른 내용을 만들어냅니다. 이러한 신뢰성 부족은 기업이 AI 투자를 확대하는 데 걸림돌이 됩니다. 연구 결과가 이를 뒷받침합니다. Gartner는 기업들이 2027년까지 에이전트 기반 AI 프로젝트의 40%를 취소할 것으로 예측하며 , 신뢰성 문제를 가장 큰 장애 요인으로 꼽았습니다. 한편, Anthropic의 최신 경제 지수 는 작업 복잡성이 높아질수록 AI 성공률이 떨어진다는 점을 보여줍니다.

LLM 단독으로는 에이전트를 안정적으로 구동하는 엔진이 될 수 없습니다. 자신감 있고 전문적인 인상을 주는 데 탁월하지만, 복잡하거나 중요한 워크플로에서는 종종 예측할 수 없는 결과를 만들어냅니다 . 우리는 자체적인 첫 에이전트 배포 과정에서 이 문제를 확인했습니다. 상세한 프롬프트를 사용하더라도 에이전트는 항상 의도한 대로 동작하지는 않았습니다.

Agentforce 제품 디렉터 Aron Kale이 지적하듯 , 이러한 신뢰와 제어력 부족은 엔터프라이즈 워크플로를 “수영장의 얕은 쪽”에 머물게 하여 단순한 FAQ와 리스크가 낮은 업무로 제한하는 경우가 많습니다.

그래서 우리는 에이전트의 동작 방식을 완전히 제어할 수 있도록 플랫폼을 혁신했습니다. 우리는 Agentforce Script 와 하이브리드 추론 을 도입해 에이전트가 확률적 결과와 결정론적 결과를 적절히 조합할 수 있도록 했습니다.

프롬프트를 조정하고 에이전트가 “먼저, 항상, 절대”와 같은 형식의 지침을 따르기를 바라는 대신, 이제 이러한 규칙을 매번 정확히 적용하는 스크립트에 직접 넣을 수 있습니다. 사용자는 에이전트의 결정론적 제어 수준을 쉽게 높이거나 낮출 수 있습니다.

이 가이드에서는 하이브리드 추론이 LLM의 창의성과 엔터프라이즈에 필요한 예측 가능성을 결합한 강력하고 신뢰할 수 있는 에이전트 구축 방식을 어떻게 바꾸는지 알아봅니다.