Atlas 추론 엔진의 Agentforce지원 방식

AI, 특히 생성형 AI의 세계에서 혁신은 놀라운 속도로 계속되고 있습니다. 현재 이용할 수 있는 기술적 정교함을 통해 산업은 보조적인 대화형 자동화에서 워크포스를 보강하는 역할 기반 자동화로 빠르게 진화하고 있습니다. 인공 지능(AI)이 인간 수준의 성능을 모방하기 위해서는 인간이 일을 가장 효과적으로 완수할 수 있는 요소인 에이전시를 이해하는 것이 매우 중요합니다. 인간은 데이터를 받아들이고, 가능한 경로를 추론하고, 작업을 취할 수 있습니다. 이러한 종류의 에이전시를 AI에 장착하려면 매우 높은 수준의 지능과 의사 결정이 필요합니다.

Salesforce에서는 대규모 언어 모델(LLM)과 추론 기술의 최신 발전을 활용하여 Agentforce를 출시했습니다. Agentforce는 전문화된 업무를 실행하도록 설계된 자율적이고 선제적인 애플리케이션인 즉시 사용 가능한 AI 에이전트와 이를 구축 및 사용자 지정할 수 있는 도구 세트로 구성되어 있습니다. 이러한 자율 AI 에이전트는 고도로 정교함으로 사고하고, 추론하고, 계획하고, 조율할 수 있습니다. Agentforce는 고객 서비스, 세일즈, 마케팅, 커머스 등을 위한 AI 자동화의 비약적인 도약을 상징합니다.

이 문서에서는 Salesforce AI Research 에서 인큐베이팅한 Agentforce 의 두뇌이자 지능적이고 자율적으로 작업을 조율하여 기업에 엔터프라이즈급 에이전틱 솔루션을 제공하는 Atlas 추론 엔진에서 그 정점에 달한 혁신에 대해 조명합니다.

올해 초에는 Agentforce Assistant을 출시했는데, 현재는 고객 관계 관리(CRM)를 위한 Agentforce 에이전트로 진화했습니다. Agentforce Assistant은 사고의 사슬 (CoT)이라는 메커니즘으로부터 지능을 도출하는 생성형 AI 기반 대화형 어시스턴트입니다. 이 메커니즘에서 AI 시스템은 목표를 달성하기 위한 일련의 단계가 포함된 계획을 생성함으로써 인간 스타일의 의사 결정을 모방합니다.

CoT 기반 추론을 사용을 통해 Agentforce Assistant은 업무 플로우에서 공동 생성 및 공동 작업을 할 수 있습니다. 덕분에 기존 봇에 비해 상당히 발전했지만 인간 같은 지능을 모방하기에는 부족했습니다. 업무에 대응하는 일련의 작업이 포함된 계획을 생성한 다음, 해당 작업을 하나씩 실행했습니다. 하지만 계획이 잘못된 경우, 사용자에게 리디렉션을 요청할 수 있는 방법이 없었습니다. 이는 적응성이 떨어지는 AI 환경으로 이어졌습니다. 대화가 진행됨에 따라 사용자는 새롭고 유용한 정보를 제공하지 못했습니다.

자체 세일즈 조직(Org 62)의 판매자 수천 명을 대상으로 Agentforce Assistant을 엄격하게 테스트한 결과 몇 가지 패턴이 나타났습니다.

• 예상대로 코파일럿의 자연어 대화형 경험은 기존 봇보다 훨씬 뛰어났지만 아직 인간 같은 성배를 달성하지는 못했습니다. 더 많은 대화형 기능이 필요했습니다.
• Copilot은 설정된 작업을 통해 사용자 목표를 훌륭하게 달성했지만 대화에 이미 존재하는 정보에 대한 후속 문의는 처리하지 못했습니다. 더 많은 사용자 쿼리에 응답하기 위해 컨텍스트를 더 잘 활용해야 했습니다.
• 더 많은 사용 사례를 자동화하기 위해 더 많은 작업을 추가함에 따라 지연 시간(응답에 걸리는 시간)과 응답 품질 측면에서 코파일럿의 성능이 저하되기 시작했습니다. 코파일럿을 활용할 수 있는 수천 개의 사용 사례와 애플리케이션으로 효과적으로 확장해야 했습니다.

저희는 이러한 문제에 대한 해결책을 찾기 시작했고 그 결과 Agentforce가 탄생하게 되었습니다.

Agentforce는 인간 개입이 거의 또는 전혀 없이도 대규모로 선제적이고 지능적인 결정을 내릴 수 있는 산업 최초의 엔터프라이즈급 대화형 자동화 솔루션입니다. 몇 가지 발전이 이를 가능하게 합니다.

• ReAct prompting vs. CoT에 따라 조율. 광범위한 실험과 테스트를 통해 추론 및 행동 (ReAct) 스타일 프롬프트가 CoT 기법에 비해 훨씬 더 나은 결과를 가져온다는 사실이 밝혀졌습니다. ReAct 메커니즘에서 시스템은 사용자 목표가 달성될 때까지 추론, 행동, 관찰의 루프를 거칩니다. 이러한 종류의 루프 접근 방식은 시스템이 새로운 정보를 고려하고 명확한 질문이나 확인을 요청하게 하여 사용자의 목표가 최대한 정확하게 달성되도록 합니다. 또한 훨씬 더 유동적이고 자연스러운 언어 같은 대화형 경험으로 이어집니다.
• 토픽 분류. 토픽이라는 새로운 개념을 도입하여 사용자 의도 또는 수행해야 할 일에 매핑합니다. 사용자 입력이 들어오면 해당 요청을 처리하기 위해 관련 명령, 비즈니스 정책 및 작업이 포함된 토픽에 매핑됩니다. 이 메커니즘은 업무의 범위 및 LLM의 해당 솔루션 공간을 정의하여 시스템을 손쉽게 확장하도록 도와줍니다. 토픽에 임베드된 자연어 명령은 LLM에 대한 추가 지침과 가드레일을 제공합니다. 따라서 특정 순서대로 실행해야 하는 작업이 필요한 경우, 자연어 토픽 명령이 될 수 있습니다. "최대 30일 무료 반품"과 같은 비즈니스 정책이 있는 경우, 이를 명령으로 지정하여 LLM에 전달하면 이를 고려하여 그에 따라 사용자 상호 작용을 알릴 수 있습니다. 이러한 개념을 통해 에이전트는 수천 개의 작업으로 안전하고 확실하게 확장할 수 있습니다.
• 응답에 LLM을 사용합니다. 이전에는 시스템이 작업 출력으로만 응답하도록 제한했기 때문에 대화에서 이용할 수 있는 정보를 기반으로 응답하는 데 심각한 제약이 있었습니다. 대화 기록의 컨텍스트를 사용하여 LLM이 응답하도록 시스템을 개방함으로써 훨씬 더 풍부한 대화형 경험을 제공할 수 있게 되었습니다. 이제 사용자는 이전 출력에 대한 설명을 요청하고 후속 질문을 하여 전반적인 목표 달성률을 높일 수 있습니다.
• 사고/추론. LLM에게 사고를 공유하거나 특정 작업을 선택한 이유를 제시하도록 유도하면 환각을 크게 예방할 수 있습니다. 이는 LLM의 행동에 대한 가시성을 제공한다는 추가적인 장점이 있어서 관리자와 개발자가 요구 사항에 따라 에이전트를 정밀 조정할 수 있습니다. 추론은 기본적으로 에이전트 빌더 캔버스에서 이용할 수 있으며, 사용자가 에이전트에게 후속 질문을 유도하여 추론을 설명할 수 있도록 할 수도 있습니다. 이는 환각을 방지할 뿐만 아니라 신뢰를 구축하는 데 도움이 됩니다.

Atlas 추론 엔진 외에도 Agentforce는 차별화되는 몇 가지 주목할 만한 특징이 있습니다.

• 선제적 작업. 사용자 입력은 에이전트를 트리거할 수 있는 한 방법입니다. 하지만 Agentforce 에이전트는 CRM 또는 비즈니스 프로세스 및 규칙(예: 사례 상태 업데이트, 브랜드에서 받은 이메일, 5분 후에 시작되는 회의)에 대한 데이터 운영에 의해서도 트리거될 수 있습니다. 이러한 메커니즘은 에이전트에게 다양하고 동적인 비즈니스 환경에서 유용하고 배포 가능하게 하는 수준의 선제성을 제공하여 프런트 오피스와 백 오피스로 해당 유틸리티를 확장합니다.
• 동적 정보 검색. 대부분의 비즈니스 사용 사례는 정보를 검색하거나 작업을 취하는 것과 관련이 있습니다. 에이전트에게 정적 정보를 제공하는 가장 일반적인 메커니즘 중 하나는 그라운딩을 이용하는 것입니다. 하지만 에이전트가 동적 정보를 활용할 수 있는 능력은 방대한 사용 사례와 애플리케이션의 잠재력을 열어줍니다.
  
  Agentforce는 동적 정보를 활용할 수 있는 여러 메커니즘을 지원합니다. 첫 번째는 검색 증강 생성 또는 RAG입니다. RAG를 통해 Data Cloud의 정형 및 비정형 데이터에서 시맨틱 검색을 사용함으로써 에이전트는 외부 데이터 소스 및 데이터베이스로부터 모든 관련 정보를 검색할 수 있습니다.
  
  둘째, 웹 검색 및 지식 Q&A와 같은 일반적인 정보 검색 도구를 도입하여 복잡한 업무를 처리할 수 있는 에이전트의 능력을 강화했습니다. 웹 검색을 사용하여 온라인에서 기업이나 제품을 조사하고 이를 기업의 규칙 및 정책에 대한 내부 지식과 결합한 다음, 연락처에 이메일 요약 형태로 작업을 취한다고 상상해 보세요. 여러 소스로부터 데이터를 결합하면 에이전트가 훨씬 더 효과적이고 효율적으로 비즈니스 업무를 처리할 수 있습니다.
  
  마지막으로 에이전트는 Flow, API 및 Apex 클래스에 배포할 수 있습니다. 이렇게 하면 워크플로우의 모든 컨텍스트 정보와 다양한 시나리오에 대한 정보를 에이전트에게 전달할 수 있으므로 사용자 지정 솔루션을 구축하고 각 시나리오를 개별적으로 처리할 필요가 없습니다. 에이전트가 동적 정보를 활용하게 해주는 이러한 모든 메커니즘을 통해 에이전트는 환경을 더 잘 이해할 수 있으며, 이를 통해 상호 작용성이 여러 배로 향상됩니다.
• 에이전트에게 전달합니다. AI는 비결정적이며 환각을 일으킬 수 있습니다. 그렇기 때문에 저희는 유해성 탐지, 제로 데이터 리텐션 계약, 프롬프트 주입 방어, 기타 여러 메커니즘을 제공하기 위해 견고한 Einstein 트러스트 레이어를 개척했습니다. LLM의 이탈과 환각을 방지하기 위해 시스템 프롬프트에 규칙을 만들었습니다. 하지만 이러한 모든 메커니즘에도 불구하고 LLM은 여전히 100% 정확하지 않습니다. 오류에 대한 내성이 0인 매우 중요한 비즈니스 시나리오에서는 인간에게 원활하게 전달하는 것이 매우 중요하며, Agentforce가 기본적으로 지원하는 것입니다. Agentforce는 "인간 에이전트에게 전달"을 또 다른 작업으로 취급하여 원하는 비즈니스 시나리오에서 대화를 안전하고 원활하게 인간에게 전달되도록 합니다.

아직 초기 단계에 있지만 Agentforce는 고객을 위한 게임 체인저입니다. Wiley와 Saks Fifth Avenue와 같은 고객은 Agentforce 서비스 에이전트를 통해 비즈니스 KPI에서 기하급수적인 효과를 보고 있습니다. Salesforce Research와 산업에서 혁신과 기술 발전의 수레바퀴가 빠르게 돌아가고 있는 가운데, 계속해서 빠른 속도로 나아감으로써 다양한 혁신을 활용해서 에이전트를 훨씬 더 강력하고 지능적으로 만듭니다. 가까운 미래에 고객이 기대할 수 있는 몇 가지 발전 사항은 다음과 같습니다.

• 에이전트를 위한 테스트 및 평가 프레임워크. Agentforce와 같은 복잡한 에이전틱 시스템을 엔터프라이즈에 도입하려면 엄청난 양의 테스트와 검증이 필요합니다. 따라서 작업 결과, 입력, 출력, 계획 정확성, 토픽 분류 및 플래너 상태를 테스트하기 위한 강력한 평가 프레임워크를 개발했습니다. 저희는 이 프레임워크를 사용하여 정확성, 지연 시간, 서비스 비용, 신뢰도 등의 지표를 기준으로 에이전트를 최적화하고 있습니다. 수학, 과학, 일반 지식 숙련도와 같은 업무에 대한 LLM의 성과를 평가하는 데 주로 초점을 맞추는 대부분의 일반적으로 이용할 수 있는 프레임워크 및 벤치마크와 달리, 저희의 평가 프레임워크는 CRM 비즈니스 사용 사례에 특별히 맞춰져 있습니다. 또한 세계 최초의 LLM 벤치마크 를 발표했으며, 현재 고객과 파트너가 에이전트를 위한 평가 프레임워크를 이용할 수 있도록 노력하고 있습니다.
• 다중 의도 지원. 이는 인간 같은 대화 메커니즘을 재현하는 데 있어 핵심 초석입니다. 꽤 많은 일상적인 표현은 여러 관련 없는 목표(예: "주문 업데이트 및 M 사이즈 셔츠 찾기", "사례 상태 업데이트 및 고객에게 문제 해결 단계 요약 이메일 보내기", "항공편 및 호텔 예약")로 구성됩니다. LLM의 자연어 이해 기능, 대규모 컨텍스트 창 지원, 토픽과 같은 혁신적인 개념을 결합하여 고객을 위해 신뢰할 수 있고 확장 가능하며 안전한 솔루션을 생성하는 실험을 계속하고 있습니다.
• 멀티모달 지원. 대부분의 디지털 상호 작용은 텍스트 기반이지만 음성 및 시각 기반 상호 작용은 가장 자연스러운 인간 상호 작용 방식이기 때문에 경험의 풍부함을 몇 배로 높여줍니다. 실제로 멀티모달 입력의 동시 처리, 빠른 응답 시간, 대규모 컨텍스트 창, 정교한 추론 기능 등의 발전을 통해 멀티모달 AI 시장은 2031년까지 약 36%% 성장 할 것으로 예상됩니다. 멀티모달리티 지원의 이점을 바로 누릴 수 있는 몇 가지 엔터프라이즈 사용 사례가 있습니다.
  • 음성 사용 사례. 인터랙티브 음성 응답(IVR)을 생성형 AI 기반 음성 지원, 직원 코칭, 훈련 및 온보딩으로 대체.
  • 비전 사용 사례. 제품 검색 및 비교, 사용자 인터페이스(웹, 모바일) 탐색, 문제 해결, 현장 서비스를 위한 문제 해결.
• 멀티 에이전트 지원. 에이전트 간 상호 작용은 우리 시대의 가장 혁신적인 비즈니스 발전 중 하나입니다. 정보를 동시에 검색, 컴파일, 처리할 수 있기 때문에 멀티 에이전트 시스템은 현재 인간 대 인간 핸드 오프로 인해 현재 순차적으로 진행되는 길고 복잡한 워크플로우의 처리 시간을 기하급수적으로 단축할 수 있습니다. 디지털 에이전트를 이러한 워크플로우에 삽입하여 반복 가능한 데이터 처리 업무를 수행할 수 있으며, 이러한 프로세스에 참여하는 인간의 효율성을 높일 수도 있습니다.
  
  이미 세일즈 프로세스에 이러한 멀티 에이전틱 패러다임을 도입하여 에이전트가 파이프라인을 육성하는 세일즈 개발 담당자 또는 세일즈 담당자에게 최상의 거래 협상 방법에 대해 조언하는 세일즈 코치의 역할을 할 수 있습니다. 전문 에이전트는 리드 자격 검증, 제안 준비, 판매 후 후속 조치와 같은 세일즈 프로세스의 다른 측면도 처리할 수 있습니다. 같은 맥락에서 서비스 워크플로우는 문제를 해결하고, 후속 조치를 취하고, 티켓을 배정하는 에이전트와 고객 문의에 응답하고 인간 담당자를 돕는 에이전트로 구성될 수 있습니다.

Agentforce는 예측 AI와 코파일럿에 이은 세 번째 AI의 물결을 상징합니다. Agentforce를 사용하여 고객은 대화형 프롬프트에 응답하여 작업을 취하는 것뿐만 아니라 최소한의 도움으로 예측, 계획 및 추론하는 에이전트를 구축할 수 있습니다. 에이전트는 인간 개입 없이도 전체 워크플로우 또는 프로세스를 자동화하고, 결정을 내리고, 새로운 정보에 적응할 수 있습니다. 동시에 이러한 에이전트는 인간 직원에게 원활한 업무 인계를 보장하여 모든 비즈니스 라인에서 협업을 촉진할 수 있습니다. Atlas 추론 엔진으로 구동되는 이러한 에이전트는 클릭 몇 번으로 배포하여 모든 비즈니스 직무 또는 팀을 보강하고 혁신할 수 있습니다.