비즈니스 및 애플리케이션 개발을 위한 AI 에이전트

에이전트는 보조적이고 자율적인 소프트웨어 시스템입니다. 사용자 입력 또는 환경 조건에 따라 주어진 업무나 목표를 달성하기 위해 추론하고 계획하고 작업을 취합니다. 인간 전문가의 지식과 경험이 집약된 지능형 디지털 어시스턴트와 같으며, 모든 관련 데이터에 액세스할 수 있습니다.

에이전트는 우리 삶의 모든 영역에서 보편화될 것이며, 비즈니스 운영 및 고객과의 상호 작용 방식에 큰 변화를 가져올 것입니다. 예를 들어, 서비스 에이전트는 회사의 가장 지식이 풍부한 기술 지원 담당자 역할을 수행하며, 모든 요청을 연중무휴 24시간 처리할 수 있습니다. 마케팅 에이전트는 자율주행 자동차처럼 "센서"(실시간 데이터)를 사용하여 변화하는 비즈니스 상황을 탐지하고 선제적으로 대응(가격 조정, 캠페인 출시 등)할 수 있습니다.

이 문서에서는 에이전트의 출현을 주도하는 AI 혁신에 대해 살펴보고, 에이전트가 비즈니스뿐만 아니라 소프트웨어 및 소프트웨어 개발을 어떻게 변화시키고 있는지 살펴봅니다.

AI 에이전트는 대규모 언어 모델 (LLM)의 등장으로 가능해졌습니다. LLM은 매우 효과적인 에이전트를 구현하는 데 필요한 두 가지 필수 기능을 제공합니다:

• 심도 있는 언어 이해: LLM은 복잡하고 미묘한 언어를 이해하는 데 능숙합니다. 이는 챗봇형 에이전트가 사용자 요청을 심층적으로 이해하고 자연어를 사용하여 응답을 구성하도록 하는 중요한 기능입니다.
• 추론 및 의사 결정: LLM은 추론과 결정도 할 수 있습니다. 이를 통해 에이전트는 계획을 수립하고 당면한 문제를 해결하는 데 필요한 단계를 조율할 수 있습니다.

하지만 LLM만으로는 에이전트를 구현하기에 충분하지 않습니다. 여기에는 다음과 같은 여러 제한 사항이 있습니다.

• 개인 데이터에 대한 액세스 권한 부족: LLM은 훈련을 받지 않은 개인 데이터에 액세스할 수 없습니다. 예를 들어, 현재까지 진행 중인 판매 기회, 진행 중인 지원 티켓 또는 캠페인 결과의 목록을 반환할 수 없습니다.
• 작업을 취할 수 있는 내장된 기능 없음: 예를 들어, 지원 티켓을 열거나, 주문의 배송 주소를 변경하거나, 기회 레코드를 업데이트하거나, 제품 가격을 변경할 수 없습니다.

에이전트는 LLM의 강력한 언어 및 추론 능력과 비즈니스 사용 사례(예: 개인 데이터 액세스, 작업 실행)의 실질적인 요구 사이의 격차를 해소하여 새로운 소프트웨어 패러다임의 기반을 마련합니다.

이 새로운 패러다임을 통해 소프트웨어는 더 이상 완전한 애플리케이션이 아니라 특정 기능을 캡슐화하고 에이전트가 LLM의 추론 기능을 사용하여 조율할 수 있는 세분화된 빌딩 블록의 모음으로 구축됩니다. Salesforce에서는 이러한 빌딩 블록을 작업(예: "주문 위치 지정" 및 "주문 주소 변경")이라고 하며, 이는 토픽(예: "Order Management")이라는 기능 영역으로 구성됩니다.

즉, 에이전트는 LLM의 언어와 추론 능력을 사용하여 특정 도메인 내에서 일련의 작업을 오케스트레이션하는 소프트웨어 시스템입니다. 상위 수준에서 에이전트는 다음과 같이 작동합니다.

1. 업무 이해: 에이전트는 LLM의 언어 기능을 사용하여 당면한 업무를 깊이 있게 이해합니다.
2. 반복적으로 계획 및 실행: 에이전트는 업무에 대한 이해를 기반으로 가능한 작업을 추론하고 다음에 수행할 작업을 식별합니다. 여기에는 작업을 실행하거나 명확한 질문을 하는 것이 포함될 수 있습니다. 그러고 나서 에이전트는 이전 단계의 결과를 추론하고 다음에 수행할 업무를 다시 식별합니다. 에이전트는 원래 업무를 해결했다고 만족할 때까지 이 반복 프로세스를 반복합니다.
3. 응답 제공: 에이전트가 입력에 대한 응답을 생성합니다.

이 새로운 소프트웨어 패러다임의 가장 혁신적인 측면은 에이전트가 사전 정의된 요구 사항 없이 예상치 못한 요청을 처리할 수 있다는 점입니다. 수십, 수백 가지의 작업을 갖춘 에이전트를 상상해 보세요. 예상치 못한 방식을 포함해 거의 무한한 방식으로 구성할 수 있어 새로운 문제를 즉석에서 해결할 수 있습니다. 이것은 애플리케이션 구성의 궁극적인 형태입니다.

예를 들어, Salesforce에서는 산업을 선도하는 애플리케이션(예: Sales Cloud, Service Cloud, Marketing Cloud, Commerce Cloud, Industries)은 세분화된 작업으로 분류되어 다양한 토픽에 걸쳐 풍부한 기능을 갖춘 Salesforce의 Agentforce 에이전트를 즉시 활성화할 수 있습니다. Agentforce 에이전트는 다양한 방식으로 이러한 작업을 구성하고 조율하여 비즈니스 전반에 걸쳐 사용자에게 원활하고 통합된 경험을 제공할 수 있습니다. 또한 개발자는 코드, API, Salesforce 플로우 또는 프롬프트 템플릿을 기반으로 하는 사용자 지정 작업으로 표준 Agentforce 에이전트의 기능을 확장할 수 있습니다. 마지막으로 Order Management에 에이전트롤 배치하고 팀원과 채팅하는 것처럼 에이전트와 채팅할 수 있습니다.

작업은 에이전트에게 다음과 같은 필수 기능을 지원합니다.

1. 비공개 회사 데이터에 대한 액세스: 작업은 에이전트에게 고객 및 기업 데이터에 대한 액세스 권한을 제공합니다. 에이전트에게 데이터에 대한 액세스 권한을 부여할 때는 에이전트가 권한이 없는 사용자에게 데이터를 공개하지 않도록 하는 것이 중요합니다. Agentforce 에이전트를 사용하면 데이터에 대한 액세스는 권한 및 공유 모델에 따라 관리됩니다. 기존 애플리케이션이나 에이전트 등 데이터 액세스 위치에 관계없이 동일한 권한 및 공유 모델이 적용됩니다.
2. 작업을 취할 수 있는 능력: 작업을 통해 에이전트는 로직을 실행하고 외부 시스템과 통합할 수 있습니다. 표준 Agentforce 작업에는 세일즈, 서비스, 마케팅, 커머스 및 산업에 대해 행동할 수 있는 기능이 내장되어 있습니다. 또한 개발자는 코드, API, 플로우 및 프롬프트 템플릿을 사용하여 Salesforce 또는 외부 시스템에서 작동할 수 있는 사용자 지정 작업을 구축할 수 있습니다.

에이전트는 다양한 수준의 자율성을 가질 수 있습니다. 예:

• 보조 에이전트(코파일럿이라고도 함)는 인간과 협력하여 혼자 행동할 때보다 가능을 강화합니다. 코파일럿은 종종 제안 사항이나 작업을 구체화하기 위해 사람 입력과 피드백을 필요로 합니다.
• 자율 에이전트는 직접적인 인간 감독 없이 독립적으로 작동합니다. 다른 자율 에이전트와 달리 Agentforce 에이전트는 필요에 따라 인간에게 업무를 원활하게 넘겨줄 수 있는 기능이 있습니다.

에이전트의 자율성 수준에 관계없이 신뢰성, 비즈니스 관행 준수, 데이터 보안 및 프라이버시를 보장하고 환각, 유해성 및 유해 콘텐츠를 방지하기 위해서는 적절한 보호 장치를 마련하는 것이 중요합니다.

Agentforce 에이전트는 다층적 접근 방식을 사용하여 가드레일을 실시합니다.

• Einstein 트러스트 레이어: Einstein 트러스트 레이어을 통해 에이전트는 기업 데이터를 손상시키지 않고 신뢰할 수 있는 방식으로 LLM을 사용할 수 있습니다. 보안 게이트웨이, 데이터 마스킹, 유해성 탐지, 감사 추적 등을 사용하여 LLM 상호 작용을 제어합니다.
• 명령: Agentforce 에이전트를 정의할 때 자연어를 사용하여 해야 할 일과 피해야 할 일을 포함하여 명확한 명령을 제공하여 에이전트의 행동에 대한 가드레일을 효과적으로 설정할 수 있습니다.
• 공유돤 메타데이터: Salesforce 메타데이터는 기존 애플리케이션에서 데이터에 액세스하는지 또는 에이전트에서 액세스하는지에 관계없이 적용되는 중요한 규칙을 정의합니다. 여기에는 데이터 보안과 비즈니스 관행 준수를 보장하기 위한 권한, 공유 모델, 유효성 검사 규칙, 워크플로우 자동화가 포함됩니다.
• 에이전트 애널리틱스: 이 관찰 가능성 도구는 에이전트 및 작업 성능, 사용성 및 신뢰성에 대한 인사이트를 제공하여 개선이 필요한 영역을 파악하도록 합니다.
• AI 테스트 센터: 통합 테스트 프레임워크인 AI 테스트 센터는 에이전트, 프롬프트 템플릿, 검색 증강 생성(RAG) 및 모델 사용 사례에 대한 일괄 테스트를 지원합니다.

Salesforce는 최근 세일즈 및 서비스를 위한 에이전트를 발표했습니다.

• Agentforce Service Agent는 사전 프로그래밍된 시나리오 없이도 광범위한 서비스 문제를 이해하고 조치를 취할 수 있는 기능으로 고객 서비스를 혁신하여 고객 서비스를 훨씬 더 효율적으로 만들 수 있습니다.
• Agentforce SDR 에이전트는 자율적으로 인바운드 리드와 자연어로 소통하여 질문에 답변하고, 이의 제기를 처리하고, 인간 판매자를 위해 회의를 예약합니다.
• Agentforce 세일즈 코치 에이전트는 판매자와 자율적으로 역할극에 참여하여 디스커버리, 피치 또는 협상 통화 중에 구매자를 시뮬레이션합니다.

이러한 에이전트를 바로 사용할 수도 있지만 Agentforce에서 사용자 지정하고, 확장하고, 자신만의 에이전트를 생성할 수도 있습니다.

Salesforce Agentforce는 인간을 AI, 데이터, 작업을 기반으로 하는 자율 에이전트와 연결합니다. 신뢰할 수 있는 에이전트 및 기타 혁신적인 AI 애플리케이션을 생성, 사용자 지정 및 배포하는 데 필요한 기능과 도구를 제공하며, 적절한 가드레일과 감독을 갖추고 있습니다. 핵심 구성 요소를 더 자세히 살펴보겠습니다.

AI의 잠재력에 관해서는 비즈니스 및 AI 분야의 전문가가 생각이 풍부하고 영감을 주며 희망적입니다. LinkedIn의 Ask More of AI 뉴스레터 를 구독하여 최신 AI 소식을 항상 살펴보세요.

Salesforce 메타데이터는 기존 애플리케이션에서 데이터에 액세스하든 에이전트에 액세스하든 관계없이 적용되는 범용 규칙을 설정합니다. 여기에는 데이터 보안과 비즈니스 관행 준수를 보장하는 권한, 공유 모델, 유효성 검사 규칙, 워크플로우 자동화가 포함됩니다. 또한 메타데이터를 통해 LLM은 데이터의 컨텍스트와 의미를 더 잘 이해할 수 있어 보다 정확한 응답을 이끌어낼 수 있습니다. 예를 들어, LLM은 메타데이터를 사용하여 사용자에게 더 유용하고 실행 가능한 방식(애드혹 UI)으로 CRM 데이터를 표시할 수 있습니다.

훌륭한 AI를 얻으려면 고품질의 통합 데이터가 필요합니다. Salesforce Data Cloud는 Salesforce와 외부, 정형 및 비정형 등 모든 데이터를 모아서 통합하여 고품질의 관련성 있고 실행 가능한 정보로 AI의 기반을 마련합니다. 200개 이상의 사용 가능한 커넥터와 사용자 지정 커넥터를 쉽게 생성할 수 있는 능력을 갖춘 Data Cloud는 탁월한 연결성을 제공합니다.

데이터가 연결되고, 통합되고, 조화를 이루면 Data Cloud를 통해 AI 에이전트 플랫폼, 분석 및 기타 애플리케이션에서 데이터를 대규모로 활성화하여 가치 있는 인사이트와 개인화된 경험을 제공할 수 있습니다. 사일로화된 데이터로 인해 제한받는 사일로화된 경험의 시대는 끝났습니다. 직원이든 고객이든 사용자는, 모든 관련 데이터를 통합하고 이해할 수 있는 연결된 경험을 기대합니다.

Agentforce는 모델을 쉽게 플러그인하고 구성할 수 있는 구성 가능한 모델 아키텍처를 제공합니다. 호스팅된 파운데이션 모델은 종종 AI 혁신으로 가는 가장 빠른 경로를 제공하지만, 자체 데이터를 통해 구축된 정밀 조정된 모델이나 자체 모델을 사용할 수도 있습니다.

Agentforce 서비스 에이전트를 사용하면 기업 데이터를 손상시키지 않고 기존 모델을 신뢰할 수 있는 방식으로 사용할 수 있습니다. 작동 방식은 다음과 같습니다.

1. 보안 게이트웨이: Agentforce는 보안 게이트웨이를 통해 모델에 액세스하면 여러 모델 제공업체에서 일관되게 보안 및 개인정보보호 정책을 적용합니다.
2. 데이터 마스킹 및 규정 준수: 요청을 모델 제공업체에 보내기 전에 데이터 마스킹을 포함한 여러 단계를 거치게 되는데, 데이터 마스킹은 개인 식별 정보(PII) 데이터를 익명화된 데이터로 대체하여 데이터 프라이버시 및 규정 준수를 보장합니다.
3. 제로 리텐션: 데이터를 더욱 보호하기 위해 Salesforce는 모델 공급업체와 제로 리텐션 계약을 체결하여 공급업체가 Salesforce에서 보낸 데이터로 모델을 지속하거나 더 이상 훈련시키지 않습니다.
4. 마스킹 해제, 유해성 탐지, 감사 내역: 모델에서 출력이 수신되면 마스킹 해재, 유해성 탐지 및 감사 내역 로깅을 포함한 일련의 단계를 거칩니다. 마스킹 해제는 개인정보보호를 위해 가짜 데이터로 대체된 실제 데이터를 복원하는 작업입니다. 유해성 탐지는 출력에 유해하거나 불쾌감을 주는 콘텐츠가 있는지 확인합니다. 감사 내역 로깅은 감사 목적으로 전체 프로세스를 기록합니다.

작업은 에이전트에게 로직을 실행하고 외부 시스템과 통합할 수 있는 기능을 제공합니다. 표준 Agentforce 작업은 세일즈, 서비스, 마케팅, 커머스 및 산업에 적용될 수 있습니다. 또한 개발자는 사용자 지정 코드, API, 플로우 및 프롬프트 템플릿을 사용하여 Salesforce 또는 외부 시스템에서 작동할 수 있는 사용자 지정 작업을 구축할 수 있습니다.

토픽은 에이전트가 이해, 처리 또는 응답하도록 설계된 특정 초점 영역을 나타내는 작업의 논리적 그룹화입니다. 예를 들면, 주문 관리, 보증, 가격, FAQ 등이 있습니다.

Agentforce 에이전트는 사용자 또는 환경 입력을 분석하고, 업무를 식별하고, 솔루션을 통해 추론하고, 업무를 완료하기 위한 작업을 조율할 수 있는 자율적인 소프트웨어 시스템입니다. 에이전트는 다양한 수준의 자율성을 가집니다. 보조(부분 자율) 에이전트는 인간과 협업하여 당면한 업무를 수행합니다. 자율 에이전트는 직접적인 인간 감독 없이도 독립적으로 작동하지만 이 문서의 앞부분에서 설명한 강력한 가드레일을 갖추고 있으며, 필요에 따라 인간에게 업무를 넘길 수 있는 기능을 갖추고 있습니다.

Agentforce는 에이전트 및 기타 AI 애플리케이션을 구축할 수 있는 다양한 로우 코드 도구를 제공합니다.

프롬프트 빌더는 그래픽 환경에서 재사용 가능한 프롬프트 템플릿을 생성하고 레코드 페이지 데이터, Data Cloud, API 호출, 플로우 및 Apex를 통해 제공되는 동적 데이터를 통해 이를 기반으로 할 수 있는 Salesforce 빌더입니다.

에이전트 빌더는 에이전트와 코파일럿을 구성할 수 있는 또 다른 시각적 빌더입니다. 에이전트가 사용할 수 있는 작업을 선택하고 플레이그라운드 환경에서 에이전트를 사용해 볼 수 있습니다.

에이전트는 우리 삶의 모든 영역에서 보편화될 것입니다. 추론하고, 업무를 조율하고, 작업을 취하여 대규모로 개인화된 경험을 제공할 수 있습니다. LLM의 언어와 추론 능력을 소프트웨어 빌딩 블록과 결합하여 비즈니스 운영 방식과 소프트웨어 구축 방식을 혁신하고 있습니다.

Agentforce 에이전트는 다음과 같은 주요 차별화 특성으로 이러한 변화를 주도하고 있습니다.

• 신뢰할 수 있음. Agentforce는 Einstein 트러스트 레이어 및 기존 Salesforce 애플리케이션과 동일한 메타데이터, 권한 및 공유 모델을 사용하여 데이터를 보호합니다.
• 강력함. Agentforce 에이전트는 산업을 선도하는 Salesforce 애플리케이션을 사용하여 세일즈, 서비스, 커머스, 마케팅 및 산업 전반에 걸쳐 혁신적인 경험을 제공합니다.
• 통합 데이터에 기반. Agentforce 에이전트는 Data Cloud에서 제공하고 통합한 모든 관련 데이터에 AI를 기반으로 하여 더 정확하고 관련성 있는 결과를 제공합니다.
• 로우 코드 도구. Agentforce 에이전트는 에이전트 빌더, 프롬프트 빌더, 모델 빌더, 플로우 빌더 등 일련의 로우 코드 도구를 사용하여 구축, 사용자 지정, 테스트 및 관리할 수 있습니다.