에이전틱 엔터프라이즈란 무엇일까요?

대부분의 기업들은 지난 수년간 인공 지능을 실험해 왔습니다. 파일럿을 구축하고, 데모를 실행하며, 유망한 결과를 수집했습니다. 그러나 안타깝게도 그 모든 노력에도 불구하고 상당수는 실질적인 ROI를 창출하기 전에 성과가 정체되는 경험을 했습니다.이는 진정한 성공이 AI 모델 자체가 아니라, 그 기반이 되는 플랫폼이 해당 모델을 비즈니스가 이미 운영 중인 맥락, 규칙, 프로세스에 정착시킬 수 있는지 여부에 달려 있기 때문입니다.

앞서 나가는 조직들은 진정한 에이전트 기반 엔터프라이즈로 진화하고 있습니다. 이러한 기업에서 AI 에이전트는 단순히 질문에 답하는 수준을 훨씬 뛰어넘어 의사 결정을 내리고, 워크플로우를 실행하며, 중요한 결정은 적절한 시점에 인간에게 넘깁니다. 이 문서에서는 에이전트 기반 엔터프라이즈가 한 세대를 통틀어 가장 중요한 아키텍처 전환인 이유와, 실제로 작동하는 에이전틱 기업을 구축하는 방법을 설명합니다.

에이전트 기반 엔터프라이즈는 인간, AI 에이전트, 플랫폼이 관리되는 비즈니스 시스템 내에서 함께 작동하며, 공유된 맥락, 명시적 책임, 신뢰를 바탕으로 운영되는 조직입니다. 실제로, 이는 모든 사람과 모든 것이 동일한 정보를 기반으로, 누가 무엇을 할 수 있는지에 대한 사전 설정된 가드레일 내에서, 그리고 모든 결정에 대한 기록과 함께 작동함을 의미합니다.

이 정의는 세 부분으로 이루어져 있으며, 이 세 가지 모두 중요합니다. 에이전트 기반 엔터프라이즈의 경우:

1. 인간은 판단력, 관계, 창의력을 발휘합니다.
2. 에이전트는 속도, 확장성, 복잡한 워크플로를 지속적으로 운영할 수 있는 능력을 제공합니다.
3. 플랫폼은 연결된 데이터, 거버넌스 가드레일, 통합 계층을 제공하여 인간과 에이전트가 맹목적으로 작업하지 않고 함께 일할 수 있게 합니다.

에이전트 기반 엔터프라이즈 모델은 고객에게 더 나은 성과를, 그리고 직원에게 더 많은 역량 발휘 기회를 동시에 제공합니다. 업무 시간 이후에 고객 서비스 요청이 접수되는 상황을 가정해 보겠습니다. 에이전트가 해당 요청을 분류하고, 관련 계정 기록을 조회하며, 처리할 수 있는 부분은 해결합니다. 사전 설정된 가드레일을 통해 인간이 참여해야 한다고 판단하면 에이전트는 나머지 업무를 전체 맥락과 함께 적절한 담당자에게 전달합니다. 고객은 더 빠르게 답변을 얻을 수 있습니다. 지원 담당자는 준비된 상태로 대화에 임하게 되며, 허둥지둥하지 않게 됩니다.

이러한 복합적 효과가 바로 에이전트 기반 엔터프라이즈가 설계된 목표입니다. 직원들이 반복적이고 대량의 업무에 소모하는 시간이 줄어들면, 창의성, 공감 능력, 전략적 사고가 필요한 작업에 더 많은 역량을 집중할 수 있습니다.

모든 에이전트 기반 엔터프라이즈 뒤에는 자율적이고 책임 있는 행동을 가능하게 하는 계층형 아키텍처가 있습니다. 이러한 계층들이 어떻게 결합되는지(그리고 이를 정의하는 특성)를 이해하는 것이 AI를 책임감 있게 배포하는 조직과 여전히 실험 단계에 머물러 있는 조직을 구분합니다.

• 개별 에이전트: 기초 단위입니다. 각 에이전트는 단계별 지침을 기다리는 것이 아니라, 환경을 인식하고, 작업을 통해 추론하고, 관련 컨텍스트를 검색하고, 정의된 목표(메시지 전송, 레코드 업데이트, 다운스트림 프로세스 트리거)에 따라 조치를 취합니다.
• 멀티 에이전트 팀: 복잡한 목표의 경우, 전문 에이전트가 협력하여 하나는 조사를, 다른 하나는 응답 초안 작성을, 또 다른 하나는 승인 관리를 담당하는 식의 멀티 에이전트 오케스트레이션이 이루어집니다. 각 에이전트는 가장 잘하는 부분에 기여하며, 단일 에이전트가 단독으로는 달성할 수 없는 결과를 만들어냅니다. 여기에는 오케스트레이션 계층도 포함됩니다. 슈퍼 에이전트는 작업을 라우팅하고, 에이전트와 인간 간의 인계를 관리하며, 진행 상황을 모니터링하고, 에이전트의 신뢰도 임계값을 벗어나는 상황이 발생하면 인간이 자연스럽게 개입할 수 있도록 보장합니다.
• 신뢰할 수 있는 데이터 및 통합 패브릭: 모든 것이 실행되는 기반입니다. 에이전트는 실제 비즈니스 시스템에 연결됩니다. CRM(고객 관계 관리), 데이터베이스, 캘린더, 커뮤니케이션 플랫폼. 이 계층은 데이터 거버넌스를 적용하여 모든 행동이 오래된 스냅샷이나 환각적 가정이 아닌 신뢰할 수 있는 최신 정보에 기반하도록 합니다.
• 인간 참여형 감독 인간은 중요한 결정에 대한 책임을 계속해서 집니다. 에이전트 기반 엔터프라이즈에서는 직원들이 에이전트 관리자가 됩니다. 즉, 결과물을 검토하고, 가드레일을 설정하며, 가장 중요한 결정을 내립니다.

에이전트가 투명한 추론, 명확한 감사 내역, 잘 정의된 경계를 갖춘 통제된 시스템 내에서 작동할 때, 기업은 신뢰할 수 있는 AI를 확신을 가지고 배포할 수 있습니다. 이것이 데모에서 우수한 성능을 보이는 AI 파일럿과 프로덕션 환경에서 안정적으로 실행되는 AI의 차이점입니다.

실제로 에이전트는 특정 대용량 워크플로를 처리하여 주변 사람들이 최상의 성과를 낼 수 있도록 합니다. 예를 들어, 리드 관리에서 에이전트는 인바운드 리드를 평가하고, 연락 대기열의 우선순위를 지정하며, 모든 대화 전에 영업 담당자에게 가장 관련성 높은 컨텍스트를 표시합니다. 또한 모든 추천 사항은 확인할 수 있고 재정의가 가능하므로, 영업 담당자는 자신의 파이프라인에 대한 통제권을 유지합니다. 에스컬레이션 관리에서 에이전트는 미결 사례를 모니터링하고, 상황에 인간의 개입이 필요하다는 신호를 포착하며, 전체 컨텍스트와 함께 에스컬레이션 사항을 전달하여 담당자가 사전에 준비할 수 있도록 하며, 사람의 검토 없이 넘어가는 건이 없도록 합니다. 또한 지식 지원을 통해 에이전트는 응답의 초안 작성, 정책 세부 정보 가져오기, 사례 기록 요약 등 적절한 정보를 적시에 표시합니다. 이때 명확한 출처를 함께 제공하여 직원들이 맹목적으로 신뢰하지 않고 사실 확인을 거친 후 행동할 수 있게 합니다.

에이전트 기반 엔터프라이즈로 전환하는 것은 여러 단계로 이루어진 여정입니다. 아래 단계는 현 위치에서 목표 지점까지 이르는 검증된 경로입니다.

실제로 원하는 비즈니스 성과부터 시작하세요. 에이전트가 가장 큰 영향을 미칠 수 있는 워크플로를 식별하고 에이전틱 전략을 해당 목표에 맞추세요. 이러한 작업은 보통 대량으로 처리해야 하고, 시간에 민감하며, 많은 컨텍스트가 필요한 업무입니다.

성공적으로 구축한 조직은 “AI가 무엇을 할 수 있을까?”라는 질문을 하지 않습니다. 그들은 “업무가 수행되는 방식에서 무엇이 바뀌어야 하며, 에이전트가 그 변화를 가능하게 할 수 있을까?”라는 질문을 던집니다. 이 질문은 로드맵을 만들어냅니다. 다른 질문은 아무 성과도 내지 못하는 파일럿을 만들어냅니다.

에이전틱 도입에서 가장 큰 변수는 사람들이 어떻게 반응하는지입니다. 에이전트가 무엇을 하고, 무엇을 하지 않을지, 그리고 인간의 역할이 어떻게 변화할지에 대해 투명하게 소통하세요. 저항을 관리하기보다는 구성원이 얻게 될 이점을 정확히 전달하는 것이 중요합니다. 직원들이 에이전트가 반복적인 대량 업무를 처리하고 자신들은 의사 결정자, 코치, 품질 검증자 역할을 하게 된다는 점을 이해할 때, 대부분은 이를 위협이 아닌 역할 확장으로 받아들입니다.

모든 것을 한 번에 바꾸려고 하지 마세요. 업무량, 복잡성, 비즈니스 가치가 모두 높은 워크플로우 하나를 선택하세요. 채용 워크플로가 좋은 예입니다. 지원서 심사, 면접 일정 조율, 상태 업데이트 전송, 후보자 프로필 요약 등은 모두 에이전트가 잘 처리하는 작업입니다. 이 과정에서 채용 담당자부터 채용 관리자까지의 인간은 실제로 자신의 판단이 필요한 대화와 결정에 집중할 수 있습니다. 거기서 시작하세요. 확신을 쌓은 후 확장하세요.

기존 비즈니스 프로세스는 스크립트를 기반으로 구축됩니다. 즉, ‘A가 발생하면 B를 수행하라’는 식으로 이루어집니다. 목표와 현재 알고 있는 정보를 알려준 후 최적의 경로를 찾아내라는 방식으로 이루어집니다. 이러한 변화는 에이전트가 적응할 컨텍스트, 도구, 의사 결정 권한을 갖도록 워크플로를 재설계해야 합니다. 에이전트 기반 엔터프라이즈에서 가장 오래 지속되는 프로세스는 처음부터 유연하게 설계된 프로세스입니다.

모든 AI 배포에서 대부분의 작업은 데이터와 거버넌스입니다. 에이전트는 정확하고 체계적인 최신 정보에 액세스할 수 있어야 하며, 어떤 출처가 신뢰할 수 있는지 알아야 합니다. 진정한 단일 정보 소스 공급원(SSOT)은 있으면 선택 사항이 아니라 모든 에이전트 상호 작용을 신뢰할 수 있게 만드는 기반입니다. 이것이 없으면 에이전트는 오래되거나 불완전한 정보를 바탕으로 자신 있게 잘못된 결정을 내립니다. 반면, 이것이 있으면 에이전트는 비즈니스에서 진정한 신뢰를 받는 협력자가 됩니다.

최고의 에이전트 기반 엔터프라이즈는 에이전트가 자신이 잘하는 것이 무엇인지 파악하고 어떤 상황에서 인간이 필요한지를 인식하도록 설계합니다. 이를 위해서는 감성 지능을 내장해야 합니다. 즉, 어조를 읽고, 좌절감을 감지하며, 고객이 무시당한다는 느낌을 주지 않고 민감한 대화를 적절한 담당자에게 라우팅하는 능력이 필요합니다. 이를 잘 수행하는 에이전트는 단순히 문제를 더 빠르게 해결하는 데 그치지 않습니다. 이러한 기능을 잘 수행하는 에이전트는 문제를 더 빨리 해결할 뿐 아니라, 고객이 배려받고 있다고 느끼게 하여 더 오래가는 가치를 창출합니다.

에이전트가 자율성을 확보함에 따라, 성공하는 조직은 거버넌스를 설계 요구 사항으로 취급하는 조직이 될 것입니다. 문제가 발생한 후가 아니라, 에이전트가 프로덕션에 투입되기 전에 기반에 신뢰를 구축하는 것이 지속 가능한 배포와 비용이 많이 드는 롤백을 가르는 핵심입니다. 주의해야 할 사항과 이를 선제적으로 대처하는 방법은 다음과 같습니다.

Salesforce는 세계 최고의 에이전틱 CRM이며, 자체 운영을 통해 에이전트가 완료한 의미 있는 작업의 측정치인 38억 개의 에이전트 기반 작업 단위(AWU)를 달성했습니다. 사례가 해결되고, 작업이 실행되고, 워크플로가 완료되었다고 생각해 보세요. 현재까지 Agentforce를 통해 4백만 건의 지원 사례를 해결했으며 연간 1억 달러의 지원 비용 절감 효과를 달성했습니다.

에이전트에게 안정적인 대규모 운영에 필요한 데이터, 액세스 권한, 거버넌스가 적용된 환경을 제공하기 위해 함께 작동하는 5가지 시스템이 있습니다.

참여 시스템: Slack은 인간, 에이전트, 플랫폼이 함께 업무를 수행하는 AI 작업 플랫폼으로, 사람, 데이터, 앱, 에이전트를 한 곳에서 연결하여 AI 투자가 실제 성과를 창출하도록 합니다. 직원들이 에이전트를 지시하고, 결과물을 검토하며, 결정에 대한 의견을 조율하고, 조치를 취하는 공간으로, 이 모든 것을 시스템 간 전환 없이 수행할 수 있습니다.

인사이트 시스템: Tableau는 추론, 분석, AI 기반 분석을 통합하여 Salesforce 플랫폼 전반에 걸쳐 존재하는 풍부한 맥락을 실행 가능한 정보로 변환합니다. 이는 화면에 표시되는 숫자를 훨씬 뛰어넘으며,필요한 순간에, 이미 업무가 이루어지는 장소에서 제공되는 결정, 권장 사항, 후속 조치를 포함합니다.

에이전시 시스템: Agentforce는 조직이 채널과 사용 사례 전반에 걸쳐 AI 에이전트를 설계, 배포 및 관리할 수 있도록 합니다. 이는 확률적 추론(에이전트가 복잡성을 처리하고 판단을 내릴 수 있도록 함)과 일관성, 정책 준수, 감사 가능성을 강제하는 결정론적 실행을 결합합니다.

업무 시스템: Customer 360은 에이전트 기반 엔터프라이즈의 운영 중추로, 영업, 서비스, 마케팅, 커머스 등을 아우르는 애플리케이션 전반에 27년간 축적된 비즈니스 로직이 체계화되어 있으며, 금융 서비스, 의료, 제조업을 포함한 업종별 솔루션을 제공합니다. 그리고 정적 문서나 레거시 코드와 달리, 팀이 비즈니스 발전에 따라 대화형으로 업데이트할 수 있는 살아있는 인프라입니다.

컨텍스트 시스템: Data 360는 모든 엔터프라이즈 시스템 전반에 걸쳐 정형 및 비정형 데이터를 출처에 관계없이 통합하여 인간과 에이전트 모두를 위한 지속적이고 공유된 이해를 생성합니다. 제로 카피 아키텍처를 기반으로 구축되어, 데이터를 사일로 간에 복제하지 않고 데이터가 존재하는 위치에서 직접 액세스함으로써 거버넌스를 보존하고 소스에서 단편화를 제거합니다.

이 5가지 시스템은 독립적으로 존재하지 않습니다. 이러한 시스템은 Headless 360을 통해 연결되고 구동됩니다. 이는 Salesforce의 API 우선 액세스 계층으로, 에이전트, 사람, 외부 시스템이 단일 인터페이스에 구속되지 않고 Salesforce 플랫폼(데이터, 자동화, 비즈니스 로직)을 프로그래밍 방식으로 사용할 수 있게 합니다.

다양한 산업의 Salesforce 사용자들이 AI 실험 단계에서 실제 운영 성과로 전환하고 있습니다.

• 히드로 공항의 에이전트는 50% 적은 메시지로 고객 서비스 채팅의 90%를 해결했으며, AI는 일상적인 문의를 처리하여 인간 에이전트가 복잡한 승객의 요구 사항에 집중할 수 있도록 했습니다.
• PenFed는 매일 30,000분의 노동 시간을 절감하고 있습니다.
• Pandora는 일상적인 서비스 사례의 60%를 에이전트로 해결하여 NPS를 10% 향상시키고 팀을 더 높은 가치의 고객 상호작용에 집중할 수 있게 했습니다.
• 또한 Salesforce 자체도 Slackbot을 자체 에이전트 기반 엔터프라이즈의 관문으로 배포했으며, 가장 적극적인 사용자는 주당 최대 20시간을 절약하고 96%의 사용자 만족도를 기록했습니다. 이는 회사 내부 제품 도입 중 역대 최고치입니다.

에이전트는 일상 업무를 담당하여 인간이 최선을 다할 수 있도록 지원합니다. 이것이 바로 에이전트 기반 엔터프라이즈입니다. 그리고 지금 바로 사용할 수 있습니다.

향후 10년을 선도할 조직은 에이전트 기반 엔터프라이즈로서 스스로를 재정의하고 있습니다. 즉, AI 에이전트를 신뢰할 수 있는 데이터에 기반하고, 거버넌스를 기반으로 설계하고, 사람들과 함께 리드하는 데 필요한 명확성과 도구를 제공하고 있습니다.

자체 전환 여정을 설계할 준비가 되었다면 에이전트 기반 엔터프라이즈로 거듭나기 플레이북이 가장 좋은 출발점입니다. 이 플레이북은 위에서 제시한 기본 원칙 위에 구축되었으며, 에이전트 기반 엔터프라이즈를 이해하는 단계에서 실제로 하나가 되는 단계로 나아가도록 설계되었습니다.