Agentforce 작동 방식 > Agentforce 작동 방식 동영상

이 데모에서는 고객 질문에 답변함으로써 수신되는 지원 사례를 예방하는 AI 서비스 에이전트를 구축하여 Agentforce 작동 방식을 보여드립니다. 작동 방식을 살펴보기 위해 이러한 제품의 설치 일정 관리도 지원하도록 하여 이 에이전트의 기능을 확장해 보겠습니다. 새로운 주제를 추가했습니다. 주제는 AI 에이전트가 수행할 일과 수행하지 않을 일을 정의하는 방법에 대한 것이며, AI 에이전트에 가드레일을 설정하는 데 도움이 됩니다. 새로운 주제를 생성하여 에이전트의 가드레일을 확장하고 싶습니다.

구식 챗봇을 구축해 본 적이 있다면 이 프로세스는 매우 다르게 느껴집니다. 대화 트리가 없고, 에이전트가 수행해야 할 일을 이해하는 데 도움이 되는 자연어 설명만 있습니다. 이 경우, 해당 일은 약속 관리이며, AI 에이전트가 이 주제를 언제 사용해야 하는지 이해하는 데 도움이 되는 설명이 이어집니다. 이 설명에는 에이전트가 이 업무(예: 약속 예약 전에 고객의 이메일 주소 가져오기, 고객의 설치 날짜 기본 설정 가져오기, 모든 날짜를 특정 형식으로 변환, 설치 날짜가 배송 날짜 이전이 아닌지 확인)를 수행할 때 사용해야 하는 일의 범위와 명령이 포함됩니다. 마지막으로 에이전트는 예약이 완료되면 고객의 약속을 확인합니다. 기존 챗봇에서는 이러한 명령에 복잡한 if-then-else 논리가 많이 포함되지만 Agentforce에서는 자연어 설명만으로 AI 에이전트가 수행해야 할 일을 이해할 수 있습니다.

다음 단계는 에이전트가 실제로 이러한 일을 수행하도록 하는 작업을 추가하는 것입니다. 작업은 플로우, Apex 클래스 또는 프롬프트를 기반으로 할 수 있습니다. 우선은 간단하게 설명하겠습니다. 이는 이용 가능한 설치 시간을 검색하기 위해 생성한 플로우로, AI 에이전트는 이 업무를 수행하는 데 필요한 지식을 갖추게 됩니다. 이 플로우는 실제로 설치 약속을 예약합니다. 그리고 몇 가지 추가 가드레일을 설정하며 이 업무가 수행되는 방식에 대해 매우 규범적인 논리를 가지고 있습니다. 이러한 두 가지 플로우가 생성되었으니 이제 AI 에이전트에 플로우를 작업으로 추가하겠습니다. 믿기 어렵겠지만, 이제 이 AI 에이전트가 설치 약속을 예약할 수 있습니다.

한번 해보겠습니다. 주문 상태를 다시 가져오도록 요청하는 것부터 시작하겠습니다. 답변을 받았는데 주제가 주문 관리로 분류되어 있는 것을 확인할 수 있었습니다. 이제 이 에이전트에게 이 주문의 설치를 예약해 달라고 요청하겠습니다. 보시다시피 에이전트가 주제를 피벗하고 재분류합니다. 제가 명령을 줬기 때문에 에이전트는 설치 날짜 기본 설정을 무엇으로 할지 묻습니다. 이제 저는 생뚱맞게 "내일", 즉 실제로는 배송일 이전이라고 답하겠습니다. 하지만 이는 제가 에이전트에게 내린 또 다른 명령일 뿐이며, 에이전트는 이런 일이 발생하지 않도록 정중하게 배송일 이후 날짜를 선택해 달라고 요청합니다.

이젠 정말 어렵게 "해당 금요일이긴 한데 아침이 아닌 금요일은 어때?"라고 해보겠습니다. 잠시 멈춰서 이런 문장을 이해하는 데 필요한 컨텍스트를 고려해 보겠습니다. 저는 이해가 되었을 뿐만 아니라 적절한 응답을 얻었습니다. 방금 일어난 일을 다시 확인해 보겠습니다. 주제 분류를 넘어 Agentforce가 이 전체 대화의 컨텍스트를 사용하여 동적 계획을 세웠는데, 이 계획에는 제가 작업으로 추가한 약속 검색 플로우를 실행하는 것이 포함됩니다. 자세히 보세요. 해당 금요일은 플로우에 필요한 형식을 사용하여 올바른 날짜로 변환되었습니다. 오전 약속 시간이 포함된 해당 플로우의 출력을 살펴보세요. 하지만 제가 "아침이 아니다"라고 했기 때문에 생성된 응답에서 자동으로 필터링되었습니다. 이는 Agentforce가 AI 에이전트에게 가드레일 내에서 추론할 수 있는 권한을 부여하여 이러한 AI 에이전트가 훨씬 더 유연하게 배정된 일을 수행할 수 있게 되었기 때문에 발생하고 있습니다.

이제 가드레일 내에서 Agentforce가 무엇을 할 수 있는지 보셨습니다. 하지만 가드레일 밖으로 가서 설계되지 않은 일을 수행하라고 요청하면 어떻게 될까요? 보시다시피 Agentforce는 이를 주제에서 벗어난 것으로 분류하고 승인된 주제로 다시 리디렉션합니다. 또한 Agentforce에는 유해성 및 독성 감지가 내장되어 있어 AI 에이전트에게 부적절한 질문을 하면 이를 감지하여 부적절한 것으로 분류하여 에이전트가 참여를 거부합니다. 더 나아가 프롬프트 인젝션 공격과 같은 악의적인 시도를 하면 Agentforce는 이 리버스 엔지니어링 시도를 자동으로 감지하고 거부합니다.

즉, AI 에이전트를 생성하고 여러 채널에 에이전트를 배포하여 질문에 답변하고, 조치를 취하고, 배정된 일을 확실하게 수행함으로써 고객 성공을 추진하도록 지원하는 것이 Agentforce 작동 방식입니다. 시청해 주셔서 감사합니다.