Salesforce가 Salesforce 도움말에서 Agentforce의 답변 품질을 측정하는 방법

Zachary Stauber, 디지털 성공, AI 수석 디렉터

셀프 서비스의 목표는 언제나 고객이 빠르게 답변을 얻도록 돕는 데 있습니다. 하지만 여기서 한 걸음 더 나아가고 싶었습니다. 5년 전, Salesforce는 셀프 서비스를 재정의하는 데 착수했습니다. 셀프 서비스란 고객이 더 빠르게 답변을 얻도록 지원하는 것을 넘어, 자신감과 역량까지 키워주는 것이어야 한다고 생각했죠. 고객이 사람의 도움 없이도 충분히 지원받고 있다고 느껴야 한다고 생각했습니다. 이러한 생각을 바탕으로 Salesforce 디지털 성공 팀을 구성했습니다.

Salesforce 도움말에서 Agentforce를 처음 출시했을 때 그 잠재력에 기대가 컸습니다. 이를 수년간 공들여 만든 셀프 서비스 경험에서 고객의 자율성을 더욱 강화할 기회로 여겼습니다. 챗봇 대화를 구축하는 데 수많은 시간을 쏟아 온 저희에게는 생성형 AI와 대규모 언어 모델이 돌파구처럼 느껴졌습니다. 이는 게임 체인저였습니다.

하지만 곧 다음 단계가 찾아왔습니다. 흥분이 약간 가라앉으니, 어려운 질문들이 하나둘 제기되기 시작했습니다. 그중에서도 핵심은 다음 질문이었습니다.

그 질문으로 인해 상당한 압박감이 생겼습니다. 저희는 이를 주도적인 역할을 할 기회라고 여겼지만, 탄탄한 계획이 뒷받침되어야 했습니다. 이 계획은 고객에게 혜택이 돌아가고 실행 결과를 측정할 수 있어야 했으며, 동시에 Agentforce를 발전시키고, 학습시키며, 개선할 수 있어야 했습니다.

이를 실행에 옮겨 온 여정은 뜻깊었습니다. 여전히 해야 할 일은 많지만, Salesforce 도움말에서 Agentforce의 답변 품질을 개선하고 평가하는 데 진전을 이뤄 온 저희 팀이 매우 자랑스럽습니다.

답변 품질이란 개별 질문을 한 후 Agentforce가 인수 기준을 충족하는 답변을 한 비율입니다. 이를 대화의 '턴(turn)'이라고 하며, 현재 Salesforce의 답변 품질 평가는 대화의 첫 턴에 최적화되어 있습니다. 접근 방식을 발전시킬 계획에 대해서는 나중에 좀 더 자세히 설명할테지만, 초기에는 통과/실패 여부만 간단히 확인합니다. 답변은 기준을 충족하거나 충족하지 못합니다. 실제로 Agentforce가 답변 품질을 직접 측정하도록 합니다.

예를 들어, 첫 시도에서 100개의 질문을 해서 50개의 답변이 기준에 부합하면 50%의 답변 품질이 됩니다.

그렇다고 해서 나머지 50개의 답변이 완전히 틀린 것은 아닙니다. 단지 양질의 답변으로 설정한 기준을 모두 충족하지 못했을 뿐입니다. 실제로는 답변이 더 ‘정확’할 수도 있지만, 저희가 생각하는 훌륭한 답변을 바탕으로 높은 기준을 설정하는 것이 중요하다고 생각합니다.

따라서 답변 품질 자체만으로는 효과를 판단하는 데 충분하지 않습니다. 더 자세히 살펴봐야 하고 핵심 메트릭(예: 해결률, 에스컬레이션 비율)도 포함해야 합니다. 예를 들어 2025년 10월 Salesforce의 답변 품질 목표치는 60%였으며, 올해 말까지 75%를 목표로 하고 있습니다. 수치가 낮다는 생각이 들 수도 있지만, 질문의 변동성이나 주제에서 벗어난 질문, ‘가벼운 대화’, 첫 턴부터 사례 생성을 요청하는 고객까지 고려하면 실제로는 상당히 높습니다. 답변 품질, 해결률, 에스컬레이션 비율 등 전체적인 상황을 고려할 때 핵심 비즈니스 성과를 달성하기에 좋은 위치에 있다는 확신을 갖게 되었습니다.

데이터에 익숙해진 후 올해는 75%의 답변 품질을 달성하려는 목표를 설정했습니다. 최근 테스트에서 76%를 달성했다는 소식을 전하게 되어 기쁩니다. 프레임워크를 강화하여 콘텐츠와 전략을 개선하고, 검색 증강 생성(RAG), 임베딩, 메타데이터 등 AI 도구를 최대한 활용함으로써 이를 달성했습니다.

사실 이게 전부입니다. 답변 품질을 평가하는 방법에 대해 더 자세히 살펴보겠습니다. 하지만 “좋은 답변의 조건은 무엇일까요?”라는 질문에 답하는 일이 막연하고 부담스러운 과제가 될 필요는 없습니다.

답변 품질 관련 문제를 해결하려 할 때는 작업을 필요 이상으로 복잡하게 하고 메트릭을 너무 많이 추가하여, 실제 중요한 사항을 놓치기 쉽습니다. 이렇게 되면 혼란과 끝없는 논쟁, 불투명한 방향성으로 이어질 수 있습니다.

핵심은 모두가 공감하고 따를 수 있는 하나의 명확한 목표에 집중하는 것입니다.

저희의 목표는, ‘고객이 연중무휴 24시간 질문에 대한 답변을 받고 필요할 때 담당자와 쉽게 연결될 수 있도록 지원하기’였습니다.

목표가 분명해진 다음 이를 측정 가능한 두 가지 결과와 연결했습니다.

1. Agentforce 해결률 증가
2. 전체 지원 사례 건수 감소

공식은 간단했습니다.

다음 질문은, 양질의 답변이란 무엇인가요?였습니다.

실제 대화를 검토한 후, 팀 및 고객과 대화하여 모범 사례를 스터디하고 나서 최종적으로 다음의 간단한 정의에 합의했습니다.

저희는 역할이나 배경에 관계없이 모든 사람이 이해하고 사용할 수 있는 정의를 원했습니다. AI 메트릭(예: 검색 증강 생성(RAG), 코사인 유사도)도 중요하지만 비즈니스 리더에게 항상 유의미한 것은 아닙니다.

초기에 "코사인 유사도는 0.86입니다"와 같은 방식으로 설명했을 때, 사람들은 무슨 말인지 모르겠다는 표정을 지었습니다. 이 경험을 계기로 품질을 좀 더 이해하기 쉽게 설명할 필요가 생겼습니다.

그래서 명확히 공유된 아이디어를 바탕으로 다음 시스템을 구축했습니다. 훌륭한 답변은 관련성이 높고, 정확하며, 완전합니다.

답변 품질에 대한 명확한 개념과 정의를 규정하니 프로세스를 관리하고, 부족한 부분을 발견하며, 개선을 추진할 인력이 필요했습니다.

이때 평가 관리자의 역할이 생겼습니다. 조직에 새로 만든 직무는 Help 에이전트를 위해 답변 품질과 이를 관리하는 업무에 집중하도록 고안되었습니다.

이러한 개별 기여자는 전체 답변 품질 프레임워크를 유지 관리하고 테스트를 실행하며, 결과를 분석하고, 인사이트를 공유해야 합니다. 복잡한 아이디어를 간단한 용어로 설명하고 엔지니어와 경영진 모두에게 유용한 테스트를 설계해야 합니다.

많은 분들과 마찬가지로, 저희도 전문 AI 평가자 팀을 고용할 예산이 무한정 있는 것은 아니었습니다. 내부에서 찾아보았습니다. AI에 열정이 있고, 배우고 싶어 하며, 빠르게 실험하고 학습하는 것에 익숙한 사람들을 발견했습니다. 저희가 구성한 팀과 이 새로운 직무가 자랑스럽습니다. 내 생각에 평가 관리자는 서비스 및 지원 분야에서 AI 에이전트와 협력하는 모든 조직에서 중요한 역할을 할 것입니다.

이러한 사람들이 이미 귀사 내에 있을 가능성이 높습니다. 지원 엔지니어나 프로그램 관리자, 데이터 분석가일지도 모릅니다. 따라서 답변 품질 전략을 수립할 때 현재 팀에서 이미 AI 여정에 긍정적인 영향을 미치고 싶어 하는 인재를 찾아보는 것이 좋습니다.

출시한지 약 한 달이 지나자, 대화량은 매주 수천 건으로 증가했습니다. 도움말에서 Agentforce 사용량이 증가함에 따라 평가 시스템도 함께 성장해야 했습니다.

이를 위해 ‘에이전트를 테스트하는 에이전트’ 아이디어를 기반으로 시스템을 만들었습니다. 이 시스템은 AI를 사용해 Agentforce의 답변이 명확한 평가 기준을 충족하는지 확인합니다. 답변은 관련성과 정확성, 완전성을 모두 갖춰야 합니다.

하지만 실제 고객 대화를 대규모로 분석하는 것은 어렵습니다. 변동은 너무 많고, 안정적으로 성능을 측정할 수 있는 제어 역량이 부족합니다. 그래서 저희는 합성 발화라는 것을 사용하여 더 관리하기 쉬우며 확장 가능한 접근 방식을 수립했습니다.

합성 발화는 현실적이지만 가상의 고객 질문으로, 실제 지원 데이터를 바탕으로 만들었습니다. 사례 로그, 웹 검색, 피드백 채널에서 수집한 데이터를 활용합니다. 이러한 질문은 고객이 우선적으로 해결하려는 문제를 반영하여 현재의 요구 사항에 맞춰 목록을 정기적으로 업데이트합니다.

10월에 출시했을 때는 합성 발화가 약 100개였습니다. 현재는 수백 개의 합성 발화를 확보했으며, 가까운 시일 내에 1,000개에 달하는 규모로 늘리는 것이 목표입니다. 이는 고객의 요구를 대규모로 충실히 반영하면서도 통제된 테스트 환경을 유지할 수 있는 수준입니다.

각 질문에 대해 지원 엔지니어 및 제품 전문가와 협력하여 특정 인수 기준 또는 해당 질문에 대한 적절한 답변을 제공하는 구체적인 요구 사항을 정의했습니다. 이는 LLM Judge 프롬프트에 기록되어 있으며, 이를 통해 AI는 Agentforce 답변의 관련성, 정확성, 완전성을 자동으로 평가할 수 있습니다.

다음은 몇 가지 일반적인 사용 사례입니다.

고객의 질문을 대표하는 합성 발화와 주제별 전문가가 검토한 인수 기준을 마련한 후 다음 운영 단계로 툴링에 착수했습니다.

Agentforce 도입 초창기에는 모든 채팅 스크립트를 수동으로 읽었습니다. 정말입니다. 번거롭고 시간도 많이 걸렸습니다. 대화량이 늘어남에 따라 모든 대화 스크립트를 일일이 읽는 것은 불가능해졌습니다.

이때 합성 발화와 인수 기준이 중요해졌습니다. 이를 통해 실시간 고객 상호 작용에 의존하지 않고도 Agentforce를 테스트할 수 있습니다. 하지만 에이전트를 테스트하는 에이전트를 현실화하려면 여전히 도구가 필요했습니다.

다행히도 Salesforce의 뛰어난 엔지니어링 팀이 개입했습니다. 저희 팀은 요구 사항을 공유하고 엔지니어링 팀은 Salesforce 앱과 공개 Agentforce API를 사용해 도구를 구축했습니다. 이를 에이전트를 테스트하는 에이전트라고 불렀습니다.

작동 방식은 다음과 같습니다.

1. 합성 발화(테스트 질문) 및 인수 기준 리포지토리를 도구에 입력합니다.
2. 도구는 실제 환경에서 Agentforce에게 해당 질문을 합니다.
3. Agentforce가 답변하고 도구는 해당 답변이 인수 기준에 충족하는지 확인합니다.
4. 결과(통과/실패)는 Salesforce 보고서에 표시되며, Sheets나 Excel, Tableau 등 도구로 내보낼 수 있습니다.

이 프로세스를 통해 답변 품질 점수를 산출합니다.

다음으로, 평가 관리자가 실패한 답변을 검토하고 문제 분류로 태그를 지정합니다. 태그는 답변이 기준을 충족하지 못한 이유를 나타냅니다.

이러한 분류는 전략, 엔지니어링, 데이터 과학 분야의 AI 전문가가 문제를 조사하고 해결하는 데 도움이 됩니다. 일반적인 분류 유형에는 다음이 포함됩니다(이에 국한되지 않음).

문제 분류는 계속해서 보완되고 있습니다. 더 많은 것을 알게 되면서 추적하던 몇 가지 내용이 생각보다 유용하지 않다는 것을 깨달았고 시간이 지남에 따라 그런 사항들은 조정했습니다. 예를 들어, 초기 목록에는 솔루션(예: 검색 문제)이 포함되었습니다. 저희가 확인한 바로는, 문제 분류 체계에 문제와 솔루션을 함께 통합하면 잘못된 방향으로 흐르기 쉬웠습니다. 요점은 근본적인 문제에 집중하면 실제로 근본 원인을 분석하고 실제 문제를 더 빠르게 해결하는 데 도움이 된다는 점입니다.

게다가 이러한 과정을 거치면서 때때로 ‘잘못된 실패’가 발생한다는 사실을 발견했습니다. Agentforce가 실제로 질문에 올바르게 답변한 시나리오임에도 불구하고 인수 기준이나 툴링, 심지어 답변을 평가하는 인간이 가진 보정되지 않은 판단 기준 때문에 판단에 영향을 미쳤을 수도 있습니다. 이러한 유형의 문제에 대해 개방적인 태도로 대처한 덕분에 더 탄탄한 플레이북을 마련하고 분석 결과와 인사이트의 신뢰성에 관한 우려도 해결할 수 있었습니다.

평가 운영을 확대하면서도 평가 관리자의 업무 부담을 줄이는 데 중점을 두고 있습니다. 이를 돕기 위해 문제 분류 정의에 따라 답변이 실패한 이유를 자동으로 식별하는 AI 테스트를 시작했습니다. 초기 결과는 매우 긍정적이며, 합성 발화가 1,000개를 넘을 것으로 예상됩니다. 저희 팀이 AI를 사용하여 수요를 따라잡을 수 있다고 확신합니다.

Agentforce 가시성에 새롭게 추가되는 도구에도 기대를 걸고 있습니다. Agentforce Customer Zero로서 저희는 제품 팀과 긴밀히 협력하여 테스트 센터, 세션 추적 등의 기능을 시범 운영하고 있습니다. 이러한 기본 제공 도구는 저희 전략의 핵심 요소가 되고 있으며, 해당 도구가 정식으로 출시되면 본격적으로 도입할 준비를 하고 있습니다. 이를 통해 답변 품질 평가 과정과 결과를 훨씬 더 생생하고 이해하기 쉽게 보여주고 전달할 수 있습니다. 솔직히 처음 Agentforce를 출시했을 때 이런 도구들이 있었더라면 더 좋았을 텐데요!

지금까지의 내용을 정리해 보겠습니다. 저희는 Salesforce 고객이 우선적으로 해결해야 하는 문제를 다루는 합성 발화 세트를 보유하고 있습니다. Salesforce 전문가들은 좋은 답변의 인수 기준을 승인했으며, 저희는 이러한 답변을 대규모로 확인할 수 있는 도구를 보유하고 있습니다. 마지막 단계로, 평가 관리자 팀이 결과를 검토하여 조치를 취합니다.

언제 테스트를 하나요? 얼마나 자주 테스트를 하나요? 어떤 종류의 테스트인가요?

AI 운영 팀으로서 저희는 세 가지 유형의 평가를 처리합니다. 이는 합성 베이스라인, 새로운 기능, 온디맨드입니다.

이는 가장 중요하고 자주 진행하는 평가입니다.

합성 베이스라인은 시간 경과에 따른 답변 품질의 변화를 측정합니다. 새로운 기능이나 콘텐츠, 데이터를 릴리스할 때, 합성 질문과 인수 기준 세트를 사용하여 해당 변경 사항이 성능에 어떤 영향을 미치는지 정기적으로 테스트합니다.

이를 통해 Agentforce의 모든 신규 업데이트가 실제 운영 환경에 적용되기 전에 충족하거나 상회해야 하는 베이스라인이 마련됩니다. 이를 통해 답변 품질이 개선되고 있고 이전보다 저하되지 않았는지 확인할 수 있습니다.

평가는 스프린트 주기에 맞춰 한 달에 2회 실시합니다. 그 후 결과를 종합해 월별 답변 품질 점수를 산출하고, 이를 성과표, 비즈니스 리뷰 등에 공유합니다.

이 프로세스는 답변 품질을 위한 AI 전략의 기반입니다.

정기적인 베이스라인 테스트 외에도 개발 전반에 걸쳐 새로운 기능이나 데이터, 기술도 평가합니다. 이러한 접근 방식을 평가 기반 개발이라고 합니다. 이를 통해 Salesforce에서 릴리스하는 모든 제품이 기존에 설정한 합성 베이스라인을 충족하거나 상회할 수 있습니다.

주요 차이점은 새로운 기능 평가에서 테스트 중인 변경 사항에 특화된 더 작고 타기팅된 합성 발화 세트를 사용한다는 것입니다. 이러한 테스트는 개발 중에 필요에 따라 실행되며, 그 결과는 엔지니어링 팀, 콘텐츠 팀, 데이터 팀과 공유되어 개발부터 QA 및 UAT에 이르기까지 개선 방향을 안내합니다.

기능이 활성화되면 사용한 테스트 질문이 기본 리포지토리에 추가되고 향후 베이스라인 테스트에 포함됩니다.

예를 들어 Slack Help 포털에서 Help 에이전트를 출시했을 때 평가 관리자는 96개의 사용자 지정 합성 발화 및 인수 기준을 만들었습니다. 이 기능은 베이스라인을 웃도는 평가 결과를 받아 제품으로 출시되었습니다. 이 96개의 질문은 현재 진행 중인 테스트의 일부입니다.

버그나 예기치 않은 문제, 경험 문제, 마지막 변경 사항에 대해 구체적인 테스트를 실행하여 Help 에이전트의 성능을 확인해야 합니다. 여기에는 새로운 기능이나 제품 관련 잘못된 답변이나 불명확한 답변, Help 에이전트를 사용하면서 겪는 전반적인 부정적 사용 경험 등이 포함됩니다. 이미 베이스라인과 새로운 기능 평가가 있었기 때문에 온디맨드 테스트를 추가하는 것은 자연스러운 일이었습니다.

이뿐만 아니라 Salesforce의 많은 팀이 ‘독립 감사자’ 역할을 수행하여 일반적인 테스트 범위 밖에서 부족한 점이나 인사이트를 찾는 데 도움을 줍니다. 여기에는 접근성 팀, 법률 팀, 기타 팀(예: 인증, Trailhead)는 포함됩니다. 가장 커다란 고객 문제를 처리하지 못할 수도 있지만, 대규모 수요를 충족하고 가능한 한 많은 고객 시나리오를 평가할 수 있도록 지원하기 위해서는 여전히 그들의 업무가 매우 중요합니다.

이러한 팀이 자체 테스트를 실행할 수 있도록 도구와 프레임워크를 이용할 수 있습니다. AI 운영 팀의 리더로서, 이는 성장 계획의 큰 부분을 차지합니다. 평가 프로세스를 공유하여 모든 고객의 요구 사항에 더 효과적으로 대응하려는 것입니다.

핵심 요점: 파트너와 협력하세요!

답변 품질의 미래는 가능성이 무궁무진합니다. 새로운 도구가 등장함에 따라 에이전트의 성과를 측정하고 이해하는 방식은 계속 개선될 것입니다.

현재 답변 품질은 한 개의 고객의 질문이 이루어진 후 단 하나의 답변만 확인합니다. 답변 품질은 유용합니다. 하지만 저희는 대화 품질로 한 단계 더 나아가 개별 답변이 아니라 전체 대화를 측정하고자 합니다.

저희는 두 가지 아이디어를 검토하고 있습니다.

1. 답변 품질에서 대화 품질까지:
   저희는 개별 답변이 아닌 전체 대화의 점수를 측정하고자 합니다. 한 개의 좋은 답변은 여러 개의 나쁜 답변을 고칠 수 없습니다. 이는 저희가 매우 집중하고 열정을 갖고 있는 부분이며, 대화 전체를 평가할 수 있는 능력을 갖출 수 있도록 현재 모델을 확장하고 발전시키는 새롭고 다양한 방법을 모색하고 있습니다. 저희의 초기 구상은 단일 턴 점수를 종합하는 평가 시스템을 구축하여 그 결과를 다중 턴 대화의 품질로 제시하는 것입니다. 즉, 많은 답변이 좋은 대화를 만듭니다.
2. 인수 기준을 사용한 실제 대화 평가:
   실제 고객 채팅에 공통 기준(예: 어조, 공감 능력, 대화 흐름)을 적용할 계획입니다. 이를 통해 실제 대화를 대규모로 측정할 수 있습니다. 하지만 이 개념은 답변 정확성에 대한 기준이 적용되지 않았습니다. 그래서...

답변의 정확성을 판단하기 위해서 유사한 질문을 그룹화한 발화 클러스터를 구성하고 있습니다. 이를 통해 인수 기준을 개별 질문이 아닌 질문 그룹에 적용할 수 있습니다.

또한 지원 엔지니어와 고객 성공 관리자가 문제를 해결하는 방식을 ‘정확한’ 모델로 사용하여 답변을 판단하는 작업도 진행하고 있습니다. 이를 통해 여러 질문 클러스터에 걸쳐 철저한 검증을 거치고 다양한 실무진의 기술 지식을 반영한 인수 기준을 대규모로 만들 수 있습니다. 정말 근사한 일입니다.

결국 AI의 역량은 제시하는 답변의 품질에 따라 좌우됩니다. 따라서 답변 품질을 언제나 목표로 삼아야 하며, 이 목표는 모든 고객을 위한 Agentforce를 어떻게 구축하고 성능을 측정하며 개선할지 방향을 제시합니다. 답변 품질을 평가하고 개선하려는 이러한 노력은 저희 팀이 열정을 쏟는 일입니다. 모든 사람이 큰 일처럼 여기고 불편하거나 힘들다고 생각하는 것을 시도해 보는 것을 권장해 드립니다. 무엇이 될 수 있는지 생각하는 미래학자의 정신을 본받아 보세요. 마지막으로 저희 팀의 모토이자 신조를 소개하며 마무리하겠습니다.

“마음껏 시도해 보세요. 직접 답을 찾아보세요.”