“CIO를 위한 최신 AI 혁신 로드맵은?”
‘세일즈포스 AI-CIO 서밋 2024’에서 AI 시대 비즈니스 성장 전략과 노하우 공유

오늘날 기업의 CIO들은 AI 혁신을 실현해야 하는 과제를 안고 있지만 정작 어디서부터 시작하고 어떻게 이끌어나가야 할지에 대해서는 막막함을 느끼고 있습니다. 비즈니스 성장과 경쟁력 강화를 위해 IT 부서의 역할이 점차 중요해지는 가운데, 글로벌 선도 AI CRM 기업인 세일즈포스는 지난 12월 4일, 몬드리안 서울 이태원 호텔에서 국내 주요 CIO들을 초청하여 AI 에이전트 혁신의 미래를 논의하는 ‘세일즈포스 AI-CIO 서밋 2024’를 개최했습니다.

이날 세일즈포스의 손부한 대표는 “CIO의 역할은 더 이상 전통적인 IT 관리자 역할에 국한되지 않으며, 오늘날 기업의 AI 전략을 이끌어가는 ‘CAIO(Chief AI Officer)’로서의 책임을 다해야 한다”고 강조했습니다. 그는 기업들이 AI 에이전트를 자체적으로 구축할 때 겪는 복잡성과 그에 따른 도전 과제를 짚으며, AI 전문가의 부족과 기업 내 데이터를 활용한 맞춤형 AI 모델 구축의 어려움을 언급했습니다. 특히, '일머리 있는 AI'를 만들기 위해서는 신뢰할 수 있는 대형 언어 모델(LLM)을 활용하는 것이 첫 번째 관건이며, 두 번째로는 지속적인 반복 학습을 통해 실시간으로 최신 데이터를 반영하는 것이 필수적이라고 설명했습니다.

손부한 대표는 이어서, 세일즈포스가 제공하는 ‘에이전트포스(Agentforce)’는 AI 에이전트를 기업 환경과 수요에 맞게 커스터마이즈함으로써 기업들이 실질적인 AI 혁신을 구현할 수 있다고 강조했습니다. 또한 “CIO들은 이제 CEO의 전략적 비즈니스 파트너로서, 현업 부서의 요구에 맞춘 구체적이고 실행 가능한 AI 혁신 로드맵을 수립해야 한다는 책임이 있다. AI가 기업의 경쟁력을 강화하는 핵심 동력으로 자리 잡을 것”이라고 말했습니다. 

이번 ‘AI-CIO 서밋’은 국내 AI 혁신을 선도하는 CIO와 주요 임원과 전문가들이 한자리에 모여 실질적인 AI 도입 성과와 최신 기술 트렌드를 논의하는 장이었습니다. 이날 행사에는 배정희 베인앤컴퍼니 AI 프랙티스 파트너, 비벡 마하파트라(Vivek Mahapatra) 세일즈포스 AI 부사장, 배상근 세일즈포스 코리아 본부장 등이 연사로 나서 세일즈포스는 AI 기술을 활용한 비즈니스 혁신의 방향성을 제시했습니다. 연사들은 AI 시대에 맞는 효율적인 업무 환경 구축과 생산성 향상을 위한 구체적인 사례를 발표하며, 참가자들에게 AI 활용 전략을 공유했습니다.

특히 행사 기간, AI 혁신을 선도하는 전문가들과 리더들이 실제 구축 사례를 생생하게 공유하는 것은 물론, AI 혁신을 고민하고 있는 모든 참여자가 자유롭게 질의응답에 참여하며 의견을 나누는 시간을 가졌습니다. 이를 통해 기업들은 AI 도입 과정에서의 도전 과제와 이를 극복하기 위한 실질적인 인사이트를 얻을 수 있었습니다. 

기업 환경이 디지털화되면서 CIO(Chief Information Officer)의 역할이 단순한 IT 운영 책임자를 넘어 전략적 비즈니스 리더로 재조명되고 있습니다. 베인앤컴퍼니 AI 프랙티스를 이끄는 배정희 파트너는 IT 부서가 과거 단순히 시스템 운영을 지원하는 역할에 머물렀다면, 이제는 기업의 성과 창출에 직접적인 기여를 해야 할 때라고 강조했습니다. 일본 히타치의 사례는 이를 잘 보여줍니다. 디지털 플랫폼을 도입하며 제품 판매 중심에서 솔루션 판매 기업으로 전환한 히타치는 주가를 3배 이상 상승시키며 디지털 전환의 성공 사례로 자리 잡았습니다. 월마트 또한 디지털화를 통해 아마존에 이어 미국 2대 리테일러로 자리매김하며 IT와 디지털의 힘을 입증했습니다. 이런 성공의 배경에는 CIO가 CEO와 함께 경영 전략의 중심에서 중요한 역할을 맡아 디지털 혁신을 주도한 점이 공통적으로 나타났습니다.

베인앤컴퍼니는 최근 변화하는 시대에 CIO가 직면한 최대 미션과 전략적 과제를 조사했습니다. 조사에 따르면 CIO들은 AI를 비즈니스에 확대 적용해 실질적 성과를 도출하는 것을 주요 목표로 삼고 있었습니다. 특히 AI 트랜스포메이션의 핵심은 명확한 AI 도입 전략과 비전, 그리고 이를 통해 창출할 비즈니스 성과를 구체적으로 정의하는 데 있습니다. 2023년 3분기 기준, 미국 기업의 약 93%가 AI를 경험했고 이 중 60%는 상용화 단계에서 AI를 비즈니스 프로세스에 깊이 내재화하며 성과를 내고 있었습니다. AI 도입이 활발한 기업들은 세일즈와 HR 같은 주요 업무 영역에서 AI를 적용하여 평균적으로 14%의 성과 향상을 이루었습니다. 이는 생산성을 높이고 조직 내 리소스를 보다 효율적으로 배분하는 데 기여하고 있습니다.

한편, 조사 결과에 따르면 AI 도입은 기술 전문가가 아닌 기존 비즈니스 리더들이 이끄는 경우 더 높은 성과를 나타냈습니다. 이는 단순히 AI 기술에 대한 전문 지식이 있는 IT 전문가보다는 회사와 비즈니스에 대한 깊은 이해를 가진 내부 리더들이 더 적합한 유스케이스를 만들어낼 수 있기 때문입니다. 또한 CEO가 직접 AI 도입을 챙길 경우 고성과를 낼 확률이 약 70%로 나타나, CIO가 CEO의 전략적 파트너로서 역할을 수행해야 한다는 점이 다시 한번 확인됐습니다. 이는 CIO가 단순 지원 부서의 관리자에서 벗어나, 기업 혁신과 성과 창출의 핵심 역할을 담당해야 함을 시사합니다.

이처럼 변화하는 환경에서 성공적인 AI 트랜스포메이션을 위해 배정희 파트너는 CIO들에게 ‘VIP 3 스퀘어’ 전략을 제시했습니다. 첫 번째는 비전(Vision)으로, 명확한 비전과 성과 중심의 KPI를 설정하고 이를 기반으로 AI 도입을 추진해야 한다는 것입니다. 두 번째는 인프라(Infrastructure)로, 기술 및 인재 인프라를 확보하고 조직 역량을 강화해야 합니다. 마지막으로, 파트너십(Partnership)을 통해 비즈니스 부서와 IT 부서 간 협력을 강화하고 빠른 의사결정을 통해 혁신 속도를 높이는 것이 중요하다고 설명했습니다.

비벡 마하파트라(Vivek Mahapatra) 세일즈포스 AI 부사장은 신기술이 초기 단계에서는 제한적 오류와 시행착오 등을 겪어 그 효과가 대단치 않아 보이지만 장기적으로는 엄청난 변화를 이끈다고 주장하는 ‘아마라의 법칙’을 소개하며 AI 기술의 잠재력을 강조했습니다.

지난 1년 반 동안 마하파트라 부사장은 수백 명의 고객과 만나면서 기업 내 직원들이 AI에 대해 매우 높은 관심을 보이고 있다는 점을 확인했습니다. 직원들은 AI가 자신의 업무에 구체적으로 어떤 영향을 미칠 수 있을지 보고 싶어 했으며, 약 3분의 1에 달하는 직원들은 AI를 특정 상황에서 활용할 수 있는 아이디어를 적극적으로 제안했습니다. 예를 들어, 재산 관리 전문가는 고객과의 통화 전에 세일즈포스에 로그인해 여러 탭에서 정보를 확인해야 하지만, AI가 자동으로 최신 정보를 요약해 제공한다면 업무 효율을 크게 향상시킬 수 있습니다. 

세일즈포스는 여기서 한발 더 나아가 자율형 AI 에이전트 기술인 ‘에이전트포스(AgentForce)’를 통해 업무 방식에 새로운 혁신을 제안하고 있습니다. 세일즈포스가 제공하는 자율형 에이전트는 고객과의 소통을 자동화하여 기업의 고객 관리 효율을 극대화합니다. 마하파트라는 “AI는 단순히 도구로 머물러서는 안 된다. 업무 방식에 깊이 통합되고, 더 나아가 자율적으로 작동할 수 있도록 고민해야 한다”라고 강조했습니다.

세일즈포스가 강조하는 ‘Don’t DIY Your AI’는 단순히 AI 기술을 제공하는 것에서 그치지 않습니다. 각 기업의 필요에 맞는 맞춤형 AI 솔루션을 설계해, 이를 조직 운영에 자연스럽게 통합할 수 있도록 돕습니다. 에이전트포스와 데이터 클라우드의 결합을 통해 기업은 데이터를 효과적으로 활용하고, 프로세스를 최적화함으로써 고객경험과 비즈니스 성과(KPI)에 실질적인 긍정적 영향을 미칠 수 있는 업무 환경을 구축할 수 있습니다.

마하파트라 부사장은 “AI 도입은 비즈니스의 본질을 변화시키고, 혁신을 주도하는 과정이다”라고 강조합니다. 그는 AI 활용의 궁극적인 목표는 단순한 생산성 향상이 아니라, 조직과 고객 모두에게 진정한 가치를 제공하는 데 있다고 덧붙였습니다.

오늘날 CIO들은 성공적인 AI 도입을 위해 기술적 성취를 넘어 업무 방식을 근본적으로 혁신해야 하는 과제에 직면해 있습니다. 마하파트라 부사장은 “자율형 AI 에이전트와 같은 솔루션은 기업이 더 빠르고 정확한 결과를 도출할 수 있도록 지원하며, 궁극적으로 비즈니스 전반에 긍정적인 변화를 가져올 것”이라고 말했습니다. 

국내 유명 리조트 기업 A사는 최근 프로젝트 발표 이후 폭발적인 관심을 받으며 고객 문의가 급증하는 상황에 직면했습니다. 이에 따라 A사는 고객 응대의 효율성을 높이기 위해 AI 기반 서비스 에이전트를 도입해 고객 응대를 자동화했습니다. 

AI 에이전트는 사람의 개입 없이 고객 문의에 실시간으로 응답하며, 예약 서비스와 추가 정보 제공까지 가능합니다. 예를 들어, 고객이 “보름달 비치는 해변 파티 예약 가능 여부”를 문의하면, 에이전트는 파티 세션 정보를 제공하고 예약 가능한 시간대를 안내하며 예약을 진행합니다. 이후 "추가로 도와드릴 사항이 있나요?"와 같은 후속 질문을 통해 고객의 요구를 지속적으로 파악합니다.

여기서 그치지 않고 AI 에이전트는 고객과의 대화를 통해 멤버십 정보와 선호 이벤트를 분석하고, 맞춤형 추천까지 제공합니다. 이번 시연에서 사용된 세일즈포스의 에이전트빌더는 크게 다섯 가지 설정으로 구성됩니다. 첫째, 에이전트가 수행할 기능과 책임을 정의하는 '역할 정의', 둘째, 필요한 데이터와 행동 지침을 구성하는 '데이터 설정', 셋째, 실행해야 할 액션과 금지 사항을 명시하는 '행동 정의', 넷째, 에이전트가 배포될 플랫폼 및 채널을 설정하는 '채널 배포', 마지막으로 자연어 기반으로 직관적인 설정을 통해 구성하는 '디스크립션 작성'입니다. AI 에이전트는 텍스트 기반의 질문에 대해 리즈닝 엔진을 활용하여 답변하고, 필요시 플래닝과 실행까지 처리할 수 있도록 설계됐습니다.

특히, 에이전트빌더는 기술적 전문성이 없는 사용자도 쉽게 구성할 수 있도록 직관적인 인터페이스를 제공합니다. 테스트 과정에서 한글 및 영어 설정이 모두 가능했으며, 국내 주요 가전 기업 B사 등의 사례를 통해 확장 가능성도 입증됐습니다. 기업들은 이를 통해 고객 응대를 보다 효율적으로 자동화하고, 더 나은 서비스를 제공할 수 있는 기회를 가지게 됩니다.

이날 데모 시연을 진행한 배상근 세일즈포스 코리아 본부장(솔루션 부문 총괄 부문장)은 "AI 기반 서비스의 핵심은 데이터"라고 강조하며, "기업이 자체 데이터를 체계적으로 수집하고 활용하는 것이 중요하다"고 덧붙였습니다. 그는 양질의 데이터가 체계적으로 수집되고 관리될 때 AI 에이전트가 고객경험을 개인화하고, 효율적으로 문제를 해결할 수 있는 기반이 마련된다고 설명했습니다. 또한 "AI 서비스 에이전트를 통해 고객 응대의 혁신 가능성을 확인했다. 에이전트포스를 활용한 PoC(Proof of Concept)를 통해 각 기업이 효율적으로 적용 방안을 찾을 수 있을 것"이라고 밝혔습니다.

이날 행사에서는 국내 최대 전자제품 기업 C사와 국내 최대 이커머스 플랫폼 D사의 관계자들이 직접 연사로 참석해 에이전트포스를 도입하여 고객 서비스 부문의 혁신을 이룬 사례를 소개했습니다. 

국내 최대 전자제품 기업 C사는 북미 서비스 법인에서 '에이전트포스'를 도입하여 B2C와 B2B 영역 간 중복되는 콘텐츠와 서비스를 자동화하는 데 성공했습니다. 특히, B2B 고객 서비스에서는 기존의 B2C 서비스 챗봇과 에이전트포스를 결합하여 통합적이고 일관된 서비스를 제공하고 있습니다.

C사는 세일즈포스를 선택한 이유로, 이미 많은 고객사들이 사용 경험을 쌓은 시스템이라 접근이 용이하고, 다양한 비즈니스 영역을 가진 C사가 고객 지원에서 일관된 품질을 유지할 수 있도록 돕는 플랫폼이기 때문이라고 설명했습니다. 또한, B2C와 B2B 영역을 통합하여 고객 지원을 효율적으로 개선하고, 고객의 기대에 부합하는 서비스를 제공할 수 있을 것으로 판단하고 있습니다.

또한 미래 에이전트포스 활용 계획과 관련해 C사는 AI 플랫폼 활용을 더욱 심화시킬 예정이라고 밝혔습니다. 이를 위해 세일즈포스의 기능을 더 깊이 이해하고, 다양한 비즈니스 영역에 AI를 응용할 수 있는 방법을 지속해서 연구할 예정입니다. 

국내 최대 이커머스 플랫폼 D사는 에이전트포스를 통해 고객 상담 자동화를 추진하고 있습니다. 고객이 "내가 구매한 제품은 언제 배송되나요?"라고 문의하면, AI가 고객의 주문 정보를 추출해 배송 일정과 예상 도착일을 자동으로 제공합니다. 이를 통해 상담사들의 반복적인 작업을 크게 줄이고, 업무 효율성을 극대화할 수 있게 되었습니다. 

D사는 에이전트포스 구축 과정에서 현업 부문이 AI가 각 단계별로 자동화되어 더 밀접하게 업무 환경과 연결되기를 원했다는 점을 강조했습니다. 고객의 문의가 들어오면 자동으로 감정 분석이 실행되고, 유사 케이스 검색과 답변 추천이 동시에 이루어지는 시스템을 요구했습니다. 또한, 상담이 완료된 후에는 답변의 적절성 평가가 자동으로 진행되기를 바라는 의견이 많았다고 전했다. D사는 이러한 현업의 요구사항을 반영해 향후 자동화 시스템을 더욱 개선할 계획이라고 밝혔습니다.

특히 고객 서비스 대행 비즈니스에서는 비용 효율성이 중요한 요소로 작용하고 있습니다. D사는 세일즈포스와의 협업을 통해 데이터 클라우드 시스템 도입과 예상 비용 산출에 대해 더욱 긴밀히 협력할 예정입니다. 이를 통해 고객 서비스의 품질을 유지하면서도 비용 효율성을 극대화할 계획입니다.

이번 행사에서 박세진 세일즈포스 부문장은 참석한 주요 기업의 CIO들과 함께 현장에서 AI 혁신을 도입하면서 겪는 다양한 고충을 공유하고, 그 해결책을 찾는 라운드 테이블 시간을 가졌습니다. 이를 통해 기업들은 서로의 경험을 바탕으로 AI 도입 방법과 전략을 논의하며, AI 혁신의 실질적인 전략을 찾을 수 있는 기회를 가졌습니다.

박세진 세일즈포스 부문장은 AI에 대한 기업들의 투자 규모가 지속적으로 확대되고 있다고 언급했습니다. 최근 조사에 따르면, 기업의 상당수가 1억 원 이상의 예산을 AI 도입에 투자했으며, 17%의 기업은 10억 원 이상의 대규모 투자를 진행했다고 전했습니다. 이러한 투자는 대부분 AI 도입 초기 단계에서 이루어졌으며, 향후 더 큰 규모의 투자로 이어질 가능성이 크다고 덧붙였습니다. 

AI의 발전에 따라 기존의 업무 형태도 변화하고 있으며, 특히 서비스업에서 그 활용 사례가 늘고 있습니다. 예를 들어, 서비스 분야에서는 AI는 단순한 자동화 도구를 넘어서 고객 맞춤형 상품 기획과 고객 경험 개선 등을 위해 더욱 창의적인 방식으로 활용되고 있으며, AI는 고객의 니즈를 실시간으로 분석하여 맞춤형 서비스를 제공함으로써 고객 만족도를 높이는 데 중요한 역할을 하고 있습니다.

이처럼 AI 도입이 활발한 가운데 세일즈포스는 고객 데이터의 안전한 관리와 신뢰 구축을 AI 도입의 핵심 요소로 강조했습니다. 회사의 핵심 가치인 '신뢰'를 바탕으로, 세일즈포스는 AI를 서비스, 세일즈, 마케팅 등 다양한 분야에 적극적으로 도입하고 있으며, AI가 산업 전반에 걸쳐 효율성을 높이고 고객 맞춤형 서비스를 제공하는 데 중요한 역할을 할 것이라고 설명했습니다. 이날 라운드 테이블에 참여한 C사의 관계자는 "AI 도입은 이제 모든 산업에서 필수적인 요소"라며, AI의 잠재력에 대한 확신을 나타냈습니다.

AI는 이제 기업의 성장과 경쟁력을 좌우하는 중요한 기술로 자리 잡았습니다. 기업들은 AI의 잠재력을 탐구하고 이를 최적화하는 방법을 모색하며, 점차 AI의 가능성을 현실로 만들어 가고 있습니다. AI 도입은 기술적 혁신을 넘어서 기업 비즈니스 성장을 이끌 핵심 요소로 자리 잡고 있으며, 앞으로도 많은 기업들이 이를 통해 새로운 기회를 창출하고 성장할 것으로 예상됩니다.