세일즈포스가 제시하는 기업용 AI 미래를 위한 키워드: 신뢰, 데이터, 지속가능성

인공지능(AI)을 활용한 디지털 전환이 전 세계적인 화두인 만큼, 최근 기업들은 AI 기반의 업무 자동화를 통해 효율성과 생산성을 개선하고, 인적 오류에대한 감소를 경험하고 있습니다. 이에 기업들의 AI 사용에 대한 요구가 점점 늘어나며, 정부와 빅테크 기업에서는 AI의 무분별한 개발을 자제하고 안정성을 키우는데 힘을 모으는 등 AI에 대한 규제와 정책 프레임워크 수립에 대한 움직임이 활발히 일어나고 있습니다.

전 세계 AI CRM 시장을 선도하고 있는 세일즈포스는 이미 10년 전부터 AI 기술의 연구 및 개발에 적극적으로 참여해 왔습니다. 2014년에는 세일즈포스 AI 리서치 (Salesforce AI Research)를 설립하여 현재까지 200개 이상의 연구 논문을 발표하고 300개 이상의 AI 특허를 등록했습니다. 2016년에는 자체 개발 AI인 아인슈타인 (Salesforce Einstein)을 선보였고, 2018년에는 기술의 윤리적이고 인간적인 사용을 위한 사무실(Office of Ethical and Human Use of Technology)을 설립해 AI가 사회에 기여하고 도움을 줄 수 있는 방안을 모색하고 있습니다.

최근, 세일즈포스는 AI 기술 경쟁이 과열되는 것을 우려하며 AI 기술 진보에 있어서 속도만을 생각하기보다는 신뢰와 안정성을 우선시할 것을 강조하고 있습니다. AI 기술의 비약적인 발전을 꿈꿨던 상황에서, 세일즈포스가 말하는 AI의 안정성과 신뢰가 어떤 의미인지 알아보고 기업용 AI의 미래를 위해 생각해 봐야 할 사항에 대해 살펴보도록 하겠습니다.

기업용 AI와 소비자용 AI의 구분

AI 기술 발전은 우리가 기존에 경험해 보지 못한 새로운 세상을 열어 주었습니다. 미지의 영역에 대한 두려움과 기대가 뒤섞인 가운데 기술의 발전이 위협으로 다가올 것이라는 우려의 목소리가 높습니다. AI 기술 도입에 있어 선두 주자인 세일즈포스의 최고경영자(CEO) 마크 베니오프는 “기술 자체는 좋거나 나쁘지 않습니다. 기술로 무엇을 하느냐가 문제죠” 라고 이야기했습니다. 세일즈포스는 기술 혁명 속에서 AI 기술을 책임있게 활용하기 위해 정부, 기업, 시민사회가 협력해 프레임워크와 지침을 마련할 것을 강조하고 있습니다.

효과적인 정책 프레임워크를 개발하기 위해서는 기업용 AI와 소비자용 AI 간의 차이를 살펴봐야 합니다.

	기업용 AI	소비자용 AI
사용 대상	비즈니스 환경에 맞춰 설계	누구나 이용 가능
컨텍스트	비즈니스 니즈에 맞춰 특정한 인풋과 아웃풋이 가능하도록 설계	보다 넓은 맥락에서 사용되기 때문에 오용되거나 유해한 영향을 받을 수 있는 가능성 존재
데이터	기업 고객과 합의를 거쳐 얻은 데이터를 제한된 환경에서 활용	여러 소스에서 데이터를 가져올 수 있음
개인 정보 보호, 보안, 정확성	고객을 위한 추가 보안 장치를 제공하여 개인 정보 보호	요구사항 없음
계약상 의무	고객 계약 및 규칙 충족의 의무 정기적 검토	사용자별 맞춤형 계약 불가능 모든 사용자에게 일괄적으로 어떤 데이터를 수집하고, 어떻게 사용할지 알려줌

소비자용 AI의 개방성과 달리, 기업용 AI는 비즈니스 환경에서 개발되고 배포되는 AI로 고객 데이터를 상업적으로 활용하지 않고, 고객과의 계약 의무로 인해 보다 높은 수준의 개인 정보 보호, 보안, 공정성, 정확성을 확보하고 있습니다. 기업용 AI는 신뢰와 책임 있는 사용이라는 가치 위에서 만들어졌으며 이를 지속 발전시켜 나가기 위한 정책과 규율이 필요한 시점입니다.

기업용 AI의 ‘데이터’ 안전성 확보를 위한 AI 거버넌스

세일즈포스는 AI 기술이 신뢰할 수 있는 방향으로 발전되기 위해서는 전 세계적으로 상호 운용 가능한 AI 정책 및 규제 프레임워크를 수립해야 한다고 말해왔습니다. 최근, 기업과 각국 정부에서 AI를 사용할 때 윤리적 지침과 규정의 필요성을 인식하게 되며, AI 기술의 안정성 확보를 위한 AI 거버넌스 구축에 대한 움직임이 일어나고 있습니다.

전 세계에서 AI의 안정성과 규제에 대해 이야기할 때 활발히 논의되고 있는 사항 중 하나는 데이터입니다. 특히 기업용 AI의 경우 어떤 정보를 수집하고 어떻게 활용할지 결정하는 사항은 매우 중요하며, 개인 정보 보호 및 보안을 고려하여 데이터 수집은 엄격히 관리되어야 합니다. 현재 각국에서 논의되고 있는 AI 관련 규제와 법안을 살펴보도록 하겠습니다.

유럽연합(EU)은 강한 규제에 초점을 둔 세계 최초의 AI 규제법안인 ‘유럽연합 인공지능 법 (EU Artificial Intelligence Act)’ 을 지난 5월 최종 승인하고, 2026년부터 전면 시행하기로 했습니다. AI 위험을 4단계로 구분하고, 위반 기업에 최대 연 매출의 7% 를 벌금으로 부과할 예정입니다. 가장 높은 고위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술로 이 분야에서는 사람의 감독하여 AI를 사용하고, 위험관리시스템을 구축하야 합니다. 금지되는 AI 기술로는 원격 생체인식 식별 시스템, 개인의 특성과 행동 데이터화하고 분류하는 등의 기술이 속합니다.

미국은 작년 10월 바이든 대통령의 ‘안전하고 신뢰할 수 있는 AI 행정명령’이 첫 AI 규제입니다. 앞으로 기업들은 AI 개발 단계부터 취약점을 찾아 안전성 테스트 결과를 정부에 보고하는 것을 의무화하고, AI가 안보에 끼치게될 위협을 보고서에 포함해야 합니다.

한국에서는 지난 4월 과학기술정보통신부가 민·관 AI 최고위 거버넌스인 ‘AI전략최고위협의회’를 출범했습니다. 이를 통해 국내 AI 인프라를 확충하고, AI 활용 정책 전반에 제언, 자문 등의 역할을 수행할 예정입니다. 또한, 개인정보보호위원회, 방송통신위원회 등 주요 정부 부처 및 기관들이 AI 관련 가이드라인과 법안 수립을 준비하고 있습니다. 특히, 개인정보보호위원회는 AI 환경에서의 데이터 처리 복잡성을 고려해, 개인정보 보호법 적용 원칙과 기준을 명확히 한 가이드라인을 발표할 예정입니다. 이를 통해 AI 기술이 개인정보를 처리하는 과정에서 발생할 수 있는 문제를 예방하고, 신뢰할 수 있는 AI 성장 요건을 조성할 예정입니다.

.

“아인슈타인 코파일럿은 고객 관계에서 일어나고 있는 상황을 정확히 이해하는 능력을 갖춘 유일한 코파일럿입니다.”

– 마크 베니오프, 세일즈포스 CEO

기업용 AI를 위한 필수요건 – ‘신뢰’를 최우선으로 하는 기업용 AI CRM의 사례

세일즈포스는 AI 기술이 개인과 기업에 엄청난 기회를 가져올 것이라고 믿고 있습니다. 2023년 세일즈포스에서 발표한 “Connected Customer 현황” 보고서에 따르면 기업이 AI를 채택하고 윤리적으로 사용할 것이라고 믿는 고객은 57%에 불과했습니다. 반면, 고객의 80%는 기업이 제공하는 특별한 경험이 제품이나 서비스만큼 중요하다고 말합니다. 고객에게 특별한 경험을 선사하기 위해 기업은 생성형 AI 기술을 채택하고 있습니다. 이처럼 고객과의 관계 관리를 위한 솔루션을 제공하는 세일즈포스에서 어떻게 고객 데이터를 보호하여 신뢰를 형성하고 있는지 알아보겠습니다.

세일즈포스는 소비자용 AI가 아닌, 신뢰할 수 있는 기업용 AI CRM 입니다. 세일즈포스는 고객의 비즈니스 니즈에 맞는 고도로 특화된 기업용 AI 솔루션을 제공합니다. 고객별 맞춤 이메일 생성, 판매, 또는 서비스 에이전트 지원, 고객 상호작용 등 일상적인 업무를 수행하는데 도움을 주는 AI 모델을 설계하는데 중점을 두고 있습니다. 또한 아인슈타인 코파일럿이라는 대화형 AI를 도입하여 고객이 문제를 더욱 빠르게 해결할 수 있도록 지원하고 있습니다.

세일즈포스에서 신뢰는 1순위 가치입니다. 고객에게 AI CRM 솔루션을 제공할 때 신뢰, 안전, 윤리를 중심으로 AI를 개발하고 배포하고 있습니다. 고객의 데이터는 제품이 아니라는 가치 아래 세일즈포스는 엄격한 데이터 정책 제어 규정을 준수하고 있습니다. 또한, 세일즈포스 C360 플랫폼에 내장된 아인슈타인 트러스트 레이어는 개인정보보호 및 보안 조치를 통해 신뢰할 수 있는 환경에서 AI와 상호작용을 지원하여 고객 데이터 보안 이슈를 방지하고 있습니다.

데이터 레이크하우스 101

데이터 레이크하우스 기술을 기반으로 하여 구축된 고객 데이터 플랫폼인 Salesforce Data Cloud의 기본 사항을 살펴보세요. 이 트레일은 Salesforce Data Cloud를 명확하게 설명해 주는 유용한 가이드입니다.

시작하기

기업용 AI와 함께 만드는 ‘지속 가능한 미래’

AI 윤리와 신뢰가 현재 가장 활발히 논의되고 있는 주제라면, AI와 미래에 대해 생각해 봐야 할 다음 주제는 바로 환경과 지속가능성입니다. AI 운영 시 탄소 배출이 일어나거나, 데이터센터에서 발생하는 열을 냉각하기 위해 물을 사용하는 등 AI 기술 발전은 환경에 직접적인 영향을 미칠 수 있습니다. 기업용 AI CRM 기술을 선도하는 세일즈포스는 지속 가능한 미래를 보장하기 위해 AI 기술이 주는 혜택을 극대화하면서 환경적 영향을 완화할 방안을 모색하고 있습니다.

이를 위해 세일즈포스는 ‘지속 가능한 AI 정책 원칙’ 선보이고, 관련 정책 개발 시 생각해 봐야 할 우선순위를 설정했습니다. 먼저, 인공지능의 환경적 영향을 관리하고 측정해야 한다고 밝힙니다. AI 시스템의 환경적 영향을 측정하고 보고하기 위한 표준화된 지표가 필요하며, AI 모델을 제공하는 모든 업체가 공통의 지표를 활용해 AI 개발 및 운영과 관련된 에너지 효율성과 탄소 발자국을 공개해야 한다고 이야기합니다. 또한, AI 기술의 위험을 결정하고 고위험 모델을 분류할 때 환경적 영향을 고려해야 한다고 말합니다.

AI 기술이 주는 혜택을 이용해 기후 변화에 대응하기 위한 혁신 기술을 개발할 수 있습니다. AI의 데이터 분석, 패턴 인식, 결과 예측 능력은 환경 보호에 대한 접근 방식을 혁신할 수 있는 가능성이 있습니다. AI를 활용해 기후 모델링과 시뮬레이션을 한다면 미래 기후 변화를 예측할 수 있습니다. 또한, 정부, 민간, 학계의 협력을 촉진해 AI 기술의 환경적 응용을 가속화하고, 이러한 프로그램을 촉진하기 위해 보조금과 세제 우대 혜택을 제공할 것을 제안하고 있습니다.