비즈니스 성장을 가속화할 수 있는 유용한 정보를 받아보세요.
생성형 AI: 책임 있는 개발을 위한 5가지 지침
하지만 생성형 인공지능에 위험성이 없는 것은 아닙니다. 생성형 AI 는 많은 것을 올바르게 처리하지만 많은 것을 잘못 이해하기도 합니다. 기업들이 생성형 AI 기술을 시장에 내놓기 위해 경쟁하면서, 생성형 인공지능이 불러올 수 있는 변수들을 계산하고 계획적으로 제공하는 것은 중요한 문제가 되었습니다. 단순히 생성형 AI 의 기술적 기능을 제공하는 것만으로는 충분하지 않으며, 생성형 AI 라는 혁신적인 기술의 올바른 사용 방법을 안내하기 위해 책임 있는 혁신을 우선시해야 합니다. 또한, 직원, 파트너 및 고객이 생성형 AI 를 안전하고 정확하고 윤리적으로
개발하고 사용할 수 있는 도구를 갖추도록 보장해야 합니다.
세일즈포스의 생성형 AI
세일즈포스에서 생성형 AI 와 더 광범위하게 엔터프라이즈 기술의 잠재력은 방대합니다. AI 는 이미 Customer 360 플랫폼의 중요한 구성 요소이며, 세일즈포스에서 개발한 Einstein AI 기술은, 세일즈포스의 비즈니스 애플리케이션 전반에 걸쳐 매일 약 2,000 억 개의 예측을 제공합니다. 예를 들어 아래의 비즈니스에서 활용됩니다:
영업: AI 인사이트를 활용하여 최적의 다음 단계를 식별하고 거래를 더 빠르게 완료합니다.
고객 서비스: AI 를 활용하여 사람과 유사한 대화를 진행하고 반복적인 질문과 업무에 대한 답변을 제공하여 상담사들이 더 복잡한 요청을 처리할 수 있도록 합니다.
마케팅: AI 를 활용하여 고객의 행동을 이해하고 마케팅 활동의 타이밍, 대상 및 콘텐츠를 개인화 합니다.
커머스: AI 를 활용하여 개인화된 쇼핑 경험과 더 스마트한 이커머스를 제공합니다. 생성형 AI 는 영업, 고객 서비스, 마케팅, 커머스 및 IT 상호작용 분야에서 고객이 새롭고 개인화된 방식으로 대중과 연결하는 데 도움이 될 수 있는 잠재력을 가지고 있습니다. 심지어 인증된 세일즈포스 개발자가 없는 상황에서도 고객이 간략한 코드를 작성하여 고품질의 코드를 더 빠르게 작성할 수 있도록 생성형 AI 가 도움이 될 수 있는 방법을 모색하고 있습니다. 이를 통해 CPU 사용량을 줄이는 것도 가능합니다.
신뢰할 수 있는 생성형 AI를 위한 지침
세일즈포스의 모든 혁신과 마찬가지로, 우리는 고객이 책임감 있게 혁신을 추진할 수 있도록 제품 전반에 윤리적인 가드레일과 지침을 포함시키고 있습니다. 이를 통해 문제가 발생하기 전에 잠재적인 문제를 예방할 수 있도록 합니다.
생성형 AI 분야에서 발생하는 거대한 기회와 도전을 고려하여, 우리는 신뢰할 수 있는 AI 원칙을 기반으로 마련된 새로운 가이드라인을 개발하여 생성형 AI의 책임 있는 개발과 구현에 초점을 맞추고 있습니다.
다음은 세일즈포스 내부 및 외부에서 신뢰할 수 있는 생성형 AI의 개발을 지원하기 위해 사용하는 다섯 가지 가이드라인입니다.
정확성: 고객이 자체 데이터로 모델을 훈련시킬 수 있도록 함으로써 해당 모델에서 정확성, 정밀도, 재현율을 검증 가능한 결과로 균형 있게 제공해야 합니다. AI 응답의 진실성에 대한 불확실성이 있는 경우 이를 전달하고 사용자가 이러한 응답을 검증할 수 있도록 해야 합니다. 이는 출처를 인용하거나 AI가 응답을 제공한 이유에 대해 설명하고 (예: 사고 연쇄 프롬프트), 다시 확인해야 할 부분(예: 통계, 권장 사항, 날짜)을 강조하며, 일부 작업이 완전히 자동화되지 않도록 방지하는 가드레일(예: 인간 검토 없이 제품 환경으로 코드를 배포)을 생성함으로써 수행할 수 있습니다.
안전성: 모든 AI 모델과 마찬가지로 편향, 유해한 결과물 및 유독성을 완화하기 위해 편향성, 설명 가능성, 견고성 평가 및 레드팀 테스트(red teaming)를 수행해야 합니다. 또한 훈련에 사용되는 데이터에서 개인 식별 정보(PII)의 개인 정보 보호를 보장하고, 추가적인 피해를 방지하기 위한 가드레일(예: 코드를 자동으로 제품으로 푸시하는 대신 샌드박스에 게시)을 만들어야 합니다.
정직성: 모델을 훈련하고 평가하기 위해 데이터를 수집할 때 데이터 출처를 존중하고 데이터 사용에 대한 동의를 확보해야 합니다. (예: 오픈 소스, 사용자 제공) 또한 AI 콘텐츠가 자율적으로 전달되는 경우에 AI가 콘텐츠를 생성했음을 투명하게 밝혀야 합니다. (예: 소비자에 대한 챗봇 응답 시, 워터마크 사용)
권한 부여: 일부 경우에는 프로세스를 완전히 자동화하는 것이 가장 좋을 수 있지만, AI가 인간을 보조해야 하거나 인간의 판단이 필요한 경우도 있습니다. 우리는 생성형 AI가 인간의 능력을 “강화”할 수 있도록 적절한 균형을 찾고, 이러한 솔루션을 모든 사람이 접근 가능하도록 만들어야 합니다(예: 이미지와 함께 사용할 ALT 텍스트 생성).
지속 가능성: 보다 정확한 모델을 만들기 위해 가능하면 적절한 크기의 모델을 개발하여 탄소 배출량을 줄여야 합니다. AI 모델을 평가함에 있어서 모델의 크기와 성능은 항상 비례하지 않습니다. 경우에 따라 더 작고 훈련이 잘 된 모델이 더 크고 덜 훈련된 모델보다 우수한 성능을 발휘합니다.
세일즈포스의 Trusted AI에 대해 자세히 알아보세요. 책임감 있고 정확하며 윤리적으로 AI를 개발하고 사용하기 위해 직원, 고객, 커뮤니티 및 파트너에게 제공하는 툴이 포함되어 있습니다.
Salesforce Live Korea 2023 다시 보기
Salesforce Live Korea 2023
함께 보면 좋은 콘텐츠
세일즈포스의 넷제로(Net Zero) 솔루션
Salesforce 활용 웹 진단
관련 제품
Sales
영업 지원
스마트하고, 빠르게 영업
Slack
슬랙
AI 생산성 플랫폼
Service
고객 서비스
고객 서비스 실현
Tableau
태블로
Marketing
B2C 마케팅 자동화
실현한 마케팅
Commerce
커머스
언제 어디서나 고객 연결