생성형 AI: 책임 있는 개발을 위한 5가지 지침

생성형 인공지능(AI)은 우리의 삶과 일하는 방식을 근본적으로 변화시킬 수 있는 힘을 가지고 있으며, 앞으로 몇 년 동안 가장 혁신적인 기업들에게도 도전할 것입니다. 하지만 생성형 인공지능에 위험성이 없는 것은 아닙니다. 생성형 AI 는 많은 것을 올바르게 처리하지만 많은 것을 잘못 이해하기도 합니다. 기업들이 생성형 AI 기술을 시장에 내놓기 위해 경쟁하면서, 생성형 인공지능이 불러올 수 있는 변수들을 계산하고 계획적으로 제공하는 것은 중요한 문제가 되었습니다. 단순히 생성형 AI 의 기술적 기능을 제공하는 것만으로는 충분하지 않으며, 생성형 AI 라는 혁신적인 기술의 올바른 사용 방법을 안내하기 위해 책임 있는 혁신을 우선시해야 합니다. 또한, 직원, 파트너 및 고객이 생성형 AI 를 안전하고 정확하고 윤리적으로 개발하고 사용할 수 있는 도구를 갖추도록 보장해야 합니다.

세일즈포스의 생성형 AI

세일즈포스에서 생성형 AI 와 더 광범위하게 엔터프라이즈 기술의 잠재력은 방대합니다. AI 는 이미 Customer 360 플랫폼의 중요한 구성 요소이며, 세일즈포스에서 개발한 Einstein AI 기술은, 세일즈포스의 비즈니스 애플리케이션 전반에 걸쳐 매일 약 2,000 억 개의 예측을 제공합니다. 예를 들어 아래의 비즈니스에서 활용됩니다:

• 영업: AI 인사이트를 활용하여 최적의 다음 단계를 식별하고 거래를 더 빠르게 완료합니다.
• 고객 서비스: AI 를 활용하여 사람과 유사한 대화를 진행하고 반복적인 질문과 업무에 대한 답변을 제공하여 상담사들이 더 복잡한 요청을 처리할 수 있도록 합니다.
• 마케팅: AI 를 활용하여 고객의 행동을 이해하고 마케팅 활동의 타이밍, 대상 및 콘텐츠를 개인화 합니다.
• 커머스: AI 를 활용하여 개인화된 쇼핑 경험과 더 스마트한 이커머스를 제공합니다. 생성형 AI 는 영업, 고객 서비스, 마케팅, 커머스 및 IT 상호작용 분야에서 고객이 새롭고 개인화된 방식으로 대중과 연결하는 데 도움이 될 수 있는 잠재력을 가지고 있습니다. 심지어 인증된 세일즈포스 개발자가 없는 상황에서도 고객이 간략한 코드를 작성하여 고품질의 코드를 더 빠르게 작성할 수 있도록 생성형 AI 가 도움이 될 수 있는 방법을 모색하고 있습니다. 이를 통해 CPU 사용량을 줄이는 것도 가능합니다.

신뢰할 수 있는 생성형 AI를 위한 지침

세일즈포스의 모든 혁신과 마찬가지로, 우리는 고객이 책임감 있게 혁신을 추진할 수 있도록 제품 전반에 윤리적인 가드레일과 지침을 포함시키고 있습니다. 이를 통해 문제가 발생하기 전에 잠재적인 문제를 예방할 수 있도록 합니다.

생성형 AI 분야에서 발생하는 거대한 기회와 도전을 고려하여, 우리는 신뢰할 수 있는 AI 원칙을 기반으로 마련된 새로운 가이드라인을 개발하여 생성형 AI의 책임 있는 개발과 구현에 초점을 맞추고 있습니다.

“우리는 여전히 생성형 AI라는 혁신적인 기술의 초기 단계에 있으며, 이러한 가이드라인은 계속 발전해 나가야 할 작업입니다. 이를 위해, 세일즈포스는 해결책을 찾을 수 있도록 다른 이들과 함께 학습하고 반복함으로써 개선하는 작업에 헌신하고 있습니다.”

다음은 세일즈포스 내부 및 외부에서 신뢰할 수 있는 생성형 AI의 개발을 지원하기 위해 사용하는 다섯 가지 가이드라인입니다.

1. 정확성: 고객이 자체 데이터로 모델을 훈련시킬 수 있도록 함으로써 해당 모델에서 정확성, 정밀도, 재현율을 검증 가능한 결과로 균형 있게 제공해야 합니다. AI 응답의 진실성에 대한 불확실성이 있는 경우 이를 전달하고 사용자가 이러한 응답을 검증할 수 있도록 해야 합니다. 이는 출처를 인용하거나 AI가 응답을 제공한 이유에 대해 설명하고 (예: 사고 연쇄 프롬프트), 다시 확인해야 할 부분(예: 통계, 권장 사항, 날짜)을 강조하며, 일부 작업이 완전히 자동화되지 않도록 방지하는 가드레일(예: 인간 검토 없이 제품 환경으로 코드를 배포)을 생성함으로써 수행할 수 있습니다.
2. 안전성: 모든 AI 모델과 마찬가지로 편향, 유해한 결과물 및 유독성을 완화하기 위해 편향성, 설명 가능성, 견고성 평가 및 레드팀 테스트(red teaming)를 수행해야 합니다. 또한 훈련에 사용되는 데이터에서 개인 식별 정보(PII)의 개인 정보 보호를 보장하고, 추가적인 피해를 방지하기 위한 가드레일(예: 코드를 자동으로 제품으로 푸시하는 대신 샌드박스에 게시)을 만들어야 합니다.
3. 정직성: 모델을 훈련하고 평가하기 위해 데이터를 수집할 때 데이터 출처를 존중하고 데이터 사용에 대한 동의를 확보해야 합니다. (예: 오픈 소스, 사용자 제공) 또한 AI 콘텐츠가 자율적으로 전달되는 경우에 AI가 콘텐츠를 생성했음을 투명하게 밝혀야 합니다. (예: 소비자에 대한 챗봇 응답 시, 워터마크 사용)
4. 권한 부여: 일부 경우에는 프로세스를 완전히 자동화하는 것이 가장 좋을 수 있지만, AI가 인간을 보조해야 하거나 인간의 판단이 필요한 경우도 있습니다. 우리는 생성형 AI가 인간의 능력을 “강화”할 수 있도록 적절한 균형을 찾고, 이러한 솔루션을 모든 사람이 접근 가능하도록 만들어야 합니다(예: 이미지와 함께 사용할 ALT 텍스트 생성).
5. 지속 가능성: 보다 정확한 모델을 만들기 위해 가능하면 적절한 크기의 모델을 개발하여 탄소 배출량을 줄여야 합니다. AI 모델을 평가함에 있어서 모델의 크기와 성능은 항상 비례하지 않습니다. 경우에 따라 더 작고 훈련이 잘 된 모델이 더 크고 덜 훈련된 모델보다 우수한 성능을 발휘합니다.

세일즈포스의 Trusted AI에 대해 자세히 알아보세요. 책임감 있고 정확하며 윤리적으로 AI를 개발하고 사용하기 위해 직원, 고객, 커뮤니티 및 파트너에게 제공하는 툴이 포함되어 있습니다.

궁금한 점은 언제든 문의주세요.
전문가가 도움을 드리겠습니다.

문의하기