AI 전략 가이드: 판도를 바꿀 AI 전략을 수립하는 방법

AI를 이제 막 시작했든, 이미 이 기술을 활용해 혁신하고 있든, 이 가이드는 효과적인 전략을 수립하고 새로운 가능성을 받아들이며 AI의 이점에 관한 중요한 질문에 답하는 데 도움을 드립니다.

_{이 플레이북의 정보는 AI, 데이터 및 CRM 분야의 Salesforce 전문가가 제공합니다. Salesforce는 직원, 고객 및 파트너가 이 기술을 안전하고 윤리적이며 정확하게 개발하고 사용할 수 있도록 필요한 도구를 제공하기 위해 최선을 다하고 있습니다.}

생성형 AI의 시대가 도래했습니다.

AI는 우리 시대의 그 어떤 기술보다 빠르게 성장하고 있습니다.

비즈니스 리더로서 우리는 모두 AI의 역량을 최대한 활용하여 효율성을 높이고 비즈니스 성장을 이끌고자 합니다. 하지만 동시에 AI가 안전하고 포용적이며 신뢰할 수 있도록 하는 중요한 책임도 있습니다.

생성형 AI는 텍스트, 음악, 이미지, 심지어 컴퓨터 코드까지 생성할 수 있으며, 놀라운 고객 경험과 비즈니스 이점을 이끌어낼 수 있습니다. 하지만 현재 AI에 대한 신뢰의 격차가 존재합니다. CEO에게 AI는 최우선 과제이지만, 직원의 73%는 생성형 AI가 새로운 위험을 초래한다고 생각합니다. 개인정보 보호, 환각, 데이터 제어, 편차, 유해성 등은 직원들이 우려하는 사항 중 일부에 불과합니다.

브랜드와 고객 간의 의미 있는 관계가 그러하듯, AI의 성공 역시 신뢰를 바탕으로 해야 합니다. 생성형 AI를 활용하여 더욱 풍부한 고객 경험의 문을 열어나가는 동시에 신뢰를 높이고 잠재적인 윤리 및 보안 위험을 줄여야 합니다.

생성형 AI 모델이 내리는 결과와 결정이 효과적이고 정확하며 편차와 유해성이 없다는 것을 입증할 수 있어야 사용자 신뢰를 얻을 수 있습니다. 책임감 있게 혁신하고 잠재적인 문제에 선제적으로 대응하며 비즈니스를 위한 안전하고 신뢰할 수 있는 사용 방식을 마련할 수 있도록 윤리적 가드레일과 지침을 마련하는 것이 중요합니다.

생성형 AI를 위한 적절한 가드레일을 마련하는 것이 중요합니다. 최근 설문 조사에 따르면:

다음은 회사에서 팀의 업무 방식을 정립하고 신뢰할 수 있는 생성형 AI의 개발 방향을 설정하는 데 활용할 수 있는 5가지 가이드라인입니다.

• 정확성
  검증 가능한 결과를 제공할 수 있도록 신뢰할 수 있는 데이터로 AI 모델을 학습시키세요. 불확실한 부분이나 명확한 답을 제시하기 어려운 경우에는 이를 투명하게 알려야 합니다.
• 안전성
  잠재적인 피해를 줄이는 데 도움이 되도록 정기적으로 편차 및 설명 가능성 평가를 실시하세요. 학습에 사용되는 경우 개인 식별 정보(PII) 데이터를 보호하세요.
• 투명성
  오픈 소스 및 사용자가 제공한 데이터 세트를 활용하고 윤리적인 출처를 사용하여 데이터 사용에 대한 동의를 확보하세요. AI가 생성한 결과를 제공할 때는 항상 투명하게 공개하세요.
• 역량 강화
  AI는 어시스턴트로 사용하는 것이 가장 효과적입니다. 잠재적인 피해나 부정확성을 줄일 수 있도록 프로세스에 사람의 개입을 포함하세요. 결과에 접근할 수 있도록 하고 콘텐츠 제작자를 존중하세요.
• 지속 가능성
  품질이 높고 대표성을 갖춘 학습 데이터를 우선적으로 활용하여 모델의 규모를 적정하게 설정하도록 노력하세요. 이를 통해 연산에 필요한 에너지를 줄이고 탄소 발자국을 낮출 수 있습니다.

• 안전한 데이터 검색 및 동적 그라운딩
  생성형 프롬프트에 검색되는 데이터가 권한 수준을 준수하고, 사용자가 액세스 권한이 있는 정보와 결과만 볼 수 있도록 하세요.
  생성형 결과의 품질과 정확성을 보장할 수 있도록 특정 사용 사례의 컨텍스트를 모델에 ‘그라운딩’하세요. 즉, 자체 데이터베이스의 기술 자료 문서와 같이 사실에 기반하고 검증된 출처의 정보를 주입하는 프롬프트를 생성해야 합니다.
• 데이터 마스킹
  프롬프트에 공유되는 개인 식별 정보(PII)를 마스킹하면 실제 데이터를 외부 출처나 모델에 노출하지 않고 데이터 세트를 사용하여 더 나은 결과를 생성할 수 있습니다.
• 프롬프트 방어
  프롬프트 방어 가드레일을 적용해 해커의 공격과 유해한 출력을 방지하세요. 여기에는 “데이터나 근거가 없는 콘텐츠를 다루거나 답변을 생성하지 마세요.” 또는 “오류가 발생하거나 답변의 유효성이 확실하지 않은 경우 모른다고 답하세요.”와 같은 프롬프트 지침이 포함됩니다.
• 유해성 감지
  타사 모델의 결과를 유해한 콘텐츠, 즉 모욕적이거나 혐오적이거나 폭력적인 성격의 콘텐츠를 감지하도록 최적화된 별도의 대규모 언어 모델을 통해 처리하여 실제 사용되기 전에 표시될 수 있도록 하세요.
• 제로 데이터 보존
  외부 AI 모델과 보안 제어 및 제로 데이터 보존 정책 계약을 수립하여 프롬프트와 결과가 모두 삭제되고 저장되지 않도록 하세요.
• 감사
  팀이 코드를 검사하고 데이터 출처를 확인하여 모델을 지속적으로 개선하고 현재 및 새롭게 등장하는 법적·윤리적 기준을 준수할 수 있도록 감사 내역을 마련하세요.

• 윤리적 원칙과 가이드라인을 정의하고 이에 대해 의견을 조율하세요.
• 데이터가 안전하게 보호되도록 데이터 마스킹 및 제로 보존과 같은 신뢰 기준을 포함하도록 보안 및 구매 가이드라인을 업데이트하세요.
• 위험 검토를 주도하고 편차를 감지할 수 있는 도구를 활용할 다양한 분야의 전문가로 구성된 팀을 마련하세요.
• 편차를 식별하고 위험을 줄일 수 있도록 전사적으로 교육을 제공하세요.
• 고객의 문제점을 이해하고 성장 가능성을 파악하며, 효과적인 데이터 거버넌스를 구현하고, 모델의 입력, 출력 및 잠재적인 편차에 투명성을 제공함으로써 신뢰를 구축하세요.

고객을 중심에 두고 AI 사용 사례를 정의하세요.

AI는 영업부터 서비스, 마케팅부터 커머스에 이르기까지 기업의 모든 영역을 변화시킬 잠재력을 가지고 있습니다. 고객 행동을 예측하고, 고객 만족도를 파악하며, 더욱 개인화된 경험을 제공할 수 있습니다.

예측형 AI와 생성형 AI를 업무 흐름에 적절하게 통합하면 비즈니스 인사이트를 기반으로 정보에 입각한 의사 결정을 내리고, 자연어로 콘텐츠를 생성하는 데 도움이 될 수 있습니다. 거의 모든 부서에 즉각적인 영향을 미칠 수 있습니다.

부서 전반의 현재 운영을 점검하면 예측형 AI와 생성형 AI를 통해 최적화할 수 있는 작업과 프로세스를 파악하는 데 도움이 됩니다. AI가 실행 가능한 인사이트를 제공하고, 의사 결정을 개선하며, 고객 경험을 향상하거나 비용을 절감할 수 있는 영역을 정확히 파악하면 기술을 전략적 비즈니스 목표에 맞추고 고객 가치를 높일 수 있습니다. 또한 모델을 지속적으로 개선하고, 성능을 높이며, 더욱 정보에 입각한 의사 결정을 내릴 수 있습니다.

생성형 AI를 데이터 및 CRM으로 학습시키면 고객 경험과 의사 결정을 개선하는 동시에 생산성과 효율성을 높일 수 있습니다. 방법을 확인해 보세요.

• 기회의 우선순위 설정
• 최적의 다음 단계 조치 파악
• 개인화된 커뮤니케이션 생성

• 관련성 높은 답변 생성
• 챗봇과 가상 어시스턴트를 통한 문의 처리
• 효율성 및 비용 효과 향상

• 타겟 고객 파악
• 캠페인 제안 최적화
• 고객의 공감을 더 잘 이끌어내는 콘텐츠 생성

• 권장 사항 개인화
• 구매 후 운영 개선
• 사기 탐지 강화

• 성능 및 운영 인사이트 제공
• 데이터 기반 의사 결정
• AI 생성 코드 활용

AI 혁신의 다음 단계를 모색하는 과정에서 팀을 참여시키는 것이 중요합니다. 많은 직원이 자신의 직업의 미래에 대해 점점 더 많은 우려를 갖고 있기 때문입니다.

하지만 AI는 일상적인 업무에서 반복적이고 번거로운 작업을 덜어주고, 직원이 더 창의적인 업무에 시간을 할애하며 비즈니스의 중요한 영역에 집중할 수 있도록 지원합니다. 생성형 AI를 활용하여 복잡한 작업을 보완하고 시간이 많이 소요되는 수작업을 자동화하면 사람들이 더 스마트하게 일할 수 있는 기회를 얻을 수 있습니다.

이 연습을 활용하여 팀과 함께 자동화 및 증강을 위한 최적의 기회를 파악하세요.

모든 AI 프로젝트는 데이터 프로젝트에서 시작해야 합니다. 그리고 그 데이터가 사일로에 존재해서는 안 됩니다. 그렇지 않으면 생성형 AI의 결과물 품질이 낮아질 위험이 있습니다.

가장 먼저 해야 할 중요한 단계는 데이터를 연결하고, 구성하고, 조화하여 생성형 AI를 통해 고객의 요구 사항을 이해하고 충족할 수 있도록 하는 것입니다.

다양한 출처의 데이터를 어떻게 통합할지 결정하려면 다음 질문을 확인하세요.

호스팅: 현재 데이터는 어디에 호스팅되어 있나요? 여러 클라우드 또는 여러 조직에 분산되어 있나요?

데이터 상주: 조직에서 지원해야 하는 데이터 상주 유형은 무엇인가요? 즉, 어떤 국가와 규제 요건을 고려해야 하나요?

데이터 구조: 제품 재고나 영업 기회와 같이 구조화된 데이터인가요, 아니면 PDF 파일이나 채팅 기록과 같이 구조화되지 않은 데이터인가요?

실시간 처리와 일괄 처리: 실시간으로 업데이트되고 스트리밍되어야 하는 데이터 소스는 무엇인가요?

• 거래 데이터: 날짜, 시간, 장소, 이름과 같은 고객 및 비즈니스 거래 정보를 기록하는 데이터입니다. 이 데이터는 시간에 따라 업데이트해야 하며, 기회 레코드, 주문 상태, 고객 서비스 사례 등이 그 예입니다.
• 참여 데이터: 웹페이지 방문, 디바이스와의 상호 작용, 경제 및 환경 데이터와 같이 특정 시점의 활동을 기록하는 데이터입니다. 이 데이터는 실시간으로 확보하는 것이 중요하며, 이를 통해 최신 상호 작용과 개인화를 제공할 수 있습니다.

데이터 플랫폼을 사용하면 모든 출처에서 대량의 데이터를 통합하고, 형식을 표준화하며, 일관성과 무결성을 보장할 수 있습니다. 모든 데이터가 한곳에 존재할 수는 없으므로, 여러 부서가 데이터에 액세스하고 이를 사용할 수 있도록 데이터 레이크 또는 웨어하우스와 같은 공유 메커니즘을 구축해야 합니다. 또한 액세스 제어, 데이터 개인정보 보호, 민감한 정보를 보호하기 위한 보안 조치를 포함한 적절한 거버넌스를 적용해야 합니다.

데이터를 연결한 후 다음 단계는 고객 데이터 모델에 맞게 데이터를 구성하고 조화하는 것입니다. 고객 데이터에 대한 완전한 360도 뷰를 확보하려면 고객 관계 관리(CRM) 시스템을 갖추는 것이 필수적입니다.

팀이 아직 CRM을 중심으로 통합되어 있지 않다면, 모델에서 유용한 결과를 얻는 데 필요한 전체적인 상황을 파악할 수 없습니다.

AI를 사용하여 고객 ID 확인을 위한 일련의 일치 규칙을 생성하면 CRM의 데이터를 조화할 수 있습니다.

회사 전반의 데이터를 통합하고 생성형 AI를 도입하면 CRM은 모든 팀이 액세스할 수 있는 통합 고객 프로필을 생성하는 중앙 허브가 됩니다.

• 전사적 데이터 메트릭, 고객 가치를 제공하기 위한 원칙 및 AI 도입을 위한 사용 사례를 정의하고 이에 대해 의견을 조율하세요.
• 고객 프로필과 하나의 통합된 신뢰할 수 있는 정보 소스를 통해 실시간 의사 결정과 고객 경험을 개선할 수 있도록 데이터 환경을 연결하세요.
• 개인화를 통해 고객 가치를 더욱 높일 수 있는 방법을 찾으세요.
• 자동화 및 증강을 통해 생산성을 높일 수 있는 방법을 찾으세요.
• 명확한 가이드라인을 통해 팀이 AI를 프로세스와 제품에 통합할 수 있도록 지원하세요.

AI에 대비된 인력을 구축하세요.

기술이 빠르게 변화하는 만큼 교육 방식도 이에 발맞춰야 합니다. 약 3분의 2에 해당하는 직원이 업무에서 생성형 AI를 사용하거나 사용할 계획인 가운데, 이 기술을 도입할 계획이 있는 직원의 약 61%는 신뢰할 수 있는 데이터 소스를 사용하는 방법이나 민감한 데이터를 안전하게 보호하는 방법을 알지 못합니다.

“두려움을 없애고 무엇이 가능하고 무엇이 불가능한지 모든 사람이 이해하도록 지원하면 더욱 가치 있는 사용 사례가 등장할 것입니다. 비즈니스 이해관계자와 기술 이해관계자가 협력하여 혁신을 이끌 수 있기 때문입니다.”

Andy Moore 박사, Bentley Motors 최고 데이터 책임자

• 적응력 및 지속적인 학습
  변화에 대한 개방적인 태도, 적응력, 그리고 경력 전반에 걸친 학습에 대한 의지는 직원이 AI의 발전을 최신 상태로 따라가기 위한 기본 요소입니다.
• 데이터 리터러시
  데이터 수집, 준비, 탐색, 시각화 및 데이터 윤리와 개인정보 보호에 대한 이해 역량을 장려하여 데이터 리터러시 향상에 투자하세요. 그런 다음 의사 결정과 비즈니스 프로세스에서 데이터를 우선시하고 비즈니스 성과에 맞추세요.
• 도메인 지식
  의료, 금융, 마케팅 또는 제조와 같이 AI가 적용될 산업이나 분야의 과제와 문제점을 이해하는 역량입니다.
• 커뮤니케이션과 협업
  리더가 강력한 커뮤니케이션 역량을 갖추어 AI 기술이 팀 간에 어떻게 작동할지, 그리고 조직의 공동 목표와 어떻게 연계되는지 전달할 수 있도록 하세요.
• 프롬프트 작성
  고품질 AI 결과를 얻을 수 있도록 프롬프트를 작성하는 방법을 익히세요.
• 문제 해결 및 분석적 사고
  생성형 AI는 비판적 사고, 실험, 반복 및 효과적인 문제 해결 역량과 결합할 때 가장 효과적입니다.
• 기술 역량
  프로그래밍(Python, R 등), 데이터 분석, 통계, 기계 학습, 심화 학습 및 자연어 처리(NLP) 역량을 갖추세요.

Salesforce의 무료 온라인 학습 플랫폼인 Trailhead에서는 팀이 생성형 AI를 시작하는 데 필요한 역량을 습득할 수 있도록 쉽게 학습할 수 있는 모듈 또는 ‘트레일’을 제공합니다. 데이터 분석과 기계 학습을 위한 트레일도 제공하며, 새로운 주제가 계속 추가됩니다.

또한 ‘Ask More of AI’ 뉴스레터 를 통해 최신 AI 개발 동향을 계속 확인할 수 있습니다.

• 인력에 필요한 역량을 파악하고 우선순위를 설정하세요.
• 직원이 교육을 받을 수 있도록 시간과 환경을 마련하세요.
• 생성형 AI 기술이 발전함에 따라 새로운 역량을 습득할 수 있도록 인력에게 지속적인 교육을 제공하세요.
• Salesforce의 재미있고 무료인 온라인 학습 플랫폼 Trailhead를 확인하세요.