급변하는 AI 시대, 이제 AI는 단순히 정보를 검색하거나 질문에 답하는 수준을 넘어 자율적으로 판단하고 인간처럼 행동하는 수준까지 발전했습니다. 하지만 AI 기술의 급속한 발전은 혁신의 가능성만큼이나 다양한 우려의 목소리도 불러일으키고 있습니다.
이에 세일즈포스는 기업의 AI 활용이 소비자 신뢰도에 미치는 영향과 성공적인 AI 활용을 위한 기업의 핵심 과제를 분석한 ‘AI 시대의 고객경험 현황 보고서(State of the AI Connected Customer research)’를 발표했습니다. 전 세계 16,500여 명의 소비자와 비즈니스 구매자의 목소리를 담은 이번 보고서는 AI가 가져온 혁신적 변화와 함께 기업이 고객의 신뢰를 얻고 유지하기 위해 해결해야 할 주요 과제들을 분석했습니다.
1. 기업 신뢰도의 급격한 하락
최근 기업에 대한 고객 신뢰도가 급격히 하락한 것으로 나타났습니다. 응답자의 71%가 1년 전보다 기업에 대한 신뢰가 감소했다고 답했으며, 특히 기업의 윤리적 AI 활용에 대한 신뢰도는 2023년 58%에서 2024년 42%로 크게 하락했습니다. 또한 응답자의 61%는 AI 발전으로 인해 기업의 신뢰도가 더욱 중요하다고 답해 AI 기술이 발전할수록 기업이 기술적 혁신과 함께 고객과의 신뢰 관계 구축에 더욱 주의를 기울여야 함을 시사합니다.
2. 개인화된 고객 서비스 향상 속 깊어지는 데이터 활용 우려
신뢰도의 급격한 하락에도 불구하고 고객 서비스 측면에서는 긍정적인 변화가 있었습니다. 기업이 자신을 고유한 개인으로 대우한다고 느끼는 고객이 2023년 39%에서 2024년 73%로 크게 증가했습니다. 하지만 기업의 데이터 활용이 실제로 도움이 된다고 생각하는 비율은 2022년 60%에서 2024년 49%로 하락했으며, 71%의 고객이 개인정보 보호에 더욱 민감해졌다고 응답했습니다. 이는 데이터 활용과 개인정보 보호의 균형을 맞추는 것이 기업의 중요한 과제임을 보여줍니다.
3. AI 발전에 대한 낙관적 전망
[고객이 AI가 인간의 능력에 부합하기를 기대하는 시기]
AI의 장기 전망에 대해서는 긍정적인 의견이 우세했습니다. 응답자의 49%는 향후 10년 내 AI가 인간의 능력과 비슷한 수준으로 발전할 것이라고 전망했습니다. 특히 주목할 만한 점은 Z세대와 밀레니얼 세대에서 사람을 대신해 행동할 수 있는 능력을 갖춘 자율형 AI 에이전트에 대한 수용도가 높게 나타났다는 것입니다. 이들 중 43%는 AI 에이전트를 통해 고객경험의 수준이 향상되었다고 평가했으며, 이는 베이비부머 세대(32%)와 뚜렷한 차이를 보였습니다.
4. AI 에이전트, 단순 업무에는 환영 전문 영역에는 신중
[다음 작업을 수행하는 AI 에이전트의 편안함 정도]
그러나 AI 에이전트의 실제 활용에 있어서는 업무 특성에 따른 선호도 차이가 뚜렷했습니다. 일정 예약(40%)이나 개인화된 콘텐츠 제작(38%) 등 단순 업무에는 긍정적이었으나, 재정적인 결정(58%)이나 의료 상담(44%) 등 전문성이 필요한 영역에서는 불편함을 느끼고 있다고 응답한 비율이 상대적으로 높았습니다.
특히 비즈니스 구매자들은 단순 반복 작업이나 효율성 향상을 위한 AI 활용에 더 개방적인 태도를 보였습니다. 그러나 소비자와 비즈니스 구매자 모두 복잡하고 중요한 의사결정이 필요한 작업에서는 여전히 인간의 전문성을 선호하는 것으로 나타났습니다. 이는 AI가 인간의 업무를 완전히 대체하는 것이 아닌, 함께 발전하는 방향으로 나아가야 함을 의미합니다.
5. 고객 신뢰 회복을 위한 기업의 AI 활용 과제
[AI 에이전트에 대한 의견]
기업이 AI 활용에 있어 고객 신뢰를 얻기 위해서는 다음과 같은 요소들이 중요한 것으로 나타났습니다:
– AI 활용의 투명성 확보(42%)
– 결과물에 대한 인간의 검증(35%)
– AI 사용량에 대한 사용자 제어 강화(32%)
– 결과물의 설명 가능성 보장(31%)
또한 고객들은 AI와의 상호작용에서 투명성과 통제력을 특히 중요하게 여기는 것으로 나타났습니다. 응답자의 72%가 AI 에이전트와 대화 중임을 명확히 알고 싶어했으며, 46%는 필요시 사람과 연결될 수 있는 경로가 있어야 한다고 답했습니다. 또한 45%는 AI의 의사결정 과정이 명확히 설명될 때 더 신뢰할 수 있다고 응답해 투명하고 검증 가능한 AI 활용이 기업 신뢰도 회복의 핵심임을 보여주었습니다.
이번 조사에 대한 보다 자세한 내용은 세일즈포스의 ‘AI 시대의 고객경험 현황 보고서’를 통해 확인하실 수 있습니다.
궁금한 점은 언제든 문의주세요.
전문가가 도움을 드리겠습니다.
