비즈니스 성장을 가속화할 수 있는 유용한 정보를 받아보세요.
생성형 AI 관련 규제 사항 살펴보기
%20(1).jpg)
생성형 AI를 이미 도입했거나 도입을 준비하는 기업이라면, 생성형 AI에 관한 규제가 비즈니스에 큰 영향을 미칠 수 있습니다. 생성형 AI 규제에 관한 최신 정보를 확인해 전략적으로 움직이세요. 이번 포스팅에서 세일즈포스 글로벌 공공 정책 담당자의 인사이트를 확인하실 수 있습니다.
생성형 인공지능(AI)은 최근 몇 년간 빠르게 성장했지만, AI의 개발과 활용에 대한 명확한 규제는 이제 막 정비되고 있습니다. 그렇다면 여러분의 생성형 AI 활용이 규정을 준수하려면 무엇이 필요할까요? 최근 미국 내 여러 주에서 생성형 AI 규제를 마련하며, 2025년에 기업들이 이 기술을 활용하기 위해 준비해야 할 몇 가지 가이드를 제시하고 있습니다.
정책 의원들은 기술 혁신을 저해하지 않기 위해 AI 규제 마련에 신중한 태도를 보이고 있습니다. AI 기술이 빠르게 개발되고 있는 만큼, 사용자와 개인정보를 보호하는 책임 있는 AI 사용을 위한 규제가 반드시 필요합니다.
미국의 독립 기관과 주 의회는 최근 몇 년간 프레임워크 개발에 있어 상당한 진전을 이루었습니다. 하지만 1월에 새로 취임할 공직자들이 등장하면서, 앞으로 규제가 어떻게 바뀔지 알 수 없습니다. 이번 포스팅에서는 새롭게 등장하는 AI 규제와 이를 준수하기 위해 필요한 주요 정보에 대해 알아보겠습니다.
생성형 AI 규제와 관련된 핵심 정보
생성형 AI는 직원들의 업무 효율성을 높이는 데 도움을 줄 수 있습니다. 실제 설문에 참여한 사무직 근로자의 81% 역시, AI가 업무의 효율성을 높인다고 답했습니다. 그러나 AI를 도입하는 것은 신중하고 책임감 있게 이루어져야 합니다.
생성형 AI 규제는 아직 초기 단계에 있으므로, 지금까지 이루어진 진전 상황을 이해하는 데 도움이 되는 몇 가지 사례를 간략히 살펴봅시다.
● 미국 AI 안전 연구소는 국제 AI 안전 기관 네트워크를 처음으로 소집했습니다. 이는 연구, 모범 사례, 평가에 대한 협력을 강화하고 AI 안전 과학을 발전시키기 위한 새로운 노력으로, 2월에는 프랑스에서 AI Action Summit도 개최할 예정입니다.
● OpenAI는 최근 워싱턴 DC의 정책 연구소에 미국 정부가 AI 산업을 지원할 방안에 대해 제안했습니다. Washington Post에 따르면, 이 제안은 규제가 적은 특별 경제 구역을 통해 AI 프로젝트를 활성화하는 것이 목표라고 합니다.
● (발언 당시) 대통령 당선인 도널드 트럼프는 조 바이든 대통령이 2023년에 발표한 AI 개발 관련 행정 명령을 철회하고, “언론의 자유와 인간의 번영에 기반한 AI 개발”을 지지할 것이라고 언급했습니다.
● 올해 초 유럽연합은 8월 1일부터 시행된 EU AI 법안을 통과시켰습니다. EU AI 법은 해당 지역의 AI 규제를 위한 공통된 기준을 설정하고, AI 유형을 잠재적 위험 수준에 따라 분류합니다.
● 지난 9월, 유엔은 인류를 위한 AI 거버넌스 보고서를 발표하며, 공공 및 민간 부문 기관이 고려할 수 있는 기준을 제시했습니다.
규정을 준수하기 위해 법무팀 또는 신뢰할 수 있는 AI 전문 법률 파트너와 긴밀히 협력하는 것이 좋습니다.
Salesforce의 글로벌 공공 정책 담당 이사인 Danielle Gilliam-Moore는 이렇게 말합니다. “기업들이 법무 조직과 협력하여 이러한 법률이 실제로 무엇을 의미하는지 파악할 것을 권장합니다.” “정책적으로 의원들이 혁신을 저해하지 않는 법안을 마련하려 한다는 소식을 들었으며, 일부 의원들은 조화를 이루는 접근 방식을 찾고 있습니다.”
캘리포니아
지난 9월, 캘리포니아는 SB-942 캘리포니아 AI 투명성 법과 AB 2013이라는 두 가지 핵심 AI 법안을 통과시켰으며, 이 법안들은 2026년 1월 1일부터 시행될 예정입니다.
SB-942는 대중적으로 널리 사용되는 생성형 AI 프로그램을 개발하는 기업이 무료 AI 탐지 도구를 제공하고, AI 생성 콘텐츠임을 표시하도록 규정합니다. AB 2013은 AI 개발자가 생성형 AI 시스템을 학습시키는 데 사용한 데이터 요약 정보를 공개하도록 규정하고 있습니다.
또한, 캘리포니아는 지난 9월 주 소비자 개인정보 보호법 개정안인 AB 1008을 제정했는데요. 이는 ‘개인정보’가 AI 시스템이 생성할 수 있는 데이터도 포함할 수 있음을 규정하고 있습니다.
콜로라도
일리노이
일리노이는 HB 3773을 통해 인권법을 개정하여, 고용주가 고용 결정에서 AI를 사용해 불법적인 차별을 초래할 가능성을 방지했습니다. 이 법안은 8월에 통과되어 2026년 1월 1일부터 시행될 예정입니다.
일리노이는 2024년에 AI와 관련된 3개의 법안을 추가로 통과시켰습니다:
● 딥페이크 아동 성적 학대 자료 법(IL HB 4623)은 AI로 생성된 아동의 성적 행위나 이를 모방한 이미지가 아동 포르노 금지법의 적용 대상임을 명확히 하고 규정합니다.
● 디지털 음성 및 초상 보호법(IL HB 4762)은 사용 목적에 대한 구체적인 설명 없이, 개인의 디지털 복제 이미지나 음성을 사용하는 서비스 계약을 금지합니다.
● 일리노이 퍼블리시티권법 개정안(IL HB 4875)은 개인의 디지털 복제 이미지나 음성이 포함된 음원이나 영상물을 본인의 동의 없이 배포하거나 제공하는 것을 금지합니다.
뉴햄프셔
테네시
유타
유타는 AI 관련 법률을 포함한 인공 지능 정책법(SB 149)을 통과시켜, 책임 있는 AI 사용을 위한 기준을 마련했습니다. 이 법안은 사람이 봇과 상호작용하고 있다는 사실을 제대로 공개하지 않을 경우, 소비자 보호법 위반에 대한 책임을 규정하고 있습니다. 이를 위해 AI 정책 사무소와 규제 분석 프로그램을 신설했으며, 해당 법안은 5월 1일부터 시행되었습니다.
또한, 유타는 AI로 인해 발생하는 문제를 해결하기 위해 기존 법률을 개정 중이며, 이를 통해 취약 계층을 보호하고 투명성을 확보하려 하고 있습니다.
생성형 AI 규제의 배경
AI에 대한 우려는 오래전부터 존재해 왔습니다. 일자리 감소, 불평등, 편향성, 보안 문제 등 다양한 주제에서 논의되어 왔죠. 특히 2022년 11월 ChatGPT의 공개 출시 이후 생성형 AI가 급격히 성장하면서 새로운 우려 사항이 제기되고 있습니다.
● 개인정보 보호 문제와 데이터 마이닝: 기업은 데이터 사용 방식에 대해 투명하게 공개해야 합니다.
● 저작권 문제: 생성형 AI 도구는 방대한 데이터 소스를 활용하기 때문에, 기존 저작권법이 생성형 모델의 학습 과정에 어떻게 적용될지에 대한 의문이 제기되고 있습니다.
● 허위 정보: AI 챗봇을 통해 잘못된 정보가 더 빠르게 확산될 수 있으며, 이로 인해 ‘환각’이라 불리는 완전히 부정확한 이야기가 만들어지기도 합니다.
● 출처 표시: 읽고 있는 내용이 사람이 작성한 것인지 AI가 생성한 것인지, 어떤 출처를 참조했는지 확인해야 합니다. 기사, 소셜 미디어 게시물, 예술 작품 등 다양한 콘텐츠에 대해 출처를 확인할 필요가 있습니다.
● 아동 보호: 소셜 미디어에서 AI가 생성한 자극적인 콘텐츠로부터 아동과 청소년을 보호해야 한다는 요구가 제기되고 있습니다.
이러한 문제들로 인해 전 세계 규제 당국은 생성형 AI가 데이터를 수집하고 결과물 생성 방식, 기업의 AI 훈련 방식을 조사하고 있습니다. 유럽은 일반 데이터 보호 규정(GDPR)을 신속히 적용하며, 이는 유럽 연합 내에서 활동하는 기업에 강력한 영향을 미칩니다. GDPR은 세계에서 가장 강력한 개인정보 보호 프레임워크로 평가받고 있습니다. 하지만 미국에는 이와 같은 포괄적인 개인정보 보호법이 없으며, 일부 주에서만 유사한 법률을 도입하고 있습니다.
EU AI 법은 현재 가장 철저한 정부 차원의 AI 규제를 담고 있으며, 위험 요소별로 AI를 분류하고 있습니다. 각 주와 국가마다 기준과 규정이 다르므로 AI를 책임감 있게 활용하려면 EU AI 법안의 가이드라인을 숙지하는 것이 좋습니다.
Gilliam-Moore는 다음과 같이 언급했습니다. “EU AI 법이 제사한 위험 분류 방식은 주목할 만한 점이며, 다른 시장에서도 반복적으로 확인되고 있습니다.” “그러므로 기업들이 지금 주목해야 할 것은 자사의 제품과 서비스가 EU AI 법안에서 고위험 애플리케이션으로 분류되는 것과 어떻게 부합하는지를 파악하는 것입니다. 이를 통해 기업들은 자신들이 준수해야 할 의무 사항에 대한 기본적인 이해를 얻을 수 있을 것입니다."
비즈니스가 AI 규제를 준수하는 방법
기업들은 이러한 도구가 비즈니스에 어떤 영향을 미칠지 궁금해합니다. 또한 기술의 활용만큼이나 그에 대한 규제가 기술 사용 방식에 어떤 영향을 미칠지도 중요합니다. 데이터의 출처는 어디인가요? 어떻게 사용되나요? 고객이 보호되고 있나요? 투명성이 확보되어 있나요?
다른 기업이 사용할 기술을 개발하든, 소비자와 직접 소통하든, 사업을 영위하는 지역이나 누구와 교류하든, 생성형 AI 규정을 준수하고 귀사의 프로세스를 안내할 수 있는 변호사와 상의하세요.
법무팀(또는 신뢰할 수 있는 AI 파트너)과 협력하기
내부적으로 진행할지 타사와 함께 구축할지 결정하기
허용되는 사용 정책 초안 작성
변화하는 규정에 대한 최신 정보 파악
생성형 AI 규제가 지속적으로 변화함에 따라 최신 동향을 파악하는 것이 중요합니다. 현지 담당자에게 연락하여 적절한 AI 규정을 지지하고 보호 장치를 마련하세요. 비즈니스의 혁신을 촉진하는 생성형 AI 규정을 만들 수 있도록 지원할 수도 있습니다.
또한 국제 개인정보보호 전문가 협회에서 제공하는 규제 추적 도구와 같은 서비스를 사용해 보세요. AI 관련 활동이 규정을 준수하고 있는지 확인하는 데 도움이 됩니다.
결론
에이전트포스 같은 에이전트형 AI는 아직 초기 단계에 있지만, 기업들이 이 기술의 이점을 깨닫게 되면서 점차 성장하고 있습니다. 때문에 생성형 AI 규제와 이러한 규제가 AI 에이전트에 어떤 영향을 미칠지 주시해야 합니다.
생성형 AI 규제에 관해 Gilliam-Moore는 이렇게 말했습니다. “의원들은 AI가 노동력에 미칠 수 있는 노동 측면을 잘 알고 있다고 생각합니다. 하지만 에이전트형 AI가 더 보편화되면 이러한 논의의 수준이 높아질 수 있습니다. 현재로서는 이러한 논의가 민간 부문에서 좀 더 활발하게 이루어지고 있습니다. 다만 규제 당국도 AI가 계속 발전할 것이라는 점을 충분히 인지하고 있다고 생각합니다.”
함께 보면 좋은 콘텐츠
CRM을 위한 AI 활용 보고서
글로벌 IT 현황 보고서
세일즈 현황 보고서
생성형 AI를 책임감 있게 개발하는 방법
생성형 AI 활용 전망과 위험에 대한 글로벌 연구조사 결과 발표
세일즈포스의 넷제로(Net Zero) 솔루션
관련 제품
AI
인공지능
Sales
영업 지원
스마트하고, 빠르게 영업
Data
데이터
고객 경험을 혁신합니다.
Service
고객 서비스
고객 서비스 실현
Marketing
B2C 마케팅 자동화
실현한 마케팅
Commerce
커머스
언제 어디서나 고객 연결