OpenAI CEO 샘 알트만(Sam Altman) 인터뷰: AI 없는 세상은 곧 상상할 수 없게 될 것입니다.

Salesforce의 Dreamforce 인터뷰에서 OpenAI의 CEO인 샘 알트만(Sam Altman)은 Salesforce의 CEO인 마크 베니오프(Marc Benioff)에게 AI가 인터넷만큼 널리 퍼질 것이라고 말했습니다. 또한 그는 더욱 진일보된 ChatGPT가 곧 출시할 것이라고 믿고 있습니다.

오늘 날엔 어느 기업이든 훌륭한 웹사이트와 모바일 서비스를 갖추지 못했다는 것은 상상하기 어려울 정도입니다, 그렇지 않나요? OpenAI CEO인 샘 알트만은 AI 기반 인텔리전스가 모든 제품과 서비스에 내재되지 않는 것도 동일하게 상상하기 어려운 일이 될 것이라고 말하고 있습니다.

“AI는 우리가 세상, 그리고 기술과 상호 작용하는 방식에 큰 변화가 될 것입니다.”라고 말한 샘 알트만은 큰 성공을 거둔 AI 챗봇 서비스 ChatGPT를 만든 사람입니다.

AI 선구자인 알트만이 미국 의원들과 최근에 생성형 AI 감독에 대해 이야기하기 하루 전에 Salesforce CEO 마크 베니오프(Marc Benioff)와 이야기를 나눴습니다.

이 아티클에는 다음과 같은 주제가 있습니다.

• 환각(Halluciation)을 없애는 것의 명백하지 않은 단점
• 정부 감독과 국회의원들이 AI에 대해 잘못하거나 옳게 인식한 것
• 한층 진일보 되어 훨씬 더 뛰어난 능력을 갖춘 GPT의 모습
• AI에 대해 주로 옳게 설명한 영화

아래 작성된 대화 내용은 명확성과 간결성을 위해 편집되었습니다.

Marc Benioff: 당신은 최근에 세계를 누비며 AI에 관해 비즈니스 및 정부 지도자들과 만났습니다. 다른 사람들이 생성형 AI로 무엇을 하고 있는지 확인하고 가장 크게 놀랐던 것은 무엇이었나요?

Sam Altman: 전 세계의 열정, 희망, 그리고 기쁨의 정도는 당연하게도 잠재적인 단점을 성공적으로 해결하는 것과 균형을 맞추고 있습니다. 처음에는 아마도 [생성형 AI]가 단순히 기술적인 것, 실리콘밸리 현상이라고 생각했습니다. 전 세계 사람들이 생성형 AI 기술을 어떻게 활용하고 자신들의 삶에 접목시키는지를 확인하고 얼마나 이 기술에 대하여 큰 관심을 가지고 희망적인지를 보는 것은 정말 멋진 경험이었습니다.

어떤 국가가 인공 지능 분야에서 큰 리더로 떠오르고 있다고 생각하십니까?

또 다른 긍정적인 놀라움을 보았습니다. 전 세계에서 일어나는 작업의 품질은 정말 대단한 것이었습니다. 물론 저는 미국이 인공 지능 분야에서 가장 큰 리더가 될 것이라고 생각합니다. 우리에게 유리한 점이 많아 축복을 받았다고 생각하지만 인공지능의 발전은 세계적인 노력을 통해 이루지게 될 것입니다.

OpenAI에서 지난 7~8년 동안 가장 놀라웠던 점은 무엇이었나요?

GPT-4는 출시된 지 단 6개월밖에 되지 않았는데 엄청난 성장을 이루고 있습니다. 이는 인공지능이 얼마나 빨리 발전되고 있는지를 상기시켜 주는 좋은 예입니다. 가장 놀라운 점은 생성형 인공지능이 작동하고 있으며 효과적이라는 것입니다. 우리가 2016년 초에 OpenAI를 만들고 “좋아, 우리는 생성형 일반 지능(artificial general intelligence)을 구축할 거야.”라고 말했을 때는 좋았지만 그 후로 현실적인 어려움을 마주했습니다. 우리는 해결해야 할 많은 문제가 있었으며 이 경우에는 특히 어려웠습니다. 공동 창업자이자 수석 과학자가 제시한 신념과 방향성을 가지고 있었지만 대다수의 여론은 생성형 인공지능이 효과적이지 않을 것이라는 의견이 많았습니다. 그러나 엄청난 재능이 있는 많은 사람들의 노력 끝에 성공했습니다.

언제 이것이 성공할 줄 알았나요?

GPT-2 이후, 약 2019년경에 알게 되었습니다.

OpenAI가 원하는 방향으로 나아가기 위한 다음 단계는 무엇인가요?

두 가지가 있습니다. 첫째, 현재 진행 중인 GPT 시리즈의 기술을 통해 더 나은, 더 신뢰할 수 있고, 더 견고하며, 멀티 모달 및 추론 능력이 향상된 시스템을 계속 개발할 것이며, 이것이 실제로 사람들에게 유용한지 확인하려고 합니다. 우리는 기업 채택 단계에 깊이 들어가 있으며, 시스템을 안전하고 매우 신뢰할 수 있도록 하고, 데이터를 적절하게 처리하며 환각이 발생하지 않도록 하고 있습니다. 이는 많은 기업들에게 엄청난 변화를 가져오고 있습니다.

둘째로, 현재 우리가 있는 놀라운 패러다임에서 진정 인공 일반 지능(artificial general intelligence)이라고 불릴 수 있는 것을 찾아내기 위한 연구를 진행 중입니다.

환각 문제를 다루는 데 가장 복잡한 부분은 무엇인가요?

기술적인 어려움이 많지만, 그 중에서도 특히나 해결하기 어려운 문제라고 할 수 있는 것 중 하나는 인공지능 시스템의 가치 중 상당 부분이 환각(Hallucination)과 밀접하게 연관되어 있다는 것입니다. 데이터베이스에서 무언가를 찾고 싶다면 이미 좋은 도구가 있는데도 불구하고 AI 시스템이 각광받는 이유는 새로운 아이디어를 제시하고 창의적일 수 있다는 사실 때문입니다. 사람들은 인공지능이 창의성을 발휘하기를 원하면서도 사실만을 이야기하기를 원합니다. 단순한 생각으로 “100% 확실한 것 외에 아무것도 말하지 말라”고 인공지능 모델에게 요청할 수 있지만 그렇게 한다면 사람들이 진정으로 원하는 것을 얻기 어려울 것입니다.

OpenAI의 핵심 가치는 무엇인가요?

우리는 인류에게 인공지능이 기회를 제공할 것이라는 것을 깊게 믿기 때문에, 가장 똑똑하고 능력 있는 모델을 가지려고 합니다. 좋은 면은 나쁜 면보다 훨씬 더 클 것입니다. 또한 모델이 정렬되어 있고 기업들이 데이터를 신뢰할 수 있도록 하고자 합니다. 우리는 인공지능의 기능을 향상시키겠지만, 안전과 개인 정보 보호도 놓치지 않고 있습니다.

연구소에서 본 가장 무서웠던 것은 무엇인가요?

지금까지는 아주 무섭다고 느낀 것은 없습니다. 하지만 그러한 무서움이 언젠가 올 것을 알고 있습니다만 현재의 인공지능 모델에서는 아직까지 그렇게 무서운 것은 없습니다.

최근 당신은 대규모 언어 모델이 인간 지능(human intelligence)을 반영한다고 말했습니다. 무엇을 의미하는 것인가요?

인텔리전스는 우리가 충분히 알지 못하는 출현 속성입니다. 이는 데이터의 패턴을 인식하는 능력, 환각을 느끼는 능력, 새로운 아이디어를 창출 및 제시하는 능력, 이를 테스트하기 위한 피드백 루프를 갖는 능력에 관한 것입니다. 우리는 GPT-4의 모든 뉴런, 모든 연결을 볼 수 있습니다.

우리는 GPT 패러다임이 더 능력 있는 방향으로 발전할 것이라고 확신할 수 있지만 정확히 어떻게 그럴 것인지 말하기는 약간 어렵습니다. 예를 들어, 왜 새로운 능력이 이런 규모에서 나타나고 다른 규모에서 나타나지 않는지는 아직 이해하지 못하고 있습니다. 만약 우리가 이 [현재] GPT 패러다임이 유일한 돌파구라고 가정한다면, 우리는 새롭게 발생하는 매우 중요한 일들에 대해 대비할 수 없을 것입니다.

예를 들어 어떤 것을 얘기하는 건가요?

가장 중요한 것은 추론 능력입니다. GPT-4는 약간의 추론을 할 수 있지만 우리가 그 용어를 사용하고 이해하는 방식만큼은 아닙니다. 놀라운 속도로 과학적 지식을 발견할 수 있는 모델을 가지게 된다면, 단순한 예로 우리가 이전 10년 동안 이룩한 과학적 진전을 1년 만에 이룩하는 것을 상상해 본다면 인공지능이 삶의 질에 미치는 영향은 상당히 변형적일 것입니다.

다음 단계는 무엇인가요?

명백한 것과 추상적인 것이 있습니다. 명백하게 모델은 무척 능력이 향상되고, 사용자 정의가 가능하며, 신뢰성이 더 높아질 것입니다. 마치 인터넷과 모바일이 어디에나 스며들었던 것처럼, 인공지능도 스며들 것입니다. 모든 제품과 서비스에 인공지능이 통합되지 않는 것은 상상하기 어려울 것입니다. 이 현상은 예상되고 당연한 일이 될 것입니다. 인공지능은 우리가 세계와 기술이 상호 작용하는 방식에서 큰 변화를 가져올 것입니다.

성능이 획기적으로 향상된 GPT 모델은 어떤 모습일까요?

한 예로, 많은 사람들이 코드 작성의 원활함을 위해 ChatGPT를 사용합니다. 현재는 아마도 25% 수준의 도움을 주는 것에 불과하겠지만, 이후엔 최종적으로 90%까지 올라갈 수 있을 것으로 예상합니다. 어느 시점에서는 이전에 할 수 없었던 일을 할 수 있게 될 것입니다. 이러한 양적 변화는 질적인 변화로 이어집니다. 더 나은 도구를 갖고 더 높은 추상 수준에서 작동할 수 있다면, 훨씬 더 많은 일을 할 수 있습니다. 사이클 시간과 반복적인 피드백 루프는 단일 프로그래머가 할 수 있는 일을 변화시킬 것입니다. 만약 그렇게 된다면 1인 회사를 운영하는 한 사람이 할 수 있는 일이 바뀔 것입니다.

개인 능력의 발전을 통하여 좋은 아이디어와 고객의 필요를 잘 이해하는 한 사람이 복잡하고 많은 팀이 필요했던 일들을 해결할 수 있게 될 것입니다.

AI가 등장하는 영화 중 가장 좋아하는 영화는 무엇인가요?

“Her” (2013년에 개봉한 남자가 자신의 AI 가상 어시스턴트와 사랑에 빠지는 이야기)입니다. 대화형 언어 인터페이스를 활용한 아이디어는 미래를 예언한 것이었습니다. 오래된 SF 영화에서 잘못된 부분을 하나하나 찾아 비난하는 것은 불필요하며 불공평한 일입니다. “Her”처럼 영화에서 실제로 미래의 것들을 맞춘 부분이 많다는 것은 놀랍습니다. 하지만 할리우드에겐 AI가 난처한 문제가 됐다는 새로운 주제가 등장하는 것이 더 나을지도 모릅니다.

국회의원들에게 전할 메시지는 무엇이며 국회의원을 상대하면서 가장 놀랐던 점은 무엇입니까?

국가를 이끄는 리더들은 이 문제(인공지능 안전, 보안, 개인정보 보호 및 평등)를 극도로 심각하게 다루고 있습니다. 그들은 잠재적 이점과 단점을 균형 있게 고려해야 함을 이해하고 있습니다. 하지만 저는 그러한 세세한 부분이 적절하게 고려될 것이라고 특별히 기대하지 않습니다. 어떻게 진행될 지는 모르겠지만 사람들은 진정으로 관심을 가지고 무엇인가를 올바르게 하려고 하는 것 같습니다. 우리의 역할은 우리가 가진 답이 전부가 아니고 잘못될 수도 있다는 것을 이해시키면서 최대한 AI를 설명하는 것입니다.

국회의원들과의 논의를 통해 달성하고자 하는 목표 중 하나는 무엇입니까?

단기적인 어려움과 장기적인 어려움을 다룰 수 있도록 프레임워크를 마련하는 것입니다. 완벽하지 못하더라도 지금부터 무언가를 준비하는 것이 좋을 것이라고 생각합니다. 변화하는 속도를 고려할 때, 입법을 통하여 이 문제를 해결하는 것은 꽤나 어려울 것입니다. 심지어 감시가 아닌 인사이트를 갖추는 것에 중점을 두더라도 정부는 충분히 힘을 키울 수 있습니다. [AI를 감독하는] 새로운 기관이 적절하다고 생각됩니다.

어느 부분에서 그들이 잘못 이해하고 있는 것 같나요?

사람들에게 기하급수적인 능력을 보여주면 그 능력은 믿지만, 그 능력이 기하급수적으로 지속해서 증가할 것이라고 믿지 않습니다. 사람들은 능력이 언젠가는 수렴할 것으로 믿고 있습니다. 이는 극복하기 매우 어려운 편견입니다. 편견을 버리고 이러한 사실을 받아들이게 될 때 삶의 모든 부분에서 올 급격한 변화 역시 받아들여야 합니다.

우리는 감시 경제로 전환되고 있을까요? 그리고 AI가 감시의 수준을 더 높은 단계로 가속화시킬 것이라고 생각하시나요?

그렇다고 생각합니다. 저는 AI가 우리가 생각하는 것만큼 강력하고 사람들이 인공지능으로 커다란 피해를 입을 수 있는 경우에는, 감시가 줄어든 세상을 상상할 수 없으며 그것은 좋은 일이라고 생각하지 않습니다. 저는 이에 대해 많은 사람들과 이야기를 나눴지만 아직까지 훌륭한 해결책을 듣지 못했습니다.

OpenAI의 제품 파이프라인을 살펴보았을 때 생성형 AI가 가능하게 할 놀라운 기능에 대한 다른 예를 들어줄 수 있을까요?

교육 분야에서 일어나고 있는 일은 놀라울 정도로 만족스럽습니다. 선생님들, 교육 기술 회사를 만드는 기업가들, 그리고 학생들 스스로가 ChatGPT를 활용해 학습하는 새로운 방법을 찾는 창의력이 상당히 놀랍습니다. 우리는 인간과 AI의 조합을 통해 전 세계 모든 사람에게 일대일 교육이 가능해지는 미래를 보고 있습니다.

의료 분야에서 AI는 질병을 치료하는 데 도움을 줄 수 있으며 치료 측면에서 AI와 의사가 협업하여 함께 작용하는 것은 오늘날 가능한 것 이상을 제공할 수 있게 합니다.

창의적인 작업에서, 최신 이미지 생성 도구를 사용하여 시각 예술가가 무엇을 할 수 있는지 보는 것 또한 꽤 놀라운 일입니다.

놀라셨나요?

어떤 의미에서는 그렇습니다. 10년 전에 AI가 산업을 어떤 순서로 파괴할 것인지 예측해 달라고 하면, 먼저 육체적 노동, 그 다음 인지적 노동이라고 그리고 어쩌면 창의성은 대체가 불가능하다고 얘기했을지도 모릅니다. 혹은 마지막에 대체될 것이 창의성에 관련된 영역이라고 했을 수도 있겠네요. 하지만 현재 창의성이 가장 먼저 대체되는 것을 보고 놀라움을 감출 수 없었습니다. 창의성에 관련한 영역은 현재 시스템의 결점을 상당히 잘 용인할 수 있는 분야입니다.

우리는 이전보다 더 나은 예술을 경험하게 될 것이지만 여전히 AI는 인간을 대체하는 것이 아닌 인간을 발전시키는 도구가 될 것입니다.