AI 시스템이 또 다른 AI 시스템을 구축하는 문제

여러분 모두 환영합니다. 라이브 스트림으로 함께해주시는 분들께도 환영 인사를 전합니다. 솔직히 말씀드리면, 이 대화는 제가 몇 달 동안 손꼽아 기다려온 것입니다. 작년에 파리에서 Dar Amade와 Deis Hassabos의 대담을 진행할 기회가 있었는데, 그때 제가 엄청나게 큰 소파에 앉아 있는 동안 두 분이 아주 작은 2인용 소파에 옹기종기 모여 앉아 계셨다는 사실이 가장 큰 화제가 되었죠. [웃음] 아마 제 실수였을 겁니다.

 

유튜브 영상 참고 

 

하지만 그때 제가 이 대담을 진행하는 건 마치 비틀즈와 롤링 스톤즈의 대담을 진행하는 것과 같다고 말했었죠. 그 이후로 두 분은 무대에서 대담을 진행하신 적이 없으셨습니다. 그래서 이번 대담은 그 후속편, 그러니까 두 밴드가 다시 만나는 자리라고 할 수 있겠네요. 정말 기쁩니다. 두 분은 소개가 필요 없을 정도로 유명하시죠.

 

오늘 대담의 제목은 'AGI 다음 날'입니다. 하지만 너무 앞서나가는 것 같기도 하네요. 얼마나 빨리, 얼마나 쉽게 그 주제에 도달할지 이야기해 봐야 할 것 같습니다. 그리고 그에 대한 최신 소식을 좀 전해드리고 그 결과에 대해 이야기해 보겠습니다. 우선, 시간적 제약에 대해 질문드리겠습니다. 작년 파리에서 2627년까지 노벨상 수상자 수준으로 여러 분야에서 인간이 할 수 있는 모든 것을 할 수 있는 모델이 나올 것이라고 말씀하셨는데, 지금은 2627년입니다.

 

어, 그 시간표를 아직도 고수하시나요? >> 아시다시피 어떤 일이 정확히 언제 일어날지 알기는 항상 어렵지만, 저는 그렇게 멀지 않았다고 생각합니다. 제가 생각했던 방식은 코딩과 AI 연구에 능한 모델을 만들고, 그 모델을 이용해 차세대 모델을 개발하고 속도를 높여 모델 개발 속도를 지속적으로 향상시키는 것입니다.

 

현재 우리는 코드를 작성하는 모델을 개발했고, 앤스롭픽스에는 "저는 더 이상 코드를 작성하지 않습니다. 모델이 코드를 작성하게 하고, 저는 편집만 합니다."라고 말하는 엔지니어들이 있습니다. 저는 그 주변의 일들을 처리합니다. 솔직히 잘 모르겠습니다. 모델이 소송의 모든 과정을 처음부터 끝까지 대부분 또는 전부 처리하게 되려면 6개월에서 12개월 정도 걸릴 것 같습니다.

 

그리고 그다음 문제는 그 과정이 얼마나 빨리 완료되느냐입니다. 그 과정의 모든 부분이 AI로 가속화될 수 있는 것은 아니죠. 예를 들어 칩, 칩 제조업체, 모델 학습 시간 등이 있습니다. 그래서 불확실한 부분이 많다고 생각합니다. 몇 년이 걸릴 수도 있다는 것은 쉽게 예상할 수 있습니다.

 

하지만 그보다 더 오래 걸릴 거라고는 생각하기 어렵습니다. 굳이 예상하자면, 사람들이 생각하는 것보다 훨씬 빠르게 진행될 것 같습니다. 핵심적인 코드 개발과 연구가 우리가 상상하는 것보다 훨씬 빠르게 진행될 것이 주요 동력입니다. 얼마나 기하급수적으로 속도가 빨라질지는 예측하기 어렵지만, 분명 빠른 변화가 있을 것입니다.

 

 

 

작년에 당신은 좀 더 신중한 입장이셨죠. 10년 안에 인간의 모든 인지 능력을 보여줄 수 있는 시스템이 나올 확률을 50%라고 하셨잖아요. 다리오가 말했듯이 코딩 분야에서는 놀라운 발전이 있었는데요. 당신의 예측을 여전히 고수하시나요? 그리고 지난 1년 동안 어떤 변화가 있었나요? >> 네, 저는 여전히 비슷한 시간표를 생각하고 있습니다.

 

그리고 놀라운 진전이 있었다고 생각합니다. 하지만 일부 공학 분야, 코딩, 또는 수학이라고 할 수 있는 분야는 자동화가 비교적 쉬운 편입니다. 결과물을 검증할 수 있기 때문이죠. 하지만 자연과학 분야는 훨씬 더 어렵습니다.

 

만든 화학 화합물이나 물리 법칙에 대한 예측이 맞는지 바로 알 수 있는 게 아니니까요. 실험적으로 검증해야 할 수도 있고, 그 과정은 훨씬 더 오랜 시간이 걸릴 겁니다. 그래서 저는 현재 몇 가지 부족한 역량이 있다고 생각합니다. 기존의 추측이나 문제를 해결하는 것뿐만 아니라, 애초에 질문을 생각해 내거나 이론이나 가설을 제시하는 능력 말입니다.

 

그게 훨씬 더 어렵고, 과학적 창의성의 최고 수준이라고 생각합니다. 하지만 아직은 확실하지 않습니다. 저는 그런 시스템이 생길 거라고 생각합니다. 불가능하다고 생각하지는 않지만, 한두 가지 요소가 부족할 수도 있습니다. 우선, 우리가 모두 노력하고 있는 이 자기 개선 루프가 인간의 개입 없이 어떻게 완성될 수 있을지가 관건입니다.

 

그런데 그런 시스템에는 위험 요소도 있다고 생각합니다. 이에 대해서는 논의해야 할 것이고, 분명히 논의할 것입니다. 하지만 그런 시스템이 제대로 작동한다면 상황을 가속화할 수도 있겠죠. >> 위험 요소에 대해서는 잠시 후에 이야기하겠습니다. 작년에 있었던 또 다른 변화는 경쟁 구도의 변화라고 할 수 있겠습니다.

 

작년 이맘때쯤에는 딥시크(Deepseek) 사건이 있었고 모두가 그 결과에 엄청나게 흥분했었죠. 당시에는 구글 딥마인드가 오픈 AI에 비해 다소 뒤처지고 있다는 인식이 있었습니다. 하지만 지금은 상황이 완전히 달라졌습니다. 구글은 비상사태를 선포했잖아요? 정말 파란만장한 한 해였습니다.

 

그럼 구체적으로 어떤 점이 놀라웠는지, 올해 성과는 어땠는지, 그리고 앞으로 어떻게 될 것 같은지 말씀해 주시겠어요? 그리고 나서 참가자 명단에 대해 질문드리겠습니다. 음, 보세요. 저는 항상 우리가 리더보드 상위권, 특히 탄산음료 모델 분야에서 다시 정상에 오를 수 있을 거라고 확신했어요. 왜냐하면 우리는 항상 가장 깊고 폭넓은 연구 인력을 보유해 왔고, 이제는 그 모든 것을 하나로 모으고, 열정과 집중력, 그리고 스타트업 정신을 조직 전체에 되살리는 게 관건이었거든요.

 

많은 노력이 필요했고, 아직 할 일이 많지만, Gemini 3 모델뿐 아니라 Gemini 앱의 시장 점유율이 증가하는 등 제품 측면에서도 어느 정도 진전이 보이기 시작했다고 생각해요.

 

 

 

그래서 저는 우리가 상당한 진전을 이루고 있다고 생각하지만, 아직 할 일이 많이 남아 있습니다. 아시다시피, 우리는 구글의 핵심 엔진룸과 같은 딥마인드의 역량을 활용하여 모델을 제품에 더욱 빠르게 적용하고 있습니다. 다리아, 이와 관련해서 질문 하나 드리겠습니다. 최근에 놀라운 기업 가치로 새로운 투자 유치를 진행 중이시잖아요.

 

하지만 당신은 다른 기업들과 달리 독립적인 모델 개발자라고 할 수 있겠죠. 그런데 독립적인 모델 개발자들이 수익이 발생할 때까지 오랫동안 존속할 수 있을지에 대한 우려가 점점 커지고 있는 것 같습니다. 오픈 AI에 대해서는 매우 공개적으로 이야기하고 있지만, 이에 대해 어떻게 생각하시는지 말씀해 주시고, 그 후에 인공 일반 지능(AGI) 자체에 대해 이야기해 보겠습니다.

 

 

 

네, 그러니까 저희가 생각하는 방식은 이렇습니다. 더 나은 모델을 구축할수록 모델에 투입하는 컴퓨팅 자원과 인지 능력 사이뿐만 아니라, 인지 능력과 창출할 수 있는 수익 사이에도 기하급수적인 관계가 생겨났습니다.

 

저희 매출은 지난 3년 동안 10배 증가했습니다. 2023년에는 0에서 1억 달러, 2024년에는 10억 달러, 그리고 2025년에는 10억 달러로 성장했습니다. 물론 이러한 매출 증가 추세가 계속될지는 모르겠습니다. 만약 그렇다면 정말 놀라운 일이겠죠. 하지만 이 수치는 세계 최대 기업들의 규모와 그리 멀지 않은 수준에 도달하고 있습니다.

 

물론 항상 불확실성은 존재합니다. 저희는 아무것도 없는 상태에서 자립하려고 노력하고 있으니까요. 정말 이상한 일이지만, 우리가 집중하는 분야에서 최고의 모델을 만들어낼 수 있다면, 음, 어, 모든 일이 잘 풀릴 거라고 확신합니다. 그리고 저는 일반적으로 구글과 앤트로픽 모두에게 좋은 한 해였다고 생각합니다.

 

그리고 우리 둘의 공통점은 연구 부문이 연구원들에 의해 주도되고, 세상의 중요한 문제를 해결하는 데 집중하는 모델에 주력한다는 점입니다. 이러한 어려운 과학적 문제들을 나침반 삼아 해결해 나가고 있죠.

 

그리고 저는 이런 회사들이 앞으로 성공할 거라고 생각하고, 우리 둘 다 이 점을 아주 많이 공유하고 있다고 생각합니다. 음, 연구원들이 주도하지 않는 회사들은 어떻게 될지 묻고 싶은 유혹을 참겠습니다. [웃음] 어차피 대답 안 하실 거라는 걸 아니까요. 자, 그럼 이제 예측 영역으로 넘어가 보겠습니다. AI 이후의 이야기를 하고 있지만, 먼저 '루프 닫기'에 대해 이야기해 보죠.

 

모델이 루프를 닫고 스스로 발전할 수 있을 확률은 얼마나 될까요? 승자독식 방식의 핵심은 바로 이 부분인데 말이죠. 이런 모델이 등장할 가능성이 높다고 생각하시나요? 아니면 추종자와 따라잡는 사람들이 경쟁하는 일반적인 기술 형태로 발전할까요? >> 글쎄요, 저는 일반적인 기술 형태로 발전할 거라고는 생각하지 않습니다.

 

그러니까, 다리오가 언급했듯이 이미 코딩과 연구의 일부 측면에서 도움이 되는 부분들이 있습니다. 하지만 완전한 루프를 완성하는 것은 아직 미지수라고 생각합니다. 물론 가능할 거라고 생각합니다. 어떤 영역에서는 인공 일반 지능(AGI) 자체가 필요할 수도 있습니다. 특히 주변 환경이 복잡하고 답을 빠르게 검증하기 어려운 영역, 즉 다중 시뮬레이션(MP)이 필요한 영역들이 있습니다. 이런 영역들은 복잡하고 어려운 문제를 해결하기 어렵게 만듭니다. 그리고 저는 AGI, 물리적 인공지능, 로봇 공학 등 모든 분야를 포함합니다. 여기에 하드웨어가 개입하면 자기 개선 시스템의 속도를 제한할 수도 있습니다. 하지만 코딩이나 수학 같은 분야에서는 충분히 가능하다고 생각합니다. 그리고 더 이론적인 질문은 공학과 수학이 자연과학 문제를 해결하는 데 있어 한계는 무엇인가 하는 것입니다.

 

 

 

다리아, 작년이었던 것 같은데, '사랑과 은혜의 기계들(Machines of Love and Grace)'이라는 에세이를 발표하셨죠? 인공지능이 앞으로 펼쳐질 가능성에 대해 아주 낙관적인 시각으로 쓰신 글이었어요. 컨트리 데이터 센터의 데이터 천재에 대해서도 언급하셨던 것 같은데, 지금 그 에세이의 업데이트 버전을 작업 중이라고 들었어요. 아직 출간되지는 않았지만 곧 나올 예정이니 기대해 주세요. 1년 후, 당신의 주요 견해가 무엇일지 살짝 엿볼 수 있을까요?

 

>> 네. 제 생각은 변하지 않았어요. 인공지능은 엄청나게 강력해질 거라고 항상 생각해 왔죠. 데미스와 저도 그 점에 동의하는 것 같아요. 단지 언제 그렇게 되느냐의 문제일 뿐이죠. 인공지능은 엄청나게 강력하기 때문에 '사랑과 은혜의 기계들'에서 이야기했던 것처럼 놀라운 일들을 해낼 거예요.

 

암을 치료하는 데도 도움을 줄 겁니다. 열대 질병을 퇴치하는 데 도움이 될 수도 있고, 우주를 이해하는 데 도움이 될 수도 있습니다. 하지만 아시다시피, 엄청나고 심각한 위험들이 존재하는데, 우리가 그것들을 해결할 수 없다는 건 아닙니다. 저는 비관론자가 아니지만, 우리가 그것들에 대해 생각하고 해결해야 한다는 것입니다.

 

그리고 저는 '사랑의 은혜 기계들(Machines of Loving Grace)'을 먼저 썼습니다. 왜 그 글을 먼저 썼는지에 대한 좀 더 세련된 이유를 말씀드리고 싶지만, 그냥 긍정적인 에세이가 부정적인 에세이보다 쓰기가 더 쉽고 재미있었기 때문입니다. 그래서, 휴가를 좀 쓸 시간이 생겨서 위험에 대한 에세이를 쓸 수 있었습니다.

 

위험에 대해 쓸 때조차도, 저는 낙관적인 사람인 척하려고 노력합니다. 그래서 위험에 대해 쓰면서도, 어떻게 하면 이러한 위험을 극복할 수 있을까, 어떻게 싸워나갈 계획을 세울 수 있을까 하는 관점에서 썼습니다. 그리고 제가 이 이야기를 풀어낸 방식은, 칼 숀 감독의 영화 '콘택트'에 나오는 한 장면을 떠올리게 해요. 외계 생명체를 발견하고, 국제 패널이 외계인을 만날 인류 대표를 뽑기 위해 면접을 보는 장면이죠. 면접관 중 한 명에게 "외계인에게 딱 한 가지 질문만 할 수 있다면 무엇을 묻겠습니까?"라고 묻는데, 한 후보가 "어떻게 그렇게 할 수 있었습니까? 어떻게 스스로를 파괴하지 않고 이 기술적 과도기를 헤쳐나갈 수 있었습니까?"라고 대답하는 거예요. 어떻게 그 과정을 헤쳐나갔어요?" 그리고 제가 그 영화를 본 이후로, 아마 20년 전쯤이었던 것 같은데, 그 영화가 제게 깊은 인상을 남겼습니다. 제가 사용한 프레임은 바로 이것입니다. 우리는 놀라운 능력의 문을 두드리고 있었죠. 모래로 기계를 만들 수 있는 능력 말입니다. 불을 다루기 시작한 순간부터 이런 능력은 필연적이었다고 생각합니다.

 

하지만 우리가 그것을 어떻게 다루느냐는 필연적인 것이 아닙니다. 그래서 앞으로 몇 년 동안 우리는 고도로 자율적이고 인간보다 똑똑한 이러한 시스템을 어떻게 통제할 것인가, 개인이 이를 오용하지 않도록 어떻게 보장할 것인가에 대해 고민하게 될 것입니다. 생물 테러와 같은 것들이 걱정됩니다.

 

국가가 이를 오용하지 않도록 어떻게 막을 수 있을까요? 그래서 저는 중국 공산당이나 다른 권위주의 정부들에 대해 매우 우려해 왔습니다. 경제적 영향은 어떨까요? 맞죠? 제가 노동력 대체에 대해 많이 이야기했는데, 우리가 미처 생각하지 못한 부분이 뭐가 있을까요? 어쩌면 그게 가장 해결하기 어려운 문제일지도 모르겠어요.

 

음, 그러니까, 저는 지금 그런 위험들을 어떻게 해결해야 할지 고민하고 있습니다. 각각의 위험에 대해, 기업 리더로서 우리 각자가 해야 할 일과 협력해서 할 수 있는 일들이 복합적으로 작용할 겁니다. 그리고 정부와 같은 더 넓은 사회 기관들도 이러한 모든 문제들을 해결하는 데 중요한 역할을 해야 할 것입니다.

 

하지만, 저는 지금 당장 해결해야 한다는 절박함을 느끼고 있습니다. AI 분야뿐만 아니라 바깥 세상에서도 매일 온갖 기상천외한 일들이 벌어지고 있잖아요? 제 생각에는 이 모든 일이 너무 빠르게 진행되고 있고, 심각한 위기이기 때문에 우리는 이 위기를 어떻게 헤쳐나갈지 생각하는 데 거의 모든 노력을 쏟아야 한다고 생각합니다.

 

 

 

>> 그래서 저는 당신이 a 휴가를 간다는 사실, b 휴가 중에 AI의 위험성에 대해 생각한다는 사실, 그리고 c 당신의 에세이가 우리가 이 기술의 성장기를 스스로를 파괴하지 않고 헤쳐나갈 수 있을지에 대한 질문으로 구성되어 있다는 사실에 어떤 점이 더 놀라운지 잘 모르겠습니다.

 

머리가 약간 어지럽지만, 당신의 글을 읽어보는 것이 정말 기대됩니다. 당신은 앞으로의 대화를 이끌어갈 몇 가지 주제를 언급하셨는데요. 먼저 일자리부터 시작해 볼까요? 당신은 이 문제에 대해 매우 적극적으로 의견을 표명해 오셨고, 향후 1~5년 안에 신입 사무직 일자리의 절반이 사라질 수 있다고 말씀하셨던 것 같습니다.

 

하지만 데미스 씨, 지금까지 노동 시장에 뚜렷한 영향은 나타나지 않았습니다. 네, 미국에서는 실업률이 소폭 상승했지만, 제가 살펴본 모든 경제 연구와 저희가 작성한 글에 따르면 이는 팬데믹 이후 과잉 고용이지 AI 때문이 아니라는 것입니다.

 

 

 

오히려 사람들은 AI 역량을 구축하기 위해 채용을 진행하고 있습니다. 경제학자들이 늘 주장해왔듯이 노동 덩어리의 오류가 아니라 실제로 새로운 일자리가 창출될 것이라고 생각하시나요? 지금까지의 증거는 그렇게 보이는 것 같습니다. 네, 단기적으로는 그렇게 될 거라고 생각합니다.

 

획기적인 기술이 등장했을 때 나타나는 일반적인 진화 과정이죠. 일부 일자리는 사라지겠지만, 훨씬 더 가치 있고 의미 있는 새로운 일자리가 창출될 거라고 생각합니다. 올해는 인턴십이나 신입 사원과 같은 초급 직종에 영향을 미치는 초기 단계가 나타날 것으로 예상합니다.

 

그리고 채용이 다소 둔화되는 조짐도 보입니다. 하지만 누구나 거의 무료로 사용할 수 있는 놀라운 창의적인 도구들이 많이 있기 때문에 이러한 둔화는 충분히 상쇄될 수 있다고 생각합니다. 만약 제가 지금 대학생들에게 강의를 한다면, 이러한 도구들을 아주 능숙하게 다루도록 적극적으로 권장할 것입니다.

 

 

 

제 생각에는 인공지능을 개발하는 우리조차도 너무 바빠서 오늘날의 모델과 제품이 가진 잠재력을 제대로 탐구할 시간조차 부족한 것 같습니다. 하물며 미래의 잠재력은 말할 것도 없죠. 그래서 저는 인공지능 개발이 전통적인 인턴십보다 훨씬 더 효과적일 수 있다고 생각합니다. 인공지능 개발은 여러분이 특정 직업 분야에서 유용하게 활동할 수 있도록 도약하는 데 도움이 될 수 있으니까요.

 

그래서 저는 앞으로 5년 안에 그런 변화가 일어날 거라고 봅니다. 물론 시간 규모에 대해서는 의견이 조금씩 다를 수 있겠지만, 인공지능이 등장한 이후에는 완전히 다른 문제가 될 거라고 생각합니다. 그때는 정말 미지의 영역이 될 테니까요. >> 작년에 백인 절반이 인공지능을 사용하게 될 거라고 말씀하셨을 때보다 시간이 더 오래 걸릴 거라고 생각하시나요? >> 저도 비슷한 생각입니다.

 

사실 저는 데미스와 당신의 의견에 동의합니다. 제가 그 당시 노동 시장에 영향을 미치지 않을 거라고 말했던 건 아니었습니다. 음, 아시다시피, 이제 소프트웨어 코딩 분야에서 그 초기 징후가 조금씩 나타나기 시작하는 것 같습니다.

 

심지어 인류 원리(Anthropic Design) 안에서도 그런 현상이 나타나고 있다고 생각합니다. 앞으로는 초급 개발자부터 중급 개발자까지, 오히려 인력이 덜 필요한 시대가 올 거라고 예상합니다. 그리고 인류 원리 안에서 어떻게 하면 합리적인 방식으로 이러한 변화에 대처할 수 있을지 고민하고 있습니다.

 

음, 아시다시피, 6개월 전 기준으로 1년에서 5년 정도 걸릴 거라고 예상했는데, 그 예상을 고수하겠습니다. 제가 전에 말씀드렸던 것처럼, 인공지능이 모든 면에서 인간보다 뛰어날 수 있다는 예측과 연결해 보면, 아마 1년에서 2년 안에, 아니면 조금 더 오래 걸릴 수도 있겠죠. 그런데 이 두 예측이 잘 맞아떨어지지 않는 것 같습니다. 그 이유는 바로 시간차와 대체재 문제 때문입니다. 노동 시장은 적응력이 있다는 것을 알고 있습니다. 예를 들어, 예전에는 인구의 80%가 농업에 종사했지만 농업이 자동화되면서 그들은 공장 노동자가 되었고, 그 후에는 지식 노동자가 되었습니다. 따라서 노동 시장에도 어느 정도 적응력이 있다고 볼 수 있습니다. 우리는 노동 시장의 작동 방식을 경제적으로 이해해야 합니다. 하지만 제 걱정은 이러한 변화가 기하급수적으로 증가하면서, 그리 오래 걸리지 않을 것 같다는 점입니다. 1년에서 5년 사이에는 우리의 적응 능력을 압도할 것입니다.

 

 

 

제 생각에 데미스는 제가 말하는 것과 같은 말을 하고 있는 것 같은데, 단지 우리가 시간표에 대해 가진 차이점을 고려하지 않았을 뿐입니다. 결국 이 문제는 이산화탄소 배출 고리를 얼마나 빨리 닫느냐에 달려 있다고 생각합니다. >> 정부가 이 문제의 규모를 제대로 인식하고 필요한 정책 대응책을 마련하기 시작했다고 얼마나 확신하십니까? >> 저는 이 문제에 대해 충분한 연구가 진행되고 있다고 생각하지 않습니다.

 

저는 이런 자리에서 경제학자들을 만날 때마다 놀라곤 하는데, 그들이 단순히 인공 일반 지능(AGI)으로 가는 길뿐만 아니라, 앞으로 어떤 일이 일어날지, 즉 기술적인 모든 문제를 해결한다고 해도 (다리오가 말했듯이 일자리 감소는 우리가 우려하는 문제 중 하나입니다), 이 새로운 생산성과 부를 더 공정하게 분배할 방법이 있을지도 모릅니다. 우리가 그렇게 할 수 있는 적절한 제도를 갖추고 있는지는 모르겠지만, 그런 일이 일어나야 합니다.

 

그 시점에는, 어쩌면 우리는 희소성이 없는 세상에 살고 있을지도 모릅니다. 하지만 지금 저를 잠 못 들게 하는 것들도 있습니다. 그 시점에는 삶의 의미와 목적, 그리고 우리가 직업에서 얻는 것들, 단순히 경제적인 것뿐만 아니라 그 이상의 많은 것들에 대한 더 큰 질문들이 있을 겁니다. 그것도 하나의 질문이지만, 이상하게도 인간의 조건과 인류 전체에 무슨 일이 일어날지에 대한 질문보다 해결하기가 더 쉬울지도 모르겠습니다.

 

그리고 저는 우리가 새로운 해답을 찾을 수 있을 거라고 낙관적으로 생각합니다. 오늘날 우리는 익스트림 스포츠부터 예술까지, 경제적 이익과 직접적인 관련이 없는 많은 활동들을 하고 있습니다. 그래서 저는 우리가 의미를 찾을 것이고, 어쩌면 그러한 활동들의 더욱 정교한 형태들이 나타날 것이라고 생각합니다. 게다가 우리는 별들을 탐사하고 있을 겁니다.

 

 

 

그러니 목적이라는 측면에서 고려해야 할 모든 것들이 있을 것입니다. 하지만 저는 앞으로 5년에서 10년 후, 즉 이 일이 일어나기 전까지 그리 많은 시간이 아닌 그 시점을 생각해 보는 것이 정말 가치 있다고 생각합니다. 인공지능에 대한 대중의 반발이 정부가 당신의 관점에서 어리석은 행동을 하게 만들 위험이 어느 정도라고 생각하시나요? 1990년대 세계화 시대를 떠올려보면, 당시 일자리가 줄어들었고 정부는 충분한 조치를 취하지 않았습니다. 그 결과 대중의 반발이 거세졌고, 지금과 같은 상황에 이르게 된 것입니다. 정치권에서 당신과 당신의 회사에 대한 반감이 커질 위험이 있다고 생각하시나요? >> 음, 분명히 위험이 있다고 생각합니다. 그건 충분히 합리적인 우려라고 봅니다.

 

일자리와 생계에 대한 두려움과 걱정이 존재하니까요. 음, 제 생각에는 향후 몇 년 동안 상황이 매우 복잡해질 것 같습니다. 지정학적으로도 그렇고, 다양한 요인들이 작용할 것 같아요. 저희는 알파폴드와 저희의 과학 연구, 그리고 스핀오프 회사인 아이소메로픽을 통해 모든 질병을 치료하고 새로운 에너지원을 개발하려고 노력하고 있습니다. 사회 전체적으로도 분명히 그런 것들을 원할 거라고 생각합니다. 하지만 업계가 현재 하고 있는 일들의 균형이 그런 방향으로 충분히 기울어지지 않은 것 같아요. 알파폴드처럼 세상에 명백히 이로운 영향을 미치는 사례가 더 많이 나와야 한다고 생각합니다. 데리도 저와 같은 생각일 거예요. 업계, 그리고 우리 모든 주요 기업들이 그런 모습을 말로만 하는 게 아니라 실제로 보여줘야 할 책임이 있다고 생각합니다. 물론, 이런 노력에는 다른 의도적인 변화들도 따르겠지만요. 또 다른 문제는 지정학적 경쟁입니다. 기업들 간의 경쟁은 물론이고, 특히 미국과 중국의 경쟁이 심하죠. 국제적인 협력이 없다면 상황이 달라질 수 있습니다. 또는 이와 관련한 이해가 필요하다고 생각합니다. 예를 들어 배치에 필요한 최소 안전 기준 같은 것이죠. 다리오 씨도 동의하실 거라고 생각합니다. 정말 절실히 필요한 부분입니다.

 

이 기술은 국경을 초월할 것입니다. 모든 사람에게 영향을 미칠 것입니다. 인류 전체에 영향을 미칠 것입니다. 음, 사실 저도 영화 '컨택트'를 정말 좋아해요. 그런데 재밌게도, 다리오 씨도 좋아하시는 줄은 몰랐네요. 하지만 저는, 음, 그런 것들은 차근차근 논의해야 한다고 생각해요. 그리고 가능하다면, 우리가 지금 예측하는 것보다 조금 더 느린 속도로, 제 예상보다 조금 더 천천히 진행하는 것이 좋을 것 같아요. 그래야 제대로 된 사회를 만들 수 있을 테니까요. 하지만 그러려면 어느 정도의 조율이 필요하겠죠. 저는 당신의 예상이 더 마음에 들어요.

 

네, [웃음] 인정할게요. >> 하지만, 하지만, 하지만 다리오, 이제 이 이야기로 넘어가 보죠. 우리가 파리에서 마지막으로 이야기했을 때 이후로 지정학적 환경이, 뭐라고 해야 할까요, 복잡하고, 미치고, 정신없고, 뭐든 간에, 정말 많이 변했어요. 두 번째로, 미국은 이제 중국에 대해 매우 다른 접근 방식을 취하고 있어요.

 

 

 

그건 좀 더 무제한적인, 최대한 빨리 진행하는 방식인데, 그러면서도 중국에 칩을 팔아야 한다는 거죠. 음, 그래서 미국에 대한 태도가 달라진 겁니다. 지금 미국과 유럽 사이에는 지정학적으로 매우 이상한 관계가 형성되어 있죠. CERN 같은 조직이 있으면 좋겠다고 말씀하시는 걸 들었는데, 현실 세계와는 완전히 동떨어진 이야기입니다. 현실 세계에서 지정학적 위험이 증가했는데, 이에 대해 어떤 조치를 취해야 한다고 생각하시나요?

 

그리고 현 행정부는 당신이 제안하신 것과는 정반대의 일을 하는 것 같습니다. >> 네, 저희는 그저 최선을 다하려고 노력하는 것뿐입니다. 저희는 한 회사일 뿐이고, 아무리 혼란스럽더라도 현 환경 속에서 사업을 운영하려고 노력하고 있습니다.

 

 

 

하지만, 아시다시피, 제 정책 제안이 적어도 그 점을 바꾸지는 못했다고 생각합니다. 반도체 칩을 팔지 않는 것은 우리가 할 수 있는 가장 중요한 일 중 하나입니다. 그래야 이 문제를 처리할 시간을 확보할 수 있습니다. 제가 전에 말씀드렸듯이, 저는 데미스의 일정을 선호합니다.

 

5년에서 10년 정도의 시간이 있었으면 좋겠습니다. 물론 데미스가 맞고 제가 틀렸을 수도 있습니다. 하지만 제가 맞다고 가정하고 1년에서 2년 안에 가능하다고 해봅시다. 왜 데미스의 일정에 맞춰 속도를 늦출 수 없을까요? >> 속도를 늦추면 되잖아요. >> 아니요. 우리가 그렇게 할 수 없는 이유는 바로 >> 지정학적 적대국들이 비슷한 속도로 같은 기술을 개발하고 있기 때문입니다.

 

그들이 속도를 늦추고 우리도 속도를 늦추는 강제력 있는 합의를 도출하기는 매우 어렵습니다. 그래서 만약 우리가 칩을 팔지 않을 수 있다면, 이것은 미국과 중국 간의 경쟁 문제가 아니라 저와 데미스 간의 경쟁 문제가 될 것이고, 저는 우리가 이 문제를 해결할 수 있다고 확신합니다.

 

>> 그리고 행정부의 논리에 대해서는 어떻게 생각하십니까? 제가 이해하기로는 미국 공급망에 그들을 묶어두기 위해 칩을 팔아야 한다는 것인데, 제 생각에는 시간적인 문제뿐만 아니라 기술의 중요성도 고려해야 할 문제입니다. 만약 통신 분야였다면, 미국산 칩을 전 세계에 보급하고, 전 세계 여러 나라들이 화웨이 칩 대신 엔비디아 칩을 사용하는 데이터 센터를 구축하도록 해야 한다는 주장이 나올 수 있겠죠. 하지만 저는 이것을 마치 북한에 핵무기를 팔 것인지 결정하는 것과 같은 문제로 봅니다. 그리고 아시다시피, 그게 보잉에 이익을 가져다주잖아요. 그러니까, 우리가 "그래, 이 소송들은 보잉이 제기한 거야"라고 말할 수 있는 거죠.

 

미국이 이기고 있는 거예요. 정말 좋은 일이죠. 저는, 음, 그냥, 제 비유가 제가 생각하는 이 상충 관계를 명확히 보여주길 바라는 거예요. 저는 이게 말이 안 된다고 생각해요. 그리고 우리는 중국과 다른 국가들에 대해 훨씬 더 공격적인 조치를 많이 취해왔는데, 제 생각에는 이 조치보다 훨씬 효과가 떨어지는 것 같아요.

 

>> 마지막으로 한 가지 더 여쭤볼 게 있어요. 그리고 질문 몇 개 받을 시간이 있으면 좋겠네요. 비관론자들이 우려하는 또 다른 잠재적 위험 영역은 전지전능하고 악의적인 AI입니다. 음, 두 분 모두 비관론적인 접근 방식에 다소 회의적이셨던 것 같은데, 작년에 우리는 이러한 모델들이 기만과 이중성을 드러낼 수 있다는 것을 목격했습니다.

 

 

 

음, 1년 전과 지금 그 위험에 대해 생각이 달라지셨나요? 그리고 모델이 발전하는 방식 때문에 우리가 좀 더 우려해야 할 부분이 있을까요? >> 네, 사실 엔트로픽 설립 초기부터 이 위험에 대해 생각해 왔습니다.

 

그러니까, 아시다시피, 저희 연구는 초기에는 매우 이론적이었습니다. 저희는 기계론적 해석 가능성이라는 개념을 개척했는데, 이는 모델 내부를 들여다보고 그 두뇌를 이해하려고 노력하는 것, 즉 인간 신경과학자로서 (저희 둘 다 신경과학 배경을 가지고 있습니다) 왜 그런 행동을 하는지 이해하려고 노력하는 것입니다.

 

그리고 시간이 지남에 따라, 모델이 나타날 때 발생하는 잘못된 행동들을 점점 더 많이 기록해 왔고, 이제는 기계론적 해석 가능성을 통해 이러한 문제들을 해결하려고 노력하고 있습니다. 그래서 저는 항상 이러한 위험에 대해 우려해 왔습니다.

 

데미스와도 여러 번 이야기를 나눴는데, 그 역시 이러한 위험에 대해 우려해 왔다고 생각합니다. 저는 분명히 그랬고, 데미스도 마찬가지일 거라고 생각하지만, 그의 말을 직접 들어보시죠. 저는 듀머리즘, 즉 우리가 망했다는 주장에 대해 회의적입니다. 우리가 할 수 있는 일은 아무것도 없거나, 이것이 가장 가능성이 높은 결과라는 것입니다.

 

저는 이것이 위험이라고 생각합니다. 우리 모두가 협력한다면, 과학을 통해 우리가 만들고 있는 이러한 창조물들을 제대로 제어하고 방향을 제시하는 방법을 배우고 해결할 수 있는 위험입니다. 하지만 우리가 제대로 만들지 못하고, 마치 경주하듯 너무 빠르게 달려서 안전장치가 없다면, 무언가 잘못될 위험이 있다고 생각합니다.

 

그래서 저는 조금 더 포괄적인 질문을 드리겠습니다. 지난 한 해 동안, 당신이 많이 이야기해 온 기술, 과학, 그리고 모든 분야의 잠재력에 대해 더 확신하게 되었습니까? 아니면 우리가 논의해 온 위험에 대해 더 걱정하고 있습니까? 저는 20년 넘게 이 분야에서 일해 왔기 때문에 이미 알고 있었습니다. 제가 평생 AI에 매달린 이유는 과학을 위한 궁극적인 도구를 만들고 우리 주변의 우주를 이해하는 데 있어서 AI가 가져다줄 잠재력 때문입니다.

 

 

 

저는 어릴 때부터 인공지능에 푹 빠져 있었고, 제대로만 한다면 인공지능 개발이야말로 궁극적인 목표 달성 도구가 될 수 있다고 생각합니다. 물론 위험 요소도 처음부터, 적어도 딥마인 개발 초기인 15년 전부터 고민해 왔습니다. 인공지능은 장점이 있는 만큼 양면성을 지닌 기술이기 때문에 악의적인 의도를 가진 사람들이 악용할 가능성도 있다고 예상했죠.

 

그래서 개발 과정 내내 이 부분을 염두에 두어야 했습니다. 저는 인간의 창의력을 믿지만, 문제는 시간과 집중력을 확보하고 최고의 인재들이 협력하여 이러한 문제를 해결할 수 있느냐는 것입니다. 만약 그런 환경이 조성된다면 기술적 위험 문제는 해결할 수 있을 거라고 생각합니다. 하지만 그렇지 못할 경우, 개발이 분산되어 오히려 위험이 발생할 수도 있습니다.

 

 

 

다양한 프로젝트들이 진행되고 사람들이 서로 경쟁하다 보면, 우리가 만들어내는 시스템들이 기술적으로 안전한지 확인하기가 훨씬 더 어려워집니다. 하지만 시간만 있다면 충분히 해결 가능한 문제라고 생각합니다. 내년에 다시 만날 때, 우리 셋이 함께 만날 수 있다면 얼마나 좋을까요? 그때까지 무엇이 달라져 있을까요? 저는 AI 시스템이 또 다른 AI 시스템을 구축하는 문제를 가장 주목해야 한다고 생각합니다. 그 방향이 어떻게 될지가 우리가 목표에 도달하는 데 몇 년이 더 걸릴지, 아니면 놀라운 일이 벌어지고 우리가 직면해야 할 큰 위기가 닥칠지를 결정할 것입니다. >> AI 시스템 구축 >> 저도 동의합니다. 그래서 우리는 그 문제에 대해 긴밀히 소통하고 있습니다.

 

 

 

그리고 그 외에도 세계 모델, 지속적 학습과 같은 흥미로운 아이디어들이 연구되고 있다고 생각합니다. 자기계발만으로는 원하는 결과를 얻기 어렵다면, 해결해야 할 과제들이 바로 이런 것들이라고 생각합니다. 그런 상황에서는 다른 방법들이 필요하고, 그렇게 되면 로봇공학 같은 분야가 도약의 순간을 맞이할 수도 있을 겁니다.

 

 

 

하지만 >> 방금 말씀하신 내용을 바탕으로 생각해 보면, 우리 모두가, 그리고 다른 모든 사람들이 결과를 내놓는 데 시간이 좀 더 걸리기를 바라는 게 좋을 것 같습니다. >> 저도 그렇게 생각합니다. 그게 더 나을 거라고 생각해요.