샘 알트먼의 OpenAI, 그 야망, 그리고 성장하는 제국에 대한 이야기

 

OpenAI: 힘과 자부심

 

샘 알트먼의 OpenAI, 그 야망, 그리고 성장하는 제국에 대한 이야기를 담은 두 권의 신간이 출간되었습니다.

 

By Mat Honanarchive page 맷 호난, 아카이브 페이지

 

2025년 5월 28일

 

지난 4월, 기술 스타트업 액셀러레이터 Y Combinator의 설립자 폴 그레이엄은 전 YC 사장이자 현 OpenAI CEO인 샘 알트먼에게 답글을 올렸습니다. 알트먼은 X에서 GPT-4에 공식적으로 작별 인사를 한 직후였고, 그레이엄은 후속 질문을 던졌습니다.

 

그레이엄은 모델의 동작을 결정하는 값을 언급하며 "[GPT-4의 모델 가중치]를 가장 압축된 형태로 금속 조각에 새겨 넣는다면, 그 금속 조각은 얼마나 커야 할까요?"라고 썼습니다. 이는 매우 심각한 질문입니다. 이러한 모델은 이미 지나간 일이고, 디지털 데이터는 기본적으로 증발합니다.

 

OpenAI가 2022년 ChatGPT 3.5를 출시하며 역사적인 성과를 거두었다는 것은 의심의 여지가 없습니다. 이 버전은 이미 여러 면에서 세상을 변화시킨 AI 군비 경쟁의 불씨를 당겼으며, 교육이나 고용과 같은 분야에서 우리가 이미 목격하기 시작한 단기적인 혼란보다 훨씬 더 큰 장기적 영향을 미칠 것으로 보입니다. 이것이 인류에게 어떤 결과를 가져올지는 아직 예측할 수 없으며, 아마도 상당 기간 동안 그럴 것입니다. 하지만 최근 출간된 두 권의 책은 두 명의 저명한 기술 저널리스트가 OpenAI 혁명에서 목격한 내용을 바탕으로 이 문제를 파헤치려 합니다.

 

샘 알트먼의 저서 『AI의 제국: OpenAI의 꿈과 악몽』에서 카렌 하오는 OpenAI가 권력을 장악하고 전 세계에 미친 광범위한 영향에 대한 이야기를 들려줍니다. 한편, 월스트리트 저널의 키치 헤이지가 쓴 『낙관주의자: 샘 알트만, OpenAI, 그리고 미래를 발명하기 위한 경쟁』(The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future)은 알트만의 어린 시절부터 현재까지의 사생활을 더욱 깊이 있게 다루며, OpenAI의 이야기를 풀어냅니다. 두 책 모두 복잡한 상황을 묘사하며, 특히 알트만을 실리콘 밸리의 뛰어난 능력과 심각한 결함을 지닌 존재로 묘사합니다. 그는 항상 원하는 것을 얻을 수 있지만, 종종 타인을 조종하는 방법을 택합니다.

 

MIT 테크놀로지 리뷰의 기자였던 하오는 이 출판사에서 OpenAI에 대한 기사를 쓰기 시작했으며, 지금도 간헐적으로 기고하고 있습니다. 그녀의 책 한 장은 바로 이 기사에서 비롯되었습니다. 실제로 하오는 『AI의 제국』의 감사의 글에서 AI 식민주의에 대한 연재물인 MIT 테크놀로지 리뷰에 기고한 일부 기사가 "이 책의 주제와 궁극적으로 제목의 토대를 마련했다"고 말합니다. 따라서 이는 우리가 하오의 연구를 호의적으로 평가하는 경향이 있다는 일종의 경고로 받아들일 수 있습니다.

 

관련 기사

Greg Brockman과 Ilya Sutskever의 얼굴 조각이 OpenAI 로고를 구성하다

OpenAI를 격분시킨 이야기 속으로: 2019년, MIT Technology Review의 선임 기자 Karen Hao는 당시 거의 알려지지 않았던 회사 OpenAI에 대한 기사를 쓰겠다고 제안했습니다. 그 후의 이야기는 다음과 같습니다.

 

 

그런 의미에서, Empire of AI는 훌륭한 기사뿐만 아니라 큰 아이디어로 가득 찬 강력한 작품입니다. 이는 두 가지 주요 주제를 다룹니다.

 

첫 번째는 간단합니다. 윤리보다 야망이 앞선 이야기입니다. Hao가 말하는 OpenAI의 역사(그리고 Hagey가 말하는 OpenAI의 역사)는 안전에 초점을 맞춘 인공 일반 지능을 만들겠다는 이상주의적인 열망으로 설립되었지만, 승리에 더 관심을 갖게 된 회사의 이야기입니다. 이는 빅테크 업계에서 이미 여러 번 목격된 이야기입니다. 진단을 더 쉽게 만들려던 Theranos나 "빅 택시" 카르텔을 깨기 위해 설립된 Uber가 그 예입니다. 하지만 가장 유사한 사례는 구글일 것입니다. 구글은 "악해지지 마라"라는 슬로건에서 (적어도 법원의 눈에는) 불법적인 독점 기업으로 전락했습니다. 구글이 소비자용 언어 모델 출시를 신중히 미루다가 어떻게 OpenAI를 따라잡고 이기기 위해 챗봇을 서둘러 출시했는지 생각해 보세요. 실리콘 밸리에서는 원래 의도가 무엇이든 항상 승리로 돌아갑니다.

 

두 번째 주제는 더 복잡하며, 하오가 AI 식민주의라고 부르는 것에 대한 이 책의 논지를 형성합니다. 대규모 AI 기업들이 전통적인 제국처럼 행동하며 노동, 창작물, 원자재 등의 형태로 사회 최하층 계층의 부를 훔쳐 야망을 키우고 최상층 계층의 부를 축적한다는 것입니다. 그녀는 "이러한 AI 파워 플레이어들의 본질을 요약하는 유일한 비유를 찾았습니다. 바로 제국입니다."라고 썼습니다.

 

"긴 유럽 식민주의 시대에 제국들은 자국의 것이 아닌 자원을 약탈하고 착취했으며, 자신들이 예속시킨 사람들의 노동력을 착취하여 그 자원을 채굴하고 경작하고 정제함으로써 제국의 부를 축적했습니다." 그녀는 이어서 산업에 대한 자신의 환멸이 점점 커지는 과정을 기록합니다. "점점 더 분명하게 깨달았습니다." 그녀는 이렇게 썼습니다. "더 나은 미래를 약속했던 혁명이 오히려 사회의 변두리에 있는 사람들에게는 가장 어두운 잔재를 되살리는 것이었음을요."

 

"긴 유럽 식민주의 시대에 제국들은 자국의 것이 아닌 자원을 약탈하고 착취했으며, 정복한 사람들의 노동력을 착취하여 제국의 부를 축적하기 위해 그 자원을 채굴하고 경작하고 정제했습니다." 그녀는 이 산업에 대한 자신의 환멸이 점점 커지는 과정을 기록합니다. "점점 더 명확해지면서, 더 나은 미래를 약속했던 혁명이 오히려 사회의 변두리에 있는 사람들에게는 과거의 가장 어두운 잔재를 되살리는 것이었음을 깨달았습니다."라고 그녀는 씁니다.

 

이를 기록하기 위해 하오는 책상에서 잠시 벗어나 세상으로 나가 이 제국이 지구 전역으로 뻗어 나가는 모습을 목격합니다. 그녀는 AI에게 다양한 이미지가 보여주는 내용을 가르치는 임무를 맡은 데이터 라벨러들을 만나기 위해 콜롬비아로 향합니다. 그중 한 명은 돈을 벌 기회를 잡으려고 아파트로 황급히 돌아가는 모습을 묘사합니다. 그녀는 OpenAI에서 데이터 라벨링 콘텐츠 관리를 담당했던 케냐의 작업자들이 너무나 많은 불편한 자료를 보고 트라우마를 겪는 모습을 기록합니다. 칠레에서 그녀는 업계가 데이터 센터를 건설하기 위해 물, 전력, 구리, 리튬 등 귀중한 자원을 추출하는 과정을 기록합니다.

 

그녀는 전 세계 사람들이 AI 제국에 저항하는 방식을 탐구합니다. 하오는 뉴질랜드의 마오리족이 직접 만든 소규모 언어 모델을 사용하여 언어를 보존하려 시도하는 사례에서 교훈을 얻습니다. 자원봉사자들의 음성 녹음을 기반으로 훈련되고 OpenAI와 같은 기업들이 사용하는 수천 개의 GPU가 아닌 단 두 개의 그래픽 처리 장치(GPU)로 구동되는 이 모델은 공동체를 착취하는 것이 아니라 공동체에 이롭게 하는 데 목적을 두고 있습니다.

 

관련 기사

캐즘(chasm) 개념

인공지능이 새로운 식민 세계 질서를 만들어가고 있다

MIT 테크놀로지 리뷰 시리즈는 AI가 이전에 박탈당했던 공동체를 박탈함으로써 소수의 권력자를 부유하게 만드는 방식을 조사합니다.

 

하오는 AI에 반대하지 않는다고 썼습니다. 오히려: "제가 거부하는 것은 AI의 광범위한 혜택이 우리의 프라이버시, 주체성, 그리고 노동과 예술의 가치를 포함한 우리의 가치를 완전히 굴복시켜 궁극적으로 제국주의적 중앙집중화 프로젝트를 향해 나아가도록 요구하는 기술 비전에서만, 아니 실제로는 결코 도출될 수 없다는 위험한 관념입니다... [뉴질랜드 모델은] 우리에게 또 다른 길을 보여줍니다. AI가 어떻게 정반대일 수 있는지를 상상하게 합니다. 모델은 작고 특정 작업에만 국한될 수 있으며, 훈련 데이터는 포함되어 있고 인식 가능하여, 만연한 착취적이고 심리적으로 유해한 노동 관행과 거대한 슈퍼컴퓨터를 생산하고 운영하는 데 따르는 모든 것을 소모하는 채굴주의에 대한 인센티브를 제거합니다."

 

헤이지의 책은 알트만의 야망에 더욱 집중하는데, 그녀는 그의 야망을 그의 어린 시절로 거슬러 올라갑니다. 그러나 흥미롭게도, 그녀는 OpenAI CEO가 제국을 건설하려는 시도에도 주목합니다. 실제로 "알트만이 YC를 떠났음에도 불구하고 그의 문명 건설 야망은 꺾이지 않았다"고 헤이지는 썼습니다. 그녀는 이전에 캘리포니아 주지사 출마를 고려했던 알트만이 월드코인(Worldcoin)의 모회사인 툴스 포 휴머니티(Tools for Humanity)를 통해 소득 분배 실험을 어떻게 시작했는지 기록합니다. 그녀는 알트만이 이에 대해 "국가들이 과거에 달성했던 목표들을 기술이 얼마나 달성할 수 있을지 보는 것이 흥미로울 것 같았다"라고 말했다는 내용을 인용합니다.

 

전반적으로 『낙관론자』는 두 작가 중 더 직설적인 기업 전기입니다. 헤이지는 특종과 통찰력, 그리고 숨겨진 이야기로 가득 채웠습니다. 그 결과, 특히 후반부에서 오픈AI가 이야기를 완전히 장악하면서 매우 읽기 쉽습니다. 헤이지는 또한 하오보다 알트만과 그의 내부, 개인적, 직업적 동지들에 훨씬 더 많이 접근할 수 있었던 것으로 보이며, 이는 CEO의 이야기를 곳곳에서 더욱 풍부하게 풀어낼 수 있게 합니다. 예를 들어, 두 작가 모두 알트만의 여동생 애니의 비극적인 이야기, 가족과의 이별, 그리고 특히 샘에게 성적 학대를 당했다는 혐의(알트만과 알트만 가족은 이를 강력히 부인함)를 다룹니다. 헤이지의 이야기는 상황에 대한 더욱 섬세한 묘사와 가족 역학 관계에 대한 깊이 있는 통찰을 제공합니다.

 

헤이지는 인류 역사의 긴 흐름 속에서 알트만이 자신의 역할을 되돌아보고 "초지능"을 창조하는 것이 무엇을 의미하는지 설명하며 글을 마무리합니다. 이러한 흐름 속에서 그의 위치는 분명 CEO의 생각을 사로잡고 있습니다. 예를 들어 폴 그레이엄이 GPT-4의 보존에 대해 질문했을 때, 알트만은 이미 답변을 준비해 두었습니다. 그는 회사가 이미 이 문제를 고려했으며, 금속판은 100제곱미터가 되어야 한다고 답했습니다.

 

by Mat Honan  기사 원문 링크 

 

 

Empire of AI와 The Optimist 책 표지, MITTR ❘ 펭귄 랜덤 하우스, WW 노턴 앤 컴퍼니