샘 알트먼 '성찰'

 

샘 알트먼의 성찰(반성)을 읽었다. 위대한 깨달음을 얻은 것처럼 과거는 사라진다고 하는데 아니다. 자신을 성찰하고 반성하지 않는 사람은 앞으로 나아갈 수 없다.

 

인간인 이상은 모두를 가져가야 한다. 잘못, 상처, 트라우마, 결심, 후회... 모두를 말이다. 과거를 까맣게 잊거나. 미래를 대비하지 않은 것은 욕심이다. 편하려고 하는 욕심이다.

 

가져가는 방식은 각 개인이 알아서 하는 일이다. 

 

 

샘 알트먼의 블로그에 올라온 글을 deepseek.com를 사용해 번역했다. 

 

** Reflections 성찰 **

 

ChatGPT의 두 번째 생일이 한 달 조금 넘게 지났고, 이제 우리는 복잡한 추론을 할 수 있는 다음 세대 모델로 넘어갔습니다. 새해가 되면 사람들은 반성하는 분위기가 되곤 하는데, 저는 지금까지의 여정과 그 과정에서 배운 몇 가지 개인적인 생각을 공유하고 싶습니다.

 

AGI(인공 일반 지능)에 가까워질수록, 우리 회사의 진척 상황을 돌아보는 것이 중요한 시기라고 느껴집니다. 아직도 이해해야 할 것들이 많고, 알지 못하는 것들이 많으며, 아직 초기 단계입니다. 하지만 우리는 시작할 때보다 훨씬 더 많은 것을 알고 있습니다.

 

우리는 거의 9년 전에 OpenAI를 시작했습니다. AGI가 가능할 것이며, 그것이 인류 역사상 가장 영향력 있는 기술이 될 수 있다고 믿었기 때문입니다. 우리는 AGI를 어떻게 구축하고 널리 이롭게 할 수 있을지 알아내고 싶었습니다. 역사에 발자취를 남기려는 시도에 우리는 흥분했습니다. 우리의 야망은 매우 높았고, 그 작업이 사회에 비범한 방식으로 이익을 줄 수 있다는 믿음도 마찬가지로 컸습니다.

 

당시에는 매우 소수의 사람들만이 관심을 가졌고, 관심을 가진 사람들조차도 우리가 성공할 가능성이 없다고 생각했기 때문이었습니다.

 

2022년, OpenAI는 잠시 "Chat With GPT-3.5"라고 불리는 것을 연구하는 조용한 연구실이었습니다. (우리는 연구에는 능숙하지만 이름 짓는 데는 서툴렀습니다.) 우리는 API의 플레이그라운드 기능을 통해 사람들이 모델과 대화하는 것을 지켜보며 개발자들이 정말 즐거워한다는 것을 알았습니다. 우리는 그 경험을 바탕으로 데모를 만들면 사람들에게 미래의 중요한 무언가를 보여줄 수 있고, 모델을 더 나아지고 안전하게 만드는 데 도움이 될 것이라고 생각했습니다.

 

결국 우리는 다행히도 그것을 ChatGPT라고 이름 짓고, 2022년 11월 30일에 출시했습니다.

 

우리는 항상 추상적으로, 어느 시점에서 우리가 전환점을 맞이하고 AI 혁명이 시작될 것이라는 것을 알고 있었습니다. 하지만 그 순간이 언제일지는 알지 못했습니다. 놀랍게도, 그것이 바로 이 순간이었습니다.

 

ChatGPT의 출시는 우리 회사, 우리 산업, 그리고 전 세계적으로 우리가 본 적 없는 성장 곡선을 촉발시켰습니다. 우리는 마침내 AI가 가져다줄 거대한 잠재력을 보기 시작했고, 곧 더 많은 것들이 다가올 것임을 알 수 있었습니다.

 

***

 

그 길은 쉽지 않았습니다. 순탄한 길도 아니었고, 올바른 선택이 명확하지 않았습니다.

 

지난 2년 동안, 우리는 이 새로운 기술을 중심으로 거의 처음부터 회사를 구축해야 했습니다. 이런 일을 훈련시킬 방법은 오직 직접 해보는 것뿐이며, 기술 카테고리가 완전히 새로운 경우에는 정확히 어떻게 해야 하는지 알려줄 사람이 아무도 없습니다.

 

훈련이 거의 없는 상태에서 이렇게 빠른 속도로 회사를 구축하는 것은 혼란스러운 과정입니다. 종종 두 걸음 앞으로 나가면 한 걸음 뒤로 물러서야 하고 (때로는 한 걸음 앞으로 나가고 두 걸음 뒤로 물러서기도 합니다), 실수는 진행하면서 수정되지만, 독창적인 작업을 할 때는 정말로 어떤 핸드북이나 길잡이도 없습니다. 미지의 영역에서 빠르게 움직이는 것은 놀라운 경험이지만, 모든 참여자에게 엄청난 스트레스를 주기도 합니다. 갈등과 오해가 넘쳐납니다.

 

이 몇 년은 지금까지 제 인생에서 가장 보람 있고, 재미있고, 최고이며, 흥미롭고, 지치고, 스트레스받고, 특히 지난 2년은 불편한 시간이었습니다. 압도적인 감정은 감사함입니다. 언젠가 우리 목장에서 은퇴해 식물이 자라는 것을 보며 조금 지루해하면서도, 어릴 때부터 꿈꿔왔던 일을 할 수 있었다는 것이 얼마나 멋졌는지 돌아보게 될 것임을 알고 있습니다. 매주 금요일 오후 1시까지 일곱 가지가 잘못될 때마다 그 사실을 떠올리려고 노력합니다.

 

***

 

약 1년 전, 어느 금요일에 특히 잘못된 일이 있었는데, 그날 가장 큰 문제는 화상 통화 중 갑자기 내가 해고되었다는 것이었습니다. 통화가 끝나자마자 이사회는 그 사실을 블로그 포스트로 발표했습니다. 저는 라스베이거스의 호텔 방에 있었습니다. 그것은 거의 설명할 수 없을 정도로 꿈이 악몽으로 변한 것 같은 느낌이었습니다.

 

예고 없이 공개적으로 해고된 것은 정말로 미친 몇 시간과 꽤 미친 며칠을 보내게 했습니다. "전쟁의 안개"가 가장 이상한 부분이었습니다. 우리 중 누구도 무슨 일이 일어났는지, 왜 일어났는지에 대해 만족스러운 답을 얻을 수 없었습니다.

 

전체 사건은, 제 생각에는 선의를 가진 사람들, 저를 포함한 사람들의 거버넌스 실패였습니다. 돌이켜보면, 저는 분명히 다르게 행동했어야 했다는 생각이 들고, 저는 1년 전보다 더 나은, 더 사려 깊은 리더가 되었다고 믿고 싶습니다.

 

또한 다양한 관점과 복잡한 문제를 관리하는 데 광범위한 경험을 가진 이사회의 중요성을 배웠습니다. 좋은 거버넌스는 많은 신뢰와 신뢰성을 필요로 합니다. 저는 많은 사람들이 AGI가 모든 인류에게 이익이 되도록 하는 우리의 사명을 추구할 수 있도록 더 강력한 거버넌스 시스템을 구축하기 위해 함께 노력한 방식에 감사합니다.

 

제가 가장 크게 배운 점은 얼마나 감사할 게 많은지, 그리고 얼마나 많은 사람들에게 감사해야 하는지입니다: OpenAI에서 일하며 이 꿈을 추구하기 위해 시간과 노력을 쏟아부은 모든 사람들, 위기 순간을 극복하는 데 도움을 준 친구들, 우리를 지원하고 성공을 가능하게 하도록 신뢰한 파트너와 고객들, 그리고 저에게 얼마나 관심을 가졌는지 보여준 제 삶의 사람들에게 감사합니다. [1]

 

우리는 모두 더 긴밀하고 긍정적인 방식으로 일에 복귀했으며, 그 이후로 우리의 집중력에 대해 매우 자랑스럽게 생각합니다. 우리는 지금까지 중 가장 훌륭한 연구를 수행했습니다. 주간 활성 사용자가 약 1억 명에서 3억 명 이상으로 증가했습니다. 무엇보다도, 우리는 사람들이 진정으로 사랑하고 실제 문제를 해결하는 기술을 계속해서 세상에 내놓고 있습니다.

 

***

 

9년 전, 우리는 정말로 우리가 결국 무엇이 될지 전혀 알지 못했습니다; 지금도 우리는 대략적으로만 알고 있습니다. AI 개발은 많은 우여곡절을 겪었고, 우리는 앞으로도 더 많은 변화가 있을 것으로 예상합니다.

 

그중 일부는 기쁜 일이었고, 일부는 힘든 일이었습니다. 연구의 기적이 꾸준히 일어나는 것을 지켜보는 것은 즐거웠고, 많은 비관론자들이 진정한 신봉자로 바뀌었습니다. 또한 일부 동료들이 떨어져 나가 경쟁자가 되는 것도 보았습니다. 팀은 규모가 커짐에 따라 교체되는 경향이 있고, OpenAI는 정말 빠르게 성장합니다. 저는 이것이 어느 정도 불가피하다고 생각합니다—스타트업은 보통 각 주요 성장 단계에서 많은 이직을 경험하고, OpenAI는 몇 달마다 규모가 기하급수적으로 증가합니다. 지난 2년은 일반 회사에서 10년을 보낸 것과 같습니다. 어떤 회사가 이렇게 빠르게 성장하고 진화하면, 이해관계가 자연스럽게 달라집니다. 그리고 중요한 산업에서 선두를 달리는 회사는 많은 사람들이 다양한 이유로 공격을 가하며, 특히 그들과 경쟁하려고 할 때 더욱 그렇습니다.

 

우리의 비전은 변하지 않을 것이며, 전술은 계속 진화할 것입니다. 예를 들어, 우리가 시작했을 때 우리는 제품 회사를 만들어야 할 것이라는 것을 전혀 몰랐습니다; 우리는 단지 훌륭한 연구를 할 것이라고 생각했습니다. 또한 우리는 이렇게 엄청난 양의 자본이 필요할 것이라는 것도 몰랐습니다. 몇 년 전에는 이해하지 못했던 새로운 것들을 지금 구축해야 하고, 앞으로는 지금 상상하기 어려운 새로운 것들이 있을 것입니다.

 

우리는 지금까지의 연구와 배포에 대한 성과를 자랑스럽게 생각하며, 안전과 이익 공유에 대한 사고를 계속 발전시키기 위해 노력할 것입니다. 우리는 AI 시스템을 안전하게 만드는 가장 좋은 방법은 반복적이고 점진적으로 세상에 출시하여 사회가 기술에 적응하고 공진화할 시간을 주고, 경험을 통해 배우며, 기술을 계속해서 더 안전하게 만드는 것이라고 믿습니다. 우리는 안전과 정렬 연구에서 세계적인 리더가 되는 것의 중요성과, 실제 세계 응용 프로그램의 피드백으로 그 연구를 이끄는 것의 중요성을 믿습니다.

 

우리는 이제 전통적으로 이해해 온 AGI를 구축하는 방법을 알고 있다고 확신합니다. 우리는 2025년에 첫 번째 AI 에이전트가 "노동력에 합류"하여 회사의 생산성을 실질적으로 변화시킬 수 있다고 믿습니다. 우리는 훌륭한 도구를 사람들의 손에 반복적으로 제공하는 것이 훌륭하고 광범위하게 분산된 결과를 이끌어낸다고 계속 믿습니다.

 

우리는 이제 그 이상을 목표로 삼기 시작했습니다. 진정한 의미의 초지능(Superintelligence)을 향해 나아가고 있습니다. 우리는 현재의 제품들을 사랑하지만, 우리가 여기 있는 이유는 영광스러운 미래를 위해서입니다. 초지능을 통해 우리는 다른 모든 것을 이룰 수 있습니다. 초지능 도구는 과학적 발견과 혁신을 우리 스스로의 능력을 훨씬 뛰어넘는 속도로 가속화할 수 있으며, 이는 결국 풍요와 번영을 엄청나게 증가시킬 것입니다.

 

지금은 이것이 공상과학 소설처럼 들리고, 심지어 이런 이야기를 하는 것 자체가 약간 미친 소리처럼 느껴질 수 있습니다. 괜찮습니다. 우리는 이미 그런 상황을 겪어봤고, 다시 그런 상황에 처하는 것에도 괜찮습니다. 우리는 앞으로 몇 년 안에 모든 사람들이 우리가 보는 것을 보게 될 것이며, 광범위한 이익과 역량 강화를 극대화하면서도 매우 신중하게 행동해야 할 필요성이 얼마나 중요한지 깨닫게 될 것이라고 확신합니다. 우리 작업의 가능성을 고려할 때, OpenAI는 일반적인 회사가 될 수 없습니다.

 

이 작업에 역할을 할 수 있다는 것은 얼마나 운이 좋고 겸허한 일인지 모릅니다.

 

(이 글을 쓰도록 간접적으로 영감을 준 Josh Tyrangiel에게 감사합니다. 더 많은 시간이 있었으면 좋았을 텐데요.)  

 

 

[1]

 

그 며칠 동안 OpenAI와 저 개인을 도우기 위해 엄청난 양의 일을 해준 많은 사람들이 있었지만, 그중에서도 두 사람이 특히 눈에 띄었습니다.

 

**Ron Conway**와 **Brian Chesky**는 의무를 훨씬 넘어서는 행동을 보여주셨는데, 제가 어떻게 설명해야 할지조차 잘 모르겠습니다. 물론 Ron의 능력과 끈기에 대한 이야기를 수년 동안 들어왔고, Brian과도 지난 몇 년 동안 많은 시간을 보내며 엄청난 도움과 조언을 받았습니다.

 

하지만 사람들과 함께 전투를 치르며 그들이 진정으로 무엇을 할 수 있는지 보는 것만큼 확실한 것은 없습니다. 저는 그들의 도움 없이는 OpenAI가 무너졌을 것이라고 확신합니다. 그들은 모든 일이 해결될 때까지 며칠 동안 밤낮으로 일했습니다.

 

그들은 믿기 힘들 정도로 열심히 일했지만, 항상 침착했고 명확한 전략적 사고와 훌륭한 조언을 제공했습니다. 그들은 제가 여러 실수를 저지르는 것을 막아주었고, 스스로는 단 한 번도 실수하지 않았습니다. 그들은 필요한 모든 것을 위해 자신들의 방대한 네트워크를 활용했고, 수많은 복잡한 상황을 헤쳐나갔습니다. 그리고 제가 모르는 많은 일들도 했을 것입니다.

 

하지만 제가 가장 기억할 것은 그들의 배려, 연민, 그리고 지원이었습니다.

 

저는 창업자와 회사를 지원하는 것이 어떤 것인지 알고 있다고 생각했고, 어느 정도는 알고 있었습니다. 하지만 이분들이 한 것과 같은 것은 전에는 본 적도, 들은 적도 없었습니다. 이제야 왜 그들이 전설적인 지위를 가지고 있는지 더 잘 이해하게 되었습니다. 그들은 각자 다르지만, 모두 자신들의 진정으로 독특한 명성을 완전히 받아야 할 만한 분들입니다. 그들은 산을 움직이고 도움을 주는 놀라운 능력과, 어려운 시기에 흔들리지 않는 헌신에서 비슷합니다. 기술 산업은 그들이 존재함으로써 훨씬 더 나아졌습니다.

 

그들과 같은 사람들이 더 있습니다. 이것은 우리 산업의 놀라운 특별함 중 하나이며, 사람들이 생각하는 것보다 훨씬 더 많은 것을 가능하게 합니다. 저도 그 은혜를 갚는 날을 기대합니다.

 

더 개인적인 이야기로, 그 주말과 항상 저를 지원해준 **Ollie**에게 특히 감사드립니다. 그는 모든 면에서 놀라운 사람이며, 그보다 더 나은 파트너는 없을 것입니다.