미래는 왜 우리를 필요로 하지 않는가

비단 거물이 아닐지라도, 테크 기업의 CEO들 블로그에 실린 글을 좋아한다.

 

실리콘밸리 거물들은 주기적으로 이런 테크 묵시록을 발표하고는 하는데, 선마이크로시스템즈의 빌 조이가 2000년 《와이어드》에 기고한 장문의 매니페스토가 대표적이다. Why the Future Doesn’t Need Us.

 

26년 전의 예견이 서늘하지 않은가. 미래에 인류의 자리는 없다니. 그대로 현실이 되어가고 있다. 

 

문서 출처 링크는 이곳을 참고하세요.

 

 

 

미래는 왜 우리를 필요로 하지 않는가

 

21세기의 가장 강력한 기술인 로봇공학, 유전공학, 나노기술은 인류를 멸종 위기에 처한 종으로 만들 위험이 있습니다.

 

그 순간부터저는 신기술 개발에 참여하면서 그 윤리적 측면에 대해 관심을 가져왔지만, 21세기에 우리가 직면한 위험이 얼마나 큰지 절실히 깨닫게 된 것은 1998년 가을이었습니다. 제 불안감은 시각 장애인을 위한 최초의 독서 기계를 비롯한 수많은 놀라운 발명품으로 명성을 떨친 레이 커즈와일을 만난 날부터 시작되었습니다.

 

레이와 저는 둘 다 조지 길더 의 텔레코즘 컨퍼런스에서 발표자로 참여했는데, 발표가 끝난 후 호텔 바에서 우연히 그를 만났습니다. 저는 의식을 연구하는 버클리대 철학자 존 설과 함께 앉아 있었는데, 이야기를 나누던 중 레이가 다가와 대화를 시작했고, 그 대화의 주제는 지금까지도 제 머릿속에 남아 있습니다.

 

저는 레이의 강연과 그 후 레이와 존이 참여했던 패널 토론을 놓쳤는데, 그들은 마치 어제 대화를 이어가는 듯했습니다. 레이는 기술 발전 속도가 가속화될 것이고 우리는 로봇이 되거나 로봇과 융합하게 될 것이라고 말했고, 존은 로봇은 의식이 없기 때문에 그런 일은 일어날 수 없다고 반박했습니다 .

 

전에도 그런 이야기를 들어본 적은 있었지만, 지각 능력을 가진 로봇은 공상 과학 소설 속 이야기라고만 생각했습니다. 그런데 제가 존경하는 분께서 그런 로봇이 머지않아 현실이 될 수 있다는 강력한 주장을 펼치시는 것을 듣고 깜짝 놀랐습니다. 특히 미래를 상상하고 창조하는 능력이 이미 입증된 레이의 능력을 생각하면 더욱 그랬습니다. 유전 공학이나 나노 기술 같은 신기술이 세상을 바꿀 힘을 준다는 건 알고 있었지만, 지능형 로봇이 현실적이고 임박한 시나리오로 다가온다는 사실은 저를 놀라게 했습니다.

 

이런 획기적인 발전들에 쉽게 싫증을 느끼기 마련입니다. 뉴스에서 거의 매일같이 온갖 기술적, 과학적 진보 소식을 접하니까요. 하지만 이번 예측은 평범한 것이 아니었습니다. 호텔 바에서 레이는 당시 출간 예정이었던 자신의 책, ​​『영적 기계의 시대』 의 초고 일부를 제게 건네주었습니다. 그 책 에는 그가 예견한 유토피아, 즉 인간이 로봇 기술과 하나가 되어 거의 불멸에 가까운 삶을 얻게 되는 세상이 묘사되어 있었습니다. 책을 읽으면서 저는 불안감이 더욱 커졌습니다. 그가 이 길의 위험성을, 그리고 나쁜 결과가 나올 가능성을 과소평가하고 있는 것이 분명하다고 생각했습니다.

 

저는 암울한 미래를 묘사한 구절에서 가장 큰 불편함을 느꼈습니다.

 

새로운 러다이트 운동의 도전

 

먼저 컴퓨터 과학자들이 인간보다 모든 일을 더 잘할 수 있는 지능형 기계를 개발하는 데 성공했다고 가정해 봅시다. 그렇다면 아마도 모든 작업은 방대하고 고도로 조직화된 기계 시스템에 의해 수행될 것이고 인간의 노력은 더 이상 필요하지 않을 것입니다. 두 가지 경우가 발생할 수 있습니다. 기계가 인간의 감독 없이 스스로 모든 결정을 내리도록 허용될 수도 있고, 아니면 인간이 기계를 통제하는 권한을 유지할 수도 있습니다.

 

만약 기계가 모든 결정을 스스로 내리도록 허용된다면, 그 결과에 대해 어떤 추측도 할 수 없습니다. 왜냐하면 그런 기계들이 어떻게 행동할지 예측하는 것은 불가능하기 때문입니다. 우리는 단지 인류의 운명이 기계의 손에 달려 있게 될 것이라는 점을 지적할 뿐입니다. 인류가 기계에게 모든 권력을 넘겨줄 만큼 어리석지는 않을 것이라고 주장할 수도 있습니다. 하지만 우리는 인류가 자발적으로 기계에게 권력을 넘겨줄 것이라거나, 기계가 의도적으로 권력을 장악할 것이라 주장하는 것이 아닙니다. 우리가 주장하는 것은 인류가 기계에 대한 의존도가 너무 높아져서 결국 기계의 모든 결정을 받아들일 수밖에 없는 상황에 쉽게 빠질 수 있다는 것입니다. 사회와 사회가 직면한 문제들이 점점 더 복잡해지고 기계가 점점 더 지능화됨에 따라, 사람들은 기계가 내린 결정이 인간이 내린 결정보다 더 나은 결과를 가져올 것이라는 이유만으로 기계에게 더 많은 결정을 맡길 것입니다. 결국 시스템을 유지하는 데 필요한 결정들이 너무 복잡해져서 인간이 지능적으로 결정을 내릴 수 없는 단계에 도달할지도 모릅니다. 그 단계에 이르면 기계가 실질적으로 모든 것을 통제하게 될 것입니다. 사람들은 기계에 너무 의존하게 되어 기계를 끄는 것이 자살 행위처럼 느껴지기 때문에 기계를 마음대로 끌 수 없을 것입니다.

 

반면에 인간이 기계를 통제하는 능력이 유지될 가능성도 있습니다. 그런 경우 일반인은 자신의 자동차나 개인용 컴퓨터와 같은 특정 개인용 기계를 통제할 수 있겠지만, 거대한 기계 시스템에 대한 통제권은 오늘날과 마찬가지로 소수의 엘리트에게 집중될 것입니다. 다만 두 가지 차이점이 있습니다. 첫째, 향상된 기술 덕분에 엘리트는 대중을 더욱 효과적으로 통제할 수 있게 될 것입니다. 둘째, 인간의 노동력이 더 이상 필요하지 않게 되면서 대중은 시스템에 불필요한 짐이 될 것입니다. 엘리트가 냉혹하다면 단순히 인류 대부분을 말살하기로 결정할 수도 있습니다. 만약 그들이 인도적이라면 선전이나 다른 심리적, 생물학적 기술을 사용하여 출산율을 낮춰 인류 대부분을 멸종시키고 세상을 엘리트의 손에 넘길 수도 있습니다. 또는 엘리트가 마음이 여린 자유주의자들로 구성되어 있다면, 나머지 인류를 위한 선한 목자 역할을 하기로 결정할 수도 있습니다. 그들은 모든 사람의 신체적 욕구를 충족시키고, 모든 아이들이 심리적으로 건강한 환경에서 자라도록 하며, 모든 사람이 건전한 취미로 바쁘게 지내도록 하고, 불만을 느끼는 사람은 누구든 '치료'를 받아 '문제'를 해결할 수 있도록 할 것입니다. 물론 삶은 너무나 무의미해져서 사람들은 권력에 대한 욕구를 제거하거나 권력욕을 무해한 취미로 '승화'시키도록 생물학적 또는 심리적으로 조작되어야 할 것입니다. 이렇게 조작된 인간은 그러한 사회에서 행복할 수는 있겠지만, 결코 자유롭지는 못할 것입니다. 그들은 가축과 같은 존재로 전락할 것입니다 .

 

이 책에서는 다음 페이지를 넘겨야 이 구절의 저자가 시어도어 카진스키, 즉 유나보머라는 사실을 알게 됩니다. 저는 카진스키를 옹호하는 사람이 아닙니다. 그의 폭탄 ​​테러는 17년간의 테러 기간 동안 세 명의 목숨을 앗아갔고 수많은 사람에게 부상을 입혔습니다. 그의 폭탄 ​​중 하나는 우리 시대 가장 뛰어난 선구적인 컴퓨터 과학자 중 한 명인 제 친구 데이비드 겔런터에게 심각한 부상을 입혔습니다. 저를 포함한 많은 동료들은 저 또한 유나보머의 다음 표적이 될 수 있었다고 생각했습니다.

 

카진스키의 행동은 살인적이었고, 제 생각에는 정신 이상에 의한 범죄였습니다. 그는 분명 러다이트주의자이지만, 단순히 그렇게 말한다고 해서 그의 주장이 완전히 틀린 것은 아닙니다. 인정하기는 어렵지만, 저는 이 구절에 담긴 논리에 어느 정도 일리가 있다고 생각했습니다. 그래서 그의 주장을 반박해야 한다고 느꼈습니다.

 

카진스키의 디스토피아적 비전은 의도치 않은 결과, 즉 기술 설계 및 사용의 고질적인 문제점을 묘사하며, 이는 머피의 법칙, 즉 "잘못될 수 있는 것은 반드시 잘못된다"는 법칙과 분명히 연관되어 있습니다. (실제로 이는 피나글의 법칙이며, 이 법칙 자체가 피나글의 주장이 옳았음을 보여줍니다.) 항생제의 남용은 지금까지 발생한 가장 심각한 문제, 즉 항생제 내성균과 훨씬 더 위험한 세균의 출현으로 이어졌습니다. 말라리아를 옮기는 모기를 DDT로 박멸하려던 시도가 모기에게 DDT 내성을 부여했던 것과 유사한 사례가 있습니다. 말라리아 기생충 역시 다제내성 유전자를 획득했습니다. 2

 

이러한 예상치 못한 결과의 원인은 명확해 보입니다. 관련된 시스템이 복잡하고, 여러 부분 간의 상호 작용과 피드백을 포함하기 때문입니다. 이러한 시스템에 변화가 생기면 예측하기 어려운 방식으로 연쇄적인 영향을 미치게 되는데, 특히 인간의 행동이 개입될 경우 더욱 그렇습니다.

 

저는 친구들에게 커즈와일의 저서 『영적 기계의 시대』 에 나오는 카진스키의 인용구를 보여주기 시작했습니다 . 커즈와일의 책을 건네주고 그 인용구를 읽게 한 다음, 누가 쓴 글인지 알게 되었을 때 그들의 반응을 지켜보곤 했습니다. 거의 같은 시기에 한스 모라벡의 저서 『로봇: 단순한 기계에서 초월적 정신으로』를 발견했습니다 . 모라벡은 로봇 공학 연구의 선구자 중 한 명이며, 카네기 멜론 대학교에서 세계 최대 규모의 로봇 공학 연구 프로그램을 설립한 인물입니다. 『로봇』은 제 친구들에게 시도해 볼 만한 자료를 더 많이 제공해 주었고, 놀랍게도 카진스키의 주장을 뒷받침하는 자료들이 많았습니다. 예를 들면 다음과 같습니다.

 

단기적인 성공 (2000년대 초반)

 

생물 종은 우월한 경쟁자와의 만남에서 거의 살아남지 못합니다. 천만 년 전, 남아메리카와 북아메리카는 물에 잠긴 파나마 지협으로 분리되어 있었습니다. 오늘날의 호주처럼 남아메리카에는 쥐, 사슴, 호랑이와 같은 주머니 달린 유대류 포유류가 서식했습니다. 북아메리카와 남아메리카를 연결하는 지협이 솟아오르자, 신진대사와 생식 및 신경계가 약간 더 효율적인 북아메리카의 태반 포유류가 불과 몇천 년 만에 남아메리카의 유대류를 거의 모두 몰아내고 멸종시켰습니다.

 

완전한 자유 시장에서는 뛰어난 로봇이 북미 태반 포유류가 남미 유대류에 영향을 미쳤던 것처럼 (그리고 인간이 수많은 종에 영향을 미쳤던 것처럼) 인간에게 영향을 미칠 것이 분명합니다. 로봇 산업은 물질, 에너지, 공간을 놓고 치열하게 경쟁하며, 결과적으로 로봇 가격을 인간이 감당할 수 없는 수준으로 끌어올릴 것입니다. 생존에 필요한 필수품을 구입할 여력이 없어진 인간은 결국 멸종될 것입니다.

 

완전한 자유 시장 경제가 아니기 때문에 어느 정도 숨통이 트일 여지는 있을 것입니다. 정부는 특히 세금을 징수하는 방식으로 비시장적 행위를 강제합니다. 현명하게 활용된다면, 정부의 강제력은 로봇 노동의 결실을 통해 인류를 오랫동안 풍족하게 부양할 수 있을 것입니다.

 

교과서적인 디스토피아—그리고 모라벡은 이제 막 흥분을 고조시키고 있을 뿐입니다. 그는 21세기 우리의 주요 과제가 "로봇 산업의 지속적인 협력을 확보하는 것"이 ​​될 것이며, 이를 위해 로봇들이 "친절해야 한다"는 법을 제정해야 한다고 주장합니다. 또한 인간이 "무한한 초지능 로봇으로 변모했을 때" 얼마나 심각한 위험을 초래할 수 있는지 묘사합니다. 3 모라벡은 로봇이 결국 인간을 대체할 것이며, 인간은 분명히 멸종에 직면할 것이라고 주장합니다.

 

친구인 대니 힐리스와 이야기를 나눠볼 때가 되었다고 생각했습니다. 대니는 강력한 병렬 슈퍼컴퓨터를 개발한 씽킹 머신즈 코퍼레이션(Thinking Machines Corporation)의 공동 창립자로 유명해졌습니다. 현재 저는 썬 마이크로시스템즈(Sun Microsystems)의 수석 과학자라는 직함을 갖고 있지만, 과학자라기보다는 컴퓨터 아키텍트에 가깝습니다. 그래서 저는 제가 아는 그 누구보다도 정보 과학과 물리 과학에 대한 대니의 지식을 존경합니다. 대니는 또한 장기적인 안목을 가진 저명한 미래학자이기도 합니다. 4년 전 그는 우리 사회의 지나치게 짧은 집중력에 대한 경각심을 일깨우기 위해 1만 년 동안 작동하는 시계를 제작하는 롱 나우 재단(Long Now Foundation)을 설립했습니다. ( 와이어드(Wired ) 8.03호 " 시간의 시험(Test of Time ) " 참조 )

 

그래서 저는 대니와 그의 아내 패티와 저녁 식사를 하기 위해 일부러 로스앤젤레스로 날아갔습니다. 저는 이제 익숙해진 제 루틴대로 제가 그토록 불편하게 여겼던 생각과 구절들을 꺼냈습니다. 대니는 커즈와일이 제시한 인간과 로봇의 융합 시나리오에 대해, 특히 그 부분에 대해, 놀라울 정도로 빠르게 대답했습니다. 그는 변화가 점진적으로 일어날 것이고, 우리는 결국 익숙해질 것이라고 간단히 말했습니다.

 

하지만 솔직히 완전히 놀라지는 않았습니다. 커즈와일의 책에서 대니가 한 말을 본 적이 있었거든요. "저도 제 몸을 다른 사람들처럼 소중하게 생각하지만, 실리콘으로 200살까지 살 수 있다면 기꺼이 그렇게 할 겁니다." 그는 이 과정과 그에 따르는 위험을 담담하게 받아들이는 듯했지만, 저는 그렇지 않았습니다.

 

커즈와일, 카진스키, 모라벡에 대해 이야기하고 생각하던 중, 문득 20년 전에 읽었던 소설 한 편이 떠올랐습니다. 프랭크 허버트의 『백색 역병』인데, 분자생물학자가 가족의 무참한 살해에 미쳐버리는 이야기입니다. 복수를 위해 그는 광범위하지만 선택적으로 사람들을 죽이는, 전염성이 매우 강한 새로운 역병을 만들어 퍼뜨립니다. (카진스키가 분자생물학자가 아니라 수학자였던 게 다행입니다.) 또한 스타트렉 의 보그도 생각났습니다 . 생물학적 요소와 로봇적 요소가 결합된, 파괴적인 성향이 강한 생명체 집단 말입니다. 보그 같은 재앙은 SF의 단골 소재인데, 왜 저는 이런 로봇 디스토피아에 대해 더 일찍 걱정하지 않았을까요? 왜 다른 사람들은 이런 악몽 같은 시나리오에 대해 더 우려하지 않았을까요?

 

해답의 일부는 분명 새로운 것에 대한 우리의 태도, 즉 즉각적인 친숙함과 무비판적 수용에 대한 편견에 있습니다. 과학적 발견을 거의 일상적인 것으로 받아들이는 데 익숙해진 우리는 21세기의 가장 강력한 기술들, 즉 로봇공학, 유전공학, 나노기술이 이전 시대의 기술들과는 다른 위협을 제기한다는 사실을 아직 제대로 인식하지 못하고 있습니다. 특히 로봇, 유전자 조작 생물체, 나노봇은 위험한 증폭 요인을 공유하는데, 바로 자기 복제 능력입니다. 폭탄은 한 번만 터지지만, 로봇 하나는 순식간에 수로 불어나 통제 불능 상태가 될 수 있습니다.

 

지난 25년간 제 연구의 대부분은 컴퓨터 네트워킹 분야에 집중되어 왔습니다. 메시지 송수신 과정에서 제어 불가능한 복제가 발생할 가능성이 있기 때문입니다. 컴퓨터나 네트워크에서 복제가 발생하는 것은 단순히 성가신 일일 뿐이며, 최악의 경우 기기 고장이나 네트워크 또는 네트워크 서비스 중단으로 이어질 뿐입니다. 그러나 이러한 최신 기술에서 제어되지 않는 자체 복제는 훨씬 더 큰 위험을 초래합니다. 바로 물리적 세계에 막대한 피해를 입힐 수 있다는 것입니다.

 

이러한 기술들은 각각 무한한 가능성을 제시합니다. 커즈와일이 로봇에 대한 꿈에서 그리는 거의 불멸에 가까운 삶에 대한 비전은 우리를 앞으로 나아가게 하는 원동력이며, 유전자 공학은 머지않아 대부분의 질병에 대한 치료법, 나아가 완치법을 제공할 수 있을 것입니다. 또한 나노기술과 나노의학은 더 많은 질병을 해결할 수 있는 잠재력을 지니고 있습니다. 이러한 기술들이 결합된다면 평균 수명을 크게 연장하고 삶의 질을 향상시킬 수 있을 것입니다. 그러나 이러한 기술들은 각각 작고 개별적으로는 타당한 발전들이 모여 엄청난 힘을 축적하는 동시에 큰 위험을 내포하고 있습니다.

 

20세기에 무엇이 달랐을까요? 대량살상무기(WMD), 즉 핵무기, 생물학무기, 화학무기(NBC)의 기반이 되는 기술들은 분명히 강력했고, 이러한 무기들은 엄청난 위협이었습니다. 하지만 핵무기를 제조하려면, 적어도 한동안은, 희귀하고 사실상 구하기 어려운 원자재와 고도로 보호된 정보에 대한 접근이 필요했습니다. 생물학무기와 화학무기 프로그램 역시 대규모 활동을 필요로 하는 경향이 있었습니다.

 

21세기의 기술, 즉 유전학, 나노기술, 로봇공학(GNR)은 매우 강력하여 완전히 새로운 유형의 사고와 남용을 초래할 수 있습니다. 더욱 위험한 것은 이러한 사고와 남용이 처음으로 개인이나 소규모 집단에 의해 광범위하게 자행될 수 있다는 점입니다. 대규모 시설이나 희귀한 원자재도 필요하지 않습니다. 오직 지식만으로도 이러한 기술의 사용이 가능해질 것입니다.

 

따라서 우리는 대량살상무기뿐만 아니라 지식을 이용한 대량살상무기(KMD)의 가능성도 가지고 있으며, 이러한 파괴력은 자기복제력에 의해 엄청나게 증폭될 수 있다.

 

우리가 극단적인 악의 더욱 완벽한 형태로 나아가는 문턱에 서 있다고 해도 과언이 아니라고 생각합니다. 이러한 악은 대량살상무기가 국가에 남긴 악의 범위를 훨씬 넘어, 극단적인 개인들에게 놀랍고도 끔찍한 힘을 부여하는 방향으로까지 확산될 가능성이 있습니다.

 

그것에 관한 것은 아무것도 없습니다제가 컴퓨터에 관심을 갖게 된 계기를 보면 앞으로 이런 종류의 문제에 직면하게 될 거라는 걸 짐작할 수 있었습니다.

 

제 삶은 질문을 던지고 답을 찾고자 하는 깊은 욕구에 의해 움직여 왔습니다. 세 살 때 이미 책을 읽을 수 있었던 저는 아버지가 저를 초등학교에 데려가셨고, 교장 선생님 무릎에 앉아 이야기를 읽어드리곤 했습니다. 일찍 학교에 입학했고, 나중에는 월반까지 하게 되면서 책 속으로 도피했습니다. 저는 배우고자 하는 열정이 엄청났습니다. 질문을 정말 많이 해서 어른들을 곤란하게 만들 때도 많았습니다.

 

십대 시절 저는 과학과 기술에 관심이 많았습니다. 아마추어 무선 통신사가 되고 싶었지만 장비를 살 돈이 없었죠. 아마추어 무선은 당시의 인터넷과 같았습니다. 중독성이 강하면서도 꽤 고독한 취미였죠. 돈 문제는 둘째치고, 어머니는 제가 아마추어 무선사가 되는 것을 절대 허락하지 않으셨습니다. 제가 이미 충분히 내성적이라는 이유였죠.

 

친한 친구는 많지 않았지만, 아이디어는 넘쳐났습니다. 고등학교 시절에는 위대한 SF 작가들을 알게 되었죠. 특히 하인라인의 『우주복을 입고 여행하라』 와 아시모프의 『아이, 로봇』 , 그리고 그 안에 담긴 로봇 3원칙이 기억에 남습니다. 우주 여행에 대한 묘사에 매료되어 별을 볼 수 있는 망원경을 갖고 싶었습니다. 돈이 없어서 직접 만들 수도 없었지만, 도서관에서 망원경 제작 관련 책을 빌려 읽으며 상상의 나래를 펼쳤습니다.

 

목요일 밤이면 부모님은 볼링을 치러 가셨고, 우리 아이들은 집에 혼자 남았습니다. 그날 밤은 진 로든베리의 오리지널 스타트렉이 방영되는 날이었고, 그 프로그램은 제게 큰 감명을 주었습니다. 저는 그 프로그램이 제시하는, 인류가 서부극처럼 위대한 영웅과 모험으로 가득한 우주에서 미래를 맞이할 수 있다는 생각을 받아들였습니다. 로든베리가 그린 미래는 도덕적 가치가 강한 세상이었고, 이는 '최고 지령'과 같은 규범에 구현되어 있었습니다. 즉, 기술적으로 덜 발달된 문명의 발전을 방해하지 말라는 것이었죠. 저는 이 점에 엄청난 매력을 느꼈습니다. 로봇이 아닌 윤리적인 인간이 미래를 지배하는 세상이었고, 저는 로든베리의 꿈을 제 꿈의 일부로 받아들였습니다.

 

저는 고등학교 때 수학에 뛰어났고, 미시간 대학교에 공학 전공으로 진학했을 때는 수학 전공생들이 수강하는 심화 과정을 이수했습니다. 수학 문제를 푸는 것은 흥미진진한 도전이었지만, 컴퓨터를 접하게 되면서 훨씬 더 매력적인 것을 발견했습니다. 프로그램을 입력하면 컴퓨터가 그 결과를 빠르게 검증해주는 기계였습니다. 컴퓨터는 옳고 그름, 참과 거짓을 명확하게 구분할 수 있었습니다. 제 생각이 맞는지 컴퓨터가 알려줄 수 있었죠. 이 점이 저를 매우 매료시켰습니다.

 

운 좋게도 초기 슈퍼컴퓨터 프로그래밍 일을 하게 되었고, 대형 컴퓨터가 복잡한 설계를 수치적으로 시뮬레이션하는 놀라운 능력을 가지고 있다는 것을 알게 되었습니다. 1970년대 중반 UC 버클리 대학원에 진학했을 때는 밤늦게까지, 때로는 밤새도록 컴퓨터 안에서 새로운 세계를 창조하고, 문제를 해결하고, 꼭 작성해야 할 코드를 짜느라 시간을 보냈습니다.

 

어빙 스톤의 미켈란젤로 전기 소설 『고뇌와 환희』 에서 스톤은 미켈란젤로가 어떻게 돌에서 조각상을 떼어내어 “대리석의 마법을 깨뜨리고” 마음속 이미지를 조각해냈는지 생생하게 묘사했습니다. 4 제 가장 황홀한 순간에도 컴퓨터 소프트웨어는 같은 방식으로 나타났습니다. 일단 마음속으로 이미지를 떠올리면 마치 이미 기계 안에 존재하며 해방되기를 기다리는 듯한 느낌이 들었습니다. 밤새도록 깨어 있는 것은 그 아이디어를 구체적인 형태로 구현하기 위해 치러야 할 작은 대가처럼 느껴졌습니다.

 

버클리에서 몇 년을 보낸 후, 저는 제가 작성한 소프트웨어 몇 가지를 다른 사람들에게 보내기 시작했습니다. 파스칼 교육 시스템, 유닉스 유틸리티, 그리고 vi라는 텍스트 편집기(놀랍게도 20년이 넘도록 여전히 널리 사용되고 있습니다) 등이 있었는데, 저와 비슷한 소형 PDP-11과 VAX 미니컴퓨터를 사용하는 사람들에게 나눠준 것입니다. 이러한 소프트웨어 개발 경험은 결국 버클리 버전의 유닉스 운영체제로 이어졌고, 이는 저에게 개인적인 "성공의 재앙"이 되었습니다. 너무 많은 사람들이 이 운영체제를 원해서 결국 박사 학위를 마치지 못했기 때문입니다. 대신 저는 DARPA에서 버클리 유닉스를 인터넷에 배포하고, 안정적으로 작동하며 대규모 연구 애플리케이션을 원활하게 실행할 수 있도록 수정하는 일을 하게 되었습니다. 이 모든 과정은 매우 재미있었고 보람 있었습니다. 그리고 솔직히 말해서, 저는 이곳에서 로봇을 본 적이 없습니다.

 

하지만 1980년대 초, 저는 완전히 지쳐버렸습니다. 유닉스 시리즈는 큰 성공을 거두었고, 저 혼자 시작한 작은 프로젝트는 곧 자금과 직원을 확보하게 되었지만, 버클리에서의 문제는 돈보다는 사무 공간이었습니다. 프로젝트에 필요한 인력을 수용할 공간이 부족했던 것입니다. 그러던 중 썬 마이크로시스템즈의 다른 창립자들이 나타났고, 저는 기회를 놓치지 않고 그들과 합류했습니다. 썬에서 저는 워크스테이션과 개인용 컴퓨터 초기 시절까지 장시간 근무를 이어갔고, 자바와 지니 같은 첨단 마이크로프로세서 기술과 인터넷 기술 개발에 참여하는 것을 즐겼습니다.

 

이 모든 것을 통해 제가 러다이트 운동가가 아니라는 점이 분명해졌기를 바랍니다. 오히려 저는 항상 과학적 탐구의 가치와 훌륭한 공학 기술이 가져다주는 물질적 진보에 대한 강한 믿음을 가지고 있었습니다. 산업혁명은 지난 수백 년 동안 모든 사람의 삶을 헤아릴 수 없을 정도로 향상시켰으며, 저는 항상 제 경력이 실질적인 문제에 대한 가치 있는 해결책을 하나씩 만들어가는 데 기여하는 것이 되기를 바랐습니다.

 

실망하지 않았습니다. 제 연구는 기대했던 것보다 훨씬 더 큰 영향을 미쳤고, 예상했던 것보다 훨씬 더 널리 사용되고 있습니다. 저는 지난 20년 동안 컴퓨터를 제가 원하는 만큼 안정적으로 만드는 방법(아직 그 수준에는 한참 못 미치지만)과 사용하기 쉽게 만드는 방법(이 목표는 상대적으로 훨씬 더 미흡한 성과를 거두었습니다)을 계속해서 연구해 왔습니다. 어느 정도 진전이 있었음에도 불구하고, 남아 있는 문제들은 더욱 막중해 보입니다.

 

무기 연구와 같은 분야에서 기술이 가져오는 결과에 대한 도덕적 딜레마는 알고 있었지만, 내 분야에서, 그것도 이렇게 빨리 그런 문제에 직면하게 될 줄은 예상하지 못했습니다.

 

어쩌면 그럴지도 모릅니다.변화의 소용돌이 속에 있을 때는 더 큰 영향을 파악하기 어려운 경우가 많습니다. 발견과 혁신의 열광 속에 있을 때 발명품의 결과를 이해하지 못하는 것은 과학자와 기술자들이 흔히 저지르는 실수인 것 같습니다. 우리는 오랫동안 과학 탐구의 본질인 '알고자 하는' 욕구에 사로잡혀 있었고, 더 새롭고 강력한 기술로의 발전이 그 자체로 생명력을 가질 수 있다는 사실을 간과해 왔습니다.

 

저는 정보 기술의 큰 발전은 컴퓨터 과학자, 컴퓨터 설계자, 전기 엔지니어의 노력이 아니라 물리학자들의 노력에서 비롯된다는 사실을 오래전부터 알고 있었습니다. 1980년대 초, 물리학자인 스티븐 울프람과 브로슬 하슬라허는 제게 카오스 이론과 비선형 시스템을 소개해 주었습니다. 1990년대에는 대니 힐리스, 생물학자인 스튜어트 카우프만, 노벨 물리학상 수상자인 머레이 겔만 등과의 대화를 통해 복잡계에 대해 배웠습니다. 최근에는 하슬라허와 전기 엔지니어이자 소자 물리학자인 마크 리드가 분자 전자공학의 놀라운 가능성에 대한 통찰력을 제공해 주고 있습니다.

 

저는 SPARC, picoJava, MAJC라는 세 가지 마이크로프로세서 아키텍처의 공동 설계자이자 여러 구현체의 설계자로서 일하면서 무어의 법칙을 깊이 있고 직접적으로 경험할 수 있었습니다. 수십 년 동안 무어의 법칙은 반도체 기술의 기하급수적인 발전 속도를 정확하게 예측해 왔습니다. 작년까지만 해도 저는 무어의 법칙이 예측하는 발전 속도가 대략 2010년까지만 지속될 것이고, 그 이후에는 물리적 한계에 도달할 것이라고 생각했습니다. 새로운 기술이 그 시점에 맞춰 등장하여 성능 향상을 꾸준히 이어갈 수 있을지는 확신할 수 없었습니다.

 

하지만 최근 분자 전자공학(개별 원자와 분자가 석판 인쇄 방식으로 제작된 트랜지스터를 대체하는 기술)과 관련 나노기술의 급속하고 획기적인 발전 덕분에 향후 30년 동안은 무어의 법칙에 따른 발전 속도를 유지하거나 능가할 수 있을 것으로 예상됩니다. 2030년에는 오늘날의 개인용 컴퓨터보다 백만 배나 강력한 기계를 대량 생산할 수 있게 되어 커즈와일과 모라벡의 꿈을 실현할 수 있을 것입니다.

 

이 막대한 컴퓨팅 능력이 물리 과학의 획기적인 발전과 유전학에 대한 새롭고 심층적인 이해와 결합됨에 따라 엄청난 변혁의 힘이 발휘되고 있습니다. 이러한 결합은 세상을 완전히 재설계할 수 있는 기회를 열어주며, 그 결과는 긍정적이든 부정적이든 간에, 자연계에만 국한되었던 복제와 진화 과정이 이제 인간의 노력의 영역으로 진입하게 될 것입니다.

 

소프트웨어와 마이크로프로세서를 설계하면서, 저는 지능형 기계를 설계하고 있다는 느낌을 한 번도 받아본 적이 없습니다. 소프트웨어와 하드웨어는 너무나 취약하고, 기계가 "생각"할 수 있는 능력은 너무나 명백하게 결여되어 있어서, 설령 가능성이 있다 하더라도 그것은 항상 너무나 먼 미래의 일처럼 느껴졌습니다.

 

하지만 이제 약 30년 후 인간 수준의 컴퓨팅 능력이 현실화될 것이라는 전망을 접하면서, 새로운 생각이 떠올랐습니다. 제가 어쩌면 인류를 대체할 기술을 구축하는 데 필요한 도구를 만드는 일을 하고 있는지도 모른다는 생각입니다. 이런 생각이 드니 어떻냐고요? 매우 불편합니다. 평생 신뢰할 수 있는 소프트웨어 시스템을 구축하기 위해 애써온 저에게, 미래가 일부 사람들이 상상하는 것처럼 순조롭게 흘러가지는 않을 것 같다는 생각이 듭니다. 제 경험상 우리는 설계 능력을 과대평가하는 경향이 있는 것 같습니다.

 

이러한 신기술의 엄청난 잠재력을 고려할 때, 우리는 어떻게 하면 그것들과 가장 잘 공존할 수 있을지 고민해야 하지 않을까요? 그리고 만약 기술 발전이 인류의 멸종으로 이어질 가능성이 있다면, 우리는 더욱 신중하게 접근해야 하지 않을까요?

 

꿈로봇공학의 핵심은 지능형 기계가 우리 대신 일을 해 주어 여유로운 삶을 누리고 에덴동산과 같은 삶을 되찾을 수 있다는 믿음입니다. 그러나 조지 다이슨은 그의 저서 『기계 속의 다윈』 에서 이러한 생각의 역사 를 다루며 다음과 같이 경고합니다. "생명과 진화라는 게임에는 인간, 자연, 그리고 기계라는 세 플레이어가 있습니다. 저는 확고하게 자연의 편입니다. 하지만 자연은 기계의 편에 서 있는 것 같습니다." 앞서 살펴본 바와 같이, 모라벡 역시 이에 동의하며, 우월한 로봇 종과의 만남에서 우리가 살아남지 못할 수도 있다고 믿습니다.

 

그런 지능형 로봇은 언제쯤 만들어질 수 있을까요? 앞으로 발전할 컴퓨팅 성능을 고려하면 2030년쯤에는 가능할 것으로 보입니다. 그리고 일단 지능형 로봇이 존재하게 되면, 스스로 진화한 복제본을 만들 수 있는 지능형 로봇, 즉 로봇 종의 출현은 그리 어렵지 않을 것입니다.

 

로봇공학의 두 번째 꿈은 우리가 점차 로봇 기술로 우리 자신을 대체하고, 의식을 다운로드함으로써 거의 불멸에 가까운 삶을 누리게 되는 것입니다. 대니 힐리스는 우리가 이러한 과정에 점차 익숙해질 것이라고 생각하며, 레이 커즈와일은 그의 저서 『영적 기계의 시대』 에서 이를 우아하게 설명합니다. (우리는 이미 와이어드 8.02 호 표지에 실린 그림처럼 인체에 컴퓨터 장치를 이식하는 모습에서 이러한 조짐을 보기 시작했습니다 .)

 

하지만 우리가 기술에 다운로드된다면, 그 후 우리가 여전히 우리 자신일 수도, 심지어 인간일 수도 있을까요? 제 생각에는 로봇의 존재는 우리가 이해하는 어떤 의미에서도 인간의 존재와는 다를 것이며, 로봇은 결코 우리의 자녀가 될 수 없고, 이 길에서 우리의 인간성은 완전히 사라질 가능성이 훨씬 더 커 보입니다.

 

유전 공학은 농작물 수확량을 늘리고 살충제 사용량을 줄임으로써 농업에 혁명을 일으킬 것으로 기대됩니다. 또한 수만 종에 달하는 새로운 박테리아, 식물, 바이러스, 동물을 만들어낼 것이며, 복제를 통해 생식을 대체하거나 보완할 수 있을 것입니다. 더 나아가 많은 질병을 치료하여 수명과 삶의 질을 향상시킬 수 있을 것이며, 이 외에도 훨씬 더 많은 가능성을 제시합니다. 이제 우리는 생명 과학 분야의 이러한 심오한 변화가 임박했으며, 생명이란 무엇인가에 대한 우리의 모든 관념에 도전할 것이라는 사실을 확실히 알고 있습니다.

 

인간 복제와 같은 기술은 특히 우리가 직면한 심각한 윤리적, 도덕적 문제에 대한 인식을 높였습니다. 예를 들어, 유전 공학의 힘을 이용하여 우리 자신을 여러 개의 분리되고 불평등한 종으로 재설계한다면, 이는 민주주의의 근간을 이루는 평등이라는 개념을 위협하는 행위가 될 것입니다.

 

유전 공학의 엄청난 힘을 고려할 때, 그 사용에 있어 심각한 안전 문제가 발생하는 것은 놀라운 일이 아닙니다. 제 친구인 아모리 로빈스는 최근 헌터 로빈스와 함께 이러한 위험에 대한 생태학적 관점을 제시하는 사설을 공동 집필했습니다. 그들이 우려하는 점 중 하나는 "새로운 식물학은 식물의 발달을 진화적 성공이 아닌 경제적 성공에 맞춰 추진한다"는 것입니다. (" 두 식물학 이야기 " 참조) 아모리는 오랫동안 인간이 만든 시스템을 전체 시스템적 관점에서 바라보며 에너지 및 자원 효율성에 집중해 왔습니다. 이러한 전체 시스템적 관점은 종종 어려워 보이는 문제에 대해 간단하고 현명한 해결책을 제시하며, 이 문제에도 유용하게 적용될 수 있습니다.

 

러빈 부부의 사설을 읽고 나서, 저는 뉴욕 타임스 (1999년 11월 19일) 에 실린 그레그 이스터브룩의 유전자 변형 작물에 관한 기고문을 보았습니다. 제목은 "미래의 식량: 언젠가 쌀에는 비타민 A가 내장될 것이다. 러다이트 운동가들이 승리하지 않는 한."이었습니다.

 

아모리와 헌터 로빈스는 러다이트주의자일까요? 절대 아닙니다. 비타민 A가 풍부한 황금쌀은 종간 유전자 이동의 위험성을 충분히 고려하고 적절한 주의를 기울여 개발한다면 분명 좋은 것이라는 데 우리 모두 동의할 것입니다.

 

러빈스 부부의 사설에서 드러나듯이, 유전자 공학에 내재된 위험성에 대한 인식이 점차 높아지고 있습니다. 일반 대중은 유전자 변형 식품에 대해 알고 있으며, 이에 대해 불안감을 느끼고 있습니다. 또한 이러한 식품에 라벨을 붙이지 않고 판매하는 것을 허용하는 것에 반대하는 분위기입니다.

 

하지만 유전자 공학 기술은 이미 상당히 발전했습니다. 러빈 부부가 지적했듯이, 미국 농무부는 이미 약 50종의 유전자 변형 작물을 무제한 배포 승인했으며, 현재 전 세계 콩의 절반 이상과 옥수수의 3분의 1에는 다른 생명체의 유전자가 접합되어 있습니다.

 

여기에는 여러 중요한 문제들이 있지만, 제가 유전자 공학에 대해 가장 우려하는 점은 바로 그것입니다. 유전자 공학은 군사적 목적이든, 우발적이든, 혹은 고의적인 테러 행위이든 간에 백색 전염병을 만들어낼 수 있는 힘을 부여한다는 것입니다.

 

나노기술의 수많은 경이로움은 노벨 물리학상 수상자인 리처드 파인만이 1959년 연설에서 처음 제시했으며, 이 연설은 이후 "바닥에는 충분한 공간이 있다(There's Plenty of Room at the Bottom)"라는 제목으로 출판되었습니다. 1980년대 중반 저에게 큰 감명을 준 책은 에릭 드렉슬러의 " 창조의 엔진(Engines of Creation)" 이었는데 , 그는 이 책에서 원자 수준에서 물질을 조작함으로써 거의 모든 것을 저렴하게 생산하고, 상상할 수 있는 거의 모든 질병이나 신체적 문제를 나노기술과 인공지능으로 해결할 수 있는 풍요로운 유토피아적 미래를 어떻게 만들어낼 수 있는지 아름답게 묘사했습니다.

 

드렉슬러가 공동 집필 한 후속 저서 인 《미래의 한계를 넘어서: 나노기술 혁명》에서는 분자 수준의 "조립기"가 존재하는 세상에서 일어날 수 있는 변화들을 상상해 봅니다. 조립기는 믿을 수 없을 정도로 저렴한 태양열 발전, 인체 면역 체계 강화를 통한 암과 감기 치료, 사실상 완벽한 환경 정화, 엄청나게 저렴한 휴대용 슈퍼컴퓨터(실제로 목재 생산 비용보다 더 비싼 비용으로 모든 제품을 제조할 수 있음), 오늘날의 대양 횡단 여행보다 훨씬 접근하기 쉬운 우주 여행, 그리고 멸종된 종의 복원 등을 가능하게 할 수 있습니다.

 

《창조의 엔진》을 읽고 나노기술에 대해 긍정적인 생각을 갖게 되었던 기억이 납니다 . 기술자로서 저는 마음이 편안해졌습니다. 나노기술은 놀라운 발전이 가능하고, 어쩌면 필연적일지도 모른다는 것을 보여주었기 때문입니다. 나노기술이 우리의 미래라면, 당장 해결해야 할 문제들이 산더미처럼 쌓여 있다는 생각이 들었습니다. 드렉슬러가 꿈꾸던 유토피아적 미래는 언젠가 도달할 수 있을 테니, 지금 이 순간을 더욱 즐기는 것이 좋겠다고 생각했습니다. 그의 비전을 생각하면, 밤새도록 잠도 자지 않고 끊임없이 연구에 매달리는 것은 의미가 없다고 느꼈습니다.

 

드렉슬러의 비전은 또한 많은 즐거움을 가져다주었습니다. 저는 나노기술에 대해 들어본 적 없는 사람들에게 나노기술의 경이로움을 설명할 기회를 종종 가졌습니다. 드렉슬러가 설명한 온갖 것들로 그들을 즐겁게 해준 후, 저는 그들에게 다음과 같은 숙제를 내주곤 했습니다. "나노기술을 이용해 뱀파이어를 만들어 보세요. 추가 점수를 받으려면 해독제까지 만들어 보세요."

 

이러한 놀라운 기술에는 분명한 위험이 따랐고, 저는 그 위험성을 예리하게 인식하고 있었습니다. 1989년 나노기술 학회에서 제가 말했듯이, "우리는 단순히 과학 연구만 하면서 이러한 윤리적 문제들을 간과할 수 없습니다." 5 하지만 이후 물리학자들과의 대화를 통해 나노기술이 제대로 작동하지 않을 수도 있다는, 혹은 적어도 가까운 시일 내에는 작동하지 않을 것이라는 확신을 갖게 되었습니다. 얼마 지나지 않아 저는 콜로라도에 있는 제가 설립한 비밀 연구 기관으로 이주했고, 제 연구의 초점은 인터넷 소프트웨어, 특히 자바와 지니가 된 아이디어로 옮겨갔습니다.

 

그러던 어느 해 여름, 브로슬 하슬라허가 나노 규모 분자 전자공학이 이제 실용화되었다고 말해 주었습니다. 적어도 저에게는, 그리고 많은 사람들에게도 새로운 소식이었고, 나노기술에 대한 제 생각을 완전히 바꿔놓았습니다. 그 소식은 저를 다시 『창조의 엔진』 으로 이끌었습니다 . 10년 넘게 만에 드렉슬러의 책을 다시 읽으면서, "위험과 희망"이라는 긴 부분을 얼마나 잊어버렸는지 깨닫고 실망했습니다. 그 부분에는 나노기술이 어떻게 "파괴의 엔진"이 될 수 있는지에 대한 논의도 포함되어 있었습니다. 실제로, 오늘날 이 경고적인 내용을 다시 읽으면서 드렉슬러가 제시했던 안전장치들이 얼마나 순진하게 느껴지는지, 그리고 제가 지금 느끼는 위험이 당시 드렉슬러가 생각했던 것보다 훨씬 더 크다는 것을 알게 되었습니다. (나노기술의 많은 기술적, 정치적 문제점을 예측하고 설명한 드렉슬러는 1980년대 후반 "예상되는 첨단 기술, 특히 나노기술에 사회가 대비할 수 있도록 돕기 위해" 포사이트 연구소를 설립했습니다.)

 

조립 기술에 획기적인 발전을 가져올 만한 기술은 향후 20년 안에 실현될 가능성이 매우 높습니다. 개별 분자가 회로 소자가 되는 나노기술의 새로운 하위 분야인 분자 전자공학은 빠르게 성숙하여 이번 10년 안에 엄청난 수익성을 창출할 것이며, 이는 모든 나노기술 분야에 대한 투자를 크게 증가시킬 것입니다.

 

불행히도 핵 기술과 마찬가지로 나노 기술은 건설적인 용도보다는 파괴적인 용도로 사용하는 것이 훨씬 쉽습니다. 나노 기술은 군사적, 테러적 용도로 명백히 악용될 수 있으며, 대량 파괴력을 가진 나노 기술 장치를 방출하는 데 자살 행위가 필요한 것은 아닙니다. 이러한 장치는 특정 지역이나 유전적으로 구별되는 특정 집단만을 선택적으로 파괴하도록 설계될 수 있기 때문입니다.

 

나노기술이라는 막대한 힘을 얻기 위해 감수해야 하는 파우스트적 거래의 즉각적인 결과는 우리가 심각한 위험에 직면하게 된다는 것입니다. 바로 모든 생명이 의존하는 생태계를 파괴할 위험입니다.

 

드렉슬러가 설명했듯이:

 

오늘날의 태양 전지보다 효율이 떨어지는 '잎'을 가진 '식물'은 진짜 식물과 경쟁하여 생태계를 먹을 수 없는 잎사귀로 뒤덮을 수 있습니다. 강인한 잡식성 '박테리아'는 진짜 박테리아와 경쟁하여 꽃가루처럼 빠르게 퍼져나가고, 며칠 만에 생태계를 먼지로 만들어 버릴 수 있습니다. 위험한 복제자는 너무 강하고 작으며 빠르게 퍼져나가 우리가 아무런 대비도 하지 않는다면 막기 어려울 것입니다. 우리는 바이러스와 초파리를 통제하는 데에도 어려움을 겪고 있습니다.

 

나노기술 전문가들 사이에서 이러한 위협은 "회색 점액 문제"로 알려져 있습니다. 통제되지 않은 복제체 덩어리가 반드시 회색이거나 끈적거리는 것은 아니지만, "회색 점액"이라는 용어는 생명을 완전히 소멸시킬 수 있는 복제체가 그저 한 종의 잡초보다도 덜 고무적일 수 있음을 강조합니다. 진화적 관점에서 우월할지는 몰라도, 그것이 반드시 가치를 의미하는 것은 아닙니다.

 

회색 점액질의 위협은 한 가지를 명확히 보여줍니다. 복제 조립기와 관련된 특정 유형의 사고는 절대 용납할 수 없습니다.

 

회색 점액질은 분명 지구에서의 인류 모험을 암울하게 끝맺는 사건이 될 것이며, 단순한 불이나 얼음보다 훨씬 더 끔찍하고, 단순한 실험실 사고에서 비롯될 수도 있을 것이다. 6 이런.

 

 

가장 그렇습니다. 유전학, 나노기술, 로봇공학(GNR) 분야에서 파괴적인 자기 복제의 힘은 우리에게 경각심을 불러일으켜야 합니다. 자기 복제는 세포의 메커니즘을 이용하여 설계를 복제하는 유전 공학의 핵심 작동 방식이며, 나노기술의 그레이 구(gray goo)에 내재된 주요 위험 요소이기도 합니다. 보그처럼 창조자가 부과한 윤리적 제약에서 벗어나기 위해 복제하거나 변이하는 폭주 로봇 이야기는 공상 과학 소설과 영화에서 흔히 볼 수 있습니다. 자기 복제는 우리가 생각했던 것보다 훨씬 더 근본적인 현상일 수 있으며, 따라서 제어하기가 더 어렵거나 심지어 불가능할 수도 있습니다. 스튜어트 카우프만이 네이처(Nature) 에 발표한 "자기 복제: 펩타이드도 할 수 있다"라는 제목의 최근 논문에서는 32개의 아미노산으로 구성된 펩타이드가 "자체 합성을 촉매할 수 있다"는 발견을 다룹니다. 이러한 능력이 얼마나 널리 퍼져 있는지는 알 수 없지만, 카우프만은 이것이 "왓슨-크릭 염기쌍 결합보다 훨씬 더 광범위한 기반에서 자기 복제 분자 시스템으로 가는 길"을 시사할 수 있다고 지적합니다. 7

 

사실, 우리는 GNR 기술에 대한 광범위한 지식이 가져올 위험성, 즉 지식 자체가 대량 살상을 가능하게 할 수 있다는 가능성에 대한 명확한 경고를 수년 동안 접해 왔습니다. 하지만 이러한 경고는 널리 알려지지 않았고, 공개적인 논의는 분명히 미흡했습니다. 위험성을 알리는 데에는 아무런 이득이 없기 때문입니다.

 

20세기 대량살상무기에 사용된 핵·생물·화학(NBC) 기술은 대부분 군사적 목적으로 정부 연구소에서 개발되었습니다. 이와는 극명한 대조를 이루는 21세기의 지뢰·핵무기(GNR) 기술은 명확한 상업적 용도를 가지고 있으며, 거의 전적으로 기업들에 의해 개발되고 있습니다. 상업주의가 승리한 이 시대에, 과학을 조력자로 삼아 기술은 역사상 가장 엄청난 수익성을 자랑하는 일련의 마법 같은 발명품들을 쏟아내고 있습니다. 우리는 이제는 누구도 이의를 제기할 수 없는 세계 자본주의 체제와 그 안에 내재된 다양한 재정적 유인책 및 경쟁 압력 속에서 이러한 신기술의 가능성을 적극적으로 추구하고 있습니다.

 

이는 지구 역사상 어떤 종이든 스스로의 자발적인 행동으로 자신뿐 아니라 수많은 다른 종에게도 위험을 초래하게 된 최초의 순간입니다.

 

어쩌면 여러 세계에서 흔히 볼 수 있는 익숙한 과정일지도 모릅니다. 새로 형성된 행성이 항성 주위를 고요히 공전하고, 생명체가 서서히 탄생하며, 다채로운 생명체들이 진화합니다. 지능이 등장하고, 이는 적어도 어느 정도까지는 생존에 엄청난 가치를 부여합니다. 그리고 마침내 기술이 발명됩니다. 그들은 자연의 법칙이라는 것이 존재하며, 이 법칙들은 실험을 통해 밝혀낼 수 있고, 이 법칙에 대한 지식은 전례 없는 규모로 생명을 구하기도 하고 앗아가기도 한다는 사실을 깨닫습니다. 과학이 엄청난 힘을 부여한다는 것을 알게 된 것입니다. 그들은 순식간에 세상을 바꿀 만한 장치들을 만들어냅니다. 어떤 행성 문명은 나아갈 길을 찾고, 무엇을 할 수 있고 무엇을 해서는 안 되는지에 대한 기준을 세워 위험의 시기를 무사히 넘깁니다. 하지만 운이 좋지 않거나 신중하지 못한 문명은 멸망합니다.

 

칼 세이건이 1994년 저서 『창백한 푸른 점』 에서 인류의 미래에 대한 자신의 비전을 제시한 글입니다. 이제야 그의 통찰력이 얼마나 깊었는지, 그리고 그의 목소리가 얼마나 그리운지, 앞으로도 얼마나 그리워하게 될지 깨닫게 되었습니다. 세이건의 글은 웅변적이었지만, 무엇보다도 그의 공헌은 단순한 상식에 있었습니다. 겸손함과 더불어, 21세기 기술의 주요 옹호자들 중 상당수가 이러한 상식을 결여하고 있는 듯합니다.

 

어린 시절 기억으로는 할머니께서 항생제 남용에 대해 강하게 반대하셨던 것 같습니다. 할머니는 1차 세계 대전 이전부터 간호사로 일하셨고, 꼭 필요한 경우가 아니라면 항생제를 복용하는 것은 몸에 해롭다는 상식적인 생각을 가지고 계셨습니다.

 

그녀가 진보의 적이었던 것은 아닙니다. 그녀는 거의 70년에 걸친 간호사 생활 동안 많은 진보를 목격했습니다. 당뇨병 환자였던 제 할아버지는 생전에 개선된 치료법 덕분에 큰 혜택을 받았습니다. 하지만 그녀는 많은 분별 있는 사람들처럼, 우리가 비교적 간단한 것조차 제대로 작동시키지 못하고, 심지어 우리 자신을 관리하거나 이해하는 데에도 어려움을 겪는 지금, 로봇을 "대체 종"으로 만들려고 하는 것은 매우 오만한 처사라고 생각했을 것입니다.

 

이제야 그녀가 삶의 질서의 본질과 그 질서를 존중하며 살아가는 것의 필요성을 인식하고 있었다는 것을 깨달았습니다. 이러한 존중에는 우리처럼 21세기 초의 오만함에 사로잡힌 사람들이 결여하고 있는, 위험한 겸손함이 수반됩니다. 이러한 존중에 기반한 상식적인 관점은 과학적 증거보다 앞서 옳은 경우가 많습니다. 우리가 만들어낸 인공 시스템의 명백한 취약성과 비효율성은 우리 모두에게 깊은 성찰을 불러일으켜야 합니다. 제가 참여했던 시스템들의 취약성은 저를 겸손하게 만들었습니다.

 

우리는 최초의 원자폭탄 개발과 그로 인한 군비 경쟁에서 교훈을 얻었어야 했습니다. 당시 우리는 제대로 대처하지 못했고, 현재 상황과의 유사점은 우려스럽습니다.

 

최초의 원자폭탄 개발 노력은 천재 물리학자 J. 로버트 오펜하이머가 주도했습니다. 오펜하이머는 본래 정치에 관심이 없었지만, 나치 독일이 서구 문명에 심각한 위협을 가하고 있다고 인식하게 되었습니다. 특히 히틀러가 핵무기를 개발할 가능성이 있다는 점에서 그 위협은 더욱 심각했습니다. 이러한 우려에 힘입어 그는 뛰어난 지성, 물리학에 대한 열정, 그리고 카리스마 넘치는 리더십을 발휘하여 로스앨러모스 연구소로 향했고, 수많은 천재 과학자들과 함께 신속하고 성공적으로 원자폭탄을 개발하는 데 앞장섰습니다.

 

놀라운 점은 초기 추진력이 사라진 후에도 이 노력이 얼마나 자연스럽게 계속되었는지입니다. 유럽 전승일 직후, 연구를 중단해야 한다고 생각하는 일부 물리학자들과의 회의에서 오펜하이머는 연구를 계속해야 한다고 주장했습니다. 그가 제시한 이유는 다소 이상합니다. 일본 침공으로 인한 대규모 인명 피해에 대한 두려움 때문이 아니라, 곧 창설될 유엔이 원자 무기에 대한 사전 정보를 알아야 한다는 것이었습니다. 프로젝트가 계속된 더 유력한 이유는 최초의 원자폭탄 실험인 트리니티 실험이 임박했다는 사실, 즉 축적된 추진력 때문일 것입니다.

 

우리는 물리학자들이 최초의 원자폭탄 실험을 준비하면서 수많은 잠재적 위험에도 불구하고 실험을 진행했다는 것을 알고 있습니다. 그들은 처음에 에드워드 텔러의 계산에 따라 원자폭발이 대기에 불을 붙일 수 있다는 점을 우려했습니다. 수정된 계산에 따르면 세계가 파괴될 위험은 100만분의 3으로 줄어들었습니다. (텔러는 나중에 대기 점화 가능성을 완전히 배제할 수 있었다고 말했습니다.) 하지만 오펜하이머는 트리니티 실험의 결과에 대해 충분히 우려하여 뉴멕시코 주 남서부 지역의 주민들을 대피시킬 계획을 세웠습니다. 그리고 물론 핵무기 경쟁을 촉발할 수 있는 명백한 위험도 있었습니다.

 

첫 번째 성공적인 실험 이후 한 달도 채 되지 않아 두 개의 원자폭탄이 히로시마와 나가사키를 파괴했습니다. 일부 과학자들은 일본 도시에 투하하는 대신 원자폭탄 시연만 하는 것이 전후 군비 통제 가능성을 크게 높일 수 있다고 주장했지만, 소용이 없었습니다. 진주만 공격의 참상이 미국인들의 기억 속에 생생하게 남아 있던 당시, 트루먼 대통령이 원자폭탄을 실전 투하하는 대신 시연을 명령하는 것은 매우 어려운 결정이었습니다. 전쟁을 빨리 끝내고 일본 침공으로 발생할 인명 피해를 최소화하려는 열망이 너무나 강했기 때문입니다. 하지만 결국 가장 중요한 진실은 아마도 아주 단순했을 것입니다. 물리학자 프리먼 다이슨이 훗날 말했듯이, "원자폭탄이 투하된 이유는 단지 아무도 '안 된다'고 말할 용기나 선견지명이 없었기 때문"입니다.

 

1945년 8월 6일 히로시마 원폭 투하 이후 물리학자들이 얼마나 큰 충격을 받았는지 이해하는 것이 중요합니다. 그들은 일련의 감정의 파도를 묘사합니다. 처음에는 폭탄이 효과를 발휘했다는 만족감, 그다음에는 수많은 희생자들에 대한 공포, 그리고 마지막으로는 어떤 일이 있어도 다시는 폭탄을 투하해서는 안 된다는 확신이었습니다. 하지만 물론 히로시마 원폭 투하 불과 3일 후 나가사키에 또 다른 폭탄이 투하되었습니다.

 

원자폭탄 투하 3개월 후인 1945년 11월, 오펜하이머는 과학적 태도를 확고히 옹호하며 이렇게 말했다. "세상에 대한 지식과 그 지식이 주는 힘이 인류에게 본질적으로 가치 있는 것이라고 믿고, 그 지식을 활용하여 지식 확산에 기여하고 그에 따른 결과를 기꺼이 감수할 의지가 없다면 과학자가 될 수 없다."

 

오펜하이머는 다른 사람들과 함께 애치슨-릴리엔탈 보고서를 작성했는데, 리처드 로즈가 최근 저서 『기술의 비전 』에서 언급했듯이 이 보고서는 "무장한 세계 정부에 의존하지 않고도 은밀한 핵무기 경쟁을 막을 방법을 찾아냈다". 그들이 제안한 것은 국가들이 핵무기 개발을 국제기구에 위임하는 형태였다.

 

이러한 제안은 1946년 6월 유엔에 제출되었지만 채택되지 못한 바루크 계획으로 이어졌습니다. (로즈의 지적처럼 버나드 바루크가 "계획에 재래식 제재를 덧붙이려 고집했기 때문"일 가능성이 높으며, 이는 결국 계획을 좌초시키는 결과를 초래했습니다. 비록 "스탈린주의 러시아가 어차피 거부했을 것"이지만 말입니다.) 군비 경쟁을 막기 위해 핵무기의 국제화를 위한 합리적인 조치를 추진하려는 다른 노력들은 미국의 정치적 갈등과 내부 불신, 또는 소련의 불신에 부딪혔습니다. 군비 경쟁을 피할 기회는 너무나 빠르게 사라져 버렸습니다.

 

2년 후인 1948년, 오펜하이머는 사고의 또 다른 단계에 도달한 듯 다음과 같이 말했다. "어떤 저속함이나 유머, 과장으로도 완전히 없앨 수 없는, 다소 원초적인 의미에서 물리학자들은 죄를 알고 있으며, 이는 그들이 결코 잃어버릴 수 없는 지식이다."

 

1949년, 소련은 원자폭탄 실험에 성공했다. 1955년에는 미국과 소련 모두 항공기로 운반 가능한 수소폭탄 실험을 마쳤다. 이렇게 핵무기 경쟁이 시작되었다.

 

거의 20년 전, 다큐멘터리 < 트리니티 이후의 날 >에서 프리먼 다이슨은 우리를 핵 위기로 몰아넣은 과학적 태도를 다음과 같이 요약했습니다.

 

“저도 직접 느껴봤습니다. 핵무기의 반짝임 말입니다. 과학자라면 누구나 그 매력에 저항할 수 없을 겁니다. 손에 쥐고 별들을 움직이는 에너지를 방출하고, 마음대로 조종하고, 기적을 행하고, 수백만 톤의 바위를 하늘로 들어 올리는 것. 그것은 사람들에게 무한한 힘에 대한 환상을 심어주고, 어떤 면에서는 우리 모두의 문제의 원인이기도 합니다. 바로 이러한 기술적 오만함, 사람들이 자신의 두뇌로 무엇을 할 수 있는지 깨달았을 때 생기는 오만함 말입니다.” 8

 

지금도 그때처럼 우리는 새로운 기술을 창조하고 상상 속 미래의 주인공이 되어, 막대한 금전적 보상과 세계적인 경쟁에 이끌려 나아가고 있습니다. 명백한 위험에도 불구하고, 우리가 만들어내고 상상하는 세상의 현실적인 결과가 어떤 모습일지 제대로 생각해 보지도 않은 채 말입니다.

 

1947년에,원자력과학자회보(Bulletin of the Atomic Scientists)는 표지에 종말 시계(Doomsday Clock)를 싣기 시작했습니다. 50년이 넘는 세월 동안 이 시계는 변화하는 국제 정세를 반영하여 우리가 직면해 온 상대적인 핵 위험도를 보여주었습니다. 시계 바늘은 지금까지 15번 움직였으며, 오늘날 자정 9분 전을 가리키고 있는데, 이는 핵무기로 인한 지속적이고 실질적인 위험을 반영합니다. 최근 인도와 파키스탄이 핵보유국 대열에 합류하면서 핵확산 방지 목표 달성 실패의 위협이 커졌고, 이러한 위험은 1998년 시계 바늘을 자정에 더 가깝게 이동시키는 것으로 반영되었습니다.

 

오늘날 우리는 핵무기뿐만 아니라 이러한 모든 기술로부터 얼마나 큰 위험에 직면해 있을까요? 인류 멸종 위험은 얼마나 높을까요?

 

철학자 존 레슬리는 이 문제를 연구하여 인류 멸종 위험이 최소 30%라고 결론지었고, 레이 커즈와일은 우리가 "살아남을 가능성이 50% 이상"이라고 믿지만, "나는 항상 낙관주의자라는 비난을 받아왔다"는 단서를 달았습니다. 9 이러한 추정치는 고무적이지 않을 뿐만 아니라, 멸종까지는 아니더라도 발생할 수 있는 수많은 끔찍한 결과의 가능성을 포함하지 않습니다.

 

이러한 평가에 직면하여, 일부 진지한 전문가들은 우리가 가능한 한 빨리 지구를 벗어나야 한다고 주장하고 있습니다. 폰 노이만 탐사선을 이용해 은하계를 식민지화하는 것인데, 이 탐사선은 별 시스템에서 별 시스템으로 이동하면서 스스로 복제합니다. 이러한 단계는 거의 확실히 50억 년 후(혹은 향후 30억 년 안에 우리 은하와 안드로메다 은하의 충돌로 우리 태양계가 심각한 피해를 입는다면 더 빨리)에 필요해질 것이지만, 커즈와일과 모라벡의 주장이 사실이라면 이번 세기 중반쯤에는 필요할지도 모릅니다.

 

이 문제의 도덕적 함의는 무엇일까요? 인류의 생존을 위해 이처럼 빠르게 지구를 떠나야 한다면, 남겨진 사람들(결국 우리 대부분)의 운명에 대한 책임은 누가 져야 할까요? 그리고 우리가 별들로 흩어진다고 해도, 우리의 문제들을 함께 가져가거나 나중에 그 문제들이 우리를 따라왔다는 것을 알게 될 가능성은 없을까요? 지구에서의 인류의 운명과 은하계에서의 인류의 운명은 불가분의 관계에 있는 것처럼 보입니다.

 

또 다른 아이디어는 위험한 기술 각각에 대응하기 위해 일련의 방어막을 구축하는 것입니다. 레이건 행정부가 제안한 전략방위구상(SDI)은 소련의 핵 공격 위협에 대비한 그러한 방어막을 설계하려는 시도였습니다. 그러나 이 프로젝트에 대한 논의에 참여했던 아서 C. 클라크는 다음과 같이 지적했습니다. "막대한 비용을 들여 탄도 미사일의 '단지' 몇 퍼센트만 통과시키는 지역 방어 시스템을 구축하는 것은 가능할지 모르지만, 크게 선전했던 국가적 차원의 방어 체계 구축은 허황된 발상이었습니다. 아마도 21세기 최고의 실험 물리학자인 루이스 알바레스는 제게 그러한 계획을 옹호하는 사람들은 '상식이 부족한 매우 똑똑한 사람들'이라고 말했습니다."

 

클라크는 다음과 같이 말을 이었다. "제 흐릿한 수정구슬을 들여다보니, 한 세기쯤 후에는 전면 방어가 실제로 가능할지도 모르겠습니다. 하지만 관련된 기술은 부산물로 너무나 끔찍한 무기를 만들어낼 것이고, 그러면 누구도 탄도 미사일처럼 원시적인 것에 신경 쓰지 않을 것입니다." 10

 

에릭 드렉슬러는 그의 저서 『창조의 엔진』 에서 실험실에서 탈출하거나 악의적으로 만들어질 수 있는 모든 종류의 위험한 복제자로부터 생물권을 보호하기 위해 능동적인 나노기술적 방어막, 즉 생물권을 위한 일종의 면역 체계를 구축해야 한다고 제안했습니다. 그러나 그가 제안한 방어막 자체는 매우 위험할 수 있습니다. 자가면역 질환이 발생하여 생물권 자체를 공격하는 것을 막을 수 있는 것은 아무것도 없기 때문입니다. 11

 

로봇공학과 유전자공학에 대한 방어막 구축에도 비슷한 어려움이 있습니다. 이러한 기술들은 목표 기간 내에 방어할 수 있을 만큼 강력하지 않으며, 설령 방어막을 구현할 수 있다고 하더라도 그 개발로 인한 부작용은 우리가 방어하려는 기술들만큼이나 위험할 것입니다.

 

이러한 가능성들은 모두 바람직하지 않거나 실현 불가능하거나 둘 다에 해당합니다. 제가 생각하는 유일한 현실적인 대안은 포기입니다. 즉, 너무 위험한 기술의 개발을 제한하고, 특정 종류의 지식 추구를 제한하는 것입니다.

 

네, 저도 압니다. 지식은 좋은 것이고, 새로운 진리를 탐구하는 것 또한 좋은 것입니다. 우리는 고대부터 지식을 추구해 왔습니다. 아리스토텔레스는 그의 저서 『형이상학』을 "모든 인간은 본래 알고자 하는 욕망을 가지고 있다"라는 간단한 말로 시작했습니다. 우리 사회는 오랫동안 정보에 대한 자유로운 접근을 중요한 가치로 여겨왔으며, 지식에 대한 접근과 발전을 제한하려는 시도가 가져오는 문제점들을 인식하고 있습니다. 최근에는 과학적 지식을 더욱 소중히 여기게 되었습니다.

 

하지만 강력한 역사적 선례에도 불구하고, 앞으로 지식에 대한 자유로운 접근과 무제한적인 개발이 우리 모두를 멸종의 위험에 빠뜨린다면, 상식적으로 우리는 이러한 기본적인 오랜 믿음조차 재검토해야 할 것입니다.

 

19세기 말, 니체는 신이 죽었을 뿐만 아니라 "결국 부인할 수 없이 존재하는 과학에 대한 믿음은 효용성 계산에서 비롯된 것이 아니며, '진리에 대한 의지', '어떤 대가를 치르더라도 진리를 추구하라'는 식 의 무용성과 위험성이 끊임없이 입증되는 현실 에도 불구 하고 생겨났음 에 틀림없다"고 경고했습니다. 우리가 지금 직면하고 있는 위험은 바로 이러한 진리 추구의 결과입니다. 과학이 추구하는 진리가 우리의 멸종으로 이어질 가능성이 있다면, 그것은 분명 신을 대신하는 위험한 존재로 간주될 수 있습니다.

 

인류가 원하는 것, 나아가야 할 방향, 그리고 그 이유에 대해 의견 일치를 이룰 수 있다면, 우리의 미래는 훨씬 덜 위험해질 것이며, 무엇을 포기할 수 있고 무엇을 포기해야 하는지 이해할 수 있을 것입니다. 그렇지 않으면, 20세기 NBC 기술을 둘러싼 군비 경쟁처럼 GNR 기술을 둘러싼 군비 경쟁이 다시 불붙을 가능성을 쉽게 상상할 수 있습니다. 어쩌면 이것이 가장 큰 위험일지도 모릅니다. 일단 그런 경쟁이 시작되면 끝내기가 매우 어렵기 때문입니다. 이번에는 맨해튼 프로젝트 때와는 달리, 문명을 위협하는 무자비한 적과 전쟁을 벌이는 상황이 아닙니다. 오히려 우리의 습관, 욕망, 경제 시스템, 그리고 알고자 하는 경쟁심이 우리를 움직이고 있습니다.

 

저는 우리 모두가 우리의 미래가 집단적인 가치관, 윤리, 도덕에 따라 결정되기를 바란다고 믿습니다. 만약 지난 수천 년 동안 우리가 더 많은 집단적 지혜를 축적했다면, 이러한 목표를 향한 대화는 훨씬 더 현실적이었을 것이고, 우리가 곧 unleashed할 엄청난 힘들도 지금처럼 큰 문제가 되지 않았을 것입니다.

 

우리는 자기 보존 본능 때문에 그러한 대화에 나서게 될 것이라고 생각할 수 있습니다. 개개인은 분명히 그러한 욕구를 가지고 있지만, 종으로서 우리의 행동은 우리에게 유리하지 않은 것 같습니다. 핵 위협에 대처하는 과정에서 우리는 종종 스스로에게, 그리고 서로에게 솔직하지 못한 말을 했고, 그 결과 위험을 크게 증가시켰습니다. 이것이 정치적인 동기에서 비롯된 것인지, 미래를 내다보지 않았기 때문인지, 아니면 그처럼 심각한 위협에 직면했을 때 두려움에 사로잡혀 비이성적으로 행동했기 때문인지는 알 수 없지만, 분명 좋은 징조는 아닙니다.

 

유전학, 나노기술, 로봇공학이라는 새로운 판도라의 상자가 거의 열리려 하고 있지만, 우리는 거의 알아채지 못하는 것 같습니다. 아이디어는 상자에 다시 넣을 수 없습니다. 우라늄이나 플루토늄과는 달리 채굴하고 정제할 필요도 없고, 자유롭게 복제할 수도 있습니다. 일단 세상에 나오면 되돌릴 수 없습니다. 처칠은 유명한 비꼬는 어조로 미국 국민과 지도자들이 "모든 다른 대안을 검토한 후에야 항상 옳은 일을 한다"고 말했습니다. 하지만 이번 경우에는 더욱 선견지명을 가지고 행동해야 합니다. 옳은 일을 하는 것이 오히려 그 기회를 완전히 놓치는 결과를 초래할 수도 있기 때문입니다.

 

소로가 말했듯이,"우리가 철도를 타는 것이 아니라, 철도가 우리를 짓누르는 것이다." 바로 이것이 우리가 오늘날 싸워야 할 대상이다. 결국 문제는 누가 주인이 될 것인가 하는 것이다. 우리는 우리의 기술로부터 살아남을 수 있을까?

 

우리는 아무런 계획도, 통제 장치도, 브레이크도 없이 이 새로운 세기로 내몰리고 있습니다. 이미 너무 멀리 와서 방향을 바꿀 수 없는 걸까요? 저는 그렇게 생각하지 않지만, 아직 시도조차 하지 않고 있습니다. 그리고 통제권을 되찾을 수 있는 마지막 기회, 즉 안전장치가 될 시점이 빠르게 다가오고 있습니다. 우리는 최초의 애완용 로봇을 보유하게 되었고, 상용화된 유전자 공학 기술도 개발되었으며, 나노 기술 또한 빠르게 발전하고 있습니다. 이러한 기술 개발은 여러 단계를 거치지만, 맨해튼 프로젝트나 트리니티 실험처럼 마지막 단계가 반드시 어렵고 난해한 것은 아닙니다. 로봇 공학, 유전자 공학, 나노 기술 분야에서 무분별한 자기 복제의 돌파구는 갑자기 나타날 수도 있으며, 포유류 복제에 대한 소식을 접했을 때 우리가 느꼈던 놀라움을 다시 불러일으킬 수도 있습니다.

 

그럼에도 불구하고 저는 우리에게 희망을 가질 강력하고 확고한 근거가 있다고 믿습니다. 지난 세기에 대량살상무기 문제를 다루었던 우리의 노력은 우리가 되새겨 볼 만한 훌륭한 포기의 사례를 제공합니다. 바로 미국이 아무런 전제 조건 없이 생물학 무기 개발을 일방적으로 포기한 것입니다. 이러한 포기는 이러한 끔찍한 무기를 만드는 데는 막대한 노력이 필요하겠지만, 이후에는 쉽게 복제되어 불량 국가나 테러 집단의 손에 넘어갈 수 있다는 인식에서 비롯되었습니다.

 

명확한 결론은 이러한 무기를 추구함으로써 우리 자신에게 추가적인 위협을 초래할 것이며, 추구하지 않는 것이 더 안전할 것이라는 점이었습니다. 우리는 1972년 생물무기협약(BWC)과 1993년 화학무기협약(CWC)을 통해 생물 및 화학 무기 포기를 구체화했습니다. 12

 

지난 50년 이상 우리가 안고 살아온 핵무기의 지속적인 상당한 위협과 관련하여, 최근 미국 상원의 포괄적 핵실험 금지 조약(CTBT) 부결은 핵무기 포기가 정치적으로 쉽지 않을 것임을 분명히 보여줍니다. 그러나 냉전 종식이라는 절호의 기회 속에서 우리는 다극화된 군비 경쟁을 막을 수 있습니다. 생물무기협약(BWC)과 화학무기협약(CWC)의 포기를 발판으로 삼아 핵무기를 성공적으로 폐지한다면, 위험한 기술을 포기하는 습관을 형성하는 데 도움이 될 수 있습니다. (실제로 전 세계에서 100개의 핵무기만 남기고 모두 제거한다면, 이는 제2차 세계 대전 당시의 총 파괴력과 거의 맞먹는 수준이며 훨씬 더 쉬운 과제이므로, 우리는 인류 멸종의 위협을 완전히 없앨 수 있습니다. )

 

포기 여부를 검증하는 것은 어려운 문제이지만, 해결 불가능한 문제는 아닙니다. 다행히 생물무기협약(BWC) 및 기타 조약과 관련하여 이미 많은 관련 연구를 진행해 왔습니다. 우리의 주요 과제는 이러한 연구를 군사적 목적보다는 상업적 목적이 훨씬 강한 기술에 적용하는 것입니다. 여기서 가장 중요한 것은 투명성입니다. 포기된 활동과 합법적인 활동을 구분하는 것이 어려울수록 검증의 난이도가 높아지기 때문입니다.

 

솔직히 말해서 1945년 당시 상황은 지금보다 훨씬 단순했다고 생각합니다. 핵 기술은 상업적 용도와 군사적 용도로 비교적 명확하게 구분할 수 있었고, 원자 실험의 특성과 방사능 측정의 용이성 덕분에 감시가 수월했습니다. 군사적 용도에 대한 연구는 로스앨러모스와 같은 국립 연구소에서 수행될 수 있었고, 그 결과는 가능한 한 오랫동안 비밀로 유지될 수 있었습니다.

 

GNR 기술은 상업적 용도와 군사적 용도로 명확하게 구분되지 않습니다. 시장에서의 잠재력을 고려할 때, 이러한 기술을 국가 연구소에서만 연구하는 것은 상상하기 어렵습니다. 광범위한 상업적 활용이 예상되는 상황에서, 기술 포기를 강제하려면 생물학 무기에 적용되는 것과 유사하지만 전례 없는 규모의 검증 체계가 필요할 것입니다. 이는 필연적으로 개인의 사생활 보호 및 독점 정보 보유 욕구와 우리 모두를 보호하기 위한 검증의 필요성 사이에서 갈등을 야기할 것입니다. 우리는 이러한 사생활 침해와 행동의 자유 제한에 대해 강력한 저항에 직면할 것이 분명합니다.

 

특정 GNR 기술의 포기 여부를 확인하는 절차는 물리적 시설뿐 아니라 사이버 공간에서도 이루어져야 합니다. 핵심 과제는 독점 정보가 판치는 세상에서 필요한 투명성을 확보하는 것이며, 이를 위해서는 지적 재산권을 보호하는 새로운 방안이 필요할 것으로 예상됩니다.

 

규정 준수 여부를 검증하려면 과학자와 엔지니어들이 히포크라테스 선서와 유사한 강력한 윤리 강령을 채택하고, 필요하다면 개인적 희생이 크더라도 내부 고발을 할 용기를 가져야 합니다. 이는 히로시마 원폭 투하 50년 후, 맨해튼 프로젝트의 생존 멤버 중 가장 고참이었던 노벨상 수상자 한스 베테가 모든 과학자들에게 "핵무기 및 기타 잠재적 대량살상무기를 만들거나 개발하거나 개선하거나 제조하는 작업을 중단하라"고 촉구한 것에 대한 응답입니다. 14 21세기에는 NBC 및 GNR 기술 분야에 종사하는 사람들이 대량살상무기와 지식 기반 대량살상무기의 개발을 막기 위해 경각심을 갖고 개인적인 책임을 져야 합니다.

 

소로는 ​​또한 이렇게 말했다.우리는 "포기할 여유가 있는 것들의 수에 비례하여 풍요로워질 것"이라는 말을 들었습니다. 우리 모두는 행복을 추구하지만, 더 많은 지식과 더 많은 물질을 얻기 위해 완전한 파멸이라는 엄청난 위험을 감수해야 하는지 의문을 제기해 볼 가치가 있습니다. 상식적으로 우리의 물질적 욕구에는 한계가 있으며, 어떤 지식은 너무 위험해서 포기하는 것이 최선일 수 있습니다.

 

우리는 대가를 고려하지 않고, 그에 따른 멸종 위험 증가를 고려하지 않고 거의 불멸에 가까운 삶을 추구해서는 안 됩니다. 불멸은 어쩌면 최초의 유토피아적 꿈일지 모르지만, 결코 유일한 꿈은 아닙니다.

 

최근 저는 저명한 작가이자 학자인 자크 아탈리를 만나는 행운을 누렸습니다. 그의 저서 『Lignes d'horizons』 ( 영문판 제목은 『 Millennium 』)은 이전에 이 잡지에서 소개했던 것처럼, 다가오는 보편적 컴퓨팅 시대에 대한 자바와 지니의 접근 방식에 영감을 주었습니다. 그의 신간 『 Fraternités』 에서 아탈리는 유토피아에 대한 우리의 꿈이 시간이 흐르면서 어떻게 변화해 왔는지에 대해 이야기합니다.

 

“사회가 태동하던 시절, 인간은 지상에서의 삶을 고통의 미로로만 여겼고, 그 끝에는 죽음을 통해 신들의 곁과 영원 으로 향하는 문이 있다고 믿었습니다. 히브리인들과 그 후 그리스인들은 신학적 제약에서 벗어나 자유가 꽃피는 이상적인 도시를 꿈꿨습니다 . 그러나 시장 사회의 발전을 목격한 다른 이들은 일부의 자유가 다른 이들의 소외를 초래할 것임을 깨닫고 평등을 추구했습니다 .”

 

자크는 이 세 가지 유토피아적 목표가 오늘날 우리 사회에서 어떻게 서로 충돌하며 존재하는지 이해하는 데 도움을 주었습니다. 그는 나아가 이타주의를 기반으로 하는 네 번째 유토피아, 즉 '박애 '에 대해 설명합니다 . 박애만이 개인의 행복을 타인의 행복과 연결시켜 자립을 가능하게 합니다.

 

이로써 저는 커즈와일의 꿈에 대한 제 생각을 명확히 이해하게 되었습니다. 로봇 공학을 통한 거의 불멸에 가까운 영원성에 대한 기술적 접근은 가장 바람직한 유토피아가 아닐 수 있으며, 그러한 추구는 분명한 위험을 수반합니다. 어쩌면 우리는 유토피아에 대한 우리의 선택을 재고해야 할지도 모릅니다.

 

우리가 나아갈 방향을 정할 새로운 윤리적 토대는 어디에서 찾을 수 있을까요? 저는 달라이 라마의 저서 『새로운 천년을 위한 윤리』 에서 많은 도움을 받았습니다. 잘 알려져 있지만 제대로 귀 기울이지 않는 사람들이 많겠지만, 달라이 라마는 우리 삶을 사랑과 연민으로 살아가는 것이 가장 중요하며, 사회는 보편적 책임감과 상호의존성에 대한 더욱 강력한 인식을 발전시켜야 한다고 주장합니다. 그는 개인과 사회를 위한 긍정적인 윤리적 행동 기준을 제시하는데, 이는 아탈리의 형제애 유토피아와도 일맥상통하는 듯합니다.

 

달라이 라마는 더 나아가 사람들을 행복하게 만드는 것이 무엇인지 이해해야 하며, 물질적 진보나 지식 추구 그 어느 것도 행복의 열쇠가 아니라는 강력한 증거를 인정해야 한다고 주장합니다. 즉, 과학과 과학적 탐구만으로는 할 수 있는 일에 한계가 있다는 것입니다.

 

서양의 행복 개념은 그리스인들에게서 비롯된 것으로 보이는데, 그들은 행복을 "삶에서 삶의 범위를 넓혀 탁월한 방향으로 생명력을 발휘하는 것"이라고 정의했다. 15

 

앞으로 다가올 삶에서 행복을 누리려면 분명 의미 있는 도전과 충분한 활동 범위를 찾아야 합니다. 하지만 저는 끊임없는 경제 성장이라는 문화 너머에 창의적인 힘을 발휘할 다른 길을 찾아야 한다고 생각합니다. 이러한 성장은 수백 년 동안 대체로 축복이었지만, 순수한 행복만을 가져다주지는 않았습니다. 이제 우리는 과학 기술을 통한 무제한적이고 방향 없는 성장 추구와 그에 따르는 명백한 위험 사이에서 선택해야 합니다.

 

지금은 레이 커즈와일과 존 설을 처음 만난 지 1년이 넘었습니다. 저는 주변에서 신중함과 포기를 촉구하는 목소리들, 그리고 현재 우리가 처한 곤경에 대해 저만큼이나 우려하는 사람들을 보며 희망을 느낍니다. 또한, 제가 이미 해낸 일 때문이 아니라, 과학의 융합 속에서 앞으로 해낼 수 있는 일에 대한 책임감이 더욱 깊어졌습니다.

 

하지만 위험성을 알고 있으면서도 이상할 정도로 침묵을 지키는 사람들이 많습니다. 질문을 받으면 "이건 새로운 게 아니에요"라는 식으로 얼버무립니다. 마치 무슨 일이 일어날 수 있는지 아는 것만으로도 충분한 반응인 것처럼 말이죠. 그들은 "대학에는 이런 문제를 하루 종일 연구하는 생명윤리학자들이 가득해요"라고 말합니다. 또 "이 모든 건 이미 전문가들이 다 쓴 글이에요"라고 불평합니다.

 

이 사람들이 두려움을 어디에 숨기는지 모르겠습니다. 복잡계 설계자로서 저는 이 분야에 대해 일반적인 관점을 가지고 접근합니다. 하지만 그렇다고 해서 제 우려가 줄어들어야 할까요? 이 문제에 대해 얼마나 많은 글이 쓰이고, 얼마나 많은 이야기가 오가고, 얼마나 권위 있는 강연이 있었는지 잘 알고 있습니다. 하지만 그렇다고 해서 사람들이 그 내용을 제대로 이해하게 되었을까요? 우리 앞에 놓인 위험을 간과해도 될까요?

 

아는 것이 행동하지 않는 것에 대한 합리화가 될 수는 없습니다. 지식이 우리 스스로를 공격하는 무기가 되었다는 사실을 어떻게 부인할 수 있겠습니까?

 

원자 과학자들의 경험은 개인적인 책임감의 필요성, 너무 빠른 속도로 일이 진행될 때 발생할 수 있는 위험성, 그리고 과정이 스스로 생명력을 갖게 되는 방식을 분명히 보여줍니다. 우리도 그들처럼 순식간에 해결할 수 없는 문제들을 만들어낼 수 있습니다. 우리가 발명품의 결과에 그들처럼 놀라고 충격을 받지 않으려면 사전에 더 많은 생각을 해야 합니다.

 

저는 소프트웨어의 신뢰성을 향상시키는 일을 꾸준히 해오고 있습니다. 소프트웨어는 도구이며, 도구 개발자로서 저는 제가 만든 도구가 어떻게 사용되는지에 대해 끊임없이 고민해야 합니다. 소프트웨어의 다양한 용도를 고려할 때, 소프트웨어의 신뢰성을 높이는 것이 세상을 더 안전하고 살기 좋은 곳으로 만들 것이라고 항상 믿어왔습니다. 만약 제가 그 반대의 생각을 하게 된다면, 도덕적으로 이 일을 멈춰야 할 의무가 생길 것입니다. 그런 날이 올지도 모른다는 생각이 듭니다.

 

이 모든 일로 화가 나기보다는 약간 우울한 기분이 듭니다. 앞으로 제게 발전은 다소 씁쓸한 의미를 지니게 될 것 같습니다.

 

기억나세요?영화 맨해튼의 아름다운 마지막 장면, 우디 앨런이 소파에 누워 녹음기에 대고 이야기하는 장면 기억하시나요? 그는 사람들이 스스로 불필요하고 신경질적인 문제를 만들어내는 것에 대한 단편 소설을 쓰고 있는 겁니다. 왜냐하면 그런 문제들이 그들이 우주에 대한 더 해결 불가능하고 무서운 문제들을 직면하지 못하게 하기 때문이죠.

 

그는 스스로에게 "인생은 왜 살 가치가 있는가?"라는 질문을 던지고, 자신에게 인생을 가치 있게 만드는 것들을 생각해 본다. 그루초 마르크스, 윌리 메이스, 주피터 교향곡 2악장, 루이 암스트롱의 "포테이토 헤드 블루스", 스웨덴 영화, 플로베르의 감정 교육, 말론 브란도, 프랭크 시나트라, 세잔의 사과와 배 그림, 샘 워의 게 요리, 그리고 마지막으로 가장 중요한 것: 그의 연인 트레이시의 얼굴.

 

우리 각자에게는 소중한 것들이 있고, 그것들을 보살피는 과정에서 우리는 인간성의 본질을 발견합니다. 결국, 우리가 가진 위대한 보살핌의 능력 덕분에 저는 우리가 지금 우리 앞에 놓인 위험한 문제들을 극복할 수 있을 것이라고 낙관합니다.

 

제가 당장 바라는 것은 다양한 배경을 가진 사람들과 함께, 기술 자체에 대한 두려움이나 호감을 갖지 않는 환경에서, 여기서 제기된 문제들에 대해 훨씬 더 폭넓은 논의에 참여하는 것입니다.

 

우선, 저는 아스펜 연구소가 주최한 행사에서 이러한 문제들을 두 차례 제기했으며, 미국 예술 과학 아카데미가 퍼그워시 회의(1957년부터 군비 통제, 특히 핵무기 통제를 논의하고 실행 가능한 정책을 수립하기 위해 개최되어 온 회의)의 연장선상에서 이러한 문제들을 다뤄줄 것을 별도로 제안했습니다.

 

퍼그워시 회의가 핵무기 개발이라는 판도라의 상자가 이미 열린 후에야, 즉 약 15년이나 늦은 시점에 시작되었다는 것은 유감스러운 일입니다. 또한 21세기 기술과 관련된 문제, 즉 지식을 이용한 대량 살상 무기 개발 방지 문제를 진지하게 다루기 시작하는 것 역시 너무 늦었고, 더 이상의 지연은 용납할 수 없습니다.

 

그래서 저는 여전히 탐구 중입니다. 배워야 할 것이 너무 많아요. 우리가 성공할지 실패할지, 살아남을지 희생양이 될지는 아직 결정되지 않았습니다. 또 늦게까지 깨어 있네요. 벌써 새벽 6시가 다 되어갑니다. 더 나은 해답을 상상해 보고, 이 마법을 깨고 돌에 갇힌 것들을 풀어내려고 애쓰고 있습니다.

 

----------------------------------------

 

커즈와일이 인용한 구절은 카진스키의 유나보머 선언문에서 발췌한 것으로, 뉴욕 타임스 와 워싱턴 포스트 가 그의 테러 행위를 종식시키기 위해 강압에 의해 공동으로 발표한 것입니다. 저는 그들의 결정에 대해 다음과 같이 말한 데이비드 겔런터의 의견에 동의합니다.

 

"신문사 입장에서는 어려운 결정이었다. '예'라고 답하는 것은 테러에 굴복하는 것이 될 수도 있었고, 그들이 아는 한 그는 어차피 거짓말을 하고 있었을지도 모른다. 하지만 '예'라고 답하면 살인을 막을 수 있을지도 몰랐다. 또한 누군가 그 전단지를 읽고 작성자에 대해 짐작할 가능성도 있었는데, 실제로 그런 일이 일어났다. 용의자의 형이 그 전단지를 읽고 무언가 떠올랐던 것이다."

 

"저는 그들에게 출판하지 말라고 했을 겁니다. 제게 묻지 않아서 다행인 것 같아요."

 

( 《삶을 그리다: 유나보머로부터 살아남기》. 프리 프레스, 1997: 120.)

 

 

Garrett, Laurie. The Coming Plague: Newly Emerging Diseases in a World Out of Balance . Penguin, 1994: 47-52, 414, 419, 452.

 

 

아이작 아시모프는 1950년 그의 저서 《아이, 로봇》 에서 로봇 행동에 대한 가장 유명한 윤리적 규칙인 ' 로봇 3원칙'을 제시했습니다. 1. 로봇은 인간에게 해를 입히거나, 부작용으로 인간이 다치는 것을 방치해서는 안 된다. 2. 로봇은 인간의 명령에 복종해야 한다. 단, 그러한 명령이 제1원칙과 충돌하는 경우는 예외로 한다. 3. 로봇은 자신의 존재를 보호해야 한다. 단, 그러한 보호가 제1원칙이나 제2원칙과 충돌하지 않는 한에서이다.

 

 

미켈란젤로는 다음과 같이 시작하는 소네트를 썼습니다.

 

Non ha l' ottimo Artista alcun concetto

Ch' un marmo solo in sè non circonscriva

Col suo soverchio; e solo a quello arriva

La man che ubbidisce all' intelleto .

 

스톤은 이를 다음과 같이 번역합니다.

 

가장 뛰어난 예술가라 할지라도,

겉모습만 그럴듯하게 꾸민 거친 돌멩이 속에 이미 담겨 있는 생각 외에는 더 이상 보여줄 생각이 없다. 그저 두뇌를 섬기는 손이 할 수 있는 일은

대리석의 마법을 깨뜨리는 것 뿐이다 .

 

스톤은 그 과정을 이렇게 설명합니다. "그는 도면이나 점토 모형을 참고하지 않았습니다. 그것들은 모두 치워버렸죠. 그는 머릿속 이미지에 따라 조각했습니다. 그의 눈과 손은 모든 선, 곡선, 덩어리가 어디에 나타나야 하는지, 그리고 돌의 어느 깊이에서 부조를 만들어야 하는지 정확히 알고 있었습니다."

 

( 고뇌와 환희 . 더블데이, 1961: 6, 144.)

 

 

1989년 10월 제1회 나노기술 미래예측회의에서 "컴퓨팅의 미래"라는 제목으로 발표한 강연. 이 강연은 BC 크랜달과 제임스 루이스가 편집한 《나노기술: 연구와 전망》( MIT Press, 1992, 269쪽)에 수록되어 있다.

 

 

커트 보네거트는 1963년 소설 《고양이 요람》 에서 훨씬 높은 온도에서 고체로 굳어지는 '아이스나인'이라는 얼음의 일종이 바다를 얼려버리는 회색의 끈적끈적한 사고를 상상했습니다.

 

 

Kauffman, Stuart. “자기 복제: 펩타이드도 그렇게 한다.” Nature, 382, ​​1996년 8월 8일: 496.

 

 

엘스, 존. 트리니티 다음 날: J. 로버트 오펜하이머와 원자폭탄.

 

 

이 추정치는 레슬리의 저서 『세상의 종말: 인류 멸종의 과학과 윤리』 에 나오는데 , 그는 브랜든 카터의 종말론적 논증을 받아들일 경우 멸종 확률이 상당히 높아진다고 지적합니다. 카터의 종말론적 논증은 간단히 말해 "우리가 역사상 존재했던 모든 인류 중 극히 초기, 예를 들어 0.001%에 속한다는 사실을 믿기를 꺼려야 한다"는 것입니다. 이는 인류가 앞으로 수 세기 동안 생존하지 못할 뿐만 아니라 은하계를 식민지화하지 못할 것이라는 생각을 뒷받침하는 이유가 될 수 있습니다. 카터의 종말론적 논증 자체는 위험 추정치를 산출하지 않습니다. 이는 다양한 잠재적 위험을 고려할 때 우리가 산출하는 추정치를 수정 해야 한다는 주장입니다 . (Routledge, 1996: 1, 3, 145)

 

 

클라크, 아서 C. "대통령, 전문가, 그리고 소행성." Science , 1998년 6월 5일. "과학과 사회"라는 제목으로 Greetings, Carbon-Based Bipeds! Collected Essays, 1934-1998 에 재수록됨 . St. Martin's Press, 1999: 526.

 

 

데이비드 포레스트는 그의 논문 "나노기술 개발 규제"에서 "규제 대신 엄격책임제를 적용한다면 어떤 개발자도 위험(생태계 파괴)에 대한 비용을 내재화할 수 없으므로 이론적으로 나노기술 개발 활동은 결코 시작되어서는 안 된다"고 지적합니다. 포레스트의 분석은 우리를 보호할 수 있는 유일한 수단으로 정부 규제를 제시하는데, 이는 결코 안심할 만한 결론이 아닙니다.

 

 

메셀슨, 매튜. "생물학 무기의 문제." 1999년 1월 13일, 미국 예술 과학 아카데미 제1818차 정기 총회 발표.

 

 

Doty, Paul. “잊혀진 위협: 핵무기 비축량은 여전히 ​​문명에 대한 가장 큰 위협을 나타낸다.” Nature , 402, 1999년 12월 9일: 583.

 

 

한스 베테가 1997년에 클린턴 대통령에게 보낸 편지도 참조하십시오.

 

 

해밀턴, 에디스. 그리스 방식 . WW Norton & Co., 1942: 35.

 

썬 마이크로시스템즈의 공동 창립자이자 최고 과학자인 빌 조이는 대통령 직속 IT 연구 미래 위원회의 공동 의장을 역임했으며, 자바 언어 명세의 공동 저자이기도 합니다. 그의 지니 (Jini) 유비쿼터스 컴퓨팅 기술 에 대한 연구는 와이어드(Wired) 6.08호 에 소개되었습니다 .