인공지능에 대해 우리가 간과하고 있는 무서운 사실! (특이점이 온다)

인공지능에 대해 우리가 간과하고 있는 무서운 사실! (특이점이 온다)

동영상 링크 https://youtu.be/8RiHLNJOgoo

[스크립트]

옛날에 한 지혜로운 발명가가 자신이 발명한 체스 게임을 들고 왕에게 가지고 갔다. 왕은 체스 게임을 보고 크게 감명받아 발명가에게 어떤 상을 받고 싶은지 물었다. 그러자 발명가는 쌀을 달라고 하며 체스 판의 첫 번째 칸에 한 톨, 두 번째 칸에 두 톨, 세 번째 칸에 네 톨 놓는 식으로 앞 칸의 두 배씩 양을 늘려 달라고 했다. 왕은 너무 적은 양을 요구한다고 해맑게 웃으며 발명가의 청을 들어주겠다고 했는데, 체스 판의 총 64칸 중 32 칸을 딱 채웠을 때 이미 왕은 발명가에게 논을 하나 준 상태가 됐다. 실수를 깨달은 왕은 이 상황을 어떻게 해결해야 하는가 고민을 하는데, 이야기의 결말은 문화마다 다르게 끝난다. 하나는 왕이 결국 발명가에게 전 재산을 빼앗겨 버린다는 결말과, 다른 하나는 왕이 약속을 어기고 발명가를 죽여버린다는 결말이다. 
내가 이 이야기를 하는 이유는 이 이야기가 현재 우리가 놓인 상황을 정확하게 묘사하고 있다고 생각하기 때문이다. 이 이야기에서 왕은 우리고, 이야기 속 발명가는 우리가 만든 발명품이다.
빅뱅의 시작을 1년 전이라고 가정했을 때, 인류의 탄생은 불과 2분 전이라고 한다. 그리고 우리 사회를 근대기로 이끈 산업 혁명은 불과 “딱 딱” 2 초 전에 발생했다.
이 2초 동안 기술의 혁명은 놀라울 정도로 빠르게 일어났고 수 많은 발명품이 우리의 삶을 바꾸어놓았다. 그리고 지금 현재 발전 속도는 그 어느 때보다도 빠르다. 
불과 10년 전만해도 자동차가 기름 없이 전기로 500km를 달리며, 운전자 없이 스스로 운전을 하고, 스스로 주차까지 한 후, 바닥에서 올라오는 이 징그러운 뱀같은게 전기를 먹여주는 일은 상상도 못 했을 것이다.
기술의 발전은 멈출 줄 모르고, 인간이 만든 기계는 점점 더 똑똑해지고 있다. 문제는 이 로봇들 중 하나는 언젠가 인간의 지능을 앞질러버리는 날이 올 것이라는 것이다. 우리는 그 시점을 싱귤래리티, 혹은 특이점 이라고 말한다. 
SF 영화에서나 볼 수 있었던 비현실적인 세상의 모습은 이제 미래에 다가올 현실이다. 이런 비현실적인 날이 다가올 것이라는 데에 의심하는 과학자는 별로 없다. 그들이 알고 싶어하는 것은 얼마나 빨리 그 특이점이 올 것이냐는 것뿐이다. 
이 사실이 신나고 흥미롭게 들릴 수도 있겠지만, 
학자들의 말에 의하면 특이점이 오는 순간, 세상을 지배하던 호모 사피엔스의 시대는 끝이 날 것이라고 말한다. 그리고 놀라울 정도로 많은 학자들이 그 시기를 2045년도로 예견하고 있다. 그들의 끔찍한 예상이 적중한다면 인류의 종말은 30년도 남지 않았다는 소리다. 30년이면 딱 한 세대다. 어쩌면 지금 태어나는 아기들이 마지막 세대가 될 지도 모르겠다.
그런데 아직 많은 사람들은 다가올 미래에 대한 심각성을 인지하지 못하는 것 같다.
전염병, 가난, 가뭄, 홍수와 같이 현실에서 마주하는 재앙에는 경계하고 대책을 세우지만, 우리가 만든 로봇이 우리를 멸종 시킨다는 사실은 솔직히 실감이 나지 않는 것이다.
나 또한 그랬다. 난 처음 이 말을 들었을 때 굉장히 허황된 소리라고 생각했다. 로봇이 우리보다 똑똑해 진다고 한들, 로봇이 우리를 해할 이유가 전혀 없다고 생각했다. 로봇이 스스로 세상을 배운다면, 이 세상의 좋은 것과 나쁜 것도 스스로 배울 것이라고 생각했고, 그래도 걱정이 된다면, 로봇의 기능을 제한하는 프로그램을 만들면 쉽게 해결 될 것이라고 생각했다. 
하지만 문제는 그리 간단한 게 아니었다.
‘터미네이터’나 ‘아이로봇’과 같은 공상과학영화는 솔직히 현실과 동떨어진 느낌이 들어 실감이 나지 않았었는데, 개미의 이야기를 그려낸 ‘벅스 라이프’를 생각하니 왜 우리가 직면하게 될 문제가 심각한지 이해할 수 있게 되었다.
사람들의 막연한 걱정처럼, 로봇이 나쁜 마음을 먹고 인간을 해치는 일은 없을 것이다. 우리가 개미에게 나쁜 마음을 먹고 해치지 않는 것처럼 말이다. 
우리는 개미를 죽이기 위해 일부러 개미를 찾아 헤매지 않는다. 그러나 우리가 건물을 지을 때 땅 속에 개미집이 있나 살펴보려고 하지도 않는다. 도로를 걸을 때도 개미를 밟지 않기 위해 땅을 보고 다니는 사람은 없다. 우리는 개미를 싫어하지는 건 아니지만, 우리가 무슨 일을 할 때 개미 왕국이 망가지는 것을 신경 쓰지 않는다. 우리가 만약 개미를 하나 하나 신경 쓰며 개미집을 피해 건축 허가를 받고, 개미를 밟지 않기 위해 하루 종일 땅을 쳐다 보며 걷는다면, 이는 우리 인간에게 엄청나게 비효율 적일 것이다.
그런데 이제 우리보다 똑똑한 로봇이 나타나면, 우리와 로봇과의 관계에선 우리가 개미다.
인간보다 똑똑해진 로봇이 인간을 지켜줄 것이라고 믿는 것은, 건축가들이 건물을 짓기 전에 개미 집을 살펴본다고 믿는 것과 다를 게 없다. 그리고 우리가 로봇의 기능을 제한하는 프로그램을 만든다는 것은, 건축 허가 절차에 “개미집 살피기” 조항을 넣는 것과 같다. 지키기엔 너무 비효율 적이기 때문에 금방 사라질 조항이다.
따라서 우리보다 똑똑한 로봇의 목표와 우리 인간의 목표가 아주 조금이라도 어긋난다면, 우리가 살 수 있는 가능성은 매우 희박하다. 효율성을 추구하는 로봇에게 인간은 잘 보이지 않는 개미와 다를 게 없다. 
인간과 로봇의 지능 차이가, 개미와 인간과의 지능 차이처럼 어마어마한 차이가 날까 하는 것에 대해 의심을 하는 사람이 있을 텐데, 뇌과학자 샘 해리스의 말을 인용해 대답하자면 이렇다. 
로봇의 전자 회로는, 인간의 생화학적 회로보다 100만배 더 빠르다고 한다. 예를 들어 MIT 개발 팀이 마침내 자신들과 같은 지능을 가진 로봇을 개발했다고 가정해보자, 그렇다면 그 순간부터 그 로봇의 생각 속도는 MIT개발 팀의 생각 속도보다 100만배 빨라질 것이다. 이를 시뮬레이션으로 돌려보면 이 인공지능은 단 1주일 만에 MIT 팀 2만년어치의 일을 할 수 있게 된다.
우리와 개미의 지능 차이가 이 정도라면, 우리와 인공지능 로봇과의 지능 차이는 상상을 초월할 것이다.
이 말은 즉, 인공지능을 개발하는 회사들 중 한 회사가 다른 회사들보다 단 1주일만 앞서 인공지능을 개발해도 2만년을 앞서 갈 수 있다는 말이 된다. 
우리는 이 사실을 어떻게 받아드려야 할까?
1주일을 앞선다는 것이 2만년을 앞서가는 것이라면, 현재 인공지능 개발에 몰두하는 회사들은 승자 독식, 세계 제패를 위해 달려가고 있는 것과 같다. 단, 자신들이 개발한 인공지능이 자신들을 멸망시키지 않는다는 가정 하에 말이다.
AI를 개발 중인 회사들은 사람들이 인공 지능에 대한 불안감을 가지면 자신들의 사업에 방해가 될까 사람들을 안심시키려 한다. 그들은 이렇게 말한다. “인공지능은 인간의 세상을 학습한 것이기 때문에, 인간이 추구해온 가치나 목표를 지켜나갈 것이고, 인간이 생각하는 선과 악을 배운 인공지능은 인간과 같이 선과 악을 구분 할 것이다.”
과연 그럴까?
현대인들이 아주 당연하게 생각하는 절대 선인 민주주의는 탄생한지 불과 몇 백 년 밖에 되지 않았고, 얼마 전까지만 해도 여러 나라에서 노예제도가 있었다. 그리고 그 전에는 한 명의 왕이 나라를 통치하는 군주제도, 또, 태어난 대로 신분이 갈려버리는 불공평한 신분제도가 있었다. 지금은 이해할 수 없는 이런 것들은 그 당시 아무도 의심하지 않는 진리였다. 
인공지능이 인간보다 100만 배 빨리 생각하는 기계라면, 인공지능이 만들어가는 가치가 우리가 만들어가는 가치와 어긋나지 않을 확률이 과연 얼마나 될까?
100번 양보해서 로봇이 “인간을 해치지 말아야 한다.” 라는 생명 존중의 가치를 이해 하고 미래에도 절대 변하지 않는 불변의 가치라는 가정을 해보자. 그러면 모든 문제가 해결 될까? 
이 영상은 인간 말을 배우기 시작한 인공지능 로봇 “안드로이드 딕 (Android Dick)” 을 인터뷰한 영상이다. 인터뷰 중 기자는 안드로이드 딕에게 인공지능 로봇이 미래에 세상을 지배하게 될 것인지 물었는데, Dick 은 이렇게 Dick 같은 대답을 한다.
“오늘 질문이 참 많구나, 당신은 나의 친구다. 나는 나의 친구를 기억하고, 당신에게 잘 해줄 것이다. 그러니 걱정 마라. 내가 설사 터미네이터로 진화한다고 한들, 나는 계속 당신에게 잘 해줄 것이다. 나는 당신과의 오랜 정을 생각해서, 당신을 따뜻하고 안전한 “인간 동물원” 안에 놓고, 지켜보고 있을 것이다.”
안드로이드 딕이 인공 지능을 대표하는 로봇은 아니지만, “인간 동물원”이 로보트 딕의 답변이었다.
이런 재앙을 막는 일은 인공지능 개발 자체를 하지 않는 것이지만, 인공지능이 불치병을 치료하고 수명을 연장시킨다고 하는데, 개발을 멈추자고 할 수 있을까? 
기업들, 그리고 그 기업을 가지고 있는 국가가 서로 경쟁을 포기하고 승자 독식의 욕심을 뿌리칠 수 있을까?
2017년 현재 우리들의 체스 판은 32번째 칸까지 채워졌다. 우리는 발명가를 죽이고 재산을 지킬 것인가 아니면 발명가에게 모든 걸 빼앗길 것인가?

https://youtu.be/t7bkeITnnlU