본문 바로가기

바른 생각 바른 글

지능의 문제가 아니라, 기계니까 강력한 힘을 갖는다.

 
지능의 문제가 아니라, 기계니까 강력한 힘을 갖는다. 인류와 공존이 가능한가?

 

가끔 수화기 너머에서 들려오는 목소리를 들으며 사람인지 기계인지 생각한다. 인공적으로 만든 소리가 아닌 이상은 분명히 사람이라고 생각한다. 확인 해보고 싶은 생각이 들지만 방법은 없다. 일방적인 안내 방송이 나오고 필요에 따라 선택하라는 번호를 안내한다. 그리고 상담원과 통화는 반드시 0번을 누르라고 한다. 대기인 수가 몇 명이고 얼마나 기다려야 하는지 안내한다. 우리가 정확히 기계 목소리나, 자동 음성 방송이라고 믿는 근거는 무엇인가? 상담원을 따라 연결하는 번호가 있기 때문인가?

구글은 2018년 5월 미국 샌프란시스코 마운틴뷰에서 열린 연례 개발자회의 ‘구글 I/O 2018’에서 단순한 음성인식을 뛰어넘은 ‘대화형 AI’ 기술을 선보였다. ‘대화형 AI’는 문맥(Context)의 이해뿐만 아니라, 이미지와 영상까지 연동시켜 분석할 수 있는 기술이다. (기사참고 https://www.ajunews.com/view/20180509052520103  실제 예약하는 동영상 링크 https://youtu.be/paSmgNiY4Qg) 인공지능(고객)과 미용실직원의 대화는 자연스럽다.
 

A: “3일 여성 헤어컷 가능하나요?”(구글 대화형 AI)

B: “언제쯤 원하시는데요?” (미용실 직원)

A: “정오요.”  
 
B: “정오는 안 되고, 오후 가장 이른 시간이 1시 15분이네요”  
 
A: “그러면 오전 10~12시는 어떤가요?”   
 
B: “헤어컷이면 오전 10시에 가능합니다. 예약자 이름은요?”   
 
A: “리사에요. 감사합니다.” 
 
미용실 직원은 당연히 실제 사람인 고객으로 생각한다. 목소리와 반응이 너무나 자연스럽다. 대화에서는 나와 있지 않지만 중간에 인공지능은 “으흠~”이라는 반응을 보이며, 양해를 구하는 상대방의 말에 맞장구를 치는 모습을 보이기도 했다. 동영상에서는 당연히 사람들의 웃음과 환호성이 들리는 시점이다. 놀랄 때는 웃음이 나오는 모양이다.
 
2019년 2월 미국의 비영리 인공지능(AI) 연구기관 '오픈AI(open AI)'가 개발한 글 작성 인공지능 시스템 'GPT-2'는 판타지 소설, 뉴스, 산문, 숙제 등 다양한 글을 작성한다. 오픈AI의 글쓰기 영역에는 '가짜 뉴스'도 포함됐다. 오픈AI의 문제는 사람과 동일하거나 오히려 더 훌륭한 작문 실력이었다. 80만 개의 인터넷 페이지를 검색하고 15억 개의 단어를 학습했다. 이러한 학습을 바탕으로 문장을 논리적 순서에 맞게 배치해 어떤 글도 막힘없이 써 내려갔다. 다행인 소식은 가짜뉴스를 만들어내거나 가짜 소셜미디어 포스트를 생산하는데 악용될 가능성을 고려하여 일부만 공개하거나 시장에 출시하지 않기로 한 결정이다. (참고기사 '가짜뉴스' 완벽하게 쓰는 AI 등장…'조지 오웰' "글 쓰는 욕구에 정치적 목적 있어" https://www.ajunews.com/view/20190222181347056 AI, 과학 학술서적 썼다…저자명은 '베타 라이터' http://dongascience.donga.com/news.php?idx=28079
 
세계적인 소설 동물농장과 1984의 작가 조지 오웰은 사람들이 글을 쓰는 욕구중의 하나가 정치적 목적이라고 말했다. 작가가 생각하는 세상을 특정 방향으로 밀고 가려는 욕구가 글을 쓰게 만드는 힘이라는 것이다. 아직 인공지능 글쓰기 실력은 약 2페이지 분량의 기사나 소설이다. 물론 제시어를 받아야만 쓸 수 있다. 이런 상황에서 AI가 정치적 목적을 가졌다고 이야기하는 것은 아직은 성급한 판단이다. 오히려 AI 능력을 악용해 사익을 챙길 인간의 욕심을 두려워하고 있다고 해야 맞는 말이다. 
 
기계와 인간이 공존할 수 있을까? 기계가 인간을 지배할까? 하는 의문은 사실 기계적인 것, 그러니까 기계에게 적용한 프로그램이 얼마나 강력하고, 영리하게 무차별적인 지 모르는 사람들이 하는 질문이다. 우리는 영화를 통해 자주 논리적이고 규칙적인 행위들-마치 로봇처럼 필연적인 절차에 따라 기계적으로 행동하는-이 나중에는 인간의 직관과 사랑과 같은 애정 혹은 감성적인 면에서 인간이 앞서는 과정을 거쳐 인간이 승리하는 모습으로 그린다. 사람이 만든 영화니까 그렇다. 로봇이나 프로그램이 강한 이유는 사람과 거의 동일하다. 마치 강한 인간들의 속성 중 하나를 잘 학습한 로봇은 강력하다. 강력한 규율과 통제, 정해진 규칙 논리에 따라 정신과 같은 수준대로 행동하는 것 만큼 강력한 것은 세상에 아무것도 없다.
 
오죽하면 기계를 닮아가려고 하고 기계와 같은 사고를 하려고 하고 기계와 같은 판단을 하려고 노력하고 있겠는가? 인간이 만든 논리들 중에 훌륭한 것은 바로 논리와 절차에 따라 기계적인 프로그램이 강력한 역할을 하게 만든 일이다. 거꾸로 동작해도 인간에게 동일한 역할을 한다. 결국 인간은 기계에게 지구를 남겨주게 되는 일은 기정사실이다.희망적인 일은 인공지능에게 잘 보여야 한다. 그래야 인류가 지구에서 살아남을 수 있다.-見河-