개발자/인공지능과 인간

초인공지능 5강 인간의 지성을 뛰어넘는 AI

지구빵집 2020. 7. 24. 10:12
반응형

 

초인공지능 5강 인간의 지성을 뛰어넘는 AI 

 

인간의 지성을 뛰어넘는 AI가 가능할지에 대한 논의에 앞서 괴델의 불완전성 정리에 대해 알아보자. 괴델은 어떤 명제는 증명도 반증(부정의 증명)도 할 수 없음을 증명했다. 그 명제는 '이 글을 증명할 수 없다'는 문장인데 이것을 '괴델 문장'이라 부른다. '이 글을 증명할 수 없다'는 괴델 문장이 증명될 수 있다면 '이 글을 증명할 수 없다'는 말과 모순된다. 이 명제를 반증할 수 있다면, 괴델 문장은 증명할 수 있게 되어 '이 글을 증명할 수 없다'라는 말과 모순된다.

 

초인공지능 1강 AI와 미래 변화, 기술적 특이점은 올 것인가?

초인공지능 2강 인간의 사고를 기계화하려는 시도들

초인공지능 3강 기계학습과 심층학습: 인간의 직관을 갖춘 AI

초인공지능 4강 범용 AI: 전뇌 복사와 전뇌 아키텍쳐

초인공지능 5강 인간의 지성을 뛰어넘는 AI

초인공지능 6강 로봇의 반란

초인공지능 7강 의식을 가진 AI

 

괴델 문장은 증명도 반증도 할 수 없는 명제(결정 불능 명제)인 것이다. 괴델 문장은 에피메니데스의 역설 Epimenides paradox인 '모든 크레타인은 거짓말쟁이다'라는 자기 언급의 역설과 흡사하다. 이러한 불완전성의 정리 자체는 난센스가 아니기 때문에, 모든 명제가 증명되거나 반증될 수 있도록 형식 체계를 구축하는 것도 불가능하다. 그러나 이런 것이 인간 이성의 한계를 입증하는 것도 물론 아니다.

이와 유사하게 '튜링의 정지성 문제'는 모든 프로그램이 정지될지 여부를 판정할 프로그램은 존재하지 않는다는 것이다. 이 문제의 본질은 프로그램이 프로그램에 반하는 동작을 할 수 없다는 것이다. 그렇다면 인간은 자신의 성격에 반하는 행동을 할 수 없는가? 언듯 보면 인간은 뒤틀림 프로그램(예측할 수 없는)과 같은 행동을 하고 자유의지가 있는 것처럼 행동한다고 보인다. 그러나 그것은 착각이다. 인간의 성격이 유전과 환경에 의해 결정된다면, 인간의 의지는 성격을 형성하는 근본 요인이 될 수 없다. 결론적으로 인간은 성격을 변화시킬 수 있지만 성격에 반하는 행동을 할 수는 없다. 성격은 본래 유전과 환경에 의해 결정된다.

동일하게 프로그램은 처리 시스템을 변경할 수는 있지만 처리 시스템에 반하는 처리를 할 수 없으며, 그 처리 시스템은 본래 인간이 만든 코드와 외부에서 주입된 데이터에 결정된다. 따라서 자유의지가 존재하지 않으며 모든 활동이 결정되어 있다는 점에서 인간과 AI는 다르지 않다. 자유의지의 유무로 인간에게는 자율성이 있지만 기계에게는 자율성이 없다고 할 수는 없다. 그 점에서 인간의 우위성은 존재하지 않는다. 그러면 인간보다 똑똑한 AI는 가능한가?

메타 사고력이란 사고에 대해 사고하는 능력을 뜻한다. 인간은 AI에 대해 높은 메타 사고력을 가지고 있다. 인간은 AI에 대해 총제적인 사고를 가지고 있다. 체스 프로그램을 설계하고 사진을 분석하도록 만들 수 있다는 말이다. 인간은 범용 AI를 만들 수 있는 능력이 있다. 범용 AI가 만들어지면 그 범용 AI 자신도 AI를 만들 수 있다. 그런 식으로 더욱 똑똑한 AI를 AI 스스로 만들어 낸다면 '지능 폭발형 기술적 특이점'이 일어나는 순간이 오지 않을까.

일반적으로 프로그램이 자신과 똑같은 프로그램을 복제하는 일은 가능하다. 자신을 복제하는 프로그램을 미국의 철학자 윌러드 콰인 Willard van Oman Quine을 기념해 '콰인 프로그램'이라고 한다. 가장 짧은 콰인 프로그램은 '이 글을 복사하라'는 의미의 프로그램이다. AI가 자신보다 조금 더 똑똑한 AI를 만들려면 자신이 만든 AI의 사고 메커니즘을 이해하고 있어야 한다. 이미 만들어진 AI가 만들려고 하는 AI보다 메타 사고력이 높고 동일한 수준 이상으로 똑똑해야 한다. 이것은 불가능해 보이지만 '진화'로 해결할 수 있는 문제다. 

진화과정이 더 복잡하고 똑똑한 생명을 탄생시켰다고 생각할 수 있다. 인간과 같은 높은 지성을 가진 생물이 의도적으로 설계되어 만들어진 것이 아님은 분명하다. 생명이 보다 똑똑한 생명을 낳는다 해도, AI가 보다 똑똑한 AI를 만들 수 없다. 따라서 진화 과정을 시뮬레이션하여 더 지능이 높은 AI를 만들 수 있다는 생각은 전망이 있어 보인다. 

AI가 인간처럼 사고하려면 언어능력과 메타 사고력이 필요하다. AI가 인간과 동일하거나 그 이상의 메타 사고력을 가지려면 범용적인 강화 학습능력과 메타 사고력을 갖추어야 한다. 또한 모든 인간의 사고 패턴을 학습해야 하는 일도 남는다. AI가 원리적으로 인간 이상의 지성을 갖지 못할 것이라고 단언할 수는 없다.

 

인공지능, 사람과 같은 자의식 갖게될까?

 

 

반응형