착각하고, 어리석고, 비효율적이고, 악하게 행동하는 다섯 가지 방법
AI의 창시자 중 한 명인 Yann LeCun은 최근 인간의 어리석음과 악의를 설명하는 글을 썼다. 요약하면... 그는 인간이 종종 착각하고, 어리석고, 무능하거나, 심지어 악하게 행동하는 이유를 인공지능 시스템의 실패 구조와 연결해 설명한다. 인간의 인식과 기억, 세계를 이해하는 모델, 목표 설정, 윤리적 판단이 서로 맞물려 행동을 결정한다는 점에서, 인간도 결국 하나의 판단 시스템이라는 것이다. 그가 제시한 실패의 원인은 다섯 가지다. 1. 잘못된 지각 – 세상을 잘못 봤거나, 기억이 틀렸다. 2. 잘못된 세계 모델 – 원인과 결과를 잘못 연결했다. 3. 비효율적 전략 – 옳은 길을 알면서도 엉뚱한 길을 택했다. 4. 그릇된 목표 설정 – 본질이 아니라 욕망을 따라갔다. 5. 결함 있는 윤리 기준 –..
