AI로 인간의 사고 능력 저하 유발

 

“AI의 역설…인간 사고력 약화할 수도” 카네기 멜론∙MS 공동 연구

 

카네기 멜론과 마이크로소프트의 연구에 따르면, 생성형 AI 도구를 사용하는 지식 노동자가 효율성을 높일 수는 있지만, 비판적 사고와 문제 해결 능력이 저하될 위험이 있다고 한다.

 

딥러닝 기반의 생성형 AI 도구가 빠르게 도입되고 있지만, 그 사용이 인간의 사고에 어떤 영향을 미치는지에 대한 우려가 제기되고 있다.

 

카네기 멜론과 마이크로소프트가 생성형 AI 도구(챗GPT나 코파일럿 등)를 일주일에 한 번 이상 사용하는 지식 노동자 319명을 대상으로 실시한 조사에 따르면, AI가 효율성을 향상시키는 한편, 비판적 사고를 줄이고 과도한 의존을 초래하며, 시간이 지나면서 문제 해결 능력을 저하시킬 수 있는 것으로 나타났다.

 

연구 결과는 “일상적인 작업을 기계화하고 예외적 처리를 인간에게 맡기면, 인간이 일상적으로 판단력을 연습하고 인지 근육을 강화하는 기회가 사라지고 정작 예외가 발생할 때 인간이 무력하고 준비되지 않은 상태가 된다는 것이 자동화의 아이러니”라고 밝혔다.

 

생성형 AI의 능력에 대한 인간 직원의 신뢰는 대체로 비판적 사고에 대한 노력의 감소와 상관관계가 있다. 비판적 사고의 초점은 정보 수집에서 검증으로, 문제 해결에서 AI 응답 통합으로, 작업 실행에서 작업 감독으로 이동한다. 이번 연구는 생성형 AI 도구가 근로자의 인식, 동기, 능력 장벽을 해결해 비판적 사고를 더 잘 지원할 수 있도록 설계되어야 한다고 제안한다.

 

또한 연구는 생성형 AI가 비판적 사고에 미치는 잠재적 영향과 “인지적 부담 경감”이 해로운지를 구체적으로 조사한다. 인지적 부담 경감, 즉 외부 기기나 과정을 사용해 정신적 노력을 줄이는 과정은 새로운 것이 아니다. 수 세기 동안 사용되어 왔다.

 

예를 들어 단순히 무언가를 적어 두거나, 기억, 문제 해결, 의사 결정 등을 다른 사람에게 맡기는 간단한 행동도 인지적 부담 경감의 한 형태이다. 암산 대신 계산기를 사용하는 것도 마찬가지다.

 

이 논문은 생성형 AI의 인지적 부담 경감이 다양한 직업군 안에서 비판적 사고에 어떤 영향을 미치는지 조사했다. 연구의 초점은 지식 노동자가 생성형 AI 도구를 사용할 때 비판적 사고를 인식하는 시기와 방법, 그리고 비판적 사고에 필요한 노력이 사용 빈도에 따라 달라지는지를 이해하는 데 있었다.

 

연구진은 비판적 사고를 지식, 이해, 적용, 분석, 종합, 평가의 여섯 가지 범주로 분류했다. 또한 유사 연구에서와 마찬가지로 1항목당 5점 척도로 점수를 매겼다.

 

연구에 따르면 지식 노동자는 주로 품질을 보장하고, AI 산출물을 개선하며, AI로 생성된 콘텐츠를 검증하기 위해 비판적 사고에 관여한다. 그러나 시간 압박, 인식 부족, 영역에 대한 생소함은 반성적 사고를 방해할 수 있다.

 

이미지 생성 https://designer.microsoft.com/

 

대학 내 사고 능력의 저하 징후

 

포틀랜드 주립대학교의 마시 공과대학 컴퓨터과학부 교수 데이비드 라포는 6년 동안 학생들의 작문 능력 저하 현상을 발견했다고 말했다.

 

라포 교수는 매년 학생들의 글쓰기 실력이 나빠졌으나 코로나19 기간 동안에는 논문 품질이 점점 좋아지는 것을 발견했다고 말했다. 또한 외부 활동 없이 실내에 머물러야 하는 상황이 긍정적인 영향을 미쳤을지도 모른다며, 아마도 학생들이 논문을 작성하는 데 더 많은 에너지와 노력을 쏟은 결과 의사소통 능력이 향상되었을 가능성을 생각했다고 말했다.

 

라포는 한 학생을 만나 논문에 대해 논의했다. 그러나 줌 회의 도중 학생은 문법적으로 올바른 문장을 만드는 데 어려움을 겪었다. 라포는 학생의 의사소통 능력이 논문의 품질과 일치하지 않는다는 점에서 학생이 직접 논문을 작성한 것인지, 아니면 유료 서비스나 생성형 AI 도구를 사용했는지 의문을 갖기 시작했다. 3년 전의 이 경험으로 라포는 학문적 작업에서 기술의 역할에 대한 관심이 커졌고, 지속적으로 연구하기 시작했다.

 

라포는 생성형 AI를 사용하는 것과 계산기나 인터넷 검색 엔진을 사용하는 것의 차이는 어떤 두뇌 기능이 사용되고 그것이 일상 생활에 어떤 영향을 미치는가에 있다고 말했다.

 

생성형 AI 도구는 언어 및 실행 기능과 관련된 작업을 덜어준다. “사용하지 않으면 잃어버린다”라는 원칙이 적용된다. 글쓰기, 의사소통, 계획, 의사 결정에 두뇌를 사용하면 이러한 능력이 향상된다.

 

라포는 “이러한 작업을 생성형 AI와 다른 도구로 넘기면, 학습과 성장의 기회를 잃게 되고, 심지어는 지금까지 달성한 수준을 유지할 기회조차 잃게 된다”라고 우려했다.

 

AI가 두뇌를 재구성하는 방법

 

기술을 사용하면 보통 두뇌는 새로운 방식으로 생각하도록 재구성된다. IT 분석 업체 제이 골드 어소시에이츠의 수석 애널리스트인 잭 골드에 따르면, 좋은 방식도 있고 그렇지 않은 방식도 있다. 골드는 “아직 정확히 알 수는 없지만, AI가 과거 기술 재구성에서와 같은 역할을 할 가능성이 높다”라고 말했다.

 

에이전트 AI가 보편화되면서 사용자는 에이전트 AI에 문제 해결을 의존하게 될 것이다. 그러나 에이전트 AI가 올바르게 작동하는지 어떻게 알 수 있을까? 사용자는 의문 없이 결과를 받아들일 것이고, 기술에 사고를 맡겨버린 채 기술 개발 가능성을 제한할 수도 있다.

 

마이크로소프트 리서치의 선임 연구원 레프 탱켈레비치는 모든 생성형 AI 사용이 나쁜 것은 아니라고 말했다. 탱켈레비치는 교육 분야에서 생성형 AI가 비판적 사고와 학습 결과를 향상시킬 수 있다는 분명한 증거가 있다고 말했다. 예를 들어, 나이지리아의 초기 연구에 따르면 AI 튜터가 학생들의 학습 진도를 2년치만큼 향상시킬 수 있다고 한다. 또 다른 연구에 따르면 AI의 지원을 받는 튜터와 함께 공부하는 학생들은 핵심 주제를 마스터할 가능성이 4% 더 높았다.”

 

탱켈레비치는 교사 주도형 교육이 핵심이라고 말했다. 교육자가 수업을 안내하고 맥락을 설명하면 AI와 협력해 어떻게 실제 학습 결과를 이끌어낼 수 있다는 것이다.

 

카네기 멜론/마이크로소프트의 연구는 생성형 AI 도구 사용이 지식 노동자의 비판적 사고 능력을바꾸는 방식을 3가지 제시했다. 정보 수집에서 검증으로, 문제 해결에서 AI 응답 통합으로, 작업 실행에서 작업 관리로 변화시킨다는 것이다.

 

생성형 AI는 정보 수집과 같은 작업을 자동화하는 동시에 AI가 생성한 콘텐츠를 평가하고 정확성을 보장하는 등 새로운 인지적 작업을 도입한다. 이러한 변화는 작업자의 역할을 연구에서 결과 감독으로 바꾸고, 품질에 대한 책임은 여전히 인간에게 있다.

 

베일러 대학교 컴퓨터 공학 조교수 파블로 리바스는 “기계가 내놓은 결과물이 확인되지 않은 채로 방치된다면, 문제 해결 능력을 연마하는 힘든 정신적 노력이 생략될 위험이 있다. AI가 인간의 지능을 약화시킬 필요는 없다”라고 말했다.

 

리바스는 “개개인이 호기심을 유지하고 현실 점검을 한다면 생산성을 높일 수 있다. 한 가지 간단한 방법은 외부 자료나 도메인 지식을 통해 AI의 제안을 검증하는 것이다. 또 다른 방법은 AI의 결과가 옳다고 가정하기보다는 그 이면에 있는 추론을 반영하는 것이다. 건강한 회의주의와 체계적 감독을 통해 생성형 AI는 인간 스스로 생각하는 능력을 훼손하지 않으면서 생산성을 높일 수 있다”라고 제안했다.

 

생성형 AI를 올바르게 사용하는 방법

 

기업이 인력을 교육할 때 비판적 사고를 지원하려면 정보 검증, 반응 통합, 작업 관리에 중점을 두면서 AI에 대한 과도한 의존을 피하기 위한 기초 기술을 유지해야 한다. 이번 연구는 자기 보고의 잠재적 편향과 같은 몇 가지 한계와 언어 및 문화 간 관점을 고려한 향후 연구의 필요성, AI 사용 및 비판적 사고의 변화를 추적하기 위한 장기 연구의 필요성을 강조한다.

 

생성형 AI가 인지 능력에 미치는 영향에 대한 연구는 비판적 사고를 촉진하는 도구를 설계하는 데 핵심적인 요소이다. 심층 추론 모델은 AI 프로세스를 더 투명하게 바꾸고 사용자가 더 잘 검토하고 질문하며 통찰력에서 배울 수 있도록 지원한다.

 

탱켈레비치는 “모든 연구에서 공통적인 주제가 있다. AI는 인간이 하는 일을 보완하는 사고 파트너로서 가장 잘 작동한다. AI가 인간에게 도전할 때, 단지 생산성을 향상시키는 것이 아니라 더 나은 결정과 더 강력한 결과를 이끌어 낼 것”이라고 설명했다.

 

2023년 6월 미국 연구원 엘리자베스 드워락, 윌리엄 리벨, 데이비드 콘돈이 발표한 논문에 따르면, 미국의 언어 추론 및 문제 해결 능력은 꾸준히 감소하고 있다. 20세기 초부터 꾸준히 증가해 왔고, 2012년까지는 매년 약 0.3점씩 상승하는 추세였던 IQ 점수는 2023년 노스웨스턴 대학의 연구에서는 세 가지 주요 카테고리 내 감소 추세를 보였다.

 

골드에 따르면 모든 기술은 다양한 방식으로 인간 능력에 영향을 미친다. 예를 들어, 문자 메시지는 적절한 문장을 쓰는 능력을 약화시키고, 계산기는 긴 나눗셈과 곱셈 능력을 감소시키며, 소셜 미디어는 의사소통에 영향을 미치고, 타이핑에 집중하면 필기체와 서명 기술을 소홀히 하게 된다고 지적했다.

 

골드는 구글 검색이 큰 영향을 미친 것처럼, 인공지능도 문제 해결 방식에 영향을 미칠 것이라고 말했다. 구글이 등장하기 전에는 새로운 아이디어를 떠올리기 위해 직접 도서관에 가서 여러 자료를 읽어야 했다. 그러려면 아이디어를 처리하고 의견을 형성하는 두뇌 활동이 필요했다. 골드는 “이제는 구글 검색 결과에 나오는 것이 사람들이 인식하는 전부다. 인공지능도 마찬가지 역할을 수행할 것이다. 단지 속도가 더 빨라질 뿐”이라고 경고했다. 

 

기사 전문을 참고하세요.