페이페이 리, AI는 변곡점에 있다고 말하다

 

 

인공 지능

 

페이페이 리, AI는 변곡점에 있다고 말하다

 

유명한 AI 연구원이 이 분야가 앞으로 겪을 어려운 문제에 대한 생각을 공유합니다.

 

Melissa Heikkilä 작성 보관 페이지 2023년 11월 14일

 

여러 개의 빨간색 로봇 팔 앞에 선 페이페이 리 제공 사진

 

이 기사는 원래 AI에 대한 주간 뉴스레터인 The Algorithm에 실렸습니다. 이와 같은 기사를 먼저 받은 편지함으로 받아보려면 여기에서 가입하세요.

 

페이페이 리는 최근에 "AI의 이 순간은 변곡점입니다."라고 말했습니다. 리는 스탠포드 인간 중심 AI 연구소의 공동 책임자이자 우리 시대의 가장 저명한 컴퓨터 과학 연구원 중 한 명입니다. 그녀는 연구자들이 현대 AI 시스템을 훈련하는 데 중요한 역할을 한 인기 있는 이미지 데이터 세트인 ImageNet을 만든 것으로 가장 잘 알려져 있습니다.

 

리는 두 가지 일이 일어났다고 설명합니다. 생성적 AI는 대중이 AI 기술에 눈을 뜨게 했다고 그녀는 말합니다. 그 이유는 사람들이 직접 시도해 볼 수 있는 ChatGPT와 같은 구체적인 도구의 배후에 있기 때문입니다. 그 결과, 기업들은 텍스트 생성과 같은 AI 기술이 수익을 낼 수 있다는 것을 깨달았고, 이러한 기술을 현실 세계에 더 많은 제품에 적용하기 시작했습니다. "그로 인해 우리 세상에 더 큰 영향을 미칩니다."라고 Li는 말합니다.

 

Li는 세계가 직면한 가장 큰 질문과 가장 어려운 문제를 다루는 최신 MIT Technology Review 호를 위해 인터뷰한 기술 리더 중 한 명입니다. 우리는 해당 분야의 거장들에게 기술과 사회의 교차점에서 소외된 문제에 대해 의견을 물었습니다. Bill Gates, Yoshua Bengio, Andrew Ng, Joelle Pineau, Emily Bender, Meredith Broussard와 같은 다른 기술 거물과 AI 거물들이 여기에서 말한 내용을 읽어보세요.

 

최근 출간된 회고록, The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI에서 Li는 빈곤 속에서 사는 이민자에서 오늘날의 AI 거물로 성장한 과정을 이야기합니다. 이민자들이 꿈을 이루기 위해 치러야 하는 희생에 대한 감동적인 이야기이며, 인공지능 연구가 어떻게 유명해졌는지에 대한 내부자의 이야기입니다.

 

우리가 이야기를 나누었을 때, Li는 AI의 미래와 이 분야가 앞으로 겪을 어려운 문제에 눈을 크게 뜨고 있다고 말했습니다.

 

대화에서 몇 가지 중요한 내용을 소개합니다.

 

그녀가 일부 AI "대부"와 AI의 재앙적 위험에 대해 의견이 다른 이유: Geoffrey Hinton, Yann LeCun, Yoshua Bengio와 같은 다른 AI 거물들은 AI 시스템의 위험과 기술을 안전하게 관리하는 방법에 대해 공개적으로 논쟁을 벌여 왔습니다. 특히 Hinton은 AI가 인류에게 실존적 위험을 초래할 수 있다는 우려를 공개적으로 표명했습니다. Li는 그렇게 확신하지 못합니다. "저는 그것을 절대적으로 존중합니다. 저는 지적으로 이 모든 것에 대해 이야기해야 한다고 생각합니다. 하지만 AI 리더로서 저에게 묻는다면... 저는 사회에 더 시급하고 긴급한 다른 위험들이 있다고 생각합니다." 그녀는 말합니다. 리는 허위 정보, 노동력 혼란, 편견, 개인정보 침해와 같은 실용적이고 "고무가 도로를 만나는" 문제를 강조합니다.

 

어려운 문제: 리가 우려하는 또 다른 주요 AI 위험은 공공 부문의 과학 및 기술 연구에 대한 투자를 희생시키면서 기술 산업의 점점 더 집중되는 권력과 지배력입니다. "AI는 너무 비쌉니다. 하나의 대형 모델에 수억 달러가 들기 때문에 학계에서는 불가능합니다. 그러면 과학은 공공의 이익을 위해 어디에 있을까요? 아니면 고객 외의 다양한 목소리가 있을까요? 미국은 AI에서 달 착륙 순간이 필요하고 국가 AI 연구 자원과 CERN과 유사한 연구소를 포함하여 공공 부문 연구와 컴퓨팅 역량에 상당한 투자를 해야 합니다. 저는 AI가 인간의 상태에 도움이 될 것이라고 굳게 믿지만, AI 분야에서 미국의 리더십을 보장하기 위한 조정된 노력 없이는 불가능합니다." 그녀는 우리에게 말했습니다.

 

ImageNet의 결함: 리가 만든 ImageNet은 편향적이고 안전하지 않거나 해로운 사진을 포함하고 있다는 비판을 받았으며, 이는 AI 시스템에서 편향과 해로운 결과를 초래합니다. 리는 데이터베이스가 완벽하지 않다는 것을 인정합니다. 그녀는 "ImageNet의 불완전성을 지적하고 공정성 문제를 지적하려면 사람들이 필요합니다. 이것이 다양한 목소리가 필요한 이유입니다."라고 말합니다. "기술을 개선하려면 마을이 필요합니다."

 

저작권과 데이터: 비평가들은 인터넷에서 데이터를 수집하여 데이터 세트를 만드는 현재의 관행이 편향과 저작권 및 개인 정보 침해를 비롯한 여러 문제로 이어진다고 말합니다. 리는 AI 커뮤니티가 이 문제를 살펴봐야 한다고 말합니다. 그녀는 "데이터의 역할에 대한 우리의 집단적 이해는 2009년에 처음으로 데이터의 중요성을 지적했을 때와 비교하면 지금 훨씬 더 정교해졌습니다."라고 말하며 AI 커뮤니티는 과거의 실수로부터 계속 발전하고 학습해야 한다고 덧붙였습니다.

 

AI에 관심이 있는 모든 사람을 위한 팁: "어디에서 왔든, 어떤 배경을 가지고 있든, 이 분야에 열정이 있다면 [AI에] 자리가 있습니다." 그녀는 말합니다. 그녀는 다양한 배경을 가진 사람들이 미디어가 묘사하는 분야, 즉 매우 창백하고 남성적인 방식을 무시해야 한다고 말합니다.

 

젊은 기술자들에게 전하는 그녀의 메시지는 무엇일까요? "수학은 깨끗하지만, 기술의 사회적 영향은 지저분합니다. 그 지저분함을 인식하세요. 우리가 만드는 것은 긍정적이고 부정적인 영향을 모두 미치기 때문입니다."

 

가기 전에 한 가지 더 말씀드리겠습니다... 이번 주 MIT Technology Review에서 우리의 주력 EmTech 이벤트를 개최합니다. 이 이벤트에서 우리는 AI와 다른 첨단 기술이 앞으로 어디로 갈지 살펴볼 것입니다.

 

2023년 11월 14-15일에 MIT 캠퍼스와 온라인에서 함께하세요. The Algorithm 구독자는 티켓에 대해 30% 할인 혜택을 받습니다! 여기에 코드 THAGTH23EM을 입력하세요.

 

심층 학습

 

소음 제거 헤드폰으로 듣고 싶은 소리를 골라 선택할 수 있습니다.

 

이 기술의 미래 버전은 사용자가 아기 울음소리, 새 지저귐, 알람 울림 등 듣고 싶은 특정 소리를 다시 선택할 수 있도록 할 수 있습니다. 이를 가능하게 하는 의미적 청각이라는 기술을 사용하면 착용자는 일부 소리를 걸러내고 다른 소리는 증폭할 수 있습니다.

 

작동 방식: 아직 프로토타입 단계인 이 시스템은 기성품 소음 제거 헤드폰을 스마트폰 앱에 연결합니다. 소음을 제거하는 데 사용되는 이 헤드폰에 내장된 마이크는 착용자 주변 세계의 소리를 감지하도록 재활용됩니다.

 

전반적인 그림: 연구자들은 오랫동안 "칵테일 파티 문제"를 해결하려고 노력했습니다. 즉, 사람이 할 수 있듯이 붐비는 방에서 컴퓨터가 단일 음성에 집중하도록 하는 것입니다. 이 새로운 방법은 상당한 진전을 나타내며 기술의 잠재력을 보여줍니다. 예를 들어, 더 스마트한 보청기와 이어폰의 길을 열 수 있습니다. Rhiannon WIlliams의 글을 더 읽어보세요.

 

비트와 바이트

 

우주에서 우리만 존재하는 걸까요?

 

우리는 우리와 같은 세상이 실제로 얼마나 흔한지 알아내는 데 그 어느 때보다 더 가까이 다가가고 있습니다. 머신 러닝과 인공 지능을 포함한 새로운 도구는 과학자들이 생명을 구성하는 것에 대한 선입견을 넘어보는 데 도움이 될 수 있습니다. (MIT Technology Review)

 

Amazon과 Musk가 AI 언어 모델 열풍에 합류했습니다.

 

ChatGPT는 전 세계를 놀라게 했고 약 1년 전 Big Tech의 AI 군비 경쟁을 시작했습니다. 새로운 참여자들이 여전히 경쟁에 합류하고 있으며, 자신들이 두각을 나타내는 데 도움이 될 모델을 가지고 있습니다. Amazon은 코드명 Olympus인 자체 ChatGPT 경쟁자를 개발 중이라고 합니다. 이는 지금까지 훈련된 가장 큰 모델 중 하나가 될 것입니다. 한편, 일론 머스크의 새로운 AI 벤처 기업인 xAI는 Grok이라는 AI 모델의 파일럿을 선보였습니다. 이 모델은 X의 데이터로 훈련되었으며, "약간의 재치"와 "반항적인 기질"로 질문에 답하도록 설계되었습니다. 무슨 뜻이든 말입니다.

 

생성 AI가 Google 검색을 이상하게 만들었습니다.

 

AI가 생성한 텍스트가 인터넷을 오염시키고 있습니다. 언어 모델에서 생성된 말도 안 되는 내용이 온라인 검색 결과에 스크랩되어 Google 검색이 명확하고 접근 가능한 사실에 대한 가장 신뢰할 수 없는 검색이 되었습니다. (The Atlantic)

 

이 AI 핀이 스마트폰을 죽일 수 있을까요?

 

실리콘 밸리는 신생 기업 Humane이 만든 AI 옷깃 핀에 대해 화제를 모으고 있습니다. 699달러짜리 이 기기는 옷에 자석으로 고정되고 카메라와 센서를 사용하여 주변 환경을 기록합니다. 사람들이 음성으로 제어할 수 있고, 핀이 사람들의 손바닥에 정보를 투사한다는 아이디어입니다. 이 시스템은 AI 모델을 사용하여 질문에 답하고 정보를 요약합니다. 음성 제어 기능이 가장 잠깐 멈추게 합니다. 저는 조용히 둠 스크롤을 하는 걸 좋아합니다. 

 

기사 소스