AI 주도 기업들 안면인식 AI 개발 및 공급 중단 발표

 

 

美, IT공룡들 안면인식 AI 개발 및 공급 중단 발표 

 

IBM, Amazon, MS 등 안면인식 AI 기술과 SW의 사용 및 판매 중단 연달아 발표

IBM: 범용적인 얼굴 인식 및 분석 SW를 더 이상 만들지 않을 것을 선언(2020.6.9.)

 

Amazon: 자사의 안면인식 SW인 레커그니션(Rekognition)의 판매 중단을 선언하고 경찰 등 감시 기관에 1년간 공급하지 않기로 결정(6.10.)

 

Microsoft: 안면인식 AI 기술을 통제할 국가적 법률이 시행될 때까지 경찰기관에 해당 기술을 공급하지 않기로 결정(6.11.) 

 

 

○ 안면인식 AI 기술에 대한 부작용 경계 및 사용 제한 움직임에 대한 대응

현재 美 법 집행 기관이 활용 중인 안면인식 AI 시스템의 정확도와 인종 및 성별에 따른 편견 논란*이 지속적으로 제기

* 美 캘리포니아주의회 의원들 사진을 경찰의 안면인식 AI로 판별한 결과 80명 중 26명이 범죄자로 잘못 판정 되었으며 이중 절반은 유색인종으로 드러나 논란(2019.8.)

안면인식 AI에 의한 감시, 인종 분류, 기본권 및 개인정보 침해 등 충분한 법과 절차적 검토를 거치지 않고 오남용될 위험*에 대한 경각심 확산

* 美 스타트업 Clearview AI는 알고리즘 학습에 활용한 30억 장 이상의 이미지를 사용자 SNS 에서 무단으로 수집, 사용자에 대한 통지나 동의 없이 개인정보를 보유하여 논란(2020.3.)

 

○ 최근 미국에서 발생한 경찰 과잉진압사건을 계기로 안면인식 시스템에 대한 우려 증가*와 논의중인 경찰 개혁 법안에 안면인식 AI 기술의 사용을 제한할 가능성 대두

* 흑인 조지 플로이드의 과잉진압 사망사건의 해당 경찰기관인 미네소타주 미니애폴리스市는 Clearview AI社의 안면인식 시스템을 사용 중 

 

○ AI 기술 발전에 따른 이익과 반작용에 대한 균형 잡힌 시각, 법‧ 제도적 안전 장치, 윤리적인 AI 활용에 대한 지속적 관심이 요구

 

- 안면인식 AI 기술로 인하여 범죄 사건을 보다 쉽고 빠르게 해결하는 등 긍정적인 효과도 있지만, 부작용에 대한 법적 안전 장치를 마련하는 등 균형적 활용 방안 필요

- 국가 주도적으로 안면인식을 포함한 AI기술의 광범위한 활용을 촉진하는 중국과 시민권 및 윤리 문제로 기술 확산에 제동이 걸린 미국의 향후 AI 기술 패권 경쟁 양상이 주목 

 

 

기사참고 

Forbes, “Facial Recognition Bans: What Do They Mean For AI (Artificial Intelligence)?”, 2020.6.13.

CNN, “Facial-recognition technology flagged 26 California lawmakers as criminals. This bill to ban the tech is headed to the Senate”, 2019.8.15.

Fortune, “What is Clearview AI and why is it raising so many privacy red flags?”, 2020.3.3.

Wired, “A Bill in Congress Would Limit Uses of Facial Recognition”, 2020.6.12. 

 

 

http://scimonitors.com/ai-%EC%96%BC%EA%B5%B4%EC%9D%B8%EC%8B%9D-%EC%86%8C%EC%86%A1%E2%80%A7%ED%8C%90%EB%A7%A4%EC%A4%91%EB%8B%A8-%EC%86%8D%EC%B6%9C-%EB%A7%90%EB%BF%90%EC%9D%B8-%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5-%EC%9C%A4-2/