사물인터넷과 인공지능에 필요한 도덕적인 행위방식 What ethics for IoT and artificial intelligence?

사물인터넷과 인공지능에 필요한 도덕적인 행위방식

What ethics for IoT and artificial intelligence?

사물인터넷(IoT, Internet of Things)과 인공지능(AI, Artificial Intelligence) 기술의 발전은 우리가 어떻게 도덕적으로 행동할지에 대한 이슈도 고민하게 한다. 2016년 10월 26일 열린 사물인터넷에 대한 세계 컨퍼런스에서는 데이터의 윤리적 사용(ethical uses of data)과 관련된 주요 이슈에 대해 아래와 같은 논의가 이루어졌다.

1. 개인들이 자신들의 프라이버시에 대해 우려하고 있다.

수년 내에 우리가 소유하는 것은 아무것도 없게 될 것이다. 차, 주택, 일과 중 우리가 이용하는 것은 무엇이든 서비스로(as a service)로 이용될 것이다. 이러한 맥락에서 개인에게 속하는 유일한 자산은 자신의 디지털 아이덴티티(digital identity)가 될 것이다. 그 결과, 사람들이 점차 자신들의 프라이버시에 대해 더욱 신경 쓰리라는 것은 당연한 것이다. 프라이버시 컴플라이언스가 자신들의 비즈니스에 부담이 되는 것을 피하기 위해 기업들은 자신들의 고객들을 “교육(educate)”시킬 것이다. 이를 통해 컴플라이언스를 오히려 자신들의 경쟁 우위로 삼을 수 있다.

2. 컴플라이언스가 더 이상 사물인터넷과 인공지능에 충분치 않을 것이다.

사물인터넷과 인공지능, 그리고 다른 기술에서도 보안대책의 표준이 이루어질 필요가 있다. 투자를 증진시키기 위해서는 좀 더 높은 수준의 확실성이 필요하다. 사물인터넷 기술의 발전은 공급자와 고객 사이의 신뢰 관계를 수립하는 것을 선결과제로 한다.

어떠한 소프트웨어도 100% 안전한 것은 아니다. 그러나 의무를 이행하는데 필요한 것을 이행하는데 기업이 노력하는 것은 잠재적 데이터 유출사고에 신속히 대응하는 능력을 포함하여 고객을 확보하고 위급한 상황에서 고객을 잃을 위험을 피하는데 반드시 필요하다.

컴플라이언스 인증은 특히 유럽연합의 일반 데이터보호규정(EU GDPR, General Data Protection Regulation)이 시행에 들어가 새로운 벌금 조항이 시행되면 반드시 시행(must-have)해야 한다.

3. 기계는 이성적이 아닌, 윤리적으로 행동할 필요가 있다.

자율 자동차 등과 같은 인공지능 시스템과 이들을 대상으로 윤리적 행동에 대해 교육을 시행해야 하는지 많은 논의가 진행되고 있다. 가장 많이 드는 사례로 많은 아이를 태운 버스에 충돌하는 자율 자동차가 도로에 있는 것이 통계적으로 가장 합리적인 선택이라는 이유로 도로에 머무는 것이다.

이 시나리오에서, 운전자가 사고에 따른 과실을 자동차 제조업체에게 요구할 수 있는가에 대한 문제가 대두된다. 이 경우 자동차가 왜 그러한 특정 행동이 가장 적절한 행동으로 여겼는지에 대해 증명할 필요가 있다. 인공지능 시스템의 경우도 충분히 논리를 파악하여 이해하는 데는 너무 복잡할 수 있다.

대응방안은 아래와 같다.

o 인공지능 시스템을 디자인할 때 추적 가능하고 그 행위를 정당화할 수 있도록 할 것. 이는 개인정보를 처리할 때 매우 중요하며, 특히 유럽연합의 프라이버시 규정을 적용할 때 더욱 그러하다.

o 사물인터넷 혹은 인공지능 시스템이 윤리적인 행위를 취할 수 있도록 설계된 것을 소비자들에게 인식시킬 것. 이는 무엇이 윤리적인지 아닌지 정의하는 것을 필요로 한다.

o 윤리적인 행위를 소비자들이 취하도록 “전도(evangelize)” 할 것.

필자 의견: 사물인터넷과 인공지능 시대에 접어들면서 기계가 인간을 대신하여 행동할 때 대두되는 윤리적 행위에 대한 진지한 검토와 기준을 마련할 필요가 있다.

관련연구자: Giulio Coraggio

관련기관: technologys legal edge

과학기술분류: 정보/통신

본문키워드(한글): 사물인터넷, 인공지능, 윤리적 행우

본문키워드(영문): IoT, AI, Ethical behavior

원문언어: 영어

국가: 영국

원문출판일: 2016-11-30

※ 출처: What ethics for IoT and artificial intelligence?  http://www.gamingtechlaw.com/2016/11/ethics-iot-artificial-intelligence.html

번역출처: 코센 리포트 http://www.kosen21.org/info/globalNews/globalNewsList.do