알고리즘에 인간적인 가치를 반영하고, 효율성을 희생하는 방법-대량살상 수학무기

설마 책 읽을 시간이 없다는 핑계로 이렇게 글을 올리는 건 아니겠지? 강력한 규율과 통제는 어디에 던저버리고 무질서하고 괴팍한 은둔자처럼 지내는 건지 모르겠다. 생활을 단순화 하고 하나의 일에 집중하자. 한 번에 하루씩 살고, 하루에 한 가지 일만 하자. 기사들을 몇 개 참고하고 책은 읽지 않았다. 

WMD-Weaponsof Math Destruction 대량살상 수학무기는 빅데이터 경제의 원동력이 되는 많은 수학모형이 애초에 잘못 설계되었을 때 사회에 던지는 해악을 설명하고 있다. 많은 수학모형이 경제뿐만 아니라 교육, 치안, 노동시장 등 삶의 전반에 개입하고 있다. 무엇보다 수학모형이 사회적 약자와 가난한 사람들을 차별하고 부자를 더욱 부자로 만들어 주는 파괴적인 성격을 가지고 있다. 

이런 결과가 나오는 이유는 애초에 WMD가 가지고 있는 불투명성, 확장성, 피해라는 3가지 특징 때문이다. 또한 효율성을 앞세워 공정성을 희생한다. 호율성과 수익을 목표로 동작하니 정의와 평등을 추구하는 것과는 태생적으로 맞지 않는다. 

결론적으로 효율성은 늘 문제다. 피괴적인 WMD에 맞서 사회가 이익보다 공정성을 우선시하는 방향으로 나가야 한다. 알고리즘에 인간적인 가치를 반영하고, 효율성을 희생하는 방법을 찾아야 한다. 수학모형은 윤리, 정의, 공정성을 지키기 위한 도구이지 우리의 주인은 아니다.

데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다.

『대량살상 수학무기』 결론 중에서

참고한 기사, 서평 사이트 링크를 소개한다.

빅데이터? 흙수저에겐 대량살상무기! http://www.hani.co.kr/arti/culture/book/812041.html

[함께 읽는 정보인권] ‘빅데이터 알고리즘의 두 얼굴’ https://act.jinbo.net/wp/34933/

AI 담론 과잉과 교육의 또다른 역할 http://www.withstories.com/user:10/352/AI-%EB%8B%B4%EB%A1%A0-%EA%B3%BC%EC%9E%89%EA%B3%BC-%EA%B5%90%EC%9C%A1%EC%9D%98-%EB%98%90%EB%8B%A4%EB%A5%B8-%EC%97%AD%ED%95%A0

[책과 삶]‘팍스 알고리즘’이 만드는 위험한 세상 http://news.khan.co.kr/kh_news/khan_art_view.html?art_id=201709221917015

“알고리즘이 불평등 강화할 수도…민주적 통제 나서야” http://www.hani.co.kr/arti/economy/it/868440.html