본문 바로가기

개발자의 서재

생각을 빼앗긴 세계, 우리의 생각을 조종하는 GAFA*

 

*테크 대기업 GAFA(Google, Apple, Facebook, Amazone)를 의미한다. 이 네 개의 기업은 현재 인간이 가진 개별성을 보호하는 원칙들을 무너뜨리고 있다. 개인정보를 보호하지 않고, 지적재산권에 적대적인 태도를 취하며, 저작권의 가치를 무시하고, 경쟁을 혐오하며 독점을 정당화한다. 이들은 개인주의 (개인성, Individualism)의 핵심을 이루는 자유의지를 자동화하려고 한다. 그들의 알고리즘은 인간을 정해진 경로를 통해 살아가는 통제를 제안이라든가 편의성과 선택을 돕는 다고 위장한다.  

 

거대 테크기업들이 인간의 생각을 조종하고 있다. 가장 강력한 증거가 바로 당신의 '체념'과 '순응'이 당신을 지배하고 있다는 사실이다. 거대 테크기업의 서비스 -관계 맺기, facebook, 쇼핑, 음악, SNS-에 매몰되어 있는 자신을 바라본다. 어쩔 수 없으니 이왕이면 더 잘 사용하고, 주의 깊게 선별하고, 각종 방어막을 치자고 생각하는 체념이 바로 당신이다. 좋은 말로 자신의 선택이라고 믿고 싶지만 순응하는 자신을 바라보는 기분은 좋지 않다. 당신이 인정하든 안 하든 구체적이고 명백한 사실이다.

실리콘밸리는 독점의 추구를 인권이나 연결, 문제해결과 같은 고상한 단어로 포장한다. 실리콘 밸리의 독점에 대한 열망은 가장 낭만적으로 평화와 사랑을 전망했던 1960년대 반문화(counterculture)에서 시작한다. 컴퓨팅과 네트워크 분야에서 혁신이 일어날 때마다 테크기업이 들고 나온 두 가지는 기술과 네트워크 공유다.

구글은 뇌를 완전한 지능을 갖춘 인공두뇌를 인간과 연결하고, 인간의 수명을 극한으로 늘리는 작업을 하고 있다. 쉽게 말해서 구글은 인류의 미래를 재편하려고 한다. 다윈이 말한 진화의 방향을 바꾸려 한다. 인간이 가진 편견에 구애받지 않는 인공두뇌가 인류의 불평등과 지적 한계, 모든 결핍을 해결해 주리라 믿고 있다. 구글은 드디어 육체의 감옥에서 정신을 해방시키고자 했던 데카르트의 꿈을 실현하려고 한다. 구글은 이런 방향이 자연스러운 진화라고 강제로 믿게 한다. 진화에 저항하는 개체는 결국 사멸하게 되어있다. 

페이스북은 개인의 수많은 데이터를 확보하여 데이터 과학에 기반한 정교한 알고리즘을 기반으로 인간을 예측가능한 존재로 만들고 있다. 문제를 해결하는 일정한 절차를 의미하는 알고리즘을 정교하게 만들어 우리가 이해할 수 없는 기계를 만들고 있다. 알고리즘은 우리 눈에 보이지 않지만 멀리 떨어진 기계와 상호작용 한다는 느낌을 받는다. 페이스북의 알고리즘은 베일에 쌓인 존재다. 페이스북의 알고리즘은 10만 개가 넘는 '시그널'을 사용해 사용자가 무엇을 볼지를 결정한다. 수많은 심리적 행동을 비밀리에 실험하며 모든 사람의 행동을 짐작하고, 경향을 바꾸고, 조종한다.

지식의 파괴자 아마존은 다른 기업과 마찬가지로 사람이 지식과 정보에 접근하는 주요 관문이다. 새롭게 등장한 지식독점 기업들의 핵심은 지식을 생산하는 게 아니라, 광범위한 지식을 거르고 정리해주는 데 있다. 우리는 소수의 지식 독점기업이 원하는 방식으로 지식을 얻고, 무엇을 건너 뛰어야 하는지 받아들이고, 정보의 승자와 패자를 정해진 대로 받아들인다. 

- 실리콘밸리의 테크기업들은 세상을 공정하고, 투명하고, 민주적으로 만드는 게 공헌한다고 하지만 자신들에게는 절대 그렇지 않다. 사람들은 무의식적으로 조종하는 테크기업들의 정교한 행위를 용인하고 있다. 정부자도 더욱 힘을 쓸 수 없는 지경으로 몰고 간다.

- 민주주의에 전혀 관심이 없는 기업들이 우리의 민주주의에서 지나치게 큰 역할을 차지하고 있다는 것이 바로 인류가 직면한 문제다.    

- 알고리즘은 기술 언어가 아니라 테크기업의 언어다. 테크기업은 인간이 사회적인 존재이고 집단적으로 존재하도록 태어났다고 믿는다. 그래서 세계 모든 사람을 연결하면 문제를 치유할 수 있을 것이라고 여긴다. 실리콘 밸리의 기업은 천재와 독창성을 부정하고, 집단화된 개방형 정보를 우선시하여 지적재산권에 적대적인 태도를 취한다. 인류가 위대한 목표를 추구하는 것을 경쟁이 방해한다는 논리로 방대한 데이터 독점을 정당화한다. 개인에게 일어나는 수많은 일상적인 선택을 자동화하고 있다. 개인의 동의하에 수집한 취향 정보로 어떤 뉴스를 읽을지, 음악을 듣고, 무얼 살지, 어떤 경로로 이동하며, 무엇을 먹고, 어떤 친구를 사귈지를 알고리즘을 통해 그들의 생각을 제시한다.

- 사람들이 하는 생각을 자유의지에 따라 자신이 스스로 했다고 생각하는 것은 전적으로 잘못된 생각이다. 테크기업들이 의도하는 방향에 따라 생각하도록 만들어진 것이다. 좋아요와 클릭수에 기반한 그래프를 신봉하는 테크기업들에 수많은 인류의 사상과 문화가 점령당하고 사라지고 있다. 

- 우리의 생각에 기반한 선택이라는 행위도 당연히 우리가 스스로 한 선택이 아니다. 실제로 GateKeeper 역할을 암암리에 실행하는 거대 테크기업들에 개인 차원에서 저항하는 것은 '이제는' 불가능하다.

- 거대 테크기업(구글, 아마존, 페이스북, 애플)은 사람의 생각을 전적으로 통제하고, 원하는 방향으로 몰아갈 준비가 되어 있고 여전히 시도하고 있다. 테크기업들은 올바른 사고를 하도록 도와주는 선한 자선사업가가 아니다.

-  테크기업들이 무료로 제공하는 편의와 난잡한 정보에 기대어 우리 영혼의 청사진을 팔고 있는 자신을 곱씹어볼 필요가 있다. 개개인이 가진 고유의 장점들을 테크기업이 마음대로 편집하도록 할 근거도 권리도 없다. 우리가 세상을 보는 방법을 뜯어고치는 작업을 멈추게 하는 방법은 '아직까지는' 스스로 노력해야 한다.

- 지금 시대에 사람은 두 부류다. 개인의 선택적 권리와 사고, 프라이버시가 침해당하고 있다고 생각하는 사람이 한 부류고, 침해당해도 상관없다는 부류가 다른 하나다.

- '좋아요' 표시를 없애는 이유는 위화감과 전파되는 속도를 줄이는 게 아니라, 사람들을 순응하게 만드는 메시지가 더 멀리, 빠르게 퍼뜨리기 위한 교묘한 위장에 다름 아니다. 테크기업은 사람들의 생각과 행동을 통제하기 위한 모든 알고리즘을 사람들에게 감추고 싶어하는 지속적인 강한 욕망을 가지고 있다.  

- 우리의 일상생활과 습관을 패턴화 하고, 분류하고, 규정하고, 몰아가는 테크기업의 열망에 의식적으로 맞서야 한다. 개인에 대한 데이터의 방대한 축적은 다름 아닌 사람의 모습을 가장 완벽하게 묘사한 초상화를 대량으로 수집해서 저장하고 있다는 말이다. 정보와 데이터와 미디어의 독점에서 벗어나기 위해 우리는 다시 종이책을 들고 혼자만의 사색의 시간에 빠져드는 즐거움을 갈구해야 한다. -見河-