"
이전에 우리는 구글과 페이스북 같은 기업들을 다루어야만 했던 적이 결코 없었기 때문에 구글과 페이스북 같은 기업들에 관해 명료하게 생각하기가 힘들었다. 그런 기업들은 세상에서 새로운 것이고, 그래서 현존하는 법률적 주형 및 문화적 주형에 매끈하게 들어맞지 않는다. 그것들은 매 초당 수백 만 건의 정보 거래를 수행하면서 상상할 수 없는 규모로 작동하기 때문에 우리는 그것들을 방대한 얼굴 없는 무정한 컴퓨터―인간의 의도와 통제 영역 밖에 존재하는 정보 처리 기계―로 간주하는 경향이 있었다. 그것은 잘못된 생각이며, 그리고 위험한 생각이다.
현대의 컴퓨터와 컴퓨터 연결망 덕분에 인간의 판단이 자동화되고, 방대한 규모로 그리고 굉장한 속도로 실행될 수 있게 된다. 그런데 그것은 여전히 인간의 판단이다. 알고리즘들은 사람들에 의해 구성되고, 그래서 그것들은 제작자들의 이해관계, 편견 그리고 결점들을 반영한다. 여러 해 전에 구글의 창립자들이 스스로 지적했듯이, 상업적 이득을 위해 작동되는 정보 집합자는 불가피하게 절충될 것이고, 그래서 항상 의심을 품고 다루어야 한다. 우리의 지적 탐험을 매개하는 검색 엔진의 경우에 그것은 확실히 참이다. 우리의 개인적 연결과 대화를 매개하는 사회적 연결망의 경우에는 훨씬 더 그렇다.
알고리즘은 우리에게 타자들의 이해관계와 편견들을 부가하기 때문에 우리는 그런 알고리즘들을 주의깊게 검토하고 적당한 시기에 적절히 규제할 의무가 있다. 우리는 우리 자신이, 그리고 우리 정보가 어떻게 조작되고 있는지 이해할 권리와 의무가 있다. 그것이 어려운 문제들을 제기하기 떄문에 그런 책임을 회피하거나 무시하는 것은 소수의 사람들―페이스북과 오케이큐피드(OKCupid) 실험들을 수행한 그런 종류의 사람들―에게 그들 마음대로 우리를 가지고 놀 수 있는 권력을 부여하는 것이다.
"