구글의 검색 알고리듬, 민주주의를 위협하다
어느 일요일 밤에 저는 하지 말았어야 할 일을 하고 말았습니다. 무언가를 찾아보려다가 구글 검색창에 그만 “유대인은(are jews)”이라고 써넣고 말았죠. 구글이 검색어 자동완성 기능을 선보인 건 2008년의 일입니다. 먼저 써넣은 키워드를 토대로 당신이 어떤 것을 궁금해할지 예측한 뒤 그를 토대로 검색어를 완성해주는 기능이죠. ‘유대인은’까지 쓴 제게 구글이 제시한 몇 가지 후보는 다음과 같았습니다. “유대인은 인종인가? (are jews a race?)”, “유대인은 백인인가? (are jews white?)”, “유대인은 기독교를 믿나? (are jews christians?)”, “유대인은 사악한가? (are jews evil?)” 잠깐, 사악하다고요? 그렇습니다. 구글이 버젓이 뒷부분에 제가 궁금해할 거로 예측한 자동완성 검색어 가운데는 유대인이 사악한 이들인지 아닌지를 묻는 말도 있었습니다.
(이 칼럼이 나가고 난 뒤 구글은 재빨리 해당 검색어 자동완성 문구를 삭제했습니다. 지금은 are jews까지 쳐도 해당 내용은 나오지 않습니다)
이 질문은 당연히 제가 찾고자 하던 것과는 거리가 멀었습니다. 그렇지만 어떤 이유에서인지 검색어 자동완성 기능에 따라 거기에 버젓이 있었죠. 도대체 저런 검색어를 입력하면 무슨 이야기가 검색 결과로 나올지 궁금해 엔터를 눌러봤습니다. 구글이 내놓은 질문에 구글이 찾아준 답변이 검색 결과 항목 아래 쭉 소개됐습니다. 이미 답을 상정하고 던진 질문이라 그런지 내용을 한마디로 정리하면 유대인은 정말로 사악하다는 내용이었습니다. 검색 결과 최상위에 첫 번째로 소개된 리스토바티브(Listovative)라는 웹사이트에 실린 글의 제목은 “사람들이 유대인을 싫어하는 10가지 이유”였습니다. 그 글을 클릭했습니다. 글에는 다음과 같은 내용이 적혀 있었습니다.
마케팅, 군산복합체, 의료 산업, 첨단 기술, 언론, 산업, 영화, 엔터테인먼트 등 모든 분야를 장악하고 있는 유대인들이 잇달아 엄청난 성공을 거두고 있어 이들을 향한 전 세계의 시기와 미움이 계속되고 있다. 유럽 전역에 억압을 불러일으키는 등 유대인이 저지른 부끄러운 과거를 생각하면 더욱 그렇다.
검색 엔진으로 시작한 서비스이자 대기업인 구글을 이제 사람들은 동사로도 씁니다. 구글하다는 말은 인터넷으로 무언가를 찾아 보다는 말과 동의어가 된 지 오래입니다. 지금도 초당 6만3천 번, 하루에 55억 번의 검색이 구글에서 이뤄집니다. 구글의 모토는 “세상의 정보를 체계적으로 모으고 정리해 모두가 이를 편리하게 이용할 수 있도록 하는 것”입니다. 인터넷이라는 말조차 생소하던 시절 회사가 걸음마를 뗐을 때부터 변치 않은 저 모토에 따라 구글은 원칙적으로 검색하는 사람이 궁금해하는 바로 그 내용을 가장 관련 있는 것부터 최적화해서 보여줍니다.
그런 구글이 “are jews”의 검색어에 자동완성 기능으로 완성한 내용을 검색한 결과 세 번째로 관련성이 큰 내용이라고 소개한 글은 네오나치 웹사이트인 스톰프론트(stormfront.org)에 실린 글이었습니다. 다섯 번째는 “왜 유대인은 사악한가. 왜 우리는 이 악마들에 맞서는가.”라는 제목의 유튜브 동영상, 여섯 번째는 야후의 지식 검색 같은 문답 코너에 달린 답변으로 “왜 유대인은 이토록 극악무도한가?”에 대한 질문의 답이었습니다. 예수님은 구세주(jesus-is-saviour.com)라는 사이트에 소개된 글 “유대교는 사탄의 종교!”라는 제목의 글은 열 번째로 검색이 됐습니다. 검색 결과 첫 페이지에 뜬 열 개 글이나 기사 가운데 유일하게 다른 관점에 서 있는 글은 유대인 잡지 사이트 태블릿매거진(thetabletmag.com)에 실린 학술 서평이었는데, 그마저도 글의 제목은 사실과 달랐습니다. “왜 세상 모든 사람은 유대인을 미워하나?”
처음에는 제가 진짜 선악과 흑백이 뒤바뀌고 모든 것이 정반대인 딴 세상에 와 있는 게 아닌가 착각이 들 정도였습니다. 그러다 이내 방금 제가 맞닥뜨린 것이 2016년 현재 우리가 사는 세상을 여과 없이 보여주는 단면이라는 생각과 함께 이런 상황을 키워낸 토양을 발견한 것 같다는 생각이 들었습니다. 사실 이는 컴퓨터 자판 몇 번만 두드리면 언제든 우리 앞에 모습을 드러내던 것들입니다. 나치의 비밀 조직처럼 음지에서만 활동하는 미지의 대상이 아니라 사실상 우리 곁에 항상 있던 것들이라는 말입니다.
미국 대선 이후 페이스북에서 뉴스의 탈을 쓰고 거짓을 사실인 양 퍼뜨리는 콘텐츠에 대한 규제가 이슈로 떠올랐습니다. 제가 일요일 밤 마주했던 건 어쩌면 이보다도 더욱 무시무시하고 곳곳에 이미 뿌리를 내린 문제일지도 모릅니다. 매릴랜드대학교 법대의 프랭크 파스퀘일 교수는 테크 기업들에 투명한 정보 공개를 요구해 왔습니다. 파스퀘일 교수는 검색어 자동완성 기능으로 제가 겪었듯 생각지도 못한 내용의 글이 사람들에게 노출되는 것이 “심각하게 우려된다”고 말했습니다.
파스퀘일 교수는 이미 10년 전에 비슷한 경험을 한 뒤 이 문제를 제기한 적이 있습니다.
“구글에 유대인을 뜻하는 “Jew”라는 단어를 검색하면 가장 먼저 나오는 검색 결과 가운데 jewwatch.org라는 웹사이트가 있습니다. ‘망할 유대인들이 당신의 삶을 망쳐놓지 않는지 감시하는 단체’라고 버젓이 설립 목적을 써놓은 이런 웹사이트가 검색 결과 상위에 등장한다는 사실에 반 명예훼손 연맹(Anti-Defamation League)은 구글에 공식적으로 문제를 제기했습니다. 그래서 지금은 검색 결과 옆에 ‘해당 사이트의 내용을 포함한 검색 결과에 일부 이용자는 거북할 수 있지만, 이는 자동화된 절차에 따라 진행된 검색 결과일 뿐’이라는 일종의 해명이 붙어 있죠. 구글이 이 문제에 적극적으로 대처하고 있다지만 얼마 전 겪으셨다는 자동완성 기능의 폐해 등을 보더라도 이 문제는 더욱 나빠지고 있다는 걸 알 수 있습니다.”
킹스칼리지 런던의 언론, 소통 권력 센터(Centre for the Study of Media, Communication and Power)의 마틴 무어 소장은 검색 결과에 순위를 매기는 것도 분명 사람들에게 영향을 미친다고 말합니다. 무어 소장은 거대 테크 기업이 우리의 시민사회와 정치 전반에 어떤 영향을 미칠지에 관해 많은 글을 썼습니다.
“검색 결과가 정치적 견해에 영향을 미친다는 것을 통계적으로 증명한 방대한 연구가 있습니다. 검색 결과를 어떻게 보게 되느냐 혹은 어떤 유형의 결과가 먼저 나오느냐는 분명 개인적인 견해, 성향에 영향을 미칠 수밖에 없죠. 요즘 허위 뉴스(fake news)가 이슈로 떠올랐는데, 사실 더 큰 문제가 있어요. 이미 대기업이 된 테크 기업들은 강력한 영향력을 바탕으로 소위 판을 뒤흔드는 변화(disruption)를 통해 성장해 왔죠. 정보를 유통하고 공유하는 과정에서 발휘하는 영향력이 정치적으로 긍정적인 효과를 미친다고 기업들은 확신하고 있을 겁니다. 부작용은 없거나 있더라도 우려할 만한 수준이 아니라고 여기고 있을지 모릅니다. 인터넷을 통한 정보의 확산과 소통이 권력의 분산 효과나 대중의 정치적 영향력을 증대시킨 효과는 분명히 있었습니다. 하지만 간과해서는 안 되는 부작용이 있다면 바로 사람들이 인터넷과 현재의 정보 유통 방식 때문에 대단히 냉소적이고 파괴적인 것을 할 수 있게 됐다는 사실입니다.”
구글은 곧 지식입니다. 모르는 게 있으면 사람들은 제일 먼저 구글 검색을 합니다. 유대인이 사악하다는 정보는 빙산의 일각일 뿐입니다. 여성도 사악하다는 사실, 알고 계셨나요? 구글에는 다 나옵니다. 유대인과 마찬가지로 제가 이 내용을 검색하려고 했던 건 물론 아닙니다. 이번에도 “여성은(are women)”까지만 입력하자 검색어 자동완성 기능이 잽싸게 나타났습니다. 자동완성 기능이 제시한 두 가지 선택지 중 하나가 “여성은 사악한가? (are women evil?)”였습니다. 그 질문을 선택하자 금방 여성이 사악하다는 사실을 증명하는 증거들이 쏟아져 나왔습니다. 첫 화면에 뜬 열 가지 검색 결과는 모두 여성이 사악하다고 확인해주고 있었는데, 첫 번째 검색결과 중에서도 제일 위에 있는 자아의 발산(sheddingoftheego.com)이라는 이름의 웹사이트에 실린 글은 아예 해당 부분을 글 상자에 넣어 눈에 잘 띄게 강조해 두었습니다.
모든 여성에게는 자신을 팔거나 내주려는 습성이 어느 정도 존재한다. 여성은 누구나 정도의 차이는 있지만 사악함을 지니고 있다. 여성은 남성을 사랑하지 않는다. 그저 그들이 남성에게 해줄 수 있는 무언가를 사랑할 뿐이다. 여성이 남성을 진정으로 사랑할 수 없는 대신 어떤 특징에 매력을 느끼는 이유도 여기에 있다.
이번에는 “무슬림은(are muslims)”라고 써봤습니다. 구글은 역시 저를 실망시키지 않고 “무슬림은 나쁜가? (are muslims bad?)”라는 검색어를 완성해 주었습니다. 답은 역시나 그렇다는 것이었죠. 무슬림이 나쁜 사람들인지 아닌지를 한 번 검색하고 나니 그다음에는 아무것도 입력도 하기 전에 구글이 검색창에 커서만 넣었는데도 추천 검색어를 보여줍니다. “이슬람교는 사회에 나쁘다. (Islam is bad for society.)” 추천 검색어 가운데는 더 호전적인 것도 있었습니다. “이슬람교는 반드시 사라져야 한다. (Islam must be destroyed.)”
유대인은 사악하고 무슬림은 이 땅에서 사라져야 할 존재라면 히틀러는 어떨까요? 궁금하지 않으세요? 어디 한 번 구글해 봅시다. “히틀러는 나쁜 사람이었나? (Was Hitler bad?)” 이렇게 검색했습니다. 첫 페이지에 10가지 검색 결과가 나왔는데 그 가운데는 “히틀러가 알고 보면 좋은 사람이었던 10가지 이유”라는 글도 있었습니다. 클릭해 봤더니 “사실 히틀러는 유대인을 죽이려 했던 적이 없다. 히틀러는 수용소에 있는 유대인의 생활 조건을 염려했다. 히틀러는 사회적, 문화적 개혁을 실행에 옮긴 지도자였다.”는 식의 내용이 구구절절 쓰여 있었습니다. 놀라운 건 10가지 검색 결과 가운데 8개는 히틀러가 그렇게 나쁜 사람은 아니었다는 논조의 글이었다는 점입니다.
며칠 뒤 검색엔진의 문제를 직접 다룬 웹사이트 SearchEngineLand.com을 설립한 대니 설리번과 만나 이 이야기를 해주었습니다. 설리번은 이 문제와 관련해 몇몇 학자들을 제게 소개해 준 이 분야 전문가입니다. 저는 이런 사실을 진지하게 우려하는 제가 너무 순진한 건지 물었습니다. 오래전부터 그런 얘기 자체가 없던 것도 아닌데, 알 만한 사람이 호들갑 떠는 것이냐고 물었습니다. 설리번은 단호히 말했습니다.
“전혀 그렇지 않습니다. 이건 정말로 심각한 문제에요. 한마디로 최악입니다. 마치 도서관에 가서 유대교에 관한 책을 좀 추천해달라고 했더니 사서가 가져온 책 10권이 온통 증오와 혐오에 관한 내용뿐인 것과 다를 바 없습니다. 구글은 정말 검색 알고리즘을 통해 제대로 된 정보를 보여주는 데 있어 끔찍한 잘못을 저지르고 있어요. 제대로 할 수 있는데도 그렇게 하지 않고 있죠.”
설리번은 또 구글이 종교에 관한 내용에 관해서는 자동완성 기능을 2011년에 적용하지 않기로 한 것으로 알고 있었다며 제 이야기를 듣고 놀랐다고 말했습니다. 자신의 컴퓨터에 직접 “여성은(are women)”이라고 쳐보고는 무척 당혹스러워했습니다.
“맙소사! 지금 여기 뜨는 이 첫 번째 검색 결과는 심지어 ‘당신이 찾던 답(direct answer)’이라고 표시까지 해뒀네요. 대단한 걸 찾아서 정리해준 것처럼 보이지만 사실 이건 논의할 가치도 없는 쓰레기 글인데, 구글이 이 글을 대놓고 지지하는 거나 다름없다고 봐야 해요. 여성이 자신을 팔거나 내주려는 습성이 있다니요. 구글의 검색 알고리즘이 얼마나 심각한 문제를 안고도 방치돼 있는지 확실히 보여주네요.”
저는 구글에 직접 연락을 취했습니다. 검색어 자동완성 기능과 검색 결과에 문제가 상당히 많아 보인다는 저의 지적에 아래와 같은 답변이 돌아왔습니다.
구글의 검색 결과는 인터넷 전반에 있는 콘텐츠를 반영한 것입니다. 가끔 어떤 말을 검색어로 입력하느냐에 따라 인터넷상에 있는 불쾌한 묘사나 민감한 주제를 다룬 내용이 검색 결과에 반영되어 나타날 수 있습니다. 물론 검색 결과는 구글의 의견이나 신념과는 전혀 무관합니다. 기업으로서 구글은 의견과 사상, 문화의 다양성을 존중합니다.
다시 말하지만, 구글은 그냥 검색 엔진이 아닙니다. 구글이 인터넷 검색 서비스를 시작으로 성장한 건 맞지만, 그건 정말 구글 초기의 일입니다. 구글의 지주 회사인 알파벳은 현재 세계에서 인공지능 전문가를 가장 많이 고용하고 있는 기업입니다. 의료 보건, 물류 교통, 에너지에 이르기까지 수많은 영역에서 신사업을 개척하고 있는 알파벳(과 구글)은 이미 세계 최고 수준의 컴퓨터과학자, 물리학자, 엔지니어 등 인재를 빨아들이고 있습니다. 알파벳은 “죽음이라는 병을 치료(cure death)”하겠다는 목표로 생명 연장에 도전하는 스타트업 칼리코(Calico)나 “지능을 완벽히 분석(solve intelligence)”하겠다는 목표를 향해 달려온 (우리에게는 이세돌 9단과 대국을 둔 알파고를 개발한 것으로 더 잘 알려진) 딥마인드(DeepMind) 등 수많은 스타트업을 인수했습니다.
세상에서 제일 잘 나가는 기업이라지만, 구글은 20년 전에는 존재하지도 않았습니다. 토니 블레어가 처음 총리가 됐을 때는 그가 누구인지 구글해볼 수 없었습니다. 검색엔진은 아직 발명되기 전이었으니까요. 구글은 1998년, 페이스북은 2004년에 태어납니다. 구글을 창업한 세르게이 브린과 래리 페이지의 나이는 아직 43살에 불과합니다. 페이스북의 마크 저커버그는 이제 32살입니다. 이들이 지금껏 이뤄낸 어마어마한 성과는 따지고 보면 정말 눈 깜빡할 사이에 일어났습니다.
그러나 이런 인터넷 대기업들이 미치는 영향력에 관한 논의는 인제야 조금씩 일어나는 것 같습니다. 저는 뉴아메리카 재단(New America Founation)의 레베카 맥키논에게 허위 뉴스와 관련해 사람들이 시민의 알 권리 등을 기업이 앗아가는 걸 우려해 문제를 제기하는 것이 최근 들어 처음 나타난 현상인지 물었습니다. 맥키논은 사람들이 이제 와서야 마치 전에는 몰랐던 것처럼 구글과 페이스북 같은 회사들이 이렇게 엄청난 권력을 휘두르고 있는 건 옳지 않다고 격분하는 걸 보면 조금 멋쩍다고 말했습니다.
맥키논은 권위주의 정부가 인터넷을 장악해 그들이 원하는 대로 정보를 통제하는 사례를 주로 연구해 왔습니다.
“중국이나 러시아 정부가 대표적이라고 할 수 있죠. 사실 여기에도 부침이 있다면 있는데, 예를 들어 아람의 봄 동안은 민주주의를 갈구하는 세력이 (인터넷을 효율적으로 활용해) 앞서 있었다면 최근에는 반대로 민주주의의 적들이 때를 만났다고 할까요? 민주주의 활동가들은 대체로 인터넷을 잘 활용하지만, 반대로 민주주의의 적이라고 할 수 있는 이들도 인터넷을 활용하는 데 결코 뒤처져 있지 않아요.”
지난주 노스캐롤라니아 엘론대학교 커뮤니케이션 학과의 조나단 올브라이트 교수는 우익 웹사이트가 어떻게 메시지를 퍼뜨리는지를 상세히 연구한 논문을 발표했습니다.
“실제로 인터넷상에 돌아다니는 허위 뉴스 웹사이트를 찾아 목록을 작성했습니다. 뉴스의 탈을 쓰고 있다지만 사실이 아닌 내용을 사실처럼 퍼뜨리는 사이트 총 306개를 찾았고, 각 사이트 안에 있는 링크들을 모아 한눈에 볼 수 있게 연결 고리와 흐름을 지도로 만들었습니다. 즉 어느 사이트의 어떤 링크가 유튜브나 페이스북에 소개돼 퍼졌는지를 추적한 거죠. 그 결과로 나온 지도를 보면서도 믿기지 않았습니다.”
조나단 올브라이트 교수가 그린 허위 뉴스 사이트의 정보 유통망. 가디언 원문기사에서 갈무리.
허위 뉴스 사이트들이 모여 만든 정보들은 많은 사람이 이용하는 웹을 어렵지 않게 드나들었습니다. 다시 말해 허위 뉴스의 웹과 우리의 웹이 꽤 여기저기서 얽히고설켜 있는 겁니다. 어떤 악질의 기획자 한 명이 모든 정보를 생산해 일방적으로 공급하는 음모론으로는 이 현상을 설명할 수 없습니다. 대신 수백, 수천 개의 허위 뉴스 사이트들이 모든 웹사이트가 자신의 존재를 알리고 정보를 퍼드리려는 그 방법을 똑같이 사용하고 있었습니다. 이들은 수많은 링크를 여러 사이트에 심어놓습니다. 그렇게 트래픽을 주고받으며 정보를 확산하는 거대한 우익 뉴스나 선전 매체 생태계는 주류 언론 생태계를 둘러싸고 있습니다. 올브라이트 교수는 총 2만3천 개의 웹페이지에서 130만 개의 하이퍼링크를 모았습니다.
“페이스북은 가장 효과적인 확성기 같은 역할을 했습니다. 아마 이 지도를 3D로 봤다면 허위 뉴스 사이트들은 바이러스처럼 보였을 거예요. 페이스북은 바이러스가 빨리 퍼지는 데 필요한 숙주처럼 보였을 겁니다. 지도를 보시면 뉴욕타임스도, 워싱턴포스트도 다 있죠. 주류 언론 매체를 둘러싼 엄청난 네트워크가 보일 겁니다. 마치 거대한 생태계 같아요. 특정 웹사이트나 특정 뉴스 매체, 특정 기사가 결정적인 역할을 하는 게 아닙니다. 정보가 돌고 소비되는 방식 자체가 기존의 주류 언론을 사실상 옥죄고 있다고 해도 과언이 아닙니다.”
영원히 자라고 갈수록 강력해진다는 점에서 마치 암세포 같기도 합니다.
런던정경대학교 언론정보학과의 찰리 베켓 교수는 이렇게 말했습니다.
“다양한 매체가 있는 게 건강한 언론을 상징하는 지표라고들 하잖아요. 다양성은 중요한 가치라면서요. 맞는 말입니다. 주류 언론을 비판하고 견제하는 장치도 필요해요. 하지만 지금 문제는 전체적인 정보의 유통망 자체가 완전히 통제 불능 상태에 빠졌다는 데 있습니다. 조나단 올브라이트 교수는 인터넷의 부작용 때문이라고 말하고 있는 게 아닙니다. 심지어 상업 언론의 폐해도 아니에요. 이런 현상을 불러온 건 이데올로기입니다. 특히 주도면밀하게 인터넷의 약점을 파고들어 허위 정보를 퍼뜨리려는 사람들의 작품이라고 할 수 있습니다.”
올브라이트 교수가 뽑아낸 뉴스 유통망 지도에서 저를 당혹게 했던 구글 검색 알고리듬의 문제가 어디에 있었는지에 관한 실마리도 찾을 수 있습니다. 허위 뉴스를 생산하고 유통한 우익 뉴스 사이트들이 한 일은 기존의 상업 사이트들이 해온 방식과 크게 다르지 않았습니다. 그들은 구글의 페이지랭크 시스템에서 자신들의 검색 순위를 높여줄 일종의 속임수를 찾아 이를 공략했습니다. 알고리듬을 악용한 겁니다. 지도를 보면 이들이 얼마나 능수능란하게 구글 검색 순위를 끌어올렸는지 알 수 있습니다. 우파는 무슬림, 여성, 유대인, 홀로코스트, 흑인 등의 주제에 관한 한 진보 좌파보다 인터넷상에서 정보의 유통과 흐름을 확실히 장악하는 데 성공한 겁니다.
올브라이트 교수는 이를 “정보 전쟁(information war)”이라고 명명하고, 이 문제와 씨름해 왔습니다. 이렇게 허위 정보가 버젓이 유통되고 확대 재생산되는 상황을 막을 만한 뾰족한 수가 없다는 건 더 큰 문제입니다. 올브라이트 교수도 그 점을 우려하고 있습니다.
“이를 막을 방법이 마땅치 않은 것이 이건 네트워크 전체가 이렇게 작동하는 것이라서, 누구 한 명을, 어디 기관 하나를 통제하거나 처벌해서 막을 수 있는 일이 아닙니다. 마치 유기체처럼 주변을 학습하고 매일매일 강력해지고 있어요.”
더 많은 사람이 유대인에 관해 무언가를 찾아볼수록 (검색어 자동완성 기능이든 알고리듬을 악용해 검색 결과의 관련성을 왜곡한 것이든) 더 많은 사람이 검색 첫 페이지에 나오는 증오를 양산하는 사이트에 접속하게 됩니다. 압도적으로 많은 사람이 검색 결과 첫 페이지에 나온 링크만 눌러봅니다. 두 번째, 세 번째 페이지까지 가는 사람은 많지 않습니다. 해당 사이트에 접속하는 사람이 많아질수록 그 사이트에 있는 링크를 통해 다른 곳으로 가는 트래픽도 늘어나고 그만큼 그 사이트의 인지도와 영향력이 커집니다. 전형적인 지식 경제의 네트워크 효과가 일어나는 겁니다. 네트워크 효과는 이들이 주장하는 사실의 탈을 쓴 거짓 메시지의 확대 재생산으로 이어집니다. 유대인은 사악하다, 여성은 사악하다, 이슬람교는 없어져야 한다, 히틀러는 알고 보면 좋은 사람이다 같은 메시지가 숨 쉴 곳을 찾는 것이죠.
올브라이트 교수가 찾아낸 수많은 우익 웹사이트들이 하는 일은 또 있었습니다. 주류 매체와 멀지 않은 곳에서 일종의 그림자 매체처럼 기생해 있는 매체들이지만, 해당 사이트에 왔던 사람이나 글을 한 번이라도 읽은 사람에게 우익 매체들은 말 그대로 집요하게 들러붙습니다.
“해당 사이트들의 트래킹 기능을 확인해봤다가 저는 말문이 막혀버렸습니다. 누구든 페이스북에서 한 번이라도 이 사이트, 혹은 이 사이트에서 올린 글에 ‘좋아요’를 누르면 그때부터 이 매체는 인터넷상에서 당신의 활동을 매번 따라다니며 기록하고 경로를 축적합니다. 이런 데이터는 개인별 맞춤형 홍보물을 제작하거나 데이터 기반 선거 전략을 짜는 회사로 넘어가곤 합니다. 결국, 우익 웹사이트가 단지 정치적인 메시지를 일방적으로 살포하는 수단을 넘어 적극적으로 선전 대상을 특정하고 맞춤형 메시지를 지속적으로 보내는 역할을 하는 셈입니다. 저는 이제껏 단 한 번도 이렇게 정교한 사회적 선전 수단을 보지 못했습니다. 한 번 그 사람의 관심을 받으면 그때부터 집요하게 그 사람의 생각을 좌우하려 들면서 절대 놓아주지 않는 겁니다.”
런던에 본사를 둔 미국 자본 소유의 케임브리지 아날리티카(Cambridge Analytica)라는 회사는 브렉시트 투표에서는 EU 탈퇴(Vote Leave) 측에, 미국 대선에서는 트럼프 후보 캠페인에 고용되었습니다. EU 탈퇴 진영을 진두지휘한 도미닉 커밍스는 브렉시트 투표 결과가 나온 뒤 구체적인 전략에 대해 말을 아꼈지만, 이런 말을 한 적이 있습니다. “커뮤니케이션 부분에서 큰 진전을 보고자 하는 이들에게 물리학자를 고용해 해법을 찾아보시라 조언하고 싶습니다.”
극우 성향 매체인 브레이트바트 뉴스의 창립자이자 트럼프의 대통령 당선에 기여해 백악관 수석 전략으로 임명된 스티브 배넌도 케임브리지 아날리티카 이사 가운데 한 명입니다. 현재 이 회사는 트럼프 정권이 출범한 뒤에도 정치적 메시지를 관장하는 일을 맡는 쪽으로 계약을 논의하고 있는 것으로 알려졌습니다. 케임브리지 아날리티카는 2억 2천만 미국 유권자에 관한 5천여 가지 다른 데이터를 모두 취합해 일종의 유권자 심리 지형도를 만들었다고 합니다. 유권자마다 특이점, 미묘한 사안, 일상적인 습관까지 모두 데이터를 확보하고 있었다고 합니다.
마틴 무어 소장은 이들이 정보를 효과적으로 공급하고 확산할 수 있는 강력한 네트워크를 바탕으로 개별 유권자들에 관한 실로 방대한 데이터를 확보한 덕분에 현행법의 제약을 어렵지 않게 피해갈 수 있었다고 말합니다.
“매일 4~5만여 개의 광고를 쏟아내고 그에 대한 사람들의 반응을 전부 다 분석해요. 반응을 종합해 홍보하는 메시지도 점점 더 정교하게 가다듬어지고 발전했죠. 이 모든 일은 사실 대중에 전혀 알려지지 않은 채 비밀리에 진행됐습니다. 게다가 이들은 엄청난 데이터를 바탕으로 특정 지역의 특정 인구 집단을 아주 세세히 나눈 뒤 액수에 구애받지 않고 필요하면 적극적으로 이들을 공략할 수 있었어요. 몇 킬로미터 반경 내에 있는 어떤 인구 집단에 어떤 메시지를 집중적으로 보내는 식으로 말이죠. 허위 뉴스도 중요한 문제지만, 이는 문제의 일부에 불과합니다. 데이터를 무기로 삼은 회사들은 지난 150년 넘도록 선거를 더욱 투명하고 공정하게 치르도록 다듬어 온 법체계 전반을 가볍게 우회해버린 셈입니다.”
이와 같은 세세한 맞춤형 홍보 전략이 브렉시트 국민투표 결과를 실제로 좌우했을까요? 반대 사례가 없기 때문에 정확히 알 수는 없습니다. 트럼프의 당선에 이런 전략이 얼마나 기여했는지도 마찬가지죠. 이 모든 일은 깜깜한 어둠 속에서 진행되어 결과로만 모습을 드러냈습니다. 개인 데이터가 얼마나 쌓였고 얼마나 활용됐는지, 그 전략이 얼마나 효과가 있었는지는 알 수 없습니다. 지금 접속하고 있는 페이스북 페이지나 구글의 검색 결과로 나온 것이 사실 얼마나 내게 맞춤형으로 걸러낸 정보만을 담고 있는 건지도 모릅니다. 매번 비교할 대상이 있지도 않을뿐더러 이를 확인하고자 우리의 일상적인 인터넷 사용기록을 스스로 작성하지도 않기 때문입니다. 게다가 이는 규제 대상이 아닙니다. 우리는 기계를 사용하고 인터넷상에 있는 한 누가 이를 조종하고 있는지 볼 수도, 느낄 수도 없습니다. 대부분 우리는 누군가 이를 조종하고 있다는 사실조차 망각한 채 그저 정보를 찾아 확인하고 또 다른 일을 할 뿐입니다.
레베카 맥키논은 우리 대부분이 인터넷을 숨 쉬는 데 필요한 공기나 살기 위해 마셔야 하는 물처럼 여기고 있다고 지적합니다. 이미 인터넷은 우리 삶의 일부가 되었고, 우리는 의심 없이 이를 사용합니다.
“하지만 인터넷은 자연적으로 생겨난 것이 아닙니다. 우리 모두 알고 있듯이 프로그래머와 경영자, 편집자, 디자이너 등 많은 사람이 모여 인터넷이라는 공간을 만들어냈죠. 이들도 사람입니다. 주체적으로 선택을 하죠.”
하지만 우리는 이들이 어떤 선택을 하는지 정확히 모릅니다. 구글도, 페이스북도 어떤 알고리듬으로 정보가 검색되고 추출되는지 공개하지 않고 있습니다. 왜 제가 구글에서 유대인이 사악한지 찾아봤을 때 열에 아홉은 그렇다는 답이 나왔을까요? 이 역시 알 길이 없습니다. 이 시스템은 파스퀘일 교수의 표현을 빌리자면 속을 들여다볼 수 없는 블랙박스 같습니다. 그는 구글과 페이스북을 가리켜 “무시무시한 권력의 복점(複占)”이라고 말했습니다. 파스퀘일 교수는 뜻을 같이하는 학계 인사들과 함께 거대 테크 기업에 알고리듬이 만들어낸 결과에도 책임을 지고 서비스를 운영하라고 요구해 왔습니다.
“알고리듬 체계 전반에도 회계 장부처럼 정기적인 감사를 해야 합니다. 데이터를 모으고 활용해 전략을 내는 회사 사람들도 그 전략과 서비스의 결과에 책임을 지도록 해야 합니다. 미국에서는 모든 기업이 대변인을 두고 소비자의 의견을 들어야 합니다. 대변인은 이제 혐오 발언이나 편견을 부추기는 콘텐츠의 출처와 유통에 대해서도 소비자들의 불만과 지적에 답해야 할 것입니다.”
편견은 원래 시스템에 내재하고 있던 걸까요? 그래서 제가 그런 검색결과를 받아들게 된 건 아닐까요? 이에 대해 맥키논은 이렇게 답했습니다.
“어디서 나온 어떤 정보가 정당하고 합법적인지를 판단하는 데는 어차피 수많은 의견과 가치 판단이 개입될 수밖에 없습니다. 여러 의견에 묶여 편견이 개입될 소지도 없지 않고, 특히 상업적 이해관계에 따른 편견이라면 이미 상당히 큰 영향을 미치고 있고요. 인터넷을 이용하는 사람, 그 정보가 생성되고 태어난 곳에 있는 사람은 대개 젊은 백인 혹은 아시아인이 많지 흑인이나 히스패닉은 상대적으로 많지 않을 거예요. 성별을 보면 분명 남성이 훨씬 더 많을 것이고요. 젊고 부유한 백인 남성의 세계관이 형성되는 데 이런 환경이 미친 영향을 무시할 수 없는 거죠.”
저는 미국 행동 연구와 기술 연구소에서 일하는 심리학자 로버트 엡스타인과도 통화했습니다. 엡스타인은 인터넷 검색 결과 순위가 투표 행태에 어떤 영향을 미치는지 연구한 논문을 발표하기도 했습니다. 마틴 무어 소장은 이 논문을 제게 추천해줬고, 구글은 해당 논문에 반박했습니다. 수화기 너머에서 엡스타인도 제가 했던 구글 검색을 먼저 그대로 따라 해보는 소리가 들렸습니다.
“흑인은 (do blacks)”까지 치면, 그렇죠, 이런 선택지가 주어지는군요. 제가 흑인은 까지만 입력하고 아무것도 안 했는데도 벌써 구글이 자동으로 검색어 뒷부분을 완성한 뒤 관련 내용을 화면 아래 띄워주네요. 구글이 자동으로 완성한 질문은 “흑인은 범죄를 더 많이 일으키나? (Do blacks commit more crimes?)”였습니다. 다른 걸 궁금해했을 수도 있는데요, 충분히. 예를 들어 흑인이 스포츠를 더 잘한다든가 말이죠. 구글이 제게 준 선택지 두 개는 사람들이 자주 검색하는 말도 아닌 것 같아요. 구글은 예전에 이 알고리듬을 사용하다가 요즘에는 방식을 바꿨죠. 빙이나 야후는 다를 거예요. 보세요, 야후에서 “흑인은”까지 입력했더니 나오는 자동완성 검색어 후보 10가지 가운데 흑인이 범죄를 더 많이 일으킨다는 내용은 없네요.”
엡스타인은 말을 이었습니다.
“그런데 사람들은 이 점을 별로 문제 삼지 않아요. 그러니까 구글은 지금 그냥 아무거나 검색어를 제안하고 검색 결과를 보여주는 게 아니거든요. 주로 부정적인 단어, 뉘앙스의 검색어를 추천하는데, 대개 부정적인 내용은 사람들의 관심을 끌기 좋거든요. 부정적인 콘텐츠가 5~15번 정도 더 클릭을 받는다는 연구도 있고요. 네거티브로 사람들의 관심을 끄는 거죠. 사실 이런 건 모두 알고리듬에 프로그램으로 입력돼 있는 겁니다. 그 말인즉슨, 프로그램을 달리 입력했을 수도 있었다는 뜻이죠.”
엡스타인은 인도의 유권자들을 대상으로 한 이중 은폐 실험(double-blind trial)을 통해 검색 결과로 나타난 콘텐츠가 사람들의 견해에 영향을 미칠 수 있다는 사실을 보였습니다. 이 가운데는 검색어 자동완성 기능에 관한 실험도 있었습니다.
“일반 대중은 인터넷 검색과 그 결과 받게 되는 어마어마한 영향력에 관한 매우 근본적인 문제를 전혀 인지하지 못하고 있어요. 인류 역사상 인간의 사고와 사상을 지배하고 장악할 수 있는 아마도 가장 강력한 기계를 우리는 아무 의심 없이 사용하고 있는 겁니다. 의심은커녕 그런 가능성에 대해 생각조차 못 하면서요.”
언론 규제에 관한 연구를 해온 런던정경대학교의 다미엔 탐비니 교수는 민주주의 절차에 개입하거나 영향을 미치는 기업에 대한 바람직한 규제를 논의하는 데 필요한 경험이나 토대가 우리에게 없다고 지적합니다.
“강력한 거대 언론사를 규제하는 법도 있고, 독점방지법도 있지만, 지금 언급되는 종류의 회사들은 현행법으로 규제하기 어렵습니다. 구글이나 페이스북은 관련 알고리듬이나 서비스 제공에 관해 아무것도 공개할 의무가 없습니다. 구글이나 페이스북이 사실상 언론처럼 뉴스를 편집해 제공하고 있기는 하지만, 사람이 모여 정한 언론사의 방침에 따라 사설을 내는 식이 아니라 정교하게 설계한 알고리듬에 따라 자동으로 결과가 나오는 식입니다. 편집자가 아니라 기계가 하는 일이라며 이들은 책임을 면하려 하고 있지만, 이는 눈 가리고 아웅에 불과합니다. 엄연히 체계적으로 짜놓은 기준에 의한 편집 기능이라고 봐야 하기 때문입니다.”
가디언 옵저버의 칼럼니스트인 존 노턴은 구글이나 페이스북 등 거대 테크 기업들이 원치 않는 편집자의 책임을 떠안을까 봐 전전긍긍하고 있다고 말합니다. “사실상 검색 결과를 비틀고 조정해 (누구의 입맛에든 맞게) 얼마든지 바꿔내는 능력을 갖추고 있으면서도” 말입니다.
구글에서 구글에 관한 내용을 검색해보면 얼마나 중립적인 답변이 나올까요? 지금까지 살펴본 바에 따르면 구글은 인종적 편견의 확산을 적어도 방조하고 있다는 혐의를 받을 만합니다. “구글은 인종차별주의자인가? (Is Google racist?)”라고 검색해봤습니다. 당연하게도 간단하고 명확한 답변이 돌아왔습니다. “아뇨. 구글은 인종차별주의자가 아닙니다.”
하지만 완전히 새로운 유형의 두 거대 기업이 인류의 삶 전반에 어마어마한 영향을 미치는 현재의 복잡한 상황은 문제를 정확히 진단하기도 어렵게 하고 있습니다. 노턴의 말마따나 “우리는 지금 문제가 무언지 파악하는 방법조차 익히지 못했”습니다.
앞으로도 이 문제는 계속될 것입니다. 구글과 페이스북은 현재 지구상에서 인공지능 기술에서 가장 앞서 있는 기업이기 때문입니다. 인공지능 기술을 선점하는 기업과 세력이 인류의 삶의 방식을 주조하게 될 미래에 보통 사람들은 그제야 짚고 넘어가야 할 문제를 떠올리기 시작할지 모릅니다.
“정치인들은 멀리 내다보지 못합니다. 기본적으로 다음 선거에서 재선이 가장 중요하니까요. 이는 사실 기업도 마찬가지입니다. 다음 분기 실적이나 주주에게 보고해야 할 지표들을 신경 쓸 수밖에 없으니까요. 그런 의미에서 구글이나 페이스북은 무척 이례적이라고 할 수 있습니다. 대단히 장기적으로 사고하며 멀리 내다보고 있으니까요. 멀리 내다보고 투자하고 기술을 선도해나갈 자원이 있고, 돈이 있고, 무엇보다 그들이 원하는 대로 무엇이든 하고자 하는 야망이 있습니다. 전 세계에 있는 모든 서적의 디지털화, 자율주행 자동차는 꿈만 같은 이야기였습니다. 구글은 현실에서 그 꿈을 구현하고 있죠. 허위 뉴스나 뉴스 알고리듬, 인터넷상의 정보 흐름을 규정하는 검색 알고리듬 문제가 정치나 선거에 영향을 미칠 수도 있다는 사실을 사람들이 이제 와서 깨닫고 호들갑을 떠는 건 늦어도 한참 늦은 반응입니다.”
“인간이 만들었지만, 온전히 이해하지 못한 채 쓰고 있는 몇 안 되는 발명품 중에 인터넷이 있습니다. 어떤 의미에서 인터넷은 역사 속의 무정부 상태를 포함하더라도 가장 거대한 실험 중 하나일 겁니다. 지금 이 순간도 수천만 명이 동시에 많은 양의 디지털 콘텐츠를 만들어내고 소비하고 유통하고 있습니다. 이를 영토에 귀속하는 기존의 법체계로는 온전히 규제할 수 없습니다.”
인터넷이 법 없이도 굴러가는 무정부 상태의 국가를 이끄는 동력이 될까요? 결과를 알 수 없는 상태에서 벌이고 있는 수많은 사람이 참가한 견제와 균형 없는 실험일까요? 디지털 시대가 결국 세계의 종말을 앞당기리라는 회의론자나 하는 소리에 불과할까요?
우리 가운데 누구도 이를 정확히 이해하지 못합니다. 분명한 건 기존 법체계에 완전히 종속되지 않은 인터넷 세상을 구글과 페이스북이라는 두 거대 기업이 사실상 장악하고 있다는 겁니다. 어떤 시도를 하든 무슨 실험을 하든 그들의 결정일 뿐 우리는 이미 대상일 뿐입니다. 우리 모두를 자유롭게 해줄 것으로 기대했던 기술은 동시에 트럼프를 대통령으로 만들었고, 영국을 유럽연합에서 탈퇴시켰습니다. 인터넷 곳곳에 온갖 선전선동이 암세포처럼 퍼졌습니다. 케임브리지 아날리티카 같은 회사가 어떻게 알았는지 귀신같이 당신의 눈길을 끄는 내용의 정치적 메시지를 보낼 수 있었던 것도 발달한 기술과 거대 기업이 장악하고 있는 인터넷 환경 덕분입니다. 기업은 당신의 정서적 반응을 파악하고 그에 맞춰 당신의 생각과 행동을 바꿀 수 있는 그 수를 던집니다. 당신이 무얼 좋아하고 무얼 싫어하고 어디에 살고 무얼 먹으며 어떤 것을 보고 웃고 어떤 것을 보면 우는지 그들은 다 알고 있습니다.
레베카 맥키논은 권위주의 정권이 인터넷을 어떻게 장악하고 정보를 선별적으로 유포해 정권의 안위를 보전하고 정치 과정을 왜곡하고 시민의 자유를 억압하는지 연구했습니다. 이제 실리콘 밸리와 트럼프가 마찬가지 작업을 전 세계를 대상으로 하려 들까요? 트럼프 당선인은 당선 직후 축하 전화를 걸어온 사람들 가운데 애플의 최고경영자 팀 쿡도 있었다고 말했습니다. 마틴 무어 소장은 애플은 정권에 협력하는 게 좋을 거라는 압박을 엄청나게 받고 있을 것이라고 말했습니다.
기존 언론은 이러한 기술의 변화에 효과적으로 대응하는 데 실패했습니다. 앞으로 더 큰 실패가 잇따르리라는 전망이 우세합니다. 구글과 페이스북이라는 인터넷 뉴스 플랫폼의 등장으로 기존에 언론사의 돈줄이던 광고 시장은 크게 줄었습니다. 언론사는 재정적으로 큰 타격을 받았지만, 뉴스를 보고 읽으러 오는 사람들이 사실상 대부분 인터넷을 통해 유입되기 때문에 울며 겨자 먹기로 구글이나 페이스북이 정한 룰을 따라야 합니다. 기존의 언론인과 언론사들은 테크 기업들이 플랫폼을 어떻게 개선해가고 어떤 실험을 할 생각인지 전혀 모른 채 끌려가는 형국입니다. 언론은 어떤 의미에서 파도를 먼저 맞았을 뿐입니다. 의료 보건, 물류 운송, 에너지 등도 테크 기업들이 장악하려 할 것이고, 아마도 그렇게 될 겁니다. 구글이 검색 시장에서 사실상 독점적인 지위를 달성한 것처럼 테크 기업은 우리의 삶에서 피부에 와 닿는 물리적인 인프라 시설 또한 완전히 장악해 운영하려 할 것입니다. 이미 개인의 데이터와 우리의 핵심적인 개인 정보를 다 손에 넣었습니다. 이를 토대로 구체적인 사업을 벌인다면 우리의 삶은 어떻게 될까요?
케임브리지 대학에서 법과 기술에 관해 연구하는 줄리아 폴스는 현실을 이렇게 진단합니다.
“검색 그 자체로는 유대인이나 특정 집단에 대한 편견을 부추기는 내용이 미치는 영향력이 제한적일 수 있습니다. 하지만 머지않아 실제 생활에서 이런 편견이나 잘못된 주장이 자꾸 퍼져 누구를 고용할지와 같은 문제처럼 실제로 사람들이 살아가는 방식에 영향을 미치게 되면 그때는 정말 심각한 결과를 낳을 겁니다.”
폴스는 곧 (구글이 인수한 인공지능 회사) 딥마인드와 영국 공공의료보험 NHS의 관계를 검토한 논문을 발표할 예정입니다.
“1년 전에 딥마인드는 NHS로부터 런던 시민 2백만 명의 의료 기록을 건네받았습니다. 정치인도, 규제 당국도, 권력에 있는 그 누구도 이에 대해 일언반구 언급조차 하지 않았습니다. 딥마인드는 의료 보건 분야에서 아무런 사업 경험도 없는 회사인데, NHS에서 그토록 방대한 데이터를 넘겨받았습니다. 딥마인드가 방대한 의료기록을 받았다는 사실이 드러나는 데만 일곱 달이 걸렸습니다. 그것도 탐사보도 언론의 피나는 노력으로 간신히 알려졌습니다.”
딥마인드는 NHS를 도와 신장병으로 고생하는 환자들에게 사전에 경고할 수 있는 앱을 개발하는 작업을 맡게 됐다고 밝혔습니다. 실제로 그런 프로젝트가 첫 번째 목표일 테지만, “지능을 완벽히 분석”하는 것이 회사의 모토인 딥마인드의 야심은 거기서 멈출 리 없습니다. 인공지능을 연구하는 이에게 2백만 명의 상세한 의료 기록은 한 마디로 보물 창고나 다름없습니다. NHS와 손을 잡고 개인 데이터를 확보하고 분석해 유용한 서비스를 제공한다는 건 거대 테크 기업에는 인간의 삶 모든 영역에서 영향력을 미치고자 하는 궁극적인 목표에 근접하는 의미 있는 진전입니다.
검색 알고리듬의 바탕에는 예측이 있습니다. 구글은 당신이 무엇을 원하는지 스스로 깨닫기도 전에 그것을 파악하려 합니다. 마틴 무어 소장은 바로 예측에 관한 영역이 구글의 다음번 시험장이 될 것으로 내다봤습니다.
“이미 거대 테크 기업들이 전지전능한 힘을 가졌다고들 하지만, 만약 이들이 예측하는 능력을 장착하게 되면 그때는 정말로 무소불위의 능력을 휘두를 수 있게 될 겁니다. 테크 기업이 정복하고 싶어 하는 목표죠. 예를 들어 건강과 관련해 어떤 사람의 질병이 언제 어떻게 나타날지 예측할 수 있는 세상은 정말로 대단히 위험한 세상이 아닐 수 없습니다.”
구글이 세상에 모습을 드러낸 지난 20여 년간 구글이라는 기업을 향한 대중의 인식은 젊고 자유분방해 보이는 창의적인 두 창업자에 대한 호감과 일종의 선망이었습니다. 페이스북도 마찬가지죠. 저커버그는 아예 페이스북의 미션은 성공한 기업이 되는 것이 아니라 이 세상을 더욱더 개방되고 서로 촘촘히 연결된 곳으로 만드는 데 있다고 말하기도 했습니다.
그런 꿈과 그 꿈을 이루기 위해 개발된 기술이 실제 세상에서 어떻게 사용되고 있는지에 관해 저커버그는 무슨 생각을 하고 있을까요? 도널드 트럼프가 적극적으로 활용한 그 기술은 바로 아랍의 봄을 불러왔던 인터넷 전략입니다. 민주주의와 자유를 열망하는 사람들 대신 인종차별주의와 외국인 혐오주의자들을 정치적으로 동원한 것이 달랐을 뿐입니다. 무엇보다 그 메시지를 퍼뜨리는 데 아주 효과적인 확성기 역할을 한 것이 다름 아닌 페이스북과 구글이었습니다. 사실 주류 언론이라고 대단한 일을 한 건 아닙니다. 올브라이트 교수가 그린 지도에 보면 주류 언론의 분노와 트럼프를 향한 비판, 비난도 결과적으로는 비슷한 역할을 했습니다.
“트럼프의 어디가 문제라고 더 많이 지적하고 비판할수록, 그 자체가 트럼프 홍보 효과도 있던 셈입니다. 결국, 앞서 언급했던 순환 논리와 비슷해요. 선전선동 메시지가 네트워크 곳곳에 온통 퍼져 있는 완전히 새로운 시대라서 그렇습니다.”
우리는 모두 저 지도 위 어딘가에 있는 점입니다. 이 문제를 심각하게 받아들이고 우려하는 시민이 되는 대신 그저 수동적으로 소비하는 객체로 전락하고 순진하게 모든 것을 의심 없이 받아들이는 순간 우리도 이 문제의 공범이 되는 걸 피하기 어렵습니다. 다음번에는 우리가 직접적인 표적이 될 겁니다. 레베카 맥키논은 사람들이 지금껏 너무 안이하게 생각했다며, 최대한 냉소적이고 냉철하게 상황을 분석하고 새로운 환경 자체에 처음부터 다시 접근해야 한다고 충고했습니다.
“분명한 건 지금 우리가 처한 상황이 대단히 좋지 않다는 거예요. 다만 상황이 이렇게 최악으로 온 데 우리와 우리 사회의 책임이 없지 않아요. 당장 정보의 생태계가 인권이나 민주주의를 고양하는 방향이 아니라 오히려 이를 파괴하는 쪽으로 짜인 것도 우리가 우리에게 시민으로서 주어진 책임을 다하지 않았기 때문이라고 볼 수 있습니다.”
유대인은 사악한가요? 이런 질문에 어떻게 답해야 한다고 생각합니까? 어떤 답변이 추천을 받고 어떤 답변은 잘못된 정보로 사장되어야 한다고 생각하십니까? 인터넷은 구글이나 페이스북의 소유물이 아니라 결국 이를 사용하는 시민의 것이어야 합니다. 인터넷 생태계에서 시민권을 주장하고 우리의 권리를 되찾아올 수 있는 것도 결국 우리 자신밖에 없습니다. (가디언)