구글의 질문에 대답해주고자 하는 열정이 오히려 온라인에서 거짓된 정보를 퍼뜨릴 수 있습니다
2018년 1월 3일  |  By:   |  IT, 미국  |  No Comment

사람들은 궁금한 점이 생기면 보통 구글에 질문하며 높은 질의 정확한 대답을 기대하죠. 하지만 2016년 말 “(유대인)대학살이 과거에 일어났나요?”라는 질문에 구글이 가장 먼저 보여준 대답은 신나치주의자, 백인우월주의자, 나치의 대학살을 부정하는 웹사이트와 연결되어 있었습니다.

미국 유대인 대학살 추모 박물관을 위해 구글의 광고를 산 사람들은 이에 격렬하게 항의했고, 그 결과 유대인 대학살 추모 박물관 역시 검색 결과 상단에 포함됐습니다. 이를 방지하기 위해 구글은 알고리즘을 수정했죠. 하지만 이는 오직 거짓과 편견을 포함한 정보가 결과의 아래쪽에 위치하게 하는 데 그쳤습니다.

구글은 대학살을 부정하는 자들의 (넓게는 음모론자들) 전략과 알고리즘 간의 상호작용을 간과했습니다. 일반적으로 구글은 사람들의 질문에 대답하고자 하는 열정을 가지고 있고, 때로는 매우 유용한 답변을 제공하죠. 하지만 질문이 역사적 사실에 대한 의심 같이 숨겨진 의제를 내포하고 있으면, 구글의 이러한 열정은 강점에서 약점이 됩니다.

역사적 기록에 대한 의심의 싹은 대학살을 부정하는 사람들, 넓게는 음모론자들의 주요 수입원이죠. 대학살 부정론과 관련된 사이트들은 그들이 그저 순수한 궁금증에서 역사적 사건이나 널리 퍼진 믿음에 질문을 던지고자 하는 것이라고 밝히지만, 실제 해당 사이트들은 반유대주의를 추구하고 우파의 혐오를 퍼뜨리는 비도덕적인 공간입니다.

정치 사회학과 유대인 학살을 연구하는 학자의 관점에서 의도적으로 잘못된 정보나 선전을 제공하는 이런 사이트가 구글의 질문에 답하고자 하는 열정을 이용하고 있다는 것은 분명합니다. “가짜 뉴스”를 유포하는 해당 사이트들은 사람들이 구글에 직접 질문을 하는 경향이 있다는 사실을 이용하죠. 이는 알고리즘이 사회에 영향을 끼칠 수 있음을 보여주는 중요한 사례입니다. 프로그래머들은 얼핏 건조하고, 분명해 보이는 코드를 쓸 때 실제 해당 코드가 사회에 어떤 영향을 미칠지를 인지하고 있어야 합니다.

많은 사이트는 대학살이 일어났는지 아닌지를 묻는 말에 대답하지 않습니다.

물론 대학살은 일어났습니다. 대학살이 일어났음을 보여주는 산더미 같은 증거들이 존재합니다. 가해자들 역시 이를 인정했습니다. 어떻게 유대인을 이동시키고 몰살시켰는지의 과정이 담긴 문서 역시 존재합니다. 몰살 장소에서 법의학적 증거 역시 발견됐습니다. 이를 확증하는 여러 목격담 역시 많이 전해져 옵니다.

구글의 검색 알고리즘은 200개가 넘는 요인을 이용해, 어떤 검색 결과를 먼저 보여줄지를 판단합니다. 사용자들에게 그들이 찾는 정보를 정확하게 제공하기 위해서죠. 알고리즘이 이용하는 판단 기준 중 하나는 사이트의 내용이 얼마나 사용자가 입력한 특정한 질문에 대답하고 있는지의 여부입니다.

예를 들면 사용자가 “조깅화”를 구글에 검색할 경우, 구글 자체는 그 검색어가 조깅화의 어떤 부분에 관해 물어보는 지를 알지 못합니다. 그렇기 때문에 구글은 조깅화에 대한 리뷰에서부터 조깅화를 파는 장소에 대한 정보까지 모두 제공하죠.

대학살이 일어났는지 아닌지에 대한 질문은 제2차 세계대전이 일어났는지를 물어보는 것과 같습니다. 합법적인 사이트들 대부분은 그것이 일어나지 않았을 것이라는 생각에 몰두하고 있지 않죠. 대학살의 역사를 다루는 권위적인 사이트들은 대학살이 언제, 어디서, 왜, 어떻게, 그리고 누구에게 일어났는지에 대한 상세한 설명은 제공하고 있지만, “대학살 일어났나요?”의 질문을 직접 포함하고 있지는 않습니다. 구글의 알고리즘에 이는 해당 사이트가 검색자가 물어보는 특정한 질문 (“대학살이 일어났나요?”)에 대답하고 있지 않다고 여겨집니다.

구글의 알고리즘은 사이트의 신뢰성 역시 고려하지만, 명성 있는 사이트가 질문에 대한 대답을 제공하지 않을 때는 (비록 거짓일지라도) 직접적인 대답을 제공하는 덜 믿을 만한 정보 소스를 검색 결과의 상단에 배치합니다. 이는 문제를 증폭시키죠. 또한, 관련 사이트를 제공하는 머신러닝 알고리즘 역시 문제를 악화시킵니다. 사용자들의 초기 검색어가 대학살을 부정하는 사이트와 연관을 가지고 있으면, 구글 알고리즘은 이와 비슷한 더 많은 옵션을 보여주게끔 설계되어 있습니다.

전문가들은 이를 어떻게 해결해야 할까요?

대학살을 부정하는 자들이 던지는 질문의 프레임과 구글의 질문에 대답하고자 하는 열정은 음모론이 인터넷에서 유통되는데 기여하고 있습니다. 하지만 구글의 알고리즘이 사이트의 신뢰성 역시 고려하고 있다는 사실은 전문가들이 이를 해결할 방안을 제공합니다. 전문가들은 정확한 사실관계를 보여주는 작업을 구글이 먼저 보여주게끔 만들 수 있습니다.

만약 대학살 추모 박물관이 “대학살이 일어났나요?”라는 제목을 가진 기본적인 사실들을 포함한 기사를 작성한다면, 그 사이트의 신뢰성은 구글이 해당 기사를 검색 결과의 상단에 위치시키게 할 것입니다. 현재 존재하는 대학살 부정론과 맞서는 페이지들 역시 “종종 부정론은 “대학살이 일어났나요? 라는 질문을 던지며 나타납니다.” 등의 문장을 포함 시키며 페이지와 해당 질문의 관련성을 증가시키는 키워드를 구글에 제공할 수 있습니다. (이 경우 구글 알고리즘의 추가적인 수정이나 관련 뉴스 보도로 인해 대학살 추모 박물관의 게시물은 더 두드러지게 구글의 검색 결과 페이지에 나타날 수 있습니다)

물론 위와 같은 방법이 대학살을 부정하는 사이트를 구글의 검색 결과, 심지어 첫 페이지에서 사라지게 하지는 못할 것입니다. 대학살 부정론자들의 기존에 가지고 있는 생각과 일치하는 정보만을 찾고자 하는 노력을 단념시키지도 못하겠죠. 대학살을 부정하는 사람들은 대부분 역사적 기록을 선택적으로 해석하고, 뿌리 깊은 반유대주의를 가지고 있습니다. 어떤 웹사이트도 일거에 그런 믿음을 고치거나 뿌리 뽑지는 못합니다.

하지만 거짓된 정보와 함께 정확한 정보를 제공하며 우리는 아직 그런 믿음을 내재화하지 않은 사람들을 멈추게 할 수 있죠. 또한, 우리는 대학살 부정론자와 음모론자에 맞서 진실과 사실을 퍼뜨리고자 하는 사람들에게 더 유용한 방법을 제공할 수 있습니다. (더 컨버세이션)

원문링크