민주주의를 위협하는 인공지능
미국의 거대 기술 기업인 마이크로소프트는 정부의 감시와 검열 능력 향상을 돕는 인공지능 체계를 만들기 위해 중국 군부 산하 대학과 협력하고 있습니다. 두 명의 미국 상원 의원은 이를 공개적으로 규탄했죠. 하지만 중국의 국방과학기술대학과 마이크로소프트 간 협력 외에도 우리가 걱정해야 하는 일이 많이 벌어지고 있습니다.
제 연구가 보여주듯 디지털을 통한 억압은 시민과 국가 간 관계에 많은 영향을 끼치고 있습니다. 새로운 기술은 정부에게 개인을 감시하고 추적할 수 있는 능력을 주었죠. 심지어 법의 지배에 따르는 전통을 가지고 있는 민주 정부까지 이 기술을 남용하고 싶은 유혹에 시달리고 있습니다.
인공지능 체계는 인권에 대한 존중이 높지 않은 국가에서 가장 큰 위험을 만들어낼 가능성이 큽니다. 중국이 중요한 예죠. 중국 지도부는 열성적으로 인공지능 기술을 받아들이며, 세계에서 가장 정교한 감시 국가를 신장 지역에 설립했습니다. 해당 기술은 시민의 움직임과 스마트폰 사용을 매일 추적합니다.
중국이 인공지능 기술을 이용하는 방식은 비슷한 독재국가에 모델이 되고 있으며, 열린 민주사회에도 직접적인 위협을 끼칩니다. 비록 다른 정부가 인공 지능을 이용해 비슷한 감시를 한다는 증거가 아직 존재하지는 않지만, 현재 중국 기업은 자신이 사용하는 기술을 전 세계에 활동적으로 수출하고 있습니다.
인공지능에 점차 의존하는 미국.
인공지능 체계는 스마트폰, 인터넷 검색 엔진, 디지털 음성 비서, 넷플릭스 영화 추천 등 현대 사회 모든 곳에 존재합니다. 많은 사람이 알아차리지는 못하지만, 인공지능은 엄청난 양의 데이터, 향상된 알고리즘, 고급 컴퓨터 칩에 힘입어 계속 확장되고 있습니다.
앞으로 더 많은 정보가 이용 가능해지고 분석이 쉬워지며 독재 정부뿐 아니라 모든 정부가 인공지능 체계에 관심을 가질 것입니다. 이미 1970년대 미국에서는 FBI, CIA, NSA 같은 정부 기관이 시민 권리 집회 참가자, 정치 행동주의자, 미국 원주민 집단을 감시하고 억압하기 위해 광범위한 국내 감시 네트워크를 가지고 있다는 폭로가 있었습니다. 이러한 문제는 아직도 존재하죠: 오늘날 디지털 기술은 더 많은 기관이 감시할 수 있는 능력을 갖추게 했습니다.
예를 들어, 미국 경찰은 이미 인공지능 기술을 열성적으로 받아들이고 있습니다. 그들은 순찰 근무 중인 경찰을 어디로 보낼지를 결정하기 위해 범죄가 일어날 지역을 예측하는 소프트웨어를 사용하죠. 또한, 미국 경찰은 범죄 수사에 얼굴 인식과 DNA 분석을 이용하고 있습니다. 하지만 인공지능을 통한 분석의 경우 때로 훈련을 위한 데이터가 편견을 포함하고 있으며, 그 결과 흑인이 다른 인종 집단보다 더 범죄를 저지를 가능성이 크다는 등의 불공평한 분석 결과를 내놓기도 하죠.
전 세계적으로 이루어지는 인공지능을 통한 감시.
독재 국가에서 인공지능 체계는 치안 부대가 소셜미디어 게시물, 문자 메시지, 이메일, 전화 같은 엄청난 양의 정보를 빠르고 효율적으로 처리하게 만들며 국내 통제와 감시를 돕습니다. 경찰은 인공지능 체계를 통해 알려진 정보를 이용해 사회적 경향이나 정권에 위협이 되는 특정 사람을 파악해냅니다.
예를 들면, 중국 정부는 인공지능을 중국 내 소수 민족이 거주하는 지역을 단속하기 위해 사용하고 있습니다. 신장과 티베트 지역의 감시 체계는 “오웰리언적(전체주의적)”이라고 묘사되죠. 의무적인 DNA 표본 수집, 와이파이 네트워크 감시, 광범위하게 존재하는 얼굴 인식 카메라를 통해 얻은 데이터는 통합된 데이터 분석 플랫폼에 연결되어 있습니다. 미국 국무부의 분석에 따르면 중국 정부 당국은 위 체계의 도움으로 일백만에서 이백만의 사람을 “독단적으로 억류했습니다.”
제 연구는 닫힌 독재주의부터 미흡한 민주주의까지 다양한 정치 체계를 가진 태국, 터키, 방글라데시, 케냐 등의 90개 국가를 분석했습니다. 그 결과, 중국 기업이 인공지능 감시 기술을 최소 54개 국가에 수출했다는 사실을 발견했죠. 흔히 이 기술은 중국의 일대일로 이니셔티브(Belt and Road initiative, BRI)의 일부로 포장됩니다. BRI는 세계 인구의 60%가 사용하는 광범위한 육로, 철로, 에너지 파이프라인, 통신 네트워크와 전 세계 GDP의 40%를 만들어내는 경제에 자금을 지급하는 계획입니다.
화웨이나 ZTE 같은 중국 기업은 파키스탄, 필리핀, 케냐에 광범위한 감시를 가능하게 하는 “스마트시티”를 만들고 있습니다. 화웨이는 필리핀의 보니파시오 글로벌 시티에 24시간 작동하는 고화질의 카메라를 공급해 “인공지능 보안 감시”를 가능하게 하고, 범죄를 발견하고 교통을 관리하는 데이터 애널리틱스 기술을 공급했습니다.
하이크비전, 이투, 센스타임 역시 최신 얼굴 인식 카메라를 싱가포르와 같은 국가에 제공하고 있습니다. 싱가포르는 최근 110,000개의 카메라가 부착된 가로등 기둥을 도시 국가 주변에 놓는 감시 프로그램을 설립하겠다고 발표했죠. 짐바브웨는 얼굴 인식에 사용될 국가 이미지 데이터베이스를 만들고 있습니다.
하지만 수익을 위한 고급 장비 판매는 지정학적 목적을 위한 기술 공유와는 다릅니다. 이러한 새로운 능력은 전 세계적인 감시의 씨앗을 뿌리는 행위가 될 수 있습니다: 정부들이 국민을 관리하고 권력을 유지하고자 중국 기술에 더 의존하게 될수록 중국의 의제에 동조해야 한다는 압력을 더 많이 느끼게 되죠. 하지만 현재 중국의 주된 목적은 새로운 기술의 시장 지배와 수익 창출인 것처럼 보입니다.
인공지능과 허위 정보.
전면적이면서도 세부적인 감시 능력을 제공하는 것에 더해 인공지능은 억압적인 정부가 이용 가능한 정보를 조작하고 허위 정보를 퍼뜨리는 것을 돕습니다. 이런 캠페인은 자동화되어 있거나, 적어도 자동화 프로그램의 도움을 받습니다. 또한, 특정 개인이나 집단을 향하거나, 피하고자 맞춤형 메시지를 효율적으로 사용하죠.
인공지능은 진짜처럼 보이고 들리는 위조된 비디오와 오디오를 알고리즘을 통해 만들어내는 “딥페이크” 기술을 보강합니다. 어떤 정보가 진실이고 허구인지를 교란하는 것은 치열한 선거에서 유용한 전략입니다. 후보자는 이 기술을 이용해 경쟁자가 실제로 일어나지 않은 말과 행동을 한 것처럼 보이는 가짜 비디오를 만들 수 있습니다.
민주주의 사회의 정책입안자는 인공지능 체계가 민주 사회와 독재 정권하에 놓여있는 사람들에게 가져올 수 있는 위험에 대해 신중하게 생각해야 합니다. 얼마나 많은 국가가 중국의 디지털 감시 모델을 채택할지는 중요한 질문이 될 수 있겠죠. 하지만 이런 기술에 단지 독재 국가만이 관심을 두고 있는 것은 아닙니다. 또한, 오직 중국 기업만이 이런 기술을 전파하는 것도 아니죠: 마이크로소프트, IBM, 시스코, 써모피셔를 포함한 많은 미국 기업 역시 끔찍한 정부에게 디지털 기술을 통한 감시 능력을 제공합니다. 인공지능의 오용은 독재 국가에만 제한되어 있지 않습니다.
(더컨버세이션, Steven Feldstein)