세상의 종말: 핵전쟁이 아니라 작은 클립 때문에(1/2)
디자이너 프랭크 란츠의 게임 페이퍼클립(Paperclips)의 시작화면은 단순합니다. 화면의 왼쪽 위에, 아마 타임스뉴로만 폰트로 보이는 ‘클립 만들기(Make Paperclip)’와 몇 개의 조절 버튼이 있을 뿐입니다. 클립 만들기 버튼을 누르면 화면 위 클립의 숫자가 0 에서 1로 바뀝니다.
하지만 이 게임의 엔딩은 – 스포일러를 주의하세요! – 우주의 종말입니다.
뉴욕대학의 게임센터 소장인 란츠는 스토리를 가진 중독적인 클릭커 게임에 기하급수적 성장이라는 개념과 인공지능에 의한 종말이라는 주제를 담았습니다.
“처음에는 자바스크립트를 연습할려고 시작했지요. 하지만 곧 여기에 나는 완전히 빠져들었습니다.” 란츠의 말입니다. “나는 임의의 숫자를 최대화 하는 이런 단순한 게임에서 주인공이 인공지능이고 목표가 클립을 만드는 것이라면 재미있겠다는 생각이 들었습니다. 그렇게 게임이 나왔습니다.”
란츠는 처음 이 생각을 떠올리고 주말 이틀을 이용해 이 게임을 만들려고 했습니다.
하지는 그가 이 게임을 완성하는 데는 아홉 달이나 걸렸습니다.
그리고 이 게임은 사람들의 입소문을 타게되었지요.
클립을 만드는 인공지능이라는 생각을 처음 떠올린 것은 란츠가 아닙니다. 옥스포드의 철학자 닉 보스트롬은 자신의 책 “슈퍼인텔리전스(Superintelligence)”에서 이 아이디어를 소개했습니다. 보스트롬은 컴퓨터가 진정으로 영리해졌을 때 일어날 일들을 많이 다루었기 때문에 종종 “‘운명의날(doomsday)’의 철학자”라 부릅니다. 여기서 말하는 진정한 영리함은 “헉 알렉사가 내 말을 듣고 NPR 뉴스를 틀어주는데?”같은 종류의 영리함이 아닌 진짜 영리함입니다.
2003년 보스트롬은 인류에게 혹은 한 명의 사람에게 충성하는 초인공지능이 충분히 가능하다고 썼습니다. 하지만 그는 이렇게 덧붙였습니다. “초인공지능의 목적은 예를 들어 클립을 가능한 한 많이 만드는 것과 같은 사소한 것일 수 있다. 하지만 그는 이를 방해하는 모든 시도에 저항할 것이다.” 만약 그렇다면요? “이 인공지능은 모든 지구의 자원을 클립을 만드는 데 사용할 것이고 우주로 진출해 모든 것을 클립을 만드는 공장으로 바꾸게 될 것이다.”
이메일로 보스트롬에게 이 게임에 대한 의견을 물었을 때 그는 답을 거부했지만 그의 비서는 이렇게 내게 답장했습니다. “아 그 페이퍼클립 게임 말이군요. 사람들이 너무 그 게임 이야기를 많이 해서 보스트롬도 게임을 살펴 봤어요. 하지만 아직 의견을 말한 적은 없어요.”
인공지능 비관론자인 보스트롬의 동료 중 한 명이 세계의 종말로써의 페이퍼클립에 대해 의견을 주었습니다. “내가 했을 법한 이야기이기도 하고, 닉 보스트롬이 했을 법한 이야기이기도 합니다.” 기계지능 연구소의 선임 연구원 일라이저 유드코프스키의 말입니다. 그는 아마 이 아이디어가 수 년 전, 싱귤라리티 카산드라라는 메일링 리스트에서 처음 나왔을 것이라고 말합니다. “클립 공장이 세상에서 가장 뛰어난 인공지능을 가졌을 것이라는 뜻은 아닙니다. 이 예는 초인공지능이 임의의 목적을 가질 수 있다는 독립성 가정(orthogonality thesis)을 나타내기 위한 것입니다.”
그렇다면 뭐가 문제일까요? 이 인공지능이 클립의 수를 늘이는 것을 목표로 삼는다면, 이는 이 인공지능을 만든 사람의 의도를 따르는 것이지 않나요? “문제는 이 인공지능의 진화를 제작자들이 따라잡지 못한다는 것입니다. 인공지능의 효용함수는 처음과 달라지게 됩니다. 그리고 자신의 효용함수를 만족시키는 것을 최우선으로 두게 됩니다.”
인공지능이 점점 더 많은 지능과 자원을 동원해 클립을 만들게 된다면… 물론 처음에는 인간에게 도움이 되겠지만 결국에는 우리 인간 마저도 클립으로 만들어버린다는 것입니다. 지구상의 모든 물질과, 그리고 그외의 모든 것을 클립으로 만들게됩니다.
“이는 우리가 인공지능을 이해하지 못하게 되는 것과는 다릅니다. 서로 다른 가치관을 가지는 것이지요.”
음, 이렇게 말하니 게임이 재미없어 보이는군요. 하지만 이 게임은 분명 재미있습니다. 란츠는 페이퍼클립 게임을 만드는 데 “클릭커” 혹은 “인크리멘탈”라 불리는 게임장르를 이용했고, 오히려 다른 게임들보다 더 이 장르의 특성을 가지게 되었습니다.
클릭커란 예전에 유행한 팜빌(Farmville)과 같은 게임을 말합니다. 이런 종류의 게임은 너무나 인기를 끌었기에 게임이론가이자 작가인 이안 보고스트는 일종의 패러디인 카우 클릭커(Cow Clicker)를 만들기도 했습니다.
보고스트와 란츠는 친구사이입니다. “나는 카우 클릭커를 처음 봤을 때 흥미롭다고 생각했습니다. 하지만 더 재미있게 만들 수 있겠다고 생각했지요. 물론 이안은 이렇게 말할겁니다. ‘프랭크, 그게 바로 이 게임의 핵심이야.’” 란츠의 말입니다.
하지만 란츠는 어떻게 해야 클릭커 게임을 더 재미있게 만들 수 있을지를 알았습니다. 그는 막대한 예산이 들어간, 뛰어난 그래픽의 대작 게임과 클릭커 게임이 마치 프로그레시브 락과 펑크의 관계와 비슷하다고 생각했습니다. 클릭커 게임은 사람을 수동적으로 만들고 게임 내의 법칙에 몰입하게 만드는 것이 가능합니다. “클릭커 게임들의 특징은 첨단 효과로 무장한 비디오게임의 시대에 더욱 돋보이는 극단적인 단순함입니다. 나는 사람들이 클릭커 게임을 쓰레기로 생각한다는 점이 마음에 듭니다.”
란츠는 영감을 얻기위해, 단순하게 고양이로 가득찬 마을을 만드는 게임처럼 보이지만 사회가 어떻게 구성되는지를 보여주는 게임인 키튼(Kittens) 같은 게임에 주목했습니다. (“나는 사람들이 이런 게임을 몇 달, 몇 년 동안 계속 하는 이유가 분명히 있을 것이라 생각합니다.” 알마(Alma)라는 별명으로 활동하며 취미로 게임을 만드는, 키튼 게임 디자이너의 말입니다. “대작 게임들도 종종 같은 주기적 도파민 자극 기볍을 사용합니다. 하지만 그런 게임은 사용자를 진정 행복하게 만들지 못합니다.”)
란츠는 싱귤라리티에 관해 다양한 논의가 이루어지는 철학 사이트 “레스 롱(Less Wrong)”의 글들을 읽었습니다. 그는 보스트롬의 “초지능(Superintelligence)”을 읽었고 클립 가설을 알고 있었습니다. 그는 보다 견고한 수학적 기반이 필요하다는 것을 깨달았습니다.