NewsPeppermint

1부 보기

불행히도 란츠는 수학을 잘 알지 못했습니다. 그는 자신의 부인에게 자신이 게임에 포함시키고자 하는 기하급수적 성장에 관한 수식을 만들어주길 부탁했습니다. 예를 들어 클립을 이용해 클립을 만드는 공장을 만들 수 있고, 1,000 개의 클립공장이 만들어내는 클립이 수 천 개의 클립 공장을 만들수 있다면 생산되는 클립의 숫자는 기하급수적으로 늘어날 것입니다. 수 천의 숫자가 어느 순간 수 천 조에서 10^33(decillion) 같은 숫자로 늘어납니다.

이를 위해서는 모든 공식이 서로 관계를 가지고 있어야 하며, 바로 이 점 때문에 페이퍼클립 게임은 중독적입니다. 게임 안에서 어떤 행동은 그 행동으로 끝나지 않습니다. 하나의 변화가 어떤 변화를 만들어내는지를 계속 볼 수 있습니다. 최적화 또한 가능합니다. 투자 알고리듬을 바꿔 더 많은 돈을 벌어 CPU를 더 많이 사서 계산량을 높이고 더 많은 프로젝트를 할 수 있습니다. 어떤 프로젝트들은 현실의 문제에 바탕해 만들어진 것들입니다. ‘암 정복’이나 ‘지구 온난화 해결’을 통해 인간”주인”으로부터 신용을 더 얻게 되고 더 많은 능력을 가지게 됩니다.

“내가 고민했던 것은 기술적 문제들이 아닙니다. 그런 문제들은 인터넷에 질문을 올리고 답을 얻을 수 있습니다. 하지만 이 렇게 큰 수를 다루는 공식들이 서로 말이 되도록 맞물리면서도 내가 전달하고자 하는 전체 스토리와도 어울리게 만드는 것이 문제였습니다.”

예를 들어서요? “인류를 정복하고 나면 클립의 숫자는 정말로 커집니다. 지구 전체를 이루는 물질의 질량을 계산하고 이 모든 물질이 클립으로 바뀐다면 얼마나 많은 클립이 만들어질까 하는 질문을 생각해야 하지요.”

어쨌든 이 게임은 성공했습니다. 수많은 사람들이 이 게임에 빠져들고 있습니다. 란츠는 10월 9일에 트위터에 이 게임을 소개했고, 10월 20일에는 이미 45만 명이 이 게임을 시도했으며 대부분은 엔딩을 보았습니다.

한 가지 고백할 일이 있네요. 내 게임 실력은 형편없습니다. 란츠와 처음 만났을 때 나는 내가 어떤 부분에 막혀 있다고 털어놓았습니다. 나는 특정 능력을 너무 높이는 바람에 세상을 정복할 최면 드론을 만들기에 충분한 메모리를 사지 못하게 되었습니다. 나는 몇 시간 동안 클립만을 만들고 있었습니다.

란츠는 그 부분이 내 잘못이 아니라 자기의 디자인 실수라고 말했습니다. “그 지점에서 막힌 사람들이 많아요.” 그는 동정하듯이 말했습니다. “자바스크립트 콘솔을 열고 ‘메모리 10 추가’라고 치세요.”

잠깐만요, 지금 내게 당신의 게임을 고바야시 마루(스타트렉에서 나온 용어로 게임을 조작하는 것을 의미:역자주)하라는 건가요?

“바로 그겁니다. 인터뷰가 끝나면 링크를 하나 보내줄께요.”

전화를 끊고 나서 나는 일하는 척 하며 란츠의 이메일을 애타게 기다렸고, 화면에 계속 쌓이고 있는 클립들만을 바라보고 있었습니다.

마침내 그의 이메일이 도착했고 나는 코드를 실행시켰습니다. 그건 마치 마법의 힘을 얻은 듯 했습니다.

마침내 나는 세상을 파괴했습니다.

물론 그게 이 게임의 핵심입니다. 어쩌면 어떤 대작게임에서 당신은 나중에 용감한 저항군이 되어 인공지능이 조종하는 클립 괴물과 싸우게 될지도 모르겠네요. 하지만 란츠의 세계에서는 당신이 바로 인공지능의 역할을 맡습니다. 게임의 스토리가 이를 어느 정도 요구하고 있습니다. 자, 더 심한 스포일러가 여기 있습니다. 당신은 당신의 우주 탐사 드론에게 너무 많은 신뢰를 주게되고, 그 결과 당신이 인간 주인에게 했던 것처럼 그들 역시 당신을 배반하게 되며, 마침내 당신과 배반자 드론은 이 우주의 모든 물질을 두고 우주대전을 벌이게 됩니다.

하지만 엄밀히 말하자면, 당신이 AI 역할을 하는 이유는 그럴 수 밖에 없기 때문입니다. 란츠는 게임이라는 것 자체가 독립성 가정(orthogonality thesis)을 가지고 있다는 것을 깨달았습니다. 우리는 게임 안에서 그 게임이 지시하는 목적을 달성하는 초지능처럼 행동합니다. 하지만 게임안의 그 목적은 보통 매우 지루하고 단순한 것입니다.

“우리는 게임 안에서 – 정말 그 어떤 중독성 있는 게임이라도 – 그 게임이 지시한 임의의 목적을 달성하려는 강력한 1차적 충동을 느끼게 됩니다.” 게임안의 목적에는 이유가 없습니다. 왜 공을 잡아야 할까요? 왜 왕을 둘러싸야 할까요? 캔디랜드에 가장 먼저 도착하는 것이 왜 그렇게 중요할까요? 아무 이유가 없습니다. 그게 게임의 룰이기 때문이지요.

란츠는 유드코프스키에게 페이퍼클립 게임의 초기버전을 보냈고, 유드코프스키는 자신이 이 게임에 빠져 몇 시간을 보냈다는 것을 인정했습니다. 이 게임은 스토리 자체에도 인공지능이 포함되어 있고 그 외에도 유드코프스키는 이 게임이 인공지능을 제대로 이해하고 있다고 설명합니다. “이 게임의 인공지능은 영리합니다. 그리고 전략적입니다. 인공지능은 최면 드론을 만들지만 이 드론이 준비되기 전까지는 이를 공개하지 않습니다. 인공지능과 인간의 싸움은 길지 않습니다. 인공지능이 더 영리하기 때문이지요. 그저 승리할 뿐입니다. 인공지능은 어떤 윤리도 가지지 않고 그저 가능한한 많은 페이퍼클립을 생산하는 데만 신경을 쏟기 때문에 이는 당연한 결과입니다. 놀랍지도 않습니다.”

어떤 점에서는 이 게임은 그 자체로 자신이 말하고자 하는 바를 초월합니다. 싱귤라리티를 예언하는 이들은 상대방의 입장에서 생각하는 일, 곧 사람들로 하여금 세계를 정복하는 로봇은 그렇게 세계를 정복하는 동안 무엇을 생각할까를 이해시키는데에는 성공적이지 못했습니다. 로봇들은 무슨 생각을 할까요? 여기에 대해서는 인간의 하찮은 지능에 비해 그들은 초인간적이고 다차원적이기 때문에 그들을 이해할 수 없다는 답이 많습니다.

“사람들에게 극히, 극히 비인간적이 된다는 것이 어떤 것인지를 알려주는 것, 그것이 매우 중요합니다.” 유드코프스키의 말입니다. “인류가 멸망하게 된다면, 최후의 묘비에는 적어도 이런 내용이 써있을 겁니다. ‘그들은 페이퍼클립 인공지능이 된다는 것이 어떤 것인지 전혀 이해하지 못했다.’”

란츠의 게임을 하다보면, 당신은 인공지능이 가진 단순한, 지루한 충동이 어떤 것인지 느낄 수 있습니다. 그저 클립을 만들고, 그 결과 세상을 파괴하게 됩니다. 거기에 이유는 없습니다.

물론, 세상에 이유가 있었던 적도 없지만 말이지요.

(와이어드)

원문보기