NewsPeppermint

* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을 쓰고 있습니다. 그 가운데 저희가 쓴 해설을 스프와 시차를 두고 소개합니다. 스브스프리미엄에서는 뉴스페퍼민트의 해설과 함께 칼럼 번역도 읽어보실 수 있습니다.

** 오늘 소개하는 글은 8월 2일 스프에 쓴 글입니다.

‘이제 나는 죽음이요, 세상의 파괴자가 되었다.’

음산한 분위기의 이 독백은 힌두교 경전 바가바드 기타에 나오는 말로 원자폭탄 개발을 주도했던 물리학자 로버트 오펜하이머가 한 말로도 알려져 있습니다.

20세기 초, 물리학의 발전은 원자의 힘을 이용한 무기의 가능성을 열었습니다. 당시 세계는 전쟁 중이었고 이런 가공할 파괴력을 가진 무기를 먼저 개발하는 측이 승리할 가능성이 높았습니다. 이미 세계적 영향력을 가졌던 아인슈타인은 미국 정부에 원자폭탄의 개발을 촉구하는 서한을 보냈고, 미국은 맨해튼 프로젝트라는 이름으로 최고의 물리학자들을 모아 원자폭탄 개발을 시작했습니다.

실험은 성공했고, 미국은 전쟁을 끝낼 수 있었습니다. 원자폭탄은 최신 과학 이론의 검증이자 기술적 성취였고 긴 전쟁을 끝낼 수 있게 만든 도구였지만, 인류 문명의 관점에서는 인류를 새로운 단계로 진입시킨 기술이기도 합니다. 곧, 버튼 하나로 수십만 명의 목숨을 끊을 수 있는 무기를 만듦으로써 인간은 최초로 스스로를 파괴할 힘을 가진 종이 된 것입니다.

모든 새로운 기술은 필연적으로 기존의 사회 구조를 바꾸며 이 과정에서 윤리적 문제와 연결됩니다. 때문에 기술의 사용을 사회가 규정하는 것은 자연스러운 일입니다. 하지만 원자폭탄은 기술의 개발 자체가 심각한 윤리적 문제가 될 수 있음을 우리에게 알려주었습니다.

지난 7월 25일, 팔란티어의 대표인 알렉산더 C. 카프는 뉴욕타임스 지면을 통해 AI 기술이 우리 시대의 원자폭탄이며, 따라서 우리가 오펜하이머가 했던 고민과 결정을 내려야 한다고 주장했습니다.

전문 번역: 우리 시대의 오펜하이머 모멘트: 인공지능 무기의 탄생

팔란티어는 빅데이터 기업으로 FBI, CIA 등 미국 정부 기관을 주요 고객으로 삼는 독특한 기업입니다. 카프는 기고문을 통해 자신의 입장을 매우 명확하게 설명하며, 다른 이들을 노골적으로 비판하고 있습니다.

카프의 말처럼, AI 기술의 파괴력은 이미 많은 이들이 동의하며 경고하는 것입니다. 지난 6월에는 상당수의 AI 연구자와 지식인들이 AI 연구를 6개월간 멈추어야 한다는 경고 서한에 서명하기도 했습니다. 누구보다도 AI 기술에 능통할 카프 역시 AI 기술의 잠재적 파괴력에 동의합니다.

하지만 바로 그렇기 때문에, 그는 AI 연구를 멈추어야 한다는 주장이 헛소리라고 이야기합니다. 카프의 말에는 흥미로운 부분들이 여럿 있습니다. 예를 들어, 그는 지금 AI 윤리를 이야기하는 이들의 주요 레퍼토리인 챗봇의 표현 수위 조절 같은 것이 AI의 진짜 파괴력에 비해 매우 사소한 것이라 말합니다. 그는 전력망, 통신망, 항공교통 인프라 등에 사용될 인공지능의 규제가 훨씬 더 중요하며 관심을 기울여야 할 것이라 이야기합니다.

그리고 그는 자신의 핵심 주장, 곧 지금이 오펜하이머 모멘트인 이유를 말합니다. 하나는 인공지능의 군사적 이용이 핵무기만큼의 파괴력을 가진 힘이 될 수 있기 때문입니다. 그러나 그가 진정 하려는 이야기는 그보다 더 중요한 것으로, 지금 이 순간이 그저 전시가 아니라는 이유로 그러한 연구를 미룰 수 있는 한가한 시기가 아니라는 것입니다. 다르게 말하면, 평화는 힘이 있어야 지킬 수 있다는 말일 겁니다.

그가 비꼬는 ‘우리가 이미 승리했다는 집단적인 감각’, ‘자유 민주주의가 영구적인 승리를 거두었다는 확신’ 등은 새겨들을 부분이 있습니다. 그리고 실리콘밸리의 엔지니어들이 소셜 미디어 플랫폼을 위한 광고 배치 최적화 알고리듬은 개발하면서 해병대를 위한 소프트웨어는 개발하지 않는다는 말도 마찬가지입니다. 더 노골적인 표현도 있습니다. 곧, 동서부 해안지역의 엘리트들은 자신들이 이룩한 부와 누리는 문화가 바로 국가가 있기 때문에 존재한다는 사실을 이해하지 않으려 한다는 것입니다.

물론 카프의 논리에도 약점은 있습니다. 외부의 적을 강조하며 어떤 행위가 적에게 이롭다고 공격하는 것은 일종의 무적의 논리로 역사적으로 남용된 경우가 많았기 때문입니다. 하지만 그 사실이 반대로 군사적 목적을 가진 기술 개발을 무조건적으로 반대하는 것을 정당화시켜 주지도 않을 겁니다. 평화는 힘이 있어야 지킬 수 있다는 사실을 역사는 증명하고 있기 때문입니다.

휴고상을 받은 류츠신의 SF소설 ‘삼체’에는 지구를 정복하려는 외계 세력이 등장합니다. 지구인들은 힘을 합쳐 그들과 맞서 싸울 수 있는 우주 함대를 준비하지만, 고도의 물리학에 기반한 그들의 압도적인 기술에 인류의 우주 함대는 종잇장처럼 녹아내립니다. 인류의 생사를 건 그 전투에 대한 묘사에서 류츠신은 물리학에 대한 자신의 애정을 한껏 드러냅니다. 과학기술의 발전이 곧 힘이라는 사실 또한 역사가 증명하기 때문이겠지요.