NewsPeppermint

* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을 쓰고 있습니다. 그 가운데 저희가 쓴 해설을 스프와 시차를 두고 소개합니다. 스브스프리미엄에서는 뉴스페퍼민트의 해설과 함께 칼럼 번역도 읽어보실 수 있습니다.

**오늘 소개하는 글은 10월 11일 스프에 쓴 글입니다.

뇌의 신경망을 흉내내 지적인 문제를 풀게 만들겠다는 야심찬 기술이 처음 등장했을 때 이들이 실제로 인간의 지적 능력을 흉내 낼 수 있게 될 거라 생각한 사람은 많지 않았습니다. 하지만 수십 년을 이 기술에 매달린 이들은 21세기 하드웨어의 발달과 더불어 2010년대 초 마침내 딥러닝이라는 이름으로 개와 고양이 사진을 인간만큼 구별해 낼 수 있었습니다.

그러나 그 시점에서도 여전히 다수의 사람들은 딥러닝이 그 이상을 보여줄 수 있을지 의구심을 가지고 있었습니다. 2016년, 이 기술에 기반한 알파고가 바둑에서 인간을 이기자 사람들의 흥분은 커졌습니다. 그리고 2022년, 생성AI 기술에 기반한 챗GPT는 거의 모든 질문에 대해 보통 사람보다 더 답을 잘하고 있습니다.

새로운 기술은 사람들을 놀라게 하며, 그 놀라움에는 자신이 이를 이해하지 못한다는 사실에 바탕한 두려움이 포함되어 있습니다. 그리고 그 두려움은 다양한 방식으로 표출됩니다. 물론, 영화 오펜하이머가 보여주듯, 어떤 기술은 실제로 역사를 바꾸고 수많은 사람들의 삶에 영향을 미치기도 합니다. 따라서 80년 전의 원자폭탄보다도 인류에 더 큰 영향을 미칠 것이라 예상되는 AI 기술에 사람들이 두려움을 느끼고 이를 경고하는 것은 어떻게 보면 당연한 일일 수 있습니다.

하지만 흥미로운 것은 AI의 위험에 대한 경고에는 여러 다른 주장들이 섞여 있다는 것입니다. 어떤 이들은 전형적인 SF 영화의 내용처럼 AI가 인간이라는 종 자체를 지배하거나 말살할 것이라 생각합니다. 반면, 어떤 이들은 이런 두려움을 코웃음치며 그보다 지금 AI가 사용되는 방식에서 이 시대에 맞는 도덕을 AI가 따르지 못한다고 지적합니다. 그리고 AI 기술을 마치 원자폭탄처럼 적국과 같이 다른 집단에서 차지할 경우 일어나게 될 위험을 이야기하는 이들도 합니다.

지난 9월 28일 뉴욕타임스의 오피니언 란에는 이런 AI의 위험에 대한 경고를 이해하기 위해서는 그 주장을 하는 이들의 이해관계를 함께 보아야 한다는 글이 실렸습니다.

전문 번역: 인공지능 전쟁에 참전한 세력들 모두가 추구하는 그것

브루스 슈나이어는 하버드 케네디 스쿨의 강사로 ‘당신은 데이터의 주인이 아니다’의 저자이며 저와는 출간 당시 이메일 대담을 나눈 적이 있는 보안 전문가입니다.

이들은 AI 위험에 대한 경고를 명쾌하게 세 진영으로 구분합니다. 첫 번째 진영은 종말론자 진영으로 AI가 무소불위의 힘을 가지고 있으며 따라서 AI 개발에 극단적인 조심을 해야 한다고 말합니다. 흥미로운 것은 제프리 힌턴이나 요슈아 벤지오와 같은 AI 기술을 가장 잘 알고 있는 학자들이 상당수 여기에 속해 있다는 것입니다. 이들은 최근 AI 연구를 모두 멈추자는 제안을 하기도 했습니다. 하지만 이들의 말처럼 AI가 인간이 통제할 수 없는 또 다른 지성이 될 가능성에 동의하기는 어렵습니다.

다른 진영은 개혁론자 진영으로 이들은 지금 눈앞에서 AI가 작동하는 방식에 문제가 있다고 말합니다. 곧, AI가 학습하는 데이터에 포함된 인종차별이나 성차별이 그 AI가 사용될 때 그대로 나타난다는 것입니다. 이는 AI가 가진 본질적인 문제이지만 다른 한편으로 우리가 AI의 바람직한 모습에 동의한다면 대부분 제어가능한 문제입니다. 곧, AI 기술로 돈을 버는 이들에게 적절한 규제를 가함으로써 해결할 수 있다는 뜻입니다.

마지막 진영은 AI 기술을 원자폭탄처럼 특정 집단에게 큰 힘을 부여할 기술로 보아 이를 누가 가져야 하는가에 주목하는 이들입니다. 앞의 두 진영이 인간과 AI 기술을 대비시킨다면, 이 진영은 인간을 다시 집단으로 나눈다는 점에서 더 현실적이라 할 수 있습니다. 스프는 얼마 전, 이 진영을 대표하는 플란티어 수장의 글을 소개한 적이 있습니다.

슈나이어와 샌더스는 결국 이들의 다양한 경고가 그들의 이익을 위한 것이라는 사실을 강조하며 다음과 같은 대안을 제시합니다. 곧, 테드 창의 말처럼, AI에 대한 공포는 자본주의에 대한 공포와 닿아있다는 것입니다. 과거 규제되지 않는 자본주의는 인간의 조건을 위협한 바 있습니다. 따라서 우리가 자본주의를 규제한 것처럼 AI를 규제해야 하며, 이는 선하고 효과적인 지배구조를 만들기 위한 규제가 있어야 한다는 뜻입니다. 또 기업이 아닌 공공이 제공하는 선택가능한 AI 기술을 이야기하기도 합니다. 이 부분은 MS의 윈도우에 대항했던 리눅스가 떠오르네요.

20세기 인류의 과학기술은 특이점을 연상시킬 정도로 급속도로 발달했습니다. 상대론과 양자역학은 우주의 신비와 가장 작은 입자의 움직임을 풀었습니다. 반도체와 정보이론, 그리고 생명의 신비에 대한 지식은 인류에게 모든 가능한 지식의 끝을 향해 달려가게 만들었으며 21세기 등장한 AI는 이 모든 기초기술에 기반한 것인 동시에 기술의 발전 속도를 더욱 가속화시킬 것으로 기대되고 있습니다. 이런 상황은 아서 C. 클라크가 말한 ‘유년기의 끝’을 어쩌면 우리 세대가 보게 될지 모른다는 기대를 하게 만듭니다. 물론 이 모든 것은 인류가 AI 기술을 어떻게 대하느냐에 따라서 달라질 것입니다.