NewsPeppermint

* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을 쓰고 있습니다. 그 가운데 저희가 쓴 해설을 스프와 시차를 두고 소개합니다. 스브스프리미엄에서는 뉴스페퍼민트의 해설과 함께 칼럼 번역도 읽어보실 수 있습니다.

**오늘 소개하는 글은 11월 29일 스프에 쓴 글입니다.

*** 이번 해설은 뉴욕대학교 컴퓨터과학과 조경현 교수가 아메리카노에서 정리한 인터뷰를 바탕으로 썼습니다.

지난 17일부터 22일까지 닷새간 오픈AI의 CEO 샘 알트만이 갑자기 해고됐다가 복귀하는 과정은 하루하루, 매 순간이 마치 한 편의 드라마 같았습니다. 샘 알트만은 이미 세계적인 유명 인사였고, 혹여 알트만을 잘 모르는 사람이라도 그가 (경영을) 이끄는 오픈AI가 만든 챗GPT에 관해서는 아마 들어본 사람이 많을 테니, 온 세상의 이목이 오픈AI에 쏠린 것도 당연했습니다. 실제로 오픈AI와 챗GPT는 현재 기술 경쟁의 최첨단이라 할 수 있는 인공지능 기술을 상징하는 기업과 서비스라 해도 과언이 아닙니다.

샘 알트만은 대다수 직원의 두터운 신뢰를 받는, 나아가 동경의 대상이라고 할 수 있는 CEO였습니다. 그를 갑자기 내친 이사회가 결정을 되돌리는 데도 95%에 육박하는 오픈AI 대다수 직원의 압박이 크게 작용했습니다. 이들은 샘 알트만을 복귀시키지 않으면, 우리도 알트만을 따라 오픈AI를 떠나겠다는 연판장에 서명했죠.

도대체 오픈AI 이사회는 어떻게 멀쩡한 CEO를 하루아침에 해고할 수 있었을까요? 가장 큰 문제는 알트만이 오픈AI가 하는 영리 사업 부문만 이끌었다는 점입니다. 오픈AI 전체를 이끈 건 CEO 알트만이 아니라 알트만이 속한 오픈AI 전체 이사회였습니다. 이사회는 지난 2015년 설립할 때 세운 오픈AI의 사명을 완수하는 것이 책무의 전부입니다. 알트만도 (해임되기 전) 이사회의 일원이었지만, 여섯 명 중 한 명이었을 뿐 다수가 결의하면 이번처럼 얼마든지 CEO 자리에서 쫓겨날 수 있는 구조였습니다. 일어나지 않을 법한 일이었지만, 동시에 일어나지 말란 법도 없던 일을 오픈AI 이사회가 기어이 일으켰던 겁니다.

뉴욕타임스에서 자기 이름을 건 팟캐스트를 진행하는 칼럼니스트 에즈라 클라인도 이번 사태를 복기하며 의미를 짚은 칼럼을 썼습니다. 일지 별로 어떤 일이 일어났는지 다룬 자세한 분석은 제가 NYU 조경현 교수와 함께 이야기 나눈 아메리카노를 참고하셔도 됩니다.

전문 번역: 오픈AI 사태가 남긴 불안한 교훈

오늘은 이번 사태와 관련해 생각해 볼 수 있는 점 두 가지를 함께 짚어보겠습니다. 먼저 알트만을 멈춰 세우려던 기존 이사진 가운데 일부를 비롯해 실리콘밸리의 유명인사 중에 적잖은 이가 믿고 있다고 알려진 효과적인 이타주의(Effective Altruism, EA) 이야기, 그리고 인공지능 기술처럼 인류 전체에 큰 영향을 미칠 기술의 개발과 사업화, 그에 따르는 사회적, 도덕적 책임을 개별 기업에 지우는 게 옳은지, 아니면 정부가 나서야 하는지 그 책임 소재에 관한 이야기입니다.
효과적인 이타주의와 ‘AI 안전성’

먼저 효과적인 이타주의부터 살펴볼까요? 이번 사태에서 효과적인 이타주의는 ‘AI 안전성’이라는 이름으로 등장합니다. 기존 오픈AI의 이사 6명 가운데 샘 알트만과 그렉 브록만을 제외한 이사 4명이 뜻을 맞춰 둘을 전격 해고했는데, 특히 몇몇 이사는 알트만이 인공지능 기술이 초래할 위험에 대한 안전장치를 전혀 생각하지 않고 기술 개발에만 매달리는 데 불만을 품고 있었다는 겁니다. 공개적으로 밝혀진 내용은 없지만, 여러 기사가 AI 안전성을 우선에 두려는 이사들과 샘 알트만 사이에 마찰이 있었다고 전하고 있습니다.

효과적인 이타주의란 다른 사람을 돕는 최선의 방법을 찾아 이를 실천에 옮기는 일련의 운동과 전략을 뜻합니다. 전 세계에서 가장 시급한 문제들을 풀 최선의 해결책을 찾는 연구와 함께 연구 결과를 토대로 선한 일을 해서 세상에 실질적인 도움을 주는 커뮤니티를 지향한다고 소개돼 있습니다. 세상에 자원은 한정적이니, 남을 돕는 좋은 일에 기왕이면 자원을 낭비하지 않고, 목표한 바를 이룰 수 있다면 당연히 좋을 겁니다. 취지 자체는 문제 삼을 게 전혀 없는 운동입니다. 오히려 장려할 만한 일이죠.

그런데 문제는 효과적인 이타주의를 좇는 이들 가운데 일부가 우려하는 시나리오가 현실주의자들의 인식과 너무 동떨어질 때 일어나곤 합니다. 효과적인 이타주의자들이 가장 우려하는 건 이 세상에 서로 도울 인류가 멸망하는 끔찍한 시나리오인데, 자꾸 그 생각만 하다 보면 아주 희박한 확률로 일어날 재앙을 막기 위해 상당한 주의를 기울이고 많은 자원을 투입해야 한다는 결론에 이릅니다. 어떤 문제든 소 잃고 외양간 고치는 것보다 예방하는 게 낫긴 하겠지만, 보기에 따라 이런 주장이 불필요한 데 자원을 낭비하는 과도한 주장으로 느껴질 수 있습니다. 그러다 보면 마찰이 빚어지죠.

인공지능 기술은 인류에게 지금껏 누리지 못한 편리를 가져다줄 강력한 기술이지만, 동시에 잘못 쓰이면 재앙이 올 수도 있습니다. 바로 이 지점에서 경쟁 기업들과 치열한 경쟁을 벌이며 기술 개발에 박차를 가해야 하는 샘 알트만과, 기술 개발도 중요하지만 안전에 더 주의를 기울여야 한다는 이사회의 생각이 갈렸던 것으로 보입니다. 다만 이 문제는 에즈라 클라인도 지적했듯 “판단의 영역”입니다. 옳고 그름을 명확하게 나누기 어렵다는 뜻이죠. 어떤 선택을 하고 이를 실천에 옮기면 다른 선택지를 골랐을 때 무슨 일이 일어났을지 알 수 없게 됩니다. 예를 들어 영화 “터미네이터”에서 그린 디스토피아처럼 기계가 인간을 몰살시키는 재앙을 막기 위해 인간이 충분한 안전장치를 마련해 둔다고 가정합시다. 그리고 다행히 그런 일이 일어나지 않는다면, 이때 우리는 기계 문명에 의해 멸종당하지 않은 것이 우리가 신경 써서 만든 안전장치 덕분인지, 어차피 일어날 가능성이 매우 작던 일이니, 쓸데없는 데 돈을 낭비한 건지 영영 알 수 없습니다.

이사회가 극단적인 효과적인 이타주의자들이고, 알트만은 효과적인 이타주의에 아무런 관심이 없는 냉혈한 자본주의자인 것도 아닙니다. 오히려 샘 알트만도 효과적인 이타주의에 관심이 많은 편입니다. 2015년 비영리 단체로 출발한 오픈AI의 사명(mission)에 효과적인 이타주의가 상당 부분 녹아있고, 알트만도 엄연한 오픈AI의 이사였다는 점을 잊어선 안 됩니다. 다만 알트만(과 브록만)은 기술을 개발하고 제품을 만들어 파는 사업을 직접 담당하는 인물이다 보니, 현실적인 제약을 좀 더 신경 써야 했습니다. 비영리 단체 산하 영리 기업이라는 독특한 구조를 유지하면서 오픈AI를 여기까지 끌고 온 주역인 만큼 알트만은 앞으로도 계속 발전해 나갈 수 있을 거라 믿었을 겁니다. 그러나 이번 해임을 주도했던 이사들의 생각은 달랐던 거죠.

효과적인 이타주의와 관련해 언급해야 할 인물이 한 명 더 있습니다. 이번 일과 직접적인 관련은 없지만, 세간의 주목을 받았던 또 다른 샘, 암호화폐 거래소 FTX의 창립자 샘 뱅크먼프리드입니다. 뱅크먼프리드가 저지른 희대의 사기는 효과적인 이타주의가 극도로 잘못 적용된 예라고 할 수 있습니다.

뱅크먼프리드는 사업을 통해 벌어들인 막대한 돈을 수많은 자선 사업과 의미 있는 일에 쾌척했습니다. 자신은 다른 사람들보다 똑똑하기 때문에 모두에게 이로운 일을 하는 기막힌 묘안도 자기만 알고 있다는 착각에 빠져 있었죠. 실상은 암호화폐 거래소에 고객이 맡긴 돈을 마음대로 빼돌려 다른 채무를 갚거나 유용한 사기꾼에 불과했지만, 기부 약속도 다 허황된 것이었지만, 뱅크먼프리드는 법정에서도 여전히 자신이 선의를 갖고 한 일인 만큼 처벌받아야 할 죄가 아니라고 주장했습니다. 자기 생각에는 결점이 있을 수 없다는 착각에서 헤어 나오지 못할 만큼 시야가 좁아진 걸 엿볼 수 있습니다.

실리콘밸리는 수많은 실패와 도전이 일상인 생태계입니다. 실패를 딛고 다시 일어나 도전해 마침내 혁신을 이뤄낸 스토리들이 가득하죠. 실패에 굴하지 않고 다시 일어나 도전할 수 있도록 자본과 지원 시스템이 갖춰진 곳이 실리콘밸리입니다. 무엇이든 수치화해서 이를 극대화하는 걸 성공으로 여기고, 그걸 잘 해내는 사람이 능력자로 대접받는 곳입니다. 그래서 실리콘밸리에는 효과적인 이타주의자가 사회의 다른 곳보다 많습니다. 우리가 아는 유명인사 가운데도 그렇습니다. 대표적으로 떠오르는 인물이 일론 머스크죠.

인공지능 기술의 책임은 누가 져야 하나?

효과적인 이타주의가 이 세상의 모든 문제에 반드시 옳은 해결책이 될 수 없는 가장 큰 이유는 남을 돕는 일이 얼마나 효과적인지 측정하고 판단할 기준이 없어서입니다. 우리는 흔히 효과적인 이타주의의 철학적 기반이라 할 수 있는 공리주의에 관해서도 모두가 골고루 행복해질 수 있도록, 공평하게 잘 살 수 있도록 세상이 나아가는 데 힘을 보태는 거라 생각하곤 합니다. 그러나 사실은 그렇지 않습니다. 효과적인 이타주의는 “골고루”나 “공평하게”에 관심이 없습니다. 수치를 매길 수 있는 지표를 찾아 그걸 극대화하는 데 집중하다 보면 문제가 완화될 수 있지만, 근본적인 해결책이 아닐 경우엔 결국 전혀 효과적이지 않은 낭비가 될 수도 있습니다. 신발 브랜드 탐스(TOMS)의 한 켤레를 사면 한 켤레를 기부하는 캠페인이 그랬고, 아프리카 나라에 말라리아를 퇴치하라며 모기장만 잔뜩 보내는 일도 마찬가지입니다.

그럼 강력한 기술이 될 인공지능 기술은 누가 책임지고 감독해야 할까요? 기업에 그 책임까지 모두 지우는 건 바람직한 해법이 되기 어렵습니다. 어떻게 보면 이번 샘 알트만 해임과 복귀 사태가 경영상 목표와 관계없는 것을 우선 과제로 삼으려던 진영의 완패라고 해석할 수도 있습니다. 주주 이익을 극대화하는 게 지상 과제인 영리 목적의 공개 기업이었다면, 인류를 위한 기술을 개발하는 사명에 어긋난다는 이유로 CEO를 해임하는 건 애초에 꿈도 꾸지 못했을 겁니다.  비영리 단체가 영리 사업을 하는 자회사를 관장하던 오픈AI의 독특한 지배구조는 이번 일을 계기로 사라지게 됐습니다. 뉴욕타임스의 테크 전문 기자 케빈 루스는 이번 사태를 정리한 기사 제목을 다음과 같이 뽑았습니다

“이제 AI는 자본주의자들의 손아귀에 들어갔다.”

기업은 시장 원리에 따라 경쟁하도록 두되, 기술이 세상에 미칠 영향을 필요에 따라 통제하고 감독하는 일은 정부와 시민사회가 맡아서 해야 합니다. 기업도 이런 분업을 받아들여야 합니다. 사실 기업과 정부가 물과 기름처럼 어울리기 힘들다고 생각할지 모르지만, 우리가 지금 사용하는 많은 기술이 어떻게 개발됐는지 기원을 따져 보면, 정부가 주도적으로 만든 기술을 기업이 넘겨받아 제품과 서비스로 만든 경우가 많습니다. 인터넷도, 휴대전화도, 전기차도 모두 마찬가지입니다.

인터넷이 탄생하는 데 결정적인 역할을 한 고등 국방연구소(DARPA), 휴대전화 개발에 결정적인 연구를 진행했던 벨 연구소(Bell Labs)처럼 인공지능 기술을 이끌어갈 원천 기술들은 민간 기업보다도 정부가 출연한 기관이 맡아서 하는 게 나을지도 모릅니다. 적어도 그럼 클라인이 설명한 “전원을 끌 수 없는 기계”를 걱정할 필요는 없을 테니까요. 그러나 일단 지금까지 인공지능 기술 경쟁은 실리콘밸리의 대기업이 주도하고 있습니다. 기술 개발에 필요한 안전장치를 다는 일은 오픈AI 사태 이전과 비교했을 때 지금 훨씬 더 어려워졌는지도 모릅니다.