AI가 모든 지식을 기억하는 세상, 우리는 어디까지 잊어도 될까?
학생 시절 제게는 물리학을 공부하는 친구가 있었습니다. 그 친구의 박사과정 지도교수는 원자론의 핵심적인 공식을 계산한 노트를 궁금하면 언제든 꺼내 볼 수 있도록 잘 정리해서 들고 다녀야 한다고 말했습니다. 아직 컴퓨터 한 대의 본체 크기가 어른의 한 아름을 넘던 시절이었습니다. 복잡하기 짝이 없는 계산 과정을 일일이 종이에 써서 들고 다녀야 했죠. 제 친구도 그렇게 했는데, 손으로 일일이 공식을 풀다 보니 계산이 틀리거나 연필로 쓴 글자가 지워지거나 얼룩져 알아볼 수 없게 되기 일쑤였습니다. 결국, 제 친구는 어느 날 하룻밤을 학교 전산실에 틀어박혀 간단한 코드를 짜 컴퓨터에 계산을 맡겼습니다. 이어 계산 결과를 하나하나 손으로 옮겨 적었죠. 그렇게 해서 완성된 휴대용 원자론 계산 공식을 교수에게 보여줬더니, 교수는 아주 만족해하면서 이렇게 말했다고 합니다.
“축하하네. 이제 자네는 진짜 물리학자가 된 걸세.”
그 친구와 어느덧 연락이 끊겨 실제로 확인할 수는 없지만, 아마도 그 교수에겐 더 배울 것이 없었을 겁니다.
어렵고 복잡한 공식을 머릿속에 있는 기억만 가지고 풀어내는 능력이 탁월하지 않더라도 성공한 과학자들은 많습니다. 반대로 예전에는 누군가를 천재의 반열에 올려주던 뛰어난 암산 능력은 이제 그 정도 대우를 받지 못합니다.
우리는 새로운 세상을 살아가는 데 꼭 필요한 기술이 무언지를 바탕으로 사회의 변화를 설명하곤 합니다. 하지만 새로 익혀야 해서 배우게 된 기술 대신에 반대로 우리가 잊어도 되는 기술이나 능력이 무엇이었는지 살펴보는 것도 무척 흥미로운 연구가 될 겁니다.
지나해 <사이언스>는 젊은 과학자들을 대상으로 “자라나는 세대에게 학교에서 무엇을 가르쳐야 하는지” 물었습니다. 과학자들은 사실을 달달 외우는 데 들이는 시간을 줄이고, 창의적인 사고를 기르는 데 쓰는 시간을 늘려야 한다고 입을 모았습니다. 이제 우리는 인터넷을 통해 인류가 쌓은 모든 지식을 찾아보고 익힐 수 있습니다. 그 모든 정보를 외울 필요는 이미 오래전에 없어졌습니다. 학생들은 스마트폰만 있으면 원하는 정보를 찾을 수 있습니다. 그 모든 걸 머릿속에 꾸역꾸역 넣어둘 이유가 없습니다.
사실 인류의 역사가 그랬습니다. 한때는 삶과 죽음을 가르던 기술이 시대가 바뀌면서 쓸모 없어졌고, 인간은 적응이라는 이름 아래 쓸모 없어진 기술을 전략적으로 잊어버리고 지워나갔습니다. 신석기 시대가 오고 농업혁명이 일어난 뒤 농경 생활을 하며 한 곳에 정착해 살게 된 인류에게 숲속에서 필요했던 기술은 쓸모가 없어졌습니다. 동물의 흔적을 쫓는 기술, 사냥과 채집에 중요했던 기술들은 밭을 갈고 씨를 뿌리고 곡식을 자라게 하는 데 별로 도움이 되지 않았죠. 산업혁명 이후에는 읽고 쓰는 능력이 중요해졌습니다. 이제 밭을 갈고 씨를 뿌리며 곡식을 수확하는 데 필요한 지식이 없어도 얼마든지 잘 살 수 있는 세상이 됐습니다.
현대인은 스마트폰이나 GPS가 없으면 곧바로 좌표를 잃고 방황합니다. 앞으로는 어떻게 될까요? 자율주행 자동차가 보편화되면 우리는 운전하는 방법도 잊어버릴까요? 미묘한 발음 차이까지 식별할 줄 아는 음성인식 인공지능이 일상의 모든 기기에 장착되고 나면 우리는 맞춤법을 잊어버리고 말까요? 그렇게 된다면 이는 인류의 지성이 퇴보하는 심각한 문제일까요?
이미 지구상의 인류 대부분은 살아가는 데 필요한 의식주를 온전히 스스로 해결할 수 없습니다. 지금 먹는 음식을 처음부터 재배, 수확할 줄 아는 사람도, 지금 사는 집을 짓는 법을 아는 사람도, 지금 입고 있는 옷의 직물을 짜는 법을 아는 사람도 거의 없습니다. 가축을 기를 줄 몰라도 고기를 먹을 수 있고, 심지어 자동차 점화 플러그를 교체할 줄 몰라도 운전하는 데는 아무런 지장이 없습니다. 이 모든 걸 일일이 알고 있을 필요가 없는 이유는 간단합니다. 우리는 사회심리학자들이 말하는 분산기억 네트워크(transactive memory networks)를 이루고 살아가기 때문입니다.
우리는 남들과 끊임없이 정보를 주고받으며 살아갑니다. 다른 사람과 하는 대화는 물론 우리가 읽고 쓰는 모든 것이 결국은 분산기억 네트워크 안에서 기억을 공유하고 정보를 찾아내는 행위라고 할 수 있습니다. 분산기억 네트워크 안에 있다는 건 곧 개인은 대부분 지식을 달달 외우고 있지 않아도 된다는 뜻입니다. 내 머릿속에 지금 당장 없는 지식도 네트워크 안에 있는 다른 누군가가 알고 있거나 책과 같은 보관소에 보관돼 있습니다. 우리는 어떤 문제의 답을 찾기 위해 누구에게 물어보고 어디를 찾아봐야 하는지만 알면 됩니다. 이렇게 지식을 나누어 보관하고 서로 공유하는 행동 덕분에 인류는 깊은 지식을 효과적으로 저장하고 지평을 획기적으로 넓힐 수 있었습니다. 분산기억 네트워크를 꾸린 건 그래서 진화의 산물이기도 합니다.
그런데 최근 들어서는 분산기억 네트워크의 환경이 급격히 변했습니다. 가장 큰 변화는 나 대신 지식을 기억하고 보관하는 주체가 다른 사람에서 똑똑한 기계로 대체됐다는 점입니다. 지금까지 구글 검색처럼 인공지능을 장착한 기억 보관소는 없었습니다. 네트워크 안의 다른 사람들이 내가 외우지 않아도 되는 걸 알고 있는 기억의 파트너였다면, 구글 같은 인공지능은 가히 기억의 슈퍼파트너로 불려도 손색이 없을 겁니다. 언제 어디서나 불러내 검색어만 입력하면 방대한 지식을 알려주니까요. 무엇을 입력하든 인공지능 검색 엔진은 우리에게 그간 인류가 쌓아온 지식의 단면을 곧바로 보여줍니다.
물론 단점도 있습니다. 우선 분산기억 네트워크는 사람과 사람이 모여 공동체를 이루는 과정에서 자연스럽게 형성됐습니다. 책이나 문서 같은 보조 수단에 지식을 저장하기도 했지만, 기본적으로 지식을 쌓고 공유하는 주체는 인간이었죠. 사람을 통해 전달되는 정보는 다양한 편견의 영향을 받아 왜곡되기 일쑤입니다. 정보는 파편으로 저장되고 합리화와 각색을 거쳐 바뀌곤 하죠. 실수로 누락될 때도 있습니다. 어쨌든 그래서 우리는 다른 사람의 기억과 정보에 의존하는 동시에 언제나 그 정보가 100% 사실이 아닐 수도 있다는 가능성을 늘 염두에 두고 지식을 배웁니다. 반면에 사람들은 인공지능의 알고리듬이 보여주는 검색 결과와 정보는 반드시 정확하고 편견 없이 객관적인 사실만 있을 거라고 믿습니다. 결론부터 말하면 이런 생각은 큰 착각입니다.
가장 발달한 스마트 기술과 최첨단 인공지능도 여전히 반복된 학습과 평가 과정에 최종적으로는 사람의 손을 거칩니다. 뭐가 맞고 틀린지 결정해 기계를 학습시키는 건 여전히 사람의 몫이란 뜻입니다. 기계는 아무리 많아도 한정된 데이터를 학습하고 사람이 최종적으로 제시하는 길을 따라, 정해놓은 범주 안에서 지식을 익히고 해석합니다. 당연히 알고리듬에는 인종, 성별을 비롯한 많은 부분에서 우리의 편견이 고스란히 반영돼 있습니다. 어쩌면 더욱 극대화돼 있을지도 모릅니다. 2017년까지 아마존이 사내에서 사용하던 인재 채용 알고리듬의 사례가 기계도 편견에서 자유롭지 못하다는 대표적인 사례로 꼽힙니다. 아마존 인사팀의 내부 채용 기준을 숙지한 알고리듬은 여성을 체계적으로 배제했습니다. 우리가 경각심을 가지고 제대로 감시하지 않으면 우리의 슈퍼파트너 인공지능은 엄청난 편견을 재생산하는 애물단지가 되고 말 수도 있습니다.
또 다른 문제는 정보를 너무 쉽게 찾을 수 있다는 사실에서 비롯됩니다. 디지털 시대가 오기 전에는 정보를 찾을 때 다른 사람을 찾아가 물어보든 도서관에 가서 책을 찾아보든 내가 원래 알고 있던 사실과 분산기억 네트워크 안에서 듣고 배워야 하는 사실이 명백히 구분됐습니다. 그런데 이제는 인터넷에서 클릭 한 번만 하면 원하는 정보를 뭐든지 찾아낼 수 있다 보니 정보를 찾아 마지막에 입력해놓은 기억인데도 전부터 알고 있던 것처럼 착각하게 되곤 합니다.
1998년 철학자 데이비드 찰머스와 앤디 클라크는 확장된 마음(extended mind)이라는 개념을 처음으로 제시했습니다. 확장된 마음이란 곧 우리의 마음은 뇌가 생각하고 상상하는 영역에만 머물지 않고, 기억은 물론 추론하는 데 도움을 받는 공책, 연필, 컴퓨터, 태블릿, 클라우드까지 포함해야 한다는 주장입니다.
이제 내 머릿속에 없는 지식도 순식간에 내 것으로 포장할 수 있습니다. 자연히 ‘내가 원래부터 알고 있던 것’으로 취급할 수 있는 지식의 범위도 계속해서 늘어납니다. 분산기억 네트워크가 저장하고 있는 모든 기억과 지식이 다 내 것처럼 느껴지기도 합니다. 실제로 신경을 이식할 수 있게 되면, 그래서 우리의 뇌에 컴퓨터를 연결하거나 다른 사람의 뇌를 직접 연결할 수 있게 되면 어떤 일이 벌어질까요? 사실 뇌졸중, 중증 루게릭, 운동 뉴런증을 앓는 환자들에게 이미 이 기술을 실험해보기도 했습니다. 다만 아직은 기술이 개발 단계에 있고 완벽하지 않아 널리 보급되기까지는 꽤 시간이 걸릴 것으로 보입니다.
우리는 다음 세대의 문명이 보일 특징을 이미 어느 정도 예상할 수 있습니다. 기계는 훨씬 더 똑똑해질 것이고, 인공지능을 토대로 한 기억의 네트워크가 지금보다 훨씬 더 촘촘히 짜여 어디서든 접근할 수 있게 될 겁니다. 신경을 편리하고 안전하게 이식해 모두가 일종의 고성능 사이보그 뇌를 장착한 날이 와도 사실 인류의 지식은 우리의 대단한 뇌가 아니라 멀리 떨어진 어딘가의 클라우드 서버에 저장돼 있을 겁니다. 우리는 그저 그 정보에 훨씬 더 빠르고 정확하게 접근할 수 있게 될 뿐이죠. 이미 구글에 무언가를 검색하면 그 단어는 말 그대로 눈 깜빡할 사이에 데이터 센터까지 왕복 2,400km를 오가며, 1천여 대의 컴퓨터를 거쳐 검색 결과를 불러옵니다.
네트워크에 의존하게 된다는 건 그 네트워크가 곧 취약점이 될 수도 있다는 뜻입니다. 음식이나 에너지 등 우리가 살아가는 데 중요한 것을 보장하는 네트워크가 공격받거나 무너지게 된다면 곧바로 먹을 것이 없어 굶주리고 에너지가 없어 추위에 떨게 될 겁니다. 이어 네트워크가 무너져 인류가 쌓아온 지식을 유실하게 된다면 순식간에 인류에게 암흑기가 찾아올지도 모릅니다.
하지만 기계가 생각할 수 있다고 해도 엄밀히 말하면 사람과 기계는 생각하는 양상이 다릅니다. 기계가 대체로 사람보다 객관적이라고는 하지만 인간에게는 의심하는 능력이 있습니다. 사람이 인공지능과 한 팀을 이루면 체스도 더 잘 둘 수 있고, 의사는 의학적으로 더 정확한 결정을 내릴 수 있습니다. 그렇다면 학생들도 처음부터 스마트 기기를 적극적으로 활용해 학습하는 것이 효과적이지 않을까요?
기술은 물론 교육의 질을 극적으로 높일 수 있습니다. 더 많은 이들이 양질의 교육을 받을 기회도 늘어나게 될 것이며, 인간의 창의성이 높아지고 인류의 발전에 기여할 겁니다. 많은 사람이 거대한 변화가 임박했다고 느끼는 것도 당연합니다. 선생님도 인공지능 보조 교사와 좋은 팀워크를 만들 줄 알아야 하는 세상이 올지도 모릅니다. 하지만 교육 현장에서는 학생들이 아직 지식과 소양을 배우는 단계에 있다는 사실을 잊어서는 안 됩니다. 검색 한 번에 모든 정답을 알려주는 인공지능에 맛을 들여버리면 학생들은 스스로 생각하고 의심하며 해답을 찾아가는 훈련을 하지 못하게 됩니다.
학교 다닐 때 제 물리학과 친구가 겪었듯이 기억은 상황에 맞춰 적응하고 진화합니다. 어떤 경우에 진화란 곧 과거의 방식을 잊어버리고 새로운 기술을 받아들일 수 있도록 필요한 시간과 공간을 확보하는 것이기도 합니다. 물론 인류가 쌓아 올린 모든 지식은 지금도 우리의 분산기억 네트워크 안의 어딘가에 고이 저장돼 있고, 우리가 필요하면 언제든 찾아볼 수 있으니 과거의 방식이 완전히 잊혔다고 말하는 건 어폐가 있기도 합니다. 그러나 시간이 흐르면 늘 기성세대의 눈에는 외계인처럼 보이는 새로운 세대가 등장하듯, 기술과 인류의 기억도 그렇게 발전하고 진화해갈 것입니다.
(이온, Gene Tracy)