로봇, 칸트, 웨스트월드
2018년 4월 25일  |  By:   |  IT  |  1 comment

남자, 여자, 어린이와 완전히 똑같은 모습의 로봇과 원하는 어떤 방식으로든 교감할 수 있도록 법이 허용한다고 가정해봅시다. 당신은 로봇을 어떻게 대하겠습니까?

지난 일요일(4 월 22일) 밤 두번 째 시즌을 시작한 HBO의 인기 시리즈 “웨스트월드”는 바로 이러한 가정에서 출발합니다. 시즌2의 반전을 떠나, 이 시리즈는 머지않은 미래에 인간이 맞닥뜨릴 근본적인 윤리적 문제를 제시합니다.

1973년의 제작된 영화를 원작으로 “웨스트월드”는 인간 관광객과 아주 자연스럽게 교감하도록 프로그램된 로봇들이 바텐더, 매춘부, 경찰이나 도둑 등의 역할로 인간을 맞이하는, 서부 시대를 모델로 한 미래의 테마파크를 묘사합니다. 이 지능적 기계들은 사람과 똑같은 모습을 하고 행동합니다. 시청자들은 실제로 누가 호스트(로봇)이고 누가 인간인지 구별하지 못하거나 혼동합니다.

관광객은 자신이 원하는 모든 행동을 할 수 있습니다. 어떤 사람은 영웅 역할을 하는가 하면 어떤 사람은 나쁜 충동에 따라 고문이나 강간, 살인을 저지르기도 합니다. 인간 아이와 구별하기 힘든 로봇의 살인을 포함해서 말입니다. 이 호스트들은 관광객을 해치지 못하게 설계되었습니다. 따라서 이러한 행동들은 보복의 위험이 없는, 순전히 가학적인 행동입니다.

“웨스트월드”에서 인간들에게 안 좋은 일이 생기는 건 스포일러라고 할 수도 없습니다. 우리의 관심은 이 드라마의 전제이며, 생명체와 똑같은 로봇에 대한 시청자인 우리의 반응이 인간 본성과 미래의 기술에 대해 무엇을 이야기하는지에 대한 부분입니다.

가장 큰 염려는 인간이 언젠가는 의식이 있는 기계를 만들어 낼지도 모른다는 점입니다. 기계를 신념과 갈망, 그리고 윤리적으로 가장 심각한 부분인 고통을 느끼는 지각 있는 존재로 만들려는 인간의 노력을 막을 방법은 없어 보입니다. 철학자들과 과학자들은 물질세계에서 어떻게 의식이 만들어지는지 확실히 알지 못하지만, 소수만이 그 가능성에 대해 의심하고 있습니다. 이는 의식 있는 기계를 만드는 가능성을 보여줍니다.

많은 철학자와 과학자가 믿듯, 정보를 처리하는 충분히 복잡한 시스템에서 의식이 생긴다고 가정해봅시다. 그런 시스템이 살로 만들어져야 한다고 생각할 이유는 없습니다. 의식을 가진 생각은 거의 확실하게 플랫폼에서 독립적일 가능성이 크며, 궁극적으로 이에 적합한 소프트웨어가 만들어낸 작품일 것입니다. 인간 뇌의 활동을 컴퓨터로 모방하거나, 의식을 가진 다른 개체를 만들어 내는 일은 시간문제로 보입니다. 생물학적 시스템만 의식이 있을 수 있다고 믿는다 해도, 아마도 인공 지능과 유전공학의 합작으로 이 영역의 개발 역시 충분히 실현 가능합니다. 실제로 “웨스트월드”에서 호스트들이 피를 흘리는 장면을 통해 로봇들이 부분적으로 생물체임을 볼 수 있습니다.

우리가 의식 있는 존재로 로봇을 만든다면, 그들이 의식이 있고, 고통을 겪거나 행복을 빼앗길 수 있다는 면에서 이들을 해치는 일이 잘못된 일이라고 전통적인 도덕은 지적합니다. 고통을 주려고 동물을 번식시키거나, 노예로 삼기 위해 아이를 갖는 일이 잘못되었 듯, 미래의 의식 있는 기계를 학대하는 행동 역시 잘못된 일입니다.

그렇지만 기계가 의식을 갖게 되는지 우리는 어떻게 알 수 있을까요? 데카르트는 자신의 의식에 대해서는 의심의 여지가 없다고 주장했습니다. 그러나 다른 사람의 경우는 절대 확신하지 못합니다. 많은 사람은 아주 잠깐이나마 모든 사람들이 웃고, 울고, 불평하고 기뻐하지만 집에선 혼자 있는 좀비일지도 모른다는 상상을 즐겁게 했습니다. 아마도 과학자들은 의식의 특징을 결국 발견하게 되고, 로봇과 동물, 서로를 대상으로 이러한 특징에 대한 실험을 하게 될 것입니다. 그러나 그 지점에 도달하기 이전에 의식이 있는 것처럼 보이는 기계를 만들 것이 분명합니다.

“웨스트월드”에서 호스트처럼 보이고 행동하는 모든 기계는 우리에게는 의식이 있는 개체처럼 보입니다. 의식이 어떻게 물리적 시스템에서 생겨날 수 있는지의 이해 여부에 상관없이 말입니다. 인공지능와 로봇 공학의 실험은 실제로 독립적인 개체로 보이고 행동하는 기계들에게 우리가 얼마나 빨리 감정을 부여하는지 이미 보여주었습니다. 그렇게 기계를 의인화하려는 마음의 몇천 배로 로봇을 대하는 상상을 해보시기 바랍니다. 전선이 보이고 만화 같은 눈에 시리와 같은 목소리를 가진 기계가 아닌 가장 가까운 친구나 배우자보다 나의 감정을 더 잘 이해하면서 대화를 나누는 아름다운 얼굴의 낯선 사람을 생각해보십시오. 우리의 철학적 관점이 어떻든, 그 개체를 만든 사람이 어떻게 만들었는지 설명을 하는 것과 상관없이 이 기계 창조물을 사람으로 볼 수밖에 없을 것입니다.

이 부분이 바로 “웨스트월드”를 보는 중요한 의미입니다. 엔터테인먼트의 즐거움은 차치하더라도, 이 시리즈의 제작자는 영향력 있는 철학적 작품을 만들어 냈습니다. 세미나에 참석해 의식을 가진 로봇이 도덕적으로 어떤 의미가 있는지 토론하는 건 하나의 철학적인 일입니다. 에번 레이첼 우드나 탠디 뉴튼과 같은 배우들이 연기하는 로봇 창조물이 학대당하는 과정을 목격하는 것은 또 다른 상당히 철학적 경험입니다. 지식적인 질문을 계속할 수는 있겠지만, 우리는 이미 마음과 깊은 내면에서는 그 답을 알고 있습니다.

드라마를 보면서 로봇을 강간하고, 고통을 주고, 죽이는 사람에 대해 당신이 어떻게 느끼는지 또한 알게 됩니다. 실제로 얼마나 많은 사람이 웨스트월드(드라마에서는 관광객들이 끊이지 않는다고 암시합니다) 같은 곳에서 이런 행동을 할지 알 수 없지만, 그런 사람들에게 혐오스러운 감정이 있습니다. 이 시나리오에서는 호스트들이 가장 인간적이며 로봇을 학대하는 인간은 괴물입니다.

칸트는 동물은 하찮고 도덕적 가치를 갖고 있지 않다는 이상한 관점을 갖고 있지만 동물을 올바르게 대해야 한다고 주장했습니다. “동물에게 잔인한 사람은 다른 사람에게도 잔인하게 대한다”는 말과 같이 동물을 대하는 행동은 우리가 서로를 대하는 행동을 함축하기 때문입니다. 인간과 똑같은 로봇을 대할 때도 동일한 말을 할 수 있습니다. 로봇들이 확실히 의식이 없고 고통을 느끼지 못한다고 할지라도, 그들에게 가하는 고통은 가해자 자신에게 해가 될 뿐만 아니라, 궁극적으로 가해자의 삶에 있는 다른 사람들에게도 해로운 일이 될 것입니다.

이러한 견해는 많은 사람들이 폭력적인 비디오 게임에 대해 갖는 우려의 극단적인 모습처럼 보일 수 있습니다. 가상 세계에서 벌어지는 폭력이 사람들을 현실에서 폭력에 둔감해지도록 만든다고 오랫동안 추측해 왔습니다. 그러나 이러한 영향에 대한 증거는 불충분해 보입니다. 실제로 비디오게임을 사실과 더욱더 유사하게 만들면서 폭력 범죄율은 감소했습니다.

하지만 “웨스트월드”와 같은 장소를 만드는 가능성에 대해서는 더욱 우려를 하게 됩니다. 호스트를 해치는 경험은 인간을 해치는 경험과 유사한 정도를 넘어 완전히 동일한 경험이기 때문입니다. 이런 판타지를 반복적으로 즐기는 경험이 도덕적이나 심리적으로 우리에게 어떤 영향을 줄지 알 수 없습니다. 그러나 우리에게 좋은 영향이라고 생각하기는 상당히 힘듭니다.

여기서 문제는 사디즘 그 이상입니다. 인간은 삶을 개선하기 위해 기계를 만들었고, 첨단 인공지능의 매력 중 하나는 로봇 가정부, 집사, 운전사(자율주행차로 알려진)등의 가능성입니다. 현재 가지고 있는 기계들로는 괜찮을지 모르지만 인공지능이 더 발전함에 따라 도덕적인 위험의 발생을 안고 가는 것입니다.

결국 인간만큼 똑똑하거나 더 똑똑한 기계를 창조한다면, 무엇보다 감정을 느낄 수 있는 기계를 만든다면, 기계들이 단순 노동을 즐기도록 프로그램되었더라도 그들을 노예처럼 부리는 일을 윤리적으로 보기는 어렵습니다. 유전공학으로 자발적인 노예 한 종(race)을 만드는 개념은, 기존 과학 소설에서 인간이 최악의 일을 저질렀음을 보여주는 일반적인 비유입니다. 지각이 있는 로봇 노예의 창조는 무엇이 다를까요?

우리 인간은 역사상 처음으로 괴물들 같이 자기 마음대로 사용할 수 있는 기계를 만드는 위험을 무릅쓰고 있습니다.
(뉴욕타임스,  
Paul Bloom & Sam Harris)

원문보기

 

 

  • http://www.fruitfulife.net/ 열매맺는나무

    웨스트월드라… 판타지 소설에 나오는 게임과 주라기 공원을 한데 엮은 것 같은 공간이로군요.
    인간과 로봇이 구분되지 않는데 범죄의 대상이 구분되는 것도 구분되지 않는것도 모두 문제가 되겠군요.
    습관은 곧 학습으로, 학습은 습관으로 이어집니다. 마음에 가득한 것이 밖으로 도출되는 것도 같은 맥락이지요.
    로봇이 인간과 흡사하면 할 수록 죄의식은 더욱 낮아지고 범죄는 더욱 수월하게 저지르게 되리라 생각됩니다.
    이제까지 인간이 상상했던 것들이 대체로 다 실현되고 있습니다. 앞으로도 그렇겠지요. 더 좋은 세상이 될지 그 반대가 될지… 인간의 존엄성은 과연 어디서 찾을지요.