실험실에만 존재하던 자율 주행 자동차가 도로를 누비기 시작했습니다. 하지만 이 자율 주행 자동차가 대중화되기 위해서는 꼭 선결되어야 할 윤리적 딜레마가 있습니다. 인명 피해를 결코 회피할 수 없는 극단적인 상황에서 과연 누구를 희생양으로 삼도록 자율 주행 알고리즘을 짜야 할까요?
상황은 이렇습니다. 자율 주행 자동차를 운행하는 당신이 어느날 거리를 무단횡단하는 군중 10명과 맞닥뜨렸다고 가정합시다. 너무 급작스러운 상황이라 제시간에 제동하는 것은 불가능합니다. 하지만 오른쪽 벽으로 방향을 전환하면 10명을 살릴 수 있습니다. 그렇지만 이 경우 당신은 벽에 충돌한 후 사망하게 됩니다. 이러한 상황이라면 자율 주행 알고리즘은 군중 10명을 살려야 하는 것일까요, 아니면 차량에 탑승한 운전자를 보호해야 할까요?
만약 자율 주행 알고리즘이 군중 10명을 먼저 살리기로 프로그램되어 있다면 극한 상황에서 차주를 보호하지 못하는 자동차를 선뜻 구매할 소비자는 별로 없을지도 모릅니다. 이 경우 자율 주행 자동차 자체가 대중화되지 못할 수도 있습니다. 반면 자율 주행 알고리즘이 차주를 먼저 살리기로 프로그램되어 있다면 자동차 제조사와 이 제조사를 의도적으로 선택한 차주를 향한 공리주의자들의 도덕적 비판이 집중될 수도 있겠죠.
물론 어느 선택이든 옳고 그름을 간단히 판별할 수는 없을 것입니다. 하지만 수백만 대의 자율 주행 차량이 본격적으로 도로를 누비기 전에 이 윤리적 딜레마에 대한 사회적 합의가 충분히 이루어져야 합니다. (MIT Technology Review)
* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을…
미국 연방대법원이 노숙을 불법으로 규정하고 노숙자를 처벌한 지방 정부(시 정부)의 행동이 위헌이라는 사건에 관해 이번…
* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을…
* 뉴스페퍼민트는 SBS의 콘텐츠 플랫폼 스브스프리미엄(스프)에 뉴욕타임스 칼럼을 한 편씩 선정해 번역하고, 글에 관한 해설을…
View Comments
트롤리 딜레마의 무인 자동차 버젼이군요. 인공지능과 윤리 문제도 제미있는 주제 같습니다.
조금 다른 얘기지만 결국 운전은 알고리즘의 역할이 되고, 직접 운전은 불법이 되는 시대가 오리라고 생각합니다.
예가 좀 의아합니다.
법을 어기고 무단횡단하는 10명의 군중을 위해 아무런 죄가 없는 1명의 운전자는 그 수가 적다는 이유로 죽음을 당해야 한다는 이야기인지
그들이 무단횡단자가 아니라, 신호등 체계의 이상 때문에 '잘못된' 신호등을 충실히 따른 횡단자라고 바꾸어 생각하시면 됩니다. 그러면 공평해지죠?
손가락이 아니라 달을 보자면.. 어차피, 본문의 핵심은 그런 상황의 디테일에 있는 게 아닙니다. 기계에게 의지를 양도함에 있어서 생길 수 있는 윤리적 문제가 예전과는 달리 꽤 골치아파질 수 있다는 사실을 언급하는 데에 있습니다.
공리주의적으로 가야할듯
무인 자동차가 되면 보험은 개인이 아닌 자동차 회사랑 연결 되기 때문에 그냥 치고 나가고 보험 처리 해줄 거 같은데요. 당사자는 트라우마가 생기겠지만... 여기서 생각해 볼 문제는 알고리즘이 술취한 아저씨 철로에 떨어져서 구출하다 죽은 경우 처럼 인간 답게 행동할 건지 이성적으로 행동 할 건지(자동차 입장에서는 당연히 고객이 먼져죠.) 에 대한 철학적인 문제라고 봅니다. 그런데 현실에서는 저런 경우는 없다고 생각 되는 게 구글이 로비를 잘 하기 때문에 캘리포니아주에서 시험 운전 했다고 하고요. 150만 뛰었는데 경미한 사고 10번 정도라고 들었습니다. 그것도 자기가 낸 게 아니기 때문에...
http://techneedle.com/archives/23149
확실히 뉴스페퍼민트의 번역이 훨씬 가독성이 좋습니다. 윗 링크에서 번역된 글을 읽고 비슷하다는 생각을 했지만 세상에 같은 원문을 번역한거라고는 상상도 못했습니다. 참 잘했어요 뉴스페퍼민트! :)