트롤리 딜레마
[image]
Trolley Problem
윤리학의 사고 실험 중 하나다.
필리파 풋이 먼저 제시했으며 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄에 의해 체계적으로 분석되었다. 본래 여기서 말하는 trolley는 광차로 번역되는데, 아마도 본래 mine tram, trolley 등을 의도한 것 같다. 어차피 구체적인 설명이 없으니 대부분 좀 큰 열차 같은 걸로 표현되곤 한다. 그리고 광차라고 한다면 본래 희생양(?)들은 광부들이었던 것으로 보인다. 파생된 시나리오들에서도 주로 인부(worker)들로 나오는 것에서 그 흔적이 있다. 물론 일반인들은 철로 위에 있을 수 있는 개연성이 별로 없기에 그런 가상의 인부들만 (불쌍하게도) 사고실험의 주재료로 쓰이는 것 같다.
실제로 광차들은 브레이크가 자주 고장나기도 했기에 정말로 있을 법한 현실적인 사고실험이었다. 광차에 부딪혀도 당연히 위험하긴 하지만 상대적으로 전차가 달려드는 것 보다는 사정이 나을 수도 있다. 그런데 파생작들은 점차 극단적인 상황을 많이 가정하고 때로는 억지스러운 설정도 많다. 하지만 사고실험은 우리의 사고의 극한까지 끌어내기 위한 목적도 있기에 반드시 현실적일 필요는 없다.
역사적으로 유사한 문제가 형법학에서 다루어졌으며 특히 대륙법계의 법전에서 고려되기도 했다. 고전적으로는 카르네아데스가 스토아 학파의 윤리 이론의 모순을 지적하기 위해 만든 카르네아데스의 판자라는 문제가 얽혀 있었다. 전통적 철학의 영역 밖에서도, 이 문제는 신경윤리학에서 비중 있게 다루어진다.
아래 사례들은 모든 '''법적 책임'''(도덕적 책임은 아니다)을 무조건 면한다는 가정하에 읽어보길 바란다. 트롤리는 기차의 일종이라 생각하면 편하다.
"'''실제로''' 사람들이 트롤리 딜레마에 대해 어떤 직관을 갖는가", "'''실제로 ''' 어떻게 행위할 것인가"라는 문제와는 독립적으로 각 선택지를 옹호하는 윤리학적 논증이 제시될 수 있다. 1970년대부터 관련 문제에 대해 무수한 연구가 이루어졌으며, 각 입장을 옹호하는 가장 단순한 형태의 입장은 다음과 같다.
사례 1에서 '선로전환기를 당기지 않는다' / 사례 2에서 '무거운 사람을 밀지 않는다'가 각각 더 도덕적으로 올바른 결정이라는 주장을 옹호하는 한 가지 방식은 '''"피해를 야기하는 것"'''과 '''"피해를 방치하는 것"'''이 도덕적으로 경중이 다르다는 입장에 호소하는 것이다. 이를 옹호하기 위해 원시적 형태의 공리주의에 대한 기초적인 반대 사례인 "장기 이식 사례"가 원용될 수 있다.
이러한 입장을 트롤리 딜레마에 적용해보자. 그렇다면 '스위치를 당기지 않는다 / 사람을 밀지 않는다'는 다섯 사람이 죽는 것을 방치할지언정 한 사람을 적극적으로 죽이는 것을 방지한다는 점에서 보다 도덕적이다.
일례로 주디스 톰슨은 '스위치를 당긴다 / 사람을 민다'는 선택지는 "길 가던 사람의 지갑을 빼앗아서 자선단체에 기부하는 것"과 비견된다고 논한다. 만약 후자가 도덕적으로 그르다면, 전자 또한 도덕적으로 그르다는 것이다.[1]
사례 1에서 '선로전환기를 당긴다' / 사례 2에서 '무거운 사람을 민다'가 각각 더 도덕적으로 올바른 결정이라는 주장을 옹호하는 한 가지 방식은 공리주의를 받아들이는 것이다. 일반적인 형태의 공리주의에서 '작위로 인한 피해'와 '부작위(omission)로 인한 피해' 간의 차이는 도덕적으로 무의미하기 때문이다.
이러한 입장을 적극적으로 받아들이는 대표적인 윤리학자로는 피터 싱어가 있다. 이를테면 싱어는 다음 두 시나리오를 비교한다.
실험 결과, '''사례 1'''에서는 피실험자들의 89%가 "그런 행위가 도덕적으로 허용 가능하다."고 대답한 반면 '''사례 2'''에서는 단 11%만이 "그런 행위가 도덕적으로 허용 가능하다."고 대답했다.[2] 이러한 반응은 성별, 교육의 차이, 문화의 차이와 상관없이 공통적이었다. '트롤리'가 뭔지 모르고, 공식적인 종교가 없는 중앙아메리카의 쿠나 족이라는 원시 부족에게 '카누에 탄 사람들에게 다가오는 악어 떼'란 형태로 번안해서 질문했을 때도 비슷한 결과가 나왔다.
여기서 제기되는 문제는 두 사례가 ‘다섯 사람을 구하기 위해 한 사람을 죽이는’ 내용을 공통적으로 가짐에도 불구하고 피실험자들이 트롤리 사례 1은 도덕적으로 허용 가능한 것으로, 사례 2는 허용 불가능한 것이라 보는 도덕적 반응의 차이는 어떻게 설명될 수 있는가 하는 것이다.
한편 문화적 종교적 배경과 상관 없이 어느 사회에서나 구성원들이 모두 공통적인 통계적 답변율이 나왔다는 점에서 인간의 윤리성은 종교와 큰 관련이 없음을 증빙하기도 하며 이는 무신론 담론에서도 자주 거론되는 예제이다. 즉 종교를 안 믿는 사람은 비윤리적이라거나 종교가 없어지면 세상이 타락할 것이다와 같은 주장에 반론하는 데 인용된다. 리처드 도킨스 역시도 이 실험(?)을 절찬리에 인용하고 있다. 이런 논쟁에 관심이 있다면 도덕과 종교의 관계 문서도 같이 보자.
실험 1과 실험 2에서 태도가 변하는 73%에 대한 일반적인 해석은 '''타인의 죽음에 얼마나 직접적으로 개입하느냐''', 그리고 '''죽음이 얼마나 불가피한가'''이다.
첫 번째 사례에서 내가 죽음에 영향을 미치는 방법은 '전환기를 조작한다'이다. 직접적으로 사람을 죽인다는 부분이 덜하다. 그리고 희생될 수 있는 6명은 모두 철길 레일에 묶여 있다는 공통점을 지닌다. 이 때문에 별도로 묶여 있는 한 명은, 다른 5명 중의 한 명이나 마찬가지인 가치를 가질 뿐이다. 즉 개입하지 않았으면 확실하게 5명이 죽었을 상황 대신 개입하여 5명을 살린 상황을 택했다고 해석할 여지가 충분하다.
두 번째 사례에서 희생되는 1명은 철길에 묶여있지 않다. 그는 '''선로 밖의 외부자'''이고, 내가 개입하지 않는다면 확실하게 죽음의 위험에 근접하지 않는다. 이 사람을 밀어넣어 죽이는 게 나머지 5명을 살리는 유일한 방법이라는 웃기는 조건이 걸려있기에 애매한 부분은 있지만, "선로"라는 고립계 밖에 존재하기에 엄밀히 따지면 이 사람이 죽는 것보다 나머지 5명이 예정 혹은 운명대로(?) 죽는 것이 덜 이상하다고 볼 여지가 있다. 그리고 죽음으로 밀어넣는 방법도 차단기 조작 같은 한발 떨어진 것이 아니라 손으로 직접 밀어넣는 행동이다. 이 경우 나의 죄책감은 더욱 커질 수밖에 없다.[3]
극단적인 상황에서 어느 쪽이 옳은가 선택한다는 점에서 무인자동차도 비슷한 고민을 하게 되는데 자율주행과 트롤리 딜레마는 관점의 차이가 존재한다. 트롤리 딜레마의 경우엔 자신의 선택이 결과에 영향을 미치지만 자율주행의 경우 인공지능이 선택하며 판매업체 또한 이를 인지하고 인공지능의 선택은 탑승자가 아닌 자신들의 책임이라고 홍보하고 있다.
또한 트롤리 딜레마는 공동체의 이득과 윤리 중 어디에 중점을 두어야 하는 논란이지만 무인자동차의 경우 공동체의 합의에 중점을 두게 된다. 극단적인 예를 들면 AI의 사고발생 처리과정 프로세스에서 운전자를 희생시킬 것인가 타인을 희생시킬 것인가 선택해야할 경우. 예컨대 자율주행 중인 차량을 다수의 무단횡단하는 사람들이 가로막았을 경우 이 사람들을 살리기 위해 핸들을 꺾으면 운전자가 확실히 사망하게 된다면? 공리주의 가치를 따르면 더 많은 사람을 살리기 위해 운전자를 죽이는 게 옳다. 하지만 자율주행 차량은 상품이기 때문에 타인을 살리기 위해 나를 죽이는 상품을 사고 싶어하는 사람은 많지 않을 것이다. 그렇다면 사회적 합의를 통해 도로교통법을 지키는 한도 내에선 운전자를 우선 보호하는 방침으로 의견이 수렴되고, 운전자를 살리기 위해 다수의 무단횡단자를 죽이는-사회 유지를 위해 공동체의 가치손해를 감수하는 방법을 선택할 가능성도 있다.
데이터 수집을 통해 어떤 상황에서나 옳고 누구나 동의하는 자율주행 인공지능을 완성하면 해결된다고 생각할 수도 있지만, 모두를 만족시키는 규칙을 만드는 것은 불가능에 가깝다.
누구부터 살려야 할지에 대해 MIT 연구진이 전 세계 230여만 명을 대상으로 조사해서 '네이처'에 발표했다는 기사에 따르면, 설문 결과 유모차 끄는 사람의 우선순위가 가장 높고, 그 뒤를 이어 소녀, 소년, 임산 여성이 이어졌으며, 최하 순위로는 개, 범죄자, 고양이의 우선순위가 가장 낮았다.
대중매체와 일반적인 도덕관념에선 사고 발생 시 어린이부터 살리는 쪽에 찬성하지만, 어른은 아이를 낳고 키울 수 있지만 아이는 어른을 낳고 키울 수 없다는 점에서 공리주의 입장에선 어른부터 구조하는 게 옳다. 영화 아이, 로봇에서 이 선택 딜레마가 나오는데, 성인인 주인공과 어린아이가 동시에 물에 빠진 상황에서 주인공은 자신보다 아이를 구하라고 명령하지만 로봇은 아이보다 성인이 생존 확률이 높다는 근거를 대며 인간의 명령을 거부하고 주인공을 구조한다.
사실 선로전환기를 수동조작할 것이라면 이물질 등을 이용해서 탈선시키는 것도 방법이다. 트롤리는 부서질지언정 사람은 다치지 않을 수 있으니까. 이렇게 대답할 경우 트롤리가 무인이 아닌 승객이 타고 있다는 전제를 붙여야 한다.
(모바일 환경에서는 표가 잘려 보일 수 있으니, 이미지가 세로로 한 줄밖에 보이지 않는다면 화면을 왼쪽으로 스크롤 해주십시오.)
4chan등의 해외 사이트에서 이 딜레마를 다룬 그림과 함께 어떻게 할 거냐는 질문이 올라왔는데, 유저들이 단체로 온갖 기상천외한 걸 넘어서 아예 안드로메다로 떠나버리는 답변 및 파생 문제들을 쏟아내며 밈으로 등극했다.
(13:00 부분)하버드 대학교에서도 비슷한 질문과 다소 획기적인 답변도 나왔다.
영화 모스트에도 이와 비슷한 딜레마가 나온다.
클래식 둠 시리즈의 모드로도 존재한다. (리뷰영상) 플레이어는 어떤 몹을 죽이고 살려야할지 스위치를 눌러서 결정해야한다. 스위치를 누르면 스위치에 따라 특정한 기름통이 터지며 몹이 터진다.
현실에서 선택해야 한다면 상대가 입는 영구적, 본질적 피해의 양을 고려해야 한다. 다섯이 찰과상에 한 명이 복합골절이라면 찰과상을 택하는 게 더 낫지 않겠는가? (다만 이래도 골 때리는 경우는 있는데, 다섯이 일상생활 불가능한 영구 장애에 한 명이 즉사라면 생명의 존엄성 그 자체를 위주로 생각할지 삶의 질과 죽음까지의 덜 고통스러운 여정을 위주로 생각할지 딜레마가 생긴다.) 애초에 그렇게 선택할만한 일을 만들지 않게 위험성을 없애도 될 것이다. 시정 다음에는 꼭 예방조치가 수반되어야 한다.
현실에서 책임을 지고 싶지 않다면, 선로조작기에 손을 안 대고 갈 길을 가는 게 맞는다는 대답이 나올 수 있다. 한 명이라도 죽는 한 선로조작기를 조작하면 최소 과실치사죄는 성립[9]하므로, 죽는 게 다섯 명이든 한 명이든 사건에 아예 관계되지 않아 상황을 회피하는 것이[10] 정신 건강에 가장 바람직하다. 이건 사고실험일 뿐이고, '''평범한 현실에서 이런 선택이 강요되지는 않는다.''' 너무 망상적으로 심각하게 생각하진 말자. 현실이라면 굳이 깊게 생각할 것 없이 가볍게 열차 비상정지 버튼이나 눌러주고 자리를 뜨면 된다. 그래도 열차가 제때 못 선다면 어쩔 수 없다.
실제로 유튜브 채널 Vsauce에서 이 실험을 진행하였으니 궁금한 위키러들은 보도록 하자.https://youtu.be/1sl5KJ69qiA
결과에 대해서 말하자면 시뮬레이터 실험상황(유튜브 링크와 비슷한 경우, 단 이쪽은 링크처럼 디테일하지는 않고, 그냥 인터넷상으로 영상과 가상의 제어 컨트롤을 보여주며 테스트하는 것.)의 경우 피실험자마다 다르겠으나 통계처럼 비율상 1명 쪽으로 전환하는 경우가 많다고 알려져 있다. 하지만 넷상으로 하는 것이기에 현실감이 떨어지는 게 영향을 미친다. 알다시피 실제로 실험한 유투브 영상에서는 그냥 그 자리에 얼어버린 사람들이 많았다. 아무래도 시뮬레이션이나 설문이 현실과 가까울수록 얼어버리는 비율이 높고, 이론적인 상황(설문조사)과 가까울수록 전환하는 비율이 높은 듯하다.
그게 아닌 그냥 현실의 사고사례집에는 아직 전례가 없는 상황이긴 하나, 사고실험을 해 보자면 관제사가 CCTV로 직접 보는 경우보다는 배선도 형태로 개략적으로 된 중앙통제시스템의 화면을 보므로 '''그냥 그 당시에 연결되어있었던 선로''' 쪽의 사람이 죽을 확률이 매우 높다. 그러니까 원본 문제의 경우 1명인 경우보다는 5명 쪽이 죽을 확률이 높다. 왜냐하면 시스템에 선로 연결 상황은 표시되지만 선로 위에 뭐가 있는지 없는지는 모른다. 그리고 현장의 선로전환기 앞에 사람이 있다고 한들 요즘 선로전환기는 수동 전환 레버가 없는 경우가 많다. 굳이 수동으로 전환하려면 키로 내부를 열고 핸들을 23바퀴를 돌리고 쇄정해야 하는데 그전에 선로전환기를 통과할 것이다.
대동소이한 다른 도덕적 딜레마로서 '''우는 아기 딜레마'''(crying baby dilemma)가 있다. "인종청소 중인 적 군인들의 수색으로부터 들키지 않기 위해 마을 주민들이 덤불 속에 한데 모여 숨을 죽이고 있는데, 한 주민이 데려온 아기가 난데없이 울기 시작한다. 이 아기를 가만히 두면 군인들이 주민들을 전부 찾아내 죽이겠지만, 그런 상황을 막으려면 그 아기를 목졸라 죽여야만(혹은 울지 말라고 입을 막으면 숨을 못 쉬어서 질식사) 한다. 어떻게 할 것인가?"라는 내용. 김종삼 시인의 시 "민간인(民間人)"에 직접적으로 드러나진 않아도 비슷한 사건이 배경에 깔려 있다. 시 전문 실제 사례도 많이 존재하며, 앞서 말한 김종삼의 시 외에도 전 세계를 막론하고 전쟁을 배경으로 한 창작물에서 클리셰로 자주 등장하는 편이다. 예를 들어 로만 폴란스키의 영화 피아니스트에서 나치에게 들키지 않으려고 우는 아기의 입을 막았다가 아기가 질식사해서 실성한 채로 수용소에 들어온 유대인 여자 이야기가 나오고, 더 퍼시픽 6화에서도 밤중에 한 병사가 발작을 일으키자 다른 부대원들이 위치를 들키지 않으려고 진정시키려다가 소대장이 삽으로 내리쳐 죽이고 만다. 비슷한 예로 콜 오브 듀티: 모던 워페어/캠페인 런던 미션에서 한 건물 2층에서 테러범들에게 붙잡힌 인질들 중 가운데 사람에게 폭탄조끼가 입혀져 있고 해체가 불가능한 상황에서 프라이스 대위는 폭탄조끼가 입혀진 인질을 1층으로 내던져 폭사시킴으로써 다른 인질들을 살린다.
잉글랜드의 전직 축구선수인 피터 크라우치는 리버풀 FC 시절에 팀 동료인 디르크 카윗을 차로 치어 죽일 뻔했는데, 어떤 사정이었냐 하면 동료들과 레이싱을 하다가 시작 지점으로 돌아왔을 때 카트에 브레이크가 없는 것을 뒤늦게 안 것. 시작 지점에는 사비 알론소와 카윗이 있었는데 크라우치는 알론소와 카윗 중 누가 더 가치 있는 선수인가 생각하고 카윗 쪽으로 핸들을 꺾었다. 다행히 카윗이 빠르게 피해서 사고는 없었다고. #
2019년 6월 23일 KBS 프로그램 도전 골든벨(제천제일고등학교 편) 마지막 문제로 출제되었다. 해당 문제를 틀렸기에 골든벨을 울린다면 피자를 사주겠다는 교장의 공약은 결과적으로 지켜졌다.[11]
1. 개요
Trolley Problem
윤리학의 사고 실험 중 하나다.
2. 상세
필리파 풋이 먼저 제시했으며 주디스 자비스 톰슨 및 이후의 피터 엉거와 프란세스 캄에 의해 체계적으로 분석되었다. 본래 여기서 말하는 trolley는 광차로 번역되는데, 아마도 본래 mine tram, trolley 등을 의도한 것 같다. 어차피 구체적인 설명이 없으니 대부분 좀 큰 열차 같은 걸로 표현되곤 한다. 그리고 광차라고 한다면 본래 희생양(?)들은 광부들이었던 것으로 보인다. 파생된 시나리오들에서도 주로 인부(worker)들로 나오는 것에서 그 흔적이 있다. 물론 일반인들은 철로 위에 있을 수 있는 개연성이 별로 없기에 그런 가상의 인부들만 (불쌍하게도) 사고실험의 주재료로 쓰이는 것 같다.
실제로 광차들은 브레이크가 자주 고장나기도 했기에 정말로 있을 법한 현실적인 사고실험이었다. 광차에 부딪혀도 당연히 위험하긴 하지만 상대적으로 전차가 달려드는 것 보다는 사정이 나을 수도 있다. 그런데 파생작들은 점차 극단적인 상황을 많이 가정하고 때로는 억지스러운 설정도 많다. 하지만 사고실험은 우리의 사고의 극한까지 끌어내기 위한 목적도 있기에 반드시 현실적일 필요는 없다.
역사적으로 유사한 문제가 형법학에서 다루어졌으며 특히 대륙법계의 법전에서 고려되기도 했다. 고전적으로는 카르네아데스가 스토아 학파의 윤리 이론의 모순을 지적하기 위해 만든 카르네아데스의 판자라는 문제가 얽혀 있었다. 전통적 철학의 영역 밖에서도, 이 문제는 신경윤리학에서 비중 있게 다루어진다.
3. 사례
아래 사례들은 모든 '''법적 책임'''(도덕적 책임은 아니다)을 무조건 면한다는 가정하에 읽어보길 바란다. 트롤리는 기차의 일종이라 생각하면 편하다.
- 사례 1
트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고 다섯 사람을 구하기 위해서는 선로전환기를 당기면 되지만 그렇게 되면 다른 선로에 있는 다른 한 사람이 죽게 된다. 선로전환기를 당기는 행위는 도덕적으로 허용 가능한가?
- 사례 2
트롤리는 선로를 따라 달려오고 있고, 선로에는 다섯 사람이 있다. 당신은 선로 밖에 서 있고, 바로 옆에는 상당히 무거운 사람이 한명 서 있다. 다섯 사람을 구하는 유일한 방법은 옆에 서 있는 사람을 선로 위로 밀쳐서 그 무게로 트롤리를 멈추게 하는 것인데, 이 경우 트롤리는 멈추게 되지만 그 사람은 죽게 된다. 이는 도덕적으로 허용 가능한가?
출제자에 따라선 선로에 사람이 묶여있거나 피할 수 없는 게 어색하다고 생각할 경우 철교나 터널 공사 중이라 인부들이 스스로 피할 방법이 없다고 가정하기도 한다.4. 윤리학적 논증
"'''실제로''' 사람들이 트롤리 딜레마에 대해 어떤 직관을 갖는가", "'''실제로 ''' 어떻게 행위할 것인가"라는 문제와는 독립적으로 각 선택지를 옹호하는 윤리학적 논증이 제시될 수 있다. 1970년대부터 관련 문제에 대해 무수한 연구가 이루어졌으며, 각 입장을 옹호하는 가장 단순한 형태의 입장은 다음과 같다.
4.1. 스위치를 당기지 않는다 / 사람을 밀지 않는다
사례 1에서 '선로전환기를 당기지 않는다' / 사례 2에서 '무거운 사람을 밀지 않는다'가 각각 더 도덕적으로 올바른 결정이라는 주장을 옹호하는 한 가지 방식은 '''"피해를 야기하는 것"'''과 '''"피해를 방치하는 것"'''이 도덕적으로 경중이 다르다는 입장에 호소하는 것이다. 이를 옹호하기 위해 원시적 형태의 공리주의에 대한 기초적인 반대 사례인 "장기 이식 사례"가 원용될 수 있다.
이때 '아무 죄도 없는 사람을 죽이는 것은 어쨌든 나쁘다'를 옹호하는 한 가지 방안은 "한 사람의 죽음을 적극적으로 '야기하는 것'은 많은 사람이 죽는 것을 결과적으로 '방치하는 것'보다 비도덕적이다"라는 입장을 취하는 것이다. 이는 법률에서 부작위범을 취급하는 방식과도 맥락을 같이 한다.'''장기 이식 사례'''
--
건강한 신체를 가진 한 사람이 병원에 입원했다. 그런데 그 병원에는 지구 상에서 전쟁을 없앨 수 있는 위대한 정치가, 대부분의 질병을 없앨 수 있는 의학자, 우주의 비밀을 밝혀낼 과학자, 인류의 기술 수준을 한 단계 도약시킬 수 있는 공학자가 각각 시한부 질병으로 입원해있다. 이들 4명의 위인을 살릴 수 있는 유일한 방법은 건강한 신체를 가진 사람의 장기를 떼어 이식하는 것이다. 이때 장기를 뗀 건강한 사람은 죽는다.
당신은 이들 환자를 담당하는 의사다. 병원의 보안이 워낙 잘 되어있어서 건강한 입원 환자의 장기를 모두 떼어내서 죽인다고 하더라도 이는 외부에 절대 알려지지 않고, 곧 사회에 불안을 절대 초래하지 않는다고 가정하자. 단순한 형태의 행위 공리주의에 따르면 이때 당신은 그 건강한 환자를 죽여서 장기를 네 명의 위대한 사람에게 이식하는 것이야말로 도덕적이다.
이러한 입장을 트롤리 딜레마에 적용해보자. 그렇다면 '스위치를 당기지 않는다 / 사람을 밀지 않는다'는 다섯 사람이 죽는 것을 방치할지언정 한 사람을 적극적으로 죽이는 것을 방지한다는 점에서 보다 도덕적이다.
일례로 주디스 톰슨은 '스위치를 당긴다 / 사람을 민다'는 선택지는 "길 가던 사람의 지갑을 빼앗아서 자선단체에 기부하는 것"과 비견된다고 논한다. 만약 후자가 도덕적으로 그르다면, 전자 또한 도덕적으로 그르다는 것이다.[1]
4.2. 스위치를 당긴다 / 사람을 민다
사례 1에서 '선로전환기를 당긴다' / 사례 2에서 '무거운 사람을 민다'가 각각 더 도덕적으로 올바른 결정이라는 주장을 옹호하는 한 가지 방식은 공리주의를 받아들이는 것이다. 일반적인 형태의 공리주의에서 '작위로 인한 피해'와 '부작위(omission)로 인한 피해' 간의 차이는 도덕적으로 무의미하기 때문이다.
이러한 입장을 적극적으로 받아들이는 대표적인 윤리학자로는 피터 싱어가 있다. 이를테면 싱어는 다음 두 시나리오를 비교한다.
- 사례 1
최빈국의 어떤 가난한 사람이 노숙자 소년을 어느 장소로 데려가주는 대가로 1000달러를 받는다. 뒤늦게 그게 인신매매였다는 걸 알게 되었지만, 그냥 개의치 않는다.
- 사례 2
선진국의 어떤 중산층이 유튜브에서 사례 1을 접하고서 "저런 나쁜 놈!"이라고 분개한다. 그 다음 이번에 새로 나온 1000달러짜리 스마트폰을 산다. (최빈국에서는 여전히 1000달러를 주고 받는 인신매매가 발생하고 있으며 스마트폰 살 돈을 기부한다면 그 일을 막을 수 있다.)
싱어에 따르자면 사례 2의 선진국 시민은 사례 1의 최빈국 시민보다 더 나쁘면 나빴지, 도덕적으로 덜 비난받을 자격이 없다. '스위치를 당긴다 / 사람을 민다'가 도덕적으로 허용되는 것 역시 같은 이치라는 것이다.5. 실험 결과
실험 결과, '''사례 1'''에서는 피실험자들의 89%가 "그런 행위가 도덕적으로 허용 가능하다."고 대답한 반면 '''사례 2'''에서는 단 11%만이 "그런 행위가 도덕적으로 허용 가능하다."고 대답했다.[2] 이러한 반응은 성별, 교육의 차이, 문화의 차이와 상관없이 공통적이었다. '트롤리'가 뭔지 모르고, 공식적인 종교가 없는 중앙아메리카의 쿠나 족이라는 원시 부족에게 '카누에 탄 사람들에게 다가오는 악어 떼'란 형태로 번안해서 질문했을 때도 비슷한 결과가 나왔다.
5.1. 해석
여기서 제기되는 문제는 두 사례가 ‘다섯 사람을 구하기 위해 한 사람을 죽이는’ 내용을 공통적으로 가짐에도 불구하고 피실험자들이 트롤리 사례 1은 도덕적으로 허용 가능한 것으로, 사례 2는 허용 불가능한 것이라 보는 도덕적 반응의 차이는 어떻게 설명될 수 있는가 하는 것이다.
한편 문화적 종교적 배경과 상관 없이 어느 사회에서나 구성원들이 모두 공통적인 통계적 답변율이 나왔다는 점에서 인간의 윤리성은 종교와 큰 관련이 없음을 증빙하기도 하며 이는 무신론 담론에서도 자주 거론되는 예제이다. 즉 종교를 안 믿는 사람은 비윤리적이라거나 종교가 없어지면 세상이 타락할 것이다와 같은 주장에 반론하는 데 인용된다. 리처드 도킨스 역시도 이 실험(?)을 절찬리에 인용하고 있다. 이런 논쟁에 관심이 있다면 도덕과 종교의 관계 문서도 같이 보자.
실험 1과 실험 2에서 태도가 변하는 73%에 대한 일반적인 해석은 '''타인의 죽음에 얼마나 직접적으로 개입하느냐''', 그리고 '''죽음이 얼마나 불가피한가'''이다.
첫 번째 사례에서 내가 죽음에 영향을 미치는 방법은 '전환기를 조작한다'이다. 직접적으로 사람을 죽인다는 부분이 덜하다. 그리고 희생될 수 있는 6명은 모두 철길 레일에 묶여 있다는 공통점을 지닌다. 이 때문에 별도로 묶여 있는 한 명은, 다른 5명 중의 한 명이나 마찬가지인 가치를 가질 뿐이다. 즉 개입하지 않았으면 확실하게 5명이 죽었을 상황 대신 개입하여 5명을 살린 상황을 택했다고 해석할 여지가 충분하다.
두 번째 사례에서 희생되는 1명은 철길에 묶여있지 않다. 그는 '''선로 밖의 외부자'''이고, 내가 개입하지 않는다면 확실하게 죽음의 위험에 근접하지 않는다. 이 사람을 밀어넣어 죽이는 게 나머지 5명을 살리는 유일한 방법이라는 웃기는 조건이 걸려있기에 애매한 부분은 있지만, "선로"라는 고립계 밖에 존재하기에 엄밀히 따지면 이 사람이 죽는 것보다 나머지 5명이 예정 혹은 운명대로(?) 죽는 것이 덜 이상하다고 볼 여지가 있다. 그리고 죽음으로 밀어넣는 방법도 차단기 조작 같은 한발 떨어진 것이 아니라 손으로 직접 밀어넣는 행동이다. 이 경우 나의 죄책감은 더욱 커질 수밖에 없다.[3]
6. AI의 문제
극단적인 상황에서 어느 쪽이 옳은가 선택한다는 점에서 무인자동차도 비슷한 고민을 하게 되는데 자율주행과 트롤리 딜레마는 관점의 차이가 존재한다. 트롤리 딜레마의 경우엔 자신의 선택이 결과에 영향을 미치지만 자율주행의 경우 인공지능이 선택하며 판매업체 또한 이를 인지하고 인공지능의 선택은 탑승자가 아닌 자신들의 책임이라고 홍보하고 있다.
또한 트롤리 딜레마는 공동체의 이득과 윤리 중 어디에 중점을 두어야 하는 논란이지만 무인자동차의 경우 공동체의 합의에 중점을 두게 된다. 극단적인 예를 들면 AI의 사고발생 처리과정 프로세스에서 운전자를 희생시킬 것인가 타인을 희생시킬 것인가 선택해야할 경우. 예컨대 자율주행 중인 차량을 다수의 무단횡단하는 사람들이 가로막았을 경우 이 사람들을 살리기 위해 핸들을 꺾으면 운전자가 확실히 사망하게 된다면? 공리주의 가치를 따르면 더 많은 사람을 살리기 위해 운전자를 죽이는 게 옳다. 하지만 자율주행 차량은 상품이기 때문에 타인을 살리기 위해 나를 죽이는 상품을 사고 싶어하는 사람은 많지 않을 것이다. 그렇다면 사회적 합의를 통해 도로교통법을 지키는 한도 내에선 운전자를 우선 보호하는 방침으로 의견이 수렴되고, 운전자를 살리기 위해 다수의 무단횡단자를 죽이는-사회 유지를 위해 공동체의 가치손해를 감수하는 방법을 선택할 가능성도 있다.
데이터 수집을 통해 어떤 상황에서나 옳고 누구나 동의하는 자율주행 인공지능을 완성하면 해결된다고 생각할 수도 있지만, 모두를 만족시키는 규칙을 만드는 것은 불가능에 가깝다.
누구부터 살려야 할지에 대해 MIT 연구진이 전 세계 230여만 명을 대상으로 조사해서 '네이처'에 발표했다는 기사에 따르면, 설문 결과 유모차 끄는 사람의 우선순위가 가장 높고, 그 뒤를 이어 소녀, 소년, 임산 여성이 이어졌으며, 최하 순위로는 개, 범죄자, 고양이의 우선순위가 가장 낮았다.
대중매체와 일반적인 도덕관념에선 사고 발생 시 어린이부터 살리는 쪽에 찬성하지만, 어른은 아이를 낳고 키울 수 있지만 아이는 어른을 낳고 키울 수 없다는 점에서 공리주의 입장에선 어른부터 구조하는 게 옳다. 영화 아이, 로봇에서 이 선택 딜레마가 나오는데, 성인인 주인공과 어린아이가 동시에 물에 빠진 상황에서 주인공은 자신보다 아이를 구하라고 명령하지만 로봇은 아이보다 성인이 생존 확률이 높다는 근거를 대며 인간의 명령을 거부하고 주인공을 구조한다.
- 인천 서구 가좌동 교통사고: 위의 설명처럼 여러 가치가 충돌하는 교통사고 사례이다. 블랙박스 차량(레이)과 택시가 시속 32km/h의 비교적 저속으로 충돌해, 블랙박스 차량(레이) 탑승자가 약간의 부상을 입을 가능성, 그리고 그냥 완전히 핸들을 틀어서 블랙박스 차량(레이) 탑승자의 부상 가능성을 없애면서, 동시에 보도에 서있는 행인을 치어 행인을 사망시킬 가능성에 대해서 가치 판단이 충돌한다.
7. 여담
사실 선로전환기를 수동조작할 것이라면 이물질 등을 이용해서 탈선시키는 것도 방법이다. 트롤리는 부서질지언정 사람은 다치지 않을 수 있으니까. 이렇게 대답할 경우 트롤리가 무인이 아닌 승객이 타고 있다는 전제를 붙여야 한다.
(모바일 환경에서는 표가 잘려 보일 수 있으니, 이미지가 세로로 한 줄밖에 보이지 않는다면 화면을 왼쪽으로 스크롤 해주십시오.)
4chan등의 해외 사이트에서 이 딜레마를 다룬 그림과 함께 어떻게 할 거냐는 질문이 올라왔는데, 유저들이 단체로 온갖 기상천외한 걸 넘어서 아예 안드로메다로 떠나버리는 답변 및 파생 문제들을 쏟아내며 밈으로 등극했다.
(13:00 부분)하버드 대학교에서도 비슷한 질문과 다소 획기적인 답변도 나왔다.
영화 모스트에도 이와 비슷한 딜레마가 나온다.
클래식 둠 시리즈의 모드로도 존재한다. (리뷰영상) 플레이어는 어떤 몹을 죽이고 살려야할지 스위치를 눌러서 결정해야한다. 스위치를 누르면 스위치에 따라 특정한 기름통이 터지며 몹이 터진다.
현실에서 선택해야 한다면 상대가 입는 영구적, 본질적 피해의 양을 고려해야 한다. 다섯이 찰과상에 한 명이 복합골절이라면 찰과상을 택하는 게 더 낫지 않겠는가? (다만 이래도 골 때리는 경우는 있는데, 다섯이 일상생활 불가능한 영구 장애에 한 명이 즉사라면 생명의 존엄성 그 자체를 위주로 생각할지 삶의 질과 죽음까지의 덜 고통스러운 여정을 위주로 생각할지 딜레마가 생긴다.) 애초에 그렇게 선택할만한 일을 만들지 않게 위험성을 없애도 될 것이다. 시정 다음에는 꼭 예방조치가 수반되어야 한다.
현실에서 책임을 지고 싶지 않다면, 선로조작기에 손을 안 대고 갈 길을 가는 게 맞는다는 대답이 나올 수 있다. 한 명이라도 죽는 한 선로조작기를 조작하면 최소 과실치사죄는 성립[9]하므로, 죽는 게 다섯 명이든 한 명이든 사건에 아예 관계되지 않아 상황을 회피하는 것이[10] 정신 건강에 가장 바람직하다. 이건 사고실험일 뿐이고, '''평범한 현실에서 이런 선택이 강요되지는 않는다.''' 너무 망상적으로 심각하게 생각하진 말자. 현실이라면 굳이 깊게 생각할 것 없이 가볍게 열차 비상정지 버튼이나 눌러주고 자리를 뜨면 된다. 그래도 열차가 제때 못 선다면 어쩔 수 없다.
실제로 유튜브 채널 Vsauce에서 이 실험을 진행하였으니 궁금한 위키러들은 보도록 하자.https://youtu.be/1sl5KJ69qiA
결과에 대해서 말하자면 시뮬레이터 실험상황(유튜브 링크와 비슷한 경우, 단 이쪽은 링크처럼 디테일하지는 않고, 그냥 인터넷상으로 영상과 가상의 제어 컨트롤을 보여주며 테스트하는 것.)의 경우 피실험자마다 다르겠으나 통계처럼 비율상 1명 쪽으로 전환하는 경우가 많다고 알려져 있다. 하지만 넷상으로 하는 것이기에 현실감이 떨어지는 게 영향을 미친다. 알다시피 실제로 실험한 유투브 영상에서는 그냥 그 자리에 얼어버린 사람들이 많았다. 아무래도 시뮬레이션이나 설문이 현실과 가까울수록 얼어버리는 비율이 높고, 이론적인 상황(설문조사)과 가까울수록 전환하는 비율이 높은 듯하다.
그게 아닌 그냥 현실의 사고사례집에는 아직 전례가 없는 상황이긴 하나, 사고실험을 해 보자면 관제사가 CCTV로 직접 보는 경우보다는 배선도 형태로 개략적으로 된 중앙통제시스템의 화면을 보므로 '''그냥 그 당시에 연결되어있었던 선로''' 쪽의 사람이 죽을 확률이 매우 높다. 그러니까 원본 문제의 경우 1명인 경우보다는 5명 쪽이 죽을 확률이 높다. 왜냐하면 시스템에 선로 연결 상황은 표시되지만 선로 위에 뭐가 있는지 없는지는 모른다. 그리고 현장의 선로전환기 앞에 사람이 있다고 한들 요즘 선로전환기는 수동 전환 레버가 없는 경우가 많다. 굳이 수동으로 전환하려면 키로 내부를 열고 핸들을 23바퀴를 돌리고 쇄정해야 하는데 그전에 선로전환기를 통과할 것이다.
대동소이한 다른 도덕적 딜레마로서 '''우는 아기 딜레마'''(crying baby dilemma)가 있다. "인종청소 중인 적 군인들의 수색으로부터 들키지 않기 위해 마을 주민들이 덤불 속에 한데 모여 숨을 죽이고 있는데, 한 주민이 데려온 아기가 난데없이 울기 시작한다. 이 아기를 가만히 두면 군인들이 주민들을 전부 찾아내 죽이겠지만, 그런 상황을 막으려면 그 아기를 목졸라 죽여야만(혹은 울지 말라고 입을 막으면 숨을 못 쉬어서 질식사) 한다. 어떻게 할 것인가?"라는 내용. 김종삼 시인의 시 "민간인(民間人)"에 직접적으로 드러나진 않아도 비슷한 사건이 배경에 깔려 있다. 시 전문 실제 사례도 많이 존재하며, 앞서 말한 김종삼의 시 외에도 전 세계를 막론하고 전쟁을 배경으로 한 창작물에서 클리셰로 자주 등장하는 편이다. 예를 들어 로만 폴란스키의 영화 피아니스트에서 나치에게 들키지 않으려고 우는 아기의 입을 막았다가 아기가 질식사해서 실성한 채로 수용소에 들어온 유대인 여자 이야기가 나오고, 더 퍼시픽 6화에서도 밤중에 한 병사가 발작을 일으키자 다른 부대원들이 위치를 들키지 않으려고 진정시키려다가 소대장이 삽으로 내리쳐 죽이고 만다. 비슷한 예로 콜 오브 듀티: 모던 워페어/캠페인 런던 미션에서 한 건물 2층에서 테러범들에게 붙잡힌 인질들 중 가운데 사람에게 폭탄조끼가 입혀져 있고 해체가 불가능한 상황에서 프라이스 대위는 폭탄조끼가 입혀진 인질을 1층으로 내던져 폭사시킴으로써 다른 인질들을 살린다.
잉글랜드의 전직 축구선수인 피터 크라우치는 리버풀 FC 시절에 팀 동료인 디르크 카윗을 차로 치어 죽일 뻔했는데, 어떤 사정이었냐 하면 동료들과 레이싱을 하다가 시작 지점으로 돌아왔을 때 카트에 브레이크가 없는 것을 뒤늦게 안 것. 시작 지점에는 사비 알론소와 카윗이 있었는데 크라우치는 알론소와 카윗 중 누가 더 가치 있는 선수인가 생각하고 카윗 쪽으로 핸들을 꺾었다. 다행히 카윗이 빠르게 피해서 사고는 없었다고. #
2019년 6월 23일 KBS 프로그램 도전 골든벨(제천제일고등학교 편) 마지막 문제로 출제되었다. 해당 문제를 틀렸기에 골든벨을 울린다면 피자를 사주겠다는 교장의 공약은 결과적으로 지켜졌다.[11]
[1] Judith Jarvis Thomson (2008). “Turning the Trolley,” ''Philosophy and Public Affairs'', 36 (4): 359–374.[2] Marc D. Hauser 의 연구, 5000명을 대상으로 한 온라인 설문 조사, 2007년[3] 단, 사례 2에서 옆의 사람을 밀어 넣는 것이 나머지 5명을 살리는 '''유일한''' 방법이라는 제한이 걸려있기에, "나 스스로가 뛰어들어 살릴 수 있었을 텐데" 등의 후회는 배제된다.[4] 다만 트롤리문제의 유명한 변형중에 이런식으로 무거운사람을 먼저 치게해서 다섯명을 구하는 문제가 있다.[번역1] "내가 이 레버를 당기면, 네가 죽겠냐?" "겁나게 고통스럽겠지."[번역2] 당신이 무엇을 선택하든지 간에, 당신은 결국 죽는다.[번역3] 당신은 왼쪽의 빨강입니다. 만약 당신과 상대방 모두 선로전환기를 당기지 않으면, 두 트롤리는 서로 충돌하고 5명을 죽일 것입니다. 만약 당신과 상대방 모두 선로전환기를 당기면, 오직 4명만이 죽고 트롤리는 무사할 것입니다. 그런데, 당신만 선로전환기를 당기고 상대방이 당기지 않는다면, 상대 쪽의 트롤리는 5명을 죽일 뿐만 아니라 당신까지 치고 지나갈 것입니다. 당신은 상대방과 소통을 할 수 없습니다. 당신은 어떻게 하시겠습니까? (당신은 자리에서 벗어날 수 없습니다.)[번역4] 빠른 트롤리가 접근하고 있고, 철로 위에는 아무도 없다. 한편, 당신은 Bob에게 당신의 샌드위치를 그만 먹으라고 말했었다. 당신은 그에게 경고했었다. 그러나 그는 듣지 않았다. 당신은 그를 밀 것인가?[번역5] 당신은 트롤리 문제 밈에서의 기관사입니다. 당신은 열차를 멈출 수 있지만, 그러지 않습니다. 아무도 이 상황에서의 당신의 역할을 모릅니다. 당신은 매번 살인 욕구를 충족하고, 무사히 빠져나갑니다.[5] 원본은 이 짤로 추정된다.[번역6] 당신은 빨간색 사람입니다. 당신은 다른 사람들이 얼마나 있는지, 그들이 무슨 생각을 하는지 모릅니다. 만약 당신이 선로전환기를 당기면, 당신은 트롤리 문제를 다른 사람들에게 떠넘기게 됩니다. 만약 당신이 당기지 않는다면, 당신은 5명을 죽이게 되고 더는 아무 일도 일어나지 않습니다. 당신은 어떻게 하시겠습니까?[6] 그런데 그림을 잘 보라. 모든 사람이 전환기를 당기면 마지막 전환기를 당긴 사람을 제외한 모든 사람과 당신이 담당한 트롤리 문제의 5명이 죽게 된다.[7] 다만 리만 제타함수를 사용하면 윗선로의 경우 1/2명을 구한다는 결과가 나온다. 무려 6배나 이득[8] 왜 1/12명인지는 라마누잔합 문서 참조. -1/12명을 죽게 하는 것이므로 1/12명을 구한다/만든다는 표현으로 바뀌었다.[번역7] 레버를 당겨서 1/12명을 만드시겠습니까? 아니면 아무것도 하지 않고 5명을 죽게 만드시겠습니까?[9] 다만 이 경우는 긴급피난으로 위법성조각사유에 해당되어 성립하지 않을 가능성이 크다.[10] 해당 상황에 대한 생각을 하지 않고 또한 이런 일이 생길 수 없도록 조치를 취하는 것이다.[11] 표준 논리학에서 조건문은 전건이 거짓이면 무조건 참이다.