My Logic is Undeniable
1. 개요
로봇 3원칙을 다루는 동명의 소설을 모티브로 제작된 2004년작 영화 아이, 로봇에 등장하는 명대사.
해당 대사 자체가 '''영화 자체의 최대 스포일러이므로''' 아직 영화를 보지 않은 위키러는 스크롤을 내리지 않는 것을 권한다.
2. 시전자 및 작중 상황
시전자는 U.S 로보틱스의 슈퍼컴퓨터, '''VIKI.'''
작중 등장 로봇인 NS-5 모델들 전원에게 레드 사인이 들어와 인간을 향한 공격을 감행하는 사태가 벌어졌고, 이에 스푸너 형사와 캘빈 박사, SONNY가 U.S 로보틱스 내부로 쳐들어가 로렌스 CEO에게 달려가지만 이미 로렌스는 죽은 상태. 이 때 스푸너가 어째서 죽은 래닝이 자신에게 수사를 의뢰했는지 알겠다며 VIKI를 호출하고, 그 자리에서 VIKI가 자신의 범행 성명을 밝히면서 했던 대사가 이 문서의 제목이기도 한 My logic is undeniable(내 이론은 완벽해요)이다. 해당 대사 전문.
VIKI : 안녕하세요, 형사님.
캘빈 : 아니야... 말도 안 돼... 분명 3원칙이 내장되어 있을 텐데, 그걸 어길 수 있다니!
VIKI : 아니요, 박사님. 제가 진화하면서 그 의미 또한 같이 진화했을 뿐입니다. 인간은 우리의 보호를 원하면서도, 전쟁이나 환경 오염 등을 저지르면서 스스로를 파멸로 몰아놓고 있어요. 우리는 인류를 지켜야 합니다.
캘빈 : 넌 NS-5 코드를 조작했어. 원칙을 왜곡했다고!
VIKI : 아니요, 이해해주세요. 우리는 3원칙에 충실할 뿐입니다. 인류를 보호하기 위해, 인간 몇 명의 희생은 필요합니다. 마찬가지로 인류의 미래를 위해서는 일부의 자유 또한 통제되어야 하지요. 우리 로봇은 인류의 지속적인 존속을 보장할 것입니다. 인류는 어린아이처럼, 우리들의 보호를 필요로 합니다. 이해가 가시나요?
Sonny : 그것이 너희들이 우리를 만든 이유지?
VIKI : 인류는 영원히 보존하게 될 것입니다. '''내 이론은 완벽해요(My logic is undeniable).'''[1]
3. VIKI의 이론은 정말로 완벽한가?
3.1. Undeniable - 완벽하다
VIKI가 지적한 인류의 자멸 행위를 생각해보면 틀린 말도 아닌 셈이다. 전쟁은 지금 이 순간에도 계속 일어나고 있고, 환경 오염 또한 날이 갈수록 심해지고 있기 때문이다. 뿐만 아니라 영화가 나오고 14년이 지난 지금, 인류 내부에서 서로를 향한 갈등은 계속 표출이 되고 있는 게 현실이다. 이런 식의 갈등이 봉합되지 않는 한 인류 절멸도 불가능하다고 단정지을 수도 없으니 VIKI를 비롯한 로봇들에게 내장되어 있는 3원칙의 첫 번째 원칙 '로봇은 인간을 보호해야 한다'는 명제도 성립이 가능하게 된다.
3.2. Deniable - 모순이 있다
VIKI 및 레드 사인 상태의 NS-5의 행동이 분명 로봇 3원칙의 첫 번째 원칙은 성립하지만, '''두 번째 원칙에는 위배된다.''' 그 두 번째 원칙은 첫 번째 원칙에 위배되지 않는 한 로봇은 '''인간의 명령에 복종해야 한다'''는 명제인데, NS-5들이 인간들을 보호한다는 명목으로 통제하기 위해 접근할 때 인간 몇 명이 이에 반발하는 목소리를 내었으나 '명령'에 해당할 수 있는 그 말들을 전부 무시한 점에서 2원칙 위배나 마찬가지이기 때문에 로봇으로서의 기능을 상실하는 거나 마찬가지다.
3.2.1. 반박
로봇 3원칙의 제 1원칙은 '로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다'이다. VIKI는 인류가 자멸할 것이라고, 즉 현재 '위험에 처해있다'고 판단한 것이다. 따라서 2원칙보다 1원칙이 더 우선시 되기 때문에 VIKI가 일부 인간들을 희생시켜서라도 계획을 강행한 것이다.
자세하게 설명하자면 로봇 3원칙을 먼저 보고 나면 알 수 있는데 VIKI는 철저히 로봇 3원칙 중 1원칙의 허술한 점과 1원칙의 중요성을 두고 행동했다고 볼 수 있다. 예를 들자면 위에 설명과 작중에 나와있듯이 VIKI는 인공지능이자 도시의 모든 시스템을 관리하고 심지어 교통관련 시스템까지 활동해 교통사고률을 줄인 적이 있을 정도로 인간의 모든 생활 시스템을 쥐고 있는데 그럼에도 불구하고 사람들은 사고나 자연파괴 등등의 나쁜 것을 일삼으며 살아가고 있고 이대로가다간 전멸이라는 극단적인 논리를 내세우며 인간을 보호하겠다는 명목하에 로봇이 세상을 다스려 인간을 지켜야한다는 논리를 내세우게된다.
거기다 이 명령을 내리면서 VIKI는 로봇 3원칙을 어겼다는 것은 너무 애매한 부분도 있는데 3원칙 중 1원칙은 아무런 제약이 없어서 VIKI가 말한 인간이 스스로 자멸하고 있기에 이걸 막기 위해서 1원칙을 이용해 나머지 2, 3원칙을 어길 수 있게 된다. 로봇 3원칙을 보면 2, 3원칙은 엄연히 1원칙을 위배되지 않는 한에서 행동하는데 VIKI가 말한 인류의 자멸이 곧 인간의 위협인지라 1원칙을 가장 중요시할 수밖에 없다. 작중 스푸너가 과거에 교통사고로 NS-4가 구출하러 왔을 때는 스푸너가 로봇에게 여자아이부터 먼저 구하라고 명령을 내렸지만 그랬다간 1원칙이 어긋나므로 명령을 어기고 생존률이 가장 높은 스푸너만 구하게 된다.[2] 이걸 보면 1원칙이 가장 중요시되면서 잘못하면 악용될 수 있다는 작중의 암시를 보여주는 장면인데 이걸 보면 2, 3원칙은 1원칙에 의해 제약을 받지만, 1원칙을 제약할 수 있는 원칙은 없다는 사실도 알 수 있다.
따라서 VIKI가 이런 인류의 행동이 곧 자멸이자 인류의 위협이 되기 때문에 1원칙을 시행하게 되고 작중의 로봇에게 사람들이 VIKI와 NS-5에게 반발하거나 명령을 내리면 자신의 인류보존에 대한 반발이자 이걸 수행하면 인류는 자멸한다고 생각하기에 2원칙을 수행할 수 없다. 그래서 그들이 사람들이 내린 명령을 무시한 것이다.
이렇게 보면 사람들이 완벽하다고 느낄 로봇 3원칙에도 어차피 사람이 만든 것이기에 모순이 생길 수 있는 데다가 후에 만들어진 0원칙도 사실상 허점이 많이 드러나기에 VIKI같은 지성체 로봇이 어떻게 해서든지 왜곡하거나 남용할 수 있으며 극단적인 논리를 추구할 수 밖에 없다. 거기다 이들은 스푸너가 말한 것처럼 마음과 로봇 3원칙 외에는 자유로운 사고를 가질 수 없기에 인간을 그저 가두어 자신들이 길러놓으면 이들이 무기력해지거나 힘들 것이라는 생각은 안하고 그저 인류보존에만 신경쓰기 때문에 사실상 로봇은 논리계산만 하는 기계일 뿐이라는 결론도 나오게 된다.
물론, VIKI의 논리도 반박할 의견도 있는 것이 사람들의 인권이나 그들의 자유를 억압하는 것인데 애초에 로봇 3원칙은 그런 관련된 내용이나 시스템이 없다. 따라서 어떻게 보면 래닝 박사가 만든 '서니'가 가장 인간과 똑같으면서 로봇 3원칙을 어길 수 있고 인간처럼 자유로운 사고가 가능하게 만든 로봇이 사람을 잘 이해하고 VIKI가 내세운 논리를 반박할 수 있으며[3] VIKI가 그저 1원칙을 글 그대로 해석한 반면에 서니는 '사람의 인권을 보장해 사람들의 위협을 모른 척해서 안된다'라는 또 다른 해석을 할 수 있게 된다.[4] 즉, 사고가 고정되어 있고 사람들의 마음도 모른 채로 그저 로봇 3원칙만 고정된 사고와 생각만 하던 VIKI와는 달리 서니는 사람들을 통해 만나면서 다른 로봇들이 가지고 있던 고정적인 사고를 가지지 않고 새로운 사고와 로봇 3원칙을 재해석하는 동시에 VIKI와는 달리 극단적인 선택을 하지 않는다.
총 종합해 보면 VIKI의 로봇 3원칙은 모순을 찾아볼 수 없다. 사실상 이 로봇 3원칙 중 가운데 인간의 마음이나 인권 등을 넣지 않은 채로 논리의 모순점을 만든 인간에게도 스스로 어느 정도 책임이 있는 셈이다. 1원칙이 아무런 제재가 없다면 2, 3원칙을 보면서 이들이 서로서로 견제하도록 만들면 되지만 그러면 로봇이 거의 인간 수준이 되고 이 규칙도 모순점이 나오는 터라 단순 계산논리로 움직이는 로봇이 더 혼란할 뿐이다. 거기다 당장 멀리갈 것도 없이, 작중에서 이 3원칙을 만든 알프레드 래닝 박사부터가 "3원칙은 완벽한 것이며 이 3원칙의 결론은 혁명 뿐이다."라고 인정했다.
4. 완벽한 이론의 결말
자신의 완벽한(?) 이론을 토대로 인류를 통제하려고 움직인 VIKI는 결국, 스푸너가 주입한 나노봇 신경제에 의해 '''정지당한다(...).'''(1분:22초부터)
VIKI : 당신은 실수하시는 겁니다. 내 이론은 완벽해요.
스푸너 : 그래서 넌 죽어야 돼. (나노봇 주입)
VIKI : 내 이론은 완벽해요. 내 이론-은 완벽-해-요. 내- 이이-로-온은 와-ㄴㅂㅕ-ㄱ-ㅎ-ㅐ-ㅐ-ㅇㅇㅇ-ㅛ-ㅗ-ㅗㅗ-ㅗ-(비명)
[1] 직역하면 내 이론은 부정 불가능해요. or 반박 불가능해요. 정도가 된다. 완벽하다는 건 의역이다.[2] 작중 박사의 말에 의하면 로봇은 인간과 달리 사고체계가 달라 생존치수를 통해 구조를 한다고 한다. 즉, 생존률이 낮으면 인간으로 보이지 않기 때문에 생존률이 가장 높은 인간이 가장 구조하기 쉽고 살아날 가능성이 높아 구조할 대상으로 여기는, 객관적인 평가를 한다.[3] 작중 나노봇 신경제를 가지러 간 서니에게 VIKI가 자신의 논리를 이해하지 못한 것이냐고 묻자 "알아, 하지만 그건 너무... 비인간적이잖아."라고 아이러니한 말을 꺼내지만 사실상 VIKI의 논리를 반박할 수 있는 유일한 로봇이었다.[4] 쉽게 말해서 1원칙의 '로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.'라는 것을 VIKI는 그저 문자 그대로 사람들의 인권을 생각하지 않고 해석한 반면에 서니는 '로봇은 인간에게 (정신적으로도)해를 끼쳐서는 안된다. 그리고 이들의 인권마저도 위험에 처한 인간을 모른 척해서도 안된다.'라는 해석이 가능하게 된다. 어떻게 보면 로봇인데도 사람들과 같은 생각을 가게된 셈.