중국어 방
1. 개요
The Chinese Room. 존 설(John Searle)이 튜링 테스트로는 기계의 인공지능 여부를 판정할 수 없다는 것을 논증하기 위해 고안한 사고실험.
어느 방에 중국어를 모르는 사람을 집어 넣고, 중국어로 된 질문 목록과 그에 대한 중국어 대답이 적힌 목록 및 필기도구를 넣어 둔다[1]. 중국인 심사관이 그 방 안으로 중국어 질문을 써서 넣는다면 안의 사람은 중국어를 전혀 할 줄 모르지만 목록을 따라 그에 대한 대답을 중국어로 써서 심사관에게 건네줄 수 있다.
2. 상세
밖의 사람의 입장에서는 안의 사람은 중국어를 할 줄 아는 것으로 보이지만 실제로 안의 사람은 중국어를 전혀 모르고, 질문 및 대답도 전혀 '''이해하지 못하는 상태'''이다. 즉 중국어 문답을 완벽히 한다고 해도 안의 사람이 중국어를 진짜로 이해하는지는 알 수 없으며 따라서 기계가 '''지능을 가졌는지''' 판단하는 튜링 테스트의 답변이 과연 '''지능을 가지고 하는 것인지 아니면 단순히 저장된 답변을 하는 것'''인지 알 수 없다는 주장이다. 다시 비유하자면 응시자가 수학 문제를 풀 때 원리를 알고 풀었는지 공식과 풀이과정을 외워서 그대로 적었는지는 모른다는 이야기와 같다.
3. 튜링 테스트에 대한 변론
본래 튜링 테스트를 까기 위해 만들어진 사고실험이지만, 오히려 튜링 테스트에 대한 이론을 풍부하게 했다. 이에 대한 수많은 변론들은 미래학자 레이 커즈와일의 저서 《특이점이 온다》에 아주 상세하게 설명되어 있다.
해당 서적에 제시된 변론들 중 가장 유명한 것으로는 '''시스템 논변'''(systems reply)이 있다. 만일 중국어 방에서 완벽한 중국어가 나온다면, 그 과정이 무엇이 되었든 간에 그것은 하나의 "시스템"이며, 곧 시스템 단위로 봤을 때는 중국어를 할 줄 안다고 봐야 한다는 것이다.[2] 인간 뇌와 뉴런의 관계를 생각하면 된다. 개개의 뉴런은 "나" 라는 것에 대해서, 나아가 자기 자신이 누군지조차 모른다. 이 뉴런을 조금 더 확대해본다면, 매 순간마다 뉴런 내에서 벌어지는 수없이 많은 화학 반응은 전부 물리 법칙에 따라 벌어지는데, 화학 작용이 "나"라는 개념을 알고 있을 가능성은 당연히 없는 것이다. 하지만 뉴런과 뉴런 사이의 연결을 담당하는 시냅스의 집합인 인간의 뇌는 중국어를 알 수 있고 완벽한 중국어를 구사할 수 있다.
인류는 자기가 생각을 하면서도 도대체 자기 뇌가 뭐로 이루어졌는지조차 몇 만년을 모르고 지내왔다. 심지어 '뇌'에서 생각이 나온단 것 조차도 몰랐다! 감정 반응과 관계있는 심장이 그 역할을 할 것이란 추측정도가 전부였다. 하지만 여전히 사고의 역사는 나아간다. 그것은 자기 자신을 이해하지 않아도 된다. 왜냐면 인간이란 존재는 진화론적 '시스템'이며, 그 시스템이 해내는 일이 곧 인간의 행동이기 때문이다. 그러므로 설의 중국어 방은 하나의 시스템이며, 따라서 '중국어를 구사하는 시스템' 그 이상 그 이하도 아니다.
다만 중국어 방 자체가 튜링 테스트의 불완전성을 까기 위해서 만들어졌고, 시스템 논변은 결과가 같으면 인간으로 취급한다는 요지의 주장이다. 하지만 튜링 테스트는 한정된 환경이며 모든 결과를 테스트할 수 없다. 때문에 튜링 테스트만으로는 대상이 정말로 하나의 완전한 시스템인지 알 수 없다는 비판을 할 수 있다. 그러나 이런 반박은 일종의 훈제 청어에 불과하다. 쉽게 말해 튜링 테스트를 한번 통과했다고 해도 다음 번 혹은 다다음번 테스트에서는 헛점이 드러날지도 모르는 것 아니냐는 이야기인데, 그냥 여러 사람이 충분한 시간을 두고 튜링 테스트를 반복하면 해결되는 문제고, 이 논쟁의 본질과는 거리가 멀다.
아무튼 "시스템"에 입각한 반론에 대하여 존 설은 다시 재반박을 내놓았다. 설은 중국어 방 속에서 일처리를 하는 사람이 '''구문론을 갖고 있을 뿐 의미론은 갖고 있지 않다'''고 주장하면서, 이 사람이 중국어에 있어 구문론적 지식을 통해 의미론을 획득할 수 없다면 (중국어라는 기호에 의미를 부여해 줄 자원을 갖지 못하기로는 똑같이 매한가지인) 작업실이라는 시스템에 대해서는 그것이 어째서 가능하다고 설명해야 하는지 이의를 제기했다.
또한 (시스템으로 지칭할 만해 보이는) 작업실이라는 공간적 제약을 배제하더라도 논리가 무효가 되지도 않음을 주장했다. 예컨대 그 사람이 중국어 DB에 대한 완벽한 지식을 갖춘 채 탁 트인 들판을 자유롭게 거닐며 일처리를 하는 상황에 대해서도, 이 사람이 여전히 중국어를 이해하고 있다고는 말할 수 없으므로 자신의 논변이 힘을 잃지는 않지만 시스템에 입각한 반론은 힘을 잃음을 지적했다.
존 설의 대표적인 비판자 중 하나인 대니얼 데닛은 중국어 방에 대하여 중국어에 대한 완전한 처리가 가능할 정도로 복잡하고 막대한 DB가 존재한다는 전제의 중요성이 지나치게 간과되고 있다고 지적한다. 비록 설이 중국어 처리에 관한 완벽한 처리가 가능한 DB의 존재를 인정하기는 하지만, 자신의 사고실험에서는 그것이 제대로 고려되지 않고 있다는 것이다. 데닛은 만일 우리가 이 사고실험을 "제대로 상상한다면" 이 DB의 어마어마한 '''복잡성'''은 이미 우리가 의식이라 부를 수 있는 것을 고스란히 보여줄 수 있을 정도로 경이로운 구조성을 지닌다는 걸 쉽게 알 수 있다고 하였다. 그는 "어떤 것을 이해한다는 것은 스스로는 아무것도 이해하지 못하는 하부 체계들 간의 상호작용만으로도 충분히 달성될 수 있다" 는 주장을 선뜻 받아들이지 못하는 사람은 (소위 '영혼' 의 존재를 아직도 믿고 싶어하는) 철 지난 데카르트적 심신이원론자라며 맹렬히 공격했다.
데닛은 또한 구문론과 의미론에 관한 설의 반론에 대해서도 다시 "두 블랙박스" 논변을 들어서 재반박을 내놓았으며, 중국어 방에서 결과물로 나온 응답이 의미론적인 속성이 아니라 아주아주 복잡한 구문론적 속성이라고 주장하기에는 이것이 어떤 구문론적 속성인지, 어째서 우리가 이것을 의미론적으로 받아들임에도 불구하고 순수하게 구문론적인 속성이 존재한다고만 가정할 필요가 있는지 설명되지 않았다고 이의를 제기했다.
4. 남은 이야기
사고실험의 제안자 존 설은 중국어는 정말 눈꼽만큼도 모른다고 한다. 일본어와 중국어를 같이 두면 구분할 수 없을 정도라고. 이 사고실험이 하필 중국어를 다루는 것도 "백지 상태의 지식" 을 설명하기 위한 이유라고 한다.
인간의 마음을 입력→알고리즘적 프로그램→출력의 시스템으로 보는 심리철학계의 트렌드에 정면으로 반기를 드는 사고실험이다 보니 반격도 정말 숱하게 많이 받았다. 마음에 대한 계산주의적 모델이 특히 이 사고실험으로 상당한 위협에 처하게 되는데, 존 설은 유물론과 심신이원론 모두를 비판하는 편이다. 아니, 설이 원체 컴퓨터적 기능주의에 대해 비판적이라고는 하나, 심신이원론에 대해서는 찌끄레기 취급할 정도.
유사한 다른 사고실험으로 1974년에 토머스 네이글(T.Nagel)이 제안한 "박쥐의 의식" 논변, 1982년에 프랭크 잭슨(F.Jackson)이 제기한 "메리가 모르는 것" 논변, 1978년에 네드 블록(N.Block)이 제기한 "10억 중국인의 문제" 논변 등이 있다. 이들 논변에 대해서도 이미 데닛을 비롯한 학계에서는 애저녁에 반론이 전부 제시되었기에 중국어 방 논증보다 더 강력하지는 못하다. 따라서 2000년대 이후로는 비록 반론 측이 우세한 상태이긴 하나, 문제가 종결된 것은 아니며 교착상태에 가깝다.
이것을 소재 중 하나로 다룬 블라인드 사이트라는 SF 소설이 있다.
5. 관련 문서
[1] 당연한 이야기지만, 이 목록에는 심사관이 할 수 있는 '모든' 질문이 포함되어 있다고 가정한다.[2] 방 안에 있는 사람은 중국어를 전혀 할 줄 모르지만 '방'은 중국어를 할 줄 안다고 보면 된다.