연속체 가설
1. 개요
Continuum hypothesis
수학자 게오르크 칸토어가 제시한 가설로, 무한집합의 크기에 대한 내용이다. 위의 내용을 간단히 표현하면 $$ 2 ^{\aleph_0} = \aleph_1 $$ 가 성립한다는 것이다. 여기서 $$ \aleph_0 $$ 은 자연수, 정수 등의 가산 집합의 크기, $$ \aleph_1 $$ 은 비가산집합 중 가장 크기가 작은 집합의 크기를 말한다. 간단히 말하자면 '원소의 개수가 자연수의 개수보다 많고 실수의 개수보다 적은 그런 오묘한 집합이 존재하느냐'에 대한 문제이다.'''[math( \aleph_0 )] 보다 크고 $$ 2^{\aleph_0} $$ 보다 작은 기수를 가지는 무한집합은 존재하지 않는다.'''
2. 상세
이를 일반화한 가설은 '일반화 연속체 가설'이라고 한다.
집합론을 정립하는 과정에서 칸토어는 처음에 '자연수의 집합과 짝수의 집합의 크기는 같다'고 주장했으며, 이는 처음에 '뭔 소리냐? 짝수는 자연수의 부분 집합인데 어떻게 부분이 전체랑 크기가 같아?'라는, 유클리드 제 5공리인 '전체는 부분보다 더 크다.'는 것에 배치되는 것이라 논란에 휩싸였으나, 칸토어의 일대일 대응에 의한 증명을 통해 '어? 네 말, 뭔가 이상한데(?) 맞는거 같어.'라고 인정하게 된다.어떠한 서수 $$ n $$에 대해서 $$ \aleph_n $$ 보다 크고 $$2 ^{\aleph_n} $$ 보다 작은 기수를 가지는 무한집합은 존재하지 않는다.
즉, $$ 2^{\aleph_n} = \aleph_{n+1} $$ 가 성립한다.
칸토어는 '자연수 전체 집합의 모든 부분집합의 집합'과 실수 집합 사이에는 일대일대응이 존재한다, 즉 원소의 개수가 같다'는 사실을 발견했다. 더 나아가서 칸토어는 어떤 무한집합을 가져오더라도 '그 집합의 부분집합 전체의 집합(멱집합)'은 그것보다 기수가 높은 집합이 된다는 것을 알게 된다. 다시 말해 무한에도 급이 있다는 것을 알아낸 것이다. 자연수보단 실수(=자연수의 멱집합)가, 실수보단 실수의 멱집합이, 실수의 멱집합보단 실수의 멱집합의 멱집합이 더 크다는 식으로 말이다.
그런데 칸토어는 실수가 자연수보다 큰 건 알아냈지만 과연 실수보다 작고 자연수보다 큰 집합이 있는지는 알 수 없었다. 더 나아가 임의의 무한집합과 그 멱집합 사이에 존재하는 집합이 있는지에 대해서도 마찬가지였다. 그래서 칸토어는 남은 평생을 이것을 알아내는데 몰두하다가 정신병원에서 사망한다. 칸토어 사망 이후에는 "칸토어는 우리를 위해 무한이라는 낙원을 만들고 갔다. 그 무엇도 우리를 이 낙원에서 쫒아낼 수 없을 것이다"라며 칸토어의 죽음을 애도한 친구 다비드 힐베르트가 이 문제를 이어받게 되고, 결국은 현대수학에서 중요한 문제들을 모은 힐베르트의 23가지 문제에서 1번 문제의 자리를 차지하는 영광을 누렸다.
3. 결론 : 답이 없다
이 문제는 1940년에 쿠르트 괴델이 연속체 가설은 ZFC와 무모순임을 증명하고, 1963년에 폴 코헨이 가설의 부정이 ZFC와 무모순임을 증명하면서 결론적으로 해결되었다. 하지만 그 해답은 사람들이 생각하는 일반적인 수학적 정리와는 굉장히 괴리된 해답이다.[1]
답이 무엇이냐 하면... ''''참'이라고 해도 상관 없고, '거짓'이라고 해도 상관 없다.''' 다시 말해, '''이 가설 자체를 '현재의 정수론적 수학 공리계에서' 증명하거나 반증하는 것이 불가능하다.'''
이게 어떻게 수학에서 할 소리냐! 라고 하고 싶은 분들도 계실 것이나, 이게 결론이다. 무슨 말이냐 하면, 이 명제를 참이라고 하건 거짓이라고 하건 현재 존재하는 수학의 공리들과 전혀 모순되지 않는다는 것이다.
즉 연속체 가설이 참이든 거짓이든 뭘 선택해도 현재 사용되는 수학 체계에서는 아무런 하자가 없다는 것이다.[2][3]
이걸 어떻게 증명했냐면, 수리논리의 한 분야인 모델론(model theory)의 기법이 사용되었다. 모델이란 어떤 이론 속의 모든 공리를 성립하게 만드는 구조를 가리키는 말인데, 괴델은 "ZFC + 연속체가설"의 모델을 구성해냈다. 그리고 수십년간 소강 상태이다가 코언이 갑툭튀해서 강제법(forcing)이라는 독특한 수법을 개발해서는 "ZFC + 연속체가설 부정"의 모델을 구성해낸 것이다. 이후 이 forcing이라는 방법은 이후 집합론의 곳곳에 응용되었다.
아무튼 힐베르트의 23가지 문제 중에서 1번 문제로 꼽힐 정도로 중요한 문제였으나, 괴델의 불완전성 정리의 실례가 되어 버리면서 수학의 논리주의와 형식주의는 큰 타격을 입게 된다. 이 가설을 제시한 게오르그 칸토어가 '수학의 본질은 그 자유로움에 있다'라는 말을 남기기도 했고... 현재 수학의 주류는 참 거짓을 굳이 정하지 않는 것인데, 연속체 가설을 참으로 가정하면 초한기수의 지수연산이 깔끔하게 정의되는 등 이점도 많다. 그래서, 아예 연속체 가설을 현대 수학의 '''공리'''로 받아들일 수도 있지만, 이렇게 되면 그 부정을 가정한 정리가 있다고 할 때 그것은 모순이 되어버린다.
여튼 inaccessible cardinals의 존재 등과 함께 ZFC의 한계점을 암시하는 개념이다... 집합론에서는 여전히 공리계의 확장에 관한 여러 의논이 있다. 괴델도 이런 집합론의 불완전함을 언급하며 더 확장해나가면서 집합론이 발전할 수 있을 것이라고 말한 바 있다.
4. 관련 문서
[1] 흔히 연속체 가설에 관한 증명가능성은 선택공리의 증명가능성과 함께 세트로 묶이는데 선택공리도 ZF에서 증명도 반증도 불가능하다는 것을 괴델과 코헨이 증명했기 때문이다.[2] 이해하기 힘들다면, 수학을 하나의 균형잡힌 건물로 보고, 공리를 그 건물을 지탱하는 기둥이라고 했을 때, 연속체가설이 참인지 거짓인지를 알기 위해서, 즉 연속체가설이 참이라는 건물 혹은 거짓이라는 건물을 만든다고 해도, 반드시 지금의 기둥만으로는 부족해서 새로운 기둥(공리)을 '''지금 알려진 정수론의 영역 외부에''' 추가해야 한다는 것이다. 반대로 연속체가설을 떠받드는 건물이 튼튼하든 튼튼하지 않든, 기본적인 정수론을 구성하는 기둥에는 아무런 문제가 없다.[3] 참이라고 가정했을 때 공리계와 모순이 없기에 반증이 불가능하고, 공리계로부터 가설이 유도되지 않기 때문에(즉, 공리계와 가설이 서로 독립) 증명도 불가능하다는 식으로 이해해도 된다.