모듈러성 정리
1. 소개
Modularity Theorem.
타원곡선에 등장하는 L급수는 고전 모듈러 형식에 등장하는 급수에 똑같이 등장하고 반대도 성립한다는 정리. 타니야마 유타카(谷山豊)와 시무라 고로(志村五郎)에 의해서 제안된 이론으로 '''타니야마-시무라의 추론(谷山–志村予想)'''이라고 불렸다. 지금은 증명이 완료되어 '''모듈러성 정리'''라고 부른다.
2. 상세
타원곡선[1]에서 x와 y가 유리수일 때, 즉 타원곡선의 유리수점의 집합 E(Q)를 생각하자.[2] 이 유리수점은 위의 군 연산에 대해 닫혀 있고, 모델-베유 정리(Mordell-Weil theorem)에 의해 모든 유리수점은 유한 개의 유리수점의 합으로 나타낼 수 있다.[3] 또 다른 하나는 x와 y가 정수이고, 이를 N으로 나눈 나머지를 생각하는 것이다. 즉 합동방정식의 해들의 집합 E(N)을 생각한 뒤 |E(p)|의 정보들을 모두 모아 타원곡선의 L-함수(L-function) 혹은 L-급수(L-series)를 만들 수 있다.
한편 모듈러 형식(modular form)은 허수부가 0보다 큰 복소수 위에서 정의되는 유리형(meromorphic) 복소함수 중 다음을 만족하는 함수이다. (a,b,c,d는 $$ad-bc=1$$인 임의의 정수, k는 고정된 정수)
$$f( (az+b)/(cz+d) ) = (cz+d)^k f(z)$$
이 f를 푸리에 해석을 사용하여 $$ q = e^{2 \pi i z} $$에 대해 전개한 급수에서 p번째의 계수들을 뽑아내 타원곡선의 경우와 비슷하게 조합하면, 모듈러 형식의 L-급수를 얻는다. 여기에 그 이유를 대략적으로 설명해 보도록 하겠다. 그 전에 체(대수학), 타원 곡선 [4] 문서와 유한체 (또는 시계 대수학) 문서의 내용을 대충은 알고 와야지 이해가 될 것이다. 의외로 고등학교 수학만 알아도 그렇게 막히는 부분은 없을 것이다.타원곡선의 방정식은 다음과 같다. 유리수 a,b,c에 대해
$$y^{2}=x^{3}+ax^{2}+bx+c$$ (단, 삼차방정식 $$x^{3}+ax^{2}+bx+c$$ 는 중근을 가지지 않는다. )
그러면 타원곡선의 방정식 중 가장 기본적이고도 유명한 방정식 중 하나인 다음 곡선을 살펴보자.
$$y^{2}=x^{3}-x$$
이 방정식은 x(x-1)(x+1)로 인수분해되어, 중근을 가지지 않으므로 타원곡선의 정의를 만족한다.
이제 이 방정식을 유한체 $$F_{p}$$ 로 떨어트려 보자. [5]
그러면 다음과 같이 식이 변형된다.
$$y^{2} \equiv x^{3}-x \pmod{p}$$ [6]
그러면 유한체 $$F_{2}$$를 생각해 보자. $$F_{2}={0,1}$$로 정의되며, 체이기 때문에 덧셈과 곱셈이 모두 가능해야 한다. 이를 이용하여 연산표를 만들어 보면 가능한 순서쌍 (x,y)는 (0,0), (0,1), (1,0), (1,1) 이렇게 4가지가 존재하며, $$y^{2} \equiv x^{3}-x \pmod 2$$ 식을 만족시키는 근은 (0,0), (1,0) 이렇게 2가지이다. 따라서 유한체 $$F_{2}$$ 위에서 이 방정식의 근을 구했다.
다만 예리한 사람이라면 눈치챘을 텐데, '''유한체에 떨어트려도 방정식이 중근을 가지지 않는다는 조건을 만족하는지'''를 확인해 보면, 인수분해 식인 x(x-1)(x+1)에서 1과 -1은 유한체 $$F_{2}$$ 위에서 동치이다. 왜냐하면 1은 1 자신의 덧셈에 대한 역원이기 때문. [7] 즉, '중근을 가지지 않는다' 는 조건에 위배되어, 더 이상 타원곡선이 아니게 된다.
이처럼 소수 p에 대해 유리수체 위의 임의의 타원곡선을 유한체 $$F_{p}$$로 환원시켰을 때 역시 중근을 가지지 않는다면 그 타원곡선은 <p에서 '''좋은 환원'''>을 가진다고 하고, 중근을 가진다면 <p에서 '''나쁜 환원'''을 가진다>고 말한다. 즉, 위 타원곡선은 2에서 나쁜 환원을 가진다. 이 나쁜 환원도 2종류로 나뉘어, 환원 시 이중근을 갖는 데 그친다면 '''승법적 환원'''을 가진다고 하며, 삼중근을 갖는다면 '''가법적 환원'''을 가진다고 한다. 이 때, 어떤 소수로 환원해도 <좋은 환원> 또는 <승법적 환원>만을 가지는 타원함수를 '''반안정'''인 타원함수라고 한다. [8]
이제 위의 정의를 이용하여 타원곡선 $$y^{2}=x^{3}-x$$ 을 다른 유한체에 환원시켰을 때의 근의 개수도 구할 수 있다. 아래 표는 $$F_{23}$$까지 그 근의 개수를 나열했다. (이를 편의상 s(p)라고 하자.)
이제 타원곡선 얘기는 이쯤 하고, 이 문서의 제목인 모듈러성 정리로 가 보자. 다음과 같이 함수 $$\Phi (z)$$를 정의한다.
$$\Phi (z)=q\coprod_{k=1}^{∞}(1-q^{1-4k})^{2}(1-q^{1-8k})^{2}$$ (단, $$q=e^{2k\pi iz}$$ 이며, z는 복소수)
앞에서 보았듯이 함수 $$\Phi (z)$$는 다음 성질을 만족한다.
$$f( (az+b)/(cz+d) ) = (cz+d)^k f(z)$$ (단, a,b,c,d는 정수이고, ad-bc=1을 만족하며 c는 32의 배수이며 z의 허수부는 양수이다. )
이때 k를 <'''무게'''>라고 정의한다. 여기서는 k=2, 즉 무게가 2인 보형 형식만 다룬다. [9] 이제는 다음 식을 정리해 보자. 단, 이제 q를 z의 함수로 나타냈으므로 $$\Phi (z)$$ 대신 f(q)라고 표현하도록 하겠다.
$$\Phi (z)=q\coprod_{k=1}^{∞}(1-q^{1-4k})^{2}(1-q^{1-8k})^{2}$$
이 식을 정리하자. 단 23차항까지만 계산하고, 24차항 이상부터는 그냥 무시하고 전개하면 다음과 같이 된다. (계산과정 생략)
$$ f(q) = 1q-2q^5-3q^9+6q^{13}+2q^{17}+Q(나머지)$$
이때 $$q^k$$의 계수를 $$a(k))$$라고 하면 이것을 다음과 같은 표로 정리할 수 있다.
소수에 주목하면서 두 표를 더하면 두 세계가 이어진다.
따라서, 둘 사이에는 다음과 같은 관계가 성립한다.
'''$$s(p)+a(p)=p$$'''
이로써 타원 곡선과 보형 형식 사이에 하나의 다리를 놓는 데 성공했다. (엄밀하지는 못했지만.)
이와 같은 대응이 '''모든''' 타원곡선에 대해 존재한다는 것이 바로 이 모듈러성 정리이다.
1956년 일본의 수학자 타니야마 유타카는 두 대상을 비교해보니 타원곡선의 L급수의 계수를 가진 모듈러형식의 급수가 있고, 반대도 성립하는 것 같다는 내용을 도쿄에서 열린 수학 학술회에 발표하였다. 시무라 고로는 타니야마의 연구를 보고 공동으로 연구해 본 결과 여러 타원 곡선과 모듈러 형식에 대해 그 추측대로 서로 일대일 대응됨을 찾아낸다. 그런데 타니야마는 1957년 11월 한 여자와 약혼을 하더니, 1958년 11월 자살하였다. 불행히도 약혼자도 1달 만에 자살했다고 한다. 이후 프랑스의 수학자 앙드레 베유가 유럽에 소개하였다.[10] 이로 인해 이 추측은 타니야마의 추측, 시무라의 추측, 베유의 추측 등 15가지 바리에이션으로 불리게 된다.[11]
이 정리 자체도 대단한 업적이지만, 진짜 유명해진 이유는...
3. 페르마의 마지막 정리를 풀어낸 열쇠
페르마의 마지막 정리에 아주 중요한 열쇠이기 때문이었다.
게르하르트 프라이가, 페르마의 마지막 정리가 틀렸다는 가정 하에 정수해를 가지고 타원곡선의 형태로 변형을 시켰는데 프라이는 이 타원곡선은 특이하기 때문에 모듈러 형식의 급수와 대응되지 않는다고 보였다.
간단히 말해서 이를 통해서 프라이는 "'''타니야마-시무라의 추론이 맞는다면,''' 프라이가 유도해낸 타원곡선이 존재하지 않는 것을, '''따라서 이는 페르마의 마지막 정리를 만족하는 정수해가 존재하지 않는 것'''"을 보였다. 다만 프라이의 증명 과정에는 일부 완성되지 않은 부분이 포함되어 있었기에 엡실론 추측이라고 불렸다.
이때 케네스 리벳(Kenneth A. Ribet, 통칭 켄 리벳)이라는 수학자가 고생을 하던 중, 쉬기 위해 커피를 마시다가 한 항만 넣으면 된다는 힌트를 듣고 증명을 완성했고, 엡실론 추측은 리벳의 증명(Ribet's theorem)이라는 새 이름을 얻었고, 리벳은 이 추측을 증명한 업적으로 1989년에 '페르마' 상(Fermat Prize)을 수상했다.
앤드루 와일스가 타니야마 시무라의 추측에 관심을 가지면서, 1995년 결국 페르마의 마지막 정리에 관련된 준안정 상태의 경우를 증명하여 역시 페르마 상을 수상했다. 1999년에 이 증명을 이용하여 와일즈 교수의 제자였던 리처드 테일러를 포함한 다른 수학자들이 타니야마 시무라의 추측을 완전히 증명했다.
그러면 위에 적혀 있는 프라이 곡선에 대해 간단히 논해 보자. 3 이상인 소수 p에 대해 서로소인 정수 a,b,c가 다음을 만족한다. (FLT에 대해 귀류법을 사용한 것이다.)
$$a^p+b^p=c^p$$
프라이 곡선은 다음과 같이 정의된다.
$$y^2=x(x+a^p)(x-b^p)$$
이 타원곡선이 반안정임은 바로 알 수 있다. 삼차방정식 $$x(x+a^p)(x-b^p)=0$$을 만족하는 세 근은 각각 $$0, -a^p, b^p$$ 인데 a와 b는 서로소이므로 -$$-a^p, b^p$$ 이 임의의 소수 p의 배수가 될 수 없으므로 어떠한 유한체에 떨어트려도 p를 법으로 하여 합동이 되지 않는다. 따라서 이 타원곡선은 반안정 상태임이 증명된다.
세르와 리벳은 프라이 곡선의 무게가 2이고, 레벨이 2임을 입증했다. [12]
다만 보형 형식의 기본적인 이론에 의해 <무게가 2이고 레벨이 2인 보형 형식은 존재하지 않는다> 는 명제가 이미 참임이 증명되어 있었다. 따라서 다음과 같이 생각할 수 있다.
1. 페르마의 마지막 정리의 반례인 정수 a,b,c가 존재한다고 가정하자.
2. 그러면 이를 소재로 한 프라이 곡선도 존재한다.
3. 프라이 곡선은 보형 형식의 기본이론에 위배되므로 모듈러로 변환될 수 없다.
4. 그러나 타니야마-시무라의 추론에 의하면 '''모든''' 타원 곡선은 모듈러이다.
5. 3과 4는 모순이다. 즉 4가 증명된다면 프라이 곡선은 존재할 수 없으며, 이에 따라 페르마의 마지막 정리의 반례 역시 존재할 수 없다.
이렇게 타니야마-시무라의 추론과 페르마의 마지막 정리는 서로 동치임을 입증했다.
이로써 앤드루 와일스 교수가 '''모든 반안정인 타원곡선은 모듈러'''임을 증명했으므로 프라이 곡선이 존재할 수 없음이 입증되어, 자동적으로 페르마의 마지막 정리도 증명된다.
4. 여담
- 밀레니엄 문제가 나온 뒤, '타니야마 시무라의 추측' 증명 발표를 2년만 미뤘으면 100만 달러를 받았을 텐데 하는 농담이 돌았다.[13] 그 대신 와일스 교수는 밀레니엄 문제 선정에 참여했는데, 그가 선택한 문제가 버츠와 스위너톤-다이어 추측이며, 이 역시 타원곡선에 대한 문제이다.
- 타니야마-시무라의 추론이 증명되기 전에도 많은 논문이 '타니야마-시무라의 추론이 사실이라고 가정하자. 그렇다면...' 으로 시작하는 연구를 시행했다. 그 동안 도저히 해결되지 않던 문제들이 '타니야마-시무라의 추론이 사실이라고 가정하면' 간단히 해결되었던 것이었다. 또는 어떤 정리가 나와서 이 정리를 쓰면 내 논문도 완성할 수 있어! 하고 기뻐하면서 확인하기 위해 논문을 뒤져보니 '타니야마-시무라의 추론이 사실이라고 가정한' 논문이었던 경우 등이다. 그런데, 만약 타니야마-시무라의 추론이 사실이 아니라고 증명된다면 불행히도 수많은 수학 논문이 휴지 조각이 될 수도 있던 상황이었다. 그렇다 보니 이런 연구들이 층층이 쌓여갈수록 저 추론이 증명되지 않으면 수학의 한 분야가 통째로 박살난다는 두려움이 가득했다고 한다. 다행히 앤드루 와일스가 이를 증명함으로서 많은 수학자들은 공포에서 벗어날 수 있었다.
- 페르마의 마지막 정리를 증명하는 열쇠가 된 이 추측은 1956년에야 제기되었다. 페르마가 어떤 방법으로 페르마의 마지막 정리를 증명했는지는 모른다. 이에 따라 수학자들은 세 가지 의견으로 나뉘는데 페르마의 증명에는 오류가 있다는 의견[14]과 대충 짚고 넘어갔다는 의견[15], 우리가 모르는 정말 경이적인 방법으로 16세기 수학만을 이용하여 풀었다는 의견이 대립하고 있다.
[1] $$y^2 = x^3 + Ax + B $$ 꼴의 방정식이다.[2] 정수론에서 타원곡선의 A와 B는 보통 유리수이다.[3] 대수학을 배운 위키러들이 알아들을 수 있는 정확한 내용은 이는 E(Q)의 군이 유한생성 가환군이라는 것이다.[4] 정의만 알면 된다. 뒤의 타원 적분이 어쩌구 하는 것은 필요 없다.[5] 수학적으로는 환원된다는 용어를 사용한다. [6] 이것은 좌변과 우변이 P를 법으로 하여 합동이 된다는 뜻이다. 즉 시계 대수학 내용 말 그대로. [7] 일반적 언어로 표현하면, 2 차이 나므로 $$F_{2}$$ 상에서 1과 -1은 같다고 표현하는 것이다. [8] 여담으로, 앞에서 살펴본 타원곡선 $$y^{2}=x^{3}-x$$의 경우 2를 제외한 소수로 환원시키면 항상 좋은 환원을 가진다. 증명은 생략. [9] 저 식이 잘 이미지가 안 잡힌다면 임의의 수를 대입해서 이해를 도울 수 있다. 예로 a=1, b=1, c=0, d=1이라 가정하면 $$\Phi (z)$$는 주기가 1인 주기함수가 된다. [10] 참고로 이 세 사람 중 이 추측이 완전히 증명될 때까지 살아있었던 사람은 시무라 고로 한 명 뿐이었다. 앙드레 베유는 1999년 완전한 증명이 이루어지기 1년 전에 죽었다.[11] 그것 때문에 추측이 증명된 이후에는 모듈러성 정리로 부르고 있다.[12] '레벨' 이 뭔지는 복잡하므로 생략한다. 그냥 대략적인 개요만 서술했으므로 그냥 그런 게 있다라고만 생각하면 된다. [13] 이는 그저 농담일 수밖에 없는 게, 와일스 교수는 '100만 달러'를 '따위'로 취급할 수 있을 만한 부와 명예를 얻었다.[14] 실제로 페르마는 꼼꼼히 증명을 하는 편은 아니었다.[15] 보통 코시나 라메가 풀었다고 주장한 뒤에 발견된 오류와 비슷할 것이라고 생각한 이들도 있다(페르마의 마지막 정리에 대한 다큐를 옮긴 사이먼 싱의 책에서도 이러한 가능성이 제기된다.) 코시와 라메는 각각 소인수분해의 유일성을 이용해 이 문제를 접근했는데 이들이 도입한 특이한 정수 체계에서는 소인수분해의 유일성이 성립하지 않아 오류가 생긴다.