표현론
1. 개요
표현론(representation theory)은 군(group)과 같은 대수적 구조가 주어진 벡터 공간(vector space)에 어떻게 작용하는지를 분석함으로써 간접적으로 주어진 대수적 구조를 분석하는 대수학의 한 분야이다. 표현론의 주인공인 표현(representation)은 간단히 말하면 군이 벡터공간에 작용하는 구조이고, 표현론의 주요 과제는 표현이 어떤 종류가 있는지 분류하고 이들의 연산(주로 텐서곱)을 빠르게 계산하는 것이다.
표현론은 응용군론(?)의 꽃으로 여겨진다. 당장 여기에 있는 군론(물리학)과 군론(화학) 문서도 사실은 표현론 내용이다! 대다수의 경우 군은 공간의 대칭을 묘사할 때 등장하고, 이 공간을 주로 벡터 공간으로 보기 때문에 표현론도 자연스럽게 등장한다. 다만 물리학이나 화학 등에서는 학부 수준에선 군, 표현 등의 용어를 대놓고 쓰지 않기 때문에 이게 표현인지도 모르고 가져다 쓰고 있고, 수학과 학부 대수학에선 표현론이 생략되는 경우가 많아 서로 모르고 넘어가는 경우가 대부분. 만약 양자역학을 공부한다면 군론은 스킵해도 표현론은 조금이라도 살펴보면 이해에 굉장한 도움이 될 것이다.
대신 표현론을 수학 밖의 분야에서 다룬다면 사용하는 용어, 정의, 관습이 다를 수 있으므로 주의하자.
2. 표현(Representation)
2.1. 정의
'''표현'''(Representation)은 군의 원소를 벡터 공간 상의 변환에 대응시키는 것이다. 가장 대표적인 예시는 공간 상의 회전으로, 이는 회전군의 원소 $$ \sigma $$가 공간 상의 벡터 $$ v $$를 $$ \sigma(v)$$로 보내는 변환[1]에 대응되는 것이다. 다만, 이러한 모든 변환이 표현이 되는 것은 아니며, 다음의 제약 조건을 만족해야 한다.
- 각 원소가 나타내는 변환은 선형 변환이어야 한다.
- 항등원이 나타내는 변환은 항등변환이어야 한다.
- 군의 두 원소의 곱[2]이 나타내는 변환은 각 원소가 나타내는 변환의 합성이어야 한다.
보통 표현을 표기할 때는 (벡터공간, 준동형사상)의 순서쌍으로 나타내는데, $$(V, \rho)$$로 쓰는 경우가 많다. $$V$$는 체 $$F$$ 위에서의 벡터공간이고, $$\rho: G \rightarrow \mathrm{GL}(V)$$는 준동형사상. $$G$$와 $$F$$는 문맥이 명확하면 종종 생략된다.
만약 $$G$$에 조건이 주어지면 그 표현도 제약을 주는 경우가 많다. $$G$$가 위상군이면(즉 위상이 주어져 있으면) $$\rho$$가 연속함수인 '''연속 표현'''(continuous representation)만을 생각하고, 리군(Lie group)이면 $$\rho$$가 매끄러운 '''매끄러운 표현'''(smooth representation)을 생각한다. 양자역학에선 유니타리 변환만을 생각하므로, $$\rho(g)$$가 유니타리여야 하는 (즉 $$\rho : G \rightarrow \mathrm{U}(V)$$인) '''유니타리 표현'''(unitary representation)만을 본다. 기타 복소기하학에서, 대수기하학 등에서도 서로 다른 표현의 개념이 적용된다. 각각의 분야에선 이 추가된 제약조건이 암묵적으로 항상 적용되므로 유의하는 게 좋다. [6]
표현의 '''차원'''은 벡터공간 $$V$$의 차원을 말한다. 무한차원 표현도 당연히 생각할 수도 있지만, 보통 $$V\rightarrow V$$의 변환에 제약을 먼저 요구한다.
모든 군은 1차원 표현을 하나 갖는데, 항상 $$\rho(g)=1$$로 주면 된다. 이걸 '''자명한 표현'''(trivial representation)이라 한다.
2.2. 예시
(체에 대한 언급이 없으면 실수 위에서의 표현으로 생각한다.)
자명군 다음으로 단순한 군인 $$C_2=\{1,r\}$$ 같은 경우 ($$r^2=1$$) 1차원 표현이 하나 더 있다. $$\rho(1) = 1, \rho(r)=-1$$로 주는 것이다. 기하학적으로는 직선에서 원점에 대한 반사 변환을 $$r$$에 대응시키는 것으로 볼 수 있다. 물론 표현이 이것만 있는 건 아니고, 2차원에서 $$r$$이 두 좌표의 자리를 바꾸는 다음 표현
$$ \rho(1) = \begin{pmatrix} 1 & 0 \\ 0& 1\end{pmatrix}, \rho(r) = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$$
도 있을 것이다. 즉 $$r$$이 직선 $$x=y$$에 대해 반사를 시키는 건데, 여기서 직선 $$x=y$$ 부분은 $$\rho(r)$$에 대해 불변이라 자명한 표현이 되고, $$x=-y$$ 부분은 $$\rho(r)$$이 작용하면 -1배가 되어 또 다른 표현이 된다. 엄밀하게는 1차원 표현 2개의 직합(direct sum)[7] 으로 나타났다고 이야기한다.일반적인 순환군 $$C_n=\{1=r^n,r, \cdots, r^{n-1} \}$$을 생각하면, 다각형의 회전에서 순환군을 만들 수 있는 만큼, $$r$$을 $$2\pi k/n$$만큼 회전시키는 변환으로 생각하는 다음의 표현이 있을 것이다.
$$ V_k=\mathbb{R}^2, \rho_k(r) = \begin{pmatrix} \cos(2\pi k/n) & -\sin(2\pi k/n) \\ \sin(2\pi k/n) & \cos(2\pi k/n) \end{pmatrix} $$
이것이 전부일까? 만약 $$(V,\rho)$$가 $$C_n$$의 일반적인 표현이라고 한다면, 행렬 $$A = \rho(r)$$은 $$A^n = \rho(r^n) = I$$를 만족한다. $$A$$의 최소 다항식은 $$x^n-1$$을 나누므로 $$A$$는 복소수 위에서는 $$e^{2 \pi k/n}$$ 형태의 고윳값들로 대각화 가능하고, 따라서 실수 위에서는 $$e^{2\pi k/n}$$과 $$e^{-2\pi k/n}$$ 부분을 켤레를 합친 $$\rho_k(r)$$ 형태의 블록들을 합친 것으로 나올 것이다. 즉 모든 표현은 $$(V_k,\rho_k)$$들과 자명한 표현을 합쳐서 얻을 수 있다. 다른 유한군의 경우에도 체가 실수/복소수라면 특정 표현 몇 개의 합으로 모든 표현을 나타낼 수 있다는 사실이 알려져 있다.표현론에서 유한군보다 더욱 관심있게 연구하는 행렬군의 예시로 넘어가보자. 3차원 공간의 회전 $$\mathrm{SO}(3,\mathbb{R})$$의 표현에는 어떤 게 있을지 생각해보면, 일단 회전으로 나타나는 자연스러운 3차원 표현을 생각할 수 있다. 이 표현이 작용하는 좌표들을 $$x,y,z$$라 하자. 이제 이들로서 나타나는 동차 2차 다항식들의 6차원 공간(기저 $$x^2,xy,xz,y^2,yz,z^2$$)도 표현으로 생각할 수 있는데, $$x,y,z$$만 변환대로 바꾸어주는 것이다. 한편 이 표현 중 $$x^2+y^2+z^2$$라는 원소는 $$\mathrm{SO}(3,\mathbb{R})$$의 작용에 대해 불변이므로, 이 6차원 표현은 $$\mathrm{span}(x^2+y^2+z^2)$$을 포함한다. 나머지 5차원의 조각은 라플라시안 $$\triangle f = 0$$이 되는 다항식들의 집합으로, 다음 기저를 갖는다.
$$xy, xz, yz, x^2-y^2, 2z^2 - x^2 - y^2$$
만약 이것들이 어찌 d-오비탈 같은데서 본거 같다 싶으면 제대로 본 것이다. (!!!) 실제로 p-오비탈의 $$x,y,z$$는 3차원 표현의 기저이고, 교과서에서는 나오지 않지만 7개의 f-오비탈은 7차원 표현의 특정 기저와 관련되어 있다.텐서곱을 배웠다면 $$k$$차 동차 다항식은 대칭 텐서곱 $$\mathrm{Sym}^k(V)$$으로 간주될 수 있음을 알 것이고, 즉 이들 표현은 다들 3차원 위에서의 텐서 $$V^{\otimes k}$$의 일부분 조각으로 간주될 수 있다. 사실 물리학에서 텐서를 묘사하는 방식이 바로 이 표현론에서의 텐서 표현의 정의이다. 표현론을 깊게 배우면 $$n$$차 조화 다항식(즉 $$\triangle f = 0$$인 다항식)의 $$2n+1$$차원 표현들의 조합으로 모든 유한차원 (매끄러운) 표현을 나타낼 수 있다는 것을 증명할 수 있다. 유한군의 경우와 비슷하지만 이 경우에는 자연수 갯수만큼의 기본 표현들이 있는 것이 차이점.
이 자연수개의 기본 표현들은 의외의 분야에서 색다른 사실을 알려주곤 한다. 예로 평면의 회전군 $$\mathrm{SO}(2,\mathbb{R}) \simeq \mathbb{R}/\mathbb{Z}$$은[8] 자명한 표현을 제외하면 자연수 $$n$$에 대해 다음 2차원 표현들이 있고, 이 표현들과 자명한 표현들이 기본 조각을 이룬다.
$$ \rho_n(t) = \begin{pmatrix} \cos(2 \pi n t) & -\sin(2 \pi n t) \\ \sin(2\pi n t) & \cos(2 \pi n t) \end{pmatrix} $$
군의 표현을 나타내는 행렬에서 각각의 성분들은 $$G \rightarrow \mathbb{R}$$의 함수로 생각될 수 있고, 이 함수의 선형 결합들을 행렬 계수(matrix coefficient)라 부른다. 근데 표현론의 피터-바일 정리(Peter-Weyl theorem)에 따르면, $$G$$가 컴팩트인 행렬군이면 임의의 함수 $$G \rightarrow \mathbb{R}$$는 행렬 계수로 근사될 수 있다.[9] 즉 $$\mathrm{SO}(2)$$에서 피터-바일 정리가 의미하는 것은, 함수 $$1, \sin(2\pi n t), \cos(2 \pi n t)$$들의 선형 결합으로 임의의 함수를 근사할 수 있다는, 즉 바로 '''푸리에 해석'''이 된다! 이걸 일반화하면 임의의 컴팩트 행렬군 $$G$$에 대해서도, $$L^2(G)$$ 위의 정규직교기저로 행렬 계수들을 잡을 수 있을 뿐만이 아니라, 이들을 라플라시안[10]에 대한 고유치 문제 $$\triangle \varphi = \lambda \varphi$$의 해법으로 잡을 수 있다는 어마어마한 사실을 증명할 수 있다. 위에서 언급한 수소 원자 모형을 푸는 이론적 근거는 사실 여기서 따올 수 있다.[1] 사실 자기 자신이다. $$ \sigma $$가 원래부터 함수였기 때문.[2] 일반적으로 군의 연산이 곱을 나타낼 필요는 없지만 편의상 그냥 곱이라고 부르자.[3] 선형대수학의 기본정리 참고.[4] 역원이 나타내는 변환이 역함수가 될 수밖에 없다.[5] 흔히 $$\mathrm{GL}(n, F)$$로 나타낸다.[6] 특히 물리학과 수학에서의 관습이 다른 부분 중 하나로, 물리학에서 표현이라고 하면 무조건 유니타리 표현을 의미한다. 이 위키의 물리학 (특히 양자역학) 관련 문서들을 볼 때 표현이라는 단어를 본다면 이 점에 주의하자.[7] 표현에서도 직합, 준동형 사상, 부분표현, 핵과 공핵 등을 벡터공간과 유사하게 생각하는 것이 가능하다.[8] 우변의 숫자 $$t$$는 회전각 $$2\pi t$$만큼의 회전에 대응된다.[9] 정확히 말하면, $$L^2(G)$$에 속한 함수를 행렬 계수로 $$L^2$$ 노름에 대해 근사할 수 있다.[10] 물론 $$G$$는 일반적인 리만 다양체이니만큼 라플라스-벨트라미 작용소(Laplace-Beltrami operator)가 될 것이다.