실해석학
1. 개요
해석학의 하위 학문으로, 실수와 이를 집합으로 갖는 함수의 구조를 연구하는 학문이다.
2. 설명
집합에서 구간의 길이를 따지는 것을 측도론(measure theory)이라고 한다. 예컨대 일반적인 구간의 측도는 양 끝 점의 차이로 구할 수 있다. 단일 실수의 길이는 0이다. 이것은 측도의 정의를 사용해서 증명할 수 있다. 점이 유한 개가 아닌 무한 개라도 길이가 0일 수 있는데, 유리수의 집합이 대표적인 예이다. 무리수 집합은 실수와 길이가 같다. 무리수는 셀 수 없는 무한 집합이고 유리수는 셀 수 있는(유한이라는 것이 아니라 자연수 집합과 일대일 대응이 되는 집합이다.) 이렇게 보면 셀 수 없는 무한집합은 길이가 항상 있을 것으로 보이지만. 칸토어 집합같이 셀 수 없는(그 크기가 자연수와 일대일 대응이 안되는 개념이다. 이것을 이해하는 것은 무한개념이 있는 집합론을 이해해야 한다) 무한 집합이지만 길이가 0인 특별한 케이스도 있다. 이 모든 것을 논리적으로 판단하는 개념이 측도론이다.
그냥 구간 길이 정도로 파악하면 되는 측도론을 굳이 배우는 중요한 이유는 어찌 보면 실수의 모든 부분 집합이 측도 값을 가지겠네 하겠지만 그것이 아니라는 반전이 있기 때문이다! 즉 측도의 가장 실생활에 밀접한 형태인 '길이'라는 개념을 볼 때 실수의 모든 부분집합 중에는 '길이'를 부여할 수 없는 부분집합이 존재하기 때문이다!
따라서 실수의 부분집합 중에서 측도를 부여할 수 있는 부분집합 체계를 엄밀하게 정의해야 하고 적분이라는 것을 정의하려면 그 측정가능한 집합(measurable set) 상에서 정의된 함수에 국한해야 하는 상황이 된다. 당연히 측정가능한 집합이란 무엇이며 측도라는 것이 무엇이며 여러가지 예시에 대한 논리적 판단의 경험을 통해 이를 구별해야 한다. 이를 이해하는 데는 상당한 시간이 걸린다.
측도론을 공부를 했으면 '적분이란 구간 내 함수값*구간길이 를 모두 더한 것' 이란 개념에서 구간의 길이라는 것이 무엇인지 감이 잡히게 된다. 이제 구간 내 함수값을 따져보자. 고등학교 수학에서는 구간 내 함수값을 왼쪽 끝, 오른쪽 끝, 중앙 중에서 선택하는데, 해석학에서는 이 조건을 좀더 느슨하게 풀 수 있다. 즉, 구간의 어느 함수값을 잡아도 구간길이가 무한소로 가면 특정한 극한 값으로 수렴하므로 이런 느슨한 일반화를 할 수 있는 것이다. 이렇게 정의한 적분의 정의를 리만 적분이라고 한다.[1]
이 리만 적분에는 문제가 있다. 연속함수에서는 문제가 있는 예가 나타나지 않는다. 하지만 함수가 '유리수일 때에는 1, 무리수일 때에는 0을 가지는 특이한 경우($$\bold{1}_{\mathbb{Q}}$$)'에는 구간을 어떻게 자르느냐에 따라서 다른 값으로 수렴하므로 리만적분값은 존재하지 않게 된다.[2] 또한 적분값의 수열이 수렴하지 않는 경우가 발생한다.
이는 심각한 문제가 된다. 실수는 코시 수열의 수렴값들로 정의되므로, 만약 실수를 인정하지 않는다면 정사각형의 대각선의 길이는 생각도 하지 말아야 하는 것이다. 또한 많은 수학적 정의가 수열의 극한이 존재한다는 것을 전제한 것인데, 만약 수열이 수렴하지 않으면 수학적 존재의 정의를 수열로 할 수 없게 된다. 어떤 확률의 기댓값은 적분값이지만 적분값이 수렴을 보장할 수 없다면 확률론에서 기대값의 수열의 극한으로 뭔가를 정의할 수 없게 되므로 이론적 모형으로서는 치명적이다. 게다가 물리의 양자역학은 모든 측정값은 확률의 기댓값으로 계산되므로 리만적분의 약점은 양자역학의 이론적 도구로서의 결함을 의미한다.
이 문제를 해결하기 위해서 르베그 적분은 '구간 내 함수값*구간 길이 를 모두 더한 것' 이라는 접근 방법을 취하는 리만 적분과는 근본적으로 다른 접근 방법을 취한다. '함수값과 그 함수값을 갖는 집합의 측도들의 합' 으로 접근하는 것이다. 예컨대 f(x)를 적분할 때 f(x)를 계단으로 근사한 다음 각 계단 높이, 예컨대 f(x)=0.3 이 되는 x의 집합(이 집합은 f(x)가 sin(x)같은 들쭉날쭉한 함수라면 리만적분같은 소구간이 아니라 실수상에 퍼져있는 집합이 된다.)의 측도가 2 라면 0.3*2 를 취한다. 이 과정을 f(x)의 모든 계단 높이에 대해서 구한 값을 다 더하면 적분이 되는 것이다. 매끄러운 함수는 이런 근사 계단을 통해 극한으로 정의를 하고, 디리끌레 함수처럼 어디서도 불연속인 함수도 앞서 정의한 함수들의 극한으로 정의가 되니 애초에 문제가 되었던 디리끌레 함수처럼 리만적분이 불가능한 적분이라든지 적분값의 극한 문제들이 해결된다. 또한 어떤 함수 f가 어떤 구간에서 리만적분가능할 필요충분조건은 f가 그 구간의 거의 모든 점에서(almost everywhere) 연속[3]이라는 것도 알 수 있다.
이런 엄밀한 과정을 통해서 르베그 적분이 가능한 객관적 기준이 분명 존재한다. (무턱대고 모든 함수가 다 르베그 적분이 가능한 것은 아니다.)르베그 적분이 되면 적분상에서 극한 표현 같은 것이 보장된다. 이는 물리학이나 공학에서 요구하는 타당한 이론적 도구임을 보장하는 것으로서 물리학이나 공학 책에 L2공간 이라고 흔히 보는 것이 거기서 함수를 논하려면 제곱한 것이 르베그 적분이 되는가 를 보장한다는 징표임을 뜻한다. (제곱을 따지는 이유는 물리학에서 불확실성을 나타내려고 분산 개념을 사용하기 때문이고 공학에서는 power가 대부분 제곱차원이기 때문이다.)
이를 통해서 기존의 단점을 보완한 새로운 개념의 르베그 적분을 도입하였지만 실용적으로 계산하는 부분에서는 르베그 적분이나 리만적분이나 방법이 차이가 나지 않는다. 따라서 해석학 책의 다음 부분은 리만적분과 대부분은 같다는 이론적인 전개이다. 이 때문에 물리학과에서는 그냥 르베그 적분을 몰라도 공부하는 데는 지장 없다. 어차피 디리클레 함수 같은 특이한 함수는 물리학에서 거의 사용하지 않기 때문이다.
다만 다중적분의 적분 순서가 바뀌는 문제는 수학전공자나 경제학에서는 문제가 된다. 적분은 본질적으로 극한이고, 극한이란 건 특별한 조건이 붙어있지 않는 한 순서를 바꾸었을 때의 결과가 원래의 결과와 같다는 보장이 없기 때문이다. 실제로도 일반위상적으로 특이한 조건 하에서는 르베그 적분에서 적분 순서를 바꿀 수 없다. 하지만 그런 아주 특수한 조건을 제외하면 항상 바꿀 수 있으므로 공대와 물리학과에서 다루는 평이한 공간에서는 그냥 생각없이 적분 순서를 바꿀 수 있는 것이다. [4]
그런 다음 해석학에서는 함수공간을 다룬다. 르베그 적분 가능한 집합들을 마치 실수공간처럼 접근한다. 그 이유는 증명할 때에 테크닉으로 사용되기 때문이다. 예컨대 미분방정식의 해가 존재하는가 하는 증명을 할 때에 미분방정식의 해는 실수가 아니라 함수인데 마치 실수의 근을 수치적으로 찾을 때 해에 가까워지는 알고리즘을 설정해 그 근으로 해를 찾듯이 미분방정식의 해가 되는 함수를 마치 알고리즘에 따른 수열로 설정하고 그 수열의 극한을 미분방정식의 해로 증명하는 것이다. 여기서 실수의 경우는 알고리즘으로 찾아가는 수열은 반드시 수렴한다는 것인데 그것은 실수가 이미 코시 수열은 수렴하는 성질이 있기 때문이다. 함수공간도 이런 성질을 갖는 것이 확인 되면 그 함수공간 내의 함수 열이 코시수열이다는 것(함수간의 거리를 따지고 그 거리에 의해서 코시수열을 정의)만 밝혀도 극한이 존재한다는 것을 증명할 수 있다. 즉 미분방정식의 해는 반드시 존재하는 것이다. 이와 같은 증명에 테크닉으로 이용될 수 있으므로 함수공간의 이해는 해석학에서 다루는 주제가 된다.
더 깊게 나아가면 다루는 함수공간의 작용소라는걸 배우게 되는데, 순수 수학적으로 접근하면 이때 대수학의 기법이 상당수 사용된다. 이는 함수해석학의 세부분야로 작용소 대수라는 학문으로, 이 정도 수준에 이르르면 사실상 미적분학과의 연관성이 많이 상실되며 높은 추상화 단계에 이르르게 된다. 유명한 수학자인 폰 노이만이 정의한 폰 노이만 대수의 개념도 볼 기회가 있다. 만약 여기서 더 나아간다면 비가환 기하학이라는 분야에 입문하게 될 것이다. 이쪽 분야의 창시자로 알랭 콘 이라는 필즈상 수상자가 있다.
함수의 정의를 측정가능한 집합상에서 했기 때문에 이에 대한 미분 개념을 정의할 수 있다. 단 함수에서 정의된 집합이면 기울기 개념 같은 것은 없어지고 Radon-Nikodym 도함수라는 개념이 생긴다. 이것은 미분과는 일견 전혀 닯은 점은 없어 보이지만 집합이 실수 집합일 경우에는 이것은 도함수의 개념으로 축소된다. 하지만 좀 더 넓은 개념으로 사용되는데, 예컨대 확률론에선는 조건부 기댓값, 통계에서는 확률밀도함수 개념이 바로 이 Radon-Nikodym 도함수 개념이다.
함수의 정의가 집합으로 확장되었기 때문에 훨씬 다양한 환경에서 적분 이론을 사용할 수 있다. 2차원, 3차원은 말할 것도 없고 복소수 공간 뿐 아니라 꼬이고 꼬인 집합 등등, 기본 조건만 충족되면 많은 다양한 공간에서 적분 이론을 전개할 수 있게 하므로 특수한 공학적 문제에 이론적인 도구를 제공할 수 있다.
마지막으로 좀 느슨한 조건의 함수 (예: 디랙 델타 함수[분포]) 같은 것에 대해서도 엄밀한 이론적 토대를 제공하는 방법을 배우거나 푸리에 해석 같은 것을 앞서 배운 이론적 틀로 재구성해서 배운다.
위 내용을 보면 알겠지만 실해석학은 그야말로 통수#s-4의 연속(...)이므로 수업에 임하기 위해서는 어느 정도 열린 태도를 갖고 있어야 한다.
3. 관련 문서
[1] 다만 일반적인 해석학 책에서는 리만 적분->측도론/르벡적분 순으로 단원을 나열한다.[2] 이 함수는 수학자 르죈 디리클레(Lejeune Dirichlet)의 이름을 따 디리클레 함수라고 부른다.[3] 즉, 불연속점의 르벡 측도가 0이라는 뜻.[4] 수학전공자와 물리전공자가 여기서 차이가 나는데 수학 전공자는 조건에 대한 아무런 단서가 없다면 적분순서 변경이 가능한지 논리적으로 따지고 간다.[분포] 정확히는 함수가 아니다. 분포 문서 참고