집합 판별 함수

1. 설명

---

특수함수의 하나로, 지시 함수(Indicator function)라고도 한다. $$\bold{1}_{\boldsymbol{\mathsf{A}}}(x)$$[1]로 표기하며, 정의는 다음과 같다.

$$ \bold{1}_{\boldsymbol{\mathsf{A} }}(x) \equiv \begin{cases} 1 & (x \in \boldsymbol{\mathsf{A}}) \\ 0 & (x \notin \boldsymbol{\mathsf{A}}) \end{cases} \qquad $$ (단, $$\boldsymbol{\mathsf{A}}$$는 집합)

[1] 숫자 $$1$$과 구별하기 위해 볼드체로 표기한다. 사람에 따라서는 I를 겹친 $$\mathbb{I}_\mathsf{A}$$ 혹은 1을 겹친 𝟙$${}_{\mathsf{A}}$$를 쓰기도 한다.

또한 집합판별함수는 특히 측도와 적분을 이어주는 데 자주 사용된다.

• 측도 $$\mu$$와 집합 $$\boldsymbol{\mathsf{A}}$$에 대해 다음이 성립한다.

• 고등학교 수학에서는, 구간 $$A= [a,\, b]$$에 대해 다음이 성립한다.

또한 기댓값이 본질적으로 적분이고 확률이 측도임을 생각하면, 다음처럼 확률과 기댓값을 이어주는 데 사용된다는 것도 바로 알 수 있다.

• 확률변수 $$X$$가 확률분포(Probability measure) $$P$$를 따른다면, 사건 $$A$$에 대해 다음이 성립한다.

1.1. 중등교육 수준의 설명

---

의외로 간단한 함수이다. 이 함수는 $$\bold{1}_{\boldsymbol{\mathsf{A}}}(x)$$로 표기되는데, $$x$$가 집합 $$\mathsf{A}$$ 안에 포함되는 원소이면 함숫값이 $$1$$이 되고 아니면 [math(0)]이 된다. 예를 들어서, 자연수 전체의 집합을 $$\mathbb{N}$$이라고 하면, $$5$$는 자연수이므로 $$\bold{1}_{\mathbb{N}}(5)=1$$이고, $$\sqrt2$$는 자연수가 아니므로 $$\bold{1}_{\mathbb{N}}(\sqrt2)=0$$이다.
아래는 몇몇 예시를 나타낸 표이다.

'''함수'''	'''함숫값'''
$$\bold{1}_{\mathbb{N}}(7)$$	$$1$$
$$\bold{1}_{\mathbb{N}}(-3)$$	[math(0)]
$$\bold{1}_{\mathbb{Z}}(-3)$$	$$1$$
$$\bold{1}_{\mathbb{Q}}(7)$$	$$1$$
$$\bold{1}_{\mathbb{Q}}(\sqrt2)$$	[math(0)]
$$\bold{1}_{\boldsymbol{\mathsf{A} }}(4)$$ ($$\boldsymbol{\mathsf{A}} = \{3,\,4,\,5\}$$)	$$1$$
$$\bold{1}_{\boldsymbol{\mathsf{A} }}(6)$$ ($$\boldsymbol{\mathsf{A}} = \{3,\,4,\,5\}$$)	[math(0)]

여기서 $$\mathbb{N}$$은 자연수 집합, $$\mathbb{Z}$$는 정수 집합, $$\mathbb{Q}$$는 유리수 집합이다.
한편 소수 $$\mathbb{P}$$를 판별하는 소수 판별 함수 $$\bold{1}_{\mathbb{P}}$$도 생각해볼 수 있는데, $$\bold{1}_{\mathbb{P}}(x) = 1$$을 만족하는 수를 찾는 과정이 다름아닌 에라토스테네스의 체이다.

2. 유리수 판별 함수(디리클레 함수)

---

개중에 유리수 집합 $$\mathbb Q$$을 판별하는 디리클레 함수(Dirichlet function)[2] $$\bold{1}_{\mathbb Q}(x)$$ 라는 것이 있는데, 집합 판별 함수 중 아래의 특이한 성질을 보이기 때문에 실해석학에서 주로 다뤄진다.

• 모든 실수에서 불연속인 완전 불연속 함수이다. 그래서 해석기하학적 그래프를 그릴 수 없다.
• 짝함수이다: $$\bold{1}_{\mathbb Q}(x) = \bold{1}_{\mathbb Q}(-x)$$
• 리만 적분[3]으로는 적분이 불가능하고, 르베그 적분으로 적분할 수 있으며 그 값은 0이다.
• 오일러-마스케로니 상수, 브룬 상수, 카탈랑 상수 등 특이점이 무수히 많이 존재한다.[4]
• 삼각함수로 정의가 가능하다: $$\displaystyle \bold{1}_{\mathbb{Q}}( x ) = \lim_{m \to \infty} \left[ \lim_{n \to \infty} \cos^{2n}( m! \cdot \pi x ) \right] $$.
  • 이 항등식은 현실적으로는 거의 쓸모 없는, 학문적 유희를 위한 식이다. 그러나 유리수, 팩토리얼, 삼각함수, 지수, 그리고 극한 등 중요 개념들을 제대로 이해하고 있는지를 테스트할 수 있는 매우 좋은 식이므로, 수학에 관심 있는 위키러는 이 항등식 증명에 도전해보자.

[증명의 스케치 보기] --- 주어진 식의 우변이 $$x$$가 유리수일 때는 $$1$$, 무리수일 때는 [math(0)]의 값을 가짐을 증명하면 된다. 우선 $$x$$가 유리수인 경우를 생각하자. 그러면 $$x=p/q$$ 로 나타낼 수 있다. (단, $$p$$, $$q$$는 정수, $$q>0$$이며, 증명을 위해선 서로소일 필요는 없다.) 극한이 중첩되어 있어 혼란스러울 수 있으나, $$\displaystyle f(m):= \lim_{n \to \infty} \cos^{2n}( m! \cdot \pi x ) $$ 와 같이 안쪽 극한의 값을 $$m$$의 함수로 생각하면 편하다. 즉, 우리의 목적은 수열 $$\lbrace f(m) \rbrace_{m= 1}^\infty$$의 극한을 구하는 것. $$m$$이 충분히 큰 경우, 특히 $$m\geq q$$인 경우 $$m$$을 고정하고 $$f(m)$$의 값을 살펴보자. 이 경우 제일 안쪽의 식에서 $$\pi$$를 제외한 부분은 $$\displaystyle m!\cdot x = m!\times\frac{p}{q} = p\times \frac{m!}{q}$$ 이 된다. 이 때 $$m\geq q$$이므로 팩토리얼의 정의에 의해 분자가 분모에 의해 나누어떨어지게 되어 $$m!/q$$는 정수가 된다. 따라서 제일 안쪽 $$m!\cdot\pi x$$는 '정수$$\times \pi$$'의 꼴이 된다. 다음으로 이를 이용하면 코사인의 성질에 의해 $$\cos(m! \cdot \pi x)$$는 $$-1$$ 또는 $$1$$일 수밖에 없다. 둘 중 어느 경우든지간에, $$2n$$승 취하면 ($$n$$이 무슨 값이든지) $$1$$이 된다.[5] 따라서 결국 우리가 택한 $$m\geq q$$에 대해서는, 다음이 성립한다. $$\displaystyle f(m) = \lim_{n\to\infty}\cos^{2n}(m!\cdot\pi x) = \lim_{n\to\infty}1 = 1$$ 즉, 우리가 처음에 고정한 유리수 $$x$$에 대해, 수열 $$\lbrace f(m) \rbrace_{m= 1}^\infty$$은 유한한 갯수의 항을 제외하고는 $$1$$의 값을 갖는 수열이다. 따라서 극한의 정의에 의해 $$\displaystyle \lim_{m \to \infty} \lim_{n \to \infty} \cos^{2n}( m! \cdot \pi x ) = \lim_{m\to\infty}f(m) = 1$$ 이 성립한다. 이 등식이 임의의 유리수 $$x$$에 대해 성립함을 주목하자. 무리수의 경우도 유사하게 증명하면 된다. 이 경우 무리수의 성질에 의해 $$m$$이 어떤 값이든지 $$m!\cdot x$$는 정수가 될 수 없다. 코사인의 성질에 의해 $$\cos(m!\cdot\pi x)\in(-1, 1)$$이고, 이를 $$2n$$제곱을 해나가면 $$n$$이 커짐에 따라 [math(0)]으로 수렴한다. 즉, $$\displaystyle\lim_{n\to\infty}\cos(m!\cdot\pi x) = 0$$이다. 따라서 $$x$$가 무리수인 경우, 수열 $$\lbrace f(m) \rbrace_m^\infty$$는 0으로만 이루어진 수열이고, 이 수열이 [math(0)]으로 수렴함은 자명하다.

[2] 고안자인 페터 디리클레(Johann Peter Gustav Lejeune Dirichlet)의 이름을 따왔다.

[3] 고등학교 때 배우는 적분법을 대학교 2학년 수준에서 확장한 것. 주어진 구간을 n등분하는 대신 아무렇게나 쪼개고, 오른쪽 값이나 왼쪽 값 등을 고르는 것이 아니라 각 구간에서의 최댓값과 최솟값을 고르는 정도의 차이가 존재한다. 고등학교식 적분이 리만 적분이 아니라는 증거이기도 하다. 고등학교식으로 0부터 1까지 적분하면 1이다.

[4] 사실 당연한 것이 이들은 유리수인지 무리수인지가 아직 밝혀지지 않았기 때문이다. 언젠가는 저 점들도 특이점이 아닐 날이 올 것이다.