클로드 섀넌
[clearfix]
1. 개요
디지털 회로, 디지털 통신, 데이터 압축의 기반 이론을 거의 혼자서 다 만들어낸 천재 수학자이자 공학자. 디지털 회로 이론과 정보이론의 창시자이다. 정보 엔트로피 개념과 비트라는 단어는 이 사람이 창안한 것이다. 디지털 회로 이론, 정보 이론 등 이전에 없던 중요한 학문 분야들을 여럿 창시했고, 신호처리, 이동통신, 유선통신, 데이터 압축, 암호학에 지대한 영향을 끼쳤기 때문에 역사상 최고의 전자공학자 중 하나로 꼽힌다.
2. 생애
섀넌은 미시간 대학교에서 전기공학과 수학을 전공했고, MIT와 미시간 대학교에서 복수학위제로 전기공학으로 석사와 박사학위를 받았다. 섀넌이 대학원에 다니던 1930년대의 컴퓨터는 대부분 기계식 계산기 수준이었으며, 전자 컴퓨터는 특정한 종류의 계산만 수행할 수 있는 아날로그 컴퓨터밖에 없었다. 섀넌은 석사과정으로 아날로그 컴퓨터를 연구하다가, 부울 대수와 전자회로를 결합시켜 디지털 논리회로의 이론을 창시하여 석사논문으로 제출한다. 이때가 만 21세. (역사상 최고의 석사논문 중 하나로 평가받는다.) 현대인들이 전자식 디지털 컴퓨터를 사용하고, 이진수를 사용하는 것은 이 논문의 영향이 크다.
이후 프린스턴 고등연구소에서 일하면서 폰 노이만, 알베르트 아인슈타인, 쿠르트 괴델과 같은 대가들과 만나 아이디어를 발전시켰으며, 2차대전의 발발로 벨 연구소에서 화기제어 및 암호해석가로 일하게 되는데, 이곳에서 앨런 튜링과 매일 차를 마시며 교류하여 큰 영감을 받게 된다. 또한, OTP를 이용한 암호 시스템은 도청만으로는 해독이 불가능하다는 것을 증명한다.[2]
섀넌은 전쟁이 끝난 후 전쟁 중에 연구했던 내용을 정리하여 <정보통신의 수학적 이론>[3]이라는 논문을 발표하는데, 이 논문에서 엔트로피의 개념이 나온다. 쉽게 설명하면 정보이론이란 필요한 정보를 가장 효율적으로 전달하는 방법에 관한 이론이며, 엔트로피는 그 정보를 전달하는데 필요한 최소 비트 수에 해당한다. 확률론을 사용해서 정보라는 개념을 수학적으로 정립한 섀넌의 연구는 정보 이론이라는 하나의 학문 분야가 되어 현대 디지털 통신의 이론적 기반이 되었고, 샘플링 이론을 창안하여 이전까지 아날로그로 이루어지던 정보통신의 방식을 디지털 방식으로 바꾸는 계기가 된다. 이후 벨 연구소를 떠나 MIT 교수직을 맡게 된다.
섀넌은 체스에도 관심이 많았다. 아직 인공지능이라는 개념이 생겨나기도 전인 1950년 체스를 두는 컴퓨터 알고리즘을 창시한다. 비록 이때는 아직 실물 컴퓨터를 사용할 수 없어 이론뿐인 알고리즘이었지만, 이후 딥 블루가 인간 챔피언인 가리 카스파로프를 이길 때 사용한 알고리즘도 이 이론에 기반을 두고 있다.
여담이지만 정보 이론의 창시자답게 주식에도 매우 뛰어나 큰 돈을 벌었다. 1950~1986 연 평균 복리수익율이 28% 이었으며 워렌 버핏보다 수익률이 높았다. 수익률이 마이너스로 떨어진 해가 단 한번도 없었다고 한다.
별로 중요한 건 아니지만 세상에서 가장 쓸데없는 기계로 유명한 사람이기도 하다. 최초는 아니다. 섀넌은 여가로 별 해괴한 기계들을 만드는 것을 즐겼다.
3. 업적
- n-그램 모델 개념 제시
- OTP의 안전함을 증명
- 균형 복원 포트폴리오 투자 이론
- 현대적 금융 신호 처리의 창시
- 나이퀴스트 섀넌 샘플링 정리로 대역 제한 아날로그 신호와 디지털 신호와의 완벽한 연결고리를 증명
- 이론적으로 달성 가능한 통신 속도의 한계를 제시하는 잡음 채널 부호화 정리의 발표
- 논리 게이트의 개념 정립
- 논리 합성의 방법론 제시
- 데이터 압축의 기반 이론 정립
- 디지털 논리 회로 이론 창시
- 그래프 변 색칠 이론에 기여
- 부울 대수를 공학에 도입
- 부호율-변형 이론 제시
- 블록 암호의 개념 정립
- 섀넌 분해
- 체스의 게임 복잡성을 나타내는 섀넌 수 계산
- 섀넌 스위칭 게임
- 모든 모델의 어머니라 불리는 섀넌 위버 모델 제시
- 생태학에서 다양성을 나타내는데 사용되는 섀넌 지수 제안
- 이론적으로 달성 가능한 최대 통신 속도에 대한 공식인 섀넌 하틀리 법칙 제시
- 섀넌 확장
- 데이터 압축에서 섀넌-파노 부호화 알고리즘 제안
- 섀넌의 격언(케르크호프스의 원리)
- 데이터 압축의 이론적 한계를 설명하는 섀넌의 소스 부호화 정리 제시
- 세상에서 가장 쓸데없는 기계
- 스트림 암호의 개념 정립
- 엔트로피 파워 불균등 증명
- 최초의 웨어러블 컴퓨터 발명자
- 이진 코드를 공학 분야에 도입
- 최초의 인공지능 기계인 미로를 탈출하는 기계쥐를 만듬
- 비트(bit)라는 단어를 만들고 정보 단위를 공식화함
- 정보 엔트로피 제시
- 정보 이론의 창시
- 정보 이론 안전성의 도입
- 채널의 정보 전송 속도 상한인 채널 용량을 제시
- 최초의 체스 프로그램 개발
- 펄스 코드 변조(PCM)의 발명자
- 처음으로 피드백을 가진 에러 정정 코드를 제시
- 혼합 암호의 개념 정립
- 디지털 신호를 아날로그로 복원하는 휘터커-섀넌 인터폴레이션 공식
- 혼돈과 확산의 원리 제시
- 정보 통신 기술의 이론적 토대를 세움
[1] 꽤 오래 살았다. 제1차 세계대전이 벌어지는 와중에 태어나 대공황, 제2차 세계대전, 냉전을 순서대로 겪고 집적 회로의 탄생을 지켜봤으며, PC의 보급에 이어서 인터넷 시대의 태동까지 목격하고 9.11 테러가 터지기 불과 몇 달 전에 운명한 셈.[2] 비밀 메시지를 얻는 것만으로는 해독이 불가능하다는 것이며, 다른 보안 구멍이 있을 경우는 당연히 소용이 없다[3] 구글 학술검색 기준으로 세상에서 4번째로 많이 인용된 논문이다.