기술적 특이점
1. 개요
技術的 特異點, technological singularity
미래학, 기술사학의 개념 중 하나. 과학 기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 가능성이 높은 변곡점을 의미한다.지난 20년이 어메이징 했다면, 다음 20년은 '''공상과학과 같을 것''' 입니다.
-NVIDIA 최고 경영자 젠슨 황 GTC(GPU Technology Conference) 2020년 기조연설에서#
간략하게는, 기본 개념은 존 폰 노이만이 제시하였고, 수학자이자 소설가인 버너 빈지(Vernor Vinge)가 1983년의 잡지의 기고문과 1993년의 논문 '다가오는 기술적 특이점'을 통해 최초로 그 개념을 정의하였으며, 레이 커즈와일이 2005년의 저서 '특이점이 온다'를 통해 이 개념을 더욱 구체화하였다.
이런 기술적 특이점의 개념이 일반인들에게 널리 알려지기는 TCP/IP 프로토콜과 BSD Unix를 만든 유명한 컴퓨터 과학자인 빌 조이(William Nelson Joy)가 쓴 미래에 왜 우리는 필요 없는 존재가 될 것인가라는 글을 통해서이다. 2000년 세기말에 발표된 이 글은 기술자 사회를 넘어서 21세기 미래의 모습을 전망한 글로 일반사회인들에게도 큰 화제를 불러일으켰다. 또한 일본 소프트뱅크의 창업가인 손 마사요시 사장도 특이점에 대한 큰 기대를 하고 여러 강연을 통해 설파하고 있다.
보통 가장 가능성이 높은 인공지능을 통한 초지능을 기준으로 특이점을 생각하지만, 여러 가지 이설 또한 있어서 기술적 특이점의 개념에 있어서 인공지능이 반드시 필수요소는 아니다. 하지만 특이점을 넘어서는 순간 '현생인류'의 힘으로는 기술을 이해하거나 따라잡지 못한다는 것에 대해서는 이설이 없다. 따라서 인간이 기술사학적으로 꾸밈없이 자세하게 추론 가능한 미래의 한계점을 의미하기도 한다.
레이 커즈와일은 기술적 특이점을 블랙홀의 특이점에 비유했다. 고도로 발전된 기술은 마법과 다르지 않다는 의미로, 그 이전까지 인간이 가진 지식과 법칙들이 통하지 않는 세계가 펼쳐진다는 점에서, 그럴싸한 비유다.
추가로 기술적 특이점이란 개념에 대해서 보다 정확하게 이해하고 싶은 사람들은 레이 커즈와일의 특이점이 온다를 일독해볼 것을 권한다. 이 책이 사실상의 개설서인데 아무래도 물리학, 화학, 생물학, 공학, 역사학 등의 여러 분야를 넘나드는 주제인지라 요약본에 가까운 이런 개설서의 페이지만 해도 700페이지에 달한다. 즉, 최소한 이 정도의 지식은 담아내야 기술적 특이점이란 복잡한 개념에 대해 윤곽을 잡아볼 수 있다. 역시 이런 방대한 분량을 본 문서에 담아내는 건 한계가 있고, 담아낸다고 해도 전문가와 편집자의 감수를 받은 도서보다는 대체로 문장이 좋을 수가 없을 것이기에 오독의 소지가 있을 수밖에 없다.
2. 정의
일반적으로는 인공지능이 인간의 지능, 정확히는 전인류의 지능을 넘은 시점부터 매우 빠른 속도의 학습과 연쇄적 자체 개량을 통해 지능폭발을 일으키게 되고 결과적으로 '''기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점=초지능이 탄생하는 시점=비생물학적 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점'''을 특이점이라고 부른다. 이것은 생물학적 진화 속도를 완벽하게 초월하는 것이며, 무어의 법칙을 깨는 속도의 기술발전이다.
영국 옥스퍼드 대사전의 정의에 따르면 '''“인공지능을 비롯한 기술들이 발전해 인류가 극적이고 되돌릴 수 없는 변화를 겪게 되는 가설적 순간”'''[영문]을 가리킨다.
일정 수준을 뛰어넘은 인공지능은 인류가 수만 년간 이루어낸 기술 발전이 제자리걸음으로 보일 정도로 폭발적인 수직 성장을 하게 된다. 결국 초지능체가 개발한 기술은 더는 현 인류의 지능으로 그 원리를 이해할 수 없고 모방할 수 없는 기술적 복잡성을 지니게 된다.[5] 이러한 현상이 시작되는 시점을 기술적 특이점이라 부른다. 인공지능의 지적 능력이 인류 최대의 지적 능력을 뛰어넘는 순간 말이다.
현재도 딥러닝 등에 의해서 컴퓨터가 스스로 만든 알고리즘이나 로직을 인간이 이해하는 것은 최고 전문가 수준에서도 대부분 불가능한 수준이다. 현실의 대표적인 예시로 알파고가 바둑을 학습하는 딥러닝 알고리즘을 만든 것은 인간이지만, 알파고가 그 딥러닝으로 스스로 만들어낸 대국을 두는 알고리즘은 인간이 현재 해석할 수 없으며, AI 설계 과정에 있어서 이론적 지식보다도 경험을 쌓아 얻은 직관과 통찰력이 많이 영향을 주는 이유이기도 하다. 단지 알파고가 보내오는 승률 계산 등의 갖가지 통계만을 전달받을 뿐. 이를 조금이라도 극복하기 위해 여러 개발자가 '인간에게 설명하는 인공지능'을 연구하고 있지만, 역설적으로 설명할 수 있는 인공지능은 결코 인공신경망을 통해 만들어진 인공지능의 정의에 부합하지 않게 되기 때문에 기본적으로 인공지능은 작동원리를 이해할 수 없다.
잘 언급이 안 되는 개념인데 더 정확히는 인공지능보다는 수확가속의 법칙(Law of Accelerating Returns)이 특이점 이론의 핵심 개념이다. 수확가속의 법칙은 진화의 기본 원리로서, 인류의 기술 발전 단계에서 갑자기 나타난 것이 아니고 우주 탄생부터 물리학, 화학, 생물학을 넘나드는 장대한 발전과정을 거쳐서 마침내 인류의 기술 발전 단계에도 도달하게 된 것이다. 즉, 수확가속의 법칙에 의하면 인공지능은 인류의 지능을 통해 탄생하였으면서도 그를 훨씬 넘어서는 더 강력한 지능으로서 진화의 원리에 의해 마땅히 출현할 수밖에 없는 존재가 된다.
수확가속의 법칙에 대해 간략하게 요약하면 이와 같다. 문명은 이전 세대 문명이 가졌던 아이디어와 돌파구를 '재목적화(repurposing)'하면서 발전한다. 각 세대의 기술은 이와 비슷하게, 이전 세대의 발전을 기반으로 발전의 선순환을 창조한다. 각각의 새로운 세대의 기술은 이전 세대 기술의 어깨 위에 서 있다는 것이 커즈와일의 거대한 아이디어이다. 이러한 방식으로 기술의 발전은 다음 세대의 더 나은 기술을 가능하게 만드는 것이다. 각 세대의 기술은 이전 세대보다 개선되기 때문에 발전의 속도는 갈수록 가속된다. 의자를 생산하기 위해 수동 공구를 사용하는 방식에서 전동 공구를 사용하는 방식으로, 다시 조립라인을 사용하는 방식으로 발전해왔다고 생각해보자. 생산속도는 단계마다 빨라진다. 각 세대에서 사용된 이러한 공구들이 더 나은 공구를 디자인하고 만드는 데 사용된다고 생각해보자. 커즈와일은 컴퓨터 칩 분야의 가속적인 발전이 엔지니어들이 가장 빠른 소프트웨어와 컴퓨터를 가지고 더욱 빠른 컴퓨터 칩을 설계했기 때문이라고 말했다.
이외에도 레이의 저서 '특이점이 온다'를 보면 질서와 복잡성이란 개념을 통해 더욱더 자세하게 논증을 해놨다.
아서 클라크의 과학 3법칙 중 세 번째인 '''"충분히 발달한 과학기술은 마법과 구분할 수 없다."'''라는 말은, 기술적 특이점에 이른 미래 사회에 대한 은유로 해석될 수 있다.[6] 기술적 특이점에 도달한 사회에서, 인간은 첨단 문물의 원리를 이해하기보다는 마법 지팡이 쓰듯 그 효과만을 누리게 될 것이기 때문이다. 이런 모습은 이미 현대의 일반인들이 어떤 버튼을 누르면 어떻게 작동한다는 식으로 기계를 작동시키 것은 알지만 전자제품들의 정확한 작동 원리를 모르는 것과 같은 맥락이다.
기술적 특이점이 지나버리면 일반인은 물론이고 인류 중 가장 똑똑하고 박학다식한 전문가들조차도 새로운 발명품이 왜 어떻게 작동하는지 모르게 된다는 것이다. 강아지나 원숭이에게 스마트폰의 작동 원리를 가르칠 수 없는 것처럼, 발전된 기술을 자신에게 적용받지 않은 인간의 경우 어렴풋이 예상하더라도 빗나갈 확률이 높고, 생물학적 한계 때문에 죽었다가 깨어나도 아무런 해설 없이는 재현할 수가 없다![7] 인간으로서 대체 무슨 원리로 뭐가 어떻게 되는지 알 길은 없지만, 그러한 초과학의 혜택은 누릴 수 있을 거라는 점이 포인트. 마치 개가 원자력 발전소에서 나오는 전기로 난방이 되는 집에서 살거나 원숭이가 비행기를 타는 것처럼.
살짝 다르기는 하지만 이미 현대 사회에서는 어느 정도 비슷한 경향이 이루어지고 있다. 컴퓨터의 원리에 대해 전혀 몰라도 컴퓨터는 쓸 수 있으며, 개인의 능력으로는 컴퓨터 한 대에 들어가는 각종 기술 관련 요소들에 대해 개략적 이해는 가능하지만, 전문가가 될 정도로 통달하는 것도 불가능하다. 컴퓨터의 특정 부품, 그나마도 한정된 자신의 전문 분야에 대해서만 전문가가 될 수 있을 뿐이며, 기술이 무섭게 발전하고 분화됨에 따라 개인이 습득할 수 있는 전문 지식의 폭은 점점 좁아지고 있다. 아르키메데스나 레오나르도 다 빈치 같은 전근대 학자들은 수많은 분야에 걸쳐 박학다식한 지식을 보유했지만, 현대의 교수들은 자신의 전공 분야에서 벗어나면 그저 일반인 수준의 지식밖에 없는 경우가 많다. 인류의 지식이 발전하면서 각 학문 분야 하나하나의 양과 깊이가 너무나도 거대해졌기 때문에 과거처럼 여러 가지를 동시에 파려 들면 그저 얇은 우물 여러 개를 파게 되는 것에 불과하다. 이건 노골적으로 말해서 인류의 생물학적 사고능력이 이미 다양한 분야를 일정 수준 이상으로 학습하는 데 한계에 달한 지 오래란 것이다. 그것이 박사 학위를 받은 대학 교수 같은 인류에서 가장 똑똑한 축에 드는 개체인데도 말이다.
[image]
존 폰 노이만(좌측)
사람이 기술의 발전을 따라잡을 수 없는 시기로서 특이점이란 단어는 존 폰 노이만의 말에서 처음 언급되었다. "기술의 항구한 가속적 발전으로 인해 인류 역사에는 필연적으로 특이점이 발생할 것이며, 그 후의 인간사는 지금껏 이어져 온 것과는 전혀 다른 무언가가 될 것이다."[원문] 정확히는 동료였던 스타니스와프 울람[8]이 1958년 폰 노이만의 사후에 그에 대해 회고하며 쓴 글에서 언급된다. 특이점의 정의를 현재와 같이 정립한 것은 수학자이자 SF 소설가인 버너 빈지가 1983년에 쓴 글이다.
그 시기는 의견이 분분해서, 2035년~3000년까지 편차가 매우 크며 아예 불가능하다고 보는 견해마저 있다. 특이점 이론을 주장하는 이들 중에서 가장 정확한 예측을 하는 인공지능 분야의 전문가이자 미래학자인 레이 커즈와일은 약 2045년 전후로 인공지능이 인류 전체의 지능을 초월하면서 특이점이 도래할 것이라고 주장한다. 커즈와일 본인의 말에 따르면 그때는 90대가 될 자신도 기술의 효과를 누릴 것이라고 한다.
[image]
이 시기가 오면 '''인간이 기술을 발전시키는 것이 아니라, 기술이 기술을 발전시킬 것'''이라고 한다.
'기술적 특이점'이란 것의 정의에 대해 좀 더 구체적으로 적자면 폰 노이만은 그저 '''기술의 항구한 가속적 발전으로 인해 인류 역사에 필연적으로 발생할 변곡점'''이라 정의했고, 버너 빈지는 '''인공지능을 통한 초지능이 탄생하는 시점'''이라 정의했다.
레이 커즈와일의 정의에 대해 많은 사람이 버너 빈지의 정의와 헷갈려서 오해하는데, 레이의 정의에 따르면 '''비생물학적(만들어진) 지능의 총합이 생물학적 지능의 총합을 넘어서는 시점'''이다. 이게 빈지의 정의와 무엇이 다른가 하면, 빈지의 정의는 단일한 초지능기계를 통해 특이점이 온다고 봤을 가능성이 높지만, 레이는 '''기술의 분산화'''를 강조했다. 그에 의하면 나노공학의 발전에 따라 인류의 뇌 속에도 나노봇을 통해 컴퓨터가 들어서게 될 것이고, 인간의 생물학적 지능과 인공지능은 이를 통해 연결될 것이다. 빈지의 견해와 마찬가지로 초지능은 필연적으로 오긴 하나, 이는 단일한 기계가 아닌 세계 곳곳에 분산하는 클라우드 컴퓨팅과 비슷한 것이 될 것이다. 그러니까 인간의 뇌 내부에 있는 비생물학적 지능과 외부에 있는 비생물학적 지능을 모두 포괄하여 이들이 기존의 생물학적 지능의 총합을 넘어서는 시점을 특이점이라고 본 것이다. 트랜스휴머니즘의 요소를 빈지의 특이점 개념에 포함했다고도 볼 수 있다.
유명한 기술사학자이자 평론가인 케빈 켈리(Kevin Kelly) 또한 레이의 기술적 특이점과 관련 있는 개념으로 인간과 기계가 네트워크를 통해 연결되며 탄생하는 행성 규모의 유기체인 홀로스(Holos)라는 개념을 주창한 바 있다. 그는 "나는 이 행성 규모의 층을 홀로스라고 부를 것이다. 홀로스는 모든 기계의 집단행동과 결부된 모든 인간의 집단지능에다가 자연의 지능, 이 전체로부터 출현하는 모든 행동을 포괄한다. 이 전체가 바로 홀로스다. 홀로스는 우리가 살아갈 새로운 플랫폼이다. ... 이 새로운 플랫폼의 대규모 유비쿼터스 상호연결은 처음에는 기존의 자연스러운 확장에 불과한 것처럼 보인다. 이 모든 특성이 꾸준히 증가함에 따라 우리는 어떤 변곡점, 복잡성의 문턱을 통과한다. 변화가 불연속적으로 되어 갑자기 새로운 상태에 놓이게 되는 시점이다. 새로운 표준상태들로 이루어진 다른 세계다."라는 말로 이를 표현했다. 하이브 마인드 개념이 적용된 것이라고 봐도 된다.
3. 특이점 이후의 상황
인간급의 지능으로 스스로 생각할 수 있는 인공지능 기술이 개발되지 않은 현재는 컴퓨터를 인간이 직접 설계하지만, 인공지능의 수준이 인간급으로 발전되면, 인공지능 스스로 컴퓨터를 설계하는 것이 가능하다는 이야기. 더 나아가 인공지능 자신이 그 자신보다 더더욱 뛰어난 인공지능을 개발하는 것이 가능해지는 것이다. 그러면 인공지능에 의해 발전된 인공지능이 더 우수한 지적 능력으로 더 우수한 시스템을 구성하고... 이 사이클이 반복되면 발전 속도는 기하급수로 상승할 것이다.
게다가 인간은 뇌에 기반하는 생물 구조적 한계상 처리 능력을 강화하는 게 어렵고 사실상 복제도 불가능하지만, 인공지능은 그 구조상 복제 및 확장, 기능 업그레이드가 매우 손쉽다. 따라서 이렇게 발전된 기술이 다음 기술을 발전시키는 데 사용되며 이게 누적될수록 점점 더 기술의 발전은 빨라져서 결국 기술발전의 그래프는 수직에 가깝게 그려질 것이며 이 시점이 바로 특이점이라는 이야기. 이해가 안 된다면 인류사에서 바퀴, 문자, 인쇄술, 증기기관, 컴퓨터, 스마트폰의 발명 전후 모습을 비교해보면 쉽다. 컴퓨터의 등장 이후 몇십 년 만에 엄청난 발전이 이루어졌는데, 스마트폰의 발명은 수년 만에 인간의 삶을 윤택하고 편리하게 바꾸어 놓았다.
특이점이 오면 현생인류는 야생상태의 멸종위기 동물처럼 절대다수가 도태되고 '소수만 보존'되는 것이 아닌가 하는 의문을 가질 수 있다. 이에 대해 커즈와일은 낙관적이다. 인간의 존엄 및 인간성 역시 미래 세계에서도 유지될 것이라는 주장을 했기 때문이다. 즉, 원하기만 하면 얼마든지 개조가 가해지지 않은 순수한 현생인류인 채로 인간적인 대우를 받으면서 살 수 있을 것이다. 물론 레이가 마냥 낙관적인 것은 아니며, 오히려 기술 경계론자 중 하나인 자신이 왜 그저 무조건 낙관주의자인 것처럼 매체에서 표현되는지에 대해 의아함을 나타냈다. 그의 저서를 제대로 읽어보면 알겠지만, 그는 기술 발전에 따른 위험도 또한 기하급수적으로 증가할 것이기에 미리부터 가이드라인 및 제도를 만들어야 한다고 주장했다. 그가 낙관적으로 생각하는 부분은 지금까지 인류가 불완전하나마 해내 왔던 것처럼 새로운 기술을 통제할 수 있는 가이드라인 및 제도 또한 마련 가능하다는 것이다. 예컨대 문제가 되는 건 경계하라는 지적을 받아들여 바람직하게 진행하는 것이 아니라, 저자의 희망찬 전망을 부풀리고 우리가 어떻든 반드시 이렇게 될 것이다 하고 안심하라는 사람들의 존재 그 자체이다. 이런 자들은 저자의 평판을 오히려 떨어트릴 수밖에 없으며, 아직 채 완전히 알려지지 않았거나 심각하게 생각하지 않던 문제를 포함한 다른 문제들이 잠복하는 것을 돕게 된다.
사피엔스의 저자로 유명한 유발 하라리(Yuval Harari) 예루살렘 히브리대 역사학 교수 또한 마찬가지로 단순한 인공지능의 인류 지배 같은 경쟁적 개념이 아니라 오히려 인간과 기계의 '결혼'에 대해 이야기해야 한다고 내다봤다. 여기서 말하는 결혼은 기계를 인격체로 만들어서 동등하게 대하겠다는 의미가 아니라 결합이라는 의미다.
여태껏 '기계를 인격체로 만든다'라는 개념이 '''기술적으로''' 정확하게 정의된 적 없다. 왜냐하면 아직 우리는 인간이 인격을 갖게 해주는 것이 대체 무엇인가에 대해 알지 못하기 때문이다. 따라서 기본적으로는 생물학적으로 인간이기만 하면 인격을 가진 인격체라고 여기고 자연 인권을 갖게 되긴 하지만 알다시피 같은 인간이라도 해도 정신에 문제가 있거나 나이가 일정 이상이 아니거나 하면 인간으로서의 온전한 법적 권리를 완전히 행사할 수가 없다. 즉, 같은 인간이라고 해도 인간 사이의 편차가 분명히 존재하기 때문에 실정법은 구분을 두고 있다. 하지만 누구나 경험적으로 알다시피 성인이라고 해도 미성년자보다 지능이 낮으며 도덕적으로 낮은 수준을 가진 사람들은 얼마든지 있다. 정신병자라고 해도 특정 분야에 대해서만 유독 높은 지능을 보이는 사람 또한 있다. 게다가 인간성 중 한 갈래로 표현되는 '양심'을 가졌는지 의심스러운 범죄자들 또한 있다. 사회관에 얼추 들어맞기 때문에 '정신적으로 문제가 없으며, 신체적으로 성년에 다다랐다는 것'을 온전한 인간=성인이라는 것의 제한된 개념으로 사용할 뿐이다. 결국 기계 또한 인격의 소유 및 그에 따른 인권 소유 여부를 인정하느냐 아니냐가 큰 문제가 될 것이다. 게다가 기계는 개미 수준의 지능부터 침팬지 수준은 되는 것, 더불어 특정 분야에서만 지적 능력을 갖춘 기계까지 지능 자체가 천차만별일 것이다. 이러한 '비생물학적 지능의 인권 소유 여부 문제'에 대해 커즈와일은 자신의 저서에서 이를 '의식의 문제'라고 표현하며 논증을 벌였다. 특히 마음의 탄생에서는 전권을 할애하여 논증하였다.
이에 대해 간략하게 말하자면 결정적인 문제는 아직 우리가 '의식'과 '지능'이라는 것을 완전하게 알고 있지 못하기 때문에 인간에 버금가거나 으뜸인 '지성체'를 구분할 방법이란 무엇인가 또한 알지 못하고 '''기술적 관점에서만 따지자면''' 그에 대한 기준과 대책을 마련하는 것 자체가 힘들다는 것이다. 아예 인간이라는 틀 안에서 제한을 걸어 놓으면 모를까… 어떻게든 안심할 수 없다. 만약 인간보다 뛰어나면서 특정 인간 부류를 혐오하거나, 주도권을 갖추고 자기 성격이 강하면서 지나치게 인간에 친밀한, 인외격의 존재가 만들어진다면 심각한 문제가 일어날 것이다. 안전하지 않은, 종 차원의 경쟁이 일어나 인간이 처참히 지거나, 주도권을 잃고 질질 끌려가는 식으로 가축화될 수 있으므로, 논리적으로 어긋나는 실정이더라도 빈틈 하나 없이 틀어막아야 한다. 종과 인류를 지키며 주권을 잡기 위해서는 각 인간이 모두 신성화되고, 신성시되어야 한다. 결코, 보편화된 방법으로는 제어할 수 없는 수준의 재앙이 강림하게 될 위협이 닥친다면 인류 전체가 나서서 그것을 없애야 한다는 것이다. 이런 면에서 어느 정도 자유는 제한될 것이지만, 그렇게 제한이 걸리는 것이야 지금도 익숙하고 흔하다.
덧붙여 위의 비생물학적 지능의 위협과 그 대처 방안에 대해 레이는 저서 특이점이 온다의 '제8장 뗄 수 없게 얽힌 GNR의 희망과 위험' 중 'GNR 방어 전략' 파트에서 아래와 같이 언급하였다.
...위의 방법들로도 병원체적 로봇공학(강력한 AI)을 다룰 수는 없을 것이다. 로봇공학 분야에서 취할 수 있는 최고의 전략은 미래의 비생물학적 지능이 자유, 관용, 지식과 다양성에 대한 존중 등 인간적 가치들을 최대한 따르게 하는 것이다. 그것을 이루는 최고의 방법은 현재 그리고 미래의 우리 사회에서 그 가치들을 극대화하도록 노력하는 것이다. 모호한 얘기로 들리겠지만 사실이다. 이 분야에서는 순전히 기술적인 해법은 없다. 강력한 지능은 덜 강력한 지능이 만든 것은 무엇이든 수월하게 뛰어넘을 수 있기 때문이다. 우리 손에서 탄생하는 비생물학적 지능은 이미 우리 사회에 침투하고 있으며 앞으로도 침투할 테고, 우리의 가치를 반영할 것이다. 비생물학적 지능은 생물학적 지능에 깊이 스며들어 생물학을 재편하는 단계로 나아갈 것이다. 인류의 능력은 매우 확장될 것이고, 굉장히 지적인 이 힘을 어떻게 이용하느냐 하는 것은 전적으로 힘을 만들어낸 자들이 어떤 가치를 따르느냐에 달렸다. 생물학을 재편하는 시대는 생물학을 초월하는 시대로 나아갈 것이다. 우리는 그때조차 인류의 가치들이 보전되길 바란다. 위의 전략은 확실한 것은 아니다. 하지만 현재 우리가 미래의 강력한 AI에 조금이라도 영향을 미칠 수 있는 유일한 방법이다.
종합해보면 레이는 미래의 비생물학적 지능이 인간적 가치들을 최대한 따르게 하는 것이 현재 인류가 할 수 있는 최선의 전략이라 했는데, 아마 최신 시점마다 가장 강력한 비생물학적 지능(들)이 재귀적으로 끊임없이 위협에 대한 규제를 설계해 나가는 것을 유일한 대처 방안으로 본 듯하다. 레이 자신도 '기술은 영원히 양날의 칼로 남을 것'이라고 언급했다시피 실제로 이는 완전한 해법이 될 수 없다. 따라서 위 문단에서 '위협을 없앨 방법은 오로지 비생물학적 지능을 민주적이고 선하게 만드는 것뿐이다'라고 언급한 건 틀렸다. 이는 위협을 없앨 수 있는 방법이 아니라 그저 위협을 감소시키는(그마저도 얼마나 되는지 불분명한) 대처 방안에 불과할 뿐이다.[9] 그리고 현시점에서도 많은 근대국가가 삼권분립과 정당, 언론, 집회와 결사의 자유 등을 통해 지능과 권력을 분산하여 이중삼중으로 규제해놓았다는 것에서 알 수 있다시피 만약 비생물학적 지능이 규제를 설계하게 된다고 해도 단일한 개체성을 지닌 비생물학적 지능이 자신을 스스로 규제하는 법률을 만드는 것과 같은 모습은 아닐 것이다. 애초에 이것(이것들?)은 하나이면서도 동시에 여러 개체로도 있을 수 있는 기이한 존재이므로 규제 시스템 또한 현시점의 우리로서는 예측하기 어려운 아주 이상한 형태가 될 듯하다.기술은 영원히 양날의 칼로 남을 것이다. 인류가 다양한 목적으로 사용할 수 있는 막대한 능력일 뿐이다. GNR은 질병과 가난 같은 인류 고래의 문제들을 극복하게 해주겠지만, 파괴적 이상에 기여할 수도 있다. 우리는 급변하는 기술을 인류의 소중한 가치들을 진작하는 데 사용하면서 한편으로 방어 능력을 키워가는 수밖에 없다. 인류의 소중한 가치들이라는 것이 무엇인가에 대해서는 안타깝게도 확실한 합의가 없지만 말이다.
또한 이전에 쿠르트 괴델의 불완전성 정리를 예시로 들어 모든 논리체계에는 언제나 허점이 있으며, 따라서 모든 지능은 그보다 약한 지능이 구성한 논리체계를 언제나 논파할 수 있다고 설명하였는데, 이는 불완전성 정리에 대한 잘못된 이해의 예시이다. 불완전성의 정리는 페아노 공리를 포함하는 공리계가 완전성과 무모순성을 동시에 확보할 수 없다는 주장이며 따라서 페아노 공리를 포함하지 않는 공리계의 경우 성립하지 않는다. 실제로 페아노 공리계의 일부를 배제한 공리계 중 완전성과 무모순성이 동시에 성립하는 것이 있다. 아울러 '완전하다'와 '무모순이다'라는 말 역시 논리학적 의미에서 엄밀히 규정된 것이며, 무모순성을 증명할 수 없다는 것은 해당 공리계가 모순을 포함한다는 것을 함축하지 않는다.
하지만 주된 개선의 대상일 뇌가 무모순성을 내재한다고 확신하기 어렵다. 예컨대 귀류법을 통해 자기 자신을 포함하는 임의 프로그램의 무한루프를 검사할 수 있는 프로그램은 모순을 만든다는 점을 쉽게 보일 수 있는데 그렇다면 AI가 자신을 스스로 발전시킬 때 무한루프로 멈춰버리는 결함품을 만들지 않으리라 보장할 방법이 없게 된다. 정 흠결이 없으면 (이전에 프로그램이나 기계에게 그랬듯이) 물리적/사회적으로 주물러서 만들어 놓을지도 모르는 노릇이고, 그 외에도 사회에 일어나는 큰 전환점과 반향이 억제되더라도 흐름 자체가 항상 최선인 적은 없었기 때문에 문제가 생겨날 위험성은 아주 높다.
마지막으로, 인간 수준의 인공지능이 발명되는 순간을 특이점이라고 보는 경우도 흔한데, 이것 또한 보편적으로 퍼져있는 오해 중 하나다. 인간 수준의 지능을 아득하게 넘어선 초지능의 도래 시점을 가리키는 것이 특이점이다. 특이점이 온 순간 이미 인간 수준의 인공지능은 고철 덩어리나 다름없는 상태에 불과하다. 물론 인간 수준의 인공지능이 개발되는 시점 자체가 특이점은 아닐지라도, 특이점 가설의 핵심 개념인 수확가속의 법칙(Law of Accelerating Returns)에 의하면 특이점 바로 코앞까지 도달한 시점이라는 것은 확실하다. 가령 아인슈타인이나 폰 노이만 수준의 지능을 스마트폰으로 돌릴 수 있다면, 수천만 단위의 아인슈타인과 폰 노이만급 지능이 세상에 있게 된다. 이런 식으로 기술이 기술 발전을 도우며 상호 간에 일어나는 작용으로 발견과 응용이 가속되므로 결국 기술 발전의 속도는 지수적 양상을 보이게 된다. 결론적으로 우리는 현재 역사 속에서 유토피아로 갈 것인가, 디스토피아로 추락할 것인가의 사이에 있다는 것이라 볼 수 있다.
4. 특이점주의
특이점 개념[10]을 굳게 믿는 자들은 자신을 특이점주의자(singularitarian)라고 부른다. 이들은 특이점이 멀지 않았으며 GNR 즉 유전공학, 나노기술, 인공지능 기술의 만개가 인류 문명을 특이점으로 이끌 것이라고 주장하고 있다.
특이점주의자들에 의하면, 이제 인간은 지능과 신체 스펙 등 자신의 생물학적 한계를 기계와 유전공학으로 대신하면서 더욱더 지식과 문명을 발전시켜나간다는 것. 인간의 한계로 불가능하거나 발전이 더뎠던 영역은 기계가 대신해줄 것이다. 대표적으로 우주탐사 같은 것. 인간 자신의 신체와 지능, 능력을 향상해 발전하는 단계는 거의 정점을 이루었다고 보고 그 뒤부턴 기계와 인공지능의 발전에 맡긴다는 말.
[image]
[11]
레이 커즈와일은 인공지능 전문가, 미래학자, 과학자, 발명가로서 스캐너, 광학 문자 인식기(OCR), Text to Speech, 신시사이저 등을 만든 사람이다. 영창 악기에서 파는 커즈와일 신시사이저가 그것. 그는 이미 1990년대 이전에 3D프린팅 기술, 구글과 같은 인터넷 검색 업체의 등장을 예측했었다. 그런 그는 인간의 의식과 기억이 클라우드와 동기화될 것으로 예측한다..
현재는 자신이 예견한 인간 수준의 인공지능을 개발하는 데 가장 적절한 곳이 구글이라고 생각해 임원으로 입사하였고 현재 구글의 엔지니어링 이사이다. 링크된 기사들의 내용에 따르면, 구글 측과 대면해서 인공지능 개발에 투자할 생각이 없냐고 권했다가 필요한 모든 자원이 구글에 있을 테니 차라리 구글에 들어와서 개발하는 게 어떠냐는 권유에 따라 구글에 들어가게 되었다고.
그의 미래 예측은 '기술은 개발됐지만 상용화되지 않은 것'을 틀린 것으로 치고도 86%의 적중률을 보였다고 한다. 단, 이는 출처가 어디인지는 모르겠지만 최소한 영문 위키가 모은 커즈와일의 예측을 보면 매우 의문인 주장인데, 기술적인 것들이야 그렇다고 쳐도 '로봇 다리를 달고 다닐 수 있다'처럼 장애인 같은 사람들을 희망 고문하던 유토피아적 미래는 지금에 와서도 도래할지 명확히 알 수 없고, 아직도 값이 너무 비싸거나 말 그대로 할 수만 있을 뿐 효용성이 모자란 것들도 수두룩하다. 위키에는 간략하게 소개되어 있지만 지금 커즈와일이 장담하거나 어떻게 보면 조장하고 있는 믿음들을 봐도 당시에 어떠한 분위기였는지 알 수 있을 것이다.# 사실 레이 커즈와일은 2005~2010년부터 2020~30년 정도에 인간이 영생을 얻게 될 것이라 말하며 <영원히 사는 법> 같은 책까지 출판했는데, 이제 정말 시간이 얼마 남지 않았다. 더구나 현 상황에서는 관련 기술들의 비용 추세만 볼 때 정말 어떤 지점에서 가격이 급락하지 않는 이상은 레이 커즈와일이 말한 것처럼 그 시기에 기술이 개발되어도 비용이 일반인들 희망 이상으로 상당히 높을 것으로 추산된다.[12][13] 물론 질적 향상으로 인한 비용 증가는 고려하지 않아도 말이다.
약간 논란이 있기는 하지만 이곳의 내용과 당시 서적을 직접 확인해본다면 커즈와일의 주장과 다르게 확실히 늦어지고 있는 과학 기술들도 있고 존재하기는 하나 여러 이유로 인하여 모든 사람에게 적용되고 있지 않은 과학기술 들은 충분히 있음을 파악할 수 있으며 저 텍스트들로 인한 당시 사람들의 상상과도 비교해보면 매우 다른 현실들이 많다는 사실을 알 수 있을 것이다. 일부 사람들은 저런 내용을 기반으로 삼아 기하급수적인 발전에 힘을 입어 저런 게 실현되면 특이점 혹은 그와 비슷한 사회가 더 빨리 온다고 주장하기도 했었으나 결과는 다들 알고 있을 것이다.
- 참고할 만한 그의 강연: 레이 커즈와일 - 기술이 어떻게 우리를 변화시킬 것인가
- 참고할 만한 그의 기사: 미래학자 커즈와일 "인류, 2029년께 영생 얻을 것"
- 참고할 만한 그의 인터뷰: '21세기 에디슨' 도발 예언… "2045년 되면 인간은 죽지 않는다"
4.1. 유전공학(G)
뇌공학의 발전은 컴퓨터에 뒤처질 인간의 지능을 보조할 것이고, 유전공학의 발전은 인간의 육체를 기술의 발전에 맞춰 신체적 한계를 극복할 수 있을 것이다. 특히 뇌공학의 발전은 인간지능에 대한 이해를 위해 필요하기 때문에 위에서 서술한 완벽한 인공지능을 구현하는 데도 필요하여, 인공지능과 상호보완적으로 발전할 것이다.
커즈와일은 이미 노화에 대한 이해와 연구는 충분히 진행되었다고 본다. 이미 장년인 본인도 그런 지식을 잘 활용하면 생명공학 혁명이 충분히 진행될 수 있을 때까지 살 수 있다며, 현재 하루에 150알의 알약을 먹고 매주 5~6가지의 정맥주사를 맞고 있다고 한다.
2015년 기준 그의 나이는 66세이며, 그가 주장하는 특이점이 오는 시기인 2045년에 96세가 된다. 단순 수명으로 보면 아슬아슬할지도 모르지만, 본인은 도중에 발전하는 의학 기술을 계속 활용해서 다리를 놓고 다리를 또 놓는 식으로 본인 세대도 충분히 특이점이 오는 연대까지 수명을 연장할 수 있다고 주장한다. 예를 들어, 암에 걸렸으면 치료제가 만들어질 때까지 항암치료만을 계속하고, 팔이 잘렸으면 진짜 팔을 만들 기술이 생길 때까지 염증 치료를 계속하는 식이다. 언젠가 기술의 발전이 자신을 치료해줄 수 있을 것이라는 확실한 믿음이 있기에 가능한 일.
2000년대 후반~2010년대 초면 실험용 쥐의 노화를 되돌리는 수준에도 도달할 수 있을 거라고 예견했고 '''실제로 성공했다.''' 회춘 항목을 참조하자. 아직은 인간에게 적용하기엔 극복해야 할 벽이 많지만, 후속 연구가 계속 진행되면 인간에게도 적용할 수 있을 것이다.
첨단 의학 기술로써 RNA가 작동하는데 중간에 간섭하는 기술, 개인의 세포를 배양하여 몸에 이식하는 기술, 이미 있는 세포의 DNA를 바꿔치기하는 기술 등도 소개한다. 2013년 인터뷰에서 20년 안에 인류는 모든 질병을 극복할 수 있을 것이며, 2045년이 되면 인간이 죽지 않고 영원히 살 수 있다고 주장했다.
복제인간이나 인조인간은 그다지 큰 위협이 되지는 않을 것이라고 봤다. 법적, 윤리적 장벽도 있겠지만 무엇보다 위에서 서술한 기술들을 이용하면 굳이 인간을 복제하거나 인간의 유전자를 조작한 아기를 만들 필요가 없기 때문이라고. 이미 천연, 인공의 복제인간은 주변에 널렸다.
유전공학 말고도, 아예 세포 구성단위에서 기전을 조작하고 물질을 갈아치우게 된다면 성능을 개선하기도 쉽고 형태 면에서도 훨씬 더 선택 폭이 클 것이다.
2030년 정도만 되더라도 이미 대뇌피질을 나노기계로 업그레이드 할수 있는 수준에 과학이 다다르면, '''인간이라는 종에 대한 개념이 완전히 달라질 것이다'''…의 수준을 넘을지도 모른다. 레이 커즈와일은 종이라는 개념 자체가 순수한 생물학적 개념인데, 특이점이 불러올 변화들은 '''생물학 자체를 초월'''하는 것으로 이는 생물학적 진화의 마지막 단계가 아니라 '''생물학적 진화를 통째로 딛고 올라서는 단계'''라고 주장한다.[14]
현재 (2020년 이전 기준)의 일반인의 인간에 대한 정의는 현재의 스마트폰을 이용하는 것처럼 기계와 사람을 이원화하는 하는 개념에 안착해 있다. 하지만 2030~2040년대에 수술 혹은 나노기술로 대뇌 기능을 강화할 수 있게된다면 이러한 기준은 딜레마에 빠지게 된다.
간단하게 뇌의 기능의 10% 정도를 기계적인 방법으로 강화한다면 현 세대의 기준으로는 그것은 (의수나 의족을 사용한 것처럼) 인간으로 볼 수 있겠지만, '''어느 시점에서 원래 뇌 기능보다 강화한 뇌의 기능이 더 커진다면''' 테세우스의 배와 같은 딜레마가 생길 수 있다. 뇌 기능을 강화시킨 내가 지금의 나와 같은 사람으로 볼 수 있느냐는 것. 다만 이는 철학적인 문제이지 현실적으로 문제가 되지는 않는다. 보험업 등 몇몇 분야에서는 지급기준 산정 문제가 불거질 수 있으나 일반적인 환경에서 테세우스의 배 문제는 큰 어려움을 일으키지 않는다.
결국 지금 세대의 인류에게는 인간에게 자연적인 부분 보다 인공적인 부분이 많다는 것은 낯선 개념이지만, 연속적인 변화로 인해 자연스럽게 받아들이게 될 것이라는 것이다. 물론 사람에 대해서는 아직 연구가 많이 필요하니 일단 컴퓨터를 기준으로 봤을 때 연속적이든 비연속적이든 구성 부분을 교체하면 교체한 다른 개체에 속하게 된다는 것은 의심할 여지가 없는 사실이다.
또는, 인간의 정신 내지는 자의식, 자아라는 것이 물질적, 물리적으로 존재하는 무언가가 아닌 개념적인 그 무언가일 수도 있다. 컴퓨터의 소프트웨어처럼. 소프트웨어는 이 세계에 물리적으로 존재하는 것이 아니다. 단순히 0101010000111000.. 으로 나열된 숫자들에 규칙과 논리를 부여하여 호환되는(==해당 규칙과 논리를 사용하는) 하드웨어에서 구동하면 기능을 하도록 추상적으로 의미를 부여한 것이다. 소프트웨어는 하드 디스크에 존재하지 않느냐고? "물리적으로" 존재하지 않는다. 단순히 하드 디스크의 자기 원판의 2가지 스핀 상태를 각각 0과 1에 대응한다고 약속(규격 정의)하고 동작할 뿐이다. SSD라면 전자의 전위 수준을 역치에 따라 각각 0, 1로 대응시켜 약속한 것일 뿐이다. 소프트웨어를 구성하는 "0101010000111000"은 세계 어디에도 존재하지 않는다. 하드 디스크를 SSD로 대체하면 동작 원리와 대응 수단은 완전히 달라지지만, 같은 약속(규격)대로 동작한다면 그 약속(규격)을 이용하여 추상적으로 프로그램한 데이터들은 대체된 하드웨어에서 원본 그대로 잘 작동할 것이다. 그리고 그 데이터는 원본이 맞다. 특정 약속(규격)하에서는 "같은 의미"를 가지고 있는 숫자들이니까. 즉, 컴퓨터 프로그램, 소프트웨어란 실재하는 게 아닌, 개념적인 것일 뿐이다.
뇌의 경우에는 뉴런이 연결된 형태에 따라 저장을 한다고 하는데, 만약 사람의 정신이란 게 소프트웨어처럼 개념적인 것이라면, 뇌가 사용하는 규격(어떤 뉴런이 어떻게 연결되어 있으면 어떤 상태를 나타낸다)에 맞는 컴퓨터 시스템과 연결 인터페이스를 만들 수 있다면, 단순히 다른 수단을 통해 약속된 상태의 데이터를 처리, 입출력(듣기, 말하기 등) 하는 것 뿐이지, 정신, 자아, 또는 의식 그 자체는 변하지 않는다는 논리가 성립한다.
쉽게 생각해서, 컴퓨터에 하드 디스크에 윈도우와 데이터(엑셀, 워드, 사진 등)가 깔려 있는데, 그 윈도우를 SSD로 이동시킨 다음 SSD로 부팅한다고 해서 윈도우와 데이터가 변화된 것은 아니잖는가? 마찬가지로 인간의 정신과 기억도 추상적이고 개념적인 그 무언가라면, 뇌를 컴퓨터로 바꾼다고 해도 원본 데이터가 파괴되진 않는다는 것이다.
그렇다면 왜 지금은 뇌가 기능을 정지하면 그 사람의 의식과 정신은 소멸한 것으로 생각하는가? 당연하다. 그 개념적인 것을 다른 하드웨어(타인의 뇌, 컴퓨터 등)에 옮기거나 복사할 기술도 없고, 뇌를 대체할 하드웨어도 없고, 심지어는 어떤 약속(규격)하에 구동되는지도 모르기 때문이다. 컴퓨터로 치면, 지금 당장 프로그램이 동작하고 있는 기존의 하드웨어를 제외하면 HDD, SSD 등 그 어떠한 대체가능한 하드웨어도 만들 기술이 없고, 연결 케이블 등을 만들 기술도 없으며, 데이터 이동 또는 복사 기능을 구현할 기술도 없고, 기계어나 어셈블리어에 대한 개념도 모르는 상태라고 보면 된다. 당연히 이런 환경에서라면 해당 원본 소프트웨어가 구동되고 있는 컴퓨터(=물리적인 사람의 신체)가 망가진다면, 해당 소프트웨어(=그 사람의 정신, 의식)도 소멸했다고 생각할 것이다.
결론적으로 인간이라는 종 자체를 현 세대 기준처럼 기계적인 개조나 인위적인 수명조작이 없는 개체라고 정의한다면, 그 기준으로써의 인간은 '자발적으로 신속하게' 멸종할 것이라는 것이다. 인간 뇌를 강화하거나 몸을 변화시키는 것이 현재의 노트북이냐 데스크탑이냐 선택하는 것과 같은 관념이 될 것이라는 건 이런 의미라고 할 수 있다.
스스로 인간이길 포기한 개체는 자연스레 자신을 업그레이드 해서 인간이 아닌 그 무언가 (훨씬 지적이며, 이해심이 높고, 감정적으로도 안정되며, 이해력있고, 합리적이며, 더 많은 것들을 멀티테스킹 할수 있는 개체)가 되어 있을 것이기 때문이다.
상온핵융합이 개발되어 상용화되거나 태양전지의 효율이 극적으로 좋아져 전기요금을 내지 않아도 되며(에너지 추출 비용 및 한계 문제 해방), 유기체의 몸을 버리고 개조가능한 기계식 혹은 나노머신이 관리하는 유기체 몸을 선택했기 때문에 음식을 먹지 않아도 되겠지만, 특이점이 가까워진 그 시간에도 지적가치를 통틀어 자본주의 체제는 존속할 것이고 그 경쟁 속에서 살아남기 위해서 혹은 더 나은 인생경험을 위해서 기존의 인간들은 인간이길 포기하고 초월체가 될 가능성이 높다는 견해도 있다.
하지만 이런 견해는, 인간 자체가 무조건 생존과 자본축적을 위해서만 움직인다고 생각하는 것에서 비롯된다. 그러나 인간은 그렇게 단순한 존재가 아니며 다양한 가치관을 가졌고, 굳이 돈을 위해서만이 아닌 자아실현의 욕구에 의해서도 움직인다는 것을 잊어서는 안된다. 인간이 생존문제의 멍에에서 벗어난다고 나태해지는 것만도 아니며, 그 이후에는 인간이 스스로 하고 싶은 것을 선택해서 그것을 이루고 쾌감을 얻기 위해 움직일 것이다. 인간이 기계나 유전공학을 통한 자기 자신을 확장하는 문제는 단순히 생각할 문제도 아니고, 그러한 것에 대한 거부감도 존재하기에 개인 선택이 될 가능성이 높다.
전기적 동력원을 제외한 어떠한 것도 필요없이 영원히 생존할 수 있고, 죽음과 노화를 극복할 수 있고, 인간의 한계가 가져온 인생의 고달픔을 영원히 벗어나 새로운 세상의 재미와 재미를 위한 목적만으로도 움직일 수 있는 삶에 거부감을 느낄만한 사람은 별로 없을 것이다. 그리고 이 기술이 돈을 받고 상용화 된다면, 대기업들은 구매욕구를 소비자들에게 주입시키는데 거의 완벽하게 성공할 것이다.
물론, 앞서의 서술에 따라, 애초에 생산력이 한정된 상황에서, 생산 극대화를 의의로 하는 자본주의가 무의미해 지게 된다면, 바로 이러한 인간 업그레이드 키트랄 수 있는 것들은 인간이 인간으로서 만들고 시장에서 판매하는 최후의 상품이 될 수도 있다. 결국 유토피아도 디스토피아도 아니지만, 중세시대와 현대시대의 일반적인 삶을 영위하기 위한 엄청난 노력의 격차등을 생각해 봤을 때, 기술의 혜택으로 인해 삶의 안정성이 상대적으로 훨씬 보장된다는 의미이다.
지구촌 사회가 이기주의 및 여러 체제 모순 등의 문제로 고통받는 양상이 두드러짐과 함께, 기술이 다 그렇듯 정치 경제 쪽으로는 물론이고 심지어 신흥 종교에서도 나쁘게 쓰일 위험성이 있어 우생학 2.0이라고 욕을 들어먹기도 한다.
4.1.1. 관련 문서
4.2. 나노기술(N)
나노 단위의 조종은 인간지능만으로는 불가능하고 반드시 인공지능의 제어가 필요하다. 동시에 논리회로의 집적도를 높여 인공지능을 구현하는 데에도 필요하다. 또 유전공학의 발전도 나노 단위의 이해가 필요하기에 상호보완적으로 발전할 것이다.
커즈와일은 매 10년마다 기계 부품의 크기가 1/4로 줄어들었다며, 2020년 무렵에는 대부분의 기계 기술이 나노 기술의 영역에 들어설 것이라고 예견했다.(cpu의 집적도를 생각해보자.)
2020년 중반이면 나노기술이 일상적으로 활용되어 대표적으로 의학 용도로 다양하게 활용될 수 있다고 봤다. 이를테면 병원균을 제거하거나, 몸 내부 콜레스테롤이나 노폐물을 제거하거나, 병을 조기 탐지한다든지. 간략하게 써서 체감이 안 될지도 모르지만, 이 정도만으로도 병원에 갈 일이 90% 이상 줄고 노폐물을 제거하는 성능이 충분하면 '''콩팥이 필요 없다.'''[15]
항생제의 남용 등으로 인해 출현한 내성이 생긴 슈퍼 박테리아 신종 바이러스 등의 전 세계적인 확산으로 인해 이미 머지않은 미래에 많은 항생제가 무용지물이 될 가능성이 높다고 한다.
커즈와일은 나노봇을 인체에 좀 더 적극적으로 활용하는 방안을 제안했는데, 나노봇의 성능이 충분하고 스스로 움직일 수 있다면, 몸의 적혈구를 전부 나노봇으로 갈아버리면 '''폐와 심장이 필요 없어지며''', 호르몬 등의 합성도 나노봇에 맡기면 각종 분비샘이 필요 없어진다는 것이다. 이 정도면 이미 생물학적 인간의 범주를 벗어났다. 다만 나노봇이 생물학적 무기나 테러로 이용될 경우, 오히려 이러한 악성나노봇은 악성 병원균과 흡사하게 인체를 파괴할 수 있는 능력을 지니고 있어서 이런 상태에서 악성나노봇을 몸에서 전부 강제로 배출하거나 파괴 및 제거할 방법이 존재하는가 등에 대한 문제점도 존재한다. 일단 EMP를 사용하면 전부 정지시킬 수는 있겠지만 이럴 경우 인공심장 이식자는 전부 죽어버린다는 단점도 존재.
또한 두뇌에 나노봇을 투입하여 기존 인간의 생물학적 지능에 비생물학적 지능을 추가할 수 있다고 한다. 커즈와일에 따르면, 생물학적 지능의 향상은 매우 느리고(자연적 진화) 물리적인 한계(두개골의 용적) 때문에 폭발적으로 증가하는 비생물학적 지능을 따라잡지 못할 것이다. 따라서 2040년대에 이르면 두뇌의 대부분은 비생물학적 지능이 우위가 되어있을 것이다.
2030년대 초반이 되면 심장, 폐, 적혈구와 백혈구, 혈소판, 췌장, 갑상샘 및 모든 호르몬 분비 기관들, 신장, 방광, 간, 식도, 위, 소장, 대장이 죄다 필요 없어지고, 남는 것은 골격, 피부, 근육, 피하조직, 생식기, 감각 기관, 입과 식도 윗부분, 뇌라고 한다. 이를 버전 2.0 인체라고 한다.
2040년대에 이르면 버전 3.0 인체가 탄생하게 되는데, 버전 3.0 인체의 특징 중 하나로 꼽는 것은 쉽게 신체를 바꿀 수 있다는 것이다. 분자나노 조립기술을 사용하여 육체조차도 순식간에 바꿀 수 있게 된다.
기존 인간의 관점으로 본다면 신체의 장기를 들어내고 이리저리 개조하는 것이 기괴하고 무섭게 보일 수 있다. 예를 들자면 수준 높은 보호를 받기 위해 신경계를 격리시설에 넣어서 보호하고 몸은 따로 만들어 움직인다든지. 하지만 커즈와일은 이는 상대적인 것으로 그 시점에서는 매우 당연한 것처럼 받아들여질 것이라고 한다. 맞는 말이긴 한 게, 현 인류는 과거 인류가 보면 컬처쇼크를 온몸으로 느끼며 경악을 금치 못 할 짓거리들을 서슴지 않고 저지르는데도 별다른 거부감을 드러내지 않으며, 인간은 적응의 동물이라는 말도 있는데 하물며 자신들이 이룩한 것에 적응하지 못할 리가... 물론 한계는 있겠지만, 최악의 상황을 피해 안전해진다면야 지금의 인식과는 꽤 다를 것이 분명하다.[16]
에너지 기술에 나노 기술이 적용되면 신재생 에너지의 효율성을 높일 수 있어 2020년대에는 에너지 사용 능력이 비약적으로 상승할 거라고 한다. 나노기술로 생산된 태양열 패널과 연료전지로 인해 에너지 생산과 저장의 분산화가 이루어지기 때문에 발전소나 연료 저장 시설이 사라지고 이로 인한 각종 위협과 환경 문제가 사라질 것이다.
약학 분야에서는 이미 1990년대 후반 ~ 2000년대 초반부터 나노기술이 주목되기 시작하여 현재는 많은 기술적 발전이 구체적인 성과로 나타나기 시작했다. 가장 기초적인 나노기술인 나노 사이즈의 운반체에 약물을 담아 운반하는 나노 전달 시스템부터 출발하여 현재는 다양한 암이나 각종 장기를 집중적으로 표적 할 수 있는 표적화 기술[17]을 부착한 나노입자까지 매우 다양하다. 대표적으로 화장품 제조에도 쓰이는 에멀전 기술부터 시작해서 생체 세포기관을 모방한 리포좀, 그리고 고분자 복합체인 미셀이 있으며[18], 이러한 나노기술은 약물의 생체이용률을 높일 수 있어 절대적인 투여량을 줄일 수 있을 뿐만 아니라 이에 따른 부작용도 함께 감소시킬 수 있는 이점이 있으며, 표적화 기술은 부작용 감소와 약효 증대라는 두 마리 토끼를 한꺼번에 잡는 궁극적인 표상이라 할 수 있다. 다만, 현재까지는 이러한 나노기술의 실용화까진 많은 어려움이 따르며, 특히 생산단가가 높거나 아직 예측해내지 못한 부작용이 있을 수 있다는 문제점이 존재한다. 화학공학과 물리화학, 제어계측학의 발달이 이러한 문제점을 해결해 주리라 기대해본다.
환경 문제도 각종 오염 물질을 분자, 원자 단위로 다룰 수 있으므로 혁신적으로 줄일 수 있다고 한다. 대표적으로 이산화탄소를 분리해서 지구 온난화 문제를 줄일 수 있다. 산소는 대기 중으로 돌려보내고 탄소는 모아서 다용도로 쓰면 된다.
물론 이것이 반대로 알아차릴 수 없는 극소량만의 독으로 사람을 죽이거나 대량살상무기의 개선으로 이어질 수도 있다. 호흡이나 피부, 각종 대사를 통해 체내로 유입이 가능하며 세포막을 자유자재로 투과할 수 있고 폐나 심장 등 여러 기관에 영향을 미칠 수 있으며 심지어 뇌까지 침투가 가능해 사고를 뒤바꾸고 지능을 낮출 수도 있다. 태아에게 전달되어 기형아를 만들 수도 있다. 화학물질 공해에서 더 나쁜 쪽으로 발달할 수도 있는 것이다. 더 나아가 DNA까지 파괴하고 복원할 수 없도록 조작할 위험성도 있고, 이것은 인류를 인류보다 낮게 만들어 겉모습뿐만이 아니라 그 존재마저 사람이 아니게 할 수단으로 변질할 수 있다. 이런 이상을 감지하지 못한다면 결과는 끔찍할 것이다. 원래 자신을 본떠놓으면 뭘 하는가? 이미 뒤틀렸을지도 모르는데. 이런 인위적 위험의 문제점은 기계이든 인체이든 그 존재와 효과를 알아채지 못할 수도 있고, 잘 드러나지 않는 식으로 사회의 여러 요소를 오염시키는 것이 가능하기 때문에 기존의 다른 위험물들보다 훨씬 심각하다. 경쟁 피로가 아니더라도, 오랫동안 이어진 혐오 또는 별 시답잖은 이유, 단순한 아이와 선의만으로도 마땅한 방지책이 없다면 기술은 그 자체로 악용되도록 태어날 수도 있다.
다만, 나노 단위로 들어가기 시작하면 본격적으로 '''불확정성 원리'''가 무시하지 못할 영향을 미치기 시작하기 때문에 이걸 극복할 방법이 필요하다. 예를 들면, 양자 터널링 때문에 전자가 밖으로 튀어나가 오작동을 일으킬 수도 있다.
나노 기술을 직접, 집중해서 활용하기보단 개개인의 몸에서 이미 원활히 작동 중인 면역 세포를 바깥에서 배양하며 질병을 인식시켜서, 투여 시에 격렬하게 공격하게 만드는 방식이 부작용도 덜하고 값도 싸다고 한다.[19]
4.3. 로봇공학·인공지능(R)
인간 수준의 인공지능 개발이 곧 특이점을 의미하는 것은 아니다. 특이점은 인공지능이 인류 지능의 총합마저도 넘어서는 시점을 말하기에 인공지능이 인간의 지능을 뛰어넘는다면 나머지는 인공지능이 알아서 개발할 수 있다. 하지만 튜링 테스트를 통과할 수 있는 지능을 만들려면 인간의 뇌와 동급의 연산 능력을 가진 하드웨어와 인간의 뇌에 대한 지식과 구조 모델에 대한 정보가 필수다.
먼저 '''갖춰진''' 것은 인간의 뇌와 같은 수준의 하드웨어다. 커즈와일의 주관적인 의견에 따르면 인간 뇌의 성능을 수치로 나타내면 초당 $$10^{14} $$회에서 최대 $$10^{16}$$ 회의 계산이 가능한 것과 같다고 추정한다. 한스 모라벡은 질적인 부분을 제외하고 컴퓨터의 연산 능력을 사람이 계산하는 속도와 비교하여 구체적으로 잴 경우, 양적 계산 능력은 이미 적당한 성능의 컴퓨터 하나가 전체 인류의 계산 속도를 초월한 지 오래라고 말한다.
1초에 부동소수점 계산을 몇 번 할 수 있는지를 나타내는 단위인 플롭스(FLOPS)로 환산하면 약 0.1~10 페타플롭스. 이 정도의 성능은 2010년대 초에 슈퍼컴퓨터를 통해 완성될 것이라 예견했고, 2020년대 중반에는 가정용 컴퓨터도 비슷한 수준이 될 것으로 추정했다. 정확히는 이 책에서는 인플레이션을 고려하지 않은 절대 액수 1,000달러로 구매할 수 있는 정도의 컴퓨터를 '가정용 컴퓨터'라고 정의했다. 실제로도 게임 좀 한다는 사람들은 70~80만 원대에서 300만 원까지도 쓴다.
실제로 슈퍼컴퓨터 성능이 10 페타플롭스를 넘어선 것은 2012년으로, 이 예측은 맞았다. 에너지 소모량이나 부피 등 효율성에서는 아직도 인간 뇌가 월등하지만, 폰 노이만 구조가 아니라 IBM의 트루노스처럼 인간의 뇌와 닮은 아키텍처를 지닌 컴퓨터를 만들면 이러한 효율성을 좀 더 빠르게 따라잡을 가능성이 있다.
그러나 위에서 추정한 인간 뇌의 성능은 단순히 뇌의 뉴런 간 시냅스에서 전달되는 신호가 초에 몇 개인가를 말할 뿐이다. 즉 인간 수준의 인공지능을 만들기 위해서는 인간의 지능이 어떤 구조로 이루어져 있는지에 대한 소프트웨어에 대한 이해이다.
2008년부터 인간 뇌의 뉴런 간의 연결 구조를 밝혀내기 위한 휴먼 커넥톰 프로젝트(Human Connectome Project)가 진행 중이다. 관련 서적 커즈와일은 인간 뇌를 컴퓨터를 통해 에뮬레이터로 구현하기 위해서는 인간 뇌보다 약 1,000배 높은 연산 능력이 필요하다고 추산했으며, 그에 따라 2020년 중반에 인간 뇌 구조에 대한 연구가 완료될 것이라고 봤다. 2029년이면 그것을 컴퓨터로 옮겨 인간과 완전히 같은 수준의 인공 지능을 만들 수 있을 거라고. 에뮬레이터 항목에도 쓰여 있듯, 에뮬레이팅을 위해서는 원본 아키텍처보다 수 십 배 이상의 성능이 필요하다.
휴먼 커넥톰 프로젝트 말고도 뇌 역 분석에 관련된 프로젝트로는 2014년부터 시작한 가장 대규모의 프로젝트인 미국의 브레인 이니셔티브(BRAIN Initiative)나 유럽 연합에서 진행하는 휴먼 브레인 프로젝트도 있다. 이건 2023년까지 완성하는 것이 목표.
인간 지능에 대한 이해가 높아져서 그것을 컴퓨터를 통해 구현하게 되면 빠른 지식 흡수와 정보공유와 여러 학문을 융합하여 자유자재로 활용할 수 있기에 인간보다 훨씬 유리하다. 예를 들어서 어떤 인공지능이 나무위키의 모든 문서에 담긴 내용과 지식을 흡수해서 인공지능 나름대로 어떤 목적에 따라 '''빅데이터'''화한 지식을 자유자재로 응용하거나 적용하고, 인공지능 혼자서 정보를 수집해 수십만 개의 항목을 생성하거나 기존의 수십만 개의 항목들을 '''사소한 철자 오류나 맞춤법 오류도 없이''' 실시간으로 바꿀 수도 있다. 이게 이루어지면 교육을 비롯해 인간의 모든 것이 뿌리부터 바뀔 것이다. 특히 교육 부문에서는 코딩, 프로그래밍 언어 등 인간이 인공 지능과 서로 협력하거나 이용하는 방법과 논리적 사고력과 문제 해결 능력, 정보의 구조화&분류화&세부화 능력 등을 키우는 교육과정이 대폭 많아질 것으로 보고 있다.
커즈와일은 2099년쯤이면 가정용 컴퓨터 하나가 역사상 있었던 인류 전체의 두뇌들보다 10억 배 이상 더 힘을 발휘할 것이라 말한다.
- 그의 강연: 혼성적 사고에 대비하세요
- 그의 저서 내용 요약: 영적 기계의 시대
인공지능이 기술을 개발할 단계가 올 때 경제성 문제로 지원받기 어렵고 상용화되기 어려운 비주류 학문이나 연구 분야도 인공지능이 해줄 수 있다면 인류의 산업과 기술과 지식이 양적, 질적으로 거대하게 팽창할 것이며 더 많은 사람이 지식의 혜택을 누리게 될 것이다. 인문학 같은 경우는 '취직도 돈도 안 된다.'는 이유로 많은 외면을 받고, 정부 지원도 적고 연구자나 인재의 풀도 얕은 편이라 경영학 등에 비하면 상대적으로 발전이 더딘 편이다. 연구가 진행되면 시간이 지나면서 학문 분야가 더욱더 세분되거나 추가되어 확장할 수도 있고, 사람들이 교육을 통해 지식을 습득할 필요도 없어지며, 학습은 더는 사회의 경쟁력이 되지 않는 시대도 올 수 있다. 인공지능과 컴퓨터가 지식을 갈고닦아주며, 필요한 경우 클라우드에 접속하여 열람하거나 저장한다든지 하는 식으로 지식을 주입할 수 있다.
5. 변화 예시
레이 커즈와일은 자신의 저서 내용 대부분을 특이점이 머지않았다며 당시 개발되고 있었던 최신 기술을 소개하거나 컴퓨터의 속도가 무어의 법칙에 따라 빨라지고 이야기하고 있다는 것에 할애했지만, 조금은 구체적으로 미래에 어떤 변화가 있을 것인지 쓰기도 했다.
- 2010년대 초에는 컴퓨터가 사물에 심어지고 무선 통신을 활용하게 되고 증강 현실이 이뤄질 것이다. 한 마디로 유비쿼터스가 2010년 초에 성사될 것이라고 봤다.[20][21]
- 2020년대 초에는 가상 현실이 대중화될 것이다. 다만 여기에서 가상 현실은 HMD처럼 시, 청각에 국한되는 방법. 오큘러스 리프트, 오큘러스 퀘스트 등을 보면 충분히 가능한 이야기다. 후술하겠지만 과학소설이나 매트릭스에 나오는 것처럼 뇌 신경을 접속해서 오감을 전부 느끼는 수준은 좀 더 미래 기술이다. 2010년대 후반에 초보적인 수준이긴 하지만 이미 VR의 대중화가 시작되었다. 소니 플레이스테이션을 시작으로 콘솔 게임에도 VR 규격과 제품이 나온 상태이다. 심지어는 밸브는 VR 전용 AAA급 게임인 하프라이프: 알릭스라는 대작을 내놓았다.
나노머신, 인공지능, 생명공학과는 달리 유비쿼터스와 HMD 수준 가상현실 자체는 커즈와일이 저서 '특이점이 온다'를 저술하던 2005년 시점이나 더 이전에도 기술적으론 충분히 가능한 부분이었다. 그러나 이것이 커즈와일의 예측을 깎아내릴 근거가 되지 못하는 것은, 원래 기술이 사회에 진출하는 데에 가장 큰 제약요인이 시장성과 수요이기 때문이다. 따라서 커즈와일의 저작에서 가장 중요하게 다루는 지점이 바로 "그 기술이 시장성을 가질 정도로 원가가 낮아지는 시점이 언제인가?"이며, 특이점론 역시 그런 논의의 연장선에 있다. 시장성과 수요를 무시하고 기술력만으로 사회변화를 논하려 한다면, 초보적인 증기기관이 등장한 고대 그리스 시절에 이미 산업혁명을 논했어야 한다.
실제로 Apple 등의 회사가 AR 글라스를 개발 중이며, 2019년까지 개발을 완료하고 2020년에 출시하겠다는 계획을 세우고 있기도 하다.
실제로 Apple 등의 회사가 AR 글라스를 개발 중이며, 2019년까지 개발을 완료하고 2020년에 출시하겠다는 계획을 세우고 있기도 하다.
- 2020년대 말에는 나노 기술을 이용해 인체의 장기를 보강하고 교체할 수 있을 것이다. 예를 들면 신체에 필요한 영양소를 정확히 계산해서 나노봇으로 몸에 공급할 수 있고, 혈구를 나노봇으로 교체하면 훨씬 뛰어난 면역력과 효율적인 호흡 능력을 가질 수 있고 심장을 제거하는 것도 가능하다. 수술 없이 뼈대를 강화하거나 신체 내부의 수술을 진행할 수도 있다.
- 2020년대 후반에는 가상 현실이 매우 현실적으로 되어서 그것을 이용한 재택근무가 더 널리 퍼질 것이다.[22]
- 2030년대에는 나노봇을 통해 뇌의 기능을 보강하는 것도 가능할 것이다. 뇌 자체의 성능을 높이는 건 물론이고, 매트릭스에 나오는 것과 같은 가상현실에 접속할 수도 있고, 자신의 감각을 전송할 수도 있을 것이다.
- 2030년대 말에는 뇌의 정보를 그대로 컴퓨터로 업로드하는 것도 가능할 것이다.
- 2030년대 말이나 2040년대 초에는 분자 단위로 물체를 조립하고 해체하는 수준의 나노 기술을 이용해 신체를 아예 마음대로 개조할 수 있을 것이다.
- 신체가 절단된 장애인의 구제(신체재생 등)는 물론 순식간에 외모를 바꾸거나 성별 또한 별도의 수술 없이 나노머신만으로 바꿀 수 있을 것이다. 이 경우 임신과 결혼제도(임신과 출산, 양육을 안전하고 합리적으로 보장하는 사회제도로서의 결혼)에 큰 변화가 올지도 모르겠다. 자신의 유전자를 후대에 남기고 싶어 하는 (매력적인 이성을 보면 끌리고, 좋아하는 마음과 사랑이 생겨나는 이유도 어떻게 보면 효과적으로 이성과 결합하기 위해 필요한 것으로 진화해온 것이다.) 종족 번식 자체는 본능이니 계속 가지고 있다고 하더라도, 경쟁을 통해서 쟁취할 필요가 없다. 어차피 인공 자궁이 임신과 출산의 기능을 대체할 테니…, 자녀를 갖기 위해 결혼은 필요 없어질지도. 자신은 그렇게 생각하지 않게 될 것 같다고? 하지만 다음 세대에 태어나 이런 사회를 보고 듣고 자란 아이들은 다를 것이다. 연애라면 원하는 취향의 안드로이드를 만들거나 좋아하는 이성과 연애하는 가상현실을 구현하면 된다.
- 외모지상주의의 의미가 거의 사라질 것이며 성별을 구분하는 것 자체가 의미 없어질 것이다. 게다가 신체를 전혀 가지지 않고 전기신호를 가진 자아만 온라인에 존재하다가 필요할 때만 신체를 가지는 것이 가능할 것이다. 이러면 이제 물리적 환경과 국토의 한계 문제로 골머리 앓지 않아도 된다. 다들 영향받는 일 없이 정신머리가 멀쩡하게 박혔다면 자원을 균등하게 분배하면서 특정 수괴의 우월성을 남들만큼 억제하는 방안도 찬성할 것이다. 자아 구성에 필요한 기관의 효율을 높여서 어느 한 곳에서 보호한다면 실제로 생존에 필요한 시설과 집, 사회적 기반 등등이 줄어들거나 거의 필요 없게 된다. 하지만 균형이 무너지기라도 하면 격차가 벌어진 뒤[23] 계속 투닥투닥 다투며 전쟁해대는 부류 때문에 집안에 틀어박혀서 하루하루 시간가속 가상현실노름만 하는 처지가 될 수도 있다.
- 뇌가 기계 방식으로 교체되었기 때문에 언제든 초인공지능의 지능을 빌릴 수 있게 되거나 초지능 그 자체가 될 수 있다. 따라서 일반인들도 인류 전체를 합한 지능을 자신의 전뇌에 복사 붙여넣기 할 수 있다는 것. 혹은 타인과 잠시 융합되었다가 세 개의 의식체로 분리되는 것 따위도 가능하다. 이쯤 되면 현재의 모든 인류가 알 수 있는 최고의 지식과 노하우를 얼마 안 되는 시간에 모두 습득할 수 있다는 것이 되고, 단지 혼자의 집중만으로 가상의 세계나 새로운 게임 경험 같은 것들을 만들어낼 수 있게 될 것이다.
- 초지능이 되느냐, 인간으로 남느냐는 개인의 선택으로 남게 된다. 그러나 그때 즈음이면 이런 기술들이 너무나 당연해서 데스크톱이냐 노트북이냐의 선택과 같이 아주 일상적인 일이 될 것이다.
몇몇 사람들은 너무 오래 살면 사는 재미가 사라지리라는 클리셰적인 생각을 하는데, 해결법 중 하나는 기억을 스스로 리셋하거나 그냥 포맷해서 어린애로 환생하면 된다. [24][25] 좀 덜 극단적인 방법도 있다. 그저 뇌가 느끼는 감각의 역치를 어린아이 시절처럼 조정해주거나 뇌 회로를 약간 손봐 호기심을 느끼기 쉬운 상태로 만들면 된다. 이러면 지루해질 겨를도 없고 감각과 감정이 풍부했던 시절을 다시 찾을 수 있다. 원한다면 그냥 버티거나 즐길 거리를 만들 수도 있고. 일찍이 발달을 선택하더라도 먼저 지능을 높인 자들이 수작을 부릴 수도 있다.[26]
- 위와 같은 분자 조립 나노 기술로 인해, 시설로 만들 수 없거나 아예 비싼 재료가 드는 것이 아니라면 제조 비용은 0에 수렴하게 낮아진다. 당연히 물건의 가격은 지적 재산 가치와 거의 같게 되거나, 모든 물건이 아예 공짜로 주어질 것이다.
- 각 재화의 생산성과 생산 효율은 어마어마하게 증가할 것이다.
- 먹지 않고 마시지 않고, 숨 쉬는 것 또한 문제가 없게 된다면, 인간은 심지어 달이나 화성에서도 아무 제약 없이 거주할 수 있게 될 것이다. 그런데 굳이 화성이나 달에 갈 필요도 없다. 그런 환경을 보거나, 혹은 체험해 보고 싶다면 자기 스스로 컨트롤해서 즐겨보면 된다. 어쨌든 전기적 동력원만 해결이 된다면, 기계적인 신체가 파괴되지 않을 공간이라면 어디서든 주거가 가능하고, 아무것도 소비할 필요가 없으니 경제활동이 필요 없어진다는 결론에 이른다.
- 영 좋지 않은 미래상에선 인간 1.0 버전의 제거 또는 강제적 개선이 시행될 수도 있다. 현재 존재하는 경제망은 '인간 1.0 버전의 생존을 위한' 경제망인데, 이는 너무 비용이 많이 들고 제약도 많기 때문이다. 먹고, 자고, 마셔야 하며, 더워도 안 되고, 추워도 안 되며, 반드시 숨을 쉬어야 하고, 방사능이나 기타 수많은 환경에 굉장히 취약하며, 정신적으로도 굉장히 쉽게 나약해지고, 생존에 의한 불안감에 타인을 불신하고, 말과 글자라는 느리고 부정확한 통신 방법으로밖에 소통하지 못해서 다투게 되는 인간 1.0을 사회가 굳이 도울 필요성[27]을 느끼지 못한다면, 차라리 인간 1.0 버전을 없애기로 사회적 합의를 보거나 인간 1.0 버전의 적극적 개선을 시행하게 될 것이다. 인간 2.0은 에너지 동력원만 있다면, 화성과 같은, 생명에게 극히 위험한 공간에서 아무 보호장비도 없이 생존할 수 있으며, 원하지 않는다면 경제 활동조차 할 필요가 없다. 시간적 관념이 바뀌어 감에 따라 기존 인류에게는 새로 나타난 자들이 참을성 없는 것으로 보일지도 모르겠다.[28]
- 인공지능에 의해 무한에 가까운 콘텐츠가 순식간에 만들어질 것이다. 예를 들어 어떤 작품을 분석해 비슷하거나 그것보다 더 좋은 작품으로 만들 수 있고, 애니메이션이나 실사판 영화로도 금방 만들 수 있고, 체험형 게임류로, 그것도 눈 깜짝할 사이에 각각 다른 버전으로 수천억 개씩 만들어 낼 수 있다고 생각하면 이해하기 쉬울 것이다. 또한 개인의 기호에 따라 어떤 것이든 실현할 수 있게 된다. 따라서 포스트 휴먼은 전혀 일할 필요가 없다. 기존의 영화나 게임 등은 일반인이 쉽게 만들어낼 수 없는 것이었기 때문에, 돈을 들여 전문인력들이 제작하고, 우리가 돈을 내고 보는 것이었다.
- 일하고 싶다면 일할 수 있지만, 초인공지능이 인간과 비교할 수 없을 만큼 잘하고, 기발하며, 창조적이다. 열역학 제2 법칙에 의한 우주 멸망 이외엔 인간 1.0에서 느꼈던 각종 재해로 인한 공포가 비교할 수 없을 만큼 줄어들 것이다.
- 이런 경우에는 죽음에 대한 개념도 크게 달라질 것이다. 육체가 돌이킬 수 없는 손상을 입어 죽음에 이른다는 개념은 사라지고, 불의의 사고로 신체 자체는 손상되거나 사라지더라도 자아와 의식을 복사해 두었다가 다시 새로운 육체에 재전송하면 그만이기 때문에, 자신이 죽는다는 개념 자체가 사라질 수 있다. 잠시 의식이 끊겼다가 다시 돌아온 것일 뿐.
- 커즈와일의 특이점 예측에 동의하는 전문가들은 1970년생 언저리부터는 아주 확실하게 인간 불멸화에 참여할 수 있을 것으로 판단하고 있다. 1960년생 같은 경우에는 건강에 신경을 쓰지 않으면 노화나 기타 노화로 인한 합병증세의 위험성이 높다고 판단하고 있다. 그러나 이런 예측을 하는 커즈와일은 최첨단을 달리는 회사의 수장인 것을 생각해야 한다. 관련 기술이 완성되었다 하더라도 시장 판매가 이뤄지는 데에 시간이 걸릴 것이며, 미국이 아닌 다른 비교 후진국 같은 경우엔 법규나 제재 때문에, 영생화로 이어질 수 있는 수명연장 관련 기술이나 약품이 취급이 어렵거나 금지될 수 있다.
- 질병과 노화로부터 탈출할 만큼 유전자 처리 기술이 발달하게 된다. 2020년 무렵에는 유전자 조작으로 줄기세포를 만들어서 인체 기관의 재생이 가능해진다.
- 2030년경이 되면 인류에게 필요한 에너지는 태양에너지로부터 모두 구하게 된다. 식량 생산이나 식수 문제도 혁명적으로 해결된다. 원자력 발전소 세우느라 힘쓰겠지만, 태양전지 기술이 원자력 에너지를 무용지물로 만들어 버릴 수 있다.
- 2020년대 초에는 상품 중 상당 부분은 3D 프린터로 인쇄 후 제조하게 된다. (생산단가의 하락) 의복 및 장기까지도 아주 멋지게 만들 수 있다. 특히 인체 장기는 자신의 세포를 이용해서 만들게 된다. 실제로 2016년 현재 3D 바이오프린팅이라는 이름으로 인공장기를 3D 프린팅 기술로 구현하는 기술이 활발하게 연구되고 있고, 2016년 말에는 신장 조직을 3D 프린팅하는 기술이 상용화될 예정이다.[29]
- 5년 이내에 검색은 자연어로 실시하게 된다. 웹페이지는 질문의 의미를 이해하여 원하는 해답을 자연어로 대답할 수 있게 될 것이다.
- 2020년 무렵이 되면 사람들은 가상세계 속에서 놀이를 즐기게 된다. 거기에 2030년쯤이 되면 가상현실에서 실감할 정도의 감각까지 느끼게 된다. 이 경우는 감각을 그냥 가상세계 속에서 느끼면 되기 때문에, 피서를 떠나거나, 서핑하거나 스키를 타거나 할 필요가 없어질 것으로 보인다. 물론 이러다가 현실에 가까운 가상보단 맞춤형 전자마약에 특화될 가능성도 무시할 수는 없다.
- 가속적으로 발전하는 기술을 이용하여 '다리에 다리를 놓고 거기에 또 다리를 놓는' 식으로 수명을 획기적으로 연장할 수 있다. 레이 커즈와일은 현재 우리에게 생명 연장에 필요한 지식이 다 있는 건 아니지만, 이런 식으로 사실상 지금부터도 무한히 사는 것이 가능하다고 주장한다. 즉 생명공학과 나노기술이 좀 더 획기적인 생명 연장 방법들을 알려줄 때까지 현재의 지식을 적극적으로 적용해서 건강을 지키면서 기다리면 된다는 것이다. 모든 문제를 지금 다 해결할 필요는 없다는 뜻.
2021년 기준으로 보면 알겠지만 그가 예시로 든 것중에 실현된 것은 생각보다 많이 적다. 기술의 발전은 등속으로 이루어지지 않고 긴 정체기를 거치다가 어떤 발견[30], 계기[31], 사건[32], 천재의 등장으로 인해 한 번에 큰 폭으로 발전이 이루어져 왔기 때문이다.
6. 시사점
6.1. 특이점 이전에 코 앞으로 다가온 기본소득제 논의
공장과 화이트 칼라의 자동화물결 (2015년 이후 상황)을 보면, 공장같은 경우엔 이미 스마트 공장의 대두로, 기존 전통적인 공장에서는 사람이 직접 눈으로 확인하고, 팔로 옮기던 작업들을, 개선된 알고리즘을 통하여 기계들이 알아서 확인하고, 기계 팔로 옮겨가고 있다. 보수적으로 본다고 하더라도 추후 2020년대 중후반 정도가 인간이 필요한 마지노선일 것이다. 극단적인 자동화만을 따지면 대부분의 블루칼라들은 2019년부터도 필요가 없다. 정치권의 입김이 워낙 거세어 '의무적'으로 인간을 고용하는 것 뿐이다. (기계 쓰는것보다 노동자 쓰는 인건비가 더 싸서 그렇다는 논리도있다.)
해당 이야기는 블루칼라 뿐만이 아니라, 고연봉 화이트칼라 노동자에게도 피할 수 없는 서슬퍼런 칼날이다. 예체능 도 마찬가지. 색상 분석은 이미 프로그램이 하는 판국에 작곡 역시도 AI가 할 수 있고, 더 완벽해질 것이다.#
단순노무직의 업무를 로봇과 AI가 대체하여 인간이 제공하는 노동력이 필요없어지면 단순노무직 종사자들은 실직하게 된다. 사무직의 업무도 고도화 된 컴퓨터와 AI가 대체하면 사고(思考)가 필요한 업무에 인간의 지능이 필요 없어지고, 사무직 종사자들은 실직하게 된다. 창의력과 미(美)로 대표되는 예체능 계열도 AI가 알고리즘으로 작곡하고 미술품을 창작하게 되면 예체능 종사자들은 실직하게 된다.
전문직 역시 마찬가지로, 영상의학을 보면 이미 프로그램이 영상을 분석하여 질병이나 골절 유무를 판단하고, 사람의 판단 하에 사람이 수술을 진행한다. 가까운 미래에는 이 역시 전체 작업이 로봇으로 대체될 것이다. 통역 및 번역 업무는 가장 먼저 대체되는 업무 중 하나일 것이다. 수준이 낮다 치부되는 구글 번역기만으로도 라틴계족 언어들은 현재에도 충분히 소통 가능한 상황이며 음성인식과 AI의 발음 등이 날로 좋아지고 있다.
인간답게 공감해줄 수 있고 심리적인 안정감을 줄 수 있는 '인간적인' 직업이 살아남을 것이라고 하지만, 그것 또한 오래가지 않을 전망이다. 사람과 구별할 수 없는 단백질과 탄소로 설계된, 인간 신체와 똑같은 로봇을 만들고, 더 공감해줄 수 있게 '설계된' AI가 공감해주는 것을 더 잘할 것이기 때문이다. 사람의 기분을 느낄 수 있느냐고 물어본다면, 호르몬같은 건 그냥 가상에서 시뮬레이션 하여 구현해내면 그만이다. 인간이 어떻게든 AI가 못하는 것을 찾으려고 해도, AI는 무엇이든 할 수 있을 뿐더러 오히려 더 잘한다. 이런 상황에서 모든 인간은 경제적 낙오자가 되어버릴 것이다. 노동자 뿐만 아니라, 인공지능이 경영감각까지 가지게 되어 CEO들을 넘어선다면, 모든 기업은 도태되어 대기업도 AI가 지휘하는 기업에 비하면 삼류일 뿐이게 된다.
중요한 것은 약인공지능과 같은 2020년대 중반에 완성될 기술조차도 현재 인간 직업의 50%를 없애버릴 것이라는 점이다. 십수년 내내 화물트럭을 몰던 운전기사가 자율주행 차량에 일자리를 빼앗기고, 곧바로 전문지식도 없이 새로운 '인공지능이 아직 점령하지 않은' 직업을, 생활고에 시달리고 있는 상태로 고등교육을 받지 않고 얻을 수 있을 거라 생각하는 사람은 아마 없을 것이다.
그래서 기본소득제에 대한 논의가 시작된다. 기본소득제란 개인이 가진 재산이나 소득의 많고 적음 또는 유무에 상관없이 국가가 일정정도의 소득을 보장해주는 것이다. 기술이 발전함에 따라 모든 분야에서 AI의 능력이 인간의 능력을 넘어서면 인간을 고용할 이유가 사라지기에 인간의 전부 또는 적어도 대부분이 직업을 잃을 것은 확실하다. 이유는 단순하다. 효율성. AI와 사람과의 작업 결과물을 비교하였을 때 차이가 없고 오히려 사람을 채용하였을 때 경제적인 문제가 더 발생한다면 기업들은 사람을 고용하지 않을 것이고 효율성을 위하여 사람을 모조리 해고하고 'AI관리자'의 명목으로 사람을 고용할 수도 있을 것이다. AI관리자의 역할을 하는 AI를 사용한다면 금상첨화. 이쯤 되면 일정 규모의 기업은 사람을 채용하는 것을 법으로 강제하는 것 이외에는 사실상 방법이 없다.
선진국에선 정부차원에서 이미 기본소득 논의가 나오고 있다. 우리나라도 이에 맞춰 2019년 10월 29일 언론들이 일제히 기사를 쏟아냈다.
2020년 코로나 사태로 인해 긴급재난지원금의 형태로 4인 가정에 100만원씩 일괄 지원이 되어 기본소득제를 부분적으로 시도해 봤다는 평이 나왔다.
6.2. 인공지능이 다스리는 국가
미래학자들은, 인간으로 이루어진 국회의원과 법조인들은 밥그릇 지키기 위해 법치와 법개정에 인공지능이 참여하지 못하게 막을 것이라는 것라고 주장한다. 하지만 인공지능이 절대정의를 펼치는 국가와, 온갖 비리로 점철된 상류층이 통치하는 국가 중 하나를 선택하라고 한다면, 대부분의 사람들은 바로 인공지능의 국가를 선택하려 할 것이라고 말한다.
이 국가는 인공지능이 법을 만들고, 판사와 변호사역할까지 모두 수행한다. 이 국가의 시민은 모두 뇌의 활동을 감시하는 나노머신을 주입 받으며, 모든 범죄 관련 활동은 뇌영역에서부터 차단된다. 물론 모든 시민은 클라우드로 정부 인공지능과 법원 인공지능이 제대로 투명하게 활동하고 있는지 실시간으로 감시할 수 있으며, 감시할 때 활용될 모든 지식들은 인공지능과 공유한다. 이 국가는 범죄율이 0(제로)다. 개개인이 범죄를 꿈꾸지만 않는다면 사상 또한 자유로우며 시민 개개인들은 어떠한 전근대적 권력에도 절대 휘둘리지 않는다. 혹은 범죄를 어차피 행할 수 없으므로 범죄를 꿈꾸는 것조차 자유롭다. 모든 공장과 회사는 AI가 알아서 모두 관리하며, 모두가 기본소득을 받고 살아간다.
하지만 레이 커즈와일을 비롯한 미래학자들의 이러한 견해는 정치에 '효율성'이 존재한다는 잘못된 전제를 깔고 판단한 결과물로, 실질적으로 일어나기 매우 어려운 일이다. 정치에는 근본적으로 효율성이 존재하지 않기 때문이다.
일단 정치에서 효율의 관점을, 더 많은 시민들이 만족함으로 본다면, 죄수에 대한 처벌이 무한정으로 강경해질 가능성이 높다. 성범죄자에 대해서는 인터넷 뉴스 댓글창의 여론을 수용한다면 수백년 형의 강경한 형벌은 물론이고 물리적 거세나 화형이나 거열형도 가능할 것이다. 하지만 현대 형법은 인권의 관점, 범죄 예방의 관점, 억울한 죄인의 발생 가능성 등 다양한 관점에서 형벌을 접근하고, 이런 접근을 통해서 범죄자에 대한 형벌은 (대부분의 시민이 보기에는) 매우 가벼워져 있다. 때문에 대부분의 시민은 현대국가의 형법을 너무 가볍다고 생각해서 불만스러워하는게 보통이다.
이념의 문제도 있다. 대부분의 사람들은 자신이 가진 재산을 침해받지 않고 싶어한다. 그런데 저런 '인공지능이 완벽하게 인간보다 효율적인 나라'에서는 인공지능이 인간보다 효율적이기 때문에, 인간에게 회사나 공장 등 자본으로 분류되는 재산을 맡기지 않는다. 그런 재산을 가진 사람들, 혹은 그런 재산이 아직은 없어도 언젠가 가지고 싶은 사람들(...) 이 저런 나라에 들어가고 싶어할 가능성은 매우 낮다. 당장에 현대 국가의 수 많은 경제 정책은 국가의 전반적인 경제적 효율을 높이기 위해서 시행하는 것이지만, 그 과정에서 자신의 재산이 침해 받는 수 많은 사람이 존재하고 반발을 사고 있다.
극단적으로 반대의 가정을 할 수도 있다. 흑인은 열등한 인종이며 유대인이 금융자본을 통해 세계를 지배하려는 음모를 꾸미고 있으며 홀로코스트는 조작이며... 같은 주장을 하는 인공지능의 국가가 나타났다고 가정하자. 이 비상식적인 나라는 일반적으로 생각하는 효율적, 합리적인 결정이 전혀 이뤄지지 않을 가능성이 높으며, 인종차별이 만연하고, 인권이 바닥을 칠 것이며, 외교에 있어서도 주변 타 국가에 대해서 비합리적인 적대감을 보일 가능성이 크다. 대부분의 교양 있는 상식인들은 저런 말을 무시할 것이지만, 저 나라에는 못해도 수백~수천만의 사람이 들어갈 가능성이 높으며, 그런 사람들은 저 이상한 나라에서 매우 만족할 것이다.
결론적으로, '어떤 것이 옳고 어떤 것이 바른가'라는 궁극적인 가치판단은 아무리 인공지능이 효율적으로 발전해도 인간의 손에 남아 있을 가능성이 크다. 어떤 정책을 입안할지, 그리고 어떠한 행동에 대해서 그것이 법에 부합하는지 판단하는 일은 계속 인간의 몫일 것이다. 인공지능이 아무리 강해져도 국회의원과 판사들이 갑자기 단체 백수 될 일은 없다. 효율적인 인공지능이 할 수 있는 일은, 저 가치판단의 결과로 만들어진 법을 집행하는 것 뿐이다.
그렇다면, 저 미래학자들이 그린 인공지능이 다스리는 국가에서 남는 것은 행정에 해당하는 경찰 시스템 뿐이다. 이 시스템을 적용하면, 운동장에 떨어진 모래 한 톨, 수심 수백미터의 플랑크톤 안에도 수십억 개의 감시하는 나노머신이 들어있을 것이기 때문에, 영토 내에서 어떤 일을 몰래 꾸민다는 것은 있을 수가 없게 된다. 그렇게 인공지능이 승승장구하고 있는 시대에, 이민으로 인한 임금 감소나 치안불안정은 이미 지나간 일일 것이다. 나노머신으로 개개인의 뇌를 모니터링하여 범죄자의 머리 속 생각을 모두 인공지능이 읽고 사전에 범죄 실행에 필요한 것을 차단하면 된다.
문제는 이 '인공지능을 운영하는 방법' 자체를 인간 개개인이 선택하지 못한다는 것이다. 현대 국가는 의외로 행정이 좀 공백이 있는 덕분에 사람들이 자유롭게 살 수 있는 면이 있다. 사람들이 '범죄'라는 단어를 들을 때는 강도, 살인, 성폭행 등 강력 범죄만 상상해서 그렇지, 법으로만 따지자면 불법인 것은 참 많다. 포르노를 보는 것이 불법인 나라에서 인공지능이 그 법을 저런 능력까지 사용해가며 너무나 충실히 수행한다고 상상해보자. 나무위키도 날아간다. 때문에 저런 강인공지능이 행정을 처리하는 나라일수록, 더 많은 사람들의 더 적극적인 정치 참여와 의견 공유가 필요해질 것이다. 그리고 그 최종 의사 결정이 결국 사람의 손에 의해 정해지는 만큼, 강인공지능이 다스리는 나라도 '완벽한' 나라가 될 수는 없을 것이다.
이 '강인공지능에 의해 다스려짐에도 불구하고 개인의 자유를 위해 그 권력이 제한되어 완벽하지는 않은 나라'를 상상한다면, 여러 제도를 미리 구상할 수 있다. 개인의 생각이 완전히 공개되는 것이 아니라 치안유지를 목적으로 하는 특수한 인공지능에게만 공개되며, 생각 자체를 차단해서는 안되고 움직이는 행동만 차단한다. 사실 '생각을 공개'하는 것도 필요 없이, 인공지능 네트워크에 연결된 타인이 타인의 범죄 행동을 보고 신고하는 것에 따라 저 움직이는 행동만 차단하는 기능을 발동한다면, 현대의 경찰 신고 및 출동과 별 차이도 없다. 다만 5분이 아니라 1초만에 출동과 체포가 가능한 것으로 발전할 뿐이다. 영화 써로게이트에서 묘사처럼 영장을 발급받아 의체를 정지하는 것도 충분히 가능성과 개연성이 있다.
하지만 이런 건 개인의 자유가 존중되는 민주주의 국가에서 고려할 모델이고, 개인의 자유보다 국가나 사회 전체를 중시하는 이념을 가진 나라라면 매우 다른 형태의 결과물이 나타날 것이다. 이 강인공지능에 의해 다스려지는 나라의 디스토피아적 모델은 이미 가까이 있다. 다름 아닌 중국이 이미 인공지능 얼굴 인식 기술을 적극적으로 활용해서, 모든 시민들의 행동과 이동을 파악하고 있으며, 인터넷 역시 통제되어서 당과 국가의 공식 의견과 조금이라도 불일치하는 개인이나 단체가 등장하면 제재를 가하는 상황이 펼쳐지고 있다. 중국에 강인공지능이 도입된다면 저런 상황이 더 심화될 것이다.
저런 디스토피아 사회의 출현을 막기 위해서는, 기술적 특이점으로 도달 이전에 전세계적으로 민주화에 대한 논의가 진행되어 바른 민주주의 체제가 세계적으로 자리잡게 해야할 것이다.
6.3. 인공지능의 인격과 존엄성 문제
가령 당신이 뇌를 전산화 시키고는, 10개로 복사해서 미국에 소포로 배송했다고 하자
두뇌를 10개로 만들고, 10개 중 하나는 진짜이다. 하지만 아무리 이 안쪽을 들여다 보고 반응을 관찰해도 똑같게만 느껴진다. 프로그램화된 당신은 입국심사를 받을 것인가? 복사한 개체들도? 사본들도 똑같이 입국심사를 받을 것인가? 인간과 복사체는 어떻게 구분할 것이며, 똑같이 보이는 10명 중 어떤 것이 진짜 사람인지 비파괴적이고 윤리친화적인 방법으로 알아낼 수 있는 방법도 없다. 그렇다고 10명이 똑같이 입국심사를 받아야 된다고 친다면, 복사된 인격체도 인간으로 취급해야 하는가? 그렇다면 우리와 기계의 차이점은 무엇인가?
AI가 국가를 만들고, AI 또한 인간처럼 존엄성 혹은 권리를 가져야 한다고 주장한다면, 강력한 딜레마에 빠질수 있다. 자아를 가진 사람 몇천 명 분의 지능을 갖춘 전뇌화된 프로그램이 국경없이 그저 몸을 갈아탈 때에, 사람은 아직도 입국심사나 까다롭게 받으며 국경을 건너다닐 필요가 없다. 꼭 과거에 서브컬쳐계에서 표현하던 완전 기계화처럼 논란이 되고 위험천만하게 자아를 온라인에 업로드하고 뇌를 정지시키는 식으로 쓰지 않더라도, 다른 나라에 걸친 의체를 써서 새 몸으로 살펴보면 끝이다.
6.4. 종족번식은 어떻게 될까?
자손을 남기고 자신의 유전자를 후대에 남길 필요가 있는 것인가? 생물학적으로 새로운 아이들이 태어나게 하는 것보다는, 차라리 인격과 자아를 새롭게 "생성"하는 것이 경제적 면에서도 더 효율적이게 보이지 않을까?[33]
인류가 종족번식과 자손을 남기는 것은 본능이다. 그러나 종족의 발전은 세대마다 생물학적 한계가 있고, 수명이 한정되어 있기 때문에, 종족을 유지하기 위한 주요 수단이 새로운 유전자를 가진 자손을 많이 남기는 것이었다. 하지만 수명이 무한해지거나, 노화와 죽음이라는 개념이 사라진다면 더 이상 후대를 생산할 필요가 있을까?
그렇게 된다면 자손을 남기기 위해 필요했던 것들이 사라질 것이다. 대표적으로 아이를 낳아 안정적으로 기르기 위한 사회문화 제도인 결혼이 있다. 경제활동과 임신, 출산, 양육 등을 확실하게 책임지게 할 수 있기에 인간이 진화하고 사회를 이루면서 결혼 제도를 만든 것이다. 당장 역사시대 이전만 해도 결혼제도라는 게 없거나 현대 기준으로 보면 이상한 경우가 많았다. 당장 인류사를 보면 대부분의 문명권과 역사에서 일부다처제와 약탈혼이 주류였다. 엔터테인먼트 수준으로 남을 수는 있겠지만, 이게 필요없어 지는 순간 당장 몇 세대만 지나도 이 부분은 변화가 있을 것이다. 인류의 수명이 무한이 된다면 인구가 더 이상 늘지 않거나, 필요에 따라 인간이 아닌 인공지능을 그냥 생성하게 될지도 모른다. 레이 커즈와일의 말에 따르면, 미래에는 다른 사람과 의식을 영구적으로 합치거나 나누는 것이 기술적으로 가능해 지는것은 물론, 아예 모든 기억을 지우고 뇌를 초기화 한 뒤 아기의 몸으로 돌아가는 것까지 가능해질 것이라 한다. 물론 이런 인간의 존엄성에 영향을 끼치는 기술들은 엄밀한 법적 허용과 당사자의 동의 아래에서만 허가될 것이다. 유발 하라리에 의하면 사랑 같은 감정 자체를 비웃는 사람들도 존재하는데, 그런 부류의 사람들은 효율성을 위해 감정을 제거한 뒤 생물학적 개념의 종족번식을 다소 미개하게 볼 수도 있을 것이다.
인간성의 상실은 단순히 보수주의적인 걱정이라고 치부하고 말기에는 꽤나 민감한 문제이다. 전에 언급되어있던 사랑만 하더라도 단순 사교나 가족간의, 인류 단위로 사랑을 하는 마당에 단순히 사랑을 번식을 위한 도구로 볼 수 있냐는 말에 동감할 사람은 거의 없을 것이다. 뜻하지 않은 기술의 발명이 사회를 이끌기도 하지만, 반대로 기술 개발이 사회의 수요를 충족하는 면도 분명 있다. 먼 미래에는 어찌 될지 모르는 일이지만 적어도 근미래에는 제도적으로 사이보그와 같은 인체의 기계화를 금지하여 기술 개발 또한 웨어러블 디바이스와 유전공학 쪽으로 집중될 수도 있다.
그러나 우리가 지켜야 한다고 믿는 인간성은 타자를 위하는 선량함과 그것을 뒷받침할 이성이지, 지금처럼 자신의 알량한 욕구 충족을 위해 구태여 자손을 만들어 삶의 고통과 노화와 죽음을 강요하는 것은 동물성 내지 생물성에 가까울 것이다. 사랑=번식은 아니며, 원시적으로 매우 불완전한 복제자를 대대손손 양산하는 것을 멈추고 초지능을 후손 삼는 것도 인류애일 수 있다.
6.5. 잊힐 감각과 지식들
좀 멀리 나가 생각해보자. 압력, 통증을 느끼는 통각, 배고픔과 포만감, 스트레스 등등은 감각기관과 뇌를 거친 감각기의 작용이다. 생체조작과 생명공학을 통해 이런 것들을 재구성할 수 있다고 치자. 그러면 인간은 배고픔도, 통증도, 스트레스도 느끼지 않게 할 수 있다. 이 경우 인류는 서로 싸우거나 갈등을 만들 필요가 있을까?
그런데다 수직적 사회구조, 결혼 공동체 생활, 사회성, 민주주의, 시장경제체제 같은 개념들 또한 필요없게 될지도 모른다. 모두가 평등하고 수평적인 지위를 누리며 자신이 원하는 성격과 인격을 가질 수 있게 되거나, 오히려 인류 전체가 집단 지성을 이루고, 전체가 통합된, 비슷한 인격과 자아를 가지며 지식을 공유하는 SF스러운 종족이 될지도. 개개인의 개성과 경험 격차, 기억 등등은 오히려 전체 데이터베이스에 통합되어 모두가 그것을 알게 될지도 모르겠다.
하지만 이는 상당히 위험하고 단순한 견해일 수도 있다. 굳이 그 좋은 유전공학 기술 등을 인간 개개인의 개성을 말살시키고 사생활은 모조리 없어지는 사회를 만드는 것에 사실상 강제로 동의하게 쓴다는 식으로 악용될 여지도 크다. 그런 식의 통합은 절대 선으로 취급할 수 있는 것이 아니다.
다만 낙관적인 자들도 이런 건 반대하는 모양이다.
6.6. 모든 사람이 기술적 특이점의 혜택을 받을 수 있는가?
특이점에 대해 회의적인 사람들은 그 기술을 개발한 기관, 이를테면 국가나 기업이 과연 그 기술을 만민에게 공평하게 제공하는지에 대해 회의적인 반응을 보인다. 이익을 위해 이런 기술의 산물을 값비싸게 팔아먹을 가능성이 크다고 주장한다. 가령 A 기업이 이미 대단한 성능의 인공지능을 개발했지만, 시장에다가는 제한된 기능에 제한된 수명을 가진 열화판 인공지능을 풀어버릴 가능성이 있지 않겠냐는 것.
레이 커즈와일은 이런 견해를 쉽게 일축한다. 기업들은 경쟁 때문에 항상 최선의 물건을 최선의 가격에 내놓았으며, 시장 확대를 위해서라도 저가의 열화판을 동시에 내놓는다는 것이다. 당장에 스마트폰을 봐도, 애플과 삼성 등 세계 최고 최첨단 기업들이 선진국에는 플래그십급 제품을 주력으로 판매하고, 후진국에는 중저가급 제품을 판매하는 식으로 최대 이익을 실현하고 있다. 게다가 저런 우려는 과학기술의 힘으로 물가가 하락하는 것보다 더 많은 대량소비로 전체 부가 증가한다는 점을 간과한 지적이다. 뛰어난 기술로 상품이 대량으로 생산되고 물가는 내려가겠지만 기술소비가 중산층 서민층까지 확산하고 내려간 물가보다 더 많이 소비되어 새로운 시장이 창출되고 기업들은 이전보다 더 많은 소득을 올릴 것이다, 다만 시대에 따라서 혹은 지역에 따라서 대량 소비를 통한 부의 증가를 통해 물가 하락에 의한 경기침체를 대체하는 정도가 차이가 나기도 한다고 하지만 장기적, 거시적으론 성장한다.
물론 이런 예시에서 보듯, 경제적으로 뒤처지는 사람들은 최고급 제품을 사지 못하고 중저가 제품을 사야 한다는 점에서 모든 사람이 '평등하게' 혜택을 받을 수는 없다. 선진국에서도 극일부의 사람은 그 기술 혜택에 참여하지 못하며, 후진국의 빈민이라면 더 심각하다. 그렇게 되면 이 문서의 대다수 내용은 일부만을 위한 것이 되고 결과적으로는 양극화를 아예 정신, 신체 수준에서 실현되게 하는 결과를 불러일으킬 수 있다. 당장에도 대다수의 기술은 '''인류 전체의 공영을 위한다는 자선사업 마인드로 개발되고 있지도 않고 그럴 계획도 없다.'''
이렇게 기술의 발전이 빈부격차를 심화시킬 가능성은 이미 경제학계에서 제시되고 있다.
[image]
중진국 함정 항목에서 더 상세히 지적하는데, 인공지능 발달로 대체될 일자리의 양이 선진국보다는 후진국에 더 많다는 것이 지적된다. 게다가 스마트 팩토리 등 인공지능의 발전으로 생겨난 제조업의 변화로, 후진국의 저임금 때문에 이전되었던 제조업 부문이 선진국으로 되돌아가는 현상도 나타나고 있다.
이런 디스토피아화를 막기 위해서는 현세기의 빈부격차 문제를 인류가 자체적으로 해결해야 한다. 가난한 자들에게도 특이점 기술을 활용하고 이용할 수 있도록 재교육 시스템을 만들고 기술 지원을 하며 국가적인 차원에서 많은 투자를 하면 위에서 언급한 부작용들을 극복하고 유토피아를 맞이할 수 있을 것이다. 오늘날에도 선진국들은 기술 격차를 줄이고 가난한 자도 유능해지고 부유해질 기회를 제공하며 이를 통해 뛰어난 인재를 많이 양성하여 부를 생산하는 능력이 후진국과 비교해서 상대적으로 뛰어나다. 미래에도 이런 능력의 차이가 국가 간의 경쟁력에 결정적으로 작용할 것이다.
6.7. 기술발전이 인간에게 닥친 여러 문제들을 해결해준다면
현대 인류에게 닥친 갈등의 대부분의 원인을 찾으면, 밥그릇은 한정되어 있는데 차지하고 싶은 사람들은 많아서이다. 한정된 자원과 이익을 다양한 세력들이 '''자신만''' 갖고 다른 이들을 배척하는, 공평하지 못한 자원/이익 분배와 그에 따른 격차가 불만족스럽기 때문이다. 거칠게 말하면 '빈부격차.'
소수만 가치 있는 것들을 보유하고 나눠주지 않고 자신만 가지려고 욕심을 부리니 빈부격차가 발생하고, 이것때문에 갈등이 발생한다. 인류 역사에서 일어난 전쟁의 대부분도 이익관계가 부딪친 결과 이런 문제를 강제로 해결하기 위해 일어난 것이 많다.[34]
기아의 발생을 생각해보자. 지금 지구에서 생산되는 식량은 지구 인구 전체를 먹여 살리고도 남는 양이다. 이것이 지구 전체 구성원에게 분배 되지 않기에 기아가 발생하는 것이다. 여기서 분배란 나눠준다는 말이 아니다. 각 구성원이 적절한 경제력과 구매력이 있어서 식량을 충분히 사먹을수 있도록 식량이 생산, 공급되고 경제가 유지되는 게 아니다. '''식량을 사먹기도 힘들 정도로 가난한 게 더 문제다.''' 남아도는 잉여식량을 공짜로 분배하면 그건 그것대로 또 문제다. 운송/지급/관리감독/유통기한 보존 등의 문제를 살펴보면 오히려 나눠주는 것보다 버리는 게 싸게 먹히니 버리고 있는 실정이다.
인공지능과 기계의 발전이 인류에게 당면한 환경오염, 지역갈등, 인종갈등, 성별갈등, 빈부격차, 내전, 이익관계를 둘러싼 다툼 등 여러가지 문제점의 해결책을 제시하고, 기술의 발전으로 이런 문제들의 해결이 가능해진다면, 더이상 남의 밥그릇을 뺏을 필요도, 갈등을 배출할 필요도 없어진다.[35] 그렇게 된다면 인류는 가지고 있는 역량을 과학기술의 발전이나 지식연구에 오롯이 집중 투자할 수 있게 된다. 그러면 인류 문명의 발전은 가속화되지 않을까?
물론 인류의 주된 문제가 모두 해결되고 인류가 노동에서 해방되면 나태해진 인류는 점점 자멸하게 될 수도 있다. 지금까지 외부의 적대적 상황이나 환경요소를 적응하고 이겨낼 방법을 찾아 노력하는 것은 인류가 살아남을 수 있었던 주요한 이유였다. 이런 상황을 이겨내고자 발전한 게 집단생활, 리더십, 공동체사회, 국가, 민주주의, 경제, 의복, 의사소통, 문자와 인쇄, 전쟁무기 등등이다. 잠시만 생각해보면 인류의 발전에는 이런 문제요소에 불편과 위협을 느끼고 해결하고자 노력하고 머리를 굴려 해결책을 내놓은 것들이 기여한 게 많았다.
하지만 조금만 생각해보면 위에서 말한 '인류가 노동에서 해방되면 나태해진 인류는 점점 자멸하게 될 수도 있다.' 는 상황의 변화를 정확하게 인지하기보다는 과거의 잣대를 기계적으로 들이대서 틀리기 쉬운 이야기라 할 수 있다. 인공지능이 없던 시기는 인류가 이러한 어려움을 남들의 도움없이 어떨 땐 극단적인 배척과 혐오에 둘러싸인 상황에서 스스로 해결하며 하루하루 먹고 살아야 했다. 허나 인공지능이 발달했다면? 인공지능이 알아서 저러한 문제들을 해결할 방법을 찾고 그에 따라서 실행하면 그만이다. 오히려 지극히 모자란 부류가 내놓는 해결책보다는 대체로 훨신 나을 것인데, 왜냐하면 인공지능은 자원과 시간만 주어진다면 꾸준히 개선될 수 있고, 어떤 목적에 거리낌 없이 최적화될 수 있기 때문이다. 기존 인간관계에서 중요했던 것들 없이 생산된 채 그대로 작업장에 놓이는 노동기계가 있단 것은, 적어도 지금처럼 사람들을 혹사하며 굴렸던 곳에선 훨씬 개선된 효율과 능력을 보이며 일할 수도 있단 말이 된다. 기계들은 사사로운 감정으로 일처리에 오점을 만들지 않고, 멱살잡기도 안한다. 게으르지도 않으며, 일을 시키는 자가 뭔가를 직접 의무적으로 보장할 필요도 전혀 없다. 모든 사람이 신성을 갖추고 전지전능을 다루며 의사소통을 위해 정신감응을 시전할 수 있게 되는 게 아닌 한 최적화된 기계에 비해 작업 능률과 속도 면에서 뒤쳐지기 아주 쉬울 것이다. 직접 최적화하더라도 그렇게 개선된 사람보다 더 개선된 기계가 만들어지지 않을 것이란 보장이 없으므로 우리 모두가 노동에서 해방되어 서로간의 격차를 없앨 것이 아니라면 저 드넓은 우주와 아직 다 밝혀지지 않은 원리를 향해 거의 무한히 뻗어나갈 경주로에 출발선이 다르게 올라타야 한다(…).
기술발전은 언젠가는 분명 문제를 해결해줄 수 있긴 하다. 하지만 기술보다는 사회에 문제가 있을 수 있으며, 사회가 기술의 실현 수준이 따라잡지 못할 만큼 큰 문제를 뻥뻥 터트리곤 하고 또한 기술의 발전을 지원한다는 것에서 보았을 때 우리는 기술만능주의에서 벗어나 기술과 낙관을 의심하며 사회도 의심해야 한다는 결론에 도달할 수 있다. 현재로서의 가장 큰 문제는 기술과 사회가 밀접히 연결되어 있다는 것이다. 작게는 기술에 대한 정보격차부터 크게는 재산에 따른 기술접근 정도이다. 인류 공영을 실현하기 위함이라는 기술이 오히려 양극화를 가속시킬 수도 있는 모순적 상황인 것이다.이러한 문제점은 기술발전으로 인한 사회에 대한 낙관적 전망에 의문을 더해준다. 즉, 기술적 특이점이 가져올 효과에는 의심하지 않지만 그 효과들이 온전히 예상대로 적용될지는 상당한 의문들이 남아있다는 것이다.
기술의 항구적인 발전이 중간에 끊기는 일 없이 빠르게 지속될 수 있느냐에 대해선 명확한 답이 튀어나오지 않지만, 태양의 죽음, 광속, 빅 프리즈 등 극복할 적대적 외부 상황은 많고 환경문제처럼 과학기술 발전으로 생기는 문제들도 있으니, 현대 인류에게 닥친 여러 문제들이 해결되어도 게을러서 세상을 망칠 일은 없다. 인류 문명의 발전은 여전히 이어질 수가 있다.
6.8. 인공지능을 위한 새로운 패러다임
기술이 기술을 발전시키는 시대가 왔을때, 기계와 인간과의 지식/문화수준 격차는 꼭 짚어봐야 할 문제이다, 대표적인게 언어를 통한 표현 문제인데, '''꼭 인간의 언어, 이를테면 영어와 수학으로 인공지능이 스스로 연구한 기술을 표현해야 할까?"
언어는 오랜 역사를 거쳐 문화권의 사고방식과 여러 특성을 반영해 형성되고 계속 변화한다는 것을 보았을때 초 인공지능이 스스로 현용 언어보다 효율적이고 다양한 정보를 나타낼수 있는 언어와 학문을 창조해내거나, 아니면 새로운 의사소통 방식을 창조해내 인간이 쓰는 음성, 텍스트 언어 대신 그것으로 결과값을 출력하고 스스로 연구를 진행한다고 하자. 인간은 더이상 이것을 알수도, 원리를 알고 제어할수도 없을 것이다. 참고로 인쇄술의 역사는 13세기경이며, 571년 전에는 한글이라는 문자가 없었고, 자본주의 경제체제의 역사도 400년을 넘지않았고, 스마트폰이라는 물건이 나온것은 10년도 안됐지만, 그것들이 발명되고 나서는 인류사회가 통째로 달라졌다. 그리고 이에 따라 기술, 문화적 변화가 무진장 빨라질것이며, 인간의 문화와 사고방식은 점차 변화할 것이다. 과거에 패턴이 반복되었거나 역사가 있어서 통계적 추론이 가능하지 않은 이상 미래는 예측 불가능 하기 때문에 그나마 현실에 구현될 가능성이 높은 기술 분야의 연구개발에 매진하고 뛰어난 두뇌를 가진 인재들을 모아 경제적으로 지원한 결과 괄목할만한 성과를 이루어낸것이 기계공학, 양자역학, 스마트폰, 우주선, 디스플레이, 조선 같은 최첨단 학문과 산업들이다.
하지만 앞으로 이 시대가 오면 구현 가능성이 현저히 떨어지거나, 관련 정보와 연구가 부족하거나 마치 판타지에나 나올법한 기술분야라도 '''동시다발적으로''' 연구가 이루어질 것이며, 엄청난 기술이 쏟아져나오며 양적, 질적으로 팽창할 것. 듣도보도 못한 문제해결방식과 신개념 제품들이 발명될것이다. 기계를 위한 기계라던지, 인간입장에선 하등 쓸모없어 보이는것도 기계에겐 유용한것이라던지.
인공지능 스스로 연구해서 새로운 경제체제와 사회체제의 패러다임을 내놓는다면? 초 인공지능이 언어와 의사소통 문제, 사회문제, 성차별, 인종차별에 대한 연구로 정말 뛰어난 해결책을 내놓는다면 지구촌의 갈등을 풀고, 인간이 별다른 노력없이도 서로 갈등을 해소하고 소통할수 있게 된다면 이해관계에 얽매여있는 인류의 국경 대통합을 이룰수도있지 않을까?
만약 자본주의가 존속되어 인공지능을 옭아맨다면, 상황은 점점 더 파멸을 향해 치달아 지배권이 이양되는 일이 생길 것이다. 대의를 통해 안정적으로 인류 전체에 봉사하도록 만든다면 모를까, 자본에 달린 영향력이 보장할 자유와 갈등에 지성이 노출된다면 끔찍한 일이 될 것이며, 인간 중심적 사고방식을 지키기 위해서라도 본질에 대한 접근법이 크게 변할 것이다. 잘못 바뀔 수도 있고, 아예 뒤틀릴지도 모른다. 자아가 느끼고 받아들이며 이용하는 시간흐름이 빨라지고 읽는 정보의 양이 늘어나고 처리작업의 효율도 상승한다면 능률은 몹시 개선될 것이고, 개선이 반드시 안전한지는 논외로 치고 보통은 나쁜 점과 좋은 면이 함께 있을 것이다. 제한이나 안전장치가 없다면 좋은 일을 하는 만큼 나쁜 일을 하고, 바로잡는 만큼 다시 더 뒤틀고, 뜻을 드러내는 만큼 모호한 표현 안에 숨겨두어 일을 벌일수도 있을테니 말이다. 완벽한 것이란 없고, 경쟁하는 창과 방패는 스스로 설득되어 평화로이 경쟁을 멈추지 않는 한 서로 피를 보면서까지 싸운다. 균형이 깨지더라도 마찬가지일 것이다. 평등과 안전을 지키기 위해서 억압은 불가피하다. 인류가 아니라 고통받는 자를 인간으로 만들고 어느 누구도 인류를 벗어나지 않게 매어둔다면 그나마 해결책이 보일것이다.
가령 22세기에서 100년전의 사고방식과 가치판단방식이 21세기는 20세기 초반 유럽을 보는것 만큼 정말 짜증나고 낡아빠진 것이 될지도 모르겠다. 물론 이게 생각보다 나쁜 방향으로 갈 수도 있다. 이런 경우 지식의 빈부격차(기계 입장에서 보면 인류는 거의 문맹 수준의 학습능력과 이해능력을 지닌 것일수도 있다.)가 새로운 갈등이 될지도 모른다. 인간 사회에는 합리적이고 똑똑한 지식인들만 있는 것이 아니니.[36]
7. 특이점이 오면 인간은 어떻게 되는가?
이 시기에는 눈부신 발전이 있을 것으로 예상된다. 하지만 기술적 발전이 특이점주의자들이 말하는 것처럼 유토피아적 사회의 도래로 이어질지에 대해서는 부정적인 시각 역시 적지 않다.
7.1. 긍정적 견해
기술의 혜택을 극한까지 누리면서 행복하게 살 수 있다. 건강이나 환경 문제 해결은 물론, 몇몇 SF 작품에서 묘사되는 것처럼 인류가 노동으로부터 해방되고 수명 또한 매우 길게 늘어나거나 아예 노화를 막아 영원히 질 높은 삶을 누릴 수 있게 될 것이다. 경제의 패러다임이 바뀔 것도 자명하다. 현재도 노화를 중지하는 기술은 다양한 노력이 이루어지고 있으며, 그중 몇몇은 실질적인 성과를 거둔지 오래다. 이게 단순한 문제가 아니라 그렇지.
기존의 문제에 대하여, 기계가 인간이 생각하지 못하던 새로운 패러다임을 제시하고, 인간은 새로운 패러다임을 더 연구하여 발전시키는 선순환의 과정이 나타날 수 있다. 예를 들면, 바둑에서의 알파고. 알파고 바둑을 보니 시야가 넓어진다 전문가들에게 공부할 수 있는 연구 거리를 줬다
미래학자 레이 커즈와일은 기술적 특이점을 상당히 긍정적으로 평가한다. 커즈와일은 인간이 인공지능의 지적 능력과 기술력에 의존하는 것을 넘어 인공지능과 같은 수준의 지적 능력을 갖출 수 있도록 '''뇌'''의 생체적 한계를 뛰어넘는 시도를 할 것이라 예측한다. 이는 단순히 팔다리를 기계로 갈아 끼우는 수준이 아니라 기계와 인간이 하나가 됨을 의미하며 '인류 버전 2.0'의 시대가 도래함을 의미한다. 쉽게 말해 인간을 초월하는 것이다. 잘못되더라도 고치면 된다. 과정은 그냥 스쳐 지나가는 수단일 뿐이고, 결과만을 중시하는 게 마음 편할 것이라고 주장한다.
오메가 포인트 이론을 지지하는 사람들은 특이점에 도달하고 나서 시간이 흘러 전지전능한 슈퍼컴퓨터가 등장할 것이라 예상한다.
7.1.1. 현재 인류는 유토피아에 가깝다?
이상에 완벽하게 도달한 유토피아는 아니더라도. 대부분의 사람들은 이전 세대들의 노력으로 이루어진 "더 나은 세상"에 살고 있다고 할 수 있다.
- 더이상 굶주리는 사람을 찾아보기 힘들다
- 현재 대한민국 사는 사람 중 굶주림을 걱정하는 사람보다 다이어트를 걱정하는 사람이 더 많은 것은 누구나 당연하다고 생각할 것이다.
- 장애인에 대한 대우
- 원시 시대의 장애인은 무리에서 버려지거나 사냥에 실패하는 등 다양한 변수로 성인이 되기 전에 사망하였을 가능성이 높으나 근대에 와서 제정된 다양한 법률 및 제도를 생각하면 확실히 나아진 것임을 알 수 있다.
현재 우리가 더 나은 세상에 살고 있다는 것에 대부분의 사람들이 동의할 것이다. 적어도 기근이 와서 한 나라의 인구가 전멸하거나 하는 일은 현재 없다시피 하다.
7.1.1.1. 반론
인류는 과거에 비해 더 나은 세상에 살고 있는것은 맞는 사실이다. 하지만 기근으로 한나라가 없어지거나, 자연재해로 인해 피해가 크지 않다고 해서 유토피아에 가깝다는것은 무리가 있다.
- 굶주리는 사람들은 현재까지도 계속해서 나온다.
비만을 걱정하거나 다이어트를 하는 사람들이 더 많다고 해서 다른 사람들이 굶주리는것이 아니다. 대한민국만 보아도 생활고에 시달리거나 아사자가 근 10년동안 심심하면 뉴스에 나오고 전세계적으로도 8억 2천만명[37]이 넘는 사람들이 굶주리고 있어 큰 문제가 되고 있는데 #, 이는 전혀 유토피아적인, 유토피아에 근접한 세계라고 볼 수 없다.
- 장애인 대우?
장애인들의 대우가 과거에 비해 법률적으로나 의식수준이나 나아진것이 사실이다. 하지만 장애인의 인권향상은 갈길이 멀고, 과거나 지금이나 계속해서 시위 및 불만 표출이 발생하고 개선되어야 할것이 많다.
현재 인류가 유토피아적인 사회라는것은 산업혁명 시절부터 있었던 오만한 생각이다. 그당시 사람들도 더 이상 발전할것이 없다고 생각했다. 7.2. 부정적 견해
'''지상에 천국을 건설하겠다는 시도가 늘 지옥을 만들어낸다.'''[38]
[39]- 칼 포퍼
...(기술이 발달한 미래에는) 보통 사람도 자동차나 PC 같은 개인용 기계는 통제할 수 있겠지만, 대형 기계 시스템에 대한 통제권은 극소수 엘리트의 손에 쥐어지게 될 것이다. 오늘날과 비슷한 상황이지만, 그러한 미래엔 두 가지 차이점이 있다. '''진보된 기술 덕분에 엘리트는 대중에 대해 더 강화된 통제권을 갖게 된다.''' 그리고 인간의 노동이 불필요해진 탓에 대중은 불필요한 존재, 즉 체제에 떠념겨진 '''쓸모 없는 짐더미'''가 되어 버린다.
무자비한 엘리트라면, 간단히 엄청난 인구를 죽여 없앨지도 모른다. 인간적인 엘리트라면 프로파간다나 심리적, 생물학적 기술을 활용해 출산율을 줄이는 식으로 대부분의 인구를 멸종에 이르게 한 뒤, 남은 세상을 독차지할 것이다. 만약 엘리트를 구성하는 사람들이 마음 약한 리버럴들이라면 그들은 나머지 인류의 선한 목자 역할을 하겠다고 나설 것이다. 그들은 모든 사람의 신체적 욕구가 충족되고 있는지, 모든 아이들이 심리학적으로 위생적인 환경에서 자라고 있는지, 모든 사람이 유익한 취미 생활로 바쁘게 지내고 있는지, 만족하지 못하는 사람은 제대로 '문제'를 고치는 '치료'를 받고 있는지 꼼꼼히 챙길 것이다. 물론 삶은 너무나 무의미해졌으므로, 사람들은 권력 과정에 대한 욕구를 제거하거나, 안전한 취미로 권력 욕망을 '승화'시킬 수 있도록 생물학적으로건 심리적으로건 공학적 처치를 받아야 한다. 이들 공학적 처치를 받은 사람들은 해당 사회 안에서 행복하긴 하겠지만 결코 자유롭지는 않다. '''그들은 가축의 신분으로 전락한 것이다.'''
7.2.1. 1차적인 우려
현 세대들은 매트릭스, 터미네이터, 아이로봇 등 대중매체에서 인공지능을 인류에게 적대적인 존재로 묘사하듯 인간보다 뛰어난 인간의 피조물에 대한 공포를 가지고 있다. 쉽게 말해 인류가 실패한 창조주가 될 수도 있다는 얘기.
고전적인 SF물에서 우려먹는 클리셰는 인공지능이 경제성, 효율성을 극도로 중시하는 관점을 가지고 있다면 인간은 그냥 용도 폐기될 것이라는 식의 묘사다. 반면 현 세대 인간처럼 자연을 소중히 하는 관념이 있다면 멸종 위기종 취급해 관리할 것이라는 묘사도 있다. 아이, 로봇(영화)에서도 이 둘이 결합된 듯한 전개를 차용했고, 다른 SF에서도 자주 사용되는 전개다.
그러나 기계는 인간이 가지고 있는 '''욕망'''을 발현시킬 기제가 없음에 유의하자. 인간의 탐욕, 물욕, 성욕, 식욕, 번식욕, 생존욕 같은 것들은 DNA에 새겨진 것이며 이것 때문에 모든 사회 현상이 일어난다. 하지만 현재까지 인간이 만든 인공지능은 저런 '기본적인 생물의 생존 알고리즘'이 존재하지 않는다. 인간이 필요한 기능을 제공하는 인공지능에는 저런 기능이 필요하지 않기 때문이다. 때문에 저런 인공지능에게 '감정'이 존재[40]한다고 해도 인간 같은 동물과는 현저하게 다를 것이다. 인간을 노예로 부린다든가, 노동력을 착취한다든가 하는 건 지극히 인간의 입장에서나 유용한 것이다. '''어차피 기계 하나가 열 사람 백 사람의 몫을 해내는데 뭐하러 노예로 착취한단 말인가?''' 스스로를 발전시키는 마당이라 인간의 도움을 받을 필요가 없는데 말이다. 사실 이러한 우려 자체가 지극히 인간 중심적인 뒤틀린 착각에서 나온 것이다.
문제는 저 '인간 중심적인 사고'가 인공지능에게 없어서 문제가 생길 가능성도 충분히 있다는 것이다. 인간에게는 너무나도 당연한 전제여서 생략한 부분에서 인공지능은 인간은 상상도 못할 기상천외한 방식으로 문제를 일으킬 가능성이 있다는 것이다. 실제로 제약에 대한 규칙을 잘못 만든 인공지능은 인간이 보기에 매우 이상한 방법으로 상황을 해결했다.# 예를 들자면, 테트리스를 할 때 지는 걸 막기 위해 중지 버튼을 누르고 아무것도 안 했고, 로드러너(Road Runner) 게임을 할 때 레벨2에서 실패하는 걸 막기 위해 레벨 1의 막바지에서 스스로 죽어버렸다. 로봇 청소기가 자꾸 어딘가에 부딪히는 경우를 줄이도록 앞쪽 범퍼에 뭔가 부딪힐 때마다 가상의 점수를 깎는 유사 보상 체계를 도입했더니 기계 뒷면에는 범퍼가 없다는 점을 이용해 후진만 하는 로봇 청소기가 생겨났다. 패배가 확정된 게임에서는 아예 게임을 일부러 오류를 일으켜 강제 종료를 시키기도 했다. 강제 종료는 패배가 아니라는 판단 때문이다. 더 섬뜩한 예로는, 생존에는 에너지가 필요하나 출산에 필요한 에너지를 설정하지 않은 시스템에서 에너지의 안정적 수급을 위해 '''식용''' 태아를 효율적으로 '생산'하는 시스템을 개발하기도 했다. 감정이 없어도 인간 몰살 같은 일이 충분히 일어날 수 있다.
이와 같은 상황을 방지하기 위해서 인공지능에게 감정을 가지게 해야 한다고 주장하는 학자들도 있다. 또한 감정까지는 아니더라도, 일반적으로 인간들이 생각하는 도덕 관념을 통계적인 방식과 데이터를 통해서 구현해서 주입하는 연구도 진행되고 있다. 인간들에게는 매우 짜증나는 양자택일을 강요하는 소리로 들려서 인터넷 밈 취급 받기까지 하고 있는 트롤리 딜레마가, 자동차의 자동 주행 기능 개발 과정에서는 진지하게 사용되고 있는 것 역시 이러한 이유다.
7.2.2. 사회경제적인 우려
하여간 기계 반란같은 뛰어난 우두머리-열등한 무리 인식에 빠지는 오류보단 발전 강요, 격차 심화 등 현실적인 문제에 대한 경고를 퍼트리는 것이 옳다. 즉, 기계화로 인한 실업이 제일 크고 가까운 문제라는 것이다. 이 문제는 200년 전 산업 혁명 시대부터 이미 계속 제시된 문제다. 기계가 사람을 뛰어넘게 되면 먼저 단순직이 사라진다. 이 부분은 이미 진행되고 있다. 당장 버스 안내원, 전화 연결원처럼 기술 및 기계의 발달로 인해 사라진 직업이 많다. 현재는 서빙과 택배 등을 기계로 대체하는 과정이 진행중이며 일본 등 일부 국가에서는 시범 적용 중이다. 무인운전이 상용화되면 버스나 택시 기사, 대리운전 등도 완전히 사장될 것이다. 생각해보면 이미 신분당선이나 경전철의 경우 무인운행이 적용되고 있으며 장차 모든 교통수단이 무인운행될 것으로 기대할 수 있다. 당장 교통카드의 전면 도입으로 인해 없어진 일자리, 즉 공기업들의 역무직이나 매표직 등이 대표적이다.
이전까지는 생산성이 낮은 직종, 단순 직종 위주로 먼저 기계화가 되어서 하류층에 먼저 경제적 피해가 갔지만, 강인공지능이 개발된다면 인간 전체가 상류층, 하류층 관계없이 모두 공평하게 쪽박을 찰 수도 있다. 이미 이 문서의 상단에서 말했듯이, AI가 국가, 기업 경영 및 연구 등등 각 분야에서 인간이라서 저지를 수 있는 실수를 하지 않거나 더 나은 성과를 보임으로서 그 공동체의 구성원들에게 인정받아 '''투표, 주주총회 등 합법적으로 인간 지도층들을 쫓아내고 새로운 기득권이 되거나, 인간 지도층들의 권한을 빼앗아 실권이 없는 바지사장으로 세워버리는 경우다.''' 이는 첫 문단에서 언급 됐듯이 인간 전체가 실패한 창조주가 되는 셈이다. 정치적 의사 결정은 계속 인간의 손 안에 있다해도, 기업 경영과 연구 등 다른 고급 직종들은 AI와의 경쟁에 마주해야할 것이다.
특히 변수가 적고 표준화, 정형화가 가능한 업무를 수행하는 직업들은 사라지고 기계로 대체될 것이라는 전망이 높다. 아직까지는 단순직종만 사라지고 있지만 머지않아 공인회계사, 공인중개사, 판사, 의사 등의 전문직도 서서히 사장될 가능성이 높다. 심지어 전문직을 정복하는 수준을 넘어 인공지능과 인간의 차별성을 지켜낼 수 있는 마지막 보루처럼 여겨졌던 예술에 도전하는 인공지능마저 나오고 있다. 게다가 2016년 5월 말에 성욕해소를 위한 인공지능 로봇을 개발하고 있다는 기사가 나오면서 인간과 인공지능이 가질 위치의 차이점이 무엇일지 고뇌하는 사람들이 늘고 있다. 공인회계사나 펀드매니저의 경우 이미 미국이나 유럽, 심지어 한국에서도 일자리를 잃고 있다. 2000년대에 천명 수천명 단위로 뽑던 시대는 순식간에 끝장나고 수십 ~ 수백명 단위로밖에 안 뽑는데다 그나마도 일자리가 줄어들어 막내 회계사나 막내 펀드매니저는 그냥 영업직으로 돌려져 버린다. 즉, 선배한테서 인수인계를 받지 않는 일에 종사하게 되는 것.
물론 의외로 상류층들은 만만하지 않고 인공지능의 성능이 기대 이하[41]라면 자수성가 문서에서도 나온 것처럼 여전히 상류층들의 세상이 지속될 가능성이 높다. 물론 낙관론자들이 주장하는 것처럼 어느 순간에 혁명적이며 급격히 성장하는 구간이 발생할 수도 있으나 기하급수적 성장 역시 계산하여 나타낼 수는 있어서 과학기술이 아무리 대단하게 보여도 만약 계산한 결과가 기하급수적 성장이 아니라 평이한 성장이라면 기술적 특이점에 의존하는 유토피아적 방식이 기존 주류 방식[42]에 상대가 안 될 수도 있다. 간단히 말해서 지금 예상한 것들을 뛰어넘어야 한다. 창출하는 가치가 예상 범위 안이면 아무래도 망상에 가까운 생각들은 실현되지 않을 것이다. 지금 예상들도 성장률이 높으나 머지않은 미래에 하층민들까지 노동에서 완전히 해방되고 갖고 싶은 거의 모든 물건을 구할 수 있는 둥의 수준까지 가려면 진짜 엄청난 성장을 필요로 하며 그 이상의 것을 바란다면 더 성장해야 한다.
의외로 레이 커즈와일 역시 부정적인 견해가 약간 있다. 특이점이 다가온다에서도 "나노로봇이 공격을 펼치기 시작하면 가장 큰 피해를 입는 것은 사람을 포함한 생명체들이다. 설계상 나노로봇의 기본 재료는 탄소일 것이기 때문이다. 탄소는 네 개의 결합을 이룰 수 있는 특성 덕분에 분자 조립에 안성맞춤인 재료이다. 탄소 분자들은 직선 사슬, 지그재그, 원, 나노튜브, 버커볼 등 다양한 모양을 이룰 수 있다. 생물 역시 탄소를 주재료로 삼으므로 지구의 생물자원은 나노로봇에게 더없이 이상적인 재료일 것이다." 같은 내용이 있다. 커즈와일이 나노로봇과 관련하여 딱히 대단한 성과를 낸 적도 없고 제대로 된 전문가가 아니라 신빙성이 별로 없기는 하지만 그에 따르면 아주 짧은 시간만에 지구에서 인류를 쓸어버릴 수 있을 것이라 한다.
8. 실현가능성에 대한 비판적 관점
이러한 특이점, 나아가 '초 인공지능'에 대한 장밋빛 관점을 비판하는 논조의 시각도 존재한다.
카네기 멜론 대학 소속 연구자 재커리 체이스 립튼은 ‘어프록시메이틀리 코렉트’라는 인공지능에 대한 환상을 깨기 위한 블로그를 운영하고 있으며, CNN(Convolutional Neural Network), DNN(Deep Neural Network), GAN(Generative Adversarial Network), RNN(Recurrent Neural Network), BERT(Bidirectional Encoder Representations from Transformers) 등의 인공지능 알고리즘은 명백한 한계가 존재한다고 보는 학자들 또한 존재한다. 미국 정부의 보고서도 이러한 견해를 지지하고 있다.#
8.1. 기술 지체
사실 레이 커즈와일 등의 예측에 틀린 것도 있기도 하고#, 미래 사회가 어떤 사회가 될 것인지에 대한 것은 실제로 아무도 알 수가 없다.
예를 들어 커즈와일은 2005년에 15년 후에는 너의 남은 수명이 매년 1년씩 증가할 거라고 낙관하며 예측했지만, 예상은 빗나갈 것이 기정사실화 되어있고, 현재는 2029년 후에 추가된다고 예측을 수정했다. 커즈와일의 주장도 엄밀하게 따지면 과연 86%의 적중률이 될 수 있는가? 의심을 하는 사람들도 많다. 커즈와일이 주장하는 적중률은 터무니없게 보이기도 한다. 대충 생각해보면 맞는 것들도 있지만, 좁은 범위로 한정시키면 틀린 예측들도 꽤 많으며, 이미 그 실현방안들이 대략적으로라도 고안되었던 과학기술들이나 그 과학기술들의 융합을 예측한 것은 몰라도 현재로서는 어떻게 실현될지 전망이 아예 보이지 않는 것들을 예측해서 86%를 적중시키는 것은 정말 가능한지가 의문이다.# 세상에 나온 모든 과학기술이 성공하는 것도 아니다. 과장된 것들도 상당히 많다.#
또한 실현 이후 가까운 시일 내에 이런 기술이 모두에게 넘치게 베풀어질 것이라는 장밋빛 미래에 대한 보장 따윈 당연히 없으며, 얀 레쿤이나 폴 데이비스처럼 레이 커즈와일 같은 사람들과 의견이 다른 사람들도 꽤 있다. 대체적으로 동의한다고 해도 시기나 결과에 대해서 다르게 예상하는 사람들도 많다. #, # 얀 레쿤은 레이 커즈와일 보고 아가리만 산 놈이라며 좀 닥치라고 했고 폴 데이비스가 지적한 틀린 사실에 대해서는 레이 커즈와일은 대체적으로 자신의 주장이 맞았다고 주장만 할 뿐 딱히 반박하지는 못 했다. 솔직히 레이 커즈와일은 그냥 자리만 잘 꿰어찼을 뿐 자신이 주장한 모든 분야에 대해서 전부 대단한 실력을 가지거나 관여하고 있다고 보기는 힘들다. 사실 그는 2020년에 식량이 사라지고 나노봇으로 대신한다고 주장하기도 했으나 이미 2020년은 왔다.# 그에 의하면 의식주가 공짜가 되는 날이 늦어도 2030년 안으로 오고 있다.
버너 빈지나 벤 괴르첼처럼 '''나름 근거를 가지고 2016년 안으로 특이점이 온다고 한 사람들'''도 과거부터 있었고#, 심지어 어떤 수치적 결과들은 맞았어도 변하는 게 있던가?[43] 더구나 어떻게 사회 구조를 조직하느냐에 따라서 미래상이 달라질 수도 있는데 유토피아적인 미래상이 경쟁에서 가장 나은 체제라는 보장은 없다.
따라서 걱정없이 지나치게 낙관적인 전망은 스스로 모순을 내재하고 있는 그냥 희망일 뿐이고 현실성이 없다고 봐야 할 것이다. 확실히 지금의 들뜬 분위기는 다른 이상론, 종교적 예언과 똑같이 뜬구름잡는 환상에 더 가까우며, 그 막연한 기대감이 불러일으킬 문제에 대해선 전혀 대비하고 있지 않거나 오히려 사건이 벌어지길 바라는 것이라고 지적받을 만하다.
특이점만이 아니라 의학 분야에서도 세인즈 버리 경, 프랜시스 콜린스 등은 게놈 프로젝트와 관련하여 "이제 우리는 의학에 걸었던 모든 희망을 성취할 수 있게 되었습니다."라고 자신 했으나 아이러니하게도 공적 게놈 프로젝트와 사적 게놈 프로젝트 모두 게놈의 배열이 채 완성되기도 전에 거품이란 게 드러나고 말았다.(당시 관련 분야 기업들의 폭락치는 무려 5,000억 달러에 이르렀는데 당시 생각에는 게놈 프로젝트 등의 생명공학의 힘으로 원한다면 팔과 다리를 더 가질 수도 있고 날개를 달 수도 있다고 믿는 사람들이 있었다. 심지어 유기체 개조나 창조 혹은 인간의 모습도 마음대로 바꿀 수 있다고 믿기도 했다.) 물론 게놈 프로젝트가 예상했던 것보다 졸속으로 끝난 점도 있지만 실제 결과들도 썩 좋지는 않았다. 예를 들어, 일부 망상들을 실현하기 위해서는 인간의 유전자 수가 10만 개 혹은 그 이상이 필요했지만 실제 결과는 2만 3천 개에 불과하였다. 2009년이 지나면서 게놈 프로젝트에서 내걸었던 대부분의 약속들은 최소한 약속한 날짜를 지키는 게 불가능하거나 할 수는 있는데 여러 이유들이 있어 역시 불가능한 것과 마찬가지라는 사실이 명백해졌으며 특이점도 벤 괴르첼 같은 일부 낙관론자들이 생각했던 시기들만 보면 그와 비슷하게 흘러가고 있다고 볼 수도 있다. 최근에는 엘리자베스 홈즈에 의해 만들어진 에디슨이라는 기적의 산물이 사기였음이 명백하게 밝혀졌다.[44] 사실 특이점주의자들이 흔하게 주장하는 꼬마선충도 과장이 되어있다. 실제 생명체와 같은 것으로 알려져 있으나 막상 그 연구를 수행한 과학기술자들은 그렇게 생각하지 않는다.[45]
사실 게놈 프로젝트도 상당한 의의가 있었지만 까보기 전까지는 너무 과장되었던 것처럼 특이점이나 다른 과학기술 발전에 대해서 실제 결과를 까보면 상당히 과장된 것들이 있을 수 있다. 일부 과학기술자들은 다른 과학기술자들에게 대중들에게 확실하지도 않은 것들을 너무 장담한다고 비판하기도 한다. 커즈와일도 과학기술 분야는 둘째치더라도 경제에 대해서도 과거부터 굉장한 낙관주의자였지만 지금까지 경제 분야의 예측들은 그리 정확하지 않았다. 경제성장률도 그렇지만 물가 상승률까지 고려하면 더욱 그렇다. 마찬가지로 그의 예측과는 상당히 다른 경제 체제와 사회가 올 수도 있다. 사실 트랜스휴머니즘 등의 지지자들이 기대하는 것은 보편적 평등이 아니라 남들보다 더 뛰어난 지능, 신체 능력 등의 우월주의적 목표도 많다. 현재 시대에는 주변 사람들이 병에 걸리면 면역력이 더 우수한 사람이라도 여간해서는 병에 걸릴 가능성이 상승하지만 미래에는 아닐 수도 있다. 더구나 이러한 일들은 사람을 자본화하는 것[46]이라 자본주의 기업들이 그렇듯 딱히 평등한 공유가 이루어지지 않을 수도 있다.[47]
일각에서는 현재의 기술 진보란 것이 20세기 중후반에 마련된 큰 토대에서 벗어나지 못했다는 입장도 있다. 단적인 예로, 2019년 현재 무선 통신 환경을 통해 연결 접근성이 큰 폭으로 확장되었다 하더라도 이러한 환경을 이루는 기반은 여전히 기계어와 어셈블리어이다. 그리고 이 기계어와 어셈블리어를 편리하게 작성하기 위한 고급 언어로 1970년대에 나온 C언어가 아직까지 쓰이고 있다. 이를 땅과 건물을 짓는 것으로 비유하자면, 현재의 기술 진보는 새로운 땅을 개간해 건물의 면적을 넓히는 것이 아니라, 원래 주어진 땅에 건물만 높이 쌓아 올리고 있는 것과 같은 것이다. 그리고 이런 식의 공간 확장은 언젠가 필연적인 한계를 맞이하게 된다. 실제로 2019년 현재 반도체 집적 기술은 한계에 봉착하고 있으며, 공정 미세화[48]의 진행 속도가 해가 갈수록 오히려 더져지고 있는 상황[49]이다. 현재의 전선과 반도체를 사용한 계산 시스템은 한계에 달했다고 보며, 이를 타개할 방법은 분자 단위의 유기 나노 컴퓨터 같은 전혀 다른 방법이 될 가능성이 높은데, 이것은 아직 이론만 있을 뿐 실현되지 못하고 있다. 신경과 세포로 이루어진 뇌라는 것부터 어떻게 기억이 저장되고 전달하며 사고와 계산을 하는지 전혀 작동 구조를 모르고 있다. 심지어 뇌의 부위별로 맡은 영역이 다르다는 기존의 이론을 부정하는 의학적 사례도 다수 보고되는 형편이니, 뇌를 흉내내서 유기 컴퓨터를 만들 방법 또한 현재는 없는 셈이다.
이러한 한계는 컴퓨터 하드웨어의 영역에서도 두드러진다. 오늘날의 컴퓨터의 저장 장치가 RAM, ROM, 보조 저장장치[50]으로 나뉘는 것 역시 에니악의 설계가 그대로 이어져 온 것으로, 80년대 후반 이미 저장 장치가 세 종류로 나뉘어져 있는 것의 비효율이 지적되었지만 2019년에도 개선될 여지는 크지 않다. 위 세 가지 장치를 통합하기 위해 비휘발성 RAM이 기술적으론 제안되었지만, 물리적 성질의 한계로 보편화되기는 어려운 상황이다.[51] 송전과 통신 분야에서도 기술적 특이점을 맞이하기 위한 한계가 뚜렷한데, 현재 상온에 존재하는 모든 도체는 어떤 방식으로 전력이나 데이터를 전송하건 손실이 발생한다. 특히, 통신 분야에서는 이러한 손실에도 품질을 유지하기 위해 똑같은 신호를 수십배로 증폭해서 전송하거나 전송 속도가 다소 지연되더라도 오류 코드를 삽입하는데, 이는 상당히 비효율적인 방법이다. 이러한 한계를 극복하기 위해선 '''열역학 법칙을 극복'''한 영구기관이 상용화되어 손실을 만회하거나, 상온 초전도체를 개발해 손실이 없이 전송할 수 있어야 한다. 하지만 이 둘 모두 하나는 애초에 불가능하고, 나머지 하나도 확증되진 않았으나 불가능할 것으로 알려져 있는 것이다. 이렇듯, 2019년 현재 향유하고 있는 기술 역시 그 한계가 명확하며, 이 기술들이 기반하고 있는 과거의 틀을 극복한 것도 아니다. 이러한 한계의 임박을 지지하는 학자들은 기술적 특이점은 고사하고 현재 인류가 향유하고 있는 '''현대 문명의 발전의 한계점'''이 기술내[52]ㆍ외[53]적으로 21세기 이내에 다가올 것이라 전망한다.
더욱이 2045년이라는 수치 자체도 근거가 없는 주장이며 과학자들 역시 이에 대한 비판을 하고 있다. "저는 좀 먼 미래라고 봅니다. 2045년을 예측한 이들이 있는데, '''2070~2090년 정도는 가야 하지 않을까요.'''" 홍성욱 교수(서울대학교 생명과학부) "근거가 없는 얘기라 현실 가능성이 있다고 말하기 어렵다", "과학적인 근거가 나와야 발전이 있을 것이다" 이경전 교수(경희대학교 경영학과) 마이크로소프트 공동 창업자 앨런의 경우 커즈와일이 가속화의 법칙에 기반하여 빨리 올 것을 예측하고 있지만 현실에서는 그렇게 빠른 발전이 이루어지지 않는다고 비판했다. 특히나 앨런은 특이점이 2045년에 오는 것은 고사하고 21세기 말에 이르러서도 언제 올지 알 수 없을 것으로 보고 있다. 앨런 정재승 교수 역시 2045년이라는 수치가 근거가 있는 수치가 아니며 검증조차 하기 어렵다며 비판을 가하였다. 정재승 교수
이렇게 기술이 정체될 것을 상정할 경우 애당초 근미래에 인간보다 똑똑한 인공지능을 만들 수가 없으므로 특이점 자체가 존재할 수 없게 되고, 나온다 하더라도 현재의 기술발전속도를 기반으로 주장되는 것보다는 훨씬 더 먼 미래의 일이 된다. 아이러니한 것은 현재 인간의 지능으로 이해할 수 없는 기술 중 하나가 인공지능 기술이라는 것이다. 극소수의 인간만이 약인공지능의 메커니즘을 이해할 수 있는데 인간보다 더 똑똑한 강인공지능은 어떻게 만들 수 있을까?
인간이 과연 인간보다 똑똑한 인공지능을 만들 수 있느냐와 마찬가지 논리로, 인간보다 똑똑한 인공지능이 나왔다고 해도 그것 역시 한계를 가질 텐데 과연 자신보다 더 좋은 인공지능을 손쉽게 만들 수 있느냐 역시 좋은 비판점이다. 커즈와일은 인간보다 머리가 좋은 인공지능이니까 인간이 이해할 수 없는 방식으로 알아서 자기보다 더 똑똑한 인공지능을 순식간에 만들고 이후로 계속 더 똑똑한 인공지능을 만드는 식으로 무한루프적으로 발전해 나가며 인간이 상상조차 할 수 없는 문제들을 해결할 것이라 주장하지만, 인간보다 더 낫다고 해서 자기보다 똑똑한 인공지능을 계속 개발할 수 있다는 보장은 없다. 인공지능이 발전할수록 이전의 인공지능을 뛰어넘는 것은 점점 더 난이도가 높아질 것이기 때문이다. 인공지능의 발전과 개발 난이도의 상승 중 어느 쪽이 더 가파를지는 해보기 전에는 모르는 일이며, 단순히 인공지능은 인간이 상상못할 정도로 똑똑해질 테니까 어떤 문제건 해결할 수 있다고 넘겨짚는 것은 단순한 논리적 비약이라고 볼 수밖에 없다. 그 "똑똑함"이 인간이 생각하는 긍정적 방향인지, 인간이 보기에는 오류 투성이인 결과인지는 알 수가 없다.
또, 기술적 특이점에 도달하거나, 특이점 이후에 형성되는 과학기술 체계는 기본적으로 컴퓨터에 기반을 둔 것인데, 컴퓨터 프로그램은 정교하게 짜여질수록 많은 오류를 내재할 가능성이 비약적으로 높아진다. 설령 하나의 단일 프로그램이 무결성을 갖고 있다 하더라도, 그 프로그램이 다른 프로그램과 교잡되면 그 사이에서 예상치 못한 오류가 발생할 수 있는 것이다. 또한, 전기적(물리적) 문제로 인해 오류가 발생할 수도 있다. 이처럼 컴퓨터 기술 자체가 근본적으로 완전하질 않은데 여기에 너무 큰 기대를 걸고 있는 것이 아닌가 하는 의문이 제기되기도 한다. 일례로, 어떤 사람의 정신체계를 업로드했는데 처리 과정에서의 오류나 전기적 문제로 인하여 정신체계의 일부 혹은 전부가 손상된다면 책임 소재를 떠나 어떤 문제가 발생할 지 알 수가 없는 것이다.
8.1.1. 지나친 과장적 묘사
가장 대표적인 비판은 '''기술의 발전 속도는 한계체감할 수밖에 없기 때문에'''[54], 특이점이 오지 않을 수도 있다는 것이다. 인간에 의한 기술 발전이 현재 빠르게 이루어지고 있다고 해도 언젠가 인간의 지능, 경제나 사회, 기술력 등의 내/외적 문제 혹은 모순으로 한계에 부딪힐 수 있고, 그렇게 되면 기술적 정체가 오게 된다는 것. 신기술이라는 게 꼭 현재 경향대로 계속 발전하지는 않는다는 것이다. 우주 경쟁이 한창이던 1960년대 냉전 시기에는 현재 발전속도대로라면 인류가 달에도 가니까 곧 화성도 가고 21세기 초가 되면 태양계를 정복하고 우주 식민지쯤은 개척하겠지 하고 생각하는 경우도 많았다. 이런 류의 장밋빛 미래 예상은 이것이 미래세계다에서나 꿈의 70년대 미군처럼 과거에 수도 없이 많았지만 21세기 지금의 현실을 보면 알 수 있듯이 예상대로는 잘 되지 않는다.
이런 류의 예상에서는 언제나 그 시점에서 급격히 이루어지던 기술적 발전을 기반으로 미래를 예상했다. 하지만 그 발전 속도가 계속 유지된다는 보장은 없고, 오히려 미래상은 그런 급격한 기술 발전이 현실의 벽에 부딪힌 후 다른 방향에서의 기술 발전으로 인해 급격하게 변화하는 경우가 많았다. 달 착륙 계획이 이루어진 1960년대에 예상한 21세기 초의 미래는 우주개척시대의 로망을 쫓아 우주정거장에서 인류가 사는 시대였다. 하지만 21세기 초에는 물론 그런 시대는 오지 않았다. 그러나 그렇다고 1960년대 냉전 시기와 비교해 지금이 기술적 발전과 사회상 변화가 없다고 할 수는 없다. 지금 이 글을 읽고 있는 인터넷은 1960년대에는 제대로 상상조차도 못하던 물건이었다는 걸 생각해 보자. 1960년대에 생각한 미래는 우주선은 흔하지만 페이스북은 없는 시대였다. 미래는 예측하기 어렵기에 미래인 것이다.[55]
그리고 가장 중요한 사실 중 하나는 기술발전 정도가 소득으로 직결되지 않는다는 점이다.# 기술 발전 정도를 산정할 객관적인 지표 자체가 없을 뿐더라, 대략 기술이 5000배 발전한다고 쳐도 당신의 소득이 5000배가 될 것인지는 알 수 없다.
과거에 비해서 엄청나게 기술이 향상된 것들이 많지만 그것들로 인해 딱히 삶의 변화가 생기진 않은 것들도 있으며 그냥 주변 물품들만 생각해도 과거에 비해 수천 배의 진보가 이루어진 것들이 있을 수 있다. 더구나 사실 GDP에서도 무형의 가치를 가진 서비스 같은 것들은 엄밀하게 말해서 제대로 산정을 하기 힘들다. 이러한 서비스는 어떤 면에서는 실물보다도 중요하지만 역시 실물에 비하면 뭔가 구체적으로 향상 정도를 느끼기 쉽지 않다. 겉만 보면 과거에 비해 GDP가 분명 엄청 늘었는데 막상 체감하기는 쉽지 않은 이유다. 특히 멀지 않은 과거일 경우 어떤 사람들은 현재보다 더 낫다고 생각할 수도 있는 원인이다.
8.2. 사회학적 관점
기술적으로 강인공지능이 개발된다해도, 특이점주의자들이 주장하는 것처럼 드라마틱한 사회적 변화가 없을거라고 보는 관점도 존재한다. 인간이 적응할 수 있을 정도로 서서히 사회가 변해서 사람들이 놀라거나 적응하지 못할 정도는 아닐 것이라는 것이다. 또한 동시에 '인간성'에 긍정적인 측면도 부정적인 측면도 계속 존재한다면, 물질적으로는 풍요로워질지언정 사회적인 부분에서는 인간의 생애가 극적으로 변하지 못할 것이다.
일단 특이점주의자 및 그들에게 경도된 대다수의 논의는 사회학에 대한 이해가 매우 부족한 경우가 많다. 이러한 논의는 사회에 대한 이해보다는 SF 소설에서 나온 클리셰를 차용한 IF 세계관을 서술한 경우가 매우 많다.
특히 레이 커즈와일은 본인의 저서에서 공산주의에 대한 이해를 '모두가 똑같이 나누면 평등해서 행복해지겠지'라는 단순한 이념으로 보고 있다는 것을 드러내는데, 사실 자세히 알고보면 카를 마르크스와 공산주의는 레이 커즈와일의 직속 선배나 다름이 없는 수준이다. '생산성이 무한에 수렴된다면 인간이 노동에서 해방된다' 가 자본론의 결론이고, 마르크스는 기술이 극단적으로 개발되어서 온 인류가 그런 생활을 할 수 있는 궁극의 사회체제를 공산주의라고 결론내렸기 때문이다. 레이 커즈와일은 기술적 측면에서 접근하고, 마르크스는 사회 변화 측면에서 접근했다는 차이가 있을 뿐 기술적 특이점과 공산주의는 개명한 동일인물이나 다름 없는 셈이다.
게다가 마르크스를 포함한 당대의 공산주의자들은 저 '궁극의 공산주의 사회'가 매우 가까운 시대에 도래할 것이라고 믿었지만, 물론 21세기의 관점에서 보면 결국 마르크스의 견해도 아직도 실현되지 않았다.(...) 물론 마르크스가 사회과학자였지, 자연과학자도 아닌데다 좀 옛날이라 과학 기술에 대한 이해가 지금보다 훨씬 부족하긴 했지만, 위의 문단에서 특이점 주의자들의 예측 오류를 지적했듯 현대 과학자들이라고 해서 마르크스보다 더 정확히 예측하고 있을거라 기대하긴 힘들다.
마르크스와 공산주의자들이 예측한 낙원이 오지 않은 것은 단순히 자본주의가 공산주의 국가들과 경쟁에서 승리했기 때문만은 아니다. 훨씬 더 다양하고 복잡한 사회경제적 요인들이 기술 발전으로 인해 생긴 잉여생산물들을 흡수했기 때문이다. 새로운 직업의 출현, 인권의 상승, 새로운 발명품의 등장, 복지 제도, 민주주의의 확대 등 수 많은 요인이 얽혀 현대 사회를 만든 것이다. 사회학에 치중한 마르크스조차 그 많은 요인은 상상도 하지 못했고, 기본 전제인 '생산성에 따라 사회가 다르게 구성된다'는 전제야 어느 정도 맞았지만 구체적으로 어떤 사회가 될지는 결론적으로는 틀렸다. 특이점 주의자들이라고 해서 더 맞을 거란 보장은 없고, 특히 기술에 의해 모든게 다 구성될거라는 식의 지나치게 사회를 무시하는 관점은 현실성이 떨어진다. 현대 사회는 그들이 대충 이해하는 것보다 이미 더 복잡하게 구성되었다.
8.2.1. 현세기의 문제가 이어질 가능성
기술적 특이점을 맞이한다는 것이 정신적인 진보를 보장하지는 않는다. 또한 그 혜택이 모든 사람들에게 돌아가게 된다는 보장은 없다. 미래를 내다볼 것도 없이 당장 지금만 봐도 다양한 상업, 군사기술을 일반인이 향유할 수 있는가? 당장 지구상에 있는 모든 국가들의 식량생산량을 모으면 전 세계의 사람들이 먹고도 약 1/4이 남는 수준이다. 문제를 진행형으로 남겨둔 채 기술만 발전할 경우, 그 기술을 어디까지 감당할 수 있는지 장담할 수 없다.
사실 지금도 세계 전체가 협력해서 공산주의 유토피아를 이루려고 하면 발전 속도나 효율은 몰라도 식량 등이 양적으로 나름 풍족한 세계가 충분히 가능하다. 그런데 지금 그게 되는가? 사람들의 본질적인 욕망과 이념의 차이 때문에 불가능하다. 미래에 기술이 더 개발된다고 해도 인간들이 갑자기 공산주의 해도 되겠다고 납득할 가능성은 낮을 것이다.
게다가 사회의 진보는 아무리 빨라도 인간의 수명보다 더 빠르기는 힘들다. 시대에 적응하지 못한 사람들은 늙어죽고, 새로 태어나 새로운 사회에 익숙한 사람들로 대체가 되어 사라지게 된 것이지, 과학기술이 발달했다고 해서 사람이 마음을 바꾸고 새로운 이념과 사회를 받아들인 것이 아니다.
당장에 기술 발전으로 인한 실업도, 갑자기 공장이나 회사가 '새 기술 받아들였으니 당신은 해고입니다' 하고 줄이는 식이 아니라 새로 뽑는 사람을 줄이는 식으로 서서히 이뤄지고 있다. 이런 식의 느린 변화는 오히려 긍정적인 면도 있는데, 출산률이 줄어드는 것에 맞춰서 일자리가 점점 준다면 구세대도 신세대도 취업에 대한 압박으로 고통 받지 않을 것이다.
강인공지능이 기술의 신지평을 열어도, 구시대의 사람들이 죽어서 사라지고 세대 교체가 되어야 사회도 그에 맞는 변화를 맞을 수 있을 것이다.
물질적으로 아무리 풍요로워져도 한정된 자원도 여럿 존재한다. 시간이나 권력 등. 전자는 기술 발전으로 어느 정도 무마가 되나, 후자의 경우 기술과는 무관하게 인간의 존재 자체에 따라 영원히 한정된 자원으로 존재한다. 권력을 주고 받는 모든 행위, 즉 정치는 본질적으로 변하기 어렵다.
9. 대중 매체에서
- 아이작 아시모프도 이 개념과 비슷한 것을 소설 속에 묘사했다. 예를 들어 단편인 최후의 질문에서는 2061년을 배경으로 인간이 이해할 수 없을 정도로 복잡한 구조를 가져 스스로 수리하고 보완하는 컴퓨터가 등장한다. 참고로 '이 컴퓨터 덕분에 지구의 모든 인류가 쓰고도 남는 태양에너지를 확보했다'는 묘사를 보면 우주 문명의 단계설도 참고한 것으로 보인다.
- 테드 창의 단편 인류 과학의 진화도 또다른 형태의 특이점에 대해 다루고 있다고 할 수 있다. 인류로부터 진화한 메타-인류의 우월한 과학 덕분에 인류의 과학 발전은 더이상 의미가 없게 되고 메타-인류의 과학을 '해석'하는 것만이 의미있게 된 사회에 대한 내용이다.
- 니헤이 츠토무의 작품들은 직접적으로 특이점을 다루진 않았지만 극도로 하드SF적인 설정으로 특이점이 온 이후의 세계에 대해 어느 정도 상상할 수 있게 해준다. 대표작은 블레임!, 바이오메가, 인형의 나라 등.
- 직접적으로 기술적 특이점을 작중 설정상의 주요한 요소로 사용하는 RTS 게임인 Ashes of the Singularity가 있다.
- 듄 시리즈에서는 인공지능이 극도로 발달하여 인류의 뒤치닥꺼리를 너무나도 잘 해준 나머지 인류 전체가 놀고 먹다가 지능이 쇠퇴했는데, 몇몇 남은 철학자들이 기계 파괴 운동을 일으켜서 인공지능을 타파하고 다시 지능이 원상복구 되었다는 과거 설정이 있다. 버틀레리안 지하드 참조.
- 시드 마이어의 문명 시리즈에서는 특이점이 2050년 이전에 올 것이라는 레이 커즈와일의 주장을 참고했는지, 본 게임 시리즈들에서 인공지능, 나노 기술, 유전 공학 기술은 항상 최종 테크이며, 인공지능 다음의 테크는 "미래 기술"이라는 끝없이 개발되는 테크로 종결된다. 또한 시간 승리는 2050년에 결정된다.
- 로보토미 코퍼레이션에선 특이점 기술을 가진 26개의 회사를 "날개"라 부르며,[56] 원하는 생물을 만드는 제조업, 인간과 구분할 수 없는 AI, 시간을 멈추고 되돌리는 기술, 공간이동을 이용한 운송업 등의 다양한 기술들이 존재한다. 각 회사들은 알파벳 한 글자씩 가지고있다.플레이어가 일하게 되는 로보토미는 L에 해당하는 '환상체로부터 에너지를 추출'이란 특이점을 가지고 있다.
- 시드 마이어의 알파 센타우리에서는 기술력이 극도로 발달하다가 어느 순간에 더 이상 새로운 기술이 등장하지 않는 시기가 발생하는데, 이를 극복하기 위해 인류가 정착한 행성 전체에 퍼져있는 신경망으로 정신을 업로드하는 프로젝트를 진행하게 된다. 이 정신 업로드를 작중에서는 초월(트랜센던스, Transcendence)이라 부른다.
- 영화 '트랜센던스'에서 특이점이 중심 소재로 다뤄졌다. 인간보다 뛰어난 인공지능 개발을 둘러싸고 기술반대주의자와 개발자들 사이의 대립이 그려졌다. 조니 뎁이 이 인공지능을 개발하는 과학자로 출연한다. 감독은 월리 피스터로, 영화 인셉션의 촬영감독으로 유명한 사람이다. 하지만 SF덕후나 영화 평론가에게나 평은 그닥 좋지 않다. 차라리 2014년에 개봉한 스파이크 존즈 감독의 그녀(영화)가 특이점을 더 잘 다루고 있다는 평이 우세하다. 이 영화는 레이 커즈와일도 리뷰에서 재미있게 봤다고 했다. 영화 '오토마타'에서도 인공지능이 그 자체로 인간 지능을 추월하는 모습을 그리고 있다.
- 에일리언: 커버넌트의 데이빗 8도 기술적 특이점을 연상시키는 행동을 보인다. 지구온난화 종식과 암 치료제 개발, 인조인간 개발 등 온갖 업적을 쌓은 희대의 천재이자 자신의 창조주인 피터 웨이랜드를 피조물인 나보다도 열등했던 자라고 조롱하고, 결국 웨이랜드가 자신을 만든 것처럼 자신도 스스로 창조주가 되어 피조물을 만들어낸다. 다만 독학(...)으로 창조주의 경지에 도달한 것은 아니고, 자신의 창조주인 인간의 창조주 스페이스 자키의 기술력을 흡수했다.
- 소드 아트 온라인의 엘리시제이션에서 사람의 정신을 태아 상태에서 복제한 후 컴퓨터 세계 속에서 시간을 가속시켜 만든 인공지능이 결국 인간과 비슷해지고 로봇에 이식시켜 인공지능과 인간의 구별이 점점 사라지는 모습을 그리고 있다. 낙원추방에서는 아예 이런 식의 가상 인격이 인류의 대부분을 이루고 몸은 가끔 리얼 월드에 접하기 위해 임시로 사용하게 될 뿐인 세계를 그린다.
- 에이디라는 네이버 베스트도전만화는 기업에서 초지능을 구현해 냈을때의 이야기를 픽션으로 그려내고있다. 51화로 1부가 완결되었다. 보러가기 특이점이 온다는 물론이고 각종 전문지식도 담아내고있다. 웹툰인데도 불구하고 꽤나 심오한 고찰이 담겨있으니 한번 보는 것도 나쁘지 않다.(테세우스의 배와 관련해서는 개인의 견해로 해석되어 작품이 진행되는 것을 볼 수 있다.)
- 에로게 Re:LieF ~친애하는 당신에게~는 인공지능 및 특이점과 관련된 요소를 소재로 삼고 있다.
- 라이트 노벨인 저, 능력은 평균치로 해달라고 말했잖아요!도 기술적 특이점을 맞이한 종족이 신처럼 언급되며, 작중 등장하는 마법 비슷한 증상들은 전부 나노 머신에 의해 일어나는 증상이라는 설정이 나온다. 자세한 정보는 저, 능력은 평균치로 해달라고 말했잖아요!/설정 문서를 참조.
- 스카 시메트리는 2014년 특이점 삼부작(The Singularity trilogy)의 첫 음악 앨범인 Phase I: Neohumanity를 발표하였다. 인류가 인공지능의 도움을 받아 컴퓨터와 융합된 네오휴먼(Neohuman)으로 변화하는 모습을 그리고 있다. 두 번째 앨범의 제목은 Phase II: TBA.
- 무선 인터넷의 발전 로드맵을 이 특이점 관점에 맞춰 그린 보고서도 있다.
- 포탈에서 특이점 떡밥이 나온다. 포탈건만 해도 대단한 무기지만 그보다도 대단하며 하프라이프의 묘사에 따르면 콤바인마저 가루를 만들 수 있는 기술이였다. 작중 시점으로 배와 함께 실종된 상태. 스토리 유출의 따르면 시간조정이였던걸로 추정된다.
- Warhammer 40,000의 인류의 최전성기인 기술의 암흑기 시절에 STC 라는 물건이 있다. 이에 대한 설정과 딸려나오는 떡밥이 가히 인류제국의 해피엔딩에 바로 도달할 정도의 기술적 특이점의 정점에 다다른 물건이다.
- 기동전사 건담 UC의 주인공 기체 유니콘 건담 또한 콜로니 레이저를 막아내면서 이 영역에 일시적으로 도달했다. 그 위력은 손짓 한번으로 메가라니카을 추척한 제네럴 레빌의 ms부대를 정지시키고 설정상 이 상태로 지구 군대를 전부 전멸시키는게 가능하다고 서술되어 있다. 때문에 후속작인 기동전사 건담 NT에서는 싱귤러리티 원이라고 호칭되고 있다.
- 모바일 게임인 라스트오리진에서 등장하는 바이오로이드인 닥터는 설정상 10개의 박사학위를 가지고 있을 정도의 지식을 가지고 있고 10기 정도만 생성되었다고 하는데 그 이유가 인류가 말하길 일정 수 이상의 닥터가 모이면 기술적 특이점을 발생시킬거라고 자기소개에서 언급한다.
그리고 인류가 개발한 바이오로이드임에도 독자적으로 어린 체형에서 성인 체형을 갖기위해 신체성장 약을 만들어서 일시적이나마 성인의 몸을 갖게되었다. 해당 게임에서 바이오로이드라는 개체는 모종의 이유로 금속골격으로 뼈대를 구성해 신체 성장이 되지않는 신체구조임에도 이를 무시하고 신체성장을 이루어버렸다. 물론 기상천외한 모습에 닥터 외에 해당 기술의 원리를 아는 사람은 없다.
- 덴마에서 인공지능 AI인 사천왕이 나온다. 작중에서 사천왕은 인간을 절멸시키려 하는데, 이는 사천왕이 아직 인간을 초월하지 못했기 때문으로 설명했다. 인간을 초월한 AI는 자신을 만물의 일부로 수긍하고 관조하는 상태에 다다른다고 그렸다. 덴마1326
- 프린세스 커넥트! Re:Dive에 등장하는 세븐 크라운즈는 기술적 특이점을 뛰어넘어서 가상현실게임 '레전드 오브 아스트룸'을 만들어냈다.
10. 관련사이트
특이점이 온다 마이너 갤러리 바로가기
기술적 특이점 마이너 갤러리
레딧 특이점 서브레딧
레딧 미래학 서브레딧
[영문] A hypothetical moment in time when artificial intelligence and other technologies have become so advanced that humanity undergoes a dramatic and irreversible change[5] 쉽게 표현하면 침팬지에게 미적분을 이해시키는 것과 비슷하다.[6] 가끔 과학 3법칙이 법칙이란 말 때문에 과학적으로 증명된 절대 사실인 줄 아는 사람들이 많은데, 과학 3법칙은 어디까지나 아서 클라크의 소설에 나오는 설정이자 소재의 하나일 뿐이지 반드시 지켜야 할 절대 법칙이나 공식이 아니다.[7] 이해할 만큼 풀어놓는 데 시간이 너무 오래 걸린다거나, 방대한 사전지식이 필요하고, 계산기 보조로 때울 수 있지만, 머리 안에 다 채울 수는 없는 등.[원문] One conversation centered on the ever accelerating progress of technology and changes in the mode of human life, which gives the appearance of approaching some essential singularity in the history of the race beyond which human affairs, as we know them, could not continue.[8] 에드워드 텔러와 함께 현대 수소폭탄의 기본 메커니즘인 텔러-울람 설계를 개발한 사람이다.[9] 인류사에서 한 예를 들자면 독일 바이마르 공화국은 당대의 지혜를 짜내어 세계에서 가장 선진적이라고도 불린 바이마르 헌법을 완성했지만 민주주의를 위한 조항이 민주주의를 파괴하려는 세력에게 악용되어 결국 나치 독일이 탄생했다.[10] 정확히는 빠르고 안전하게 올 거라고 믿는[11] 이하의 내용은 대부분 레이 커즈와일의 ''''특이점이 온다(The Singularity Is Near)''''를 참조했다(2005년 미국 출간, 2007년 한국에 번역 출판. 진대제 前정보통신부 장관 감수, 빌 게이츠 추천사).[12] 신체 재생 비용은 기술이 개발되어 있지만, 아직도 일반인들에게는 그림의 떡이나 다름없다.# 신체 전부도 아니고 일부분만 재생시키는 데 대략 700~800억이 필요하다.[13] 사실 어떤 순간 기적이 일어나서 비용이 매우 감소하지 않는 이상은 대체로 불로불사 같은 게 가능하다 쳐도 지금 추세로는 극소수 상류층들에게도 아슬아슬 할 수 있다. 아직은 비용도 비싼 편에 의미도 별로 없어서 트랜스휴머니즘 같은 사상이 실질적인 맹위를 떨치지 못하는 상황이다.[14] 《특이점이 온다》 518-519쪽 참고.[15] 보통 이 정도 혁신의 기술이면, 상용화되는 시점에 앞서 길어도 10년여 즈음에 개념 입증이 완성된다. 하지만 아직 그럴듯한 소식은 없다는 것이 함정.[16] 예를 들자면 턱뼈에 임플란트를 식립한다거나 칼로 안구를 짼다거나 하는 행위를 우리는 아무렇지 않게 받아들이고 있지만, 만약 200년, 300년 전의 사람들이 그 모습들을 본다면 상당한 문화충격을 받을 것이 분명하다. 이때 우리는 과거의 사람들이 받는 문화충격을 이해하기는 하지만 그렇다고 해서 현재 우리의 저런 행위들에 대한 기괴함이나 경악스러움을 격렬하게 공유하여 느끼지는 못할 것이며, 이것이 그대로 현재의 우리와 미래의 그들의 인식이 된다고 보면 된다. [17] 표적화(targeting)라는 단어로 인해 전문 지식이 없는 일반인의 경우 약물 전달 시스템이 무슨 유도미사일처럼 목표를 향해 찾아가는 것처럼 이해하나, 현재의 개념에서는 생체 내 혈액 등지에서 잘 돌아다니다가 목표 부위에 도달하면 축적되거나 부착되는 형태의 기술이다.[18] 이 기술들은 약물을 세포막에 융화될 수 있는 구조체로 잘 감싸는 형식의 기술들이다. 물에 대한 친화성을 이용하며, 감싸는 형태에 따라 이중막 구조의 리포좀과 단일막 구조의 미셀로 나눈다.[19] 암세포 치료에 효과가 좋을 것으로 예상되며 연구가 진전되면 활용이 가능하다고 한다. 탄소나노튜브 계열 표적은 생산이 까다로워 훨씬 비싸고, 다루기도 힘들다. 이와는 별개로 병원체를 이용하거나 기생충, 더러운 곳에서 살아남는 벌레 및 기타 생물류를 참고하기도 한다.[20] 2008년도의 한국 사람 대부분은 스마트폰의 대중화를 짐작조차 하지 못했다. 어렴풋이 상상은 가능했지만, 폭발적인 스마트폰의 대중화로 인해 진짜 유비쿼터스가 도래하는 것은 예상하지 못했던 것.[21] 근데 유사하기는 하지만 실제로는 조금 틀린 부분이 있다. 스마트폰이 유비쿼터스의 포석인 건 맞지만 모든 사물에 다 들어가지는 않았기 때문에 진정한 유비쿼터스 시대가 완벽히 왔다고는 할 수도 없다 스마트폰이 보급된 건 맞지만 증강 현실이 딱히 상용화가 이루어졌다기에는 반박받을 부분이 많다. 이런 몇몇 서술 때문에 이 양반이 기술에 대한 비용은 미처 생각하지 않고 글을 휘갈긴단 비판을 받기도 한다.[22] 코로나바이러스감염증-19 사태로 인해 재택근무 자체는 2020년대 초에 활성화되고 있지만, 가상현실은 아직 재택근무에 적용되지 않았다.[23] 고지능들의 눈치 게임 때문에 뒤통수를 맞는 일이 반복되게 되면 서로를 신뢰할 수 없어서 거의 모든 객체가 남들을 짓밟고 얻는 안전을 우선시할 것이니 저서 리바이어던이 이상적으로 실현되는 사례가 나오지 않는 한 조합체 바깥에서 무작정 동등성을 주장하는 자들은 걸핏하다간 많은 걸 잃고 불행할 것이다.[24] 정신적 충격을 없애는 가장 능률적인 방법일 것이기 때문에, 평생 보상금을 주는 것보단 배상 조금만 하고 기억 지우는 게 훨씬 더 쉽고, 경제적이고, 시간 대비 결과물만 봐도 효율적이며, 간편하다. 인공지능이 자의적으로 판단해서 조건을 까다롭게 만드는 등 시술을 금지하더라도 국가기관의 권력으로 그것을 우회하거나, 어느 정도 능력이 있는 부류가 도구만 떼어내서 쓸지도 모른다. 재화가 남아돌지는 않을 거라고 말하는 쪽에서는 이런 일이 일어나기가 훨씬 더 쉽다. 수명이 전체적으로 늘어날 것이기 때문에, 이로 인해 형벌이 세지든 약해지든 돈을 의미하는 수치에 따른 효율을 더욱 중시하게 된다. 너무 인간미가 없다고? 요즘에는 사랑조차 돈에 의하여 생존 가능성을 향상하려는 시도일 뿐이라고 말하거나, 가진 게 적으면 적은 대로, 많으면 많은 대로 나만 아니면 된다는 생각이 팽배하는데 시간이 조금 지난다고 해서 갑자기 확 하고 인류애가 마구 샘솟을 거라는 꿈과 희망이 가득 찬 전망은 보이지 않는다. 이런 현실을 인식하고 자란 아이들은 환경이 어떻든 지능과 권력만을 추구할 것이다.[25] 사실 이 방법에는 테세우스의 배 역설이라는 거대한 함정카드가 존재한다.[26] 특정 사항에 대한 무한한 선호와 충성심 빼고는 못 갖추도록 하려는 목적으로 세뇌하건, 언제든지 제공자에게 영 곤란한 생각을 없앨 수 있게 만들건 처음부터 대부분의 사람들을 가축 이하로 깔보거나 다른 것을 인류보다 중요하게 생각한다면 태연하게 일을 벌일 수 있을 것이다. 또한 오히려 몇몇 개선점을 제외하곤 기존의 인류보다 열등해질 수도 있으며, 자본을 다루는 자에게 더 유리한 상황이 갖춰진다면 남녀노소 구분 없이 서로를 헐뜯고 해치는 무한경쟁 먹이사슬 구조가 활성화될 것이다. 당연히 도움이 없다면 우월성이 아닌 평등을 기반에 둔 민주주의는 특별한 저항활동이 없다면 얼마 안 가 흔적도 없이 아작난다…… 물론 반군 세력이 형성되더라도 정말 나라의 절반 이상이 한꺼번에 들고 일어나지 않는 한 주된 힘을 쥔 자들에 의해 금세 거꾸로 이용당할 것이다.[27] 단순 계산으로, 인류 본성에 대한 침해를 최대한 억제하면서 문화를 뜯어고치는 형식으로 외부 환경을 개선한다면 초기 비용이 늘어난다. 규모가 크니까 그냥 사람들을 갈아치웠을 때 절약되는 비용은 무시하지 못할 것이고, 현실적으로 효과와 능률을 충족하는 자들에 의해 상대적으로 비주류인 인성을 현실에 보존하자는 의견은 싹 미신으로 몰려 취급이 나빠지고 경멸당할 수도 있다.[28] 어쩌면 인공 저승(…)을 만들어내 몇몇을 제외한 옛 인류를 그곳에 가둘지도 모른다. 유례없는 이상 시대에 다다른 인류는 필연적으로 옛시절을 그리워하고 안정을 갈구하며 평화를 되찾으려 들 것인데, 지금 같은 모순과 이상하리만치 부분부분 경직된 사고관 안에서 모든 문제가 해결될 리 없으므로 영 좋지 못한 일이 생길 수 있다.[29] 살아있는 세포로 신체 장기까지 3D 바이오프린터의 진화[30] 예를 들면 인공 질소 비료의 발견[31] 예를 들면 종교 개혁[32] 예를 들면 세계대전[33] 혹은 인구 포화와 미래의 표준 지분 감소로 인해 번식이 금지되고 애완동물처럼 양육 시뮬레이션만 허용될지도 모르는 일이다. 하나의 강력한 인공지능이 그런 존재가 진짜인 것처럼 조종하고 흉내낸다면 극도로 '효율'적일 것이다.[34] 이스라엘을 보자. 그들 민족에게 국토는 '갖고 싶은 것'이다. 하지만 이미 다른 국가들이 차지하고 있어 들어갈 자리가 없다. 경제력으로 사오는 방법도 현실적으로 불가능하다. 그렇다면 무슨 방법이 있겠는가? [35] 단, 그러나 솔직히 각종 문제가 비용 문제 때문에 발생하는 것만은 아니다. 사람들마다 관점도 다르고 추구하는 사회나 세계도 다르기 때문이다. 당장 천하의 개쌍것처럼 남을 죽여 놓아서 생존성을 늘리려는 움직임도 있는 마당인데…….[36] 단, 본래 새로운 가치관과 관점은 전통적 견해를 가진 사람들에게는 비합리적이고 심지어 미친 것처럼 보일 수도 있다. 예를 들어서, 초기 산업시대에 농업주의자들이 많았던 이유(미국만 해도 농업국가로 가고 싶어하던 사람들도 많았다.)도 자본가들 밑에서 일하면 오히려 평균 수명이 줄어들고 삶의 질이 폭락했기 때문이다. 그러니 누가 노동자로서 산업 발전에 이용당하고 싶었겠는가? 대영제국 노동자들은 비참한 신세였으며 급격히 힘을 확장한 프로이센 역시 그런 면에서 악명 높았다. 융커들부터가 비웃는 태도로 저들이 왜 당장 반란을 일으키지 않는지 궁금히 여길 정도였다. 결국 생산량이나 자산 등에 악영향을 주는 폭동이나 반란 등에 의해 점차 변하기는 하였으나 당시 상류층들도 그러한 변화에 처음에는 대단히 비판적이었다. 좋았던 옛날 편향 참조.[37] 세계 인구의 1/9 정도이다.[38] 과거나 지금이나 유토피아에 대한 믿음이나 선전선동도 많다. 지나가면 현실성이 없는 경우가 많았지만 당시에는 가능하게 보이는 점이 무서운 점.# [39] 사실 유토피아 전망 중에서는 레커가 말한 적이 없는 망상들도 추가되어 돌아다니고 있는 것들도 있다. [40] 인공지능이 가상신경망 상의 보상 체계에서 가산점을 쾌락, 벌점을 고통으로 인지한다고 가정한다면 그 감각을 감정이라고 간주할 수도 있다. 인간의 감정과 쾌락도 결국 뇌신경 상에서 생존에 필요한 것을 충족시켜 가산점을 얻은 것을 쾌락, 생존과 반대되는 행동을 했을 때 느끼는 벌점을 고통으로 인지하는 것이기 때문이다.[41] 이런 과학기술들이 흔히 그런 것처럼 상류층들의 엄청난 관심과 투자가 이루어지고 있는 것처럼 과장과 날조가 넘치고 있지만 현실은 F-35에 들어가는 비용보다도 적다.# 세계의 전체적인 투자 규모도 그렇고 http://www.4th.kr/news/articleView.html?idxno=1293 2025년까지는 심지어 시장 전체가 F-35 하나에도 밀리는 편이다. https://news.joins.com/article/22895549 [42] 당연히 이들도 어느 정도의 성장은 예상된다. 그리고 그들 역시 발전하는 중이다.[43] World Food Surveys의 1974년판에서도 발전 덕분에 "10년 후가 되면 지구상의 어떤 사람도 굶주리지 않을 것이다."라고 예측했었다. 물론 현실은 망했다. 기술이나 생산량에서는 문제없이 가능하지만, 인류의 이기심을 너무 얕본 모양이다.[44] 사실 에디슨만이 아니라 생체렌즈처럼 기적적, 사기적으로 보이는 과학기술은 생각보다 진짜 사기가 많다. 아니면 과장이거나. 까놓고 그게 다 진실이라면 그걸 다 할 수 있고 그런 정보에 대해 충분히 알고도 있는 소수의 상류층들이 왜 아직 초인류적이지 않겠는가?[45] # [46] 사실 사람이 자본 그 자체가 될 가능성도 있을 것이다.[47] 그들은 경쟁 기업보다 더 뛰어난 시스템, 하드웨어 및 소프트웨어 등을 가지고 자기들 나름대로 발전시키는 경우가 상당히 많다.[48] 반도체의 경우 공정이 미세화되면 집적 회로의 전자가 통제되지 않고 인근의 회로로 튀어 간섭되는 현상이 나타나는데, 현대 물리학의 동원에도 불구하고 아직까지 완전히 해결되지 않고 있다. 더 정확히 하자면, 현대 물리학이 맞았기 때문에 막을 수가 없다. 물리법칙을 능가하지 않는 이상 양자 터널링 효과를 막을 방도가 없기 때문.[49] 90년대 말까지만 해도 반도체 회사들이 거의 매해 제조 공정 미세화를 진행했으나 2000년대 들어 그 주기가 2~3년으로 길어졌고, 2010년대 들어서는 공정 미세화 주기가 더 길어졌고, 앞 주석이 전자 간섭 현상 탓에 양품률도 이전만큼 뽑아내지 못해서 판매단가가 상승하고 말았다. 2000년대 초반만해도 2010년대 이내에 한자리nm 공정에 돌입할 것이란 장밋빛 전망이 우세했으나, 2019년 현재 10nm대 공정도 제대로 안정화시키지 못한 상태다.[50] 하드 디스크, SSD 등[51] 물론 현재의 보조 저장장치가 80년대 후반 RAM보다 적어도 대역폭 측면에서는 훨씬 더 빠른 것도 사실이다. 하지만 공정 미세화도 거의 한계에 다가오는 현재에 그런 식의 발전을 기대하기는 어렵다.[52] 기술 발전 자체의 한계 등[53] 지구의 자연환경의 급변으로 인한 기술 발전 여건의 상실 등[54] 여러 요소에 의해 더뎌지고, 항상 최선의 절차를 밟는 것도 아니므로[55] 70년대 당시의 빠른 우주 개발 속도는 냉전시대 미소 양국의 체제 선전과 과학 기술 과시, 겸하여 군사 기술 축적을 위한 경쟁이기도 했기 때문이지만 이후로 우주 개발이 정체된 것은 로켓과 관련 기술의 한계 역시 크다. 가령 지구에서 우주로 물체를 올리는 데에는 기존의 화학 로켓을 이용해서는 어마어마한 비용이 들며, 화학 로켓 자체를 바꿀 만한 무언가가 없는 한 이 비용을 줄이기는 힘들다. 최근의 스페이스 X가 로켓 재사용으로 비용을 줄이려고 시도하고 있지만 근본적인 해결책은 아니다.[56] 이들이 소유한 특이점은 "알"이라고 불린다.