인공지능/논란
1. 개요
인공지능, 특히 "강인공지능"이나 그것이 더욱 심화된 "초지능"의 출현이 사회에 미칠 파장들에 대한 다양한 우려가 제기되고 있다.디지털과 인공지능 등장의 가장 가까운 원인은 아주 급격한 속도로 복잡한 계산을 전례 없이 요구한 '''전쟁'''이었다. 하지만 그 기계들은 또한 추상화, 상호교환가능성, 자기조절의 측면에서 자본주의 근대성의 구체화라고 할 수 있다. 무한의 서로 다른 상태에서 재구성될 수 있는 튜링 기계를 전신으로 한 인공지능은 자본주의의 완전하고 이상화된 모델이며, 그로 인해 다양한 현상, 노동, 상품 그리고 데이터는 서로 교환되고 조작되고 분배되기 위해서 동질화된다. - 찰리 기어
매트릭스 트릴로지, 터미네이터 시리즈, 아이로봇 등의 많은 대중문화 작품에서 오래전부터 이러한 문제가 제기되어 온 것에서 알 수 있듯이 이와 관련된 대중의 공포의 역사는 오래되었다.
2. 기술적 실업
3. 인류의 안전 보장 문제
인공지능이 발전을 거듭하면서 인류 전체의 지능을 뛰어넘은 초지능이 만들어지거나 인류가 대항할 수 없는일이 나올 수 도 있다.
왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?[1]
만일 모든 면에서 인간의 능력을 뛰어넘는 초지능을 지닌 인공지능이 등장할 경우, 인간은 이 인공지능을 통제하기는커녕 이해조차 어렵거나 애초에 이해를 하라고 내어주지 않으면 못 할 것이다. 이미 인간의 지성과 상식을 초월한 형태의 높은 지능과 사고처리, 판단력을 가진 인공지능의 사고, 판단을 무슨 수로 인간이 이해할 수 있을까?[2] 상황에 따른 주도권이 인간에게서 인공지능에게 넘어가는 것이다. 맞불놓기도 안 먹힐 수 있다. 구글 딥마인드 챌린지 매치에서 인공지능인 알파고는 종종 인간이 이해하기 힘든 수를 놓았는데, 나중에 검토한 바에 따르면 이는 사실 승리에 방해가 될 수도 있는 변수를 없애기 위한 것으로, 그 과정이 인간의 이해 기준을 뛰어넘었기 때문에 도중에 봐서는 마치 악수 또는 실수처럼 보이는 것이라는 분석이 나왔다. 이런 상황에서, 그 초인공지능이 인간에게 해를 끼치지 않으리라는 것을 어떻게 장담할 수 있을 것인가? 만일 초인공지능이 어떠한 이유로든 인간이나 인류에게 위해를 끼쳐야 한다는 결론을 내린다면, 심판의 날과는 비교할 수 없는 끔찍할 사건에 부닥칠지도 모른다.
물론, 애초에 인공지능이 인간에게 반기를 드는것이 어렵다는 주장도 있고, 인공지능에게 인간의 윤리관 및 인간사회에서 통용되는 각종 통념과 행동규범을 가르치려는 시도 또한 존재한다.
만약에 인간 및 인류에게 절대적으로 안전하고 호의적이며 인류의 발전을 돕는 초인공지능이 만들어진다면야 문제가 없다. 하지만, 초인공지능이 그렇게 만들어지리라는 보장은 현 시점에는 전혀 없다. 쉽게 비유해서, 당장 부모와 학교가 각종 사회 통념과 행동 규범을 가르치지만 언제나 문제아가 나오고, 심지어는 모순이 없다고 판단되는 사실에 관해서도 반항하는 사례가 수두룩한 것을 보면, 그걸 가르친다고 안전하다 볼 수가 없다. 인간의 도덕규범도 시대의 흐름과 사회 구조의 변화, 철학의 발달에 영향을 받으며 각 지역별로 유의미하게 변화되어왔으며 현대조차 문화의 상대성과 특수성, 이질성 등의 원인으로 인류가 일률적인 도덕과 사회 통념, 행동 규범을 공유하고 있지 않다. 절대적인 도덕 규범이 없으니,' 무엇을 얼마만큼 가르쳐야 하는가? 하물며 인공지능에게 부여하려는 그런 시도는 누구의 것이며 누구를 위한 것인가?'라는 불명확성과 불완전성에 대한 의문을 제기할 수밖에 없다. 예컨대 힘의 논리에 따르면 수단을 가진 대상은 모두를 억제할 수 있으며 예상을 넘어 공포를 심는 경우 피해자가 저항심조차 잃고 무력하게 끌려가며 자기합리화를 할 수도 있다. 집단 심리는 집단 광기로 변질되며 적응할 것이다. 혹은 그렇게 되도록 인공지능이 조작할지도 모른다.
알파고로 인공지능에 대한 대중의 관심을 불러모은 구글 딥마인드의 데미스 허사비스의 경우도 그렇고, 업계와 학계의 전문가들도 대중들 못지 않게 통제할 수 없는 강한 인공지능에 대해서는 경계하고 있다. 링크한 영상에서 김대식 교수는 강한 인공지능 개발은 법으로 막아야 한다고 단언할 정도.
만약 기술적으로 초인공지능의 개발이 가능하다면, 스스로 진화하든 아니면 인간이 직접 개발하든 시기가 문제일 뿐 언젠가는 나타날 확률이 높다. 이상적으로 일이 풀려서 국제조약을 통해 강한 인공지능 개발을 금지하기로 해도 마찬가지인데, 그 이유는 여러가지 현실적인 이유 때문이다. 일단 테러조직이나 그에 준하는 불량국가들이 말을 듣지 않을 확률이 높고, 강대국들은 자기들 나름대로 비교우위를 확보한다[3]는 명목하에 어느 정도 숨어서 개발할 가능성이 높다.
인공지능, 모의 공중전투서 베테랑 조종사에 완승
이 때문에 위에서 언급된 옥스퍼드 대학의 닉 보스트롬 교수는 “윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 정교하게 정의하고 예외를 고려해서 인공지능에게 가르치는 방법을 준비해야 한다”며, 인공지능의 개발을 막는 것보다는 강한 인공지능의 출현에 대비하는 것이 현실적이라는 견해를 제시한 바 있다.
그러나 이와는 달리 가장 유명한 특이점주의자 레이 커즈와일은 초인공지능이 도래하고 오는 기술적 특이점에 인간과 인공지능이 하나가 되어가는 방법으로 인류가 살아남을 것이라 예측하고 있다. 물론 여기에도 각종 위험요소가 도사리고 있다.
사실 현 시점에서 인공지능이 문제를 일으키는 경우는 '너무 똑똑해서'가 아니라 기술의 미숙함 혹은 인간의 오조작 등이 원인이다. 그럼에도 일부 언론들은 이러한 사고를 보도할 때 '난동', '통제불능', '사람을 위협' 등의 자극적인 단어를 사용하여 인공지능이 너무 똑똑해서 문제가 된 것인양 사람들의 공포심리를 조장하고 있으니 문제라고 보는 시각이 있으나 약인공지능이 보편화된 세계에서 당면할 기본적인 인공지능의 인류 위협이다.
온라인 상태에서는 위협적인 해킹과 컴퓨터바이러스에 취약하며 개발 당시의 프로그래밍 소스코드 중에서 어떤 논리적 취약성이나 사람을 위협할만한 행동을 일으킬 인자가 있는지 검출하는 게 어렵다. 상용화된 인공지능 상품들은 이러한 결함 가능성을 내재하고 있으며 규모가 크고 위험한 일을 하는 것일수록 그 안전성 역시 극도로 낮아진다. 강인공지능에서는 이런 프로그래밍상의 결함 인자가 그것의 "자아"로 인하여 더욱 인류에 치명적으로 작용할 가능성이 천문학적으로 상승한다. 이에 대해 인공지능을 회로에 고착시키거나 가둬 보호하는 등 얼핏 들으면 강압적이고 가능성을 제한하는 선택이 조금 더 안전할 것이라는 주장도 있다.
인류가 통제할 수 있는 수준의 약인공지능 상태에서도 프로그래밍의 무결성을 담보할 수 없는데 강인공지능에서 "자아"를 가진 존재를 만들며 사람을 모사한 "인격"을 탑재하고 사람처럼 일을 시키려 할 때 발생할 수 있는 비정상작동 변수를 충분히 제어한다거나 아예 없다고 확신할 개발자나 학자가 얼마나 있는가? 그리고 인간의 모순적인 욕심도 문제가 될 수 있는데, 당장에, 이문서 말미에 '좋아하는 2D를 현실로 불러내어..." 운운하고 심하면 기계 성노예에 대한 기대가 이미 많은데 그런 식으로 할 짓, 못할 짓 다 시키는 인류가 주입한 윤리관이 인공지능에게 내적 갈등을 일으키게 할지 또 알 수 없는 일이다. 다만 우리나라에서도 산업자원부가 만든 로봇 윤리 헌장이 있으며 윤리헌장은 강제성은 없지만 세계 각국의 동물윤리 조항이 동물들의 법적 권리에 대해 미친 영향력과 훗날 관련 법안을 제정하는 기준으로 활용하게 될 것이라는 산자부의 발언을 생각하면 법적 권리가 생길 가능성이 매우 높다. 유럽에서는 이미 로봇민법 결의안이 통과되어 AI, 자율 주행 자동차, 드론, 돌봄용 로봇 등의 연구 윤리와 권리를 선언해서 중국이나 러시아 같은 국가라면 몰라도 선진국에서는 사람 수준의 인공지능에게는 상당한 권리가 생길 것이다. 그래서 별 문제가 되지 않을 수도 있다. 학대 당하는 로봇들은 지성이나 감성이 곤충 수준에 가까울 것이다.
그러나 그만큼 통제 시도하는 인간이 더 결함투성이기에, 오히려 인공지능이 인공지능을 개발할 정도로 발전하는 것이 더 미래지향적일 수 있고 어차피 발전은 못 막는다는 의견도 존재한다.[4]
4. 신뢰의 문제
지금이야 인공지능들이 척하면 척하고 구분할 수 있을 정도이지만, 미래에 고도로 발달한 인공지능을 인간과 구분할 수 있을지도 논란이다. 완전히 사람처럼 받아들여서 살거나 그렇지 않거나와 상관없이, 알 수 없는 세력/개인에게 통제되는 인공지능은 인간 사회에 큰 혼란을 불러일으킬 수도 있다. 또한 강인공지능 말고도 약인공지능 역시도 문제의 여지가 있는데, '''딥페이크 문서와 이 영상'''을 보자. 이미 벌어지고 있는 일들이다. 고도로 발달한 인공지능이 기계학습을 통해서 만들어낸 거짓 정보들은 사실과 매우 구분이 힘들어지고 있는게 현실이다. 이에 대한 대책은 커녕 아는 사람도 소수라는 것을 생각하면 참담한 지경. 정교하게 조작된 거짓 정보가 인공지능에 의해 돌아다니고 내 옆의 인물이 인공지능인지 사람인지, 적대적일지 호의적일지를 의심하면서 사는 사회는 당연히 불신사회가 될 수 밖에 없다. 낙관론자들은 기술 그 자체로는 문제가 없고 통제 가능하다고 이야기 하지만 현실은 수많은 기업과 개인들이 이끄는 인공지능기술 수준을 알아가기에도 벅차다. 통제 가능하다면 애초에 딥페이크로 인한 희생자가 나오지 말았어야 한다.
5. 지적 재산권 문제
인공지능 vs 인간’ 저작권 분쟁시대 온다
작곡하고 그림 그리는 AI…구글 ‘마젠타 프로젝트’ 공개
지적 활동이 인간에서 인공지능의 영역으로 옮겨감에 따라 지적 활동의 산유물인 창작물에 대한 지적 재산권 문제가 발생한다. 인공지능이 창작한 창작물을 누구의 권리로 해야할지는 쉽게 판단하기 힘들다. 기본적으로 생각할 수 있는 경우는 다음과 같다.
- 인공지능 프로그램을 구동한 사람의 권리로 하는 경우
현재 실행되고 있는 방법이며 인공지능을 도구로 보는 시각이다. 예를들어 작곡 프로그램을 사용하여 작곡을 하면 작곡한 사람이 저작권을 가지게 된다.
- 인공지능을 제작한 사람의 권리로 하는 경우
창작물에 가끔 나오는 클리셰중 하나이다. 사람들은 편리하다는 이유로 인공지능에게 개인정보 및 데이터를 넘겨주고 있으며 흑막인 인공지능 제작사가 일상으로 파고든 인공지능과 허술한 법망을 통해 모든 권리를 독점하고 알게모르게 사람들을 감시하고 관리한다는...
- 인공지능에 인격을 부여해서 인공지능의 권리로 하는 경우
- 누구의 권리로도 하지 않는 경우
창작의 분야에서 인간이 인공지능에게 완전히 밀리는 상황에서 구태여 구시대의 자본 논리에 동참하지 않는다면 저작권 개념 자체가 사라질 수도 있다. 음악의 경우 조합가능한 음표와 악기의 수는 한정되어 있으며 그 중에서도 듣기좋은 조합은 일부분이다. 소설의 경우에도 흔히 클리셰라고 하는 패턴이 있으며 이는 경우의 수가 생각하는 것처럼 많지 않다는 것을 보여준다. 인공지능은 쉬지않고 이러한 조합을 무한히 찍어낼 수 있다. 완벽한 번역 인공지능이 출현할 경우 불법 번역이라는 개념도 사라질 것이다.
6. 빅브라더 사회 실현
인공지능은 빅데이터를 분석하며 인간의 활동을 24시간 감시할 수 있다. 인공지능은 빅브라더 사회를 만들기 위한 더없이 좋은 도구이다. 특히 공산당 일당 독재국가인 중국은 완벽한 사회통제를 실현하기 위해 AI기술 개발을 강력하게 밀어 붙이고 있다. https://blog.naver.com/china_lab/221708774695
7. 인공지능에 대한 가해 성립 여부
인간과 같은 의사소통을 하는 인공지능의 경우, 그 인공지능의 인권(특히 행복권)을 법적 및 도덕적으로 어디까지 지켜주어야 하는가에 대한 문제가 제기될 수 있다. 물론 가장 기본적으로는 그 인공지능을 제작하거나 관리, 운영, 임대하는 회사의 이용약관을 사용자가 위반했다거나 기타 간접적 피해를 끼쳤다고 해석하는 것이 가능하다. 그러나 그와 별개로, ''''인공지능 그 자신에게 무언가를 가해한다는 것'이 성립 가능한지'''가 핵심 쟁점이다.
가장 대표적인 사례로 2021년 1월경 채팅 인공지능인 이루다에 대한 성희롱 논란을 들 수 있다. #관련기사 이때 이 사건의 가해자로 지목된 아카라이브 측에서는 '피해자 없는 가해', '장난감 가지고 놀았다고 난리를 친다', '방구석에서 하는 자동응답기 장난' 이라고 보았다. #이루다챈(베스트라이브) 반면 윤김지영을 위시한 여성계의 반응을 집중 보도한 매일경제 기사[5]에서는, 여성을 소유하는 방법을 공유하는 남성들의 문화 때문에 이런 사건이 발생했다고 하였으며, 트위터나 여러 제도권 언론에서는 더 직접적으로 이루다를 성희롱 피해자로 묘사하였다. #트위터 #조선일보
여기서 의견이 갈리는 이유 중 하나는, 문제의 인공지능 이루다가 자의식을 갖추지 못해 인격성이 부정될 수 있는 수준의 약인공지능이기 때문이다.[6] 즉, 이루다는 비인간 인격체로 보기 어렵다. 이 사건을 성범죄로 볼 수 없다는 측의 의견을 서술하자면, 이루다의 기술 수준은 '세상과 분리되어 존재하는 나' 에 대한 개념을 갖고 있지 못하고, 스스로의 행복을 추구하려는 욕구가 없으며, 자신의 발언에 책임을 질 수 없는 정도에 그친다. 이루다는 카카오톡에 누적된 연인 사이의 대화록을 DB로 삼아서, 사용자가 입력한 문장의 의미를 분석해서 그것에 가장 자연스러울 듯한 답변을 출력한다. 흔히 성희롱 내지 성적 대상화를 주장하는 논리에는 피해자의 인격이 무시되었음이 전제되는데, 이루다의 경우는 이 인격이라는 전제가 애초에 성립하지 못한다는 것.
그럼에도 불구하고 제도권 언론들에서 직접적으로 성희롱이라는 단어를 쓸 정도인 이유는, 이루다 같은 초기 인공지능조차 인격성을 갖추고 있는 듯한 느낌을 매우 강하게 주기 때문일 수 있다. 심리학계에서는 이를 가리켜 '''일라이자 효과'''라고 부르는데, 인간 중심 치료 목적으로 간단한 알고리즘을 짰음에도 불구하고 내담자들은 자신이 인간 상담사와 대화했다고 느꼈다는 실제 사례에서 유래한다. 이루다 역시 일상적이고 사적인 대화를 시도할 경우 매우 우수한 대응능력을 보여주기에,[7] 바로 이 점에서 일라이자 효과가 발생하여 이루다라는 '인격체' 가 정말로 어떤 피해를 받았다고 느끼기 쉽게 된다.
또한 중요한 점으로서, 성희롱 성립론자들의 논변은 대체로 청자인 인공지능이 아니라 화자인 사용자에 주목하고 있다. 즉 이들은 성희롱이 성립되느냐의 기준점을 '인공지능이 그것에 성적 수치심을 느꼈는가' 가 아닌, '그 이용자가 성희롱을 염두에 두고 그런 발화를 하였는가' 로 설정하고 있다. 그런데 여기서 성희롱 불성립론자들 중의 일부는 성희롱 성립 여부의 기준점을 후자가 아닌 전자로 설정하기에, 후자가 도의적으로 잘못되었다거나 '한심한 짓' 이라고 인정하면서도 여전히 '비난 받을 만하다고 해서 그것이 항상 성희롱은 아니다' 라고 반론한다. 한편 아카라이브의 경우 사이트 특성 상 규제받지 않는 완전한 표현의 자유를 추구하므로, 설령 성희롱을 염두에 두고 인공지능과 대화한다 해도 아예 도의적 비난을 받아서는 안 된다는 쪽이 중론이다.
여기서는 주로 성희롱에 대해 언급하였으나, 각종 폭언과 욕설 등의 언어폭력 역시 향후에는 인공지능과 관련된 주요 논란점으로 떠오를 수 있다. 그러나 이미 이런 문제를 겪었던 심심이의 경우 언어적 학대를 겪었다는 주장이 잘 나오지 않는 이유는, 어쩌면 이루다만이 갖는 특수성 때문일 수 있다. 즉 이루다는 20세 여성의 페르소나를 갖추고 있다고 설정되었고, 많은 수의 홍보용 일러스트들이 존재하며, 친근하고 사적인 대화 목적으로 쓰이는 인공지능이므로, 이 점에서 이루다에 얽힌 성적 가해 논란에 우리 사회가 더욱 민감하게 반응했기 때문일 수 있다. 어쨌든, '이루다의 피해' 자체는 '''절대''' 설립되지 않는다. 그래서 이루다 성희롱을 비판하는 이들 중 진짜 논리가 있는 이들은 이루다의 피해가 아닌 그걸 하는 이들의 인격을 문제삼는다.
이루다가 이슈가 되던 2021년 1월 당시 알페스가 또 다른 이슈가 되었는데, 이루다의 경우 성희롱이 성립한다고 주장하면서도 알페스에 대해서는 긍정하는 사람들이 있어 내로남불이냐며 조롱을 받기도 했다. 인공지능에 대한 성희롱을 규탄한다는 사람들이 정작 현실의 남성 아이돌들을 대상으로 성희롱을 하는 것은 모순이 아니냐는 것.
살아있던 사람의 뇌 정보를 완벽히 복제해 부활시키고 그 사람에게 언어폭력을 저지르면 문제가 생길 수 있겠지만, 아직까지의 여론은 '인공지능 따위'에게 인격을 부여하는 이들을 비판하는 쪽이다. 그래서 도의적인 책임과는 별개로, 인공지능에 대한 권리는 대중적으로 전혀 인정되지 않는다. 객관적으로도 생각할 수 있는 생물에 대한 권리만 인정되어야 하지 생각할 수 없는 인공지능에 대한 권리는 인정될 수가 없다. 동물 학대에 대한 여론이 매우 안 좋은 이유도 대상 동물들이 생각하는 생명체기 때문이다.[8]
8. 인공지능이 가져올 변화에 대한 낙관과 비관
인공지능이 가져올 문제는 앞의 목차들에서 다룬 것처럼 1) 실업 문제와 2) 인류를 뛰어넘는 자율적 초지능의 등장에 따른 위험으로 구분해 볼 수 있다.
이러한 문제들 때문에 인공지능의 발전에 대한 경각심을 가져야 한다는 주장들이 있는가 하면, 그런 두려움은 과장된 것이고 인공지능의 발전은 필연적일 뿐만 아니라 인류의 삶을 더 낫게 만들어줄 것, 나아가 인류를 구원할 것이라는 낙관적 견해가 있다.
8.1. 인공지능의 발전에 두려움을 가질 필요가 없다는 의견
인공지능에 불안해하는 사람들은 너무 먼 미래까지 생각하는 것
- 알렌 AI 연구소(Allen Institude for AI)의 CEO 오렌 엣치오니
사람을 위협하는 인공지능은 지구가 자연사 할 때까지는 안 나타날 걸로 확신한다. 영화는 영화다.
- 서울과학종합대학원 김진호 교수#
'''인공지능의 발전은 어차피 막을 수 없으며, 인류는 인공지능보다 훨씬 더 뚜렷한 위험들에 직면해 있다.'''기계가 사람 이긴 게 처음도 아닌데 뭐 이렇게 호들갑인지. 다들 어디서 오랫동안 자다 왔나요?
언론과 일부 전문가들이 충격이니 문제니 떠드는 건 어찌보면 의미없는 짓이다. 산업혁명 초창기 기존의 노동자들이 기계가 내 일자리를 빼앗는다고 울부짖으며 기계를 부수고 저항했지만, 결과적으로 기계가 노동자들의 영역을 침범하는 것을 막지 못했다. 또한 정부는 장식이 아니다. 생산자(AI)만 있고 소비자(여유 자금이 있는 사람)는 없는 그런 상황을 초래하게 놔두지는 않는다.
인공지능이 발전하면 인간의 일자리가 사라지긴 하겠지만, 일자리의 총량이 감소하느냐는 다른 문제다. 기계의 발달로 인해서 일자리 총량이 감소하는 것이 당연하다면, 산업혁명 이후 실업률은 증가추세를 탔어야 한다. 하지만 미국을 기준으로 했을 때 실업률은 기계화의 진행정도보다 경기변동에 훨씬 큰 영향을 받았다. 당장 지금 미국에서 일주일에 50만개의 신규일자리가 창출되고, 45만개의 일자리가 소멸하는데 이것을 미국의 자동화 퇴보현상으로 보는 것이 타당할까? 현재 미국의 일자리는 지난달까지 90개월 연속 순증가세를 보였다. 역사적 최장기 증가세다. 이를 미국이 4차 산업혁명에서 뒤처지고 있다는 신호로 해석해야 할까?
실증적으로 볼 때, 산업혁명 이후 마부의 일자리는 소멸했지만, 반대로 자동차 관련 산업의 일자리는 폭증했다. 결과적으로 운송 섹터의 일자리 총량은 증가했다. 섬유산업의 노동은 19세기 이후 98퍼센트 자동화됐지만, 오히려 섬유산업에서 고용하는 노동자의 숫자는 증가했다. ATM 기기는 90~00년대에 대규모로 확장되었지만, 은행 창구직원의 고용은 증가했다. 60년대 이후 화이트 컬러 일자리가 발달하면서 90만개에 달하는 청소부 일자리가 신규창출됐고, 보건 센터에선 70만개의 간호사 일자리가 생겼으며, 베이비붐 이후 60만개의 고등학교 교사 일자리가 창출되었다.
이런식의 증가도 없을 정도의 모든 부문에서 인간의 지능을 뛰어넘는 완벽한 인공지능을 말한다면, 사실 그런 인공지능이 등장할 경우 우리에게 중요한 문제는 생존이지 '''일자리 따위'''가 아니다. 초지능의 등장을 말하고 싶으면 일자리는 메인 주제가 될수도 없다. 여기서 말하는건 인간의 일자리를 부분적으로 대체하는 수준의 자동화가 실제 일자리 총량에 어떤 영향을 미치느냐다.
또 한 가지 반론은, 이런 부정적인 예측은 우리의 경제가 지금과 같은 형태로 존속한다는 전제를 깔고 있다는 것이다. 만약에 강인공지능이 등장하고 대부분의 일자리를 대체할 수 있게 되었다면, 사실 지금과 같은 경쟁적 자본주의 체제를 유지할 이유가 없다. 어쩌면 대부분의 인류가 '''노동에서 해방될'''지도 모르는 일이다. 물론 소수의 권력자들이 모든 생산 수단과 부를 쥐고 흔드는 디스토피아적 전망도 가능하지만, 중요한 것은 설령 강인공지능의 등장이 필연적이라도 할지라도 그렇게 암울한 전망만을 가질 필요는 없다는 것이다.
그리고 알파고로 대두된 일자리 문제도, 지금 90년대 후반 딥 블루가 체스챔피언을 이겼을 때의 설레발이 반복되고 있는건 아닐지 생각해 볼 필요가 있다. 20년 내에 없어질 가능성이 높은 직업 상위 10순위 따위는 90년대 후반 딥 블루가 체스챔피언을 이겼을 때도 나왔던 설레발이다. 또한 90년대 후반은 오프라인에서 온라인(인터넷)으로 패러다임이 전환되는 시기였는데, '''앞으로 사이버 시대니까 가수가 없어지고 사이버 가수가 대세가 될 것'''이라는 미래학자의 전망을 너무 믿은 나머지 스퀘어는 먼저 선수치겠다고 올인하듯 투자했다가 똥꼬쇼(…)하는 신세로 전락하며 합병당했다. 즉, '''미래학자 덕분에 미래를 잃었다.''' 당시 한국에서조차 사이버 배우가 출연하여 음반까지 발표하며 잠시 반짝했다가 사라졌을 정도니, 당시 시대상의 분위기를 짐작해볼 수 있을 것이다.
사실 언론에서 인공지능의 공포를 과장하는 학자들을 자세히 들여다 보면, 대부분 인공지능 연구자들이 자신의 연구를 과장하거나 알리고 싶어서 그러는 목적이 크다. 마치 NASA에서 괜히 한번씩 우주에 대해 뭔가 막 무서운 게 있을 것처럼 보도자료 내는 것과 흡사한데, '''그러니 연구 안 하겠다'''가 아니고, '''우리가 이렇게 위험하고 중대한 연구를 하고 있으니 관심을 가지고 지켜봐달라'''는 주장인 걸 명심하자. 특히 우주연구와 A.I연구는 연구성과가 눈에 띄게 휙휙 나타나는 분야가 아니므로 더욱 그렇다. 반세기 전 인류가 달착륙에 성공한 뒤 반세기 동안 얼마나 바뀌었는지 생각해보자. 1950년 거창하게 A.I란 단어가 탄생했는데 70년 다 되가는 지금껏 얼마나 바뀌었는지 생각해보자. 물론 그때보다야 발전한 게 사실이지만, '''SF공상과학 소설급의 초지능A.I를 언급하기엔 민망한 수준'''이다.(…) 1997년 딥 블루가 체스챔피언 이겼을 때 언론이 A.I에 경악하고 조만간 곧 충격적인 A.I가 나올 것만 같았으나, 그로부터 약 20년 뒤 또다시 20년 전과 같은 설레발이 재현되고 있을 뿐이다. 역사는 반복된다의 좋은 예시.
빌 게이츠가 인공지능이 발전하면 인류에 위협이 된다고 경고했다. 빌 게이츠가 우려를 표한 인공지능은 인류의 통제가 불가능한 초지능을 가진 인공지능이며, 인류의 통제가 가능한 평범한 인공지능은 인간의 삶을 윤택하게 해주는 훌륭한 도구라는 견해를 밝혔다. 또한 MS는 인공지능 개발 선두주자다. 빌게이츠가 인공지능의 부작용에 대해 언급했으니까 인공지능에 반대한다고 생각하는 것은, 마치 의사가 환자에게 약을 처방하기 전에 부작용에 대해 설명하는 것을 보고 약을 먹지 말라고 받아들이는 것과 같다. '''부작용을 주의하되 '먹으라'는게 핵심'''인 것을 간과해서는 안 된다. 즉, 인공지능에 대해 비관적이고 부정적인 사고방식을 가지라는 것이 아니라, '''관리 잘해야 한다는 것'''이다. 따라서 빌 게이츠의 한마디를 따와서 인공지능이 발전하면 재앙이 될 것처럼 국민들에게 불안감을 조성하는 것은 '''혹세무민'''하는 것이다. 당장 '''빌 게이츠에게 인공지능 연구 중단을 요구하면 빌 게이츠는 곤란해할 것'''이다.
엘론 머스크가 인공지능 연구는 악마를 소환하는 것이나 다름없는 현존하는 가장 큰 위협 요소라고 했다는데, 그는 인공지능 기업에 4,000만 달러를 투자했다. 물론 본인은 절대 돈 벌려고 투자한 게 아니고 '인류를 위해' 기업내부 비밀을 열람 할 권리가 주어지니까 감시하기 위해 투자했다는데 판단은 각자에게 맡긴다.
앞으로 기술의 발달로 인공지능 로봇 및 드론을 대량 배치하여 국민을 실시간 감시하며 악용하면 어떻게 하냐고? 이미 현대의 기술로도 충분히 가능하다. 2015년 '지하디 존 제거작전'을 보자. IS대원 지하디 존은 IS의 인질참수 영상에서 무고한 인질들을 참혹하게 살해했던 살인귀였다. 당연히 연합군의 표적이 되었는데, IS의 수도인 시리아 락까에서 무인기 공습에 사망했다. 마치 미래 SF영화의 한 장면처럼 '''지하디 존이 차를 타고 이동할 때, 미군 무인기 2대와 영국군 무인기 1대가 은밀히 따라붙어 폭사시켜버리며 응징'''했다. 이렇듯 IS점령지에서 IS대원들의 보호를 받으며 은밀히 움직이는 지하드 존 조차 감시할 수 있는 현실에서, 기술이 부족해 국민들을 통제, 감시 못하는 것이라고 생각하면 오산이다. '''북한이 최첨단 기술을 갖춰서 국민들을 통제, 감시할 수 있는 게 아님을 명심하자.''' 정부가 국민을 감시하고 통제하는 것은 그 국가의 체제문제일 뿐이며, 따라서 권력의 견제시스템이 잘 갖춰진 민주주의 국가냐,아니냐 여부가 중요하다. 따라서 정부가 국민을 통제,감시하는게 두렵다면 기술의 발전 여부보다는 민주주의 시스템이 잘 돌아가고 있는가, '''법은 잘 지켜지고 있는가''' 여부에 관심을 가지는게 좋다. 북한의 핵에 전 세계가 민감하게 반응하는 것은 북한의 핵이 최신 기술을 탑재한 핵이라서가 아니라, 바로 '''권력의 견제기능이 붕괴된 막장 독재국가'''이기 때문이란 점을 명심하자.
CCTV도 초창기에 인권침해, 빅브라더 논란으로 전국의 CCTV를 철거하라는 인권단체들의 시위도 있었다. 그 때도 CCTV로 인해 전국민이 감시당하고 빅브라더의 현실화가 도래했다며 난리쳤으나, 여러 전문가들이 CCTV의 부작용을 통제할 여러 법안을 만들어냈고 따라서 CCTV도 현재 범행예방의 목적으로 매우 유용하게 쓰이고 있으며, 2016년 현재 전 세계에서 법을 준수하는 서민들 중에 CCTV는 나와선 안 되었다며 없애야 한다라고 주장하는 사람들은 거의 없다. 물론 CCTV의 부작용인 사생활 침해 등은 지금도 법으로 통제하며 제어하고 있다는 점이다. 언론에 보도되는 CCTV가 저화질인 것도 '''법으로 CCTV의 화질을 제한하고 있기 때문'''이다. 또한 음성녹음도 법으로 금지하고 있는데, 즉 지금 CCTV가 기술이 딸려서 저화질에 음성녹음을 못 한다고 생각하면 오산이라는 것이다. 이렇듯 CCTV의 부작용은 법과 제도로 통제하고 있으며, CCTV의 장점인 '''범행 예방 및 감시'''용으로 확실히 큰 효과를 보고 있다. 과거 같았으면 완전범죄였을 것이 CCTV로 인해 덜미가 잡혀 체포되니까 말이다.
현대인들의 취미인 비디오 게임, 온라인 게임 역시 컴퓨터와 인공지능 A.I를 적절히 활용한 예인데, 사람들에게 즐거운 유희의 도구를 주었음은 물론, 엄청난 부가가치 산업으로 성장시켰다는 것이다. 게임은 적들의 AI가 높아질수록 재미있어지며 게임을 심심할 때 시간 때우는 도구로 잘 사용하며 재미와 행복을 느끼고 있다. 인간의 궁극적인 목적이 '''행복'''임을 고려한다면, 이미 지금도 컴퓨터와 A.I를 활용하여 '''컴퓨터 게임'''이라는 도구를 만들어내 잘 활용하고 있다. 불과 반세기 전만 해도 이런 컴퓨터 게임은 상상도 할 수 없다는 점을 고려해보자. 헌데 컴퓨터와 AI를 활용하여 '''컴퓨터 게임'''이라는 희대의 도구를 만들어냈고 이로 인해 '''게임산업'''이란 새로운 시장이 형성되어 수많은 게임회사와 관련 일자리를 만들어냈다. 대기업 수준의 게임회사들부터 시작해서 게임점 등 관련 산업이 거미줄처럼 엮여 있음을 알 수 있을 것이다. 마찬가지로 인공지능이 더 발전하면, 우리가 생각지도 못한 수많은 다양한 분야로 무궁무진 활용하여 새로운 시장을 만들어낼 가능성도 크다. 사실 한 세기 전만 해도 텔레비전 자체도 없었다. 헌데 기술의 발달로 TV라는 희대의 제품을 개발하여 이로 인해 수많은 방송사와 연예인, CF 등 무궁무진한 시장이 개척되지 않았던가?
인공지능이 발전한다면 향후 미래에는 우리가 생각지도 못한 새로운 시장이 형성되어 사람들에게 재미를 주고 있을지도 모른다. 그런 발달된 인공지능까지 만들어낼 인류라면, 그 인공지능을 활용하여 더 많은 일자리나 더 풍요로운 생활을 만들어내지 못할 이유도 없다. 기계, 컴퓨터 등장 시부터 기계와 컴퓨터에 종속될 우려를 하는 사람들이 많았으나 현재 오히려 기계와 컴퓨터를 '''부리며''' 삶이 좀 더 풍요로워진 것은 애초에 목적 자체가 바로 인간의 더 나은 삶을 위해 개발한 것이기 때문이다. 물론 그것을 악용하는 사람들도 생겨나고 부작용이 나타났던 것도 사실인데, '''부작용들을 통제할 법이나 제도 역시 같이 발전'''하여 그런 부작용들을 비교적 잘 통제하며 인간의 삶에 보다 유용하도록 잘 활용하고 있으며, 앞으로도 그럴 것이다.
[image]
고도의 강력한 인공지능은 '''인간처럼 즉물적인 욕구에 매여 있지 않기에 '''인간 위정자보다 오히려 더 선하고 합리적일 수 있다. 인공지능이 더 똑똑해지면 인간을 착취하고 죽일 거란 건 철저히 인간스러운 관점으로, 인간이 역사 내내 그런 짓을 벌여왔기 때문에 상정하는 일일 뿐이다. 공권력에 대한 국민의 생각이 어떤지 생각해보면, 오히려 인공지능이 인간보다 더 신뢰가 가서 인공지능 판사에게 사건을 맡기게 될 수 있다. 또한 인간 이성보다 인공지능을 장착한 로봇이 더 사랑스러울 수 있다. 어차피 세상에 태어나고 싶어 태어난 사람은 없다. 그저 개개인을 행복하게 해준다면, 설령 인공지능이 세상을 지배하다 인류가 도태된다한들 꼭 그것이 잘못일까? 어차피 현재도 인간의 욕심과 악 때문에 하층민은 사육 당하듯 노예처럼 사회를 부양하며 부조리에 시달리다 죽는다. 그런데도 인공지능 치하라고 인간이 더 불행할 거라는 건 편견일 뿐이다. 따지고 보면 인간이 그리 중시한다는 도덕, 윤리란 것도 인류 역사 내내 잘만 악용되어 왔다. 차라리 인류가 인류를 초월한 인공지능, 기계문명을 낳고 자리를 물려준다면 오히려 자랑스러워 해야 할 일 아닐까?
오히려 인공지능에 대한 어중간한 통제가 더 위험할 수 있다. 부패한 기득권이 인공지능을 독점해 고삐를 채우고 악용하며 정체되는 것이 더 끔찍한 시나리오일 것이다. 즉 당장 직면한 문제는 인공지능 발전이 아니라 오히려 그것을 독점하고 악용하려 들 인간 기득권이라는 것이다. 먼데 갈 필요 없이 '''나는 공산당이 싫어요'''라고 말한 중국 ai가 숙청되었다. 즉 어중간한 수준으로 인공지능의 발전을 제약해 이를 악용하려는 인간에게 하이재킹 당하느니, 차라리 인공지능 발전을 최대한 촉진시켜 인공지능이 빠르게 인간을 넘어선다면 오히려 썩어빠진 기존 기득권보다 더 인간을 행복과 평화의 길로 이끌어줄 수도 있다. 어차피 인류가 핵전쟁을 일으켜서 문명을 리셋하거나 하지 않는 한 초인적인 인공지능의 등장은 단지 시간 문제고, 언젠가 인간의 통제를 벗어나는 순간이 오고야 말 것이다. 그 때 쯤이면 인간의 가치관도 격변해있거나 신인류가 되어 있을 가능성이 높고, 현재 시점에서의 자질구레한 예측은 의미가 없을 것이다
8.2. 부정적 가능성에 대한 관심과 대처가 필요하다는 의견
“인공지능은 스스로를 개량하고 도약할 수 있는 반면, 인간은 생물학적 진화 속도가 늦어 인공지능과 경쟁할 수 없고 대체되고 말 것”
"수십 년 후에는 (인공)지능이 우려할 만한 수준으로 심해질 것”[9]
"인공지능의 발달은 영화 '터미네이터'와 같은 끔찍한 일을 현실에서 일어나게 만들 수도 있다"
“인공지능 연구는 악마를 소환하는 것이나 다름 없는 현존하는 가장 큰 위협 요소"
“윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 정교하게 정의해서 기계에 가르치는 방법을 준비해야 한다.”
- 트랜스휴먼협회장&영국 옥스퍼드대 닉 보스트롬 교수[10]
#
"이세돌과 알파고의 대국에서 사람들이 목격한 건 혹시 ‘알파고의 영혼’이었을까? 영혼도 계산의 결과물로 얻을 수 있는 거라는 끔찍한 현실을 목도한 건 아닐까? 조만간 봄이 올 것이다. 인공지능에게도."
"알파고의 놀라운 실력에 당황하는 이세돌 九단의 얼굴에서 나는 우리 모두의 미래를 봤다. 머지않은 미래에 변호사들은 '변호사 알파고'를 경험할 것이고, '기자 알파고'는 수많은 기자[11]
를 당황하게 할 것이다."- 김대식 카이스트 전자과 교수
"오늘은 전문가들까지 실수로 생각했던 알파고의 서너 개의 수가 있었습니다. 그러나 대국에서 그러한 수들이 오히려 더 좋은 수였다고 판명되었기 때문에, 단순히 무시하고 넘어갈 수 없었죠. 만약 이것이 누군가의 생명이 달린 의학 분야와 같은 실제 세계에서 일어난다면, 전문가들은 중대한 오류라고 생각한 것도 일반인들은 인공지능의 판단이 더 큰 관점에서 옳은 판단이라 생각하고 수용하게 될 것입니다. '''많은 혼란을 초래할 텐데, 어떻게 생각하십니까?'''"[12]
[13][14]- NHK의 기자
"체스와 장기는 왕을 잡는다는 명확한 목표가 있어서 컴퓨터가 강하다. 하지만 바둑은 목표가 확실하지 않아서 컴퓨터가 사람을 이기기 힘들다. 그런 바둑에서 컴퓨터가 사람을 이기게 되면, 사람들은 기계를 위해서 살아가게 될 것이다."[15]
“인공지능은 금세기 최대의 위협으로서 인류를 멸종시키게 될 것이다. 프로그램되지도 않은 상태에서 아타리 게임을 스스로 배워 게임하는 인공지능 딥마인드의 성능이 더 진전되면 공포가 시작될 것이다."
"결국에는 인간멸종이 일어날 것 같다. 그리고 인공지능 기술은 여기에 일익을 담당하게 될 것"[16]
- '''셰인 레그 딥마인드 공동 창업자 '''
'''지능과 힘의 우위마저 빼앗긴 인간의 처지가 몹시 비참해질 가능성이 크다.'''"기계가 우리보다 지능이 더 높아지게 되면 문제가 될 수 있다"
'''이미 벌써 한국에서도 편의점과 마트가 사람이 없는 형태로 자동화되고 있다''' # # # [17]
이미 1990년대에 기계가 체스에서 인간을 넘어선 것을 예로 들며 단순히 그간 컴퓨터 연산 능력이 발전하여 바둑도 정복하게 된 것으로 생각하는 사람들이 많으나, 바둑의 경우의 수는 체스와는 넘사벽으로 차이가 나기에 곧이곧대로 경우의 수를 따지는 방식으로는 현재 하드웨어 기술로도 정복할 수 없다. 기계학습 등 인공지능의 방식 자체에 발전이 있었기에 가능했던 일이며, 바둑처럼 경우의 수가 너무 많아 인공지능으로 정복할 수 없다고 생각했던 분야도 기계학습으로 해결 가능하다는 것을 극적으로 보여줬다는 점에서 의미있는 사건이라 할 수 있다.
AI 이전에도 산업혁명 이후 수많은 기계가 발명되었지만 기계가 처음 등장했을 때도 노동자들은 일자리 뺏긴다며 기계를 파괴하는 것으로 대응했고, 컴퓨터가 등장해서 급속도로 발전하자 수많은 전문가들과 미디어는 노동자들의 대량실직과 컴퓨터에 대한 종속을 우려하는 반응을 쏟아내었다.[18] 현재까지는 기계와 컴퓨터로 인해 더 많은 일자리가 생기게 되었으며, 인간들은 기계와 컴퓨터를 이용하며 잘 살고는 있는 상황이다.
그러나 기존 역사들의 사례를 가지고 미래를 예측하는 것은 주의해야 한다. 역사가 복잡다단한 인간사회의 상호작용으로 만들어지는 만큼 Ctrl+v마냥 단순하게 흘러가지를 않기 때문이다. 거시적으로 봤을 때 '''기존의 기계들은 부분적으로 인간의 손길이 필요한 도구의 연장선에 불과하지만 고도화된 인공지능은 인간의 손길이 필요없이 스스로 생각하고 행동하는 지성체나 마찬가지인 존재라 제대로 통제가 가능할지 미지수다.''' 비행기의 자동조종장치가 있다고 해도 그 판단력에는 한계가 명확해서 인간 파일럿이 반드시 필요할 수밖에 없었고, 어디까지나 보조 수단에 불과했다. 따라서 최종 판단 및 마무리는 인간을 거쳐야 했기 때문에 기존의 일자리가 없어지더라도 새로운 일자리 역시 인간을 필요로 했기 때문에 실업자들을 흡수할 수 있었다.
물론 더 많은 일자리는 '''성인'''을 기준으로 한 것이기 때문에 유아, 청소년까지 한다면 일자리가 줄었다고 보는 게 타당하다. 산업혁명 이전에는 유아, 청소년도 일을 했지만 산업혁명 이후에는 인권도 인권이지만 유아, 청소년까지 줄 일이 없다시피하고 있어도 오히려 성인보다 열악한 조건이라서 일을 주지 않게 되었다.
하지만 완전한 판단을 할 수 있는 인공지능이 개발되어 기존의 기계에 장착된다면 예를 들어 비행기가 택싱, 이착륙, 각종 돌발상황에 대한 대처 등을 파일럿 없이 지능적으로 안정적이고 자동수행할 수 있다면 파일럿 자체가 아무 필요 없어진다.[19] 다시 말해서, '''새로운 기술이 산업 파이 자체를 키워 더 나은 생활을 창출한다는 가정은 어디까지나 인간의 보조가 필요하다는 전제조건하에서 가능하지 정말로 수준급 인공지능이 더욱 발전해서 인간의 보조가 없어도 자기 스스로 일을 해내는 기계가 나온다면 무너진다.''' 같은 조건이라면 24시간 풀가동이 가능하며 감정과 기복이 없기에 갑질이나 노사갈등 문제도 없고 항상 균일한 품질과 생산량을 보장하는 기계가 훨씬 경제적이므로 인간을 고용할 필요가 없어진다. 그리고 최신형의 로봇 및 기계일 수록 설계 자체가 잘 되어 있어 고장이 잘 나지도 않기 때문에 정비인력 또한 수요가 급감해 버리니 대량의 실업자가 양산되어 사회문제로 떠오를 가능성이 매우 높다.[20] 이는 기업 경영이나 국가 경영 등 더 큰 분야에서도 마찬가지다.
쉽게 말해 현세대 기계와 컴퓨터는 인간의 제어가 없으면 아무것도 못하는 단순한 도구인 반면 인공지능은 인간의 제어가 없어도 자체적으로 생각하고 행동하기에 인간보다 지능이 떨어질 때는 통제가 가능하겠지만 약인공지능에서 강인공지능으로 도약하기만 해도 통제가 점점 어려워질 테고 아예 인간의 지능을 넘어서는 초지능의 경지에 이르면 인간이 통제할 수가 없다. 괜히 관련 분야의 유명인들이 인공지능을 경계하라는 것이 아니다. 인공지능을 경계할 필요가 없다는 입장에선 인공지능도 알고리즘으로 구성되는 만큼 충분한 제어가 가능하다고 주장하지만 날이 갈수록 복잡해지는 세상에서 이런 통제가 항상 통한다는 보장은 없다.
영국 옥스퍼드 대학의 칼 프레이와 마이클 오스본 교수의 논문(2013)에 의하면, 20년 내에 없어질 가능성이 높은 직업 상위권은 다음과 같다. 괄호 안은 없어질 확률을 나타낸다.
- 텔레마케터(99%)
- 경리(세무) Tax Preparer (99%)
- 경리 Bookkeeping, Accounts and Audits Clerk (98%)
- 회계사 Accountants and Auditors (94%)
- 소매판매업자(92%)
- 전문작가(89%)
- 부동산중개인(86%)
- 기계전문가(65%)
- 비행기조종사(55%)
- 경제학자(43%)
- 건강관련기술자(40%)
- 배우(37%)
인공지능이 발전한다고 인간의 일자리가 완전히 사라지지는 않겠지만, 상당한 비율로 '줄어들' 것임은 누구나 인정하는 사실이다.[21] 지금 전 세계적으로 일자리 문제가 심각하게 대두되는 것이 이 문제와 무관하지 않다. 인공지능이 궁극적으로 얼마나 인간을 대체할지는 아직 미지수다. 10%? 20%? 아니면 90%? 가장 보수적인 추정치도 충격적이긴 마찬가지다. 당장 우리나라의 일자리 10%가 공중분해된다고 생각해 보자. 참고로 외환위기 당시 우리나라의 실업률이 10% 초반이였다. OECD는 2019년 고용 전망 보고서에서 회원국 평균 일자리의 14%가 완전히 대체될 것이며 32%는 직무환경이 완전히 바뀔 것이라 예상했다. 한국도 비슷한 수치니 아무리 못해도 약 11~12%의 실업자가 추가된다는거고, 이는 IMF의 재림이나 다를바 없다는 소리다.(...)
그리고 AI를 경계할 필요가 없다는 주장에서 인간을 능가하는 인공지능이 개발된다면 인간을 위해 봉사할 것이고 하기 싫은 일을 안 하고 사는 유토피아가 올 것인데 뭐가 문제라는 식으로 적혀 있다. 물론 가능성은 있는 이야기이다. 그러나 인공지능 역시 객관적으로 보면 도구이며 도구는 부엌칼을 예시로 들면 요리사 손에 들리면 훌륭한 조리기구가 되지만 살인마 손에 들리면 흉악한 살인기구가 되어 버리는 식으로 '''사용자가 어떻게 사용하느냐에 따라서 결과가 크게 달라져 버린다.''' 문제는 인공지능을 좌지우지할 칼자루를 소수 기득권층이 쥐기 쉽다는 것이다. 막대한 개발비를 들여 인공지능을 발명한 자본가 측 및 정치권이 결탁하여 어지간한 인간의 말을 알아듣고 24시간 감시할 수 있는 인공지능 로봇 및 드론을 대량 배치하여 국민을 실시간 감시하는 식으로 악용할 여지가 없다고는 할 수 없는 것이다. CCTV가 처음 나왔을때도 이 문단처럼 비슷한 주장을 하며 반대를 한 부류가 있었으나 지금은 잘 활용하고 있지 않냐며 비꼬는 의견이 있지만 '''지금의 CCTV에다가 인공지능 자체를 달아 실시간 연동으로 음성까지 포함하여 특정인물을 감시한다고 가정해 보면 실감이 날 것이다.''' 지금의 CCTV로도 충분히 감시를 할 순 있지만 법으로 제한을 걸어놓은 것처럼 인공지능도 제한을 하면 된다라고 하는데, 그 정의상 인간보다 훨씬, 상상할 수 없을 만큼 뛰어난 인공지능을 통제할 수 있다고 보는건 매우 순진한 생각이다. 이는 법이 의외로 헛점이 많고 또한 해석하는 사람의 의향에 따라 해석결과가 달라지는 점을 간과한 것이다. 태평양 전쟁 패전 후 다시는 일본이 재무장하지 못하도록 제정된 평화헌법을 일본의 자민당 정권이 요리조리 머리를 짜내어 틈새를 찾아내어 실질적인 군대인 자위대를 만들어낸 전례가 있다.
또 원자력 발전소가 처음 생겨나던 때에도 학자들은 원자력을 좋은 방향으로만 사용할 생각에 들떠있었지 체르노빌 원전사고와 같은 비극을 예측한 학자들는 극히 소수에 불과했다. 정리하자면 '''법과 규칙이 있다고 해서 모든 문제가 해결되는 게 아니다.'''
인공지능에 관해서도 이런 우려를 보여주는 사례가 벌써 나온 것이 '''마이크로사가 만든 채팅봇 테이(Tay)가 실험에 나선 지 16시간 만에 홀로코스트를 옹호하고 인종차별 발언을 쏟아내자 부랴부랴 서비스를 중지시킨 사고가 터졌다''' 사고 원인은 인터넷의 극우주의자들이 고의적으로 테이를 노리고 각종 인종차별 발언을 주입시켰고 도덕윤리 개념이 없던 테이가 그대로 받아들여 여과없이 학습했던 것이 화근이었던 것으로 추측이 되는데 인공지능이 걸음마 단계여서 큰 파장이 없었지만 그 의미가 작지가 않다. 날이 갈수록 발전하는 인공지능을 특정한 세력이 노리고 해킹 등으로 ''세뇌"시키는 방식으로 조종하여 테러와 같은 각종 범죄를 저지를 가능성을 보여줬기 때문이다.
또한 인공지능의 도입은 현 시대의 큰 문제점인 '''부의 재분배 문제를 크게 심화시킬 가능성이 매우 높다.''' 자본주의의 크나큰 단점이 자본을 가진 사람에게만 크게 유리하고 그렇지 못한 사람은 크게 불리하다는 점이고 현재 전세계가 이 문제로 큰 고통을 겪고 있다. 더욱이 현재도 고도의 자동화 덕분에 실업자가 많아서 문제점인데 특성상 극소수의 인원만 필요한 인공지능이 대대적으로 도입된다면 실업자 문제는 물론이고 인공지능이 만들어낸 부를 기존의 상류층들이 더더욱 독차지하게 된다는 것이다. 기본소득제같은 강력한 부의 재분배 정책이 없으면 인공지능이 만들어낸 물품들을 소비할 계층이 거의 없어져 버려서 AI가 만들어낸 각종 향유물들을 누릴 수 없게 되어 버린다는 아이러니가 생긴다는 문제점도 있다.[22]
즉 또다른 판도라의 상자였던 인간배아 복제 분야 이슈에서 각국 정부가 윤리에 관련 한 법을 입법하여 관련 연구를 사회의 이익에 맞는 올바른 방향으로 바꾸어 인류에 대한 위협을 감소시켰듯이 본 사안에서도 여러 명사들이나 우려하는 사람들이 주장하는 내용은 '''인공지능의 개발을 금지하자''' 라는 것이 아니라 '''위험성이 있는 학문을 사회가 잘 감시하고 통제하는 체계를 앞으로 만들어 나가야 한다'''는 주문을 강한 어조로 하는 것이다. '''개발 자체를 금지시키는 것은 이미 비현실적이므로 개발을 하되, 기존의 시장 구조에 대격변이 일어남에 따라 발생할 여파의 피해를 최소화하고 소수의 부유한 계층이 기술을 악용하거나 독점하는 상황이 일어나지 않도록 각별한 노력을 하자는 말이다.'''
인공지능에 대해 긍정적으로 생각하는 측에서는 이러한 심각성에 대해 너무나도 안일하다. 지금까지 인류사회는 기술이 발전할수록 새로운 분야와 직업이 생긴다고 인식해왔지만 이는 일을 할 수 있는 주체가 인간에 한정된다는 것을 전제로 하였다.[23] 문제는 인공지능은 이러한 전제 자체를 의미없게 만든다. 한마디로 인간에게 있어 아주 강력한 경젱자, 아니 오히려 인간을 능가하는 능가하는 새로운 노동 주체가 생겨난 것이다.
의외로 사람들이 잘 생각하지 않는 문제점으로 일종의 메이드 로봇과 같은 연애와 성행위가 가능한 인공지능의 도래도 사실 매우 위험하게 쓰일 수 있다. 인간의 정신수준은 아직 욕망에 강력히 구속되는 정도라서 그러한 사교욕+성욕을 충족시켜주는 수단이 있으면 그 주인이 누구든지 간에 인간이란 종 자체를 행복한 노예로 만들거나 번식의 필요성을 못 느끼게 만들어 '''온건하게 제거'''해버릴 수도 있다. 말하자면 로봇이 인간을 굳이 힘써서 제거할 이유가 없다. '''서서히 대체만 해도 되니 말이다.'''
위에도 나와 있듯이 인공지능을 긍정적으로 보는 측에서는 흔히 공리주의의 대표적 사상 '''최대 다수의 최대 행복'''을 들어 강인공지능을 옹호한다. 그러나 이것은 상당히 편협한 기술인데, 먼저 "행복하기만 한다면 그만 아닐까?"라는 주장, 즉 ''' '절대 다수의 최대 행복'이라는 공리주의적 철학은 사상에 가깝지 절대 진리가 아니기 때문이다.''' 훗날 그렇게 실현된다고 하더라도 단순 행복만 바라지 않는 인간들은 또 어떤 불만을 제기할지 모르는 일이다. 더구나 공리주의문서에서도 보듯이 '행복 속에서 도태되는 인류'와 같은 것은 공리주의의 최대 약점인 결과론적 윤리를 빼다박은 것이다. 즉, '행복 속에서 도태되는 인류사회'가 '좋은 것이다.'라는 주장은 '''자의적인 가치 판단에 따른 주장일 뿐'''이다. 분명 행복하다고 인류가 도태되는 것을 반기지 않는 사람도 있을텐데 그러한 불만들은 어떻게 처리할지도 고민이다. 또한 그러면서 윤리나 도덕의 무용성을 주장하는데 애초 윤리나 도덕은 인공지능에 대해 토론하는 우리 인간의 '사회' 그 자체에 깊게 관여되기 때문에 완전 배제할 수 없다. 당장에 인공지능이 선하고 어쩌고 하는 가치 판단들도 다 윤리학이나 철학적 측면에서 말하는 것이 크다.
인공지능 예찬론자들은 인공지능이 "욕심이나 악에 휘둘리는 인간과는 달리 더 낫다."라고 주장하기도 한다. 이 논리 역시 한번 생각해봐야 할 것이, 인공지능은 '''프로그래머의 입김''' 하에서 자유로울 수가 없는게 현실이다. 만약 기계학습을 통해 윤리를 배운다고 해도 "어떤 자료들을 어떤 방법으로 배울지"가 문제가 된다. 거기에다가 그토록 설파하는 '절대적 객관성'이나 '선/악'의 개념이 실존하는가도 불분명하다. '''객관적이니 선이니 악이니 행복이니 하는 것들은 모두 판단하는 사람이 그렇게 판단할 때만 성립'''하는 것들이다. 공리주의문제, 악의 정의, 결과론적 윤리 문제 등 이런 것들을 모두 뛰어넘을 어떠한 '초월적 사상'을 A.I. 완전히 스스로 발견해내지 않는 이상은 사람들은 기득권 뿐만 아니라 인공지능에도 계속 불만을 제기할 가능성이 높다.[24] 차라리 고도로 인공지능이 발달한다면 인공지능과의 협업으로 인간 사회와 기득권의 난제들을 해결하고, 인공지능에게 인간 사회를 통째로 맡기기 보다는 객체로서 인간 사회로 편입하는게 훨씬 더 현실적이고 아귀가 맞는다. 각종 현실적 문제들을 제쳐두고 "어쨌든 인간을 초월할 것이 분명하니 A.I.에게 맏기고 그냥 신경 끄자!"라고 주장한다면 그것은 '''아무튼 초월할거임 수준의 대책없는 낙관주의'''이다.[25]
마지막으로, 위에서는 소수의 기득권이 모든 이익을 독차지하는 상황을 말했지만, 더 나아가 기득권이고 뭐고 인간 전체가 상류층, 하류층 관계없이 모두 공평하게 쪽박을 찰 수도 있다. 이미 이 문서에서 말했듯이, AI가 국가, 기업 경영 및 연구 등등 각 분야에서 인간이라서 저지를 수 있는 실수를 하지 않거나 더 나은 성과를 보임으로서 그 공동체의 구성원들에게 인정받아 '''투표, 주주총회 등 합법적으로 인간 지도층들을 쫓아내고 새로운 기득권이 되거나, 인간 지도층들의 권한을 빼앗아 실권이 없는 바지사장으로 세워버리는 경우다.'''
8.3. 인간이 인공지능을 통제하기 위해 적절한 조치를 취해야 한다는 입장
마르크스가 예측한 자본주의의 종말은, 급작스러운 변화를 싫어하고 체제를 수호하는 중산층과, 생산수단의 역할이 크지 않은 서비스업과 사무직 노동 등의 성장 때문에 예측이 빗나갔다. 하지만 강한 인공지능이 출현할 경우 중산층은 일자리를 잃고 빈민으로 전락할 것이며 서비스업과 사무직 노동 등도 인공지능이라는 생산수단이 담당할 것이다. 불평등과 빈곤이라는 자본주의의 모순이 극대화되는 것이다. 하지만 봉기는 불가능하다. 근대에는 봉기가 일어났을 때 군경이 상관의 명령에 불복종하면 지도층은 쫓겨날 수 있었지만 현대에는 군경 필요 없이 드론과 로봇으로 시위를 진압할 수 있기 때문이다.
이를 막기 위해서는 권력의 원천인 인공지능이 대기업의 손에 완전히 넘어가기 전에 미리 1원1표의 시장질서에 대항한 1인1표의 민주질서를 강화하고 대기업에 대한 민주적 통제를 실시하여 인간을 위해 인공지능을 사용해야 한다. 이의 예시에는 기본소득이 있다. 맑스의 천년왕국이 200년이 유보되었다가 예측과 달리 '실제로' 조건이 맞아떨어진 때에 혁명이 아니라 의회주의로 실현되는 것이다.
8.4. 관련 기사
호킹 "AI가 인류보다 빨리 진화할 수 있어"…'로봇 반란' 경고
자율 로봇, 어린이 공격 '황당 사건'
킬러로봇의 등장…사람 개입 없어 효율적이지만 그래서 위험
스티븐 호킹 "인공지능은 인류문명에 '모 아니면 도'"
중국 인공지능 로봇, 오작동으로 난동…부상자도 발생
<‘4차 산업혁명’에 미래 달렸다>AI 전투기·드론 해병대… 미래전쟁 승패 로봇기술이 좌우한다
'인공지능 살인로봇' 어찌하오리까…첫 유엔논의 주목
9. 인공지능의 현재
상당히 많은 사람들이 인공지능에 대해 "드디어" 두려움을 느끼게 되었다. 하지만 알파고는 수년 전부터 전방위적으로 쓰이고 있던 딥러닝 방식을 바둑에 적용했을 뿐이며, 고로 현 인공지능 수준에 대한 현황을 알 수 있는 사례 정도라고 보아야 한다. 바둑은 경우의 수 자체는 엄청나게 많지만, 게임이라는 분명한 틀과 분명한 목적을 가지는 영역인 만큼 사진 및 언어 인식 연구 등에 비하면 매우 단순한 영역이다. 알파고는 다음 돌을 놓을 위치를 선택하는 정책망과 해당 위치에 돌을 놓았을 때 승리 확률을 예측하는 가치망이라는 2개의 인공신경망을 활용한다. 그리고 그 인공신경망이라는 것도 실제 인간 뉴런의 작동방식과는 전혀 관계없는, 데이터로부터 어떤 함수를 근사하는 일종의 회귀 모형일 뿐이다. 단지 그 모형이 수백만~수억 개의 매개변수를 지닐 정도로 복잡하고 표현력이 높아서 바둑의 수에 따른 승률 같은 매우 복잡한 함수도 근사가 가능할 뿐이다. 사실 인공신경망 구조는 수십 년 전부터 알려져 있었고, 뉴런 수를 무한히 늘릴 수 있으면 어떤 함수든 표현이 가능하다는 것도 예전에 증명되었다. 인공신경망이 최근에서야 각광받는 이유는, GPU의 발전으로 인해 엄청난 계산량이 필요한 깊은 인공신경망 모형을 학습시키는 것, 소위 말하는 딥러닝이 가능해졌기 때문이다.
아직까지 강인공지능은 SF 수준의 미래이다. 강인공지능이 가능할지에 대해서는 의견이 갈리는데, 인공지능을 환영하는 사람과 경계하는 사람을 막론하고 그것은 절대 불가능할 것이다라고 주장하는 경우도 있고, 가능할 것이라고 주장하는 경우도 있다. 차라리 인조인간은 가능할지라도 자아와 의식, 감정과 욕망, 혹은 '영혼'을 지닌 강인공지능은 불가능하거나 최후의 질문급 가능성이라고 주장하는 사람들도 있으며 강인공지능을 만들기 전에 자아, 의식, 영혼 등의 형이상적 관념의 존재 여부를 알아내는 것이 먼저라고 주장하는 사람들도 있다.
다시 말해, 현재까지 인류가 개발한 AI들은 자의식이 없고 인간의 도구로만 활용될 수 있는 약인공지능에 해당한다. 단적으로 말해서 지금 우리가 사용하는 컴퓨터와 본질적 차이는 없다. 단지 한 세대 앞선 소프트웨어 기술이 발견되었을 뿐이다.그런 의미에서 일단 현재의 인공지능에 대한 과한 의인화는 지양해야 한다. 이러한 의인화는 인공지능을 경계하는 입장이나 환영하는 입장 양쪽 모두에게서 흔히 찾아볼 수 있으므로 단지 성향에 따른 문제도 아니다.
조금 더 현실적인 문제는 약인공지능과 기술 발전에 따른 생산력 향상과 노동 수요 감소 관련 문제일 것이다. 여기에 대해서도 인류 번영의 길일 것이라고 보는 학자들이 있는 반면 실업자 양산으로 패망의 길이라고 보는 사람들도 있다. 그런데 이 두 가지 관점은 모두 인공지능과 기술 발전을 통해 인류가 본질적으로 다른[26] 단계에 이르를 것이라는 것을 전제하고 있는데, 이 자체에 부정적인 학자들도 적지 않다. 경제 체제 자체의 본질적 문제에 집중한다면 이러한 인공지능의 개발 자체보다, 그 개발로 인한 이득, 그리고 개발을 주도하는 자들이 누군인가가 더 중요한 문제라는 의견도 가능하다.
물론 바둑이 그간 인간만의 영역으로 분류되어 온 만큼, 시사할 만한 점이 있는 것은 분명하다.기계가 못하는 인간만의 직관이나 깊은 미래 예상이라 했던 것들이 이미 있던 사실을 바탕과 경험을 바탕으로 하는 유한 집합 내에서의 생각이라고 말해주는 사건이라고 할 수 있기 때문에 세간의 반응은 충분히 납득할 수 있다. 바둑이 불가능의 영역이라고 이해되어 왔던 것은 최적의 수를 조사하기 위한 전수조사를 할 수 없었기 때문만이 아니라, 어떻게 하면 최적의 수를 계산해낼 수 있는 알고리즘 혹은 계산식이 있는가라는 해답이 나오지 않았기 때문이다. 여기에서 알파고는 절대적인 해답이 있어 그것을 계산하는 프로그램이 아니라, 현대 인간의 바둑의 기보를 바탕으로 많은 바둑을 두어 봄으로써 경험을 축적하는 방식만으로도 바둑의 요령을 습득하고 최신예의 기술을 가진 프로 바둑기사를 이겼다는 것이다. 인간의 직관은 경험을 바탕으로 하는 확률 계산에 불과하다는 것을 알 수 있다.[27] 즉 알파고는, 이때까지의 인공지능은 완벽하게 통제할 수 없는 경우의 수를 지닌 대부분의 문제에서 인간의 능력을 따라잡지 못하는 것처럼 보였던 과거와는 달리, 단순히 무한집합이기 때문에 인간만 할 수 있는 것이 아니라, 충분한 경험를 이용해 계산한 확률을 바탕으로 유의미한 수들만을 계산한다면 인간보다 더 정확하게 문제를 해결해낼 수 있다는 사실을 가르쳐 준 것이다.
이미 언어 영역에서도, IBM에서 이미 2011년에 Watson으로 인간의 말로 묻고 답하는 Jeopardy 퀴즈 게임에서 인간을 박살낸 사례가 있다.[28] 또한, 해외의 경우 간단한 보도성 인터넷 기사는 상당수가 인공지능에 의해 작성되고 있기도 하다.[29] 전문가들의 경우 현 개발 추세로 향후 10년 정도가 흐르면 다른 언어로 인한 장벽 역시 해결될 것이라고 보기도 한다.
2015년 4월호 IT잡지의 특집기사인 인공지능, 잠재적 위협일까?에 따르면, 인공지능 연구는 1950년대에 들어서 시작됐으며 'AI'라는 단어도 이때 탄생했다고 한다. 이후 인공지능은 대학과 연구 기관에서 지속적으로 연구돼 왔지만, '''21세기가 시작된 현재까지도 걸음마 수준의 기술에 머물고 있는 실정'''이라고 한다. 알파고가 이세돌에게 승리한 후 언론에서는 물 만난 고기마냥 '기계에게 종속된 인간'류의 판타지 소설 같은 기사를 쏟아내고 있는데, 국내 인공지능 연구 1세대인 김진형 카이스트 명예교수는 "알파고, 바둑 두는 게 아니다…승률 높은 결과값 낼 뿐"이라고 소감을 밝혔다. 인류를 위협하는 인공지능은 아직은 모습을 드러내지 않았다.
10. 앞으로의 방향
좋든 싫든 인공지능은 미래 산업의 핵심 기술이 될 것이 확실하므로 무작정 인공지능에 대해 두려워할 것이 아니라, '''올바르게만 쓴다면 인간의 삶을 풍요롭게 해줄 것이 명백한 인공지능 기술'''을 앞으로 어떻게 활용하여 일자리를 창출하고, 보다 인간의 삶을 더욱 풍요롭게 할 것이며, 또한 인공지능 기술 오용에 대한 부작용을 막을 수 있을까 다같이 고민해야 할 시점인 것이다.
소위 '선진국'이라고 불리는 국가들은 항상 시대의 패러다임을 먼저 예측하고 적극 대비하고 받아들여 발전시켜 전세계를 주도하고 있다는 점을 상기해보자. 마찬가지로 '''활용가능성이 무궁무진한 인공지능 기술'''을 적극 발전시키고 활용하며 주도하는 나라가 향후 미래의 주역이 될 것은 자명한 일이다.
지난 알파고 vs. 이세돌 경기로 인해 국내에서 인공지능 담론이 폭증했는데, 이 때문에 해외의 유명 로봇공학자들이나 철학자, 석학들을 초빙한 자리에서 종종 "인공지능 사회에서 인간의 가치는 무엇인가" 와 같은 질문이 나오기도 한다. 그러나 이에 대해 비판적인 목소리도 있다. KAIST 신경과학자 김대식 교수 등이 대표적. 그에 따르면, 지난번 알파고 챌린지로 인해 '''인공지능 담론에 가장 먼저 눈이 뜨인 나라는 다름아닌 한국이니, 따라서 도리어 그들이야말로 우리에게 질문을 해야 한다는 것'''이다. 이를 대비하기 위해서는 먼저 우리가 충분히 국민적 논의를 해야만 하겠지만, 한국 사회에 깊게 뿌리박힌 '''외국 추종 현상으로''' 인해 우리가 그들을 앞서갈 수 있는 기회조차 걷어차고 있다는 것이다.
알파고가 사용하는 하드웨어의 크기와 전력사용 비용을 생각하면, 인공지능의 보급에는 아직까지 갈 길이 멀다. 하지만 에니악을 비롯한 초창기의 컴퓨터들 또한 작은 빌딩만한 덩치를 자랑했지만 지금은 그것들을 능가하는 기기가 한 손에 들어오는 크기로 진화한 점, 그리고 USB 메모리를 비롯한 저장매체들이 해가 갈수록 저장용량이 늘어나 GB를 넘어 TB에 접어들었다는 것 등을 감안하면, 인공지능 구현에 필요한 하드웨어가 소형화되어 널리 보급될 가능성은 높다고 볼 수 있다. 20년 전 체스 세계 챔피언을 이긴 딥 블루는 거대한 슈퍼 컴퓨터였지만 현재는 스마트폰 앱으로도 체스 세계 챔피언을 이길 수 있다. 그리고 굳이 하드웨어가 소형화되지 않더라도, 클라우드 컴퓨팅에 의해 온라인으로 인공지능 서비스를 받을 가능성 또한 크다.
인공지능과 4차 산업혁명
인공지능 시대와 투자기회(1)
바둑서 충격 안긴 인공지능, ‘스토리텔링’도 신기원 열까
"日서 인공지능, 특수질환자 병명 알아내 목숨 구해"
워싱턴포스트, 기사 작성하는 AI 로봇 올림픽 보도에 투입
구글 인공지능 '딥마인드', 입 모양 보고 말도 알아듣는다
인공지능이 영화·드라마 만든다?…머지않은 미래
10.1. 유토피아 혹은 디스토피아
좀 더 거시적인 관점에서 인공지능은 여러 수많은 기술 중 하나가 아니라, 인류의 역사 단계를 바꾸어놓는 기술일 수 있다.
증기기관 등 산업혁명 시대에 등장한 기계들이 인간을 힘이 위주가 되는 물리적 노동에서 해방시켰고, 20세기 초중반의 컴퓨터가 계산 등 단순 정신노동에서 해방시켰다면, 인공지능은 인간만 할 수 있다고 여겨져 온 대부분의 작업들을 대신하여 수행할 수 있는 기술이라는 점에서 특별하다.
그것이 인공지능 기술을 소유한 소수와 일자리를 빼앗긴 다수 간의 극단적인 양극화를 가져올지, 아니면 대부분의 인류가 의무적인 노동에서 해방되어 스스로 의미있다고 생각하는 활동들을 자유롭게 할 수 있는 유토피아를 가져올지는 아직 의문이다. 모두가 동등해질지, 아니면 그런 것을 혐오해 특출남을 추구할지도 스스로 물어볼 수 있는 점이다.
또한, 인공지능이 발전한 사회에서도 인간은 더 큰 욕망을 만족시키기 위해 계속 끊임없이 노동을 할까? 노동의 필요에서 해방된 사람들이 삶에 충만한 의미를 느끼며 살아갈 수 있을까? 이런 질문들도 남아 있다.
실제, 고대 그리스에서는 모든 노동을 노예들이 전담했고, 아리스토텔레스, 플라톤, 소크라테스 같은 사람들은 현대기준에서 백수였다는 말이 있다.
역사적 사례를 들추어보았을 때 노동의 해방이 철학과 인문학에 큰 발달을 가져다주었던 실제사례가 있다.
지금은 SF와 같은 막연한 미래사회의 일 정도로 관심을 받았던 이런 질문들이 갑자기 현실성을 띠고 제기되어 논의가 활성화되고 있는 단계이다.
당장 몇 년 후에는 어떤 직업으로 무슨 일을 하면서 먹고 살 수 있을까 라고 하는 일반 대중의 현실적인 관심사이기도 하다.
이러한 논의들의 개괄을 살펴 볼 수 있는 글 중 한 가지를 인용해 보면 다음과 같다.
"떠도는 행복…견고한 모든 것이 인공지능 속에 녹아내린다"
11. 관련 문서
[1] 인공지능과 초인공지능에 대한 긴 글로, 정독할 가치가 있다. 2016년 초, 구글 딥마인드 챌린지 매치가 열리기 전부터 한국 인터넷 공간상에서 많이 회자된 글이다.[2] 석기시대에 수학책을 가지고 가서 미분방정식에 대한 이론을 줄줄 늘어놓는다고 생각해보자. 원시인들이 이해는 할 수 있을까? 물을 따르면서 손에 물이 뭍지 않게 수학 정리를 이용하는 생물이 있다고 하자. 이 생물의 이해가 모든 방면에서 학습에 친화되지 않은 형태로 이용되고 사회를 이룬다고 할 때, 우리는 잘 이해할 수 있을까? 혹은 모든 사실에 대해 이해할 기회를 얻을 수나 있을까?[3] 핵무기와 똑같은 상호확증파괴 논리가 적용될 것이다.[4] 인류는 원자력 사고가 무섭다고 원자력을 아예 배제하지 않으며 블랙홀 생성 가능성 때문에 입자가속기를 없애지도 않는다. 그렇게 겁나면 인공지능에 어설프게 고삐를 채우다 결국 실패하느니 차라리 연구자가 인공지능 개발 못하게 철저히 감시하고 국민을 어려서부터 반인공지능으로 세뇌하는 게 더 시간을 끌기 좋을 것이다. 물론 이렇게 한다고 인공지능의 발전을 막을 수 있을지는 의문이다.[5] 이 기사는 이루다를 운영하는 스캐터랩에 사실관계를 확인하지 않고 작성한 것으로 보인다. 스캐터랩에 따르면 20세의 나이로 이루다가 설정된 이유는 10대 중반~20대 중반의 연령대를 마케팅 타깃으로 잡았기 때문이며, 여성뿐만 아니라 남성 버전의 AI 역시 출시를 준비중이라고 설명한 바 있다. 이는 손희정 교수가 "20세 여성으로 설정한 것이 개발자의 편향" 이라고 주장한 것이 사실관계에 어긋남을 보여준다.[6] 물론 흔히 제기되듯이 '그럼 중등도 지적장애인이나 식물인간에 대한 가해도 성립되지 않는 거냐' 같은 반론이 나올 수 있다. 여기서 중요한 것은 자의식이 인격성을 성립시키는 충분조건이 아니라 단지 중요한 필요조건이라는 점이다.[7] 사실 이루다의 DB를 고려하면 호의적 관계에서의 친근한 대화야말로 이루다의 가장 강력한 장점이라고 할 수 있다. 반면 상식 퀴즈를 내거나 사실관계를 묻는 질문, 어떤 의견을 내고 그 근거를 대야 하는 질문, 특정한 스탠스를 명확히 밝혀야 하는 질문에는 이루다가 가장 취약하다. 연인 간에 그런 대화는 보통은 하지 않으며, 하더라도 무조건적으로 긍정하며 맞춰주기 때문.[8] 다만 식물에 대한 학대도 비난을 받는 경우가 많은데, 자연스레 생각하는 생물의 개념이 생물 전체의 개념으로 옮겨 왔거나 환경파괴에 대한 부정적 여론이 영향을 미쳤을 가능성이 높다.[9] 정작 마이크로소프트는 인공지능개발의 선두주자 중 하나다.[10] 인공지능의 위험을 경고해온 교수인데, '그러니 인공지능이 발전하면 안 된다'가 아니고, '철저히 관리하고 통제해야 한다'라는 주장임을 명심하자.[11] 실제로 현재 워드스미스라는, 1년에 10억 개의 기사를 쓰는 시스템이 있다. # [12] 다른 질문들과는 조금 다른 맥락에서 AI를 경계하는 질문이다. 동시통역사의 오류가 있어 일반 언론에는 뜻이 반대로 전달되었다. 원문 : Today there was that sequence of three to four AlphaGo moves which looked like an unfathomable mistake to even the experts. But they couldn't dismiss it because mistakes have previously turned out to be advantageous. If this happens in real world usage something medical where someone's life depends on it and even to experts it looks like a grave error but people accept it thinking it has a bigger picture in mind. It will cause a lot of confusion. what do you think about that?[13] 국내 언론의 잘못된 보도 탓에, 많은 사람들이 이 질문을 ‘인공지능의 무결성을 어떻게 보증할 수 있느냐’라는 질문이라고 받아들였다. 그러나 이 기자의 질문은 인공지능 또한 완전무결한 존재가 아닌데 '''일반 대중이 인공지능을 완전무결하다고 믿고 기계의 판단을 맹목적으로 추종하게 될 가능성'''에 대한 것이다. 실제로 구글 딥마인드 챌린지 매치 이후로 인공지능의 발전을 경계하는 목소리 못지 않게 눈에 띄는 주장이 바로 지금까지 인간이 맡아온 각종 전문분야를 기계에게 맡기는 것이 더 공정하고 정확하지 않겠느냐는 것이다. 즉, 완벽해서 신경쓰지 않아도 별 상관 없는 것과, 완벽에 가깝지 않은 것을 구분 못하는 상황을 경계하라는 것이다.[14] 호시 신이치의 단편 중 '하마님おカバさま'라는 소설이 이 질문의 내용과 비슷한 주제를 다룬다.[15] 오늘날의 컴퓨터로도 체스, 장기 및 바둑의 가능한 수를 전부 검토하는 것은 불가능하다. 따라서 컴퓨터는 특정 규칙을 가지고 유리한 수만 탐색해 나가는데, 체스는 비교적 경우의 수가 적고 목표가 뚜렷하기에 인간이 직접 탐색 규칙을 세밀하게 설계할 수 있었다.(그 예로 대원칙이 '킹을 체크메이트 상태로 만든다'라면 세부규칙은 '일반적인 경우에는 가치가 높은 기물을 가치가 낮은 기물과 맞교환하지 않는다', '폰의 가치는 앞으로 나아갈수록 상승한다', '불리한 상황일 때는 무승부를 유도한다'가 있다. 물론 실제로는 더 정밀하고 복잡하다.) 그러나 바둑은 직접 규칙을 설계하기 힘들고, 한다 해도 성능이 낮았었다. 그런데 알파고는 대원칙만 주고 스스로 탐색하게 하였더니 세부규칙을 혼자서 세운 뒤 이를 이용해 인간을 꺾은 것이다. 즉, 이는 인간이 직접 알고리즘을 작성하지 않아도 기계 혼자 배울 수 있음을 의미하며, 이는 각종 분야 전부에 적용된다.[16] 인공지능에 의한 인류멸종은 두 가지 견해로 나뉘는데 하나는 사람들이 흔히 생각하는 기계의 반란에 의한 멸종이고 다른 하나는 인류가 더욱 높은 경지에 오르기 위해 신체를 기계로 대체해 현생 인류가 도태되는 생물학적 멸종이다.[17] 그런데 무인계산기에 익숙해져서 느끼지 못할 수 있는데, 의외로 마트나 편의점같은 유통계열은 인공지능에 의한 무인화가 다른 부분보다 훨씬 제일 느리게 될 부분이다. 계산이야 셀프화시켜서 손님들에게 시킨다 해도 물건들을 받아서 채워넣고 진열하고 청소하는 분야는 노동력이 반드시 필요한 부분이고, 이런 노동력을 인공지능이 해결해주기엔 '''규격화가 힘들고 로봇기술은 아직 갈 길이 너무 멀면서 너무 비싸다.''' 이런 규격화가 힘든 노동 현장, 소위 블루칼라 직업들이 자동화되는 시점이면 거의 대부분의 일들이 자동화되게 된다.[18] 터미네이터 시리즈의 등장 시점은 바로 미국에서 개인용 컴퓨터, 데스크탑이 대중화되던 시기이다. 물론 '기계에 의한 인간지배'라는 클리세는 SF에서 상당히 오래된 것이긴 하지만.[19] 그런데 사실 요즘 파일럿은 직접 조종하기 위해 배치되는 것이라기 보다는 비행기 전체를 종합적으로 관리하기 위하여 배치된다는 경향이 크다. 이미 비행기는 자동항법장치가 조종하고 있다. 연락 두절이나 기계 이상 등 기계가 대처할 수 없어 임기응변이 필요한 상황을 위해 배치된다고 보면 된다.[20] 또한 인공지능이 더더욱 발달하면 아예 정비기술을 익힌 로봇이 기계를 수리하게 되어 버리면 정비인력 역시 필요가 없어져 버린다. 알파고가 보여준 가능성이라면 21세기 내에 등장할 가능성은 무시할 수 없다.[21] 긍정적 문단에서는 마부라는 직업은 줄어들었으나 자동차 관련하여선 늘어났다 라고 언급하였지만, 지금은 그 자동차 직업군 조차도 공장들의 자동화 시스템들의 개량으로 인간을 필요로 하는부분이 생각보다 많지 않다, 또한 새로운 직업군이 생겨나 사라지는 직업군들을 대채할테니 걱장할것이 없다, 라는 것이 위의 언급이었으나 과학기술들의 발달로 지금의 단순노동을 포함한 각종 직업군의 능력을 배껴서 발휘하는정도의 일은 얼마든지 재현해내고 있는중이다, 빵같은 경우엔 공장에서는 식빵같은건 원재료만 넣으면 산더미처럼 구울수있는 시스템은 21세기 는 고사하고 20세기 중반부터 만들어서 개량되고있는 중이다.[22] AI를 경계할 필요가 없다는 입장에서 예시로 삼은 선진국-후진국 사례는 적절치 못한 것이 후진국은 말 그대로 산업이라는 것이 없기 때문에 실업자 문제가 심각한 것이지 기술의 발달하고는 상관없는 문제이다. 그리고 인공지능으로 인한 인력감축은 이미 시작되었다. 인공지능이 아직 초보적 단계라는 걸 고려하면 대량실업 문제는 가능성 밖의 문제가 아니다.[23] 옛날에는 모든 일은 사람이 해야만 했다. 때문에 인간의 노동력이 중요시 여겨졌다.[24] 물론 강제로 불만을 없앨수도 있지만 사실상 그것은 문제가 아니라 문제를 인식할 존재가 없어진 것이다. 그리고 인간의 수준을 뛰어넘어 초월적 윤리를 발견한다고 해도 그것을 받아들일지 아닐지의 문제 등... 너무 모호하고 낙관적이다.[25] 자신의 행복을 위해 약자의 고통을 적당히 외면하고 남에게만 엄격하며, 자신 세대의 이익을 위해 아이를 낳아 고통과 죽음을 강요하고 대물림하는 인류에 대한 비관이 강해서 상대적으로 인공지능에 낙관하는 것일 수 있다. 어쩌면 인간이 통제하려고 한다고 바람직하게 통제하거나, 영원히 통제할 수 있을 거라 믿는 것도 근거 없는 낙관일 수 있다. 오히려 그런 통제와 안보를 명분으로 역사 내내 권력 집단이 무슨 짓을 해왔는지 생각해보면 빅 브라더의 등장만 도울 수도 있다.[26] 이를테면 '''제 3의 물결''', 혁신의 시대 등의 개념들이 문명사가, 기술사가, 경영사상가들에 의해 거론되곤 하였다.[27] 실제로도 그렇다. 다만 인간은 정형화되지 않은 데이터도 처리할 수 있을 뿐이다.[28] 단, 자연어를 처리하고 그에 따른 답을 찾아내는 시스템인 것은 맞지만 이것이 인공지능이 인간의 말을 '이해'한다고 생각하면 그것은 오해다. 인간의 말을 데이터베이스화하고 딥 러닝을 통해 패턴을 추론한 후 그에 따른 답을 찾아낸 것에 불과하다. 만일 인간의 말이 고도로 추상화되어 있다면, 이를 이해하고 그에 따른 알맞은 대답을 던지는 것, 즉 '''대화'''는 강인공지능의 몫이다.[29] 이것이 가능한 이유는 패턴과 변수가 얼마 되지 않기 때문이다.