지능 기계들로부터 두려워할 것은 아무것도 없다
Humans have nothing to fear from intelligent machines
스페이스 엑스와 테슬라 모터스의 창업자인 일론 머스크(Elon Musk)는 인공 지능이 "핵폭탄보다 잠재적으로 더 위험한" 것이라고 믿는다. 인류에 대한 "가장 큰 실존적인 위협"은 언젠가 인류를 지배할 터미네이트형 슈퍼 기계 지능이라고 그는 생각한다. 운이 좋게도, 머스크씨는 잘못 생각하고 있다.
많은 기계들이 놀라운 일들을 흔히 인간들보다 더 잘 할 수 있다. 예를 들면, 1997년 체스 경기에서 IBM의 딥 블루 컴퓨터는 그랜드 마스터 가스 카스파로프(Garry Kasparov)를 이겼다. 2011년에 다른 한 IBM 기계 왓슨은 TV 퀴즈 쇼 <제퍼디(Jeopardy>에서 두 명의 인간 참가자들을 꺾고 우승했는데, 그들 가운데 한 사람은 그때까지 74번 연속으로 우승했었다. 무제한으로 있는 듯 보인다.
그렇지만 딥 블루와 왓슨은 "튜링 기계(Turing machine)", 즉 계산기가 할 수 있는 것의 한계를 설정하는, 앨런 튜링에 의해 고안된 수학적 모형의 판본들이다. 튜링 기계는 아무 오성도, 아무 의식도, 아무 직관도 갖추고 있지 않는데, 요약하면, 우리가 심적 삶으로 인식할 것은 아무것도 갖고 있지 않다. 그것은 생쥐의 지능조차도 결여하고 있다.
인공 지능의 도래를 신봉하는 사람들의 의견은 다르다. 스티븐 호킹(Stephen Hawking)은 "완전한 인공 지능의 개발은 인류의 종말을 초래할 수 있을 것"이라고 주장했다. 그는 옳지만, 묵시록의 네 기사가 출현하는 경우에도 마찬가지이다.
아메리카 발명가이자 미래학자인 레이 커즈와일(Ray Kurzweil)은 2045년 경에 계산 기술의 발달이 인공 지능이 그것을 파악하고 통제할 수 있는 인간들의 능력을 능가하는 지점에 이를 것이라고 예측했다. 커즈와일 류의 시나리오들은 무어의 법칙(Moore's law)에서 외삽된 것들인데, 그 법칙에 따르면 컴퓨터의 트랜지스터 수가 매 2년마다 두 배가 되고, 그래서 항상 더 저렴한 비용으로 더욱 더 큰 계산 능력을 얻게 된다.
그런데 그 법칙의 당사자인 고던 무어는, 집적 회로에 밀어넣을 수 있는 트랜지스터 수에 물리적 한계가 있기 때문에 그의 일반화는 적절하지 않게 될 것이라는 점을 스스로 인식했다.
어쨌든 무어의 법칙은 지능이 아니라 계산 능력의 척도이다. 나의 진공 청소기 로봇 룸바는 빠르고 저렴하게 그리고 점점 더 잘 바닥 청소를 할 것이지만, 혼자 힘으로 내 신용 카드로 휴일을 결코 예약하지는 못할 것이다.
1950년에 튜링은 다음과 같은 시험을 제안했다. 다른 방에 있는 두 명의 대화자들에게 글로 쓰여진 질문들을 묻는 인간 판정관을 생각하자. 한 대화자는 인간이고, 나머지 다른 한 대화자는 기계이다. 70%의 시간 동안 판정관이 기계의 출력과 인간의 출력을 구별할 수 없다면, 그 기계는 그 시험을 통과한 것으로 말할 수 있다.
튜링은 2000년 경에 컴퓨터들이 그 시험을 통과할 것이라고 생각했다. 그는 틀렸다. 구글의 전직 최고 경영자 에릭 슈미트(Eric Schmidt)는 2018년 경에 튜링 시험이 통과될 것이라고 믿었다. 우리는 알게 될 것이다. 여태까지 아무 진전도 없었다. 컴퓨터 프로그램들은 여전히 1960년대에 개발된 수법들을 사용하여 판정관들을 속이려고 한다.
예를 들면, 매년 개최되는 튜링 시험 경연 대회의 2015년 뢰브너 상(Loebner Prize)에서 한 판정관이 이렇게 물었다. "그것이 너무 작았기 때문에 그 차는 주차 공간에 맞을 수 없었다. 무엇이 너무 작았는가?" 올해의 감투상을 수상한 소프트웨어는 이렇게 대답했다. "알다시피, 나는 걸어다니는 백과사전이 아니다."
그러므로 초지능 기계들에 관한 불안들은 과학적으로 정당화되지 않은 것이다. 나무 꼭대기에 오르는 것이 달을 향한 단계가 아닌 것과 꼭 마찬가지로, 현존하는 "스마트" 기술들은 전면적인 인공 지능을 향한 단계가 아니다. 이런 응용물들은 확실히 우리보다 더 똑똑하고, 우리의 능력을 능가하며, 우리 대신에 점점 더 많은 과업들을 수행할 수 있다. 그렇지만 이것은 그것들이 세계를 지적으로 다루기 때문이 아니라, 우리가 세계를 그것들에게 점점 더 친화적인 것으로 만들고 있기 때문이다.
산업 로봇을 살펴보자. 우리는 그것들을 차량을 제조하도록 세계에 풀어놓지 않는다. 우리는 그것들의 성공을 보장하도록 그것들 주변에 인공적 환경을 구축한다. 조만간 이른바 사물 인터넷에서 서로 소통할 수십 억 개의 스마트 인공물들의 경우에도 마찬가지이다.
그 어떤 인공 지능 판본의 고질라도 우리를 노예화하지 못할 것이고, 그래서 우리는 과학 소설에 관하여 더 이상 걱정하지 말고 인공 지능이 제기하는 실제 난제들에 집중하기 시작해야 한다. 최종 분석에서 스마트 기계들이 아니라 인간들이 문제이며, 예견할 수 있는 미래 시기에도 여전히 그럴 것이다.
우리의 우선 순위는 우리 기술들의 설계와 사용에 있어서 고통스럽고 값비싼 실수를 저지르지 않는 것이어야 한다. 우리가 인간 종과 지구 둘 다를 손상시킬 정도로 기술들을 오용할 심각한 위험이 존재한다.
예전에 윈스턴 처칠(Winston Churchill)이 이렇게 말했다. "우리가 건축물을 만들지만, 그 다음엔 건축물이 우리를 만든다." "정보권(infosphere)"의 스마트 기술들에게도 마찬가지로 적용된다.