[...] <<지능과 정신(Intelligence and Spirit)>>은 지능과 인공성(artificiality)이라는 개념들을 공들여 심문하는 책이다. 이 책은 다음과 같은 물음으로 시작한다. 적어도 인간과 대등한 역량을 갖춘 인공일반지능(artificial general intelligence), AGI에 대해 철학적으로 언급한다는 것은 무엇을 뜻할 것인가? 그런 지능을 개념화하려고 시도할 때 인간을 본보기로 삼아서 시작하는 것이 올바르거나 유일한 방법인가? 게다가, 인공지능과 인공일반지능이라는 더 넓은 개념에 대한 연구와 관련된 다양한 구상과 프로그램을 살펴보면 지능이 정확히 무엇을 뜻하는지 밝힐 수 있는가? 그 다음에 그 책은 마침내 철학 자체를 지능의 인공화를 위한 프로그램으로 간주하거나, 또는 지능으로서의 인공화를 위한 프로그램으로 간주한다.
그 책의 주요 장들은 '장난감 모형(toy model)'을 사용하여 그런 지능을 구성할 수 있는 조건을 결정한다. 우리가 지능으로 인정할 것을 성취하려면 센서들을 장착한 단순한 자동자(automaton)가 무엇을 갖추어야 할 것인가? 장난감 모형은 초험적 철학에서 시행되는 칸트적 사고실험의 일종이지만, 헤겔의 중대한 통찰들 가운데 두 가지에 의해 결정적으로 굴절된 사고실험이다. 첫째, 지능 또는 가이스트(Geist)는 기능적으로, 즉 그것이 행하는 것에 의거하여 규정될 수 있을 뿐이고, 둘째, 지능은 개체에 속하는 것이 아니라 항상 공동체, 집단 마음(collective mind)과 특히 공동 언어를 함축한다. 더욱이 기능주의와 집단성, 언어가 강력히 역설되는데, 이것들 가운데 어느 것도 완전히 친숙한 의미로 간주되지는 않지만 말이다. 기능주의와 집단성, 언어가 융합되면서 지능과 인공성이라는 서로 얽힌 개념들과 철학 자체의 실천에 대한 전적으로 참신한 철학적 접근방식이 출현한다.
더 나아가서 자동자들의 공동체에 대한 이런 구상을 확정하기 위해 장난감 모형은, 이를테면, 컴퓨터 과학과 인공언어 연구, 상호작용적 논리에서 비롯된 개념들을 사용함으로써, 요약하면, 이 공동체의 내부에서 인공일반지능이 창발하기 위한 조건을 가장 잘 충족시킬 수 있고 현재 입수할 수 있는 자원을 선택함으로써 더욱더 구체화된다.
이 책이 개시하는 심오하고 명백히 꽤 산만한 철학적 물음들에 대답하면서 기능적으로 규정되고 실험되는 모형이 형성되는데, 도중에 다양한 공급자에게서 취한 부분들이 추가되고 교환되며 삭제된다. 마지막 장은 문제의 기능주의적 전개에서 돌아와서 가장 거대한 의미에서의 철학적 전망, 즉 초험적이면서 기능주의적인 기획으로서의 철학에 대한 전망을 다루는데, 철학은 우리가 무엇인지, 우리가 자신의 역량에 어떻게 부응할 수 있는지, 그리고 우리가 스스로를 어떻게 개선할 수 있는지 이해하고자 하는 노력의 한 형식으로 지금까지 항상 인공지능을 구성하기 위한 프로그램이었다. 그 이유는 지능이 스스로를 향상시키는 자신의 경향에서 분리될 수 없기 때문인데, 레자는 이 경향을 플라톤이 구상한 좋음의 개념에 의거하여 해석한다.
여기서 철학의 용법과 관련하여 놀라운 점은, 그것이 다양한 다른 학문분과, 다른 실천으로 부각된다는 것일 뿐 아니라, 이 책이 인공지능의 철학―하나의 독립된 객체에 대한 응용과 관련된 어떤 관계에 연루된 것처럼―이라기보다는 오히려 철학 자체가 이미 인공화 프로그램, 즉 우리 자신을 인공화하기 프로그램이라는 사실이 명백해진다는 것이다. 더욱이 칸트와 헤겔과 독일 관념론 일반의 프로그램이 미래 인공지능에 대한 기능적 청사진을 무의식적으로 제공하는 방식이 특히 놀랍다.
이 책은 AI와 AI의 전망, 현재적 시점에서 바라본 AI의 기술적 가능성을 일종의 대중과학 양식으로 직접 다루는 책이 아니라는 점은 명백하다. 오히려 이 책은 AI의 문제를 더 일반적인 지능의 철학을 전개하는 방식으로 사용하고 있다. 더욱이 이것은 결국 우리를 우리 자신에 대한 어떤 중대한 정치적이고 윤리적이며 실존적인 의문들―지능이라는 이름을 부여받을 만한 인간의 역량에 대한 의문, 다른 지능적 과정들이 우리를 침범할 수 있게 하는 과정에 대한 의문, 지능이 우리에게서 생성될 수 있게 하거나, 또는 역으로 우리 자신이 AGI가 될 수 있게 하는 우리의 능력에 대한 의문―에 연루시킨다.
이 책의 중요성 가운데 일부는 그것이 광란의 현 시점에 우리를 둘러싸고 있는 불확실성과 두려움과 희망의 무정형적 어둠을 다루는 방식에 놓여 있다. 지금까지 나는 모든 참된 철학은 고뇌의 외침으로 시작한다는 들뢰즈의 주장을 항상 사랑했는데, 이것이 바로 개념이 필요하다는 것, 즉 절규할 무언가가 있다는 것이 뜻하는 바다. 그리고 우리는 절규할 것이 충분히 많이 있다. 이를테면, 인간과 인간의 사회성이 어떤 다른 형태의 불가해한 기계로 점진적으로 흡수되는 사태, 불확실성과 종말/특이점 시나리오가 번성하는 사태, 인간 행위주체성에 관한 어떤 실행 가능한 개념도 명백히 침식되는 사태, 진보-로서의-기술에 관한 어떤 해방적 관념도 옹호하기가 어려운 만성적 상황과 더불어 기술에 전적으로 의존하는 사태가 있고, 게다가 아마도 가장 당황스럽게도 우리는 하찮은 인간 지능에 남아 있는 것을 계획적으로 탕진하는 사태에 휘말려 있다.... 철학에 자신의 시간을 투자한 사람들에게, 어쩌면 철학의 자원이 어떤 종류의 철학적 판단도 처리하기 어려운 것처럼 보이는 이런 일단의 명백히 불가피한 과정들을 다룰 수 있는지에 대한 의문이 드는 것은 말할 것도 없다.
<<지능과 정신>>에서 특별한 점은 레자가 이런 의문들을 근면하고 성실하게 다루면서 철학을 통해서 일종의 순간적인 위안을 얻을 수 있다는 환상 및 히스테리를 단호히 거부한다는 것이다. 이 책 전체에 걸쳐서 레자는 이런 심란한 의문들을 매우 끈질지게 추적하기를 고집하여서 그것들이 흔히 인식할 수 없는 무언가로 변환된다. 때떄로 우리는 자신이 묻고 싶은 '거대한' 의문들에서 최근의 연구 분야들에 대한 만만찮게 전문적인 해설로 이끌린다. 그 책을 읽으면서 자신이 이전에 몰랐던 어떤 분야에 대해 무언가를 배우지 않는 사람은 거의 없을 것이라고 나는 생각한다. 그것이 헤겔적 정신이든 비단조 논리(nonmonotonic logic)든 간에 여기서 어떤 새로운 만남이 있을 것이다.
내가 보기에 이 책의 줄거리는 다음과 같다. 현재 주변의 무정형적 고뇌와 그것이 제기하는 거대한 의문들에서, 동일한 의문들의 상이한 층위들이나 규모들 사이에서 급상승하거나 일련의 꼼꼼하게 계획된 항해 경로를 경유함으로써, 점점 더 확정적이고 실행 가능한 공학적 의문들로 나아가려는 일단의 시도들이 전개된다. 그것은 격렬한 감정적 절박함이 약화되고 모든 종류의 돌발적인 세부가 출현하는 일종의 슬로 모션 절규가 된다. 이런 접근방식의 한 가지 결과는 이 책의 방법론과 그것이 달성하려고 제시하는 과업을 분리하기가 어렵다는 것인데, 그 이유는 어떤 의미에서 그 책이 방법론에 관한 책, 오늘날 철학을 수행하는 방법―그리고 수행하지 않는 방법―에 관한 책, 절규를 저버리지 않은 채로 그것을 건설적으로 활용하는 방법에 관한 책이기도 하기 때문이다.
이 책에서 진행되고 있는 그런 종류의 사유는 우리 대다수가 친숙한 어떤 유형의 철학이나 이론에 대한 기대에서 결정적으로 이탈함을 특징짓고, 게다가 특히, 약간 도식적으로 말하면, 현재 주변의 정치적이고 실존적이며 기술적인 고뇌의 맥락에서 고통받는 사람들에게 철학적 약초, 즉 진정제 같은 것이 되어버린, 존재론적인 것과 정치적인 것의 어떤 결합에서 결정적으로 이탈함을 특징짓는다. 그 이유는, 수학적 존재론이든 객체지향 존재론이든 새로운 유물론적 존재론이든 다른 무엇이든 간에, 존재론이 항상 우리로 하여금 우선 만물은 x다라고 말할 수 있게 하기 때문이다. 단일한 개념적 표명을 이렇게 과도하게 연장함으로써 우리는 사유와 행위에 대한 명료하고 안정된 장을 제공받게 되고, 그래서 그곳에서, 이를테면 다음으로 우리가 y를 할 수 있기만 하다면, 이런 통일된 세계관의 경계 안에서 전진할 수 있게 된다. 말하자면, 사물의 구조에 대한 우리의 구상에서 어떤 거대한 전환이 일어남으로써 이제는 마침내 단순하고 본원적으로 전복 가능한 것으로 보이는 계층적이고 그물처럼 뒤얽혀 있는 상황의 짐을 우리에게서 덜어줄 수 있을 것이다.
<<지능과 정신>>은 개념들이 과도하게 연장되는 것만큼이나 해방적 전제들이 취약한 이런 만화적인 존재론들에서 완전히 이탈한다. 이 책에서는 만물은 무엇이다라는 구절은 전혀 나타나지 않을 것이고 우리가 할 수 있기만 하다면이라는 구절도 전혀 나타나지 않을 것이다. 사실상 <<지능과 정신>>이 우리에게서 어떤 인식 가능한 우리의 안정성까지도 박탈하는 이유는 그것이 우리로 하여금 지능을 가상적 집합체, 즉 구체적 기획으로서 충족되어야 하는 것으로 재고하기를 요구하기 때문이다. 존재론적인 것과 정치적인 것의 단락 회로는 철학보다 오히려 체계공학(systems engineering)에서 물려받은, 문제들에 대한 기능주의적 접근방식으로 사실상 대체되는데, 이런 의미에서 이 책에서 레자는 체계공학자로서의 이전 생활로 되돌아가서 공학자의 감성과 책임감을 철학에 도입한다.
여기서 틀림없는 사실은, 이 상황에서 품어야 할 낙관주의가 있다면 그것은 문제들의 복잡성과 다층위적인 본성에 대한 신념에서 시작하며, 그리고 특히 지능에 대한 물음을 그것의 모든 양상과 다중적 규모에서 구상하려면 상이한 지식 양식들을 조립하고 부각해야 함을 인정하는 데에서 시작한다는 것인데, 요컨대 지능은 단순하지도 않고 균일하지도 않음을 이해하게 된다.
이 책에서 나오게 되는 것은 우리에게 철학의 고전적 만족을 줄 거대한 건축물이라기보다는 다양한 분야의 새로운 진전에 비추어 나중에 교체될 수 있을 연동된 기능적 모듈들 또는 레자가 일종의 철학적 레고, 거대한 장난감 모형들이라고 부른 것에 대한 세목의 임시적인 짜깁기다. 이런 접근방식과 더불어 힘겨우면서도 즐거운 장기 노동, 즉 우리 자신에 대한 끊임없는 구상과 변환의 노동이 시작된다. 또는 오히려, 우리는 이 노동(이전 저작에서 규정된 대로 '비인간의 노동')의 역사적 성취를 인식하고 이 벡터의 지속적인 전진을 구체적인 과업으로 명시적으로 다루도록 요청받는다. 심지어 레자가 스스로를 계속해서 인공화해야 할 지능적 존재자로서의 우리 책임에 대해서 언급하는 이유는, 지속적인 팽창 운동이 금지당해서 인간 프레임이든 연산 기기든 간에 어떤 상자 안에 갖히게 되면 지능이 더 이상 존재하지 않게 되기 때문이다. 어떤 의미에서 이것은 브랜덤적 실용주의의 궁극적인 외삽인데, 우리가 인간 지능의 본성에 대해서 올바르게 구상하게 되면 이 구상은 즉각적으로 자기변환이라는 구체적 과업을 우리에게 제시한다. 이 과업에 실패하게 되면 우리는 스스로 인간은 기본적으로 도대체 생각하기에 관심이 없음을 인정할 수밖에 없다.
이 책이 구상과 변환 사이의 이런 엄중한 관계를 제시하면서 우리에게 제기하는 궁극적인 물음들은 다음과 같다. 우리의 절규는 편안함에 대한 호소 이상의 것인가? 우리는 그것의 결과를 따를 채비가 되어 있으며, 그리고 무엇보다도 건축에 착수할 채비가 되어 있는가? 우리는 철학적 난제를 더 이상 기꺼이 떠맡거나 떠맡을 수 있는가? 아니면 우리의 인지적 적소 안에서 행복하게 시들면서 최근에 지식에 기여한 업적에 의해 수정되지 않은 채로 역사적 관념들의 통속화에 해당하는 입장을 취할 것인가?
현실적으로-존재하는-지능의 단점에 대한 고뇌와 절망에서 생겨난 이런 슬로 모션 절규는 결국 우리에게 유서 깊은 철학적 위안들, 즉 우리가 너무나 친숙해졌을 급조된 트로프들을 배제하는 것에서 비롯되는 최소적이지만 강건한 형태의 철학적 낙관주의를 제공한다. 이런 미묘한 낙관주의를 특징짓기 위해 나는 저술가이자 기술 자문가인 벤카티쉬 라오(Venkatesh Rao)가 최근에 트위트에 올린 구절을 인용할 수 있을 것이다. "체계공학은 도덕적 위기를 건축의 기회로 변환하는 기예다."
<<지능과 정신>>은 우리로 하여금 시간에 대한 구상을 수정하여 인간 개체의 수명을 훨씬 능가하지만 그 속에서 우리가 행위자인 역사적 계열 안에 자신을 위치시키기를 요구한다. 이 책은 한 공학자의 쾌활한 실용주의로 지능의 문제를 검토하는데, 그는 자기 두개골의 덮개를 터뜨려 내부를 엿볼 수는 결코 없기에 자신의 레고를 끄집어내어서 모형을 구축하기 시작한다.
"