수학은 세계를 서술하는 효과적인 방식인가?
Is mathematics an effective way to describe the world?
수학은 우주의 언어라고 불린다. 물리적 실재를 서술할 때 과학자와 공학자들은 π, E=mc^2, 그리고 심지어 현실 세계 객체들을 세기 위해 추상적 정수를 사용하는 단순한 것과 같은 예들을 인용하며 수학의 우아함에 관해 말하곤 한다. 그런데 이런 예들은 우리에게 수학이 얼마나 유용할 수 있는지 예증하는 하는 한편, 그 사실은 물리적 세계가 자체의 "모국어"로서 수학의 규칙들을 자연적으로 따르며, 그리고 이 수학은 저쪽에서 자체적으로 존재하면서 발견되기를 기다리고 있다는 점도 의미하는가? 수학과 물리적 세계 사이의 관계의 본성에 관한 이런 관점은 플라톤주의(platonism)라고 불리지만, 모든 사람이 그것에 동의하지는 않는다.
애들레이드 대학(University of Adelaid)의 전기전자공학과 교수 데렉 애보트(Derek Abbott)는 수학적 플라톤주의는 부정확한 실재관이라고 주장하는 입장을 담은 논문을 적었는데, 그 논문은 <<프로시딩스 오브 더 IEEE>>에 게재될 것이다. 그 대신에 그는 정반대의 관점, 즉 수학은 우리가 실재를 기술하기 위해 만들어낸, 인간의 상상력의 산물이라는 비플라톤주의적 관념을 지지하는 논변을 전개한다.
이런 논변은 새롭지 않다. 사실상 애보트는, 수학자들의 80%가 플라톤주의적 견해에 경사되어 있는 반면에 공학자들은 대체로 비플라톤주의자라고 추산한다(틀림없이 비과학적으로 조사한 자신의 경험들을 통해). 물리학자들은 "은밀한 비플라톤주의자"인 경향이 있다고 그가 말하는데, 이것은 물리학자들이 흔히 공적으로는 플라톤주의자인 듯 보인다는 점을 의미한다. 그런데 사적으로 압박을 가한다면, "비플라톤주의자라는 고백을 흔히 끌어낼" 수 있다고 그는 말한다.
그래서 이런 철학적 주제에 관한 의견 차이에도 불구하고 수학자, 공학자, 그리고 물리학자들이 모두 자신들의 작업을 수행해낼 수 있다면, 물리적 세계와 관련된 수학의 참된 본성이 도대체 왜 중요하겠는가?
그 이유는 여러분이 수학은 심적 구성물일 뿐―자체의 취약점과 한계점들을 지니고 있으며, 물리적 우주에서는 완전한 수학적 형식들이 존재하지 않기 때문에 어느 시점에서 무너질 실재에 대한 근사일 뿐―이라고 인식할 때 여러분은 수학이 얼마나 무력한 것인지 알 수 있기 때문이라고 애보트는 말한다.
그리고 애보트의 주요한 요점은 이렇다. 수학은 실재를 서술하는 데 예외적으로 뛰어나지 않으며, 그리고 명백히 일부 과학자들이 놀라움을 표명한 "기적"도 아니다. 수학적 비플라톤주의자인 아인슈타인은 수학의 힘에 놀라움을 표명했던 과학자였다. 그는 이렇게 물었다. "결국 경험과 무관한 인간 사유의 산물인 수학이 현실의 객체들에게 그토록 훌륭하게 적합하다는 것이 어떻게 가능한가?"
1959년에 물리학자이자 수학자인 유진 위그너(Eugene Wigner)는 이 문제를 "수학의 터무니없는 유효성(the unreasonable effectiveness of mathematics)"으로 서술했다. 이에 대응하여 애보트의 논문 제목은 "수학의 합당한 무효성(The Reasonable Ineffeciveness of Mathematics)"이다. 두 견해 모두 수학은 인간의 발명품이라는 비플라톤주의적 관념에 바탕을 두고 있다. 그런데 위그너와 아인슈타인은 수학이 실재를 엄밀히 서술한다는 점에 전적으로 주목한 수학적 낙천주의자로 간주될 수 있는 반면에, 애보트는 이런 수학적 모형들이 거의 항상 부족하다고 비관적으로 지적한다.
"유효한 수학"은 정확히 어떤 모습인가? 애보트는 유효한 수학은 본질적으로 노이즈가 뒤섞인 물리적 세계에 대한 간결하고 이상적인 표상들을 제공한다고 설명한다.
"수학의 해석적 표현들은 우리의 관찰 결과들에 대한 간결한 서술들을 제시하는 방식"이라고 그는 말했다. "인간으로서 우리는 제한된 뇌 능력을 지니고 있기 때문에 수학이 제공하는 이런 "압축"을 추구한다. 우리가 다양한 상황들에 규칙적으로 적용할 수 있는 단순하고 간결한 표현들을 제공할 때 수학은 효과가 있다. 그런 우아한 간결성을 제공하지 못할 때 수학은 효과가 없다. 우리가 너무나 많은 정확성을 희생하지 않은 채 그런 압축을 얻을 수 있다면 ... 수학을 유용한/실제적인 것으로 만드는 것은 이런 간결성이다.
"나는 수학이 효과가 있는(간결한) 경우보다 효과가 없는(간결하지 않는) 경우가 더 많이 있다고 주장한다. 우리가 성공적인 사례들에 초점을 맞출 때에만 수학은 효과가 있다는 환영을 갖는다. 그런데 우리의 성공적인 사례들은 우리가 우주에 관해 물을 수 있는 가능한 모든 의문들의 매우 작은 부분에만 적용될 것이다."
애보트의 논문에서 전개되는 논변의 일부는 수학자 리처드 W. 해밍(Richard W. Hamming)의 관념들에 근거를 두고 있는데, 1980년에 해밍은 수학이 겉보기만큼 효과적이지 않을 네 가지 이유를 판별했다. 해밍은 수학이 터무니없이 효과가 있다는 관념을 어쩔 수 없이 수용했지만, 애보트는 축소된 수준의 수학적 유효성을 감안하면 해밍이 판별한 이유들이 사실상 비플라톤주의를 뒷받침한다는 점을 보여준다.
수학이 왜 합당하게 효과가 없는지에 대한 애보트의 이유들 가운데 몇 가지는 다음과 같은데, 그것들은 대체로 수학은 인간의 발명품이라는 비플라톤주의적 관점에 바탕을 두고 있다.
- 수학이 성공적인 듯 보이는 까닭은 우리가 수학을 응용할 발법을 발견한 문제들을 신중하게 고르기 때문이다. 수백 만 개의 실패한 수학적 모형들이 존재했었을 것이지만, 아무도 그것들에 주의를 기울이지 않는다.("천재는 자신의 천 개의 터무니없는 다른 사유에 관해서는 침묵해야 한다는 상식을 지니고 있으면서 하나의 대단한 관념을 지니고 있는 사람일 뿐"이라고 애보트는 적고 있다.)
- 우리의 수학 응용은 규모가 달라지면 변한다. 예를 들면, 트랜지스터의 크기가 마이크로미터 수준이었던 1970년대에 공학자들은 우아한 방정식들을 사용하여 트랜지스터 거동을 서술할 수 있었다. 오늘날의 서브마이크로미터 트랜지스터들은 이전 모형들이 무시했던 복잡한 효과들을 포함하고, 그래서 공학자들은 더 작은 트랜지스터들을 모형화하기 위해 컴퓨터 시뮬레이션 소프트웨어에 의존했다. 더 효과적인 공식이 모든 규모에서 트랜지스터들을 서술할 것이지만, 그런 간결한 공식은 존재하지 않는다.
- 우리의 모형들이 모든 시간 규모에 적용되는 듯 보일지라도, 우리는 인간의 수명 규모에 의해 편향된 서술들을 만들어낼 것이다. 예를 들면, 우리는 태양을 지구를 위한 에너지원으로 여기지만, 인간의 수명이 우주만큼 길다면, 태양은 자체가 적색 거성으로 "폭발할" 때 지구를 빠르게 그것 자체와 열적 평형 상태에 이르게 하는 단기적인 요동인 듯 보일 것이다. 이런 시각에서 바라보면, 지구는 태양으로부터 유용한 순 에너지를 추출하지 않고 있다.
- 셈조차도 한계가 있다. 예를 들면, 바나나를 셀 때, 어느 시점에 바나나들의 수가 매우 커져서 모든 바나나들의 중력에 의한 끌림이 그것들을 블랙홀로 만들 것이다. 어느 시점에 우리는 세기 위해 더 이상 수에 의존할 수 없다.
- 그리고 무엇보다도 정수라는 개념은 어떤가? 즉, 어디에서 한 바나나가 끝나고 그 다음 바나나가 시작되는가? 우리는 우리가 시각적으로 안다고 생각하지만, 공식적인 수학적 정의는 없다. 이것을 논리적 극단으로 가져가서, 인간들이 고체 상태가 아니라 기체 상태로 구름 속에서 산다면 이산적인 객체들을 세는 것은 그렇게 명백하지 않을 것이다. 그러므로 단순한 셈이라는 관념에 바탕을 둔 공리들은 우리 우주에 내재적인 것이 아니라, 인간의 구성물이다. 그러므로 우리가 만들어낸 수학적 서술들은 보편적으로 적용가능할 것이라는 점에 대한 보증은 전혀 없다.
애보트의 경우에, 이런 점들과 그가 자신의 논문에서 제기하는 많은 다른 점들은 수학이 실재를 불가해한 규칙성에 맞추는 기적적인 발견물이 아니라는 점을 보여준다. 결국, 수학은 유용하고, 제한적이며, 그리고 기대한 만큼 잘 작동하는 인간의 발명품이다.
그런 논의로부터 더 실제적인 것을 찾는 사람들에게 애보트는 이런 이해가 더 큰 생각의 자유를 허용할 수 있을 것이라고 설명한다. 일례는 벡터 연산의 개선이다. 현재의 방법은 스칼라곱과 벡터곱을 포함하는데, 고차원으로 일반화되지 않는 "상당히 투박한" 도구다. 최근에 기하적 대수학(geometric algebra)으로 불리는 대안적 접근방식에 대한 새로운 관심이 쏠렸는데, 그것은 스칼라곱과 벡터곱의 많은 한계점들을 극복하고 고차원으로 확장될 수 있다. 현재 애보트는 가까운 미래에 출판될, 공학자들을 위한 기하적 대수학에 관한 소개 논문을 저술하고 있다.