[책] 무한소(Infinitesimal)
버트란드 러셀(Bertrand Russell)은 수학이 “아름다운 냉정함과 간결함”을 가지고 있다고 쓴 바 있습니다. 이 책의 저자인 역사학자 아미르 알렉산더(Amir Alexander)는 수학이 ‘추한 뜨거움과 지저분함’ 역시 가지고 있다고 말합니다.
16세기 말에서 17세기 사이 수학자들은 직선, 평면, 입체 등의 연속된 대상을 어떻게 이해할 것인지 고민했습니다. 예를 들어 선분은 무한히 많으며 더 이상 나눌 수 없는 점으로 이루어졌다고 할 수 있을까요?
그리고 만약 그렇다고 한다면, 즉 이 무한히 작은 점이 0 의 크기를 가지고 있다면, 어떻게 선분은 유한한 길이를 가질 수 있을까요? 또 만약 점의 크기가 0 이 아니라면, 이들이 무한히 많이 모였기 때문에 그 길이는 무한대가 되어야 하지 않을까요?
이런 이유로, 아리스토텔레스는 연속된 대상은 점으로 이루어진 것이 아니라고 주장했습니다. 그러나 당시 새롭게 발견된 내용들은 이런 연속체를 점들의 집합으로 간주함으로써 유클리드 기하학에서는 얻을 수 없었던 새로운 통찰력을 얻을 수 있음을 보여주고 있었습니다.
이런 모호한 문제가 당시 그렇게 사람들의 관심을 끌었다는 것은 이상한 사실입니다. 그러나 저자는 왜 이런 수학적 논쟁이 일어났는지를 생생하고 매혹적으로 묘사합니다.
수학자 카발리에리(Cavalieri), 토리첼리(Torricelli), 갈릴레오(Galileo)와 다른 이들은 무한소를 포함하는 새로운 기하학의 선두에 있었습니다. 유클리드의 고전기하학이 몇 개의 공리에서 오직 논리만을 사용해 만들어진, 탑-다운의 형태라면 새로운 기하학은 경험에서 영감을 얻은, 바텀-업의 형태를 가졌습니다. 예를 들어, 천 조각이 평행한 실들로 짜여져 있다는 사실에서 평면은 무한한 수의 평행한 직선으로 이루어진 것일 수 있다는 생각이 나왔고, 또 책이 종이들로 이루어져 있다는 사실은 입체가 무한한 수의 평행한 평면으로 이루어진 것일 수 있다는 추측을 가능케 했습니다.
그럼 이 문제는 왜 그렇게 뜨거운 쟁점이 되었을까요?
여기에는 종교개혁의 영향이 어느정도 포함되어 있습니다. 로마 카톨릭의 한 종파인 예수회(Jesuit)는 개신교의 약진에 대항하기 위해 지적인 엄밀함과 교황에 대한 충성을 추구했습니다. 예수회는 카톨릭과 유클리드 기하학을 전통, 명확함, 권위라는 공통점으로 묶었고 무한이라는 개념을 개신교의 복잡한 종파와 함께 혼돈, 혼란, 그리고 수수께끼라는 공통점으로 묶었습니다.
실제로, 후에 이단으로 판결받은 갈릴레오는 자신의 이론에 무한소의 개념을 포함시킨 일이 있습니다. 저자는 갈릴레오가 수학자이자 물리학자로서만 위대했던 것이 아니라 당시 예수회의 권위에 도전할 정도로 기지있는 용감한 학자였음을 강조합니다.
이 책의 대부분은 근대가 막 시작되던 혼란스런 시기의 수학자와 신학자들 이야기로 이루어져 있습니다. 여기에는 그레고리안력을 만든 신학자 크리스토퍼 클라비우스(Christopher Clavius)에 대한 이야기와 예수파가 노력끝에 이탈리아 수학자들로 하여금 무한소 개념을 사용하지 못하게 한 이야기가 포함되어 있습니다.
한편, 무한소의 개념을 지지하는 기하학적 통찰들이 등장하기 시작했습니다. “카발리에리의 원리”는 어떤 두 입체가 같은 높이에서 같은 단면적을 가지고 있다면 두 입체의 부피가 같다는 것을 말해줍니다. 예를 들어, 우리가 같은 갯수의 동전으로 탑을 쌓았을 때, 수직으로 쌓아올린 탑이건 비스듬히 나선형으로 쌓은 탑이건 부피는 같을 것입니다. 동전의 두께를 극히 얇게 만들었을 때도 이는 마찬가지입니다. 이 방식으로 기하학적 형태의 면적과 부피를 구하는 공식은 매우 간단히 유도되며 이 개념에서부터 곧 적분이 등장하게 됩니다.
오늘날 무한소의 중요성은 많이 줄어들었습니다. 현대적인 극한의 개념은 무한소의 개념 없이도 모든 것을 더 엄밀하게 정의할 수 있게 했습니다. 한가지 예외는 논리학자 아브라함 로빈슨(Abraham Robinson)과 H. 제롬 카이슬러(H. Jerome Keisler)가 최근 무한소를 “어떤 실수보다도 작지만 영보다 큰 숫자”로 새롭게 정의한 일입니다.
예수파가 무한소를 이탈리아에서 성공적으로 쫓아낸 이후, 무한소의 이야기는 영국에서 다시 이어집니다. 이 이야기에서 주목할만한 인물은 토마스 홉스(Thomas Hobbes) 입니다. 법과 질서를 중요시했던 그는 예수파와 마찬가지로 기하학에서도 탑-다운의 체계를 가지기를 원했고, 그 결과 무한소의 개념을 자유롭게 사용했던 수학자 존 월리스(John Wallis)를 미워했습니다.
무한소는 결국 미적분과 미분방정식, 그리고 오늘날의 세상을 만든 과학과 기술에 큰 영향을 끼쳤습니다. 그러나 그 싸움이 완전히 끝난 것은 아닙니다. 예수파와 무한소-주의자들의 대결, 그리고 홉스와 월리스의 대결과 비슷한 일은 오늘날에도 계속되고 있습니다. 아마 그 중의 하나는 증명에 기반한 “순수” 수학자들과 컴퓨터에 친화적이고 경험을 중시하는 수학자들간의 대결일 것입니다. 저자가 월리스의 수학에 대한 열린 자세를 더 자연스럽게 생각했던 것처럼, 이 싸움에서도 후자의 승리를 예측할 수 있습니다. (NYT)