임레 라카토스(Imre Lakatos; 원래 발음은 '라카토슈'에 가까운 듯.)는 포퍼와 쿤을 잇는 유명한 과학철학자로, 포퍼 이론과 쿤 이론의 장점을 취합한 '연구 프로그램(research programme)'의 개념을 제시해 주목받은 사람이다. 이 사람이 포퍼 이론('추측'과 '반증'의 반복으로 과학사를 설명하는 이론)을 수학사에 적용시켰는데, 이것이 바로 이 책에서 다루고 있는 내용이다. 제목만 봐도 벌써 포퍼의 냄새가 물씬 풍긴다. 우리말 제목이자 영문판 부제목은 <수학적 발견의 논리(The Logic of Mathematical Discovery)>. 포퍼의 주저 <과학적 발견의 논리>가 떠오른다. 영문판 주제목은 <증명과 반박(Proofs and Refutations)>. 역시 포퍼의 유명한 <추측과 반박>을 패러디한 것 같다.

라카토스에 대해서는 이미 <과학이란 무엇인가?>라는 책에서 한 장을 할애하여 설명한 것을 읽었기 때문에 이 책에 대한 기대가 컸다. 그리고 비록 내가 관심을 갖고 있는 '연구 프로그램' 이론은 등장하지 않았지만, 수학 역시 포퍼 이론으로 설명된다는 것은 충격적이었다. 이 책에서 제시한 수학적 발견의 논리는 다음과 같다.

1) 원초적인 추측.
2) 증명.
3) 전면적인(global) 반례.
4) 증명의 재검토 및 추측의 개선.
5) 새로운 추측을 기준으로 다른 정리들의 검토.
6) 원래의 추측에서 나온 결론들 검토.
7) 반례가 새로운 예로 변형되면서 새로운 탐구 분야 확립.

여기서 1-4번 단계는 매번 반복되면서 수학적 발견을 점차 풍성하게 만들고, 가끔 5-7번 단계가 진행될 수도 있다.

이 책에서는 이 이론을 뒷받침하기 위해 몇 가지 예를 드는데, 가장 주된 예제로 다루고 있는 것이 '오일러의 다면체 정리'다. 아마 중고등학교 때 한 번쯤은 들어보는, V - E + F = 2라는 공식. 이것을 어떻게 증명할 수 있으며, 예외 혹은 괴물(이라고 번역되어있던데 도대체 원래 단어는 뭘까?)이 등장하면 어떻게 처리하는지 어느 '고급' 학급의 수학 토론 시간을 빌려와 보여주고 있다. 뒤에 첨부한 부록에서는 이것 외의 다른 예들도 몇 가지 제시하면서 자신의 주장을 견고히 한다.

상당히 놀랐다. '수학'이라는 것은 어찌됐든 연역적으로 유도되는 것이고 그 정리들이라는 건 옴싹달싹할 수 없게 고정된 것인 줄만 알았는데, 역사적 맥락에서 살펴보면 과학의 경험적 지식과 크게 다르지 않은 모습을 보이는구나. 부록 2에서는 이런 말을 한다. 어쩌고저쩌고라는 어떤 수학적 정의가 있을 때, 도대체 왜 그런 식으로 정의했는지 학생들은 알 길이 없다. 하지만 책의 뒷부분을 살펴보면 그 정의를 써서 정확하게 설명되는 정리가 등장할 것이다. 아마도 역사적으로는, 책의 순서와 반대로 발견되지 않았을까. 정리를 만드려고 했는데 그 '증명'이 부정확해서 기존의 정의를 수정하거나 새로운 정의를 도입하고, 그에 맞춰 정리를 '증명'하는 것이다.

한 가지 주의할 점은, 이것이 수학의 논리성 혹은 연역성과는 전혀 무관하다는 점이다. 확실히, 수학적으로 공리계와 추론규칙이 결정되면 정리를 '증명'하는 방법은 이들을 이용하는 방법 밖에 없다. 이것이 바로 철저한 수학적 논리성 혹은 연역성에 해당한다. (이것을 엄밀화하려고 했던 것이 힐베르트의 형식주의였고.) 이 책에서 이야기하는 바는, 수학자들이 증명을 하다가 원하는 정리가 나오지 않을 때 '증명'의 룰을 깬다는 것이 아니라 이와 같은 '증명'의 테두리 안에서 새로운 접근을 시도한다는 것. 사실 수리논리학적으로 말하면 '정의(definition)'라는 것은 주절주절 길게 말하기 귀찮을 때 요약하기 위해서 쓰는 것이고, 그 요약할 내용이 무엇인가는 정의된 대상의 이름과는 전혀 무관하다. 따라서 설령 이름이 같더라도 내용이 다른 정의가 존재할 수 있고, 이러한 것이 실제 수학 연구에서는 비일비재하다는 것이 라카토스의 결론이다.

이 책을 읽으면서 라카토스의 천재성에 또 한 번 놀라고, 역시 유명한 사람의 책은 뭔가 '포스'가 있구나- 라는 생각을 하면서도, 번역을 제대로 못하면 아무리 대단한 책이라도 허섭쓰레기가 되는구나- 라는 생각을 다시 한 번 했다. 음... 조금 심하게 말해서, 옮긴이의 번역 실력은 거의 바벨피쉬 번역기랑 비슷한 수준인 것 같다. 번역만 못하는 줄 알았는데 역자 후기를 보니 글 자체를 정말 재미없게 쓰는 분 같다. 번역 문제로 읽다 집어치우고 싶을 때가 한 두 번이 아니었으나, 라카토스 씨의 사상이 워낙 흥미를 끌어서 간신히 끝까지 다 볼 수가 있었다. 과장 40% 섞어서, 번역만 빼고 다 좋은 책이다. 흥.