사실 앞의 글을 쓴 것은 바위에서 좀 짱인 증명을 하나 봤기 때문이다.

Theorem 1. 수학은 헛소리다

증명. 집합 A = {x in N | x는 한국어로 10어절 이내로 표현할 수 있다} 이라고 하자. 한국어 단어의 수는 유한하므로 어절의 수도 유한하고, 어절의 수는 유한하므로 집합 A 역시 유한하다. 따라서 집합 (N \ A)는 최소원 t를 갖는다. 그러나 t는

한국어로 10어절 이내로 표현할 수 없는 제일 작은 자연수

로 한국어로 10어절 이내로 표현가능하므로, t는 A에 속한다. 이에 모순인데, 이는 수학이 올바르다는 가정에서 왔으므로 수학은 헛소리다. □ (Thanks to windless)

이 증명에서 어디가 잘못됐는지 지적해주실 분? 잘못되기는커녕, 앞의 글에서 이야기한 (e)번 방안, "보조 정리 합체법에 의한 추측의 개선"에 정확히 합치하는 예 아닌가!

자, 이 부분이 바로 '수학자의 합리성'을 공격할 수 있는 허점이다. 하나의 증명이 성립하기 위해서는 여러가지 가정들이 도입된다. 가장 기반에 있는 가정이, 위에서 얘기한 '수학이 올바르다'는 가정이겠지. 자, 그런데 이 증명에 대한 반례가 발견되었다. 어느 가정에 '조건을 덧붙일' 것인가? 앞에서 했듯이 극단적으로 가장 기반에 있는 가정을 두들길 수도 있는 것이고, 아니면 적당한 가정을 손질해서 증명을 '옳게' 고칠 수도 있을 것이다.

위에서 소개한 증명과정에서 도입된 예는 러셀의 역설(Russell's paradox)과 관련된 유명한 예이다. 저런 극단적인 방법 말고, 다른 방법으로 이 역설을 해결하려면 어떻게 할 수 있을까? 우선 역설을 하나씩 뜯어놓고 생각해보자.

1) 집합 A = {x in N | x는 한국어로 10어절 이내로 표현할 수 있다} 이라고 하자.
2) 한국어 단어의 수는 유한하므로 어절의 수도 유한하고, 어절의 수는 유한하므로 집합 A 역시 유한하다.
3) 따라서 집합 (N \ A)는 최소원 t를 갖는다.
4) 그러나 t는 "한국어로 10어절 이내로 표현할 수 없는 제일 작은 자연수"로 한국어로 10어절 이내로 표현가능하므로, t는 A에 속한다.
5) 3과 4으로부터, 모순이다.

1번 단계를 손질해볼까? 극단적으로, "조건 제시법에는 수학적으로 형식화된 조건만 사용할 수 있다"라는 식의 손질을 가할 수 있을 것이다. 그렇게 하면 1번 단계가 잘못된 셈이고, 따라서 '모순'은 해결된다. 아니면 다른 단계를 손질할 수도 있을 것이다. 2번에서 3번 단계로 넘어가는 단계에서 '유한한 자연수 집합에는 최소원이 존재한다'라는 보조 정리가 사용되는데, 이 정리를 손질해서 '모순'을 없애는 방법도 있을 것이다. '한국어로 10어절 이내로 표현할 수 없는 제일 작은 자연수'의 존재를 아예 없애는 것이다. 아니면 5번 단계를 손질하는 방법도 있다. p∧~p가 c가 아닌 체계를 만들면 된다. (이건 아니지만, 이런 식으로 공리계를 바꿔서 접근하는 사람들이 있다. 배중률 ~~p → p를 부정하는 사람들인데, 수학철학에선 '직관주의'라 부른다.)

유형 이론(type theory)의 관점에서 접근하자면, 4번 단계를 손질할 수 있다. "한국어로 10어절 이내로 표현할 수 없는 제일 작은 자연수"라는 표현과 집합 A의 "한국어 표현"과 다른 '유형'에 속하는 표현이기 때문이다. 혹시 잘 모르는 분이 계실까봐 부연설명한다. 이 개념은 악명 높은 교양서 -_- <괴델, 에서, 바흐>에서도 많이 사용되는 개념인데, "나는 잘생겼다."라는 문장 A와, "문장 A는 거짓말이다."라는 문장 B는 서로 다른 '유형'이라고 볼 수 있다. 즉 A를 평범한 명제로 본다면 B는 명제를 기술하는 명제, 즉 메타명제(meta-proposition)라 할 수 있는 것이다. 이 경우 A와 B는 서로 다른 '유형'이기 때문에 섞어쓰면 '안 되고', 위의 모순 역시 두 유형을 섞어썼기 때문에 발생했다고 보는 것이다.

자, 앞에서 언급한 여러 개의 손질('수학은 헛소리다'를 포함해서!)과 아래 유형 이론의 차이가 무엇일까? 어째서 앞의 '손질'들은 받아들여지지 않고 유형 이론의 '손질'은 받아들여진 것일까? 더 나아가, 과연 수학자들은 문제가 있는 증명에서 어느 가정을 '손질'할지 어떻게 결정할까?

많은 분들의 의견을 기다립니다 :D (이러고 도망...)