‘과학이 교양으로 자리 잡았으면 좋겠다’는 바람에서 글을 쓰기 시작했다. 그리고 1년이 되었다. 한 바퀴 돌아 연재는 끝났고, 나 자신이 크게 성장했다. 그러나 아쉬움이 남는다. 미처 다루지 못했던 주제가 남아 있기 때문이다.

하나는 과학에서 수학의 위상이고, 다른 하나는 과학과 종교와의 관계이다. 어렵고, 위험한 주제이다. 그래도 도망칠 수만은 없다고 생각했다. 그래서 뒤늦게 이를 정리, 3회로 나누어 이야기를 계속 진행하고자 한다.

장 조프루아 작품을 보자. 아이가 칠판에 그림을 그리는 데 전혀 망설임이 없다. 그러나 2+2, 즉 산수 문제를 만나자 당혹스러워 하고 있다. 수(數)가 추상적 개념이기 때문이다. 하나, 둘이라는 수의 실체도 그렇고, 개 두 마리와 얼음 두 조각을 과연 더할 수 있겠는가? 그래서 추상적이다.

그러나 어른이 되어서도 수학을 어려워한다면, 이는 자기모순일 수 있다. 우리 각자는 수학으로도 감당이 되지 않는 난제(難題)들, 이를테면 인생, 사랑, 정치 그리고 종교에 이르기까지 주관이 뚜렷하다. 해(解)가 불분명함에도 자신이 옳다며 핏대를 세운다. 그리고 그 과정에서 경청과 양보는 찾아 보기 어렵다.

이런 관점에서 보면, 수학은 오히려 쉽다. 수학은 복잡한 현상을 단순화했기 때문이다. 자연에서 벌어지는 현상에서 공통점과 규칙성을 찾아 일반화시켰다. 그냥 따라만 가다 보면, 세상이 어떻게 작동하는지 대체를 이해할 수 있다.

뉴턴과 맥스웰 이후 수학은 이제 실험과 더불어 과학의 검증 도구로 자리 잡았다. 그리고 실험이 불가능한 세계에서 수학적 증명은 신뢰성에서 절대적이다. 인류의 위대한 발명이다. 그래서 창조주가 존재한다면, 그는 수학자일 것이라는 농담도 생겼다. 물론 추상화가 더욱 진행되었기에 어렵게 느껴진다는 점은 동의하는 바이다.

아인슈타인은 1943년 ‘수학이 어렵다’고 쓴 아홉 살 바바라의 편지에 이렇게 답장했다. “걱정하지 말아라. 내게는 더 어렵단다.” 그냥 아이의 고민을 덜어주려 한 이야기일 수도 있다.

그러나 대중은 이 말을 곡해했다. 수학을 몰라도 위대한 물리학이 가능하다고. 나아가 아인슈타인은 수학을 잘 못 했다고 생각한다. 그러면서 수학을 등한시하는 자신의 게으름에 정당성을 부여한다.

아인슈타인이 수학의 어려움을 절실히 느낀 것은 사실이다. 특히 뉴턴의 이론을 대체하는 새로운 중력 이론, 즉 ‘일반 상대성 이론’ 때문에 그랬다. 뉴턴은 물체들 간에는 중력이 존재하며, 그 힘은 직선운동을 한다고 믿었다.

그러나 멀리 떨어져 있는 물체 간 아무것도 없이 어떻게 서로 끌어당기는지에 대한 설명은 없었다. 아인슈타인은 공간에 중력을 이끄는 역선(力線, 중력장)이 있을 것으로 상상했다. 마치 전자기력이 전자기장에 따라 움직이듯이.

일반 상대성 이론의 핵심은 이 중력장이 물체에 의해 휘어진다는 점이다. 공간이 휘어진다는 것은, 시간도 따라 휘어진다는 결론으로 이어진다. 시공간이 절대적인 것이 아니라, 상대적이라는 패러다임의 전환이다. 그런데 이 휘어지는 정도를 계산하기 위해서는 리만 기하학이 필수적이다. 리만 기하학은 굽은 공간의 곡률(리만 곡률)을 일반화한 이론이다.

아인슈타인은 리만 곡률과 물질의 에너지의 비례 관계를 설명하는 방정식을 찾으려 했다. 특수상대성이론 발표 이후 10년간 이 문제로 고심했다. 그의 오랜 친구 마르셀 그로스만으로부터 받은 리만 기하학에 관한 책을 갖고 공부를 계속했다.

특히 막바지에 아인슈타인을 초조하게 만든 인물이 있었는데, 그가 바로 위대한 수학자 다비트 힐베르트이다. 힐베르트는 아인슈타인의 강연에 참석해서 그가 무엇을 찾는지 곧바로 이해했다. 그리고 그 해(解)를 찾는 방정식을 연구하기 시작했다.

그러자 아인슈타인은 힐베르트가 먼저 해답을 찾을까 쫓기듯 매주 공식을 발표했다고 한다. 번번이 틀려가면서. 결론적으로 아인슈타인이 간발의 차이로 올바른 해답을 먼저 찾아냈다. 그러나 힐베르트도 할 말이 있었다. 아인슈타인이 방정식 발표가 있기 5일 전 그는 학회지에 이미 논문을 보냈다. 해답에 아주 가까이 다가간 내용이었다.

그러나 힐베르트는 일반 상대성 이론을 먼저 발견했다는 주장을 한 번도 하지 않았다. 오히려 수학자가 아닌 물리학자 아인슈타인의 상상력과 창의성을 인정했다. “(힐베르트가 연구하고 있는) 괴팅겐의 어떤 젊은이도 아인슈타인보다 4차원 기하학을 더 잘 안다. 하지만 과제를 해결한 것은 아인슈타인이었다.”

뉴턴과 라이프니츠는 미적분의 최초 발견자가 누구냐는 문제로 학문적 정력을 낭비했다. 특히 라이프니츠는 삶까지 피폐해졌다. 이를 잘 알고 있는 아인슈타인이기에 선배 힐베르트의 배려에 진심 어린 감사의 뜻을 표했다.

“저는 활짝 갠 우정의 마음으로 당신을 생각하고 있습니다. 세속에서 벗어나 길을 만들어가는 우리와 같은 동료들이 서로에게서 기쁨이 아닌 다른 것을 느낀다면 정말로 애석한 일일 것입니다.” 그야말로 위대한 학자들의 위대한 인격이다. 수학은 정답보다 과정의 합리성을 중요하게 여겨서 그랬을까?

김민형 교수는 <수학이 필요한 순간>에서 “수학적으로 사고하면 도덕적으로 그릇된 답을 피할 수 있다”고 알려준다. 늦지 않았다. 지금부터라도 수학적 사고를 훈련하라. 그러면, 우리는 인생에서 결과적 오류를 최소화하고, 과정을 즐기는 지혜를 깨닫게 되리라.