2부 비유클리드 기하 발견 6. 비운의 부자 W. 보리아이와 J. 보리아이 보리아이 부자와 가우스 필자 다음으로 비유클리드 기하 발견자 중 한 명인 요한 보리아이의 이야기로 들어가자. 보리아이는 스펠링이 Bolyai인데 헝가리 사람들은 보야나 보요라고 한다. 요한은 독일명으로 헝가리에서는 야노쉬라고 하며 Bolyai János처럼 한국어 순으로 쓴다. 아버지 볼프강은 팔카슈인데 현재까지처럼 W. 볼리아나 아버지 볼리아라고 부르기로 하자.
J. 보리아이와 아버지 W. 보리아이는 불가분의 관계에 있기 때문에 아까와 중복되는 부분이 있지만 먼저 아버지 이야기를 하자.
W. 보리아이(17751856)는 헝가리 귀족 출신으로 소년 시절에는 무엇이든 할 수 있는 신동이었던 것 같다. 화가가 되든 배우가 되든, 어학도 수학도 좋아했기 때문에 무엇을 해야 할지 좀처럼 결심하지 못했다. 그러던 어느 날 화약실험으로 눈을 다친 뒤로는 머리로만 할 수 있는 수학에 전념하게 됐다고도 한다. 훗날 마로슈 바샤르헤리라는 마을의 고등학교에서 수학 물리 화학의 괴짜 교수로 생을 마감했다.
스무 살 무렵에는 평행선 공리 등 자기류에 관한 이것저것 생각하다가 21살 때 가을 괴팅겐대학 유학 때 두 살 연하의 가우스와 알게 됐고, 두 사람이 둘도 없는 친구가 됐다는 것은 앞서 말했다.
아버지 보리아이는 이윽고 고향에 돌아와서는 수학교사를 하면서 여전히 평행선 공리의 증명을 계속하고, 때로는 가우스에게 자신의 결과를 알려주면 가우스에게서는 그 잘못이 지적되어 돌아온다. 그런 일로 평행선에 사로잡힌 그는 실패에 실패를 거듭하는 동안 자신의 생활태도가 엉망이 되고 있음을 깨달았는데, 그때는 이미 장년기에 이르러 있었다.
아들 야노쉬(1802~1860)가 태어난 것은 아버지 보리아이가 청년 시절 때였는데, 이 아이가 보통 아이가 아님을 자랑하며 그 비정상적인 아이의 행동을 세세하게 가우스에게 알리고 있다.
루소의 에밀이 대유행하던 시절이어서 불과 9세가 돼서야 옛날식으로 과외를 채용한 보통교육으로 돌아왔지만 수학은 물론 아버지 보리아이가 가르쳤기 때문에 12, 13세 무렵에는 해석기하부터 2차 곡선론까지 나아갔다.
여동생이 하나 있었는데 일찍 죽었기 때문에 외아들 야노 오사무(野修)를 응석받이로 한 탓에 15세 무렵에는 화를 잘 내고 제멋대로인 기분 좋은 젊은이가 되어 있었다. 하지만 아버지의 가르침으로 과학, 특히 수학을 좋아했고 어학 실력도 상당한 데다 바이올린 명수였다고 한다.
야노 아키라가 아직 다섯 살이던 1807년에 아버지 보리아이는 가우스에게 보낸 편지에서 아들에게 수학에 재능이 있음을 자랑하며 15년 정도 지나자 야노 아키라를 당신에게 데려가 당신의 제자로 만들고 싶다는 뜻을 밝혔다. 그러나 W. 보리아이와 가우스 사이는 서서히 멀어졌고, 다음 1808년에 평행선 증명을 동봉한 W. 보리아이의 편지에 가우스가 답장하지 않은 것은 전술한 바와 같다.
A군 W. 보리아이의 증명이 또 틀렸기 때문에 연구를 계속하도록 용기를 낼 생각도 못했을 거라고 말씀하셨죠.
필자 외에도 가우스가 점점 바빠졌기 때문에 신경 쓰이는 편지 따위는 좀처럼 쓰지 못했을 것이다. 그러나 W. 보리아이는 여전히 아들을 가우스에게 맡길 생각이 있었던 것 같고, 아들 야노쉬도 아버지가 거인 가우스와 친구라는 것을 자랑스럽게 여겨 일찍 가우스 밑에서 수학을 연구하는 것을 동경하고 있었음을 충분히 상상할 수 있다. 하지만 W. 보리아이도 그렇게 쉽게 아들을 멀리 떨어진 괴팅겐으로 유학 보낼 만한 재산도 없었기 때문에 마음이 아팠다. 다행히 야노 오사무가 14세 때의 봄, 2년 후에는 장학금을 받을 수 있는 가능성이 생겼으므로, 전부터 마음에 두고 있던 아이의 지도를 부탁하고자 1816년 4월 10일자로 가우스에게 다음과 같은 편지를 썼다.
먼저 자신의 아이의 수학적 재능을 자랑한 후,
그 아이를 3년 동안 맡아 달라. 가능하면 당신 집에 말이죠. 그 이유는 15살 아이를 혼자 둘 수는 없고, 그렇다고 집사를 붙여주는 것은 소송 문제로 고통받는 저로서는 감당하기 어렵기 때문입니다. 물론 영부인의 지출은 변상하겠습니다 – 만약 제가 그 아이와 동행할 수 있다면 모든 일이 잘 처리될 것입니다. 그래서 이 계획에 대해 다음 사항을 솔직하게 알려주세요.
⑴ 당신은 그 무렵 위험한 적령기에 있는 딸이 없습니다. 물론 청년은 반드시 이 위험한 전쟁터에 있으니 사소한 이성만 있으면 맹목적인 총탄을 맞고 불구속자가 돼 이 도원경의 꿈에서 깨어나지는 않을 것입니다.….
⑵ 당신은 건전하고 가난하지 않고 채워진 생활을 하고 있어서 조금 귀찮지 않을까요? 특히 영부인은 여성으로서 특별한 편? 풍향계처럼 기분이 자주 바뀌는 건 아니죠? 청우계가 바뀌면 요주의! 이런건 없겠죠? ……
⑶ 여러 가지 사정을 생각해 보고 당신은 아주 간단하게 한마디면 된다고 결정할 것 같습니다. 저는 당신이 따뜻한 마음을 가졌다는 것을 믿어 의심치 않기 때문입니다.
A군은 상당히 특이한 편지인 것 같은데, 유럽인들은 이렇게 노골적인 편지를 쓰나요?
필자 설마 그럴까. 농담이죠. W. 보리아이는 형편이 어려워졌지만 아직 양반집에서 자란 모습이 남아있을 것이다. 가우스 선생님에게는 농담이 통할 것 같지 않아 그 당황한 얼굴이 눈에 보이는 것 같다. 아니나 다를까 가우스의 회신을 아들과 함께 하루 천추의 마음으로 기다리던 W. 보리아이에게는 일주일이 지나도 한 달이 지나도 회신이 오지 않았다. 급기야 가우스의 답장 없이 가우스와 W. 보리아이 사이의 소식은 이후 15년간 끊기고 말았다.
아버지 보리아이의 놀라움에 기대했던 가우스의 답장이 없자 W. 보리아이는 1818년 16세의 야노쉬를 빈의 육군공대에 입학시켰다. 이는 다른 대학에 자신의 마음에 드는 수학 지도자가 없다는 점과 W. 보리아이 자신이 군대 생활을 좋아했기 때문이었다. 젊은 보리아이는 5년 뒤인 1823년 이곳을 우수한 성적으로 졸업하고 씩씩한 20세 공병 소위로 임관됐다.
A군 J. 보리아이는 수학 전문 교육은 받지 못했군요.
필자고등수학의 엄격한 교육은 받았지만 뭐니뭐니해도 자유로운 수학은 아니니까. 프랑스의 레코폴리 테크닉과는 다른 것 같다.
이게 불운의 하나라고 생각해. 그러나 아버지로부터 기하 초보자를 배우면서 어느새 평행선 문제를 생각하게 되었고, 공대 학생 때 이미 직선 a에서 등거리에 있는 곡선은 직선이다.를 증명하려고 했다. 그러기 위해서는 <그림 2-26>과 같이 a상에 같은 간격으로 점 A, B, C, D, E…를 취하여 같은 길이의 수선 AA″=BB “=CC”=…를 세우면 A”B”=”B”C”=”C”D”=…가 되는 것은 분명하므로, 가령 A”B””·C”…이 일직선이 되지 않는 경우는 AA”·BB”·C”…은 2직각이 되지 않고, 게다가 각 모서리는 같으므로 A”B”…는 동시에 변이 같다. 이것은 모순이다. 따라서 a로부터 같은 거리에 있는 선은 직선이라는 증명이다.
<그림2-26>
<그림2-27>
1820년 봄 보리아이가 아버지에게 자신의 이 증명을 알렸을 때 아버지 보리아이는 심장이 멎을 정도로 놀랐다. 바로 이러한 생각을, 자신은 20년전에 가우스에게 알리고, 게다가 가우스로부터 증명의 오류를 지적받고 있었기 때문이다(<그림 2-4> 참조, 2-3 가우스와 W. 보리아이의 만남). 이후 나는 평행선 공리의 증명에 완전히 사로잡혀 마침내 자신의 반생애를 망쳤다. 이 잘못된 길을 소중한 외아들이 가르치기 전에 어느새 꼭 그대로 따라오고 있지 않을까.
A군의 아버지 보리아이는 야노쉬에게는 평행선 공리 연구를 숨기고 있었군요.
필자 그래. 그래서 놀란 아버지는 편지를 받자마자 긴 편지를 썼다. 1820년 4월 4일자 편지다. 이 편지에서 아버지 보리아이는 젊은 보리아이에게 평행선 공리 증명에 손을 대지 말아야 한다. 평행선 연구에 뛰어든 끝에 실패한 나의 비참한 상태를 보라. 너를 이렇게 꾸미고 싶지 않아라며 자신의 실패담을 처음으로 아들에게 자세히 알려줬다.
A군, 예를 들면 어떤 건가요?
필자 공리를 부정하고 a 상에 없는 점에서 두 평행선을 긋을 수 있다고 가정하면 다음에 열거하는 것과 같은 여러 불합리가 생긴다는 것이다. 우선
내각 합계가 얼마든지 작은 삼각형이나 다각형이 있다. 게다가 이 다각형의 변의 수가 얼마든지 큰 것이 있다.”
<그림2-28>
너도 알기 쉽게 <그림1-54> 모델을 사용하여 그림을 그려보면 그 의미를 잘 알 수 있다. <그림2-28>에서, AABC의 정점을 원주에 가깝게 해 나가면, A+B+C는 얼마든지 제로에 가까워질 수 있다. 다각형에서도 그렇다, 너에게는 아직 설명하지 않았지만(<보강5> 참조). 다음으로
일직선a에직교하는직선을모두생각하면이직선전부에교차하는직선은a뿐이다.
라고 하는 묘한 일이지만, 이것을 그리면 <그림 2-29>와 같이 되어 P에 모이는 직선이 원내에서는 a=(VU)에 수직이므로 아버지 보리아이가 시키는 대로 되는 것을 알 수 있다(<보강 3> 참조). 물론 아버지 보리아이는 이런 그림을 모른다.
<그림2-29>
크기에 관계없이 작은 모서리 안에 얼마든지 180°에 가까운 둔각을 넣을 수 있다.
이것도 원의 그림 <그림2-30>을 그리면 알 수 있다(유클리드 평면이면 α내의 β각은 β가 작거나 똑같다). 이 밖에 여러가지 예를 W. 보리아이는 들고 있지만 그만두자.
<그림2-30>
그런데 평행선 공리가 없으면 필연적으로 이런 신기한 사실이 많이 일어난다. 그러나 이 이상한 일이 모순된다는 것은 도저히 증명할 수 없다. 그래서 자신은 평행선의 공리를 증명하는 것은 절대로 불가능하다고 생각한다. 그래서 이런 쓸데없는 노력은 결코 하는 것이 아니라고 아버지 보리아이는 입에 질리도록 아들에게 설득한 것이다.
A군 평행선의 공리를 증명할 수 없다면 평행선 공리를 부정한 비유클리드 기하가 있는 것이 아닙니까?
필자여, 그것은 네가 비유클리드기를 하라는 것이 있다는 것을 설파하고 알기 때문에 그렇게 말할 수 있는 것이다. 평행선의 공리를 부정하면 어떤 기하들이 생기는지 해보면 그 어려움을 알 수 있다. 정말 막막하구나. 게다가 늙은 보리아이는 체험으로 공리를 증명할 수 없다는 확신을 얻었는데, 그러면 공리를 부정하면 새로운 기하가 생기지 않을까 하는 그런 번뜩임을 하늘이 주는 행운은 없었다. 거슬리는 표현 방법을 쓰면 말이야.
A군 천재가 아니었다는 말씀이시군요.
필자 기존의 수학적 사고를 깨는 거니까.