1832년 5월 30일 새벽, 파리 근교의 결투장에서 스무 살의 에바리스트 갈루아가 총상을 입고 쓰러졌다. 그 전날 밤, 그는 자신의 수학 노트 여백에 몇 번이고 같은 말을 휘갈겨 적었다. “나는 시간이 없다.” 3년 앞선 1829년, 노르웨이의 작은 마을 프롤란드에서는 스물여섯 살의 닐스 헨리크 아벨이 결핵으로 죽어가고 있었다. 그가 숨을 거둔 지 이틀 뒤, 베를린 대학의 교수직을 제안하는 편지가 도착했다. 두 사람은 세상이 자신의 가치를 알아보기 바로 직전에 세상을 떠났다.
두 사람을 묶는 질문은 하나였다. 2차, 3차, 4차방정식은 거듭제곱근을 써서 풀 수 있는 공식이 있다. 그렇다면 5차방정식도 마찬가지일까? 수백 년간 유럽의 수학자들이 이 공식을 찾아 헤맸다. 아벨은 그런 공식이 존재하지 않음을 증명했고, 갈루아는 어떤 방정식이 풀리고 어떤 방정식이 풀리지 않는지를 가르는 정확한 기준을 찾아냈다. 두 사람 모두 그 답을 찾는 과정에서, 아직 이름조차 없던 “군 (group)”이라는 개념을 세상에 끌어냈다.
두 사람의 궤적
닐스 헨리크 아벨 (1802–1829) · 노르웨이 프린데 출신 · 5차방정식의 불가능성을 증명 — 타원함수 이론의 선구자
에바리스트 갈루아 (1811–1832) · 프랑스 부르라렌 출신 · 방정식의 가해성을 군의 구조로 규명 — 현대 대수학의 창시자
아벨 — 증명되지 않음을 증명하다
1802–1829
닐스 헨리크 아벨은 가난한 목사의 아들로 태어났다. 아버지가 세상을 떠난 뒤 가족의 생계가 그의 어깨에 얹혔지만, 스승 베른트 홀름보에가 그의 재능을 알아보고 국가 장학금을 받도록 애써 주었다. 열아홉 살 무렵 아벨은 자신이 5차방정식의 해법 공식을 찾았다고 믿었다가, 그 풀이에 숨은 오류를 스스로 발견했다. 그 좌절이 그를 반대 방향으로 이끌었다. 공식을 찾는 대신, 그런 공식이 존재할 수 없음을 증명하는 길이었다.
1824년 아벨은 그 증명을 완성했지만, 인쇄비를 감당할 수 없어 자비로 단 여섯 쪽짜리 소책자를 찍었다. 지면을 아끼려 논증을 지나치게 압축한 탓에 읽기가 몹시 어려웠다. 그는 이 소책자를 당대 최고의 수학자 카를 프리드리히 가우스에게 보냈다. 그러나 가우스는 책의 페이지를 자르지도 않은 채 서재에 방치했다. 그가 세상을 떠난 뒤에야 그 책은 봉인된 그대로 발견되었다.
“수학에서 앞으로 나아가고 싶다면, 제자들이 아니라 스승들을 공부해야 한다.”
— 닐스 헨리크 아벨
1825년 아벨은 빚을 내어 유럽 순회 여행에 나섰다. 베를린에서는 출판업자 아우구스트 크렐레를 만나 깊은 우정을 쌓았고, 크렐레가 막 창간한 수학 저널에 그의 논문들이 잇따라 실렸다. 파리에서는 아드리앵 마리 르장드르가 타원함수에 관한 그의 연구를 두고 “청동보다 오래갈 기념비”라 평했다. 그러나 정작 파리의 학술원은 그의 대작 논문을 서랍 속에 방치해 두었다. 재능을 알아보는 사람과 그것을 세상에 전달하는 제도 사이에는 여전히 깊은 틈이 있었다.
1829년 봄, 아벨은 결핵으로 급격히 쇠약해졌다. 고향 프롤란드로 돌아와 약혼녀 곁에서 숨을 거둔 것은 4월 6일이었다. 그로부터 이틀 뒤, 크렐레가 보낸 편지가 도착했다. 베를린 대학의 교수직을 제안하는 내용이었다. 아벨은 자신이 세상에서 가장 인정받는 자리에 서게 되었다는 사실을 끝내 알지 못한 채 세상을 떠났다.
갈루아 — 이해받지 못한 언어를 발명하다
1811–1832
에바리스트 갈루아는 프랑스 최고의 공학 교육기관 에콜 폴리테크니크 입학시험에 두 번 낙방했다. 두 번째 낙방 때는 시험관의 질문에 화가 나 칠판 지우개를 던졌다는 일화가 전해진다. 그는 대신 에콜 노르말에 들어가 혼자서 방정식의 가해성 문제에 매달렸고, 열일곱 살에 이미 완전한 이론의 윤곽을 세웠다. 문제는 그 이론을 제도가 받아들이지 않았다는 것이었다.
그의 첫 논문은 오귀스탱 루이 코시의 손에서 잊혔다. 이듬해 아카데미 대상에 제출한 논문은 심사위원 조제프 푸리에가 미처 읽기 전에 세상을 떠나면서 유고품 속에서 사라졌다. 세 번째로 제출한 논문에는 시메옹 드니 푸아송이 “이해할 수 없다”는 평가를 남겼다. 같은 책상 위에서 아벨의 논문이 가우스에게 외면당했던 것처럼, 갈루아의 원고 역시 세 번이나 당대 최고의 수학자들 손에서 사라지거나 거부당했다.
수학 바깥의 삶도 평온하지 않았다. 1830년 7월 혁명 이후 열렬한 공화주의자가 된 그는 국왕을 겨눈 축배사로 한 차례, 해산된 포병대의 제복을 입었다는 이유로 또 한 차례 투옥되었다. 감옥과 좌절 속에서도 그는 수학을 놓지 않았다. 그리고 1832년 5월, 한 여성을 둘러싼 갈등 — 혹은 정치적 함정이었다는 설도 있는 — 끝에 결투를 피할 수 없는 상황에 몰렸다.
“울지 마라. 스무 살에 죽으려면 내 모든 용기가 필요하다.”
— 갈루아가 결투 다음 날, 동생 알프레드에게 남긴 말로 전해지는 문장
결투 전날 밤, 갈루아는 거의 잠을 이루지 못한 채 자신의 이론을 정리했다. 원고 여백마다 “나는 시간이 없다(Je n’ai pas le temps)”는 문장이 반복해서 등장한다. 다음 날 아침 그는 복부에 총상을 입고 쓰러졌고, 병원으로 옮겨진 뒤 하루를 더 버티다 숨을 거두었다. 그의 원고는 1846년, 조제프 리우빌이 그 가치를 알아보고 학술지에 정리해 싣기 전까지 14년간 세상에 묻혀 있었다.
코시의 책상 위에서 두 번 사라진 원고
두 사람의 이야기에는 묘하게 겹치는 이름이 있다. 오귀스탱 루이 코시는 아벨이 파리를 방문했을 때도, 갈루아가 논문을 제출했을 때도 모두 그 자리에 있었다. 아벨의 타원함수 논문을 심사해야 했던 코시는 자신의 연구에 몰두한 나머지 그 원고를 검토하지 않고 방치했다. 몇 년 뒤 갈루아의 첫 논문 역시 코시의 손에서 자취를 감췄다. 한 세대의 가장 중요한 두 발견이 같은 책상 위에서 연달아 묻힌 셈이다.
제도가 두 사람을 외면한 이유는 비슷했다. 아벨의 논증은 지나치게 압축되어 있었고, 갈루아의 논증은 지나치게 생략되어 있었다. 둘 다 당대의 수학자들이 따라오기 힘들 만큼 앞서 있었다. 아벨은 증명을 완성하고도 그것을 읽어줄 독자를 얻지 못해 죽었고, 갈루아는 자신의 이론을 설명할 시간을 얻지 못해 죽었다. 두 비극은 서로 다른 모양이었지만 같은 뿌리에서 자랐다.
아벨의 길
- 5차방정식의 불가능성을 증명 (1824)
- 자비로 찍은 여섯 쪽짜리 소책자
- 가우스에게 보냈으나 봉인도 뜯기지 않다
- 타원함수 연구로 뒤늦게 인정받다
- 결핵으로 26세에 요절, 이틀 늦은 임용 소식
갈루아의 길
- 방정식의 가해성을 군의 구조로 완성
- 코시·푸리에·푸아송에게 세 번 거부당한 원고
- 1830년 혁명의 공화주의자, 두 차례 투옥
- 결투 전날 밤, 여백마다 '시간이 없다'
- 결투로 20세에 요절, 14년 뒤 유작으로 출판
군론: 두 요절한 천재가 남긴 언어
아벨의 증명은 치환들이 어떻게 결합하는지를 추적하는 논증이었다. 갈루아는 그 결합의 패턴 자체에 이름을 붙이고 “군 (groupe)”이라 불렀다. 어떤 방정식이 풀리느냐는 더 이상 개별 숫자나 공식의 문제가 아니라, 그 방정식이 만들어내는 군이 어떤 구조를 갖느냐의 문제가 되었다. 아벨이 불가능성의 증거를 내밀었던 자리에, 갈루아는 가능성과 불가능성을 가르는 정확한 경계선을 그려 넣었다.
오늘날 교환이 가능한 군을 “아벨 군(abelian group)”이라 부르는 것은 그에 대한 작은 헌사다. 갈루아의 이름은 더 크게 남았다 — 갈루아 이론, 갈루아 군, 갈루아 확장. 두 사람이 세운 언어는 이후 암호학, 오류 정정 코드, 입자물리학의 대칭성 이론에 이르기까지 수학의 가장 깊은 토대 중 하나가 되었다. 정작 그 언어를 만든 두 사람은 그것이 얼마나 멀리 퍼질지 볼 시간을 갖지 못했다.
한 사람은 서른이 되기 전에 결핵으로, 다른 한 사람은 스무 살에 총상으로 세상을 떠났다. 그들이 남긴 것은 완결된 이론이 아니라 완결을 향해 가던 도중의 번뜩임이었다. 그런데도 그 번뜩임은 지금도 꺼지지 않았다. 시간이 없었던 두 사람이, 결국 수학에 가장 긴 시간을 선물한 셈이다.