수학의 전혀 다른 두 분야 연결해 새로운 분야 개척 | 나라경제

Now

수학의 전혀 다른 두 분야 연결해 새로운 분야 개척

조도상 국가수리과학연구소 산업수학혁신센터 책임연구원 2022년 09월호

나우 조도상.pdf

지난 7월 5일 필즈상 수상식에서 국제수학연맹(IMU)은 4명의 수상자 중 두 번째로 허준이 프린스턴대 교수를 호명했다. 한국인으로서 자랑스럽고 감격스러운 순간이었다. 허 교수는 리드 추측을 시작으로 지난 10여 년간 10개가 넘는 조합론(combinatorics, 경우의 수를 탐구)의 미해결 추측(conjecture)을 대수기하학(algebraic geometry, 도형을 다루는 기하학에 대수적 방정식을 이용) 이론을 이용해 해결하면서 조합적 대수기하학의 토대를 마련했다는 평가를 받고 있다.

리드 추측 등 11개 ‘조합론’ 미해결 추측을 ‘대수기하학’ 이론 이용해 해결

기원전 3세기에 활동했던 기하학의 아버지 유클리드는 『기하학 원론(Elements of Geometry)』에서 점, 선, 면에 대한 다양한 고찰을 통해 논증기하학 분야를 확립했다. ‘임의의 두 점을 지나는 직선은 유일하다’, ‘한 점을 지나면서 그 점을 지나지 않는 직선과 평행한 직선은 유일하다’ 등 5개의 공준을 통해 모든 기하학적 정리를 증명하려고 했다.

그러나 2천 년이 지난 후 유클리드가 증명하고 싶었던 제5 공준인 ‘평행선 공준’과 관련해, 러시아 출신의 수학자 로바체프스키와 헝가리 수학자 보여이는 ‘한 점을 지나는 평행선은 무수히 많다’라는 가정하에서도 기하학의 모순이 발견되지 않음을 증명함으로써 쌍곡기하학(hyperbolic geometry)이 존재함을 보였다. 이후 독일 수학자 리만은 곡률을 이용한 다양한 기하학의 모형이 가능하다는 것을 이론적으로 증명했고 일반적인 다양체에서 정의된 곡률의 가정을 통해 기하학을 기술하는 리만기하학(또는 미분기하학)을 창시했다.

이러한 개념의 확장을 통한 기하학의 확장은 유클리드 기하학의 부정이 아니라 세분화된 기하학의 한 분야로 명료한 의미를 갖게 됐다. 이후 시공간의 모델로 제시된 로렌츠 기하학은 아인슈타인의 특수상대성이론의 기초가 됐고 이후 일반상대성이론으로 우주의 기하적 이해의 토대가 된다.

다시 기하학 교과서로 돌아가서 평면기하학(plane geometry)을 생각해 보면, 2차원 좌표계에 곡률이 ‘0’이 되는 유클리드 평면에 대해서도 재미있는 질문을 던질 수 있다. 평면에 유한개의 점이 있다고 하자. 그러면 임의의 두 점을 지나는 직선 개수의 최솟값은 얼마일까? 물론 여기서 모든 점들이 일직선상에 있는 상황은 배제한다.

위 질문에 처음으로 답을 낸 사람은 여러 나라를 떠돌며 500여 명의 학자들과 다수의 공동논문을 쓴 것으로 유명한 헝가리 수학자 에르되시다. 그는 ‘평면에 n개의 점이 주어져 있고 이 점들이 일직선상에 있지 않다고 했을 때 이 점들을 연결하는 직선의 개수는 주어진 점의 개수보다 크다’라는 정리를 1948년에 발표했다. 이러한 결과는 허준이 교수의 업적에서 다시 관찰되고 확장되며 허 교수 주요 업적의 토대를 이루고 있다.

2011년 서울대 수리과학부 위상수학 정기세미나에서 당시 미국 일리노이대 박사과정 1년 차였던 허준이 학생은 대수기하학과 관련한 연구발표를 했다. 사영 초곡면(projective hypersurface)의 밀너 수(Milnor number)에 관한 것이었다. 발표 말미에 이 결과의 응용에 대한 설명이 있었는데, 이는 당시 조합론의 오랜 미해결 추측이었던 리드 추측에 관한 풀이였다.

리드 추측은 채색다항식(chromatic poly-nomial)에 일정한 패턴이 있다는 것이다. 채색다항식 G(q)는 주어진 그래프 G에 대해 인접한 두 꼭짓점을 다른 색으로 칠할 때 q개 이하로 칠하는 방법의 수를 식으로 나타낸 것이다. 사각형 그래프의 경우 채색다항식은 G(q)=q4-4q3+6q2-3q가 된다(〈그림〉 참고).

위에서 채색다항식 계수의 절대값에 유니모달성(uni-modal, 계수가 한 번 커졌다가 감소하는 성질)이 있음을 관찰할 수 있는데, 그래프 종류에 따라 식이 바뀌더라도 이 성질이 유지된다. 이것이 1968년 영국 수학자 리드 교수가 내놓은 리드 추측이다. 허준이 교수는 이 다항식의 계수가 로그 오목(log-concave)하다는, 즉 이 숫자들을 그림으로 나타내면 아래로 오목한 모습을 그린다는 추측을 제시했고, 이를 이용하면 리드 추측의 유니모달성은 쉽게 증명된다. 이러한 결과는 그래프에서뿐만 아니라 일반적인 표현이 가능한 메트로이드(representable matroid)의 특성다항식의 계수에도 적용된다.

‘ICM 2022 프로시딩’에 수록된 「조합론과 호지이론(Combinatorics and Hodge theory)」이라는 허준이 교수의 논문에서는 대수기하학에서 발전된 호지이론이라는 기하적 분석틀을 이용해 조합론뿐 아니라 표현론(representation theory), 볼록기하(convex geometry) 등 다양한 분야의 응용을 로렌츠 다항식(Lorenzian polynomial)을 중심으로 설명하고 있다. 허 교수는 사람들이 관심을 갖고 있는 과학적 관계식이 로렌츠 다항식으로 표현된다면 그 뒤에 빙산의 아래에 보이지 않는 구조들을 발견할 수 있을 것이라고 주장하고 있다. 놀라운 통찰이 아닐 수 없다.

이러한 허준이 교수의 업적은 인공지능(AI) 등 여러 기술에 활용될 것이다. 2020년 인류의 공익을 목적으로 AI를 발전시켜야 한다는 취지하에 일론 머스크, IBM, 인텔 등이 투자해 설립한 회사 오픈에이아이(OpenAI)는 약 1,700억 개의 매개변수를 학습시켜 만든 자연어 처리 모델 GPT-3을 발표했다. 또한 올해 구글 딥마인드에서는 AI 알고리즘인 알파폴드를 통해 약 2억 개에 달하는 단백질의 3차원 구조 데이터베이스를 구축했다고 발표했다. 이는 매우 중요한 과학적 진전으로, 단백질의 3차원 구조에 대한 정보는 암백신을 비롯한 신약 개발에 획기적인 기여를 할 것으로 전문가들은 기대하고 있다.

이 두 개의 모델은, 구성 요소가 모두 연결돼 있다는 가정에서 출발하는 트랜스포머(transformer)라는 알고리즘에 기반한 무거운 구조를 갖고 있어 다양한 연구자들이 많은 상상과 실험을 통해 새로운 시도를 하기 어렵다는 한계가 있다. 이보다는 좀 더 구조적·직관적이고 가벼운 구조가 가능할 것으로 생각한다. 새로운 혁신적인 AI 알고리즘의 단초는 수학에서 찾을 수 있을 것이다. 수학은 2천 년 넘게 인류의 지적 발견과 기술발전의 보고 역할을 해왔다.

평가에만 치중돼 부작용 큰 한국 수학,
수학의 진정한 의미·가치 되새길 필요

한편 허 교수는 언론과의 인터뷰에서 한국에서 수학이 평가를 위한 과목으로 전락해 많은 부작용을 낳고 있다고 진단했다. 당장 입시에서 수학시험을 보지 않으면 어떻겠냐고 반문하기도 했다. 이제 평가만을 위한 수학시험은 재고할 필요가 있다. 유클리드의 제자 중 한 명이 “이렇게 딱딱한 정리들을 배워서 무엇을 얻을 수 있습니까?”라고 물으니 유클리드가 노예를 시켜 “저자에게 동전 한 닢을 던져 주어라. 저놈은 자신이 배운 것으로부터 반드시 본전을 찾으려는 놈이다.”라고 하며 그를 학당에서 쫓아버렸다는 일화가 전해진다. 지금 그 정도는 아니더라도 한국 수학계는 이러한 수학의 의미와 가치에 대한 질문에 더 적극적으로 대응하고 설득해야 한다. 그래야 다른 분야 연구자들과 더 많은 교류를 하고 한국 수학의 지평을 넓힐 수 있을 것이다. 또한 매년 국내에서 100명 남짓한 수학 박사가 배출되는데, 재능 있는 수학자들이 진출할 수 있는 다양한 경력경로를 만들어야 하는 숙제를 해결해야 한다.

허준이 교수가 지난 7월 서울대 수리과학부 강연 후 어떻게 하면 수학을 잘할 수 있냐는 기자의 질문에 ‘근거 없는 자신감’이 중요하다고 답했는데, 그것이 바로 지금 한국 수학계가 가져야 할 덕목이 아닐까 생각한다. 좀 더 유연하고 긴 안목으로 변화를 이끌 수 있기를 기대한다.

목록보기