곡면은 평평하지 않고 굽은 면을 말한다. 둥근 형태의 지구 표면이 곡면에 해당한다. 이러한 원이나 타원 등의 곡면이 특정 조건을 만족해 모여 있는 집합이 ‘곡면군’이다. 쉽게 설명하자면 같은 높이의 언덕이 계속해서 반복적으로 나타나는 산등성이도 일종의 곡면군이라 할 수 있다. 이러한 곡면군을 수학적으로 보여주는 ‘곡면군의 표현’ 분야는 100년 넘게 연구가 이뤄진 주제이다. 공간 및 위치와 관련한 기술의 토대가 되는 학문이다. 이토록 오랜 기간 단일 연구 주제로 다뤄졌지만 곡면군을 수학적으로 표현하는 데는 분명 한계가 있었다. 주어진 곡면군 표현을 다른 형태로 변형해도 논리적으로 문제가 없는지 과학적으로 규명되지 않았기 때문이다.

과학기술정보통신부가 주최하고 한국연구재단과 서울경제신문이 공동으로 주관하는 ‘이달의 과학기술인상’ 8월 수상자로 선정된 김인강 고등과학원 교수는 곡면군을 어떠한 형태로 변형해야 문제가 발생하지 않는지 그 기준을 명확히 제시한 연구 성과로 세계적 인정을 받았다.

김 교수는 연구 과정에서 크게 두 가지 수학적 수단을 적용했다. 첫 번째는 공간 속에서 위치 관계나 변하지 않는 성질을 연구하는 ‘위상수학’이다. 찰흙을 손으로 이리저리 변형시켜도 울퉁불퉁한 정도나 겉면의 형태는 변하지만 부피 등 기본 성질은 그대로인 것이 위상수학의 기본원리다. 두 번째는 공간에 있는 도형의 치수나 모양 위치 등 수리적 특성을 연구하는 ‘기하학’이다. 토지 측량을 위해 도형을 연구하는 데서 발전한 기하학 역시 공간 및 위치와 관계 깊은 학문이다.

김 교수는 위상수학과 기하학을 활용해 일궈낸 곡면군의 표현 관련 성과를 지난 2014년 수학 분야의 전 세계 상위 2% 수준의 학술지인 ‘듀크매스(Duke Math)’에 게재하기도 했다. 듀크매스는 미국 듀크대가 1935년 창간한 수학 분야 학술지다. 김 교수는 “곡선군 표현 연구 분야에서 다른 학자가 새로운 성과를 낼 수 있는 돌파구를 제공하게 됐다”며 당시 소감을 밝히기도 했다.


김 교수는 한 직선 밖에 주어진 점을 지나서 그 직선에 평행한 직선은 무수히 그을 수 있다는, 이른바 ‘쌍곡 기하학’이 3차원 다양체 외에 일반적인 다양체에도 적용될 수 있다는 사실을 처음으로 증명하기도 했다. 다양체는 선·면·원·구 등 기하학적 도형의 집합을 1개의 공간으로 봤을 때의 공간을 의미한다. 예를 들어 여러 개의 가죽 헝겊을 붙여 만든 축구공을 뜯어서 하나의 가죽 헝겊으로만 펴서 보면 이 역시 평면의 일부가 된다. 이렇게 보면 축구공은 3차원이 아니라 종이와 같은 2차원의 다양체가 되는 것이다.

김 교수가 적용 범위를 넓힌 것은 1970년대 이후 풀리지 않는 문제로 남았던 ‘윌리엄 서스턴의 가설’을 해결한 것은 물론 여기서 한 단계 진화된 셈이어서 세계적으로도 주목을 받았다. 지난해 전 세계 수학 분야에서 ‘톱5’ 학술지로 꼽히는 미국 ‘인벤션스매스매티카(Inventiones Mathematicae)’에도 김 교수의 연구 논문이 게재됐다. 윌리엄 서스턴은 수학계 노벨상으로 불리는 필즈상을 받은 미국의 수학자로 위상수학과 기하학 분야의 대가로 통한다.

김 교수는 “미국 UC버클리 대학원 재학 시절 서스턴 교수의 위상수학 세미나를 듣고 사물과 이치를 바라보는 독특한 관점에 매력을 느꼈다”며 “이후부터 이를 전공으로 삼아 지금까지 연구해 오게 된 것”이라고 배경을 설명했다.

김 교수는 앞으로도 다른 학문 분야의 이론이나 관점 등을 빌려 곡면군의 표현이나 다양체의 기하학적 구조 공간 등을 연구한다는 계획이다. 그는 “지금까지 연구한 곡면군 표현의 불변량 법칙을 ‘미분기하학’의 정리를 통해 재해석하고 싶다”고 포부를 밝혔다.

김 교수에게 ‘수학적 연구 성과가 우리 실생활에 어떻게 활용될 수 있느냐’는 질문을 던졌다. 그는 기자의 예상에서 벗어난, 마치 예술가와도 같은 답변을 내놓았다.

“사실 연구 결과가 어떻게 인간 생활에 활용될 수 있을지 심각하게 고민하지는 않습니다. 수학자는 논리의 세계를 수학이라는 언어를 통해 시나 음악처럼 표현한다고 봐주시면 좋겠습니다. 수학 연구의 결과물은 물리학·생물학·공학·사회학 등 다른 학문 분야에서 응용할 때 열매를 맺는 것이거든요. 각 분야에서 잘 활용하기 나름입니다. 수학은 인류 역사와 문화의 근간을 이루고 있다고 말해도 지나친 말이 아니거든요.”

/지민구기자 mingu@sedaily.com