천정희 서울대 수리학부 교수가 다중선형함수와 동형암호 기술에 관해 설명하며 웃고 있다. /사진제공=한국연구재단“24시간마다 바뀌는 해독불가 암호를 풀어 수많은 목숨을 구한 영국의 천재 수학자 앨런 튜링. 제2차 세계대전에서 연합국은 해독이 불가능한 암호 ‘에니그마’로 독일군한테 속수무책으로 당하게 된다. 결국 각 분야의 수재를 모아 극비로 해독팀을 가동하고 튜링은 암호 해독을 위한 특별한 기계를 발명한다. 하지만 24시간마다 바뀌는 독일의 암호 체계 때문에 좌절하다가 끝내 풀어내는데….”
‘컴퓨터의 아버지’로 불리는 앨런 튜링을 그린 지난 2015년 영화 ‘이미테이션 게임’의 줄거리다. 튜링은 암호 해독의 공을 인정받아 대영제국훈장도 받고 영국왕립학회 회원도 되지만 동성애자라는 이유로 화학적 거세를 당한 뒤 자살에 이르게 된다.
삼국지에도 암호를 둘러싼 고사성어가 나올 정도로 암호의 역사는 오래됐다.
유비를 공격하던 조조는 어느 날 식량이 떨어지자 무의식중에 그날의 암호를 ‘계륵’이라고 지정한다. 한중을 유비에게 주기는 아깝지만 계속 공격해도 실리가 없다는 속마음을 표출한 것이다. 이때 책사 양수가 주군의 뜻을 헤아려 철수준비에 들어가자 조조는 “군심을 어지럽힌다”며 처형한다.
‘이달의 과학기술인상’ 12월 수상의 영예를 안은 천정희(49·사진) 서울대 수리과학부 교수는 다중선형함수로 아무리 복잡하게 암호화(난독화)된 프로그램도 풀어내 암호세계에 새로운 패러다임을 제시했다. 최근에는 블록체인에 한 번 저장되면 영원히 지우지 못하는 문제를 풀기 위해 동형암호를 활용해 정보는 투명하게 제시하고 개인정보는 보호할 수 있는 길을 열기 위해 노력하고 있다.
천 교수는 “소프트웨어에 코드를 부여하는 것은 난독화 과정을 거쳤다는 것인데 해킹을 열심히 하면 뚫릴 수밖에 없다”며 “‘암호학적으로 다중선형함수를 활용하면 안전성을 증명할 수 있다’고 하지만 저희 학생들이 세계 최강 공격팀을 이뤄 번번히 그 허점을 찾아내고 있다”고 설명했다. 그는 이어 “2002년 댄 보네 스탠퍼드대 교수가 ‘해킹이 불가능하다’며 다중선형함수 활용을 제안하고 2013년 산잠 가르그 UCLA 대학원생이 교수랑 같이 업데이트한 뒤 일약 스타가 되고 버클리대 교수가 됐다”며 “저희 연구실의 스크리닝을 통과하면 안전한 다중선형함수라는 인식이 생기고 있다”고 소개했다.
실제 천 교수는 암호학적 다중선형함수를 최초로 완전히 해독해 4세대 암호기술의 상용화 가능성을 열고 있다는 평가를 받는다. 암호학적 다중선형함수는 다자간 키(key) 교환, 브로드캐스트 암호 등 다양한 암호학적 난제를 해결하기 위해 2002년 처음 도입됐다. 전산학의 오랜 난제인 프로그램 난독화를 풀 수 있다고 알려지면서 암호학계의 이목이 집중됐다. 하지만 다중선형함수 개념이 제안된 후 많은 응용연구가 진행됐지만 다중선형함수를 만드는 데 성공하지 못했고 암호학의 핵심인 안정성 증명도 미해결 문제로 남아 있었다.
천 교수는 “우리나라가 세계 최고 수준의 암호분석 기술을 보유하고 있다는 사실을 입증했다”며 “수학이론을 암호분석에 더욱 적극적으로 접목해 수학의 새로운 연구방향을 정립하고 암호분석 기술 강국의 면모를 갖추는 데 기여하겠다”고 포부를 피력했다. 그의 논문은 세계 양대 암호학회인 크립토와 유로크립트에서 최우수논문상을 받았다.
특히 그는 블록체인에 개인정보가 영원히 지워지지 않는 것을 불편해하는 시각도 많다며 다중선형함수와 더불어 4세대 암호기술로 촉망받는 동형암호를 활용한 해법을 제시했다. 블록체인이 정보를 투명하게 공개하고 장부를 고칠 수 없는 특징이 있지만 역으로 단점이 될 수 있다는 지적은 끊임없이 제기돼왔다. 동형암호를 이용하면 데이터를 암호화한 상태에서 더하기·곱하기 등 전산 처리가 가능해 금융·의료 등 민감한 개인정보도 블록체인에 올릴 수 있어 업계의 이목을 집중시키고 있다. 개인정보를 암호화된 상태에서 가공해 개인정보를 보호하면서 빅데이터 분석으로 원하는 결과를 얻을 수 있다.
천 교수는 “블록체인에 동형암호를 쓰면 개인정보는 금고 안에 그대로 두고 빅데이터 정보만을 활용할 수 있는 효과가 있다”며 “빅데이터 활용도 개인정보 문제 때문에 대부분 못 쓰는 실정인데 마찬가지로 동형암호를 활용하면 된다”고 설명했다. 그는 이어 “동형암호는 1978년 로널드 리베스트 매사추세츠공대(MIT) 교수 등이 제안한 뒤 2009년에서야 난제가 풀렸는데 다시 10년이 지나 이제 실용화를 향해가는 단계”라고 덧붙였다. 동형암호 기술 개발은 현재 IBM·마이크로소프트·인텔·SAP·삼성SDS 등 소수 기업만이 실용화를 위해 나설 정도로 어려운 기술로 꼽힌다.
천 교수는 연구실에만 머무르지 않고 동형암호 기법을 활용해 정은진 미국 샌프란시스코대 교수와 함께 실리콘밸리에 래셔널마인드라는 블록체인 스타트업을 설립했다. 동형암호 기법을 활용해 데이터를 암호화한 상태에서 블록체인을 운영하는 기술을 내놓기 위해서다. /고광본 선임기자 kbgo@sedaily.com
