연산시간 줄이기 위해 소수점 반올림한 4세대 동형암호 '혜안' 개발
혜안은 원천기술, 다양한 응용분야에 활용 가능성 있어
4세대 동형암호 기술 대한민국이 1위

"덧셈과 곱셈만으로 보안을 강화할 수 있는 분야로 금융을 주목했습니다. 금융 데이터는 거의 숫자로 이루어져 있으니 동형암호를 접목하기에 가장 적합했죠. 금융권과 접촉해 데이터를 암호화하는 작업을 반복하면서 연산시간을 줄이는 방법을 발견했습니다. 바로 소수점을 반올림하는 것이죠."

동형암호 기술을 세계에서 처음으로 상용화 해 주목받는 인물이 있다. 바로 천정희 서울대 교수다. 천 교수는 제자들과 함께 개발한 동형암호 기술을 상용화하기 위해 스타트업 크립토랩을 설립, 데이터 분석 업체인 코리아크레딧뷰로 및 국민연금공단 등과 협력해 국민연금 가입자 230만명의 연금 데이터를 암호화한 상태에서 연산해 동일한 결과값을 얻어내는 성공 사례를 만들어 냈다.

동형암호 기술은 현존하는 암호화 기술 가운데 가장 완전하다는 평가를 받는 기술이다. 하지만 그동안에는 연산시간이 너무 오래 걸려 사용하지 못했다. 

천 교수는 세계 최고의 동형암호 전문가로 평가되는 인물이다. 지난 2008년 세계적인 암호 학술대회인 '아시아 크립트 2008'에서 이 기술로 최우수 논문상을 수상했고, 2018년 과학기술정보통신부가 뽑은 이달의 과학기술인에도 선정됐다. 지난해에는 암호학계 최대 난제로 꼽히는 다중 선형함수를 세계 최초로 해독해 포스코청암상 과학상을 받았다.

수학을 전공한 그가 동형암호를 처음 접한 것은 2005년 무렵이었다. 이후 2009년에는 IBM에서 완전동형암호를 구현하는데 성공하면서 그도 본격적인 연구에 돌입했다. 때마침 서울대에서 정년을 보장받은 것이 큰 힘이 됐다.

"동형암호는 기존 암호에서 사용하는 수학과는 많이 다릅니다. 준비가 많이 필요했죠. 한 2년 정도 제자들과 연구에 몰두했습니다. 이렇게 개발한 동형암호를 실제 산업에 접목 시키고 싶어 직접 스타트업도 설립했습니다."

사실 그도 대부분의 엔지니어가 그랬던 것처럼 원천 기술을 개발하기만 하면 상용화는 기업이 알아서 해 줄 것으로 기대했다. 하지만 현실은 달랐다. 기술에 관심을 보이는 기업은 많았지만 실제 상용화에 나서는 곳은 없었다.

그는 이 때를 "원천기술만 가지고는 기업 지원을 받기 어렵다는 사실을 처음으로 느낀 순간"이라고 회고했다.

하지만 그는 좌절하지 않았다. 스타트업을 설립하고, 산업에 접목하기 위한 방법을 찾아다녔다. 그러는 동안 접촉한 기업으로부터 "실용적인 기술이냐?"는 질문을 자주 받았다. 의문부호가 찍힌 그들의 반응이 오히려 승부욕을 발동시켰다.

"가장 쉽게 접목할 수 있는 산업을 찾기 위해 고민을 거듭하다 보니 '금융'이 시야에 들어왔습니다. 바로 금융권과 접촉하기 시작했어요."

그는 세계에서 처음으로 동형암호 상용화 성공 모델을 만들어 내기까지의 과정을 마치 며칠전 일인 것처럼 생생하게 들려줬다.

"금융 데이터를 받아서 저녁에 암호화 작업을 시작하면 다음날 아침이 돼야 끝낼 수 있었어요. 하루 이틀은 견딜 수 있었지만 연산 시간이 점점 늘어 10일쯤 지나니 더이상은 못하겠다는 느낌이 들더군요. 소수점 4자리수가 곱을 거듭하니 점점 길어졌어요."

소수점을 반올림하는 4세대 동형암호 '혜안(HEaaN)'의 탄생 배경이었다. 그는 "연구소에만 있었다면 발견하지 못했을 아이디어"라며 미소를 지어 보였다.

이렇게 개발한 '혜안'을 상용화 하기까지는 전산학자와 경제학자는 물론이고 통계학자를 비롯한 전문가 도움을 받았다. 과학기술정보통신부와 한국정보화진흥원(NIA) 및 국민연금공단 등도 적극 지원했다.

4세대 동형암호 혜안에 적용한 '근사값'

동형암호의 단점은 연산 횟수가 많아질수록 노이즈가 많아져 원본 값이 훼손된다는 점이다. 그래서 연산을 하나로 제한하는 부분동형암호가 나왔다. 2009년에는 젠트리가 연산 종류를 덧셈, 곱셈 두개로 늘렸다. 컴퓨터가 할 수 있는 연산을 덧셈과 곱셈으로 압축한 쾌거였다. 

천교수는 이를 "튜링 완전성을 증명한 것"이라고 평가했다. 그러면서 그는 "한종류의 연산으로는 세상의 모든 것을 만들 수 없지만 2종류의 연산으로는 세상의 모든 것을 만들 수 있고, 3종류 연산이라면 세상의 모든 것을 '효율적'으로 만들 수 있다"고 설명했다.

이 이론은 '혜안'에도 고스란히 녹여 넣었다. 젠트리의 완전동형암호를 발전시켜 연산 종류를 덧셈, 곱셈, 반올림 3종류로 늘린 것. 근사값 개념을 도입한 것은 '신의 한 수' 였다. 소수점 자리 계산 시간을 줄여 연산시간을 획기적으로 줄일 수 있었다.

그는 3종류 연산으로 할 수 있는 대표적인 예로 머신러닝을 꼽았다. "2종류일때는 비효율적이라 사용하기 힘들었는데, 3종류로 늘리니 매우 원활히 돌릴 수 있었다"는 경험담도 들려줬다.

혜안은 다양하게 응용할 수 있는 원천 기술

"데이터를 암호화한 상태에서 통계처리를 하는 '혜안 스탯(HEaaN.STAT)'과 머신러닝을 하는 '혜안 머신러닝(HEaaN.ML)'으로 응용 분야를 넓히고 있습니다. 혜안 라이브러리인 셈이죠."

천교수는 혜안 라이브러리의 원리를 "파이썬 라이브러리가 코드를 작성할 필요없이 마치 도서관에서 필요한 책을 찾듯 저장된 함수를 불러들이는 것"이라고 설명했다. 다양한 분야 라이브러리를 만들어 불러 들이기만 하면 된다는 것이다. 그만큼 활용 범위가 무궁무진하다는 얘기다.

동형암호는 일종의 금고

"동형암호라는 금고안에 AI를 넣고 AI가 그 안에서 데이터를 보고 학습을 하는 겁니다. AI는 변수별로 설계한 대로 수행을 끝내고 모델을 만들죠. 하지만 인간은 개인정보가 금고안에 있으니 절대 알수가 없습니다.  AI가 모델을 완성하면 스스로 모든 개인정보를 지웁니다. 그리고 나서 금고를 열고 AI 모델을 꺼내면 됩니다."

그는 개인정보를 보호하며 AI개발을 할 수 있냐는 질문에 동형암호를 금고에 빗대어 설명했다. 또 AI개발에서 가장 중요한 요소를 데이터의 확보라고 꼽았다. 그는 개인정보보호 때문에 데이터 확보가 쉽지 않지만 동형암호로 충분히 해결할 수 있다는 확신을 가지고 있었다.

4세대 동형암호 기술 대한민국이 선두

암호학계에서 유명한 비노드 바이쿤타나단 버클리대 교수는 올해 초 알고리즘 및 암호학 워크숍에서 동형암호 기술의 세대를 정의했다.

1세대는 크레이그 젠트리 IBM 연구원의 이름을 따서 ‘젠트리’, 2011년 2세대를 만든 IBM 연구진과 MIT 교수의 앞글자를 따서 BV, 2013년 젠트리, 샌디에고 대학교수, 프랑스 연구진의 앞글자를 따서 3세대 GSW, 그리고 2017년 천정희교수와 합동 연구원들의 앞글자를 따서 근사동형암호 혜안을 4세대 CKKS로 정의했다.

천교수는 "2017년에 4세대 동형암호 혜안이 나온 후로 4년이 흐른 지금까지 혜안에 필적할 4세대 암호는 나오지 않았다"면서 "아직은 혜안이 우위를 지키고 있지만 앞으로는 누가 먼저 산업과 기술을 접목하는지에 따라 승부 갈릴 것"이라고 말했다.

천교수는 지난 19일 열린 동형암호 표준화 기수 운영위원회에서 동형암호 ISO 국제 표준을 상정했다. 또 동형암호 개발 소식을 공유하기 위한 표준화 사이트도 개설했다. 앞으로 전세계가 협력해 동형암호를 표준화 시키고 응용분야를 공유하자는 취지다.

이를 위해 그는 개발자가 동형암호를 몰라도 사용할 수 있도록 혜안 시뮬레이터 ‘파이혜안’을 공개할 예정이다. 파이혜안은 혜안과 동일한 API를 지닌 개발자 시뮬레이션 도구다.

또 앞으로 4년 동안은 과기정통부 지원을 받아 심층 신경망 연산을 지원하는 완전 동형암호 기계학습 알고리즘과 라이브러리를 구현할 계획이다.

[관련기사] 꿈의 암호 기술 '동형암호' 상용화...국내 연구진, 세계 첫 쾌거

[관련기사] "AI로 포스트 n번방 막겠다" 서상덕 S2W랩 대표