지스트 연구진, ‘최적화 알고리즘’ 개발로 양자컴퓨터 시대 앞당긴다 < 보도자료 < 산업일반 < AI산업 < 기사본문

광주과학기술원(지스트·GIST)의 안창욱 교수 연구팀이 양자컴퓨터의 효율성을 높일 수 있는 최적화(주어진 문제에 대해 최적의 값을 찾는 수학적 기법) 알고리즘을 개발했다. (왼쪽부터) 지스트 안창욱 교수와 김준석 박사과정생. (사진=지스트 제공).

슈퍼컴퓨터 대비 수억 배 이상 빠른 초고속 연산이 가능한 양자컴퓨터. 이처럼 슈퍼컴퓨터의 성능을 뛰어넘는 양자컴퓨터에 대한 관심이 나날이 높아지는 가운데 광주과학기술원(지스트·GIST)의 안창욱 교수 연구팀이 양자컴퓨터의 효율성을 높일 수 있는 최적화(주어진 문제에 대해 최적의 값을 찾는 수학적 기법) 알고리즘을 개발해 눈길을 끌고 있다.

양자컴퓨터는 반도체가 아닌 원자를 기억소자로 활용해 슈퍼컴퓨터의 한계를 뛰어넘는 첨단 미래형 컴퓨터다. 중첩·얽힘 같은 양자역학적 현상을 활용해 정보를 처리하고 암호 해제뿐만 아니라 방대한 데이터를 처리하는 소요시간을 획기적으로 줄일 수 있어 차세대 기술로 주목받고 있다. 이 같은 양자컴퓨터의 시대를 목전에 둔 상황에서 지스트 연구진이 양자컴퓨터에 적합한 최적화 알고리즘의 구조를 효율적으로 개선한 연구 결과를 보고한 것.

광주과학기술원(지스트·GIST)의 안창욱 교수(왼쪽)와 김준석 박사과정생(오른쪽)이 이번 연구에서 설계한 양자 탐색 회로에 관해 토론하고 있다. (사진=지스트 제공).

양자컴퓨터는 미래 산업과 안보 생태계 판도를 바꿀 것…

고전적 컴퓨터에 대한 관념을 벗어난 창의적인 접근을 통해

양자컴퓨터의 실질적인 성능 개선 이뤄내

안창욱 지스트 교수 연구팀은 기존 '반-고전 양자 유전 알고리즘'의 최적화 성능을 유지하면서도 연산 효율성을 획기적으로 끌어올릴 수 있는 알고리즘의 구조를 개선했다고 밝혔다. 이번 연구는 양자컴퓨터만이 가능한 연산 방식으로 효율성까지 고려함으로써 향후 실용적인 양자 최적화 알고리즘 연구의 발판이 될 것으로 기대된다는 게 연구팀의 설명이다.

※ 반(半)-고전 양자 유전 알고리즘(Semi-classical Quantum Genetic Algorithm) : 현재 지속적으로 이론적 연구가 진행되고 있는 양자컴퓨터 전용 최적화 알고리즘이다. 다윈 진화 과정을 통한 최적화 작업을 양자컴퓨터에서 실현하는 것을 목표로 한다.

양자 유전 알고리즘은 양자 신경망과 양자 강화학습 등 기존의 고전적 컴퓨터에서 성능이 입증된 기술을 양자컴퓨터에서 재현하려는 시도의 일환이다. 그 하위개념인 '반-고전 양자 유전 알고리즘'은 고전적 유전 알고리즘의 실행구조를 그대로 모사함으로써 상대적으로 빠른 성능 검증과 실용화에 초점을 둔 방법론이다. 이전의 관련 연구는 알고리즘의 양자적 전환이라는 목표에 지나치게 집중한 반면, 최적화 성능 향상은 상대적으로 관점의 대상에서 벗어난 한계가 있었다.

양자계에서 필연적으로 발생하는 '파동함수 붕괴'는 반복적 연산을 통해 해를 찾는 유전 알고리즘의 작동 원리와 상충한다. 기존의 반-고전 양자 유전 알고리즘 연구는 모집단 형성 시 대량의 무작위(randomized) 개체를 생성함으로써 이 문제를 우회적으로 해결했다. 그러나 이는 모집단의 규모를 불필요하게 확장했기 때문에 양자 컴퓨터가 가진 리소스의 낭비를 초래하는 결과를 낳았다.

※ 파동함수 붕괴(Wavefunction collapse) : 중첩으로 형성된 여러 양자 상태가 관측 후 명확한 측정량을 가진 단 하나의 양자 상태로 수렴하는 현상

지스트 연구팀은 이러한 무작위 개체들이 알고리즘의 최적화 작업에 거의 기여하지 않는다는 가설을 세운 후에 알고리즘의 다윈 진화적 구조를 유지하면서도 무작위 개체의 생성을 최소화하기 위한 양자 회로 개선을 시도했다. 이를 통해 각 세대(generation)에서 모집단을 형성할 때 이전 세대에서 확보된 우수한 개체의 유전적 특성을 완전히 혹은 부분적으로 보유한 개체만을 생성하는 구조를 설계했다.

반-고전 양자 유전 알고리즘 회로 개선과 이에 따른 양자 모집단 구성 변화. (a) 기존의 회로는 최적화 작업에 유의미한 영향을 끼치지 않는 불필요한 개체를 대량 생성함. (b) 개선된 회로는 이러한 개체들을 사전에 제거해 유전 연산자의 연산량을 크게 줄이고 알고리즘 전체의 효율을 향상시킴. (사진=지스트 제공).

연구팀은 이렇게 개선된 알고리즘을 이전 알고리즘과 함께 최적화 문제에 적용해 그 성능을 비교하는 실험을 진행했다. 실제로 이전 알고리즘과 동등한 수준의 최적화를 달성하면서도 총 적합값 계산(fitness evaluation) 횟수를 기존의 2,560회에서 432회로 단축해 각 세대에서 요구하는 연산량이 최대 80% 감소하는 성능의 향상을 입증해냈다. 결과적으로 알고리즘 본연의 최적화 성능 하락을 방지함과 동시에 모집단의 규모를 2차적(quadratic)으로 축소함으로써 알고리즘의 연산 효율을 약 5배 끌어올리는 데 성공했다.

이번 연구는 안창욱 지스트 교수가 지도하고 김준석 지스트 박사과정생이 수행했다. 한국연구재단의 박사장려금 지원사업과 중견연구자 지원사업의 지원을 받아 이뤄졌다. 연구 성과는 컴퓨터공학 이론 및 방법 분야 국제학술지('Future Generation Computer Systems')에 지난달 20일 온라인 게재됐다.

안창욱 교수는 "양자컴퓨터는 신약·에너지 개발을 비롯해 반도체 설계와 자율주행차 및 비행 경로 등 최적화 문제에 대한 답을 빠르게 찾아냄으로써 미래 산업과 안보 생태계 판도를 바꿀 것으로 예상된다"고 밝혔다. 이어 "이번 연구는 고전적 컴퓨터에 대한 관념을 벗어난 창의적인 접근을 통해 실질적인 성능의 개선을 이뤄냈다"며 "향후 더욱 효과적인 양자 최적화 알고리즘의 개발로 이어질 수 있기를 기대한다"고 덧붙였다.

AI타임스 윤영주 기자 yyj0511@aitimes.com