AI 기반 국가위기관리정책 발전 필요성 제기
군사·재난 위기상황 발생 시 AI가 의사결정 시간 단축
국가안보에 AI 운영하기 위해선 신뢰성 문제 해결해야
"국가위기관리에 AI 운영하는 정책과 연구 필요"
인공지능(AI). 2016년 알파고와 이세돌 프로바둑기사가 대전을 했을 때만 해도 생소했던 AI가 어느새 일상에서 쉽게 찾아볼 수 있는 존재가 됐다. 산업, 교육, 금융, 쇼핑 등 분야를 막론하고 AI는 사용자 편의를 위한 도구로 자리 잡았다.
인터넷 쇼핑만 해도 AI를 쉽게 찾아볼 수 있다. AI가 관련 제품을 구매자 취향에 맞게 알아서 추천해주고, 구매자가 남긴 댓글을 분석해 사용자가 보고 싶은 정보만 빠르게 알려준다. 유튜브, 넷플릭스 영상도 AI가 사용자 취향에 따라 알아서 배열하고 있다.
그런데 이 AI를 국가 안보에도 적용할 수 있을까? 최원상 한남대 국방전략대학원 교수는 국가 안보환경에 AI 적용 가능성에 대한 화두를 던졌다.
최 교수는 지난 9월 1일 <인공지능 기반의 국가위기관리 정책발전론> 책을 발간하며 AI를 기반으로 한 국가위기관리정책발전의 필요성을 제시했다.
불확실성이 큰 국가 안보환경은 미리 예측하고 대비하는 것이 어려워 AI를 활용해 이러한 불확실성을 최소화해야 효율적인 국가위기관리가 가능하다는 게 그의 주장이다.
국가 안보환경에 AI를 적용하면 어떤 효과가 있을지, 또 AI 도입을 위해 어떤 기반을 마련해야 할지 최원상 교수를 만나 자세한 얘기를 나눠봤다.
다음은 최원상 교수와의 일문일답.
Q. AI 기반 국가위기관리 정책. 상당히 중요한 화두다. 이번 책을 집필한 계기가 있나.
2016년 세계경제포럼(WEF)에서 주요 화두는 AI였다. 그 해에 알파고와 이세돌 프로바둑기사의 대전 열리며 AI가 대중에게도 깊게 인식됐다. WEF를 청취하고, 바둑 대전을 보면서 AI가 일상에 자리 잡겠다는 생각이 들었다. 그리고 AI가 안보나 국가위기관리에도 적용될 수 있겠다고 생각했다.
이후 AI와 국가위기관리 및 안보에 관한 연구를 하고 있다. 관련 논문도 여러 편 작성하고 학회에서 발표도 했다. 하지만 논문은 지면의 한계가 있었고, 많은 분들과 공유하는데도 제한이 있었다. 그래서 책 집필을 생각하게 됐다.
Q. AI와 국가위기관리에 관한 연구를 하면서 여러 생각이 들었을 것 같다. 가장 크게 느낀 점은 무엇인가.
AI를 국가위기관리에 적용하는 것은 AI 기술에 대한 이해도와 함께 국가위기관리 정책도 잘 알아야 한다. 그런데 이 두 가지를 모두 잘 아는 사람은 드물다. 그래서 융·복합적 관점에서 AI와 국가위기관리 정책을 연구했다. 개인적으로 이 책이 국가위기관리 정책에 관여하시는 분들과 AI를 연구개발(R&D)하시는 분들의 교두보 역할을 했으면 한다.
Q. 이번 저서가 가지는 의미가 있다면.
집필을 위해 AI와 국가위기관리 분야에 현직으로 계시는 분들과 인터뷰, 토론, 설문 등을 통해 자료수집을 했고, 객관적인 연구를 위해 다시 자문하는 일을 반복했다. 이러한 연구과정을 통해 책에는 국가위기관리에 AI를 어떻게 접목할 수 있을 것인지에 대한 여러 전문가의 의견이 담겼다. AI 기반 국가위기관리를 위한 정책 수립과 필요한 요소 등이 제시되어 있다.
이 책은 전문가들의 의견을 함축해 국가위기관리에 AI가 필요하다는 화두를 던졌다는 점에서 의미가 있다고 생각한다.
Q. 국가위기관리에 관심을 두게 된 배경은 무엇인가.
현재 행정안전부에서 국가 안보 분야 위기관리 업무를 수행하고 있다. 대학에서는 그러한 분야의 강의와 논문작성을 지도하고 있다. 그러다 보니 국가위기관리에 관심을 두게 됐다. 특히 급변하는 국제 안보 환경에서 강대국인 미국과 중국 사이에서 안보적 선택과 결정을 해야 하는 한국은 국가위기관리가 곧 국가이익과 직결되기에 더욱 관심을 갖게 됐다.
Q. AI를 포함해 정보통신기술(ICT)의 발달로 업무 환경이나 생활이 많이 변화하고 있다. 안보환경도 그러한가.
사례를 들어 설명하겠다. 2003년 안타까운 사고가 있었다. 대구 지하철 화재 참사다. 이 사고 이후 현재 소방청의 전신인 소방방재청이 신설되고, 재난 관련 기관들의 무선통신망을 단일화하는 국가사업이 추진됐다. 소방, 경찰, 지자체 등에서 사용하는 통신망이 서로 달라 사고에 신속하게 대응할 수 없었기 때문이다. 대구 지하철 화재에서도 이 문제가 거론됐다.
2004년 해당 사업을 시작해 작년에 시범적으로 일부 지역에서 단일통신망이 개통됐고, 올해 4월에 단일주파수를 사용하는 LTE 전국망이 개통됐다. 재난이 발생하면 관련 모든 기관이 하나의 주파수를 이용해 상황을 동시에 전파하고, 재난 현장의 영상과 음성을 실시간대로 전파하는 것이 가능해졌다. 얼마 전 행정안전부에서 구축한 GIS(지리정보시스템) 기반 통합상황관리시스템도 이러한 사례 중 하나다.
무인자율체계인 무인수상정과 드론을 활용하는 사례도 있다. 중국 어선이 우리 영해를 침범해 꽃게잡이 등 어로활동이 자주 발생해 우리 어민들에게 피해를 주는 경우가 있다. 이때 우리 해양경찰이 접근해서 경고방송을 하면 중국 어선이 막무가내로 들이 받아 인력이 다치기도 한다. 해양경찰청은 이러한 피해를 방지하기 위해 무인수상정과 드론을 보내 경고방송을 하고 그 이후에도 중국어선이 철수를 안 하면 해양경찰을 투입하는 방식으로 피해를 최소화하고 있다.
Q. 그렇다면 AI는 국가위기관리에서 어떤 역할을 할 수 있을까
긴급 상황에서 현장에 있는 지휘관이나 책임자가 빠른 의사결정을 할 수 있도록 도움을 줄 수 있다. 군사나 재난 상황이 발생하게 되면 중앙부처와 지자체, 각 행정 기관에는 어떻게 조치를 해야 하는지에 관한 매뉴얼이 있다.
매뉴얼은 현장에서 상항이 발생하면 피해를 최소화하기 위해 즉시 적용해야 하는 조치 사항이다. 예방 차원이 아닌 대응을 위한 것이다. 그런데 상황이 발생하면 관리자나 담당자가 매뉴얼을 즉시 적용하기 쉽지 않다. 워낙 시나리오가 많고, 내용이 다양하기 때문이다.
게다가 공무원은 인사이동이 많다. 짧은 주기로 업무 담당자가 바뀌는 것이다. 매뉴얼을 숙지하고 발전시켜야 하는데 제한사항이 많다.
그래서 AI가 필요하다. AI는 매뉴얼의 내용과 대응, 복구에 가용한 자원에 관한 데이터를 토대로 의사결정권자가 빠른 결정을 할 수 있도록 지원하는 역할을 할 수 있다. 화재가 발생했을 때 어디에 있는 몇 대의 차량이 몇 번 도로를 이용해서 이동하면 몇 시에 도착해 가장 가까운 의료시설로 후송할 수 있는 식의 여러 시나리오를 AI가 순식간에 계산해 의사결정권자에게 알려줄 수 있다. 이렇게 되면 재난 등 국가위기 상황에서 더 많은 국민의 생명과 재산을 지킬 수 있을 것이다.
Q. AI가 가진 장점 중 하나는 데이터를 토대로 빠른 계산을 할 수 있다는 점이다. 이 점을 토대로 의사결정을 지원한다면 긍정 효과가 많을 것 같다. 현재 행정안전부에서는 이러한 연구를 하고 있나
행정안전부 국립재난안전연구원에서 재난 분야에 적용할 수 있는 AI 등 다양한 ICT를 연구하고 있다. AI를 활용해 재난 자원을 어떻게 효율적으로 운영해 피해를 최소화할 수 있는지 등을 연구한다. 긴급한 상황에서 최적의 방안을 판단하기는 쉽지 않다. 이 판단에 도움을 주고자 원하는 자원을 효율적으로 운용하기 위한 AI 시스템을 연구하고 있다.
Q. AI가 의사결정에 도움을 줄 수 있다는 것은 좋은 이야기다. 하지만 이에 따르는 문제점도 있을 것 같은데
신뢰 문제가 가장 크다. 국기 기관에서 위기관리에 AI 기술을 활용하려면 '설명할 수 있는 AI'가 뒷받침돼야 한다. 쉽게 말해 AI가 내린 결정에 대해 왜 그런 결정을 내렸는지 설명을 할 수 있어야 한다.
AI가 도출한 결과가 의사결정권자가 믿을 수 있는 내용이어야 하는데 현재 기술 수준에서는 100% 신뢰하기 어렵다. 왜 그런 결정을 도출했는지 의사결정권자에게 설명해줘야 하는데 현재 AI 기술 수준은 그 과정을 설명하지 못한다. 이를 흔히 블랙박스라고 얘기하는데 이 부분을 설명할 수 있어야 정책적으로 AI 수용성이 높아질 수 있다.
Q. AI 신뢰성을 높이기 위한 본질적인 방안은 무엇인가
검증된 신뢰성 있는 데이터를 사용해야 한다. AI는 어떤 데이터를 학습했느냐에 따라 산출물이 달라진다. 가장 조심해야 할 부분이 가짜뉴스다. 딥러닝은 스스로 데이터를 수집하고, 수집된 데이터를 응용해 또 다른 데이터를 만든다. 그런데 가짜뉴스를 수집해 학습한다면 문제가 발생할 수 있다.
예를 들어 북한이 사이버 해킹을 통해 사이버상에 거짓 뉴스를 퍼뜨렸다고 가정해보자. 북한이 한국의 대북정책을 긍정적으로 평가하고 종전선언을 환영한다는 거짓 뉴스를 퍼뜨리고, 뒤에서는 한국에 위기를 초래할 군사 공격을 준비하고 있다고 가정했을 때, AI는 이러한 거짓 뉴스를 학습해 위기 상황 수준이 매우 낮다고 정책결정권자에게 알려줄 수 있다. 이 경우 국가안보에 큰 위기가 발생하게 된다.
데이터 사용은 비단 위기관리뿐 아니라 AI 프로그램을 설계하고 운영하는 모든 사용자가 고민해야 할 문제다. 그런 면에서 알고리즘 또한 데이터 못지 않게 중요하다. 검증되고 신뢰할 만한 데이터를 운용하더라도 불순한 의도가 있는 알고리즘이 적용된다면 마찬가지 결과가 나오게 된다.
Q. AI가 국가위기관리에 유용하게 사용될 수 있지만, 신뢰성 문제를 해결하지 않는 한 결국 사용되기는 어려울 것 같다
맞다. 그래서 설명할 수 있는 AI 기술이 고도화돼서 윤리적으로 문제 되지 않는 AI가 나와야 정책에 적용하고 운영할 수 있다. 집필하면서 AI 관계자들을 만나 이야기를 나눴을 때도 가장 강조됐던 부분이 AI 윤리였다.
AI 개발자가 불순한 의도를 갖고 알고리즘을 설계하고, 사용자가 AI를 불법적으로 운영한다면, AI 기술은 차라리 없는 게 낫다. 그래서 설명할 수 있는 AI, 신뢰할 수 있는 AI 기술이 필요한 것이다.
Q. 최근 AI 신뢰성 문제를 극복하기 위해 AI를 법제화하는 노력도 많이 이뤄지고 있다. AI 법제화에 대해 어떻게 생각하나
유럽연합(EU)과 경제협력개발기구(OECD)에서도 AI 윤리를 제정해서 발표했고, 한국도 과기정통부와 방송통신위원회에서 AI 윤리를 제정했다. 이러한 발표가 계속 나오는 이유는 AI 기술의 발전에 따라 윤리가 점점 중요해지기 때문이다. 법제화되어 있지 않으니 위반했을 때 그에 따른 처벌이 없고, 민간업체 입장에서는 굳이 따를 의무가 없다. 공포되기 전까진 불법적인 것이 허용된다는 것이 법의 맹점이다.
AI 법제화는 필요하다고 본다. 결국에는 법제화가 될 것으로 전망한다. 하지만 법을 마련할 때는 항상 신중히 처리해야 한다. AI 기술이나 대상 범위를 명확히 해야 한다. 법제화한다는 건 모호성이 있으면 안 되고 명확성이 있어야 한다. 법제화한 이후도 생각해야 한다. 국가에 이익이 되는지에 대한 여부를 잘 따져야 한다. 법제화했을 때 이익이 더 커야 한다. AI를 법제화한다면 AI R&D에 제한이 있을 수 있다. 이런 점도 고려해 국익에 도움이 되는 방향으로 법제화가 필요하다.
Q. 그렇다면 한국이 AI 강국이 되기 위해선 가장 필요한 정책은 무엇이라고 보는가
인력 관리다. 인재를 양성하는 것은 좋은데 능력 있는 인재는 대부분 해외로 간다는 게 문제다. 양성된 인력을 어떻게 관리해야 하는지에 관한 대책이 나와야 한다.
애국심에만 호소해 국위 선양하라는 시대는 지났다. 여건이 미비한데 헝그리 정신만 갖고 R&D를 할 순 없다. 어떻게 인력을 관리할 것인지에 관한 명확한 정책이 있을 필요가 있다.
한 가지 더 말하자면, 내년에 대선을 앞두고 있는데 한국 정치 특성상 대선 이후에는 많은 분야의 정책에 변화가 생긴다. AI에 관한 정부 정책은 계속 유지되고 발전돼야 한다고 생각한다. 정책이 수립되고 집행되기 위해서는 중장기적인 계획과 시간이 필요하다. 대선 이후에도 현재의 AI 관련 국가 정책이 지속되고 더욱 발전되기를 바란다.
AI타임스 김동원 기자 goodtuna@aitimes.com
[관련기사][AI북터뷰] “AI트랜스포메이션, 우리 기업도 정말 가능할까?”...‘AI 피보팅’ 저자 손진호 대표 인터뷰
[관련기사][AI북터뷰] "AI가 한 결정을 그대로 수긍하는 게 맞을까?"...'신뢰할 수 있는 인공지능' 저자 한상기 대표 인터뷰
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com