디지털전환은 보안위협이라는 새로운 숙제 안겨줘
AI는 보안관제 요원의 역량을 향상시킬 수 있는 조력자
진화하는 사이버 공격에 스스로 대응하는 AI 기술 개발
"설명 가능한 AI와 보안 분야 외 AI 기술 개발에도 집중할 것"
코로나19 확산으로 가속화된 디지털전환은 새로운 숙제를 안겨줬다. 보안위협이다. 비대면 플랫폼을 노린 보안위협이 많아졌다. 랜섬웨어와 디도스 공격도 계속 증가하는 추세다. 사이버 공격 수준도 날로 진화하고 있다. 해커들은 복잡하고 새로운 공격 방법으로 기업과 사용자의 네트워크에 침투하고 데이터를 탈취 중이다.
새로워지고 많아진 사이버 공격에 대응하기 위해 보안 운영 환경은 감당하기 힘든 수준으로 복잡해졌다. 보안관제 인력이 대응해야 하는 컴플라이언스는 늘어났고 분석할 데이터는 급증했다. 이 문제를 해결하기 위해 보안업계가 도입한 기술이 인공지능(AI)이다. AI 보안관제 솔루션을 적용해 업무 효율성과 정확도를 높이고 있다.
이글루시큐리티는 국내에서 처음 AI 보안관제 솔루션을 선보인 기업이다. 2018년 1월 머신러닝 기반 AI 시스템과 보안관제시스템(SIEM)이 상호 연계된 '대구 AI 기반 지능형 보안관제체계(D-Security)'를 구축해 AI 보안관제 효율성을 증명했다. 2019년 초에는 AI 보안관제 솔루션인 '스파이더 티엠 에이아이 에디션(SPiDER TM AI Edition)'을 출시해 국내 주요 공공기관과 기업에 공급했다.
최근에는 AI가 고위험이라고 판단한 위협 상황을 왜 그렇게 판단했는지 설명할 수 있는 '설명 가능한 AI(XAI, eXplainable AI)' 기술 개발에 매진하고 있다. 보안 전문가에게 AI가 사이버 위협요소를 판단한 알고리즘 내용을 알려줘 AI의 신뢰도를 높인다는 전략이다. 이에 신윤섭 이글루시큐리티 인공지능팀장과의 인터뷰를 통해 보안관제에서의 AI 역할과 설명할 수 있는 AI 기술의 필요성에 관한 얘기를 들어봤다.
"AI 알고리즘을 보안 전문가에게 설명할 수 있어야 기술 신뢰도 높일 수 있어"
"AI 알고리즘을 설명할 수 있으면 보안 조직은 AI 알고리즘이 의도에 맞춰 잘 학습되었는지 또 신뢰할 만한 예측 결과가 도출되었는지를 판단할 수 있게 됩니다. 결국 기술에 신뢰가 생겨 더 완벽한 보안을 구축할 수 있게 되는 것이지요."
신윤섭 팀장은 XAI 기술 필요성에 대해 이같이 밝혔다. AI 알고리즘이 왜 위협요소를 판단했는지 보안 전문가에게 이해할 수 있게 알려줘야 기술 신뢰도가 생겨 더 나은 보안을 이룰 수 있다는 것.
이글루시큐리티는 XAI 기술 실현을 위해 관련 기술을 개발하고 있다. 올해 상반기 관련 특허 기술을 2건 등록하기도 했다.
등록된 특허 중 하나는 'XAI에 기초하여 생성된 학습데이터를 이용한 이상행위탐지모델 생성방법 및 장치'다. 이 기술은 AI가 내린 예측에 대한 근거를 제시하는 XAI 기술에 기반을 둔다. 수집 데이터를 학습하여 생성된 1차 학습모델이 어떤 기준에 따라 특정 행위를 이상행위로 탐지했는지를 확인함으로써, 담당자의 개별적 판단 기준에 부합하지 않는 오탐 발생을 줄일 수 있다.
다른 하나는 '이상행위탐지모델의 비지도 학습을 위한 XAI 기반 정상학습데이터 생성방법 및 장치'다. 이 기술은 수집 데이터 일부를 이용해 생성한 지도학습 모델에서 '정상(Normal)'으로 라벨링된 데이터만을 추출하고 이를 비지도 학습한 이상행위 탐지 모델을 생성한다. 레이블링 작업의 효율성을 높이고 이상행위 탐지 모델의 오탐(誤探)률을 낮출 수 있다.
신 팀장은 "앞으로도 XAI 기술 개발에 힘을 기울이며, AI 알고리즘의 신뢰성을 더욱 높일 계획"이라고 말했다.
AI는 보안관제 요원의 조력자...보안 공백 최소화에 기여
신윤섭 팀장은 AI가 보안관제 인력의 조력자라고 설명한다. AI가 보안관제 인력과 힘을 합쳐 보안 공백을 줄이고 보안관제 업무의 피로도를 낮출 수 있어서다.
그는 "보안관제는 AI 기술 적용을 통해 효율성을 비약적으로 높일 수 있는 분야"라며 "AI는 보안관제 요원들의 역량을 상향시키는 조력자라고 할 수 있다"고 밝혔다.
신 팀장에 따르면, 지도학습과 비지도학습을 병행하는 AI 보안관제 솔루션은 우선 대응해야 할 고위험군 이벤트를 정확히 선별한다. 기존 보안 장비로는 탐지하기 어려운 신·변종 위협도 탐지해 보안 공백을 최소화할 수 있다.
AI 보안관제 솔루션을 통해 보안 인력은 위협이 아니지만 위협이라고 탐지하는 오탐을 방지해 업무 피로감을 줄일 수 있다. 또 장기간 은밀하게 진행되어 탐지하기 어려운 잠복형 위협과 새로운 변종 위협을 정확히 탐지할 수 있어 보안 공백도 줄일 수 있다.
신 팀장은 AI가 기존 인력의 일자리를 잠식하는 것이 아니냐는 질문엔 '아니다'라고 분명히 했다. 그는 "AI의 진가는 오랜 기간 공격자의 흔적을 추적하고 공격의 연결고리를 끊어 온 보안 전문가가 있을 때만 발휘될 수 있다"면서 "AI 알고리즘이 학습하는 데이터가 AI 보안관제 시스템이 내놓는 결과물의 수준을 좌우할 수 있는 만큼, 양질의 학습 데이터를 만들어낼 수 있는 전문 보안 인력이 반드시 필요하기 때문"이라고 답했다.
보안 효율성 향상 위해선 최신 보안 도구 연동해 활용해야
그렇다면 각 기업에서는 보안 향상을 위해 어떤 노력을 해야 할까? 이 질문에 신윤섭 팀장은 최신 보안 도구들을 연동해 활용하는 것이 중요하다고 설명한다.
여기서 의미하는 최신 보안 도구는 ▲보안 데이터 분석의 정확성을 높이는 AI 솔루션 ▲보안 위협의 대응 프로세스를 자동화할 수 있는 보안 오케스트레이션·자동화·대응(SOAR) ▲최신 보안위협에 대한 정보를 파악·분석하는 사이버 위협 인텔리전스(CTI) 등이다.
신 팀장은 "코로나19 위기를 겪으면서, 환경 변화에 빠르게 적응하고 미래 전략을 구현하기 위한 선진 기술의 중요성이 그 어느 때보다 높아졌다"면서 "많은 기업은 최신 보안 도구들을 유기적으로 연동해 활용함으로써 보안의 효율성을 극대화해야 한다"고 설명했다.
또 "오늘날의 보안 환경은 기업이 활용할 수 있는 모든 도구의 능력을 최대한으로 높여 사용할 것을 요구하고 있다"며 "보안 역량을 높일 수 있는 AI 보안관제를 도입해 고도화된 사이버 위협에 대한 대응력을 한 단계 높이길 권장한다"고 조언했다.
고도화된 사이버 공격에 스스로 대응하는 AI 기술 개발
이글루시큐리티는 AI 보안관제 니즈가 본격적으로 발생하기 시작한 2016년부터 AI 사업을 준비해 관련 사업에 뛰어든 기업이다. 2018년부터 보안, 빅데이터, 데이터 마이닝, 시각화, 사용자 인터페이스 경험(UI·UX) 등 여러 분야 전문가로 구성된 인공지능팀을 구성해 본격 AI 기술 개발에 착수했다. 지난해에만 취득한 AI·보안관제 관련 특허가 30여 건이다.
이글루시큐리티 인공지능팀은 2018년 구성돼 AI 보안관제 구축을 위한 기술들을 개발해왔다. 대규모 데이터 저장·관리를 통해 가치 있는 정보를 추출하고, 머신러닝이 더 빠르고 정확하게 예측값을 내놓기 위한 알고리즘과 학습 방법·기법을 연구했다. 데이터 분석 결과를 직관적으로 이해할 수 있도록 표현하는 UI·UX 및 시각화 기술도 개발했다.
인공지능팀이 개발해 특허까지 등록한 대표 기술은 ▲전이 학습을 위한 환경분석 및 보정시스템 ▲비지도 학습 기반의 이상 탐지 방법 ▲기계학습 기반 빈도형 보안정책 생성시스템 ▲지도학습기반의 경보분석과 비지도학습기반의 이상행위탐지 기법을 혼용한 지능형 보안관제 시스템 등이다.
신 팀장은 "사이버 공격이 점점 고도화되면서 AI가 이에 대응할 수 있는 능력을 스스로 강화하는 것이 중요해졌다"면서 "(해당 기술들을 바탕으로) 양질의 보안 데이터를 학습한 AI 알고리즘은 스스로 판단 기준을 만들어 새로운 보안 데이터를 실시간으로 판단함으로써 고도화된 공격에 대응할 수 있다"고 설명했다.
비(非) 보안 분야 AI 사업도 준비 중
최근 회사는 비(非) 보안 분야 AI 기술 개발과 머신러닝 기술 대중화에도 힘을 쏟고 있다. 그동안의 AI 개발 경험과 지식을 토대로 다양한 분야에서 빠르고 정확한 의사 결정을 내릴 수 있는 AI 기술과 머신러닝에 대한 지식과 경험이 많지 않은 조직도 기술 혜택을 누릴 수 있는 기술을 개발하고 있다.
신 팀장은 "AI 연구를 진행하면서 일상적이고 소모적인 업무를 머신러닝이 대신함으로써, 보안 전문가가 고도화된 업무에 집중할 수 있는 장점을 직접 체감할 수 있었다"며 "머신러닝을 활용하고 싶으나 어떻게 활용해야 할지 모르는 기업들을 위한 기술 개발에도 앞장서겠다"고 밝혔다.
■ 신윤섭 이글루시큐리티 인공지능팀장은 누구?
신윤섭 팀장은 2018년부터 이글루시큐리티 인공지능팀장으로 활동하고 있다. 이글루시큐리티에는 2012년 11월에 입사했다. 2017년까지는 연구기획팀 팀장으로 근무했다.
이글루시큐리티 입사 전에는 이니텍, 티맥스소프트, 소프트포럼(현 한컴위드)에서 근무한 경험이 있다.
■ 이글루시큐리티 인공지능팀은?
이글루시큐리티 인공지능팀은 빅데이터, 데이터 마이닝, 시각화, UI/UX 등 다양한 분야의 전문가들로 구성되어 있다. 다양한 배경의 구성원들이 유기적으로 협업하고 기술 변화에 빠르게 대응할 수 있도록, 자유롭게 소통하고 업무의 자율성을 보장하는 수평적 업무 문화 조성에 힘을 기울이고 있다. 업무 효율성 향상을 위해 크게 ▲수집전처리 ▲머신러닝 ▲애플리케이션 3개 파트로 나눠 업무를 진행하고 있다.
‘수집전처리 파트’는 AI 알고리즘이 보다 정확한 예측 값을 내놓을 수 있도록, SIEM(통합보안관제) 등을 통해 수집한 보안 데이터를 AI 알고리즘이 학습·예측할 수 있는 형태로 가공, 전처리하고 이를 분산 저장 및 실시간 처리하는 데 중점을 두고 있다. 여러 통계·수학적 기술과 패턴 분석에 기반한 ‘데이터 마이닝’ 연구 개발도 수행하고 있다.
‘머신러닝 파트’는 머신러닝이 더 빠르고 더 정확하게 예측값을 내놓을 수 있는 최적의 알고리즘을 개발하고 학습 방법과 기법을 연구하는 역할을 수행하고 있다. AI 보안 솔루션의 성능을 향상시킬 수 있는 여러 기능(점진적 예측 성능 향상을 위한 피드백 기능, 자동 재학습 기능 등)을 개발하고, 다양한 AI 이슈들을 해결하기 위한 연구를 진행하는 데 중점을 두고 있다.
‘애플리케이션 파트’는 AI 알고리즘이 예측한 이벤트·비정상 행위 탐지 등의 데이터 분석 결과에 대한 위험 우선순위를 제공하고 이를 빠르고 직관적으로 분석할 수 있는 UI/UX 및 시각화 기술 개발을 담당하고 있다. 또한, 복잡한 AI 데이터 수집, 전처리, 탐지 모델 생성 및 평가 프로세스를 보다 손쉽게 관리하기 위한 AI 플랫폼 관리 기능을 개발하고 있다.
AI타임스 김동원 기자 goodtuna@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com