‘데이터 포이즈닝’에 대한 대비책 마련 촉구
"자동화 데이터 프로세스에 의존하는 것이 그 원인"
“철저한 검토를 통해 현재보다 더 강력한 데이터 보안책을 강구해야 한다” 미 표준기술연구소 기술정보연구원 담당책임자 엘함 타바시는 이렇게 힘주어 말했다. 타바시 책임자는 최근 화상으로 열린 국립사이버보안연합(NIST) 패널토론회에서 이같이 주장하며 “데이터는 머신러닝에 있어 연료이자 피 같은 것”이라고 중요성을 강조했다.
현재 모든 산업 분야에서 AI가 도입되고 있다고 해도 과언이 아니다. 이에 빅데이터와 사이버 보안 관련 전문가들이 AI모델학습을 연구하는 엔지니어들을 향해 기존보다 더 강력한 데이터 보호책을 마련해야 한다고 촉구했다고 월스트리트저널(WSJ)이 보도했다. 전문가들은 이것만이 정보유출과 해킹에 대비하는 방법이라고 설명했다.
최근 가장 관심이 증가하는 분야가 ‘데이터 포이즈닝’이다. 데이터 포이즈닝이란 악의적으로 데이터를 최소한 분량만 주입해 빅데이터 모델 성능을 크게 떨어뜨리는 공격을 뜻한다. 잘못된 정보를 알고리즘에 입력하거나 비활성화 시키는 것도 모두 데이터 포이즈닝에 속한다.
사이버 보안업체 디지털 가디언의 탐 밴도 대표는 사이버상에서 데이터 포이즈닝이 자유롭게 이뤄지는 이유에 대해 “개인이건 기업이건 너나 할 것 없이 모두 자동화 데이터 프로세스에 의존하기 때문”이라고 지적했다.
또다른 패널로 참석한 스티브 클라크 뱅크오브아메리카 정보보안 책임자는 “머신러닝은 철저히 데이터를 기반으로 만들어지는 기술”이라며 “데이터가 곧 개인정보인 만큼 관련 엔지니어들이 책임지고 개인정보를 보호하는 모델을 구축해야 한다”고 덧붙였다.
NIST는 지난 8월 AI 시스템 구축에 필요한 데이터정보 유출을 막는 원칙 초안을 발표했다. 최종안은 국제표준화기구와 협력해 완성할 예정이다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com