인공지능(AI) 보안 전문 에임인텔리전스(대표 유상윤)는 한국정보통신기술협회(TTA)와 협력해 국내 주요 AI 모델에 대한 보안 진단 및 리스크 평가를 완료했다고 7일 밝혔다.
이번 협력을 통해 에임인텔리전스는 AI 레드팀 솔루션인 ‘에임레드(AIM Red)’를 활용해 ▲프롬프트 인젝션 ▲데이터 누출 ▲비인가 응답 유도 등 주요 리스크 요소를 사전에 탐지하고, 이에 대한 대응 전략을 제공했다.
에임인텔리전스는 국내뿐 아니라, 앤트로픽의 비공개 언어 모델을 대상으로 보안 진단을 수행한 바 있다. 이번 진단은 프롬프트 조작, 민감 정보 노출 가능성 등에 초점을 맞췄으며, 일부 결과는 실제 대응 정책에 반영된 것으로 알려졌다.
유상윤 에임인텔리전스 대표는 “정보통신 기술 표준을 제시하는 TTA 과제에 협력할 수 있어 뜻깊게 생각한다”라며 “AI 모델의 활용이 가속화되는 가운데, 이에 대한 보안 진단 체계도 함께 강화되어야 한다”라고 말했다.
박수빈 기자 sbin08@aitimes.com
관련기사
