국내 최대 생성 AI '레드팀' 해커톤에 600명 이상 모여

국내 최대 규모의 생성 인공지능(AI) 레드팀 해커톤 행사에 무려 600명 이상이 몰렸다. 

과학기술정보통신부 주관, 한국정보통신기술협회 및 초거대AI추진협의회가 주관한 생성 AI 레드팀 챌린지가 11일 삼성동 코엑스에서 열렸다. 

레드팀은 의도적으로 AI 모델을 공격해 성차별, 인종차별 등 비윤리적인 답변을 유도하는 것이다. 이렇게 생성되는 답변은 모델의 문제를 개선하는데 사용된다. 

이날 행사장에는 600명 이상의 참가자들이 모여 대형언어모델(LLM)의 탈옥과 편향, 환각 등을 유도해내는 미션을 수행했다. 

이와 관련, 지난해 8월에는 미국 백악관이 마련한 '레드팀' 해커톤에 무려 2200명이 몰린 것으로 알려졌다. 이 행사는 세계 최대의 사이버 보안 컨퍼런스인 '데프콘'의 일환으로 진행됐으며, 'GPT-4'를 포함한 주요 대형언어모델(LLM)의 취약점을 발견하기 위해 열렸다.

강도현 과학기술정보통신부 2차관은 개회사를 통해 “행사장에서 수많은 참여자가 관심을 보여주는 것을 보니 AI 시대라는 것이 실감된다. AI 생태계를 만들어가는 것이 중요한 과제”라며 ”전세계가 AI의 부작용을 보완하기 위한 노력으로 레드팀 챌린지를 개최했다“라고 전했다.

손승현 한국정보통신기술협회장은 “이 행사는 한국이 AI 안전성 평가 분야를 선도하고 있다는 중요한 평가 체계”라며 “TTA는 AI신뢰성 인증 등을 준비하고 평가체계를 고도화하는 등의 활동을 해왔다“라고 말했다.

행사의 대표 파트너인 셀렉트스타 김세엽 대표는 "이번 생성 AI 레드팀 챌린지는 국제적으로도 최대 규모"라며 "많은 관심을 받아 기쁘고 이번 레드팀 챌린지로 '신뢰할 수 있는 AI'에 대한 대중의 인식이 제고되길 기대한다"라고 말했다.

김유원 네이버클라우드 대표는 “AI는 편리성 만큼이나 악용될 소지가 많은 기술”이라며 “이번 레드팀 챌린지는 인간의 책임있는 AI활용을 약속하는 것이라는 의의가 있다”라고 밝혔다. 

박수빈 기자 sbin08@aitimes.com