AI챗봇 '이루다'가 돌아온다...내년 1월 비공개 테스트

올 초 인공지능(AI) 윤리성 논란을 일으켰던 AI 챗봇 '이루다'가 새 버전 출시를 위해 박차를 가하고 있다. ‘이루다 2.0’을 내놓기 전 비공개 테스트로 AI 윤리적 이슈를 미리 예방할 방침이다. 

AI 스타트업 스캐터랩(대표 김종윤)이 클로즈 베타테스트를 내년 1월부터 진행한다고 21일 밝혔다. 내년 ‘이루다2.0’을 공식적으로 출시하기 전 진행하는 테스트다. 서비스 전반에 걸쳐 AI 윤리를 점검하고 실제 사용자 의견을 받아 서비스를 고도화하기 위해서다. 공식 출시는 해당 테스트를 통해 사용자의 의견과 개선 사항을 점검한 후 결정할 방침이다. 

이번 테스트는 일반인 사용자를 대상으로 의견을 수렴하고 기능을 개선하는 게 주요 골자다. 내년 1월 4일까지 이루다 공식 페이스북 페이지로 신청받는다. 약 3000명을 선정할 계획이다. 스캐터랩 내부 알파테스트와 외부 전문가가 진행한 점검은 이미 완료한 상태다.

베타테스터로 선정된 사용자는 내년 1월 11일부터 약 3주 동안 '이루다2.0'과 자유롭게 대화한다. 이를 통해 AI챗봇이 대화 문맥을 이해하고 적절하게 답변하는지 검토한다. 해당 챗봇이 선정성·공격성·편향성을 나타내는 단어나 문맥을 탐지해 대응하는지까지 살펴본다. 검토 후 대화 내용이나 성능에 대해 스캐터랩에 보고해야 한다. 해당 내용을 기업 외부에는 공개하지 않는다고 밝혔다.

스캐터랩 측은 "그동안 AI챗봇 윤리 준칙을 제정하고 신뢰할 수 있는 AI 모델 개발에 역량을 집중했다"고 전했다.

회사는 AI 기술과 제품 개발 전반에 가이드라인이 될 수 있는 5가지 AI챗봇 윤리 준칙을 수립했다. '사람을 위한 AI 개발'을 하겠다는 것이 주요 원칙이다. ▲다양한 삶의 가치 존중 ▲함께 실현하는 AI 챗봇 윤리 ▲합리적 설명을 통한 신뢰 관계 유지 ▲프라이버시 보호와 정보 보안 발전에 기여하자는 원칙도 추가했다.

이루다는 스캐터랩이 작년 12월 출시한 일상 대화형 챗봇이다. 누구에게나 좋은 말동무가 되는 AI가 목표였다. 그러나 서비스 과정에서 여성·유색인종·장애인·성소수자 관련 혐오 발언을 쏟아내 거센 비난을 받았다. 개인정보 유출 논란까지 불거져 20일 만에 서비스를 중단했다.

AI타임스 김미정 기자 kimj7521@aitimes.com

[관련 기사]'이루다 논란' 스캐터랩, 문제된 데이터 수집 경로 미공개했다...데이터수집공개 의무화해야 하나?

[관련 기사]"제2의 이루다 막는다"...AI팀 꾸린 법무법인 원 이유정 변호사 인터뷰