애플이 부정확한 뉴스 알림 생성 논란을 빚은 '인공지능(AI) 알림 요약' 기능을 일시적으로 중단했다. 이는 애플이 AI 환각 문제로 서비스를 중단한 첫 사례로 주목받고 있다.
테크크런치 등은 16일(현지시간) 애플이 최근 공개한 iOS 18.3, 아이패드OS 18.3, 맥OS 세쿼이아 15.3 등의 개발자 베타 버전에서 뉴스 및 엔터테인먼트 앱의 AI 알림 요약 기능을 비활성화했다고 보도했다.
이 조치는 BBC가 애플에 문제를 제기한 지 2주 만에 이뤄졌다. 애플의 알림 요약 기능은 지난달 유나이티드 헬스케어 CEO 브라이언 톰슨의 살인 혐의로 체포된 루이지 맨지오니가 자살했다는 잘못된 내용의 BBC 뉴스를 발송해 논란이 됐다.
이번 개발자 베타 버전 업데이트에는 뉴스 알림 중단 외에도 몇가지 주요 변경 사항이 적용됐다.
알림 요약 기능이 베타 단계임을 명확히 표시하는 기능과 잠금 화면에서 앱별 알림 요약을 비활성화할 수 있는 옵션 추가가 포함됐다. 또 알림 요약은 이탤릭체로 표시되며, 오류 가능성을 경고하는 메시지가 추가됐다.
이번 업데이트는 현재 개발자 베타 테스터들에게 공개된 상태이며, 일반 사용자 대상 출시 일정은 아직 확정되지 않았다.
한편, 애플은 BBC의 지적 이후 애플 인텔리전스의 AI 알림 요약 기능에 대한 수정 작업을 진행한다고 발표한 바 있다.
AI의 환각 문제로 서비스를 중단한 것은 이번이 처음은 아니다. 구글은 지난해 2월 '제미나이'의 이미지 생성 기능이 역사적 사실을 왜곡한다는 지적을 받은 뒤 서비스를 차단했다.
애플은 이런 환각 문제를 경계, 애플 인텔리전스에 비교적 심각하지 않거나 환각 확률이 적은 생성 기능을 추가했다.
그러나 AI 알림 요약은 지난해 베타 테스트 때부터 줄곧 문제가 지적돼 왔으며, 결국 서비스를 잠정 중단하는 사태까지 이르렀다. 아직 애플의 AI 기술이 오픈AI나 구글에는 미치지 못한다는 것을 보여주는 사례다.
박찬 기자 cpark@aitimes.com
