마이크로소프트(MS)는 애저 AI 콘텐츠 세이프티를 출시, 안전한 온라인 환경과 콘텐츠를 만드는 책임 있는 AI 생태계 확장에 나선다고 18일 밝혔다.
MS는 지난 5월 연례 개발자 컨퍼런스인 'MS 빌드 2023'을 통해 애저 오픈AI 서비스의 일부로 애저 AI 콘텐츠 세이프티를 소개한 바 있다. 이번에 공식 출시한 애저 AI 콘텐츠 세이프티는 독립 실행이 가능한 시스템으로, 오픈 소스 모델과 여타 모델에서 생성된 AI 콘텐츠에도 적용할 수 있다.
특히 수십년간의 MS 콘텐츠 관리 경험과 기능을 바탕으로, 다양한 비즈니스 요구 사항을 가진 기업과 조직에 안전한 AI 콘텐츠 사용 환경을 제공할 수 있을 것으로 기대한다고 전했다.
애저 AI 플랫폼에서 제공하는 애저 AI 콘텐츠 세이프티는 고급 언어와 비전 모델을 사용, 증오나 폭력 등 잠재적으로 유해한 콘텐츠를 감지해 이를 심각성 점수로 표시한다. 이를 통해 기업과 조직은 내부 정책에 근거해 유해 콘텐츠를 차단하거나 플래그 표식 등으로 서비스를 맞춤화할 수 있다.
에릭 보이드 MS AI 플랫폼 담당 기업 부사장은 “이미 많은 기업들이 생성 AI의 가치와 역량을 경험하기 시작했다"라며 "이런 상황에서 MS는 애저 AI 콘텐츠 세이프티를 통해 다양한 비즈니스 요구 사항을 가진 고객들에 안전한 생성 AI 사용 환경을 지원할 수 있을 것으로 기대한다”라고 말했다.
이주영 기자 juyoung09@aitimes.com
관련기사
