마이크로소프트(MS)가 인공지능(AI)의 책임있는 개발과 배포를 돕기 위한 도구를 오픈소스로 제공한다. 특정 AI 시스템에 대해 오류를 분석하거나 공정성을 평가해 개선사항을 알려주는 도구들이다.
MS는 27일(현지시간) 블로그를 통해 책임있는 AI를 구축하기 위한 도구로 오류 관리 수단을 담은 라이브러리와 모델을 평가하고 비교하는 ‘추적기’라는 프로그램을 오픈소스와 자사 클라우드인 애저의 기계학습 플랫폼을 통해 사용할 수 있도록 했다고 발표했다.
라이브러리는 데이터가 부족하거나 낮은 품질로 발생하는 오류와 같이 데이터 사전 처리 과정에서 일어나는 부작용을 완화할 수 있는 솔루션들을 모아둔 것이다. 추적기는 특정 AI 모델에 대해 기술의 효과를 시각화하는 등의 방식으로 평가를 하고 공정성을 진단하는 등의 기능을 제공한다.
MS는 이 도구들을 적용하면 특정 모델에 대해 데이터의 하위 집합별로 성능을 분석할 수 있기 때문에 성능 저하 요인을 발견해 보완하거나 배포에 가장 적합한 형태를 찾는데 도움이 된다고 설명했다.
또 실무자가 새 모델을 개발할 때 처음부터 잠재적인 피해와 해소 방안을 고려하는데 도움이 될 수 있어 더 안전하고 신뢰할 수 있는 AI를 구축할 수 있다고 안내했다.
MS는 이런 지원 도구가 오픈소스로 공개되는 것이 책임있는 AI를 구축할 수 있도록 하는 환경을 육성하는데 중요하다고 강조했다. 오픈소스 도구가 늘어날 수록 AI 생태계에서 효과적인 협업이 가능해져 차세대 AI 시스템 개발과 구축에 도움이 될 것이라는 입장이다.
MS는 AI 발전과 관련해 연구 커뮤니티와 실무자, 기술 기업과 정부 기관이 잠재적 피해를 최소화하는 방향으로 이끌기 위해 다양한 방식으로 노력하고 있다면서 '책임있는 AI' 관행이 이를 지원하기 위해 계속 진화해야 한다고 강조했다.
정병일 위원 jbi@aitimes.com
