컴퓨터 바이러스를 실시간 감시하는 백신 프로그램 처럼 인공지능(AI) 개발 과정에서 편향성과 안정성을 지속적으로 자동 검사하는 도구가 나왔다.
미 스타트업인 트루에라가 AI와 기계학습(ML) 개발 과정에서 프로그램의 편향성 등을 지속적으로 검사해 개발자에게 결과를 알려주는 '트루에라 다이애그노스틱스 2.0'을 출시했다고 벤처비트가 25일(현지시간) 보도했다.
이 도구는 AI 모델을 훈련할 때마다 자동으로 검사를 실시한다. 또 개발중이거나 이미 제작된 모델에서 오류나 작업 실패 등 문제가 발생하면 개발자에게 솔루션 링크를 제공하는 방식으로 해법을 제공한다. 개발자가 무엇을 검사해야 할지 결정할 수 있도록 ‘편견’ 등의 몇 가지 범주를 제안하기도 한다.
트루에라의 이 시스템과 관련해 기술매체 벤처비트는 편견을 완화하고 안전하게 작업을 수행하는 ‘책임있는 AI’를 구현할 수 있는 도구라고 평가했다.
또 그동안 AI나 ML 작업의 편향성에 대한 검사는 1회성으로 이뤄져왔다면서 지속적이고 자동적인 검사 방식에 대해 의미를 부여했다.
트루에라는 지난 2019년 창업한 기업으로 ‘책임있는 AI’, “설명가능한 AI”를 지향하면서 AI 검사 및 성능관리 솔루션을 개발해왔다. 지금까지 휴렛패커드(HPE) 등에서 4500만달러(643억원)의 투자를 유치했고, 현재 인텔과 파트너십을 맺고 AI기업 지원 프로그램에 참여하고 있다.
벤처비트는 AI에 대한 규제가 미국과 유럽에서 도입될 예정이기 때문에 앞으로 AI 활용 기업들에겐 지속적이고 자동화된 Ai검사 모델이 반드시 필요해질 것이라고 전망했다.
윌 어핑톤 트루에라 CEO는 "내년부터 미국 뉴욕시에서 AI 감사가 의무화된다"면서 "규제를 준수하는 유일한 방법은 모델에 대해 지속적인 검사와 확인을 하는 것 뿐"이라고 말했다.
정병일 위원 jbi@aitimes.com
