'설명 가능한 인공지능(XAI)' 플랫폼 상용화가 머지 않아 보인다.
IT 전문 미디어 벤처비트는 머신러닝 플랫폼을 개발하는 미국계 스타트업 트루라(Truera)가 1200만 달러를 투자받았다고 14일(현지시간) 보도했다. 트루라는 투자금을 연구개발과 서비스 지역 확장에 투입할 것이라고 말했다.
경영컨설팅 업체 맥킨지 조사에 따르면 경영진 39%가 자사 기업 AI 모델이 어떻게 의사결정에 이르는 지 설명할 수 없다는 위험을 인식한다고 답변한 반면 적극적으로 문제를 해결하기 위한 조처를 하고 있다는 응답은 21%에 불과했다.
이 보고서는 ‘XAI’가 기업에 점점 더 절실해지고 있음을 암시한다. 시장조사업체 IDC 보고서에 따르면 기업 의사결정자는 ▲공정성 ▲설명 가능성 ▲견고함 ▲데이터 연결성 ▲투명성(공시 포함)이 AI 사용에 있어 해결해야 할 중요한 요건이라고 바라봤다.
트루라 기술은 카네기멜론대에서 지난 6년간 진행된 AI 설명 가능성 연구를 기반으로 한다. 샤야크 센(Shayak Sen) 트루라 공동 창업자와 아누팜 다타(Anupam Datta) 트루라 공동 창업자 겸 카네기멜론대 교수는 AI기반 설명과 분석을 더 빠르고 정확하게 하는 방법을 연구했다.
사내 혹은 개인 클라우드 소프트웨어 스택에서 구현할 수 있는 트루라의 'AI.Q 플랫폼'은 데이터 과학자가 AI모델의 예측을 설명하고 모델 개발ᆞ관리 방식ᆞ운영 방법을 개선할 수 있는 방법을 찾을 수 있도록 지원한다.
트루라는 공정성을 비롯해서 정확성, 안정성, 신뢰성, 건전성, 분석 일반화 등 모델 품질을 감사하기 위한 민감도 분석을 하는 한편 페이스북 파이토치, 구글 텐서플로우 같은 인기 모델 개발 기술을 지원한다.
트루라는 로지스틱 회귀분석, 심층 신경망, ‘그래디언트 부스티드 트리(gradient-boosted tree)’와 그 외 트리 모델 등 모든 회귀ᆞ분류 모델 유형을 가동할 수 있다. 트루라의 설명가능 AI 플랫폼은 모델 예측 관련 질문에 답변할 수 있을 뿐만 아니라 편견과 불안정성과 관련된 종합적인 추세를 설명할 수 있다. 트루라는 자동 생성되는 모델을 지속적으로 감시해 성능에 영향을 미칠 수 있는 잠재적인 문제를 사용자가 파악할 수 있도록 지원한다.
트루라는 피들러(Fidler)와 킨디(Kyndi) 등 경쟁업체가 없는 건 아니지만 자사 설명가능한 AI 플랫폼이 일부 포천 100대 기업 고객들에게 이미 도입됐다고 언급했다.
윌 어핑턴(Will Uppington) 트루라 최고경영자(CEO)는 “머신러닝을 활용하는 모든 기업은 신뢰할 수 있는 고품질 AI 모델을 구축하기 위해 고군분투한다”며 “트루라가 도울 수 있다”고 말했다. 그는 “트루라의 설명가능 AI 플랫폼은 개발, 모델 검토, 시험, 머신러닝 모니터링을 하면서 AI 모델 구축과정에 생기는 문제를 해결한다”고 강조했다.
AI타임스 문재호 기자 news@aitimes.com
[관련기사] XAI가 뭐지? 설명가능한 인공지능!... 올해 출시된 툴킷·플랫폼 5
[관련기사] 韓, AI 데이터·서비스 위한 국제 표준 제안
