글로벌 인공지능(AI) 커뮤니케이션 플랫폼 센드버드(대표 김동신)는 AI 에이전트 운영시스템 '트러스트OS(Trust OS)'를 출시했다고 31일 밝혔다.
이는 기업 AI 운영 시스템의 신뢰성과 책임을 강화하기 위한 프레임워크다.
센드버드는 지난 3월 AI 에이전트 빌더 플랫폼을 선보이고, 기업이 자체적으로 필요한 AI 에이전트를 개발할 수 있다고 소개한 바 있다. AI 에이전트 활용이 확산되면서 발생하는 잘못된 응답, 편향, 정책 위반 등 오류를 제어하고 안전하게 운영하기 위해 트러스트OS를 공개했다고 설명했다.
트러스트 OS는 관측성 ·사람 감독 ·통제 ·검증된 확장 인프라를 결합한 엔터프라이즈급 AI 운영 시스템으로, AI 에이전트를 안전하고 책임 있게 운영할 수 있도록 설계됐다.
우선, AI 에이전트의 판단, 응답, 상호작용 과정을 실시간으로 추적하고 시각화할 수 있다는 장점이 있다고 소개했다.
이는 단순히 만들어진 AI가 잘 작동하는지 평가하는 것을 넘어, ▲응답이 왜곡되지는 않았는지(환각 탐지) ▲어떤 데이터를 기반으로 판단했는지(관측) ▲사람이 개입해 조정할 수 있는지(감독) ▲대규모 배포시에도 문제가 없는지(확장 인프라) 확인할 수 있게 지원하는 AI 에이전트 운영 체계다.
트러스트OS를 사용할 경우, 파일럿에서 실제 운영 전환까지 소요되는 시간을 최대 90% 단축할 수 있으며, 환각 오류의 99%를 사전에 탐지 및 수정할 수 있다고 전했다.
더불어 여러 AI 에이전트를 병렬로 운영할 수 있도록 역할 기반 권한 설정과 선택적 배포 기능도 제공된다. 에이전트의 상호작용을 전 과정 추적하고 교정할 수 있어 AI의 성능과 책임성을 함께 향상할 수 있다고 덧붙였다.
트러스트 OS는 센드버드 플랫폼 내 AI 에이전트 빌더를 사용하는 모든 고객에게 제공되며, 센드버드는 이를 기반으로 AI 에이전트 도입을 고려하는 기업들이 기획부터 운영, 고도화까지 전 과정을 보다 빠르고 안정적으로 실행할 수 있도록 기술 지원을 강화할 예정이다.
김동신 센드버드 대표는 “자율성이 커질수록 책임과 검증 체계는 더욱 중요해지고 있으며, 트러스트 OS는 AI 운영 전반에 대한 신뢰와 기준을 내재화하려는 센드버드의 기술적, 철학적 시도로 기업들이 고객 경험을 혁신하면서도 신뢰를 잃지 않도록 뒷받침하는 기반이 될 것”이라고 말했다.
한편, 트러스트OS의 자세한 내용은 센드버드 공식 블로그에서 확인할 수 있다.
박수빈 기자 sbin08@aitimes.com
