인공지능(AI)의 환각이나 데이터 편향을 방지하는 데 블록체인이 도움이 된다는 주장이 나왔다.
CNBC는 21일(현지시간) 스위스 다보스포럼 패널 토론에서 블록체인 기업 캐스퍼랩스가 AI의 환각 및 편향 방지가 블록체인의 새로운 킬러 사용 사례가 될 수 있다고 주장한 사실을 보도했다.
'챗GPT'와 같은 AI 모델의 우려 사항 중 하나는 AI가 제공하는 답변에 편향되거나 잘못된 정보가 포함될 수 있다는 것이다.
이에 대해 블록체인 업계에서는 AI 훈련 데이터를 블록체인에 올려 AI가 학습한 데이터를 추적, 데이터 편향이나 잘못된 정보를 생성하는 위험을 낮출 수 있다고 주장하고 있다.
블록체인은 2009년 암호화폐 '비트코인'이 출시되며 시장에 등장했다. 이 기술은 변경이 불가능하고 변조할 수 없는 공개 거래 원장이다. 기업들은 분산 원장 기술이라고도 불리는 블록체인의 원리를 다른 응용 프로그램에 활용하려고 노력해 왔다.
캐스퍼랩스는 최근 IBM과 제휴, AI 훈련 데이터를 블록체인 데이터에 저장하고 시스템 개발자가 학습한 데이터를 추적할 수 있는 시스템을 만들었다. 기업에게 AI 모델 통제를 위한 감사(auditable) 솔루션을 선보이는 것이 목표다.
분산 원장과 암호 기술을 통해 데이터 추적 레이어를 제공, AI 모델 변화에 대한 기록을 조작 불가능하게 할 수 있다는 설명이다. 이를 통해 AI 모델 버전에 수정이 이뤄질 때마다 트랜잭션이 블록체인 기록에 추가되고 이후 모델에 문제가 생기면 체크포인트로 사용될 수 있다.
메다 팔리카 캐스퍼랩스 CTO는 “개발 중인 제품은 데이터를 블록체인에 저장하고 데이터 체크포인트을 만들어 AI가 훈련한 데이터를 확인할 수 있다”라며 “환각이 나타나면 잘못된 학습 데이터를 취소하고, 이전 버전으로 되돌아갈 수 있다”라고 설명했다.
쉴라 워런 암호화폐 혁신 위원회 위원장도 “블록체인 기반 AI 훈련 데이터 원장이 블록체인의 킬러 사용 사례가 될 수 있다”라며 “블록체인이 AI 검증과 AI 시스템 내 견제와 균형을 이끌고 지원할 수 있게 될 것”이라고 강조했다.
박찬 기자 cpark@aitimes.com
