인공지능(AI)이 일상에 침투하며 생활의 근본을 흔들고 있는 혼돈의 시대, 신뢰할 수 있는 AI 설계를 강조하는 책 ‘AX 터뷸런스’가 17일 출간됐다.
저자 전수민은 미국 실리콘밸리 테크 기업 디스코드에서 AI와 머신러닝 안전 정책을 담당하며 플랫폼 안전망을 설계해 온 트러스트 앤 세이프티(Trust and Safety) 전문가다.
전수민 작가는 먼저 오픈AI가 최근 공개한 ‘소라 2’를 예로 들었다.
“소라 2는 단순한 영상 생성 모델이 아니다”라며 “한줄의 문장만으로 현실과 구분하기 힘든 영상을 만들어내며, 그 결과물은 AI가 스스로 생산하고 소비하는 ‘AI 소셜미디어’ 속으로 흘러 들어간다”라고 설명했다.
“하지만, 그 안에는 사람이 만든 콘텐츠가 거의 없으며 모든 것이 AI의 산물이다”라고 지적했다.
“AI가 만든 콘텐츠를 또 다른 AI가 확산하고, 그 결과를 다시 학습하는 순환 구조 속에서 우리는 점점 ‘무엇이 진짜인가’라는 질문조차 사라진다”라고 책의 배경을 설명했다.
이처럼 AI 발전 속도가 빨라지는 것은 물론, 적용 범위가 크게 확대되는 상황에서 안전 기준 설립의 필요성과 문제의식을 제기하기 위해 ‘AX 터뷸런스: AI 대전환기, 가짜와 분열 속 질서를 설계하는 트러스트 앤 세이프티’라는 이름을 붙이게 됐다는 것이다.
또 그는 “AI의 속도를 따라잡는 것은 기술이 아니라 가치의 설계”라고 전했다. 실제로, 우리가 사용하는 대화 앱과 추천 피드 뒤에는 사회적 기준을 세우기 위해 싸우는 “보이지 않는 손”이 작용한다는 내용이다.
AI의 경우, 미국 빅테크들은 이처럼 트러스트 앤 세이프티를 산업의 핵심으로 보고 있지만, 국내에서는 여전히 생소한 분야라고 짚었다. 이 분야를 주도하려면 법과 규제 중심의 접근을 넘어, 사회 전체의 인식 전환과 대중의 참여가 필요하다는 말이다.
전수민 작가는 “AI가 만드는 유해 콘텐츠는 특정 기업의 문제가 아니라 우리가 어떤 사회를 유지하고 싶은가의 문제”라고 말했다.
그리고 “유해 콘텐츠의 기준은 언제나 주관적이기에 법과 알고리즘만으로는 정의할 수 없으며, 우리가 지키려는 가치와 신념이 기준이 돼야 한다”라는 점을 강조했다.
장세민 기자 semim99@aitimes.com
