‘인공지능(AI) 최고 석학’으로 불리는 스튜어트 러셀 UC버클리대 컴퓨터과학과 교수가 국내 행사에 참석, '안전한 AI'를 강조했다. 특히 AI 모델이 문제를 일으킬 경우 강제 종료할 수 있는 'AI 킬 스위치(AI Kill Switch)'가 필요하다고 밝혔다.
스튜어트 러셀 교수는 1일 서울시청 다목적홀에서 열린 제6회 국제 인공지능(AI) 컨퍼런스 ‘AI 서울 2024’에 온라인으로 참석, 기조연설을 통해 이같이 전했다.
그는 인공일반지능(AGI)의 가능성에 대해 언급하며, 기획 단계부터 '안전한 AI'를 만들어야 한다고 말했다. 목표가 잘못 설정되면 AI도 잘못된 결과를 생성할 수밖에 없다는 논리다.
"AI는 인간의 목적을 이루는 도구로만 남아야 한다"라고 주장하며, 목표가 잘못 설정된 AI의 능력이 뛰어날수록 인간 통제력을 상실할 위험이 있다고 말했다.
특히 "AI가 ▲딥페이크 ▲해킹 ▲생화학적 무기 제작 ▲명예훼손 등 문제를 일으킬 경우 강제로 종료할 수 있는 AI 킬 스위치가 필요하다”라고 강조했다.
더불어 AI 개발자에게는 규제 기관에 '안전증명'을 제공할 책임이 있으며, 안전한 AI를 위해서는 국제적 협의가 필요하다고 전했다. "2023년은 사람들이 AI의 위협에 대해 깨달았다면, 2024년은 행동해야 할 때"라고 말했다.
러셀 교수는 지난해 3월 일론 머스크 등과 함께 'AI 6개월 개발 유예'를 요구하기도 했다. 이전부터 윤리적인 AI 개발을 강조해 왔다.
이날 행사에는 장병탁 서울대학교 AI연구원장도 기조연설자로 등장, ‘신체를 가진 AI(Embodied AI)’라는 개념을 소개해 눈길을 모았다.
장 원장은 컴퓨팅 파워와 데이터의 양에 비례해 AI의 학습 속도가 빨라지기 때문에 지금보다 더 많은 데이터를 수집할 수 있으면 AI 성능도 좋아질 것이라고 설명했다.
따라서 대형언어모델(LLM)이 한정된 텍스트로만 학습하기 때문에 정확성에 한계가 발생한다며, 시각이나 촉각과 같은 데이터를 수집할 수 있는 신체를 가진 AI가 대안이라고 설명했다.
인간이 오감을 통해 경험을 확장하는 것처럼, AI도 다양한 감각 데이터를 받아들이게 되면 비약적인 속도로 발전할 수 있다는 말이다.
기조연설 이후 이어진 특별 대담에서 러셀 교수와 장병탁 원장은 'AI와 인간이 공존하는 시대에 필요한 것'에 대해 논의했다.
러셀 교수는 “우리가 AI를 더 잘 통제할 수 있는 수단이 필요하다”라며, 안전한 AI를 위한 ▲국제 규범▲기계와 인간의 상호작용에 대한 연구▲규제에 대한 집행기관의 필요성을 강조했다.
또 서울 시민에게 전하고 싶은 말이 있느냐는 질문에는 "AI 모델의 목표와 사용자의 목표가 부합하는지 확인해야 한다"라고 답했다.
장 원장은 “AI는 의지·의도·가치기준이 없기 때문에 여전히 중요한 판단은 인간의 몫”이라며 “AI가 인간의 직업을 대체할 것이라는 우려가 있지만 기계의 한계도 명확하다는 것을 염두에 둬야 한다”라고 말했다.
한편, 행사 시작에 앞서 오세훈 서울시장과 요슈아 벤지오 밀라 AI 연구소 설립자의 영상 축사가 있었다.
오세훈 서울시장은 "서울AI허브와 밀라 AI연구소의 협업을 통해 서울을 AI 산업 생태계의 중심으로 만들겠다"라며 "인재 양성 및 스타트업 R&D에 투자를 아끼지 않겠다"라고 말했다.
요수아 벤지오 설립자는 "서울시와의 공동 이니셔티브를 통해 스타트업 발굴 및 연구 협력을 기대한다"라며 "서울은 AI 허브로 발전할 기회와 가능성이 크다"라고 전했다.
서울 AI허브는 서울시에서 지원하는 AI 분야 전문 지원기관으로, 서울대학교와 한국 전자통신연구원(ETRI)이 AI 분야 인재 양성과 특화 기업 성장 지원을 위해 운영하는 기관이다. 지난해 12월 밀라 AI연구소와 파트너십을 체결하고 국내 스타트업을 위한 지원을 시작했다.
기조연설 이후에는 공공분야의 글로벌 AI 포럼과 국내외 산업분야에서 AI를 활용한 공공혁신 융합사례 발표가 진행됐다. IR세션에서는 서울시 지원을 받은 AI 스타트업의 피칭과 AI 분야의 연구 논문 발표 등 산업계와 학계에 걸친 교류가 이어졌다.
박수빈 기자 sbin08@aitimes.com
