"인공지능(AI) 시스템과 기업의 공통점은 주변 세계를 이해하면서 본인의 이익을 극대화하는 방향으로 움직인다는 것입니다. 공공정책으로 기업의 행위를 공익과 일치시킬 수 있도록 하고 나아가, AI 행동을 인류의 가치와 사람 중심으로 어떻게 맞출 것인가를 고민해야 합니다."
'AI 4대 천왕' 중 한 명인 요슈아 벤지오 밀라-퀘벡 AI 연구소 설립자 겸 몬트리올 대학 교수가 기업 활동과 공익이 일치할 수 있는 정책 마련이 필요하다고 강조했다. 기업이 AI 활용에 적극적인 만큼, AI 기술 활용이 공익에서 벗어나지 않도록 하기 위해 AI 활용 주체인 기업의 이익 방향을 공익과 일치시켜야 한다는 의미다.
벤지오 교수는 대통령직속 4차산업혁명위원회(위원장 윤성로)가 27일 온라인 생중계로 개최한 '2020 4차 산업혁명 글로벌 정책 컨퍼런스'에 영상으로 참석해 'AI, 사회적 영향력과 공공재'를 주제로 발표를 진행했다.
그는 "AI가 정말 강력한 툴(tool)이지만 여전히 인간 지능과 비교해 AI의 수준은 훨씬 낮다"고 입을 열며 발표를 시작했다.
벤지오 교수는 AI의 부정적 활용을 두고 우려했다. 특정 개인ㆍ집단이 권력과 부를 축적하는 데 AI를 남용할 수 있다는 설명이다. 이에 기술 활용에 있어 국제적 차원의 공동 의지로 규제ㆍ관리해야 한다고 힘줘 말했다.
그는 기업에게 '인센티브' 제도를 도입해 기업의 이익 활동을 사회적 이익과 일치하도록 유도해 향후 AI 시스템의 행동을 인류 보편적 가치와 부합할 수 있는 방향으로 이끌어야 한다고 피력했다.
벤지오 교수는 "대기업을 일종의 AI라고 봤을 때, 기업은 굉장히 똑똑하고 한 사람보다 더 높은 지능을 가질 것이다"라며 "하지만 기업 활동을 향한 규범과 규칙을 세우지 않을 경우 환경 파괴와 정치적ㆍ보건적 측면의 피해를 입힐 것이다"라고 가정했다.
이어 "대기업과 AI의 행동을 볼 때 이들은 각자의 이해를 최적화하려고 노력한다"며 "이 노력이 공익과 일치하지 않고 틀어질 경우 문제가 발생하며, 이들의 활동이 사회에 악영향을 미칠 것이다"라고 설명했다.
이에 벤지오 교수는 인센티브 제도를 활용하자고 제안했다. 기업이 공익적 방향을 얼마나 추구하는지를 평가해 상벌체계를 적용하자는 것이다.
또 AI의 학습 방법을 파악해 인센티브 체계를 촘촘하게 설계해야 한다고 강조했다. AI 시스템과 기업은 매우 작은 단계와 변화를 가져가며 주변 세계를 이해한 뒤 본인의 이해를 극대화하는 방향으로 움직이기 때문이다. 이 특성을 고려해 기업의 행동이 조금씩 개선될 때마다 적절한 보상을 제공해야 한다고 짚었다.
벤지오 교수는 인센티브 시스템을 작용할 수 있도록 '공공재 시장'을 이용, 기업의 활동과 공익을 연계할 수 있을 것이라고 봤다.
그는 "탄소거래시장의 경우 탄소배출권을 구매한 기업의 행동 결과를 두고 다양한 보상체계를 마련해 기업의 사회적 활동을 독려할 수 있다"며 "향후 인센티브 관련 공공재 시장의 메커니즘이 생겨나고, 이에 시장이 적응하면서 다양한 금융ㆍ보험 상품이 등장할 것이다"라고 설명했다.
이어 "탄소배출권을 포함해 현재 다양한 공공재를 계량화할 수 있다"고 말하며 "실제 국제연합(UN) 지속가능한 목표에서 많은 계량화 수단을 제공하고 있고 구체적으로 약 200개 계량 지표가 개발돼 있다"고 언급했다.
하지만 '지식'의 경우 계량화가 어려운 공공재라고 지적했다. 시장의 경쟁적 측면에서, 기업이 자사의 혁신 결과와 지식을 기밀로 유지하기 때문이다. 이에 대학을 비롯한 학계 연구자가 지식을 공유하고 기존 지식에 새로운 지식을 더하는 등 학계의 지식 확산 방법을 기업이 차용해 효율적인 혁신 프로세스를 끌어내야 한다고 제언했다.
이 날 발표에서, 벤지오 교수는 기업의 공익활동 유도에 있어 법체계가 물리적 한계를 갖고 있다고 설명했다.
그는 "관련 법을 제정하는 것은 유용하나 안타깝게도 기업이 다양한 활동을 하는 데 있어 불법을 저지르지 않는 한도까지 움직일 가능성이 있다"며 "이 경우 법을 어긴 것은 아니나 법의 정신을 위배할 수 있다"고 우려했다.
이어 "AI 시스템과 기업이 수행할 수 있는 경우의 수는 너무나 넓고 방대하다"고 언급하며 "수학적으로 경우의 수를 고려할 때 기업이 사회에 악을 끼칠 수 있는 모든 가능성을 차단하는 법체계를 만드는 것은 불가하다"고 짚었다.
AI타임스 김재호 기자 jhk6047@aitimes.com
[관련 기사]미래학자 솅커, "한국은 '기술의 미래' 볼 수 있는 국가"...ICT와 AI 기술 가능성 보여
