인공지능(AI)이 발전하면서 악용 우려가 제기되고 있으나 관련 정책이 함께 발전하면 이를 방지할 수 있을 것이라는 긍정적인 견해가 나왔다. 미 경제 매체 포브스는 18일 마이크 설리반 작가의 ‘AI가 세상을 지배할 것인가’라는 기고를 실으면서 이와 같은 긍정적인 전망을 제기했다. 설리반의 글을 소개한다.
치명적인 독소와 전염병 연구를 전문으로 하는 스위스 정부 산하 스피에즈 연구소는 스위스의 중심인 레이첸바흐 폭포에서 멀지 않은 곳에 있다. 이 폭포는 셜록 홈즈가 '마지막 사건(The Final Problem)' 모리아티 교수를 상대로 승리를 거둔 소설속 무대이기도 하다. 9개월 전 이 연구소의 과학자들은 메가신(MegaSyn)이라는 AI 기반의 약물 발견 플랫폼이 일반적인 변수(parameter)에 얽매이지 않는다면 어떻게 작동하는지를 살펴보는 실험을 했다.
많은 AI 플랫폼과 마찬가지로 MegaSyn은 약물 발견 속도를 높이기 위해 새로운 분자 조합을 결합하는 방법을 학습하기 위한 대규모 데이터베이스(분자 구조 및 관련 생체활동 데이터의 공개 데이터베이스)에 의존한다. 여기서 논리적 근거는 MegaSyn이 분자에서 독성을 피할 수 있어 ‘좋은’ 분자를 분리할 수 있다는 것이다.
스피에즈 연구소의 실험에서 MegaSyn은 '좋은' 성과물을 생산해야 한다는 지시를 받지 않은 상태에서 밤새 가동됐다. 그 결과 잠재적으로 치명적인 생물무기 표준 조합(VX와 같은 치명적인) 약 4만개의 설계를 도출했다. 기계가 도덕성에 제한을 받지 않으면 매우 부정적인 결과를 산출한다는 훌륭한 사례라고 할 수 있다.
또 다른 최근의 예는 구글 직원인 블레이크 레모인(Blake Lemoin)과 그가 지각이 있다고 밝힌 컴퓨터 프로그램 람다(LaMDA)가 나눈 대화다. 이것이 사실이든 아니든 현재 AI는 범용인공지능(AGI)으로 나아가는 단계에 있다. 이 단계에서 컴퓨터는 학습하고 사람처럼 생각하기 시작한다. 실제로 GPT-3라는 AI 프로그램은 그럭저럭 괜찮은 소설을 쓸 수 있다.
AI가 이미 군사적 역할을 하고 있는 증거는 많다. 우크라이나에서는 드론이 러시아 군사 장비를 인식해 공격하도록 프로그래밍됐다. 더 큰 나라들은 AI를 무기에 장착해 적을 찾고 파괴할 수 있다 또 드론 기술이 나고르노-카라바흐 전쟁(아르메니아와 아제르바이잔 간의 민족 분쟁)에서 어떤 영향을 끼쳤는지 우리는 알고 있다. AI가 이끄는 전쟁이 머지 않은 상황이다.
이런 사례와 AI에 대한 광범위한 논쟁은 지금 형성되고 있는 새로운 세계 질서에 여러 개의 복잡한 축이 존재한다는 것을 보여준다. 예를 들면 미국과 중국 사이에 고조되는 전략적 경쟁 중 일부는 AI에 초점이 맞춰져 있으며 컴퓨팅 파워와 대규모 공용 및 개인 데이터 세트에 대한 액세스 측면에서 경쟁이 벌어지고 있다. 이러한 광범위한 영역에서 인간과 AI가 삶에 미치는 영향 사이에 또 다른 긴장이 만들어질 것이다.
그러나 모든 것이 부정적이지는 않다. 지난 주 크게 보도된 한 실험, ‘민주적 AI’라고 불린 프로젝트에서는 투자 게임의 수익을 배당하도록 해본 결과 AI가 사람들보다 더 평등한 것으로 나타났다. 이는 AI 연구에서 민주주의 및 공공 정책에 대해 매우 명확한 정책도 도출된다는 점을 시사한다.
현 단계에서, AI가 삶에 미치는 영향(보험 계약부터 소셜미디어와 정치 사이의 상호 작용에 이르기까지)을 이해하고 보다 효과적으로 대응해야 하는 데 대부분의 정부들이 뒤쳐져 있다고 말하는 것은 논란의 여지가 없다.
이제 세계를 정복하려는 꿈을 가진 모리아티에게로 돌아가보자. 소문에 의하면 아서 코난 도일의 모리아티 묘사에 영감을 준 사람 중 한 명은 1849년 코크 대학 수학 교수인 조지 불(George Boole)이라는 사람이었다. 위대한 수학자 중 한 명인 불은 컴퓨터 언어의 기반이 된 '불 대수(Boolean algebra)'를 만들었고, 이는 과학자들이 인간의 행동을 모방하고 '개선'하는 기계를 사용할 때 근거하는 구조가 됐다.
필자는 아일랜드 코크 대학 불 도서관 지하에서 AI에 대한 공부를 하며 여러 해를 보냈다. 그 때는 몰랐다. 문제는 그때는 AI가 회귀 분석이라고 불렸고 데이터 세트는 매우 제한적이었으며, 오늘날의 관점에서 볼 때 컴퓨터 성능은 구식이었다는 점이다.
만일 '회귀 유충'이 'AI 나비'로 변할 것이라는 사실을 알았다면, 그 공부를 계속 했을 것이다. 내가 얻은 교훈은 컴퓨터 성능과 데이터 세트는 더 개선될 것이고, 그렇게 되면 법률과 도덕적 철학, 대규모 국가간의 전략적 경쟁의 경계가 더욱 확장된다는 것이다. 다시 셜록 홈즈를 불러올 때다. (AI가 세계를 정복하려는 모리아티가 되지 않도록 해야 한다는 의미)
AI타임스 이한선 객원 기자 griffin12@gmail.com
