전문가들 사이 머신 러닝 역할에 의문 나와
인공지능 알고리즘 과장되게 알려지기도
성과 미흡할 경우 연구개발 투자 감소 예상
인공지능(AI) 관련 연구개발 투자 성과가 기대에 못 미칠 경우 ‘혹한기’가 도래할 수 있다는 전망이 제기됐다.
미국 외교안보 매체 내셔널인터레스트는 9일 AI 혹한기가 도래하지 않도록 대응이 필요하다는 기술 및 국제관계 전략가 빈센트 J. 카시디의 기고를 공개했다. 다음은 기고문 내용이다.
인공 지능(AI), 특히 가장 유명한 반복인 머신 러닝은 화약, 연소 엔진, 비행기 계통에서 군사 업무를 위한 획기적인 차세대 기술로 각광받고 있다.
오늘날 미국과 중국 간의 지정학적 경쟁에서 AI 혁신의 가장 큰 특징 중 하나는 주로 민간 부문에서 발생했다. 이와 관련해 중국 관료들이 민간 분야 AI 연구를 공산당이 통제하고 활용하기 위한 ‘군-민 융합’ 정책을 채택하고 있는 것처럼 미국 분석가들도 점점 기본 기술 연구에 대해 ‘국가 전반’의 접근 방식을 요구하고 있다.
AI는 전략적으로 중요한 기술이지만 특히 머신 러닝의 장기적인 활용이 생각보다 제한적이라면 어떻게 될까? 민간 분야 AI 연구자들이 노력을 기울이고 있기에 이 질문은 이상하게 보일 수 있다.
예를 들어 딥마인드 연구원 난도 드 프리타스는 최근 “게임은 끝났다. AI를 발전시키는 열쇠가 원한다면 바로 여기 머신 러닝에 있다”고 했다. 인간의 능력에 버금가거나 능가할 수 있는 AI의 혁신적인 능력은 머신 러닝에 대한 관심을 불러왔다. 알파고(AlphaGo)가 바둑에서 이세돌을 상대로 거둔 승리, GPT-3의 기사 및 코드 작성 능력, 한 가지 대신 여러 가지 특화된 작업을 수행할 수 있는 가토(Gato)의 능력, 알려진 모든 단백질 구조에 대한 알파폴드(AlphaFold)의 새로운 발전이 여기 포함된다. 국가 안보에서는 반자율 무인 시스템 등 신기술을 확보하려는 국방부(DOD)의 노력이 지속되고 있다.
그러나 일부 전문가들이 AI의 미래 개발에서 머신 러닝이 차지하는 역할에 대해 의문을 제기하기 시작했다. 머신 러닝, 특히 딥 러닝은 세심한 맞춤형의 좁은 분야에서는 비교적 성공적이었지만 AI 연구원 얀 레컨은 최근 최신 머신 러닝 기술의 한계와 결점에 대해 자세히 설명하는 포지셔닝 백서를 발표했다. AI 전문가 게리 마커스는 AI 시스템의 신뢰성과 새로운 기능과 관련한 만성적인 문제에 대해 강조하면서 “경로를 바꾸지 않으면 기대치가 꺼지면서 혹한기가 올 가능성이 높다”고 지적했다.
미 해군 사령관 에드가 자토와 해군 대학원 연구원 조슈아 A. 크롤은 국가 안보 분석가들이 현재 AI 시스템의 약점과 결점 그리고 이것이 AI를 지원하는 군사 기술의 미래 발전에 미치는 영향에 대해 충분히 주목하지 못하고 있다고 강조했다.
AI 시스템의 실망스러운 발전으로 새로운 ‘AI 혹한기’가 도래하게 될 것이라는 점은 상상하기 어려운 일이다. AI 혹한기는 AI에 대한 기대치가 부풀려지면서 기술의 잠재력에 대한 환멸을 초래하고 민간 자금의 감소로 이어지는 역사적인 주기의 한 단계라고 할 수 있다. 이 AI 혹한기 시나리오에서는 미국이 현재의 부족한 점을 인식하고 민간 부문과는 독립적으로 AI에 대한 충분한 연구 및 개발을 유지하기 위한 조치를 취하지 않는다면 혁신적인 경쟁력을 유지하기 위한 노력이 어려움을 겪을 수밖에 없다는 점을 시사한다.
미군은 이에 대한 대비와 함께 혁신 생태계 활용을 통해 세계 최고 기술력을 유지할 수 있다. 미 국방부 및 기타 조직들은 AI 혹한기 발생을 방지하기 위해 민간 부문 AI 회사와의 관계를 활용할 필요가 있다.
어떻게 해야 할까? 첫째, 머신 러닝 이외의 연구 과제를 수행하는 AI 분야의 비주류에 대해 미 국방부는 공공-민간 파트너십 및 인수 또는 조달 계약을 통해 이를 활성화할 필요가 있다. 미 국방부는 AI와 같은 핵심 기술에 대해 민간 부문 투자를 촉진하기 위해 보다 명확한 신호를 보내달라는 요구를 받아왔다.
머신 러닝이 군사 전반에 걸쳐 광범위하게 적용될 수 있고 방어 목적에도 계속 관련될 수 있다. 머신러닝을 AI의 일부로 보는 민간 부문 AI 연구 및 개발에 대한 보상이 제공되는 것이 한 가지 신호일 수 있다. 하지만 민간 분야 AI 연구에서 그럴듯한 비주류 연구 주제에 대해 단순한 설계를 통해 잠재력을 과장하는 것을 어떻게 구분할 수 있을까?
이에 대한 답은 두 번째 과제로 이어진다. 두 번째는 지적 및 교육 배경이 다양한 인력과 AI 시스템의 테스트, 평가, 검증 및 검증을 위한 지표 개발을 논의할 필요가 있다. 미 국방부의 목표를 AI 지원 군사 기술의 장기 개발에 맞추려면 민간 분야 AI 연구에서 어떤 소수 주제가 머신 러닝 이상의 그럴듯한 경로를 제시하는지 이해하는 것이 필요하다.
올바른 양의 학습 데이터를 필요로 하는 AI 시스템에 대한 모든 논의에서 AI와 응용 프로그램 자체는 데이터에 대한 해석이 요구된다. GPT-3가 생성한 기사, 알파고의 바둑 게임 전략 및 이와 유사한 내용은 사람이 해석해야 하는 모든 데이터 집합이라고 할 수 있다. 그러나 이러한 데이터를 볼 수 있는 적절한 렌즈가 없으면 AI 시스템 또는 응용 프로그램이 현재보다 더 또는 덜 발달하거나 가치 있는 것으로 잘못 해석될 수 있다.
AI 연구 또는 개발 분야에 대한 교육을 받은 사람 외에도 학제 간 배경 연구자뿐만 아니라 인지 심리학, 신경과학, 인류학 등의 분야의 전문가들이 민간 부문 연구의 정제되지 않은 결과에 대응할 수 있는 AI 지원 군사 기술에 대한 독립적인 트랙을 개척하는 데 도움이 될 것이다.
분명한 것은 미국 정부가 ‘다양한 기술 분야에 걸친’ 기본 연구에 대한 투자를 늘려야 한다는 것이다. 최근 몇 년 동안 많은 사람들이 이런 투자의 증액을 촉구해 왔다.이런 가운데 지난 7월 미국 상원과 하원이 반도체법을 통과시키면서 투자 증가 가능성이 제기되고 있다. 과학적 연구 자금 증가와 함께 AI 개발 및 AI 설계에 대한 정교한 장기적 비전이 동반돼야 한다.
AI타임스 이한선 객원 기자 griffin12@gmail.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com