(AI타임스=윤광제 기자) 마이크로 소프트 사장이 인공지능(AI)이 악용되는 것을 막기 위해 제한적으로 구축하지 않으면 강력한 무기가 될 수 있다고 경고했다.
마이크로 소프트의 사장 브래드 스미스(brad smith)는 최근 포르투갈 리스본에서 열린 웹 서밋 기술회의에서 "어떤 도구도 무기가 될 수 있으며 도구가 강력할수록 무기로 전환될 경우 가공할 만한 위력을 가지게 된다“고 말했다.
그는 "우리가 앞으로 10년을 내다볼 때, 많은 면에서 AI는 세계가 이전에 거의 보지 못했던 종류의 도구가 될 것이며 그래서 더 강력한 무기가 될 수도 있다"고 주장했다.
스미스는 세계에서 가장 큰 기술 회의 중 하나인 이번 웹 서밋에서 연설을 하면서 기술 전문가들에게 AI로 인해 발생할 수 있는 잠재적인 문제에 대해서도 숙고해볼 것을 요청했다.
스미스는 "컴퓨터가 무엇을 할 수 있는지 그냥 물어보는 것이 아니라 컴퓨터가 무엇을 해야 하는지 물어봐야 한다"고 말했다.
그는 또 "우리는 인류 역사상 최초의 세대입니다. 이전에는 사람들이 내린 결정을 이제는 기계가 내릴 수 있도록 힘을 실어줄 것 입니다"라면서 “만약 우리가 이것에 대해 잘못된 이해와 결정하게 되면 우리를 뒤따르는 모든 세대가 그 대가를 치르게 될 것입니다"라고 강조했다.
스미스는 2001년 영화 ‘스페이스 오디세이’에서 우주선을 조종하는 AI 로봇인 할(Hal)은 승무원들이 귀환할 때 들어오는 문을 여는 것을 거부했다. 할이 구상한 논리적인 추론은 ‘임무 완수를 위해 비효율적인 승무원을 제거하는 것’으로 결과적으로는 대단히 위협적인 결정이었다.
◆ 의도되지 않은 결과
스미스는 이어 “기계들은 스스로 결정을 내리고, 기계는 인간의 말을 듣지 않으며, 기계는 인간을 노예로 만들거나 심지어 죽이기 시작합니다. 이것이 지금까지 본 모든 터미네이너 영화의 모습”이라며 “일반인들이 생각하는 AI가 이런 수준의 모습이며, 그렇게 보고 자랐다”고 설명했다.
이러한 극단적인 상태로 진행될 가능성이 크지 않아 보이지만, 스미스는 기술을 어떻게 통제할 것인가에 대해 중요한 질문을 제기했다.
그는 “우리가 만들고 있는 기술에 대한 가드 레일이 필요하다”고 주장했다.
그는 또한 전 세계 정부와의 더 많은 참여가 필요하며 변화의 속도에 보조를 맞추기 위해 국회의원들에게 더 빨리 움직여야 한다고 적극적 의정활동을 촉구했다.
스미스는 이어 정치인들에게 “국민을 최우선으로 생각하고, 국민에게 봉사한다는 게 어떤 의미인지 폭넓게 고민해야 할 것”이라며 일침을 가했다.
스미스 사장은 AI의 잠재적 위협에 대해 강조했지만, “이 기술이 제대로 관리된다면 ‘인류를 위한 비상한 자산’이 될 수 있다”고 말했다.
그는 끝으로 마이크로소프트가 이미 환경 작업, 인도주의적 구호, 접근성, 문화재 보존과 같은 것들을 위해 AI를 사용하고 있다고 말했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com