[9월4일] AI가 인류에 해를 끼칠 수 있는 5가지 대표적 방법

인공지능(AI)이 인류를 해칠 수 있다는 AI 종말론이라면 대부분은 영화 '터미네이터' 같은 상황을 떠올릴 것입니다. AI가 네트워크를 조종, 핵무기를 발사한다는지 하는 내용일 겁니다.

이런 큰 문제보다 더 시급한 것은 일자리 문제일 것입니다. 이미 몇몇 업종은 AI로 인해 대부분 일자리가 사라질 것이라는 경고가 나오고 있습니다. 최근 들어서는 게임 개발자 이야기가 많이 나오고 있습니다.

이 가운데 MIT 퓨처테크는 최근 AI 시스템이 제기하는 수백개의 위험을 담은 데이터베이스를 공개해 눈길을 모았습니다. 여기에는 논문과 보고서를 포함한 43개 분야의 정보를 통합, 700개 이상의 위험이 제시됐습니다.

워낙 많은 내용이라 모두 정리하기는 어렵고, 대신 유로뉴스가 이 중 핵심으로 꼽은 5가지를 소개해 드릴까 합니다. 여기에는 핵 위험이나 일자리 위협보다 근본적인 내용이 담겨있고, 이제까지 간과됐던 부분도 있습니다.

우선 AI로 인한 가장 근접한 위험으로는 '딥페이크에 따른 현실 왜곡'이 꼽혔습니다. 이 문제에 대해서는 자세한 설명이 필요 없을 것 같습니다. 최근 국내에서도 이 문제로 떠들썩한데, 이 때문에 외신들은 한국을 딥페이크 포르노 대표국으로 소개하는 분위기입니다.
 
이어, 인간이 AI에 부적절한 애착을 가질 수도 있다는 것도 지적됐습니다.

AI의 의인화와 듣기 좋은 말만 해주는 AI에 대한 의존도가 커지며 생기는 부작용입니다. 이미 챗봇과 사랑에 빠졌다고 밝힌 사례가 심심치 않게 등장하고 있습니다. 이는 단순 애정을 넘어, 의존도가 높아진다는 문제를 일으킨다는 내용입니다. 

이 문제는 세번째 지적인 AI가 사람들의 자유의지를 빼앗을 수 있다는 점과 직결됩니다.

거창하게 자유의지라고 표현하지 않아도 AI에 지나치게 의존하면 비판적 사고와 문제해결 능력이 떨어지는 것을 말합니다. 이미 인터넷 검색으로 인해 어느 정도 학습 능력이 줄어 들었다는 것의 연장선입니다. AI 챗봇은 심지어 검색조차 할 필요가 없게 만듭니다.

AI가 인간의 이익과 충돌하는 목표를 추구할 수도 있다는 것이 2위에 뽑혔습니다. 인공일반지능(AGI)이 등장, 대량 살상을 일으킬 수 있다는 것이 여기에 해당합니다.

이를 대비한 기술이 정렬(alignment)입니다. 이 문제는 이미 많이 지적됐습니다. 특히 최근에는 AI가 인간인 척하거나, 인간을 설득하고 속이는 데도 능숙해질 수 있다는 연구 결과가 등장했습니다.

마지막으로 꼽은 위험은 좀 의외이면서도, 한편으로는 이해가 되는 내용입니다. AI가 의식을 갖게 되면 인간이 그것을 학대할 수도 있다는 내용입니다.

아직 의식을 가진 AI가 등장하지 않아 상상이 어려울 수도 있지만, 사실 이런 현상은 이미 벌어지고 있습니다. 사람들은 챗봇이 실수했다는 내용을 보고 즐기는 경향이 있습니다.

이는 인간만이 창의적인 존재라는 의식에서 비롯됩니다. 챗봇 따위가 인간 영역을 넘보다가 실수하면 당연하게 생각하고 즐거워한다는 내용입니다. 애플의 아이패드 광고가 많은 사람들로부터 욕을 먹었던 이유도 여기에 있습니다.

지난해에는 청소년들이 챗봇을 학대하는 'AI 가스라이팅'이 유행이라는 소식도 전해졌습니다. 하지만 이 문제는 아직 등장하지도 않은 AGI의 권리를 따지려는 것보다, 인간이 AI를 적으로 생각하고 분노를 품는 데 대한 문제를 지적한 것으로 보입니다. 

물론 의식 있는 AI가 등장하면, 권리문제가 도마 위에 오를 수 있습니다. SF에서나 등장하는 내용이긴 합니다만.

이처럼 문제점을 종합해 보면 AI 기술 자체의 문제는 정렬 정도에 그치고, 대부분은 AI를 사용하는 사람들의 이야기입니다.

AI가 인류에 해를 끼치는 것이 아니라, '인류가 AI를 잘못 활용해 생기는 문제'라는 표현이 더 정확할 것 같습니다.

이어 3일 주요 뉴스입니다.

■ GPT-4 토큰 가격 18개월 동안 240배 하락

GPT-4 토큰 가격이 출시 직후보다 240배나 낮아졌다는 내용입니다. 이는 다른 모델과의 경쟁, 특히 오픈 소스의 발전에 따른 결과라는 분석입니다. 앞으로 출시될 GPT-5로 성능 차를 보여주지 않으면, 사용료를 받기 어려워질 것이라는 예측입니다.

■ 오픈AI, 자체 AI 칩 개발 위해 TSMC 최첨단 공정 'A16' 예약

구글이나 아마존, MS처럼 오픈AI도 자체 AI 칩을 개발하기 위해 TSMC와 손을 잡았다는 내용입니다. 특히 사용할 기술은 현재 반도체 기술 중 가장 진화한 'A16' 공정이라고 합니다. 

■ 삼성SDS "브리티 코파일럿을 ‘퍼스널 에이전트’로 진화

삼성SDS가 행사를 열고 클라우드 사업 강화를 위해 GPU를 집중 투입하겠다고 밝혔습니다. 이건 클라우드 서비스 기업으로 당연한 소리고, 더 관심을 끈 것은 AI 음성 비서를 내년 공개하겠다는 내용입니다.

AI타임스 news@aitimes.com