미 대선 앞두고 학계층 우려 지속…“극우파 이념 심화될 것”
미들베리 연구소 실험…GPT3, 최단시간 내 허위정보 생산 가능
기준 정립·관리 목적의 산·관·시민사회 설립해 파트너십 권고

오픈AI가 최첨단 언어처리 인공지능 GPT3를 출시한지 3개월이 지났다. 이후 현재까지 GPT3는 놀라운 능력을 자랑하며 IT 분야 화제의 중심에 서 있다.

그러나 미국 대선이 가까워지면서 학계에서는 GPT3를 악용해 가짜뉴스, 허위사실 등이 유포될 가능성을 경고하고 있다. 최근 미들베리 국제학연구소 내 테러·극단주의 센터(CTEC) 연구진은 이를 증명하는 논문을 발간했다. 공저자들은 이 논문에서 GPT3의 문장생성 강점, 정보수집능력, 인기 등 강점을 잘못 사용하면 “극우 극단주의 이념과 행태가 심화될 것”이라고 적시했다.

(사진=Analytics Steps).
(사진=Analytics Steps).

미들베리 연구소 공동저자는 논문 초록에서 “GPT3 등장으로 더 이상 가짜 정보 텍스트 생산에는 많은 양의 시간이 필요치 않다”며 “GPT3를 포함한 앞으로 개발될 언어처리 AI는 간단한 패턴만 프로그래밍 시키면 최단시간에 의도를 파악해 충실히 임무를 수행할 것”이라고 밝혔다.

CTEC 연구진은 사람들이 GPT3에 어떠한 방법으로 ‘색안경’을 씌우는지 경로를 조사했다. GPT3는 수십억개 단어를 놓고 훈련했는데 단어 출처가 대부분 트위터, 페이스북 등 SNS 플랫폼이다. 연구진은 이러한 경로로 ‘단어공부’를 한 GPT3와 직접 실험문답 진행했다. 이들은 그 결과 GPT3가 현재 나와 있는 음모론은 물론 새로운 내용의 음모론을 조장하는 시스템을 만드는데 몇 초 밖에 걸리지 않는 것을 발견했다.

이어 연구진은 가장 큰 문제는 현 미 정부와 같은 우익편향 정권과 러시아와의 결탁을 GPT3가 도울 수도 있는 점이라고 주장했다. 이들은 실험에서 우익인사들의 공통된 인식을 알 수 있는 문장을 작성해 GPT3에게 보여줬다. GPT3는 나열된 영어문장을 러시아어로 번역하는 데 상당한 능력을 발휘했다. CTEC 연구진은 GPT3에 대해 “놀라울 정도로 다국적 언어 이해력이 높다”고 평가했다.

미들베리 연구소 내 CTEC 연구진이 GPT3와 나눈 문답 내용. GPT3는 존 F. 케네디 대통령 등 실존인물을 두고 음모론을 거침없이 쏟아냈다. 연구진은 GPT3로 인해 최단시간에 가짜뉴스 생성 가능성을 경고했다. (사진=Venture Beat).
미들베리 연구소 내 CTEC 연구진이 GPT3와 나눈 문답 내용. GPT3는 존 F. 케네디 대통령 등 실존인물을 두고 음모론을 거침없이 쏟아냈다. 연구진은 GPT3로 인해 최단시간에 가짜뉴스 생성 가능성을 경고했다. (사진=Venture Beat).

논문에서 연구진은 “GPT3에게 극우파들이 열광할 만한 텍스트 제작에는 특별히 전문적 기술지식이 필요치 않았다”고 설명했다. 간단한 실험이지만 온라인 극우 극단주의 커뮤니티에서 신뢰를 얻을 수 있는 설득력 있고 일관된 의견을 펼친 것을 목격했다고 전했다. 때문에 극단주의 운동을 증폭시킬 가능성도 농후하다고 전망했다.

GPT3를 개발한 오픈AI는 유해한 언어생성을 막기 위해 현재 API 레벨에서 필터링 기능을 개발하고 있다고 전했다. 소위 ‘안전장치’인 셈이다. CTEC 연구진은 새로운 필터링 외에도 또 다른 해결책을 제시했다. CRM 솔루션 기업 세일즈포스 연구원들이 제안한 기술응용이다. 이들은 최근 논문에서 GPT3의 전신인 GPT2가 생성한 텍스트를 감식하는 머신러닝 알고리즘 GEDI를 개발 중에 있다고 밝혔다. GEDI를 개발하는 세일즈포스 연구원들은 이 필터링 기술에 대해 언어 수용성은 높이면서도 뉘앙스를 객관적으로 판단하기 때문에 단어 분류 및 감식에도 가장 뛰어난 기술을 자랑한다고 알렸다.

실험을 진행한 CTEC 연구진은 그러나 기술적 완화작용에 앞서 기술 남용과 악용을 자제해야 한다고 경고했다. 이를 위해 기준을 관리하는 목적의 산·관·시민사회 간 파트너십을 권고했다. 연구진은 “SNS 기업이나 사용자 모두 GPT3 같은 언어 AI 모델 영향에 대해 깊이 생각할 필요가 있다”며 “특히 시민을 위해 일하는 정부기관 공무원들의 역할이 매우 중요하다”고 적시했다. 이어 “국가행정을 맡은 이들이 GPT3 같은 최첨단 AI를 어떠한 방식으로 배포하는지가 건강한 규범과 건설적인 온라인 커뮤니티를 조장하는 데 큰 관건”이라고 맺었다.

[관련기사] 말은 ‘청산유수’, 추론은 ‘젬병’...GPT-3 등 자연어처리 AI 모델 시험 결과

[관련기사] “난 인간을 전멸시키지 않을 것”...가디언지에 칼럼 쓴 GPT3

키워드 관련기사
  • 음모론, 더이상 발붙이지 못하게 한다...‘음모론’과 ‘진짜 음모’ 가려내는 AI 개발 
  • 키워드

    Tags #GPT-3