'생성 AI' 높아진 인기만큼 난맥상도 즐비 < 산업일반 < AI산업 < 기사본문

뉴욕타임스가 "실리콘 밸리에서 암호화폐와 메타버스가 나가고 대신 '생성(Generative) 인공지능(AI)'이 들어왔다"고 표현할 정도로 생성 AI 모델의 인기가 하늘을 찌르고 있다.

생성 AI는 자연어를 입력하면 글이나 이미지 또는 비디오 심지어 프로그래밍 코드까지 만들어 내는 인공지능(AI) 도구를 통칭하는 용어다.

에세이는 물론 시와 소설까지 써내는 'GPT-3'나 이전에 볼 수 없었던 이미지를 쉽게 만들어 주는 '달리' 등 생성 AI는 대중적 관심뿐만 아니라 벤처자본의 눈길도 끌고 있다.

특히 스태빌리티AI와 재스퍼는 생성 AI를 개발해 서비스하면서 1000억원대 투자유치에 성공했다. 기업가치도 각각 10억달러(약 1조4380억원)와 15억달러(약 2조1570억원)로 평가되면서 일거에 유니콘 기업으로 부상했다.

그러나 인기가 높아진 만큼 부작용을 우려하는 논란도 커지고 있다. 앞으로 이들 기업이 해결해 나가야 할 생성 AI의 과제인 셈이다.

가장 크게 우려되는 것은 바로 '오·남용'이다. 정당하게 사용하지 않을 경우 기존 사회질서를 크게 훼손할 수 있다는 것이다.

이와 관련해 최근 미국 매체인 바이스는 학생들이 과제를 글을 생성하는 AI 도구로 쉽게 해버리고 있다며 우려의 목소리를 전했다.

학생들이 오픈AI의 GPT-3를 기반으로 만든 '플레이그라운드'라는 AI 도구를 주로 사용하는데 이를 통해 작성한 글이 사람이 쓴 글과 구별할 수 없을 정도로 흡사해 학교에서 과제를 내는 의미가 퇴색되고 있다는 것이다.

실제로 소셜 웹사이트인 레딧에는 학생들이 과제 해결에 AI 도구를 사용한 후기를 올려 관심을 끌기도 했다.

'생물공학에 관한 다섯 가지 장점과 단점을 기술하라는 과제를 AI 도구로 해결한 결과물로 평점 A를 받을 수 있는데 두 시간 이상 걸리는 과제를 AI 도구는 20분에 해결한다'거나 '세계 시사 사건에 대한 에세이를 AI 도구로 생성해 제출했는데 표절을 가려내는 알고리즘이 이를 탐지하지 못한다'는 등의 내용이다.

조지 벨레치아노스 캐나다 로열로드대 교수는 "AI 생성 콘텐츠가 다른 곳에서 내용을 베껴온 것이 아니라 기계가 새로 만들어낸 것이어서 표절 탐지 소프트웨어가 가려내지 못하는 것"이라고 설명했다.

바이스는 생성 AI가 교육과 훈련의 효율성을 해칠 수 있다는 우려가 제기되고 있지만 학생들이 편법을 포기할 가능성은 없어 보인다고 진단했다.

생성 AI가 폭력적이거나 음란한 이미지를 생성할 수 있다는 점도 걱정거리다.

특히 오픈소스로 배포된 '스테이블 디퓨전'은 엄격한 규칙을 내건 다른 이미지 생성 도구와는 달리 기본적인 안전 필터만 제공해 출시 당시부터 오남용에 대한 우려의 목소리가 높았다.

안나 에슈 미국 민주당 의원은 최근 연방 규제 기관에 서한을 보내 "사람들이 스테이블 디퓨전으로 '폭력적으로 구타 당한 아시아 여성'과 같은 이미지를 생성하고 있다"면서 "안전하지 않은 오픈소스 AI 모델을 단속하라"고 촉구하기도 했다.

이에 이마드 모스타크 스태빌리티AI CEO는 "우리는 사람들과 공동체를 신뢰한다"면서 "규제 보다는 자연스러운 자제를 유도해야 한다"는 입장을 내놓았다. 기술 개발 기업보다는 사용자 커뮤니티에서 스스로 관리 방식을 결정하도록 하는 것이 가장 안전한 방법이라는 것이다.

마이크로소프트(MS)는 최근 코드 생성 AI 도구인 '깃허브 코파일럿' 때문에 대규모 소송 위기에 내몰렸다. 훈련에 사용한 코드 가운데 오픈소스지만 원작자 고지 등 사용 조건이 붙어 있는 것들을 무단 사용해 발목을 잡힌 케이스다.

정병일 위원 jbi@aitimes.com