"인공지능(AI)은 하나의 기술이라기 보다 새로운 생태계에 가깝습니다."
김선엽 이크림(eCream) 대표의 말처럼 AI 기술이 새 지평을 열어젖히면서 전에 없던 일과 직업이 생겨나고 있다.
새로운 조직과 집단이 생겨나고 이같은 분위기를 타고 새로운 비즈니스모델을 만들어 내려는 기업들이 어울리면서 AI 생태계가 조성되고 있다.
이같은 변화에 맞춘 법과 질서, 즉 '윤리규범'이 필요하다는 목소리도 점점 커지고 있는 상황이다.
이런 가운데 SAPI(서울대 인공지능 정책 이니셔티브)와 네이버가 10일 서울대학고에서 '신뢰 가능한 초거대 AI : 플랫폼과 스타트업의 협력'을 주제로 세미나를 열었다.
이날 세미나는 스타트업을 그 범주에 넣어 포괄적으로 다뤘다. 지금까지 AI를 둘러싼 윤리 담론은 빅테크에 초점을 맞춘 경향이 짙었으나 대기업과 스타트업을 포함해 총체적인 생태계를 고려한 세미나였다.
화두는 임용 서울대 교수가 제시했다. 임 교수는 "이제 막 시작하는 스타트업에게 엄격한 AI 윤리규범은 부담으로 다가갈 수 있다"며 해결책으로 비용 경감, 제재 수위 완화 등을 언급했다. 하지만 그는 "그럼에도 불구하고 '윤리적 책임과 역할의 분배'라는 난제가 남아있다"며 말머리를 이끌었다.
첫 연사로는 박우철 네이버 아젠다 리서치 리더가 나섰다. 그는 '클로바 스튜디오 AI 윤리 가이드의 방향성'을 소개하면서 AI를 일상의 도구로 삼겠다는 포부를 밝혔다.
이어 김선엽 이크림 대표는 "생성 AI 기반 2023 웹소설 공모전을 시도해 보았다. 선정성이나 표절 같은 문제가 따라오기는 하지만 결국에는 'AI와의 공존'에 초점을 두는 모습이었다"며 '이크림의 AI 윤리에 대한 생각'을 정리했다.
류덕민 앱플랫폼 소장은 "책임있는 AI 개발-혁신과 윤리의 균형'을 다뤘다. 그는 현재 AI 규범 가이드가 부재하다는 점을 꼬집으며 "생성 AI가 무분별한 결과물을 만들어내는 상황에서 미성년자 계정을 통제할 필요가 있다"고 언급해 관심을 모았다.
조은서 서울대 박사는 허깅페이스에서 쌓았던 경험을 바탕으로 윤리적인 화두를 던졌다. "미국 스타트업에서의 AI 윤리 경험'을 주제로 발표한 그는 "기업 특성상 표절이나 환각 현상에 대해 심각하게 다룬 적이 없다"면서 "이는 기술이나 전문 분야에 따라 관점이 다를 수밖에 없는 한계를 시사한다"고 말했다.
이어진 패널 토의에서는 '신뢰 가능한 초거대 AI 생태계 조성을 위한 플랫폼과 스타트업의 협력'을 주제로 AI 윤리 문제와 스타트업의 역할 등을 둘러싼 갑론을박이 이어졌다. 하지만 결국은 구체적이고 편리한 윤리규범이 필요하다는 목소리로 모아졌다.
스타트업 대표로 나선 김선엽 이크림 대표는 "스타트업은 윤리에 신경쓸 여력이 별로 없는 것이 사실이라 문제에 부딪히면 그제야 고민을 하게 된다"고 털어놓으면서도 "비즈니스 카테고리 별로 윤리 규범이 정해지면 편리할 것"이라고 대기업과 정부의 역할을 기대했다.
박상철 서울대 교수는 "너무 일률적인 규제는 적절한 기술의 사용까지 방해할 수 있으니 맥락에 따라 달라질 필요가 있다"면서 "윤리규범의 유무를 문제 삼는 단계는 이미 넘어섰고, 얼마나 구체적으로 기준을 세워야 하는지를 논의해야 할 때"라고 제안했다.
장세민 기자 semim99@aitimes.com
