업스테이지가 구글과 함께 한미 정책 논의를 위한 정부 간 협의체에서 인공지능(AI) 신뢰에 대해 논의했다.
업스테이지(대표 김성훈)는 미국 워싱턴 국무부에서 열린 '한·미 ICT 정책 포럼’에 한국의 대표 기업으로 참석, 발표를 진행했다고 15일 밝혔다.
한·미 ICT 정책 포럼은 과학기술정보통신부와 미국 국무부 간 ICT 분야 협력 증진을 위해 2013년부터 열린 협의체로, 이번에는 7회째를 맞았다. 민관 세션과 정부 세션으로 두 파트로 진행됐다.
업스테이지는 민관 세션 중 AI 윤리 및 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 김성훈 대표는 ‘AI 윤리/신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력’을 주제로 데이터 수집 및 공유 플랫폼인 '1T 클럽’을 대표 사례로 소개했다.
1T 클럽은 양질의 데이터를 모으기 위해 콘텐츠 제공자와 수익을 공유하고 이를 통해 AI 결과물의 신뢰성과 윤리 측면을 강화할 방법이라며 정부 협력 필요성을 설명했다.
글로벌 연구그룹과 기업 등이 주로 대형언어모델(LLM) 개발에만 집중하는데, 그 절반을 차지하는 데이터의 수집 단계부터 수익을 공유함으로써 콘텐츠 부문도 활성화할 수 있다고 발표했다.
또 좋은 데이터를 모으기 위해 ‘사람중심’ ‘신뢰성’ ‘공정성’ ‘안전성’ ‘보편성’의 5대 윤리원칙에 기반, 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 AI 데이터의 신뢰성과 윤리적 측면에서도 선순환을 이룬다고 강조했다.
한편, 김 대표는 같은 날 열린 ‘대한민국 초거대 AI 도약’ 회의에도 참석, “대기업과 스타트업이 상생하는 생태계가 조성되면, 업스테이지 같은 우리나라 대표 기업들은 글로벌 경쟁에서 승산이 있다”고 밝혔다.
김 대표는 2009년부터 홍콩과기대 교수로 재직, 10년 동안 세계 최고 권위 논문상을 다수 수상한 석학이다. 네이버 클로바 AI 팀 리더를 거쳐 2020년 업스테이지를 설립했다.
그는 “이번 한·미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고, 협력을 강화하는 중요한 기회가 될 것이라고 기대한다”라며 “업스테이지는 AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고, 다양한 파트너들과 협력하고자 한다”고 말했다.
이주영 기자 juyoung09@aitimes.com
