캐나다는 인공지능(AI)이 조장하는 편향에 대해 서비스를 제공하는 기업부터 달라져야 하고, 이윤 때문에 도덕적 윤리를 무시해선 안된다는 입장을 보였다.
최근 몬트리올 AI윤리 연구소가 발표한 보고서에 담긴 내용이다. 보고서는 과학·산업·의료 등 분야에서 무궁무진하게 쓰일 AI에 윤리를 적용해야 하는 근본 이유를 조목조목 살폈다. 벤처비트는 30일(현지시간) 보고서 내용을 자세하게 소개했다.
몬트리올 AI윤리 연구소는 먼저 아마존이 고객에게 구매 가능성이 높은 제품을 매칭하기 위해 사용하는 알고리즘 방식을 설명했다. ‘추천’이라는 명목으로 순위 편향적이라는 문제가 발생한다는 것이 골자다.
AI가 자동으로 소비자 입맛에 맞춰 상품을 추천하는 과정에서 차별이 조장되기도 한다. 연구소는 이런 시스템이 알고리즘 관점에서 문제를 고려하고 문화적, 사회적 의미를 벗겨내려는 노력을 하고 있다는 점에 주목했다.
해결방안으로는 ‘결정적 포인트 프로세스(DPP-Determinantal Point Process)’라는 솔루션을 소개했다. DPP는 각 샘플들끼리 최대한 덜 겹치게 알고리즘을 구축하도록 체계를 잡아주는 개념모델이다. AI 시스템에 더 많은 대표성을 부여할 수 있도록 다양한 연구 방향을 제공한다.
지난 2018년 동영상 스트리밍 플랫폼 기업 훌루는 DPP를 사용해 유저들이 이전보다 더 다양하고 관련있는 작품을 발견할 수 있는 추천 알고리즘을 만들었다. 유튜브도 DPP를 기반으로 다양성을 통계적으로 모델링해 사용자 만족도를 끌어올리는 추천 시스템을 실험했다.
연구원들은 "편향은 머신러닝 기반 어느 개발 단계에서든 들어갈 수 있다"면서 "그만큼 다양한 단계에서 이 문제를 해결해야 한다. 이러한 솔루션 작업팀은 사용자 인터페이스 설계, 머신러닝, 공공 정책, 사회과학 등 다양한 필드에서 선발해야 한다"고 주장했다.
AI 시스템 사용자와 설계자 모두 이런 시스템의 가장 중요한 부분을 형성하는 데 적극적인 역할을 해야 한다는 의미다.
AI 기술로 발생하는 이윤만 좇아 인간윤리를 무시하는 행위도 바로잡아야 한다고 권고했다. 최근 불거진 ‘안면인식 기술’ 문제가 대표 사례다. 연구소는 미국에서 IBM, 아마존, 마이크로소프트와 같은 거대 IT 기업이 법 집행에 안면인식 기술 서비스를 중지한 반면, 중소규모 업체들이 여전히 서비스를 납품하는 행태를 꼬집었다.
"윤리와 경제 사이에 불일치가 있을 때마다 우리는 어느 것이 올바른 판단인지 고민해야 한다"는 제안도 담았다. 너무 강력한 정치 및 규제는 기술 혁신을 지연시키므로 이 틀에만 의존해서도 안된다는 내용이다. 주변 사회, 경제적 제도에 인간이 책임 지고 진보로 나아가되 기본 윤리도 AI에게 적용돼야 한다는 것이다.
몬트리올 AI윤리 연구소는 또 "AI는 이제 보편적 기술"이라며 "IT 기업은 이 기술이 더 큰 사회적 변화를 형성할 것을 염두에 두고, 혁신과 기본 인간 가치를 동시에 생각해야 할 것"이라고 권고했다.
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com