AI 부작용 막기 위한 원칙 처음 제시

미 백악관 (사진=셔터스톡)
미 백악관 (사진=셔터스톡)

미국 바이든 정부가 처음으로 인공지능(AI)과 관련한 인권 보호 지침을 내놓았다. 백악관은 5일 과학기술정책실 명의로 ‘AI 권리장전(AI Bill of Right) 청사진’을 발표했다.

AI 권리 장전은 유럽연합(EU)이 추진 중인 AI법보다 훨씬 약하고 구속력도 없는 선언적 지침이다. 그러나 미국 정부 차원에서 AI와 관련한 인권 보호 원칙을 처음으로 공식 천명한 것이로 향후 AI에 대한 미국 정부의 광범위한 규제 지침이 될 가능성이 커 주목된다.

백악관이 이날 발표한 권리장전 청사진은 ▲안전하고 효과적인 시스템 구축 ▲알고리즘을 통한 차별 방지 ▲데이터 관련 사생활 보호 ▲자동화 시스템의 활용에 대한 고지와 설명 ▲인간 대안 마련 등 5가지 원칙으로 구성됐다.

이 가운데 ‘인간 대안 마련’ 항목은 AI 프로그램에 문제가 발생하면 신속하게 대체할 수 있는 사람과 연락해야 한다는 내용을 담고 있다.

백악관은 발표문에서 “오늘날 민주주의에 제기된 가장 큰 도전 중 하나는 미국 대중의 권리를 위협하는 방식으로 기술과 데이터, 자동화된 시스템을 사용하는 것”이라며 AI의 부작용 사례들을 들었다.

환자 치료 시스템이 안전하지 않거나 비효율적이며 심지어 편향된 경우, 채용과 신용 결정에 사용하는 알고리즘이 편견과 차별을 포함한 경우, 소셜 미디어의 데이터 수집으로 사생활을 침해한 경우 등을 열거했다.

그럼에도 AI는 여러 부문에서 중요한 결정을 내리거나 글로벌 산업을 혁신하는 데 도움이 되고 있다면서 “모든 사람을 보호하고 가장 높은 가치를 강화하는 방식으로 기술을 사용하는 사회를 위한 안내서”로 지침을 마련했다고 설명했다.

이에 대해 일부 전문가들은 미국 기업들에게 위험을 초래하는 규제로 이어질 수 있다고 우려했다.

롭 주버 서클씨아이 최고기술책임자는 월스트리트저널과의 인터뷰에서 "정부의 이런 노력이 혁신을 방해할 수 있다"며 "AI를 책임 있게 만드는 환경은 리더들이 만드는 것"이라고 말했다.

또 에릭 슈미트 전 구글 CEO는 “나라면 규제가 의무화될 때까지 스스로 움직이지는 않을 것”이라면서 “규제 때문에 개발하지 못하는 것들이 너무 많다”고 지적했다.

반면 이번 지침이 기술 시장에서 규제의 선명성을 제공하는 것이라며 환영하는 전문가도 있다.

비영리단체인 모질라 재단의 마크 서먼 대표는 “우리 삶에 들어와 있는 AI 시스템들은 종종 정부가 제시한 원칙들과 정면충돌한다”며 “일부 AI 시스템들은 개인 데이터를 수집하고, 의도적으로 불투명하며 편향된 데이터 셋에서 학습하도록 설계된다”고 꼬집었다.

정병일 위원 jbi@aitimes.com

키워드 관련기사
  • 미 정부 EU AI법 수용할 듯...린 파커 사임해도 영향은 미미
  • AI 관계 추정만 돼도 제조물 책임져야
  • EU, 빅테크기업 겨냥한 디지털 규제법 마무리...무사히 집행 될까