지난해 4월 미국은 'AI윤리 지침'을 발표했다. 2019년 5월에는 '경제협력개발기구(OECD) 인공지능 권고안'이 나왔다.
몇 년 전부터 이렇게 인공지능(AI) 윤리를 선언하는 국가가 늘고 있다.
우리나라도 2020년 12월 대통령 직속 4차산업혁명위원회에서 'AI 윤리 기준'을 마련했다.
AI 기술 및 서비스는 결국 인간과 충돌할 수 밖에 없어 어떤 형태로든 조율하는 절차가 필요하기 때문이다.
우리가 마련한 AI 윤리기준은 사람중심의 인공지능을 위한 3대 기본원칙과 10대 핵심 요건을 제시한 것이 핵심 내용이었다.
3대 기본원칙은 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 원칙이고, 10대 핵심요건은 인권보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성이다.
올해는 '챗GPT'에 관심이 뜨겁다. '챗GPT의 해'라고 해도 과언이 아닐 정도다. 이는 그만큼 많은 우려를 자아내고 있다.
챗GPT를 통해 삼성이나 SK 등 국내 기업의 일급 영업비밀이 쉽게 노출되는 사례가 나오기도 했다. 또 중국 전자상거래앱 '판둬둬'에서는 사용자 통화기록과 문자메시지, 사진앨범까지 훔쳐 본 것으로 드러났다.
AI 시스템이 사용자 정보를 수집하고 악용할 수 있다는 우려가 언제든 현실이 될 수 있음을 보여준 사례들이다. 인공지능 윤리와 직결되는 일들이었다.
AI 윤리는 AI 모델의 예측 결과에 대한 사회적 책임에 중점을 둔 개념이다. 사회와 상호작용하면서 발생할 수 있는 윤리적 문제를 다룬다. 이를 위해 고려해야 할 사항은 다음과 같은 몇가지로 정리할 수 있다.
첫번째는 인공지능의 '편견' 문제다. AI는 데이터를 기반으로 작동한다. 데이터에 편견이 포함돼 있으면 이를 그대로 반영할 수 있다. 이는 AI가 인간의 결정을 대신하거나 영향을 미치는 경우에 큰 문제를 유발할 수 있다. 자칫하면 사회 불평등을 확대 재생산할 수도 있다. 이는 결국 AI의 신뢰성을 악화시키는 결과로 이어지게 된다.
두번째는 '책임과 투명성'이다. AI는 주로 인간의 선택과 결정을 돕는 역할을 한다. 그러나 AI는 책임을 지지 못한다. 선택의 결과에 대한 책임은 개발자 혹은 사용자가 져야한다. AI의 신뢰성을 높이기 위해서는 반드시 보장돼야 하는 문제다.
세번째는 '개인정보 보호' 문제를 꼽을 수 있다. AI가 다루는 데이터의 대부분은 개인정보와 떼려야 뗄 수 없는 관계다. 의료정보나 위치정보, 선호도, 이용정보 등을 들 수 있다. 이같은 개인정보를 사용하려면 사용자 동의를 얻어야 한다. 동의를 구했더라도 사용자 정보가 노출되지 않도록 가공해 사용해야 한다.
네번째로는 '인간의 권리와 안전 보호'다. 세상의 모든 기술은 결국 인간을 위한 것이어야 한다. '인간성을 위한 인공지능(AI for Humanity)'이라는 캐치프레이즈가 담고 있는 내용 그대로다. 인공지능도 마찬가지다. 인간의 권리나 안전을 해치는 기술은 세상에 존재해서는 안된다.
결론적으로 AI 윤리는 AI 기술 발전을 촉진하면서도 인간과 공존할 수 있는 방법을 모색하기 위한 안전장치라고 볼 수 있다. 인공지능의 아버지로 불리우는 스튜어트 러셀도 '진짜 인공지능은 인간과 공존하는 시스템을 만드는 것'이라고 강조한 바 있다.
OECD에서 AI 개발 원칙으로 '인간성'을 강조하는 것도 같은 이유다. 당초 4월 정식 발효될 예정이었던 EU의 AI 규제안에 담긴 핵심 주제도 인간에 해를 가하는 것을 철저히 배제한다는 것이었다.
또 대표적인 표준화 개발기구인 ISO/IEC JTC 1/SC 42 인공지능 위원회 WG 3 신뢰성 분과에서도 AI 윤리의 개념을 정리해 발간했다. 바로 'ISO/IEC TR 24368 인공지능 윤리 및 사회적 관심에 대한 개념(overview of ethical and societal concerns)'이다.
우리 정부도 최근 AI 윤리 사례를 수집하기 위한 표준 템플릿을 국가표준으로 마련하고 있다. 이를 위한 의견 수렴 절차를 밟고 있다. 미국보다 앞선 움직임이다.
이렇게 마련하는 표준 템플릿은 향후 국제표준으로 발전시킬 수도 있다. 이를 통해 우리나라가 AI 분야 패스트 무버로 활동할 수 있기를 기대해 본다.
조영임 가천대 교수 yicho@gachon.ac.kr
