[스페셜 리포트] ④ 알고리즘 개발 이슈, 어떻게 풀어가야 할까
상태바
[스페셜 리포트] ④ 알고리즘 개발 이슈, 어떻게 풀어가야 할까
  • 입력 2020-09-29 17:50
  • 댓글 0
이 기사를 공유합니다

(사진=셔터스톡)
(사진=셔터스톡)

알고리즘이 사람을 이겨 버린 세상이다. 과장된 어법이라 지적받을 수도 있지만, 고개를 끄덕이는 사람도 많을 것이다. 검색 뿐만 아니라 물건을 구매하거나 내비게이션을 이용하는 등 온라인에서 이루어지는 대부분의 활동들이 알고리즘을 통해서 행해진다. 특히, 인공지능(AI) 개발이 본격화되면서 AI 기반 알고리즘의 중요성은 더욱 커지고 있다. AI 윤리 차원에서도 가장 중요한 부분이기도 하고 그만큼 까다롭고 해결이 쉽지 않은 쟁점이 많다.

① 공정성 시비가 끊이지 않는 알고리즘 편향성

미국 사법체계에서 알고리즘이 도입된 건 100년 가까이 됐다. 그동안 가석방, 보석 승인 등에 사용하면서 계속 발전시켜왔고, 형량결정에도 알고리즘의 위험지수를 참고하는 게 보편화됐다. 2016년 온라인 독립언론 ‘프로퍼블리카(ProPublica)’의 폭로가 있기 전까지는 그랬다. 프로퍼블리카는 위스콘신주 판사들이 사용한 민간업체가 개발한 ‘컴파스(COMPAS)가 인종에 대한 편견덩어리이라는 걸 밝혀냈다. 2013년-14년 플로리다 지역 실제 범법자들의 재범여부를 예측한 사례를 역설계해 콤파스의 점수가 정확한 것인지 확인했다. 그 결과 평가인자로 인종을 명시하지는 않았지만 백인에 비해 흑인에게 훨씬 불리하게 작동함을 알아낸 것이다. 이를 계기로 알고리즘 공정성에 대한 논의는 더 거세졌다.

올해는 안면인식기술의 공정성 문제가 도마가 올랐다. 경찰의 부당한 폭력으로 인한 흑인 조지 플로이드의 사망으로 미국 전역에서 항의 시위가 대규모로 벌어졌다. 이 사건의 영향으로 IBM이 선제적으로 대규모 감시나 인종 프로파일링 등의 목적으로 사용될 수 있는 안면인식 소프트웨어 제공 중단 의사를 밝혔다. 연이어 아마존과 마이크로소프트도 경찰에게 안면인식기술을 제공하지 않겠다고 선언했다. 테크 자이언트들이 이 기술에 대한 사회적 통제의 필요성을 인정한 것이다.

이 외에도 아마존의 채용알고리즘도 이슈가 됐다. 2018년 아마존이 채용 시 여성들과 여대 졸업자들에게 불리한 알고리즘을 운용해왔다는 것이 알려져 사회적 파장이 컸다. 성공한 CEO의 이미지가 5~60대 남성으로 고정되고 여성CEO 이미지가 바비 인형에 빗대어지는 검색결과 또한 알고리즘의 편향성의 대표 사례로 지적되곤 한다.

AI윤리문제 해결을 위해 구글·페이스북·아마존·IBM·애플 등 빅5사가 공동 출자해 만든 파트너십 온 AI(Partnership On AI)의 공정성, 투명성, 책임성 부문 앨리스 시앙(Alice Xiang) 대표는 ‘무인지를 통한 공정성(Fairness through unawareness)’을 해법으로 제시한다. 그는 △판사, 배심원, 규제담당자들이 증거로 받아들일 수 있는 공정성 체계를 마련할 것 △편견 완화 방법론을 실시할 것을 원칙으로 제안했다.

또한 법적으로 규정된 ‘보호받을 클래스 변수’인 인종, 젠더, 연령, 장애, 국적, 종교 등은 균형적으로 다루어야 한다고 지적한다. 이러한 변수들을 실제 기업 현장에서 제거하거나 알 수 없는 상태로 다루는 것이 현재로서는 가장 효과적인 방법이라고 주장한다. 사회적 약자 변수를 사용하더라도 편향성과의 인과관계를 검토해야 한다는 의견을 제시한다. 시앙 대표는 논란이 되고 있는 차별금지법과 소수인종우대정책이 다양성을 추구하는 조치라며 인종차별과는 별개라고 보면서, 표면적으로는 중립적이나 소수집단에게 불이익을 주는 불평등 효과에 대해서도 우려를 표명한다.

한편으로, 이러한 AI의 블랙박스 딜레마를 극복하기 위해 AI의 내부 과정을 설명이나 해석이 가능하도록 하는 ‘설명가능한 인공지능 XAI(eXplainable Artificial Inteeligence)’의 필요성이 설득력을 얻고 있다. 2017년 미국 방위고등연구계획(DARPA)가 추진한 이후 구글, MIT 등 민간 영역에서도 연구 중이다. 한국도 2018년 9월 울산과학기술원에 설명가능 인공지능 연구센터가 설립되었다. 2018년 EU 개인정보규정(GDPR)에서 관련 규정이 논의된 이후 XAI는 알고리즘 규제의 새로운 기준으로 강력하게 제기되고 있다.

② 공정 경쟁을 저해하는 알고리즘 담합

기업들은 이미 오래전부터 비즈니스 기회를 창출하는 도구로 알고리즘을 활용해왔다. 다이내믹 프라이싱, 추천시스템은 대표적인 활용 사례다. 1980년 이후 각종 데이터를 활용해 차별화된 가격전략을 구사해 타겟마케팅을 진화시켜온 건 널리 알려진 사실이다. 에어비앤비나 우버 같은 공유기업도 이 기법을 활용해 성과를 냈다. 콘텐츠 추천시스템 또한 기업 성과를 높이는 데 없어서는 안 될 도구가 됐다. 넷플릭스, 유튜브 등의 비디오 플랫폼 사업자, 스포티파이, 멜론 같은 음원 사업자들은 AI알고리즘을 활용한 추천시스템을 보편적으로 채택하고 있다. 뿐만 아니라, 금융권도 알고리즘 트레이딩 도입에 매우 적극적으로 움직여 왔다. 로보어드바이저(RA:Robo-Advisor)는 고객 투자 성향에 맞는 자산설계와 투자 예측에 본격적으로 활용되고 있다. 국내에서도 2017년 8월 기준 5,825명이던 가입자 수가 2019년 9월 기준 10만 명을 돌파해 20배가량 성장했다. 이외에도 신용평가와 심사, 투자자문, 준법 감시 등의 분야에서도 속속 도입되고 있다.

이런 시장 트렌드와 함께 알고리즘 담합(Algorithms Collusion)이 큰 부작용으로 쟁점이 되어왔다. 알고리즘 담합은 경쟁사업자들이 알고리즘을 이용해 가격, 공급량 등을 조정하거나 관련 정보를 공유하는 행태를 말한다. 2017년 6월 OECD는 ‘알고리즘과 담합(Algorithms and Collusion)’ 회의를 통해 AI알고리즘이 야기한 문제점과 현재 경쟁법이 직면한 도전 과제에 대해서 논의했다. 또 담합 조장 알고리즘을 모니터링 알고리즘, 병행 알고리즘, 신호 알고리즘, 자기학습 알고리즘 등 4가지 유형으로 분류했다.

이에 대응하고자 유럽연합은 기존의 데이터보호 지침을 대폭 강화, 2018년 5월 시행된 ‘개인정보보호 규정(General Data Protection Regulation, GDPR)'에 기초해 적극적으로 대응하고 있다. 또, 유럽 경쟁촉진법(Treaty on the Functioning of the European Union, TFEU)의 독점규제조항 제101조, 제102조를 근거로 반경쟁적 성격을 띤 알고리즘에 대한 규제에 나서고 있다.

규제론자들은 앞으로 ‘로봇카르텔’이 나올 것이라는 디스토피안적 시나리오를 제시한다. 로봇들이 학습을 통해 즉흥적으로 담합할 것이라는 이론이다. 이미 다이내믹 프라이싱 사례에서 보듯이 AI를 통한 가격 담합은 예상을 넘는 진화를 할 것이라는 전망이다.

온라인 광고 시장에서도 알고리즘은 경쟁제한 도구로 사용된다. 글로벌 의류업체 게스(Guess)는 자사와 계약한 유통업체들이 구글 애드워즈 광고 입찰을 하지 못하게 했다. 광고 단가를 낮추고자 한 것이다. 또, 구글이 구글 애드센스를 운영하면서 웹사이트 검색 상단 공간을 구글에게만 부여해 지난해 TFEU 102조 위반 판결을 받기도 했다.

알고리즘을 통한 재판매 가격 유지 또한 문제로 제기되고 있다. 제조업체가 알고리즘을 통해 유통업체의 가격 관리를 함으로써 경쟁을 제한하는 행위다. 더 나아가 2017년 구글에게 역대 최고 과징금(24억 유로)을 부과한 자사우대 행위는 심각한 행위로 지적된다. 요컨대, 구글은 알고리즘을 통해 순위를 꾸준히 왜곡해왔다는 것이 인정됐다. 유럽에서 구글은 10년 동안 검색시장에서 85%의 점유율을 유지하면서 일반 검색 알고리즘을 변형해 자사가 지정한 제품의 순위가 위로 가도록 조작했다는 것이다.

이러한 반경쟁적인 알고리즘 담합이나 조작은 구동 방식이 알려져 있지 않는 블랙박스적인 AI알고리즘의 성격으로 인해 파악에 어려움이 많다. 따라서 대형 디지털회사들을 대상으로 한 사전행동규범(Ex ante Code of Conduct)을 부여한다는 정책이 좋은 반응을 받고 있다. 해당 기업들이 알고리즘에 관해 그 사용범위와 내용에 대해 의무적으로 작성 및 공개하게 한다는 것이다. 유럽연합은 기존의 경쟁법과의 간극을 메우는 새로운 경쟁수단을 논의 중이다.

한국도 공정거래위원회가 2018년 이후 알고리즘 담합에 대해 적극적으로 대응하면서 규제를 강화하고 있는 상황이다.

③안전을 위협하는 자율 주행차 알고리즘

미 전기차 선두업체 테슬라 CEO 일론 머스크는 지난 22일 미 캘리포니아 소재 테슬라 공장에서 열린 배터리데이에서 “한 달 이후 완전 자율 주행 차의 베타버전을 선보이겠다.”라고 공언했다. 또 3년 내 2만 5천 달러(약 3천만원)짜리 전기차를 내놓겠다고 말했다. 본격적인 자율주행차 시대가 가까워지는 느낌이다.

미국 자동차 공학회(SAE)가 제시한 자율 주행차 발달 수준 6단계 중 현재 성공적인 것으로 평가받고 있는 수준은 3단계. 3단계는 조건부 자율 주행 수준으로, 고속도로와 같은 특정 조건의 구간에서 시스템이 주행을 담당하며, 위험 시 운전자가 개입한다. 물론, 구글 등 해외 기업들은 사실상 자율 주행이 가능한 4단계 시스템을 실증 테스트 중에 있으며, 국내에서도 현대차가 2018년 서울-평창간 190km 고속도로를 4단계 레벨로 주파하는데 성공한 바 있다. 정부도 레벨 4 미래차 개발에 7년간 1조 이상의 예산을 투입한다는 계획을 발표한 바 있다.

그러나 실제로 기술수준을 세세하게 살펴보면 그렇게 자율 주행차의 미래가 장밋빛은 아니라는 주장이 더 설득력이 있어 보인다. 난제들이 많은 것이다.

2018년 3월 미국 애리조나 템피에서 우버의 자율주행차가 사망사고를 일으켰다. 자전거를 타던 사람을 치여 숨지게 한 것이다. 지난 해 3월에는 미 플로리다에서 테슬라 자율주행차를 운행중이던 탑승자가 사망하는 사고도 있었다. 이런 사고를 통해서 확인되는 것은 아직 주위의 물체를 인식하는 기술 수준이 완전하지 않다는 것이다. 업계 전문가들은 라이다, 레이더, 센서 등 관련 기술 수준이 목표의 80% 수준까지 왔다고 본다. 기술 수준을 높이는 것이 우선적인 과제다. 이 기술 수준을 높이는 데 가장 까다로운 문제는 사람이다. 인공지능 전문가 해나 프라이는 자율 주행차가 다양한 행동을 보이는 사람들에 대해 어떻게 대응할 것인가가 가장 큰 과제라고 주장한다. 심지어 악의적으로 자율주행차를 괴롭히는 사람들도 있을 수 있다고 본다. 통제된 실험과 실제 상황이 다른 것과 같은 이치다.

또 프라이는 자동화의 역설도 경계해야 한다고 역설한다. 자동화 시스템에 지나치게 의존할 때 역설적이게도 인간의 역량은 줄어든다는 심리학자 리잰 베인브리지의 주장을 인용한다. 초보조종사의 위험대처 미숙으로 비행기가 추락해 탑승자 228명 모두 사망한 2009년 에어프랑스기 사건을 예시롤 들면서 자율 주행차에서도 유사한 상황들이 재현될 수 있음을 경고했다. 테슬라 운전자 잇따른 사망사건도 이런 맥락에서 이해해야 한다는 것이다.

또 하나의 치명적인 위험은 해킹이다. 자율 주행차의 주행 도중 시스템이 외부로부터 해킹당한다면 사고의 위험에 완전히 노출될 수 있다. 무선 차량 간 통신(V2V) 시스템을 완벽하게 보호할 수 있는 사이버 보안 기술은 해결해야 할 최대 과제 중의 하나다.

이외에도 비기술적인 법적·윤리적 문제도 많다. 교통사고 시 책임 소재에 관한 것이 가장 큰 쟁점이다. 다수를 구하기 위해 소수를 희생해야 할 것인가(트롤리 딜레마) 같은 윤리적 문제를 법적으로 어떻게 받아들일 것인가도 문제다. 자율주행차의 전자인격(e-인격)을 인정할 것인가의 여부도 논란거리이며, 운전자와 행인들의 정보 수집에 대한 개인정보보호 이슈도 있다.

2017년 독일 정부는 자율주행차 윤리 지침을 제정, 발표한 바 있으며, 한국도 지난 해 자율주행자동차법을 제정하고 올해 5월 시행령과 시행 규칙 등 법체계를 갖춰 시행됐다. 10월에는 자율주행차 사고 규정을 담은 자동차손해배상보장법도 시행된다. 안전을 최대한 보장받을 수 있는 자율주행차 생태계 구현에 박차를 가할 시점이다.

 

[칼럼] [스페셜 리포트] ②인공지능, 사람, 그리고 일자리

[칼럼] [스페셜 리포트] ③ 글로벌 기업의 AI윤리를 다루는 방법

 

 

이정태 기자
이정태 기자 mica1028@aitimes.com 다른기사 보기
기자 프로필
이정태 기자
이정태 기자 mica1028@aitimes.com 다른기사 보기

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI 재현 기술, 로마 황제 얼굴을 살려냈다
  • EU가 뽑은 인공지능(AI)ㆍ로봇 기술 9가지
  • 차세대 콘텐츠에 활용할 수 있는 인공지능(AI) 기술 6가지
  • "당신의 외모는 몇 점?"…AI가 평가하는 내 얼굴은?
  • 코로나19 대유행 시대, 학교가 갖춰야 할 7가지 필수품은?
  • 비대면 시대, XR(확장현실)기술 사용 국내외 건축ᆞ부동산 기업 7