[Monday News] AI와 헬스케어가 바꾸는 미래사회 ④AI 의료시대 개막에 앞선 문제점 - 기존 체계가 위험하다
상태바
[Monday News] AI와 헬스케어가 바꾸는 미래사회 ④AI 의료시대 개막에 앞선 문제점 - 기존 체계가 위험하다
  • 입력 2020-10-18 21:44
  • 댓글 0
이 기사를 공유합니다

편향된 데이터 입력…AI로 인한 차별 조장 가능성
DB 구축에 따른 정보유출 및 인권침해 문제 발생
똑똑한 AI 탓에 일자리 잃는 인간 의사도 생긴다
(사진=셔터스톡).
(사진=셔터스톡).

1. AI 헬스케어, 어디쯤 와있나…그 현주소를 알아본다

2. AI 헬스케어 플랫폼 집중조명

3. AI 의료시대 개막에 앞선 문제점 - AI 수술로봇, 그 명과 암

4. AI 의료시대 개막에 앞선 문제점 - 기존 체계가 위험하다

5. 미래 AI 헬스케어 사회 그려보기

최근 하버드·스탠퍼드 등 세계 일류대학 교수 19명이 공동으로 네이처에 논문을 게재했다. 주제는 지난 1월 구글헬스가 개발한 AI 기반 유방암 검진 시스템 알고리즘을 외부에 공개하란 것이었다. 이들은 “시스템 구축과 가동 과정을 공개해야 현직 의사들이 이를 통해 배울 수 있을 것”이라고 주장했다. 그러나 구글 측은 실제 환자들에게 익명을 약속하고 받은 유방암 촬영사진(맘모그래피) 등 개인정보 탓에 어렵다는 입장이다.

이렇듯 의료계에 AI 등장은 그 자체로 혁신적인 동시에 여러 논란을 동반한다. 약 9만장의 맘모그래피로 트레이닝을 받은 AI 시스템은 유방암 진단·예측 시 90% 이상의 정확률을 나타낸다. 그러나 영국과 미국 환자들의 진료정보만 갖고 만든 시스템이라 다른 국가 여성을 진료할 경우 예외가 발생할 수 있다. 그야말로 ‘편향된 데이터’로 인해 인류사회에 또 다른 인종차별 문제가 생겨날 수 있는 것이다.

실제로 스탠퍼드대 연구진은 AI 시스템을 구축하는 데 필요한 데이터베이스가 대부분 캘리포니아, 뉴욕, 매사추세츠주에서 나온 것을 확인했다. 이들은 이렇게 만들어진 알고리즘은 예를 들어 피부암을 앓고 있는 흑인환자에게 사용될 때 정밀도가 낮아지는 것을 확인했다. AI 모델이 대부분 가벼운 피부질환자들의 영상에서 훈련을 했고, 흑인 피부의 특이성이나 조직에 대한 자료가 불충분하기 때문이다.

불충분한 데이터베이스 입력으로 흑인은 또다른 인종차별 대상이 될 지도 모른다는 우려가 제기되고 있다. (사진=셔터스톡).
불충분한 데이터베이스 입력으로 흑인은 또다른 인종차별 대상이 될 지도 모른다는 우려가 제기되고 있다. (사진=셔터스톡).

하버드 대학 과학자들은 CT 스캔을 인식하고 분류하기 위해 훈련된 알고리즘이 특정 CT 기계 제조업체의 포맷을 스캔하는 데 편중될 수 있다는 것을 발견했다. 또 태국국립병원은 눈 질환을 예측하는 AI 시스템을 개발했지만 불충분한 빅데이터 자료로 인해 스캔 정확도가 떨어져 비난을 받았다. 영국 기업 바빌론 헬스의 진단 데이터 앱은 대형병원 데이터베이스만 있어 또다른 차별을 조장한다는 시각이 지배적이다.

바빌론 헬스에게 쏟아지는 비난을 보면 AI가 조장하는 차별은 인종뿐만이 아닌 것을 알 수 있다. 현재 AI가 활용하는 질병 진단은 저소득층까지 아우른 빅데이터가 아닌 경우가 대부분이다. 미국의 IT 전문매체 와이어드가 보도한 바에 따르면 의료용 알고리즘에 입력된 데이터는 각 나라별 대형 대학병원만을 포함하고 있다. 성별과 나이 외에 거주지역, 연간 소득 등도 분석해 그 지역 병원 자료도 충분히 실어야 한다는 분석이다.

AI 의료가 보편화 될수록 유전·개인정보 데이터베이스 구축에 따른 정보유출이나 인권침해 문제도 짚어야 할 부분이다. 물론 현행 의료법상 의료정보 판매는 엄연히 불법이다. 그러나 AI 의료 경쟁에서 뒤처지지 않기 위해 ‘보이지 않는 거래’에 손을 대는 집단 출현 가능성을 무시할 수 없다. 전문가는 연합학습 기반의 개인정보 보호기법을 꾸준히 개발하고 업데이트 해 AI 시스템 구축에 도움을 주는 이들의 정보를 지켜야 한다고 강조한다.

(사진=셔터스톡).
미래 AI 시대, 수술실에 인간 의료진 대신 자동화시스템과 수술로봇으로 채워질 가능성도 있을까? (사진=셔터스톡).

AI로 인해 일자리를 잃게 될 가능성도 배제할 수 없다. 인간 의사보다 AI의 진단율이 더 정확하다면 수요는 AI에게로 몰릴 것이다. 의학을 전공하고 국가시험을 통해 의사면허를 취득한 의료 전문의들이 기계에게 밀려 도태되는 현실도 예측가능하다. 그러나 해킹이나 오류로 인해 진단과정에서 오진이 발생한다면 그에 대한 책임은 온전히 병원 몫이다.

방대한 양의 디지털 데이터를 기반으로 진단·치료·예후까지 책임지는 AI는 분명 의료계 발전을 가져올 것이다. 그러나 이에 과도하게 의존해서도 불충분한 데이터베이스 입력으로 빈부격차나 인종차별을 조장해서도 안 된다. 비용절감, 의료 퀄리티 개선, 정밀의료 등 의료계에 AI가 등장하면서 얻게 되는 이점도 존재한다. 여러 법적, 윤리적, 현실적 문제를 고려하고 그에 맞는 법을 제정해 이 혁신적 기술을 잡음 없이 활용하려는 움직임이 필요해 보인다.

기자 프로필

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI 재현 기술, 로마 황제 얼굴을 살려냈다
  • EU가 뽑은 인공지능(AI)ㆍ로봇 기술 9가지
  • 차세대 콘텐츠에 활용할 수 있는 인공지능(AI) 기술 6가지
  • "당신의 외모는 몇 점?"…AI가 평가하는 내 얼굴은?
  • 코로나19 대유행 시대, 학교가 갖춰야 할 7가지 필수품은?
  • 비대면 시대, XR(확장현실)기술 사용 국내외 건축ᆞ부동산 기업 7