美 에모리대 연구진, 인공지능(AI) 알고리즘 “선택 편향” 심각
일반훈련 의료분야 인공지능(AI), 희귀질병 환자대처 문제

(사진=엔비디아)
(사진=엔비디아)

(AI타임스=양태경 기자) AI를 의료분야에 합벅적으로 적용하기 위해서는 윤리적인 틀을 마련하는것이 시급하다는 주장이 제기됐다. 

유럽방사선학저널(European Journal of Radiology)에 발표한 논문에 따르면, 미국 연구진은 인공지능(AI)의 합법적인 진전이 이루어지기 위해서는 해결해야 할 중대한 윤리적 문제가 남아 있다고 강조했다. 또한 인공지능(AI)은 의료분야 특히, 방사선과를 재편할 만큼 획기적인 영향을 미칠 수 있다고 덧붙였다.

미국 에모리대학(Emory University)의 나빌레 M. 사프다르 교수가 이끄는 연구진은 "새로운 인공지능(AI) 애플리케이션과 스타트업 기업들이 하루가 멀다 하고 거의 매일 등장하고 있는 것 같다"고 운을 뗀 뒤 "2019년 초에 의료영상 인공지능(AI) 기업들에 대한 자금 지원이 12억 달러를 넘었지만 알고리즘 검증, 상호운용성, 편향성 조사, 보안 및 환자 프라이버시 보호에 대한 질문에 대해 답을 하는 기업들은 많지 않다"고 말했다.

연구진은 “편향성 특히, 선택 편향은 의료분야 인공지능(AI) 알고리즘에서 쉽게 발견할 수 있다”며 “예를 들어, 인공지능(AI) 알고리즘 개발에 사용되는 어떤 데이터세트는 특정 인구통계 그룹의 연구결과를 반영하지 않았을 수도 있으며, 또는 부주의하게 훈련된 알고리즘은 과소평가된 환자군 치료에 사용될 때 그 특정 환자들에게는 일반화가 어려울 수도 있다”고 설명했다.

또한 연구진은 "인공지능(AI)의 상업적 사용은 자동화 편향을 초래할 수 있다”며 “인간의 실수를 줄이고 환자의 안전을 강화하기 위해 설계된 자동화 시스템에 과도하게 의존하다 보면 결국 이로 인해 발생한 잘못된 검진결과를 의료서비스 제공자들이 아무 의심없이 그대로 받아들일 가능성이 높아져 위험할 수 있다"고 주장했다.

한편, 연구진은 인공지능(AI)의 의료분야 적용 시에 고려해야 할 또 다른 이슈가 이러한 인공지능(AI) 알고리즘들이 대부분 일반적인 건강상태에 도움이 되도록 설계됐다는 사실이라고 전했다. 이 사실은 물론, 흔한 질병으로 고통받는 환자들에게는 도움이 되겠지만 희귀한 질병을 가지고 있는 환자들에게는 문제가 사뭇 달라질 수 있기 때문이다.

이에 연구진은 “일반적으로 방사선과 전문의들은 광범위한 조건에서 발생하는 질병을 치료하는데 도움이 되도록 훈련을 받으며 그들은 환자를 치료할 때 잘 알지 못하는 어떤 질병을 우연히 만나게 되면 필요에 따라 기존에 가지고 있는 배경지식에 비춰 추론을 하기도 하고 논문 등을 찾아가며 추가 연구를 진행하기도 한다”며 “하지만 인공지능(AI) 알고리즘은 특정 질병을 다루기에는 아직 그만큼 훈련이 돼 있지 않다는 것이 문제”라고 지적했다.

이렇듯 의료분야에서 인공지능(AI) 사용이 환자들에게 많은 도움이 되는 것은 사실이지만 임상에서 보고되는 고품질의 데이터세트가 사용돼 훈련되지 않으면 특정 질병에 대해서는 과잉일반화의 오류를 범할 수 있는 만큼 향후 방사선과는 물론, 의료분야 전반에서 인공지능(AI)에 대한 신뢰할 수 있는 “윤리적 틀” 마련이 시급해 보인다.

【에이아이타임스 aitimes 에이아이타임즈】