AI 활용 질병 진단은 저소득층을 차별할 수 있다
상태바
AI 활용 질병 진단은 저소득층을 차별할 수 있다
  • 입력 2020-10-13 18:20
  • 댓글 0
이 기사를 공유합니다

눈 진단 알고리즘에 미국, 유럽, 중국 외 부정확한 결과 도출 가능성
AI에 주입된 데이터셋은 대부분 북미, 유럽, 중국 등 중산층 이상 환자로 구성돼
더 다양한 데이터세트 입력으로 편견 없애야
(사진=셔터스톡)
인공지능은 녹내장, 당뇨망막병증, 황반변성 등 질병 진단을 지원할 수 있다.(사진=셔터스톡)

대부분 미국, 유럽, 중국 같은 부자 나라에서 눈병 검출 알고리즘을 사용한다. 이 알고리즘은 다른 나라와 인종 집단에게 효과가 없을 수 있다.

미국 기술매체 와이어드는 의료용 알고리즘에 입력된 데이터가 부자 나라 위주로 쏠려있어서 데이터가 충분히 누적되지 않은 나라 국민이 인공지능(AI)으로 질병을 진단할 시 탐지를 하지 못하거나 부정확한 결과가 도출될 수 있다고 11일(현지시간) 보도했다.

AI를 활용하면 의료 영상과 스캔으로 질병을 전문적으로 진단할 수 있다. 그러나 의료집단이 눈 진단 알고리즘 교육에 사용하는 데이터를 살펴보면 알고리즘이 건강 불평등을 지속할 수 있다는 사실을 알 수 있다.

한 영국 연구팀이 50만 개 이상 이미지가 담긴 데이터 세트 94개를 분석했다. 연구팀은 보통 눈병을 탐지하는 AI 알고리즘 훈련에 이 데이터 세트를 사용한다. 연구팀은 데이터 대부분이 북미, 유럽, 중국 환자 것이라는 사실을 발견했다.

연구에 참여한 류 샤오촨 안과 전문의ㆍ버밍엄대 연구원은 "’눈’ 데이터 양 격차는 AI 시력검사 알고리즘이 개발도상국 사람에게 부정확한 결과를 불러올 수 있다”며 “특정 인구집단에 조금이라도 질병이 일어나면 AI 안과 의사는 심한 오류를 범할 수 있다”고 말했다.

데이터 양 격차로 인한 부정확한 진단 결과는 자원이 부족한 지역에 자동화된 의학전문기술 제공 가능성을 훼손할 수 있다.

류 연구원은 “알고리즘이 주로 백인 환자를 연구하면서 만들어졌다는 사실을 의사 집단이 알게 되면 눈 진단 알고리즘을 사용하기를 꺼릴지도 모른다”고 지적했다.

연구팀은 다른 문제점도 발견했다.

많은 데이터에 나이, 성별, 인종 등 주요 인구통계 데이터가 포함되어 있지 않아 다른 방식으로 편향되어 있는지 여부를 가늠하기 어려웠다.

미국 식품의약국(FDA)은 최근 몇 년간 안과용 AI 도구 2개를 포함해 여러 AI 영상 제품을 승인했다. 류 교수는 이러한 알고리즘 기반 제품 제조사가 일반적으로 그들이 어떻게 훈련 받았는지에 대한 세부 사항을 제공하지 않는다고 말한다.

류 연구원은 "특정 집단의 특정 부분에만 도움이 되는 혁신이 일어나고 있다"고 말했다. ‘데이터 빈곤’으로 인한 눈 이미지 다양성 결여는 많은 의료용 AI 알고리즘에 영향을 미칠 가능성이 크다.

아미트 카우샬 스탠퍼드대 의대 조교수는 의료용 AI와 관련된 연구 74개를 분석한 연구팀 일원으로 분석한 연구 가운데 연구팀 56개가 미국 환자 데이터를 사용했다.

카우샬 조교수는 "특정 인구집단이 AI 훈련 데이터에서 제외되면, 의료용 AI 알고리즘은 누락된 집단의 질병을 탐지하지 못할 확률이 더 높아진다”며 “소수집단이 직면한 문제는 이용 가능 데이터가 부족해 AI 연구원이 연구하지 못할 수도 있다”고 설명했다.  

그는 AI 연구원과 의사는 대중이 문제를 인식하도록 해 좀더 다양한 데이터 세트를 마련하는 것이 해결책이라고 강조했다.

비카쉬 굽타 메이요 클리닉 연구원은 방사선과에서 AI 사용을 연구하면서 단순히 더 다양한 데이터를 추가하면 편견을 없앨 수 있다고 말했다.

[관련기사] 만 17세 소년, ADHD 탐지 정확도 95% AI 솔루션 개발

[관련기사] 엔비디아, AI로 헬스케어 분야 업그레이드 나서

기자 프로필

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
유용한 리스티클
  • AI 재현 기술, 로마 황제 얼굴을 살려냈다
  • EU가 뽑은 인공지능(AI)ㆍ로봇 기술 9가지
  • 차세대 콘텐츠에 활용할 수 있는 인공지능(AI) 기술 6가지
  • "당신의 외모는 몇 점?"…AI가 평가하는 내 얼굴은?
  • 코로나19 대유행 시대, 학교가 갖춰야 할 7가지 필수품은?
  • 비대면 시대, XR(확장현실)기술 사용 국내외 건축ᆞ부동산 기업 7