미국 식품의약국(FDA)이 AI·ML 기반 소프트웨어 의료기기(SaMD) 특성에 맞춘 규제 핵심 내용을 발표했다. 하드웨어 의료기기 대상으로 만든 기존 규제책이 반영하지 못한 소프트웨어 제품 특징을 반영했다. AI·ML 학습으로 인한 빠른 변화, 데이터 편향과 더불어, 제한적인 임상 데이터가 아닌 리얼월드데이터(RWD)를 사용하는 점을 규제에 반영할 계획이다.
FDA는 12일(현지시각) 공식 사이트에서 ‘AI/ML 기반 소프트웨어 의료기기 규제를 위한 실행방안(Artificial Intelligence/Machine Learning-Based Software as a Medical Device Action Plan)’을 공개했다. [실행방안 보고서 전문]
실행방안 마련을 위해 FDA는 업계 전문가와 관계자들에게 18개 질문을 포함한 설문을 배포, 수백 개의 답변을 받아 AI·ML 기반 SaMD 규제 마련에 필요한 5개 핵심 주제를 도출했다.
▲SaMD 사전 사양(SPS)에 대한 지침 마련, ▲GMLP(Good Machine Learning Practice) 개발 장려, ▲환자 대상 SaMD 투명성 확보, ▲알고리즘 편향 방지를 위한 규제 연구, ▲리얼월드데이터(RWD) 기반 성과 확장 5가지가 향후 FDA SaMD 규제에 반영될 예정이다.
◆SaMD 사전 사양(SPS)에 대한 지침 마련
의료기기 정책에서는 보통 제품 기능, 효과 등이 변할 것을 대비해 변경에 대한 규칙을 제정한다. 하지만 기존 하드웨어 기반 의료기기에 맞춘 규제책은 실시간 모니터링 데이터를 통해 항시 새로운 정보를 습득하고 AI·ML 학습으로 알고리즘이 변하는 상당수 SaMD에 적절하지 않다.
FDA는 실행방안 첫 번째 주제로 AI·ML 기반 SaMD에 맞는 규제 프레임워크를 개발한다고 밝혔다. SaMD 예상 변경 사항의 다양한 유형들에 대해 식별, 정체화, 정의하는 작업에 집중할 계획이다. 관련 검토 과정과 제출 내용, 집중 검토에 대한 세부 사항도 마련한다.
환자 위험 관리를 위해 SaMD 변화들을 통제된 방식으로 사용하는 협력 방법론인 ‘알고리즘 변화 프로토콜(Algorithm Change Protocol, ACP)’도 포함한다. 해당 내용을 모두 반영한 가이드라인은 금년 내 구축, 배포하는 것이 목표다.
FDA는 실행방안 보고서에서 “우리 기관은 SPS에 대한 업계의 강한 관심에 따라 지침 초안을 발행하고자 한다. AI·ML SaMD 알고리즘의 안전성과 효율성 개선을 위해 SPS와 ACP에 포함되어야 할 사항을 제안할 것”이라며 “SPS는 제조자가 학습을 통해 변경하고자 하는 대상을, ACP는 안전하고 효과적으로 알고리즘을 학습하고 변경하는 방법을 설명한다”고 말했다.
이는 FDA와 의료기기 제조사에서 제품 출시 전부터 이후까지 SaMD 제품을 평가, 모니터링 할 수 있도록 돕는다. FDA는 “지속적으로 업그레이드되는 AI·ML 기반 SaMD의 안전과 효과에 대해 합리적인 확신을 가질 수 있게 해줄 것”이라고 강조했다.
◆GMLP(Good Machine Learning Practice) 개발 장려
두 번째로 FDA는 본 기관이 정의하는 GMLP(Good Machine Learning Practice) 개발을 장려하는데 힘쓰겠다고 발표했다. 좋은 머신러닝 사례로 해석되는 GMLP는 데이터 관리부터 기능 추출, 학습, 해석, 평가까지 AI·ML 활용 소프트웨어 개발에서 모범 사례를 뜻한다.
GMLP 개발 장려를 위해 FDA는 업계 의견을 적극 반영, 협력하겠다는 계획이다. FDA는 “의료기기 사이버 보안에 대해 오래 노력해온 만큼 FDA 의료기기 사이버 보안 프로그램과 함께 GMLP 구축에 주력할 것”이라고 전했다.
관련 타 기관에 대해서는 “IEEE, AIMD, ISO, AAMI, BSI와 협력 관계를 유지하고 있다”고 설명했다.
이어 “올해부터는 사비에르(Xavier) AI 월드 컨소시움 협력 커뮤니티, 병리학 혁신협력공동체(Pathology Innovation Collaborative Community)의 멤버가 됐다. 안과 영상에 대한 협력 연구에도 참여한다”라고 말했다.
◆환자 대상 SaMD 투명성 확보
FDA는 의료진이 아닌 사용자에게도 AI/ML 기반 SaMD의 주요 한계점인 불투명성을 개선해 환자 중심 서비스를 지원할 방침이다. 이를 위해 의료기기 라벨링에 대한 공개 워크숍도 개최한다.
AI/ML 기반 SaMD는 계속해서 데이터를 수집하고 학습하는 특성에 따라 알고리즘 내 불투명 요소도 변화한다. FDA는 실행방안에서 “설문에 참여한 수많은 업계 관계자들이 AI/ML 기반 장치에 대한 라벨링을 주요 과제로 꼽았다. 의료기기 업체가 알고리즘 훈련에 사용한 데이터에 대한 설명, 데이터 입력 과정, 채택 논리, 결과물 목표, 장치 성능을 공개해야 한다는 것”이라고 설명했다.
해당 작업을 위해 FDA는 우선 일반 사용자들의 의견을 모을 계획이다. 2020년 10월 FDA는 환자 참여 자문 위원회(PEAC)를 구성, 사용자 대상 AI/ML 기반 SaMD의 투명성 확보를 주제로 회의를 연 바 있다.
FDA는 “현재 PEAC 회의 내용을 취합하고 있다. 다음 단계로는 의료기기 라벨링에 대한 공개 워크숍을 개최할 예정”이라고 전했다.
◆리얼월드데이터 기반 성과(RWP) 확장
AI/ML 기반 SaMD 활용 핵심 중 하나는 실시간 모니터링 기술을 활용해 사용자의 실생활에서 바로 수집하는 리얼월드데이터를 활용하는데 있다. 기존 하드웨어 중심 의료기기에서는 제한된 임상 데이터를 주로 사용했으며 출시 후에도 제품 효과에 대한 새로운 데이터를 수집하는데 더 많은 시간이 걸렸다.
이번 실행방안에서 FDA는 SaMD에서의 리얼월드데이터 사용 활성화를 위한 기반 마련에 힘쓰고, 이를 위해 파일럿 프로그램을 진행한다고 밝혔다.
해당 방안으로 인해 제품 전주기 접근 방식(TPLC, total product lifecycle)을 완전히 채택, AI/ML 기반 SaMD 전반을 볼 수 있다는 설명이다. FDA는 “실제 AI/ML 기반 SaMD에 대한 관련 리얼월드데이터 기반 성과(RWP) 매개 변수와 메트릭을 원활하게 수집하고 검증하는 데 사용할 수 있는 프레임워크 개발을 돕는 것이 목표”라고 말했다.
이어 “SaMD의 실제 사용에 대한 성능 데이터(RWP)를 수집하면 제조사는 자사 제품의 사용 방법을 보다 잘 이해하고 개선 기회를 포착할 수 있다. 안전 또는 사용적합성 문제에도 능동적으로 대응 가능하다. 마케팅 제출 평가에서 유익성-위해성 프로파일 지원을 위해 AI/ML 기반 SaMD 수정과 관련된 위험 완화에도 활용할 수 있는 중요한 메커니즘”이라고 강조했다.
AI타임스 박성은 기자 sage@aitimes.com
