“보건의료(헬스케어) 분야에서의 인공지능(AI) 활용 늘리기는 일반 국민들이 중시하는 것을 세심히 배려하면서 추진해야 한다. 일반인들은 헬스 데이터와 이에 기반한 AI가 없었다면 얻을 수 없는 지식창출 가능성엔 호의적이었다. 그러나 이들은 여전히 (두려움을 주는) AI와 로봇, 그리고 AI연구 목적으로 제공된 개인정보 전용 가능성에 대해 두려워하고 있었다. 연구자,과학자, 정책 입안자들의 최우선 과제는 사생활보호와 개인데이터 사용투명성 확보다. 이러한 우려를 해결함으로써 사회적으로 유익한 AI 사용이 가능해진다.”
더컨버세이션은 2일(현지시각) 파프리카 앨리슨 캐나다 토론토대 조교수와 이 대학 멜리사 맥크래든 박사가 온타리오 주에서 6개 일반인 집단(포커스 그룹)을 대상으로 연구한 결과를 ‘일반인들이 기대하는 의료AI의 희망과 공포’란 제목으로 소개했다.
연구진은 AI 연구에 개개인의 헬스 데이터가 활용되는 데 대한 일반인들의 인식을 더 자세히 알아보기 위해 지난해 10월 연구를 시작했다. 이들은 이전 연구에서도 캐나다 사회 구성원들은 공공의 이익에 도움이 되고, 사생활·상업적 동기 및 기타 위험에 대한 우려가 해결된다면 건강 데이터를 ‘AI 연구에 사용해야 하는 자산’으로 본다는 시각을 드러냈다고 밝혔다.
조사 대상 일반인들은 현실적인 세 분야의 헬스AI 연구 시나리오에서 헬스데이터를 사용하는 것을 지지했다. 반면, AI 관련 일자리 감소 및 기타 부정적 영향에 대해서도 우려감을 드러냈다. 연구진은 이 우려 때문에 헬스AI 연구가 확대되지 않을 수도 있으며 데이터 이용의 공공성으로 이를 해소해야 한다고 지적했다.
연구진은 일반인들이 헬스 AI연구를 지지하지만 이들의 승인에는 조건과 한계가 있었다며 이를 ▲로봇공포증 ▲헬스AI 지지 ▲프라이버시 보호 ▲결론 순으로 요약했다.
◆로봇공포증···활용 가능성에 흥분되지만 AI감시와 프라이버시는 걱정
각 포커스그룹 참가자들은 AI 전반에 대한 토론으로 시작했다. 다른 연구들의 결과에서처럼 사람들은 AI에 대해 들쭉날쭉한, 그러나 대체로 부정적인 견해를 가지고 있었다. 제임스 카메론 감독의 영화 터미네이터에 나온 것 같은 사악한 로봇에 대한 여러 건의 언급이 있었다.
포커스그룹 참가자인 미시샤우가는 “우리는 말그대로 인공적 지능을 가지고 있는 터미네이터, 즉 매트릭스를 만들 수 있다…이것이 잘못돼 세계를 넘겨받으려 할 때 인간은 이에 맞서 싸워야 한다. 또는 도움이 되는 곳에서부터 절대적인 반대 방향으로 갈 수도 있다…안드로이드…임플랜트…내가 말했 듯이 어느 쪽으로든 무제한으로 간다”고 말했다.
게다가 몇몇 사람들은 그들이 사적으로만 얘기했던 제품에 대해 표적 광고를 받았음을 언급하면서, 이미 자신들의 행동에 대한 AI 감시가 있다는 믿음을 공유했다.
일부 참석자들은 자율주행차처럼 AI가 긍정적인 영향을 미칠 수 있는 방법에 대해 의견을 냈다. 그러나 AI에 대해 긍정적인 말을 한 사람들 대부분은 AI가 사회에 어떤 영향을 미칠지에 대한 우려도 함께 나타냈다.
서드베리 포커스 그룹 참가자는 “친절하고 도움이 되는 것으로 그려지지만, 항상 지켜보고 듣고 있으니까…그래서 나는 (로봇 활용)가능성에 흥분되지만, 그 함의와 개개인의 프라이버시에 도달하는 것에 대해서는 걱정된다…”고 말했다.
◆헬스AI 지지 시나리오
이와는 대조적으로 포커스 그룹 참가자들은 세 가지 현실적인 헬스AI 연구 시나리오에 긍정적 반응을 보였다.
그 중 하나는 일부 사람들이 헬스 데이터와 AI 연구가 실제로 생명을 구할 수 있다고 생각하고 있다는 것이었고, 대부분의 사람들도 생명을 구하는 잠재적 혜택을 포함하지 않은 다른 두 가지 시나리오를 지지했다.
그들은 헬스데이터와 AI 연구가 그렇게 하지 않으면 얻을 수 없는 지식을 창출할 수 있는 가능성에 대해 호의적 의견을 제시했다.
예를 들어 그들은 AI기반 테스트를 통해 암의 발생원인을 파악함으로써 맞춤 치료로 생명을 구할 잠재력을 제공하는 AI의 실질적 이점에 매우 긍정적인 반응을 보였다.
참가자들은 또한 대량의 데이터를 선별하고, 실시간 분석을 수행하고, 의료 사업자와 환자에게 권고 사항을 제공하는 것 같은 AI의 실질적인 이점에 주목했다.
미시샤우가는 “당신이 (AI에) 손을 뻗어 1000만 명 표본 집단을 가지고 그로부터 데이터를 추출할 수 있지만, 인간의 뇌로는 그렇게 할 수 없다. 한 그룹, 한 팀의 연구자들은 그렇게 할 수 없다. AI가 필요하다”고 말했다.
◆프라이버시 보호
반면 포커스 그룹 참가자들은 AI 연구를 위해 모든 건강 데이터를 사용하는 데 대해서는 긍정적으로 생각하지는 않았다.
그들은 하나의 헬스AI 목적을 위해 제공된 데이터가 그들이 동의하지 않는 다른 목적으로 판매되거나 사용될 수 있다며 우려했다.
참석자들은 또한 사람이 컴퓨터에 지나치게 의존하게 되면서 시간이 지날수록 사람의 손길 배제·실직·사람의 기술력 저하를 이끄는 제품 등으로 이끄는 데 따른 부정적 영향을 우려했다.
참가자들은 그들의 우려를 해결할 방법도 제안했다.
그들은 무엇보다도 사생활이 보호될 것이라는 확신과 개인 데이터가 헬스AI 연구에 어떻게 사용되는지에 대한 투명성을 확보하는 것이 중요하다고 말했다.
몇몇 사람들은 헬스AI 연구를 통해 자율적인 의사결정 시스템이 아닌 인간을 지원하는 기능성 도구를 만들어야 한다는 조건을 달았다.
서드베리 포커스 그룹 참가자는 “의사가 도구를 사용하고 전화를 하는 것처럼 AI가 도구인 이상…AI는 의사에게 무엇을 하라고 지시하는 컴퓨터가 아니다”라고 말했다.
◆헬스AI에 대한 결정에 일반인을 참여시켜 나온 결론
연구진은 헬스AI에 대한 결정에 일반인을 참여시켜 토론한 결과를 다음과 같이 쓰고 있다.
“일반인들과 함께 이같은 논의를 하는 데는 시간과 노력이 들었다.
특히 논쟁의 소지가 있는 부분을 교묘하게 포함시켜 현실적이고 평범한 언어로 된 헬스AI 시나리오를 개발하고 시험하고 다듬는 데 상당한 작업이 필요했다. 그러나 이런 투자에 대한 소득은 컸다.
AI 전문가가 아닌 포커스 그룹 참여자들은 보건의료 AI 연구를 보다 책임감 있게 만들고, 일반인이 받아들일 수 있도록 하는 방법에 대한 중요한 통찰력과 구체적 제안을 가지고 있었다.
우리의 연구 결과는 헬스 데이터 및 AI 연구를 위한 정책 및 실천 가이드에 중요한 입력 자료가 될 수 있다. 우리는 연구자, 과학자, 정책 입안자들이 ‘책임지는 AI개발을 위한 몬트리올 선언(Montréal Declaration for Responsible Development of AI)’과 일치되도록 헬스AI 과학을 국민들과 협력해 국민들이 지지하는 방향으로 가져가야 한다고 본다.
대중의 우려를 이해하고 해결함으로써 우리는 AI 연구에 필요한 헬스 데이터를 신뢰할 수 있고 사회적으로 유익하게 사용하는 방법을 확립할 수 있다.”
