오창훈 보스턴칼리지 연구원...전자정보연구정보센터(EIRIC) 세미나서 발표
알파고 등장했을 때 사람과 동일하게 표현한 경우 많아
AI와 협업할 때 '고마움'과 '미안함' 느껴
의인화하는 사람들 성향에 따라 AI 디자인 개발 필요
사람들은 인공지능(AI)을 어떻게 인식할까? 사람으로 느낄까, 기계라고 생각할까? 실험 결과 많은 이들이 AI를 사람처럼 느끼는 것으로 조사됐다. 의인화하는 경향이 많았고, 디테일한 커뮤니케이션을 원하는 이들도 많았다. 이러한 사람들의 심리에 따라 AI 기술을 발전시키는 게 중요하다는 설명이다.
오창훈 미국 보스턴 칼리지(Boston College) 연구원은 전자정보연구정보센터(EIRIC)가 4월 29일 주최한 '휴먼 AI 상호작용(Human AI Interaction)' 세미나에서 "(실험 결과) AI를 의인화하는 경우가 많았다"며 "AI에게 말을 걸기도 하고, 미안함을 느끼는 이들도 있었다"고 말했다. 이어 "AI를 바라보는 사람들의 시선에 맞춰 디자인하는 게 앞으로 중요할 것"이라고 설명했다.
오 연구원은 이번 세미나에서 두 가지 실험 결과를 소개했다. 하나는 2016년 초 이세돌과 알파고의 바둑 대결에서 사람들이 AI에 대해 가진 감정을 조사한 실험이었다. 다른 하나는 사람과 AI가 협업할 수 있는 시스템을 만들어 이를 통해 사람들이 느끼는 감정을 조사한 실험이다.
두 실험에서 사람들은 모두 AI를 의인화하는 경향이 있었다. 무섭게 느끼는 이들도 있었고, 조수처럼 자신의 일을 도와줄 수 있다는 기대감을 갖는 이들도 있었다. AI가 디테일한 커뮤니케이션을 할 때 좋아했고, 협업할 때는 사람이 주도권을 갖고 있어야 만족해했다.
알파고 등장했을 때 사람들은?...'공포', '기대', '의인화'
오창훈 연구원은 2016년 초 있었던 이세돌과 알파고의 바둑 대결에서 사람들이 느낀 감정을 연구했다. 당시 바둑은 알파고가 4대 1로 이겼다. 3번째 경기까지 알파고가 승리했고 4번째 경기에서 이세돌이 이겼다. 마지막 5번째 경기는 알파고 승리로 돌아갔다.
오 연구원에 따르면, 시합이 열리기 전에는 이세돌이 알파고를 이기는 것을 당연하게 생각하는 사람들이 많았다. 첫 경기에서 이세돌이 알파고에 패하자 사람들은 충격에 빠졌다. 두 번째 경기에서도 지자 충격은 더 커졌다. 흥미로운 건 세 번째 경기에서 이세돌이 패하자 사람들이 느끼는 충격이 덜했다는 것이다. 이미 알파고를 이길 수 없다는 생각이 머릿속을 지배했기 때문이다.
네 번째 경기에서 이세돌이 알파고를 이기자 사람들은 좋아했고. 다행이라고 느끼는 사람도 많았다. '인간의 승리'라고 표현하는 이들도 있었다. 다섯 번째 경기에서 다시 이세돌이 패하자 사람들은 네 번째 경기에서의 승리에 의미를 부여했다.
오 연구원은 당시 사람들의 심리를 인터뷰를 통해 분석했다. 연령과 성별, 직업 등을 분류해 조사했다. 직업은 작가, 택시기사, 변호사, 바둑기사 등 다양했다. 주제는 알파고로 인해 사람들의 인식에 뚜렷해진 AI를 어떻게 바라보는지였다.
실험 결과 AI에 대한 사람들의 인식은 크게 3가지였다. '공포', '기대', '의인화'였다.
공포를 느낀 이들은 AI에 대해 부정적이었다. 미디어 영향이 컸다. 공포를 느낀 사람들은 '터미네이터'나 '울트론' 등 SF 영화를 예로 들며 AI가 '무섭다'고 표현했다.
기대감을 가진 이들은 AI를 긍정적으로 생각했다. 컴퓨터가 사람들의 업무에 변화를 가져왔듯이 AI도 변화를 가져올 수 있다고 기대했다. 사람이 하는 단순·반복 업무나 고된 작업을 AI가 대신할 것이라고 보았다.
AI를 의인화하는 사람도 있었다. 알파고를 지칭할 때 사람에게 사용하는 형용사나 명사를 사용하는 이들이 있었다. "그 친구 참 똑똑하더라고요"라는 식이다. 또 AI가 창의적이라고 표현하는 이도 있었다.
아예 사람처럼 인식하는 이도 있었다. 사람과 동등한 존재로 여기면서 거리감을 두고 싶은 '희한한 인간'이라고 묘사했다. 바둑기사들은 보통 상대방을 배려하는 수도 사용하는데, 알파고는 승리만을 향해 달려가는 무자비한 인간이라고도 표현했다. 인정사정 가리지 않는 사람에게 "너가 무슨 알파고냐?"라고 말하는 등 무자비한 존재의 대명사로도 쓰였다.
오 연구원은 "알파고로 AI가 사람들에게 많이 알려졌을 때 많은 사람이 인간처럼 느끼고, 또 부정적인 존재로 생각했다"면서 "AI에 대해 인지 부조화를 겪으면서 공포심과 무기력함을 느끼는 이들도 있었다"고 말했다.
사람과 AI 협업..."고마워하면서 미안해하기도 했다"
두 번째 연구는 사람과 AI 간 소통하고 협업하는 실험이었다. 이를 위해 오 연구원은 '듀엣 드로우(Duet Draw)'라는 애플리케이션을 개발했다.
듀엣 드로우는 사람과 AI가 함께 그림을 그리는 앱이다. 리드와 어시스트 기능이 있다. 리드는 사람에게 주도권이 있는 기능이다. 사람이 스케치를 하고, 어울리는 색 등을 추천하면 AI가 색칠을 완성한다. 어시스트는 반대다. 주도권이 AI에게 있다. AI가 그림을 그리면 사람이 완성하게끔 했다.
오 연구원은 리드와 어시스트 기능을 사람이 수행하며 겪는 감정 등을 분석했다. 이를 위해 30명의 참가자를 모았고, 총 150장의 그림을 그렸다.
실험 결과 사람들은 리드와 어시스트 기능 둘 다에서 주도권을 갖고 있고 싶어 했다. 결정은 자신이 하고, AI는 보조적인 역할만 하기를 원했다. 어시스트에도 마찬가지였다. AI가 정한 색을 마음에 들지 않아하고, 강제로 바꾸려하고 하는 이들도 있었다. AI 요청을 거부하기도 했다.
여기서도 AI를 의인화하는 경우가 있었다. 참가자들은 AI에게 말을 걸기도 하고, 가르치려고도 했다. 고맙다고도 하고, 미안함을 느끼기도 했다. 자신이 AI 입장에서 왜 그런 결정을 했을지 생각하는 이도 있었다.
사람들은 AI가 그림을 컴퓨터처럼 정교하게 그릴 때 괴리감을 느꼈다. AI와 말을 할 때는 로봇과 같은 말보다는 디테일한 의사소통을 원했다. 단순한 소통은 형식적이라고 생각하고, 귀찮아하는 경향이 많았다.
오 연구원은 "이번 연구로 사람들은 항상 사용자가 주도권을 가지고 싶어 했고, 디테일한 커뮤니케이션에 만족을 느꼈다"며 "앞으로 AI 디자인을 할 때 이런 점을 주로 참고해야 할 것"이라고 말했다.
"HCI 관점에서 책임감 있는 AI 만들 것"
오창훈 박사는 AI 연구 목표에 대해 휴먼 AI 확장과 더 나은 사회에 도움이 되는 AI를 만드는데 기여하는 것이라고 밝혔다.
이를 위해 그는 현재 미국에서 AI와 기계학습(머신러닝)을 사용자경험(UX)에 연결하려는 연구를 진행 중이다. 구글이나 마이크로소프트 등 많은 AI 상품을 리뷰해서 분석하고 있다. 현재 100가지 케이스를 분석했다고도 밝혔다.
그는 "AI 연구에서 많은 어려움을 겪는 분야가 디자인"이라며 "다양한 AI 디자인 사례를 공유하고, AI 상품을 디자인하는데 활용할 수 있는 방법 등을 공유하고 싶다"고 말했다.
또 "단순히 개별 인터페이스의 디자인 임플리케이션을 도출하는 데 그치지 않고, 공정하고 안전한 '책임감있는 인공지능(Responsible AI)'을 만들 방안에 대해 인간-컴퓨터 상호작용(HCI, Human-Computer Interaction) 관점에서 접근하고 싶다"고 덧붙였다.
오창훈 연구원은 '휴먼 AI 상호작용(Human AI Interaction)'을 연구하고 있다. 현재 보스턴칼리지(Boston College)에서 박사후 연구원으로 근무 중이다. 카네기멜론대 인간-컴퓨터 상호작용(HCII, Human-Computer Interaction Institute)에서 박사후 연구원으로 재직했고, 서울대 융합과학기술대학원을 졸업했다. HCI 분야에서 권위있는 학회인 CHI 학회에서 2018년 우수논문상(Honorable Mention)을 수상했다.
AI타임스 김동원 기자 goodtuna@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com