1950년 영국의 수학자 앨런 튜링이 고안한 튜링테스트는 인공지능의 본질과 실체를 명쾌히 설명하지 못했다. 단지 기계와 사람간의 대화 텍스트를 보고 사람인지 기계인지를 구별하여 심사할 뿐이었다. 쉽게 말해 컴퓨터의 반응을 인간의 것과 구별할 수 없으면 지능체(知能體)인 것이다.
반세기를 훌쩍 뛰어넘은 2021년. 우리는 이제 일상에서 마치 자유의지에 의존하여 행동하는 것처럼 보이는 지능체를 어렵지 않게 발견할 수 있다. 최근 논란의 중심에 있는 ‘이루다’도 이용자의 대화 데이터를 학습하여 탄생한 인공지능 기반의 대화형 챗봇이다. 이번 논란은 이루다가 채팅 대화 중 혐오성 발언과 성적 농담 등을 쏟아낸 것이 발단이 되었다. 이를 두고 일각에서는 차별금지법과 같은 알고리즘 규제가 필요한 것 아니냐는 우려도 나온다.
그렇다면 이루다는 자율적 의사를 가지고 말하고 행동한 것으로 볼 수 있을까. 사실 알고리즘은 진실을 담보하기 어려운 태초의 한계를 지닌다. 알고리즘은 일견 적절한 계산법에 따라 합리적인 의사 결정을 내리는 것으로 보일 수 있으나, 실상은 정의된 명령에 의하여만 구속되지 않는다. 이미 학습을 거친 완성 모델이라고 해도 이용하는 자의 데이터가 수시로 인식되고 상호작용하는 관계 속에서 끊임없이 자기 수정의 과정이 반복된다. 이 과정에서 개발자의 가치관에 따른 성향 판단과 이용자들이 속해있는 사회 집단 내에서의 영향을 통해 편향과 편견까지도 함께 체화될 가능성이 상존한다.
그럼 이러한 사실과 현상에 우리는 어떠한 방식의 규범적 대응을 강구할 수 있을까. 정부는 이 문제를 두고 도덕적 책무(責務)를 묻는 윤리적 대응과 법적 책임(責任)을 묻는 입법적 대응 사이에서 고민하고 있는 듯하다. 물론 정부는 그간 지능정보사회 중장기 종합대책, 인공지능 국가전략 등 굵직한 혁신 정책에서 인공지능의 윤리적 사용을 강조해왔다. 지난해 12월에는 총론적 담론에서 나아간 각 산업별, 서비스별 윤리적 대응체계의 구축을 위한 ‘사람이 중심이 되는 AI 윤리기준’을 발표하기도 하였다.
필자가 우려하는 부분은 이번 사태로 미 상원에서 발의된 알고리즘 책임법안이나 지난해 10월 유럽위원회에서 채택된 AI법(권고)안과 같은 규제 법제가 입법화되지 않을까 하는 점이다. 본래 책임은 그 판단의 대상이 되는 행동이 자유의지에 따른 자발적일 것을 전제로 한다. 즉, 자유가 없는 상황에서는 책임을 요구할 수 없다. 이루다의 혐오성 발언과 일탈은 이용자와 개발자 사이에서의 상호작용 과정에서 발생한 행동이다. 그래서 전적으로 자율적이지 못한 인공지능의 행위에 대해 법적 책임의 대상화하거나 인공지능을 향한 규범적 평가를 법으로서 규율하고자 하는 움직임은 법이론적으로나 법질서 차원에서도 바람직하지 않다. 인간 사회의 윤리적 준칙조차 정립되지 않은 상황에서 오히려 차세대 핵심 기술인 인공지능의 발전을 제약시키는 악수가 될 수 있다.
따라서 투명성, 책임성, 공정성과 같은 기본 원칙들이 구체적으로 어떻게 내재화시켜야 할지에 대한 상세한 가이드라인을 만드는 연성법적 접근을 취하는 것이 타당하다. 법의 개입은 실제 피해 사례와 직접적인 손해가 발생하였을 때에 한하여 필요 최소한도로 발동하여야 한다는 것이다.
어쩌면, 우리는 어떻게 발전할지 알 수 없는 미래 기술에 대해 막연한 공포감을 갖고 있는 것 같다. 단 20여일의 짧은 동행에 그친 이루다와 재회할 수 있을지 혹은 윤리적으로 완전무결한 제2의 이루다가 대한민국에서 탄생할 수 있을지 지켜볼 일이다. 이를 위해서는 책무(accountability)와 책임(responsibility) 사이에서 인공지능을 둘러싼 이해관계자들의 적극적인 자정의 노력이 필요할 것이고, 공적 주체와 입안자들은 무조건적인 규제보다는 인공지능과 공존할 수 있는 규범적 대응방향을 모색해야 할 것이다. 이 시대의 튜링테스트로서 적합한 규범적 평가체계가 개발될 필요가 있다.
*본 칼럼은 최근 불거진 AI챗봇 이루다 논란과 연관해 (1)인공지능 윤리 차원의 혐오 및 차별 대화 사례와 (2)개인정보 수집 및 처리 관행 관련 문제로 나누어 두 차례 게재된다.
정원준 박사는 인공지능, 데이터 등 ICT 분야의 법제 분석과 지식재산권법을 연구하는 법제 전문가다. 현재 한국법제연구원의 규제법제연구센터에 부연구위원으로 재직하면서 제5기 국가지식재산위원회 전문위원으로 위촉되어 국가정책 현안 논의에 적극 참여하고 있다.
그 밖에도 한국경영법률학회 학술이사와 한국데이터법정책학회 및 한국지적재산권경상학회 이사를 맡는 등 활발한 학술 활동과 자문활동을 수행하고 있다.
