법무법인 태평양 AI팀 마경태·이재규·이수진 변호사 인터뷰
아직 끝나지 않은 이루다 사건...개보법으로만 처벌, AI 법제는 부재
과기정통부 AI 법제자문단에서 AI 투명성 연구, 기업 대상 가이드라인 마련
구글, 페이스북, 아마존, 테슬라 등 글로벌 빅테크 기업 자문
우리나라 인공지능(AI) 윤리 이슈에 불을 지핀 AI 챗봇 이루다가 공식적으로 법적 처벌을 받았다. 개인정보보호위원회는 지난 4월 28일 개인정보보호법 위반을 이유로 이루다 개발사 스캐터랩에 1억330만원 과징금을 부과했다.
하지만 ‘이루다 사건’은 아직 끝나지 않았다. 여성, 장애인, 흑인 등을 대상으로 한 소수자 차별 이슈와 사용자가 챗봇을 성희롱하는 남용 사례에 대해서는 대책을 마련하지 못했다.
스캐터랩이 이번에 처벌을 받게 된 근거 또한 AI에 특화된 법이 아니라 기존 법제인 개인정보보호법에서 나왔다. AI 윤리 필요성은 전국민이 체감하게 됐지만 관련 법제도는 이제 만들어가는 단계에 있다.
AI 법제를 만드려면 AI 기술과 법 양쪽에 대해 모두 잘 알아야한다. AI 기술 전문가도 귀한 형편에 AI를 이해하는 법 전문가를 찾는 일은 쉽지 않다.
어려울지라도 새로운 길을 개척하는 사람들은 있기 마련이다. 법무법인 태평양은 국내 로펌 중 최초이자 유일하게 AI팀을 구성했다. 태평양 AI팀은 현재 과기정통부 AI 법제정비단 전문가 멤버로서 국내 AI 정책 기둥이 될 가이드라인을 만들고 있다.
◆공대 출신 마경태·이재규 변호사, 공정거래법 전문 이수진 변호사
법무법인 태평양은 2019년 데이터 AI 전략자문팀을 발족했다. 현 국가지식재산위원회 AI-IP특별위원회 위원장인 이상직 변호사를 중심으로 80명 변호사가 모였다. 태평양 AI팀에서 활약하는 핵심 멤버로 마경태, 이재규, 이수진 변호사가 있다.
마경태 변호사는 카이스트 정보미디어 MBA에서 1년간 AI와 데이터 분석을 공부할 정도로 기술에 관심이 많다. 서울대에서 전기공학과 법학을 복수전공한 그는 변호사지만 컴퓨터과학에 익숙하다.
마 변호사는 “학부 시절 전기공학부를 다니면서 프로그래밍, 알고리즘 자료 구조 등 컴퓨터과학 과목들을 많이 들었다. 여담이지만 컴퓨터과학 관련 과목에서는 모두 1등을 했다. 이 때부터 IT분야와 법학이 만나는 지점에 재미를 느꼈다. 이 재미가 지금까지 일을 하는 원동력이 됐다”고 말했다.
카이스트 정보미디어 MBA 연수는 2020년 1년간 진행했다. 카이스트 연수 시절에 대해 마경태 변호사는 “AI 실무 현장에서 개발자들이 하는 데이터분석, 머신러닝(ML) 개발 관련 일들을 직접 배웠다. 통계학과 코딩과 같은 기초과목도 학습했다. 다시 공대시절로 돌아간 기분이었다”고 전했다.
실생활에 적용할 수 있는 AI 시스템을 직접 개발해보고 편향성을 평가해보기도 했다. 개개인의 성별, 학력, 소득 등이 포함된 샘플데이터를 학습해 대출 심사에 필요한 신용을 평가하는 AI 시스템을 구현했다. 이후 개발한 모델에서 성별, 학력 등으로 인한 편향성이 얼마나 나타나는지 분석했다.
마 변호사는 “카이스트 AI대학원과 연계돼 대학원 내 AI 수업을 열심히 들었다. 기말 팀프로젝트로 신용 평가 데이터를 이용한 알고리즘 편향성 분석을 연구했다”고 전했다.
현재 그는 서울대 법대 박사과정에서 AI 정책 연구를 이어가고 있다. 마경태 변호사는 “작년 서울대 인공지능정책 이니셔티브(SAPI) 내 교수들과 함께 KISDI 연구작업반에서 지금 한창 논의 중인 AI 가이드라인 사전 연구작업에 참여했다”고 말했다.
이재규 변호사도 마 변호사와 같이 공대 출신이다. 서울대 산업공학과 출신인 그는 학교 수업은 물론, 병역특례 기간에도 프로그래밍을 한 만큼 컴퓨터과학 기술에도 익숙하다.
기업 운영 방식을 최적화하는 학문인 산업공학을 공부한 만큼 변호사 생활 전 다수 IT 기업에서 근무한 경험이 있다. 스타트업부터 대기업까지 다양한 IT 산업 현장에서 직접 뛰어본 만큼 기업 입장에서의 고충을 잘 이해하는 것이 특기다.
IT기업 법자문을 담당하는 대표적인 변호사인만큼 실적도 화려하다. 구글, 페이스북, 아마존 등 내로라하는 빅테크 기업들이 한국 시장 진입 전 태평양 이재규 변호사에게 규제 관련 자문을 구했다.
이재규 변호사는 “변호사들 상당수는 학업을 마친 후 곧바로 변호사로 취직하는데 나는 기업에서 다양한 경험이 있다. 첫 회사는 소규모 IT 기업이었는데 랜선연결부터 보고서 제작, 채용까지 온갖 일을 막내인 내가 했다”고 말했다.
빅테크 기업 이외 미래차, 스마트 모빌리티 분야나 스타트업에서도 자문 수요가 많다는 설명이다. 이 변호사는 “AI와 같은 첨단산업분야는 규제와 연관성이 큰 만큼 로펌 의존도가 높다. 테슬라가 미래차, 전기차로 한국 시장에 진입할 때 규제 자문을 구한 바 있다. 우버와 같은 차세대 교통 활용 서비스에도 관여를 하고 있다”고 밝혔다.
이어 “미국에 상장한 회사 중 국내에 진출하고 싶어하는 스타트업도 많다. 국내 스타트업들은 비용이 부담이 될 수 있는데 시리즈B 정도까지 간 회사들은 우리에게 직접 의뢰를 한다”고 전했다.
이수진 변호사는 국내 대표적인 AI 정책 연구기관인 SAPI 연구원이다. 서울대 법대를 최우등 졸업한 그는 경제법 박사과정을 진행하며 2019년 SAPI에 합류했다.
AI 기술이 사회 전반에 적용되면서 발생하는 과제들을 기술적 측면과 더불어 경제법 관점에서 다루는 것이 이 변호사의 특기다.
대표적인 연구 결과물로는 온라인 플랫폼 규제에 관한 글로벌 현황과 트렌드를 분석한 프로젝트를 꼽을 수 있다. 우리나라 뿐 아니라 EU, 중국, 일본, 호주, 미국, 독일, 영국, 프랑스 등 주요 국가들의 AI 정책과 법안을 연구했다.
경제법 전문가로서 이수진 변호사는 공정거래와 AI의 접점을 다루는 데서 활약하고 있다. 특히 플랫폼 기업에 대한 공정위 규제에 대해 적극 자문을 제공한 바 있다.
이 변호사는 "공정거래 분야는 법적으로 경제법이 적용되는 영역이다. AI와 디지털 기술로 인해 현실 경제 양상이 바뀌면서 공정거래 내용도 달라질 수밖에 없다"고 강조했다.
이어 "최근 미국 FTC(연방거래위원회)에서도 AI 알고리즘 편향성에 대해 주의깊게 살피고 있다. 이는 AI와 공정거래 이슈가 더욱 밀접하게 연결돼 다루어질 것을 보여주는 하나의 예시라고 할 수 있다"고 설명했다.
우리나라에서도 최근 관련 움직임이 활발하다. 공정위는 2021년 업무추진계획에서 디지털 경제와 플랫폼 관련 규제에 주안점을 둘 것이라 예고했다.
이수진 변호사는 "공정위와 과기부는 올해 상반기 내 알고리즘 공개 가이드라인을 제정할 계획이다. 공정거래 측면에서의 데이터 독점 이슈도 한창 검토 중이다. 특히 데이터는 AI 경쟁력을 결정짓는 핵심 요소 중 하나인 만큼 중요한 사안"이라고 밝혔다.
미국에 이어 AI계를 리드 중인 중국 내 AI 산업과 법제를 통달하고 있는 것 또한 이수진 변호사의 특기다. 중국은 현재 정부 주도로 AI 사업에 공격적으로 투자 중이다. 연간 AI 논문수로는 미국을 넘어 전세계 1위 자리를 차지한지 오래다.
이 변호사는 “중국 AI 현황을 잘 알고 이해하는 것은 국내 기업, 특히 스타트업의 중국 진출에 중요하다. 우리나라 AI 법제도를 검토 논의하는 데에도 많은 도움이 된다. AI와 같은 신기술에 대한 법제도를 마련할 때는 해외 사례를 많이 참고하는 편”이라고 강조했다.
일례로 공정위는 온라인 플랫폼 공정화 법안 제정 과정에서 EU와 함께 중국 규정을 참고했다고 밝힌 바 있다.
특히 플랫폼 분야 정책 마련에서 중국 규정이 유용하다는 것이 이수진 변호사의 설명이다. 그는 "유럽 시장과 달리 중국에서는 GAFA(구글·애플·페이스북·아마존)가 아닌 자국 플랫폼들이 높은 시장 점유율 보인다. 우리나라 플랫폼 시장과도 유사한 측면이 존재하는 만큼 관련 동향을 주시할 필요가 있다"고 전했다.
◆과기정통부 AI 법제정비단서 가이드라인 제작에 참여
태평양 AI팀이 법제도 자문을 하는 주요 대상은 크게 정부기관과 기업으로 나뉜다. AI라는 기술이 우리 사회에 본격 등장한 지 얼마 되지 않은 만큼 현재로서는 기업보다 국가 단위 가이드라인 마련에 주로 참여하고 있다.
마경태 변호사는 작년 처음 출범한 과기정통부 AI 법제정비단에서 AI 정책 가이드라인을 마련하고 있다. 이수진 변호사는 올해부터 AI 법제정비단 자문위원으로 참여하게 됐다. 이재규 변호사도 최근 AI 법제도 관련 다양한 정부기관 회의에 전문가 자문위원으로 참석하고 있다.
정부기관 자문 활동에 대해 이재규 변호사는 “주로 과기정통부와 그 산하기관 대상으로 많이 진행한다. 전통적인 IT 분야에서는 주로 규제를 담당하는 2차관 담당 부서와 함께 일했는데, 최근 AI와 같은 첨단 기술이 많이 나오면서 과학기술산업진흥을 담당하는 1차관 담당 부서와도 협업을 많이 하고 있다”고 말했다.
과기정통부 AI 법제정비단 활동에 대해 마경태 변호사는 “작년부터 과기정통부가 AI법제정비단을 구성, NIA 주도로 학자, 법조인들로 이뤄진 연구반을 만들어 AI 법제 연구를 진행하고 있다”고 설명했다.
이어 “나는 작년 1기때부터 참여해 AI 투명성 법제에 대해 연구했다. 최근 (AI 결정에 대한) 설명요구권, AI 감사제도 등에 대한 이야기들이 많이 나오고 있다. 연구반에서는 해당 제도들을 도입하기에 앞서 무엇을 연구해야 하는지를 논의한다”고 말했다.
그는 “가령 AI 시스템 현황 분석, 이용도 체크, 시장에서의 자율검증을 통해 해결할 수 있는 방법은 없는지 연구하는 것이다. 제도를 도입한다면 어떤 방식이 좋을 지에 대해서도 논의한다. 올해 출범한 2기 법제정비단에서는 AI 거버넌스를 어떻게 구성하고 규제를 준수할 수 있을지에 대해 사업자들에게 제시하는 가이드라인 작업을 시작했다”고 덧붙였다.
이수진 변호사는 "현재 법제정비단에서 진행 중인 연구로 자율적 알고리즘 관리·감독 환경 조성, AI 개입 범죄 관련 규율 마련을 꼽을 수 있다. 이외 다양한 과제에 대한 검토, 정비 작업을 진행하고 있다"고 밝혔다.
◆위험요소 크고 대중적인 AI 서비스 제공 기업들 자문 대상
기업 자문 대상은 대기업부터 스타트업까지 기업 규모를 가리지 않는다. AI 도입 시 위험도가 큰 서비스를 하는 기업일수록 법률 자문이 중요한 역할을 할 수 있다는 설명이다.
예를 들어, 단순히 고객 응대를 하는 AI 챗봇과 대출심사를 위해 고객 신용평가를 하는 AI 시스템은 위험 무게가 다른 것이다.
태평양 AI팀 자문 대상이 될 기업에 대해 마경태 변호사는 “기업 종류보다도 기업이 사용하는 AI 시스템 유형이 핵심이다. 기업 AI 시스템이 어느 정도 위험을 발생시킬 수 있느냐에 따라 법률 자문 필요성이 차이가 난다”고 말했다.
이어 “고위험분야인 채용, 대출심사, 신용평가에 AI를 사용하는 기업들 수요가 우선 많을 것이다. 다음으로는 플랫폼과 같이 일반 소비자들과 접점이 많은 서비스를 하는 기업을 들 수 있다. 이용이 많거나 사회적으로 이슈화될 수 있는 영역부터 법률 수요가 발생할 것”이라고 강조했다.
같은 산업군 안에서는 규모가 큰 기업에서부터 수요가 발생할 것이라는 전망이다. 이재규 변호사는 “아무래도 앞서가는 기업, 큰 기업에 정부 규제를 먼저 직면해 사례를 만들 가능성이 크다. 이전에도 새로운 기술이 사회에 들어올 경우 같은 절차를 거쳤다”고 말했다.
이수진 변호사는 AI 기술이 이미 산업 전 분야에 스며든 만큼 분야를 막론하고 수요가 발생할 것으로 예측했다.
그는 “AI라고 하면 새롭고 좁은 분야라고 생각할 수 있는데, 사실 우리 일상 곳곳에 이미 AI가 스며들어 있다. 휴대폰으로 쉽게 다운로드 받을 수 있는 각종 앱부터 인터넷 쇼핑, 검색서비스 등에서 이미 AI를 사용하고 있다. 업무 분야가 광범위할 것으로 본다”고 전했다.
◆AI분야 핵심 문제인 차별·편향, 소수자 관점 고려해 해결한다
일반 소비자를 넘어 약자인 소수자 관점도 놓치지 않는다. 변호사들에 따르면 태평양의 주요 아이덴티티 중 하나는 사회 소수자, 약자에 배려와 연대를 보내는 것이다.
소수자 차별 문제는 그간 전세계에서 AI 기술의 대표적인 한계로 제기됐다. 이루다에서도 여성, 장애인, 흑인 등을 차별해 문제가 제기된 바 있다. 이루다 전에는 인종차별 발언으로 공개 하루 만에 서비스가 종료된 MS(마이크로소프트) 테이가 있었다. 이외 미국 연구팀이 개발한 AI가 인종차별을 해 서비스를 중단한 경우는 어렵지 않게 찾아볼 수 있다.
세 변호사 중 특히 이수진 변호사는 소수자 관점에서의 AI 정책에 관심이 많다. 그는 이주외국인과 북한이주민 관련 공익활동을 꾸준히 수행하고 있다.
이 변호사는 "AI 윤리, 편향성 문제를 논의할 때 소수자 보호 관련 부분을 빼놓을 수 없다. AI를 비롯한 4차 산업과 관련해 공익적 차원에서 도움을 줄 수 있는 부분을 항상 고민, 준비하고 있다"
사회 소수자에게 연대와 배려를 보내고 공익활동을 진행하는 것은 법무법인 태평양 신조이기도 하다. 이재규 변호사는 “4차산업과 공익을 연결하는 것을 회사에서 아주 중요하게 생각하고 있다. 4월 마지막주부터 두 달 동안은 회사 내 모임에서 북한의 4차산업 관련 책을 읽고 저자와 함께 토론할 예정”이라고 말했다.
이어 “앞으로 AI를 다룸에 있어 많이 고려할 수밖에 없는 부분이라고 본다”고 전했다.
AI타임스 박성은 기자 sage@aitimes.com
[관련기사]과기정통부, '신뢰할 수 있는 AI' 실현 전략 발표...2025년까지 단계적 추진
[관련기사]유럽연합 AI 규제안의 내용과 의미
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com