완전자율주행 전단계인 레벨 3까지는 현행법으로 충분
레벨 4부터는 자율주행차 전용법 필수...운전자 아닌 기업 처벌
위급 상황 시 기술 원격 제어하는 '기술감독자', 완전자율주행 사고 책임
[편집자주] 자율주행차가 시범운행되고 있다. 미국을 비롯한 각 국에서 자율주행차는 이미 도로를 달리고 있는 것이다. 그 사이에 사고도 여러 차례 발생해 사람들이 죽거나 다쳤다. 누가 책임질 것인지 논란이 분분하다. 이런 사고가 나지 않게 하려면 또 어떻게 해야 할 지에 대해서도 많이 논의들이 진행되고 있다. 이제는 우리가 가야 할 길로 명확해진 자율주행과 자율주행차에 대해서 잠시 점검해보는 시간을 가져보자.
미국에 이어 국내에서도 자율주행차가 도로로 나올 날이 머지않았다. 현재 우리나라에서는 서울 상암동과 경기 판교 지역을 비롯해 충북, 세종, 광주, 대구, 제주 7곳을 자율주행차 시범운행지구로 운영하고 있다.
정부는 자율주행기술개발혁신사업을 통해 2027년까지 운전자 없이 작동하는 레벨 4 이상 자율주행 기술을 상용화할 계획이다. 이를 위해 올해부터 7년간 국비 1조974억원을 투입한다.
반면 자율주행차 기술 특성에 맞춘 법제도는 한국뿐만 아니라 전세계적으로 미비한 상황이다. 자율주행차 시범운행 중 발생한 사고 대다수에서는 기존 법을 빌려와 운전자나 차내 모니터링 담당자만을 처벌하는데 그쳤다.
사고가 발생한 자율주행차 기술 대부분이 레벨 2, 3 자율주행차 기술인 것도 운전석에 앉은 사람에 주로 책임을 물은 이유다. 테슬라의 주행보조기능으로 레벨 2 자율주행차 기술에 해당하는 오토파일럿이 대표적이다.
운전에 있어 인간 개입을 완전히 배제하는 레벨 4 자율주행 기술의 경우에는 이야기가 달라진다. 완전자율주행차 사고에서는 AI 기술을 제공하는 기업 측을 처벌할 가능성이 훨씬 커질 것으로 보인다.
AI 기술과 제조사에 책임이 돌아간 첫 번째 사례는 2016년 2월 발생한 구글의 레벨 4 자율주행차 사고다. NHTSA는 버스 운전자가 일반 운전자와 달리 양보하지 않는 성향이 있음을 고려하지 못한 구글 차량에 사고 책임이 있다고 판단했다.
구글 또한 자사 자율주행차 기술에 문제가 있음을 인정하고 소프트웨어(SW)를 개선하는 조치를 취했다. 가벼운 접촉사고인 만큼 이외 법적 조치는 이뤄지지 않았다.
접촉사고 이상으로 사고 규모가 커진다면 이야기가 달라진다. 완전자율주행차로 인한 대규모 사고 발생 시 책임은 기술 공급 기업 내 인력에 돌아갈 가능성이 크다. 기업 대표나 AI 개발자보다는 기술감독자(Technical Supervisor)가 법적 책임을 질 것으로 예상된다.
독일은 금년 2월 레벨 4 자율주행차 실용화를 위한 법 초안을 상정했다. 해당 법안에서는 차 바깥에서 원격으로 자율주행 기동을 외부에서 비활성화 혹은 해제할 수 있는 안전장치로 기술감독자를 지정할 것을 요구한다. 사고 발생 시 책임도 기술감독자가 져야한다는 의미다.
자율주행 기술을 범용인공지능(AGI)으로 바라봄에 따라 인간이 아닌 AI 기술 자체에 책임을 묻는 ‘AI 과실법’이 필요하다는 주장도 나온다. UCLA의 앤드류 셀브스트 교수는 지난해 10월 이와 같은 내용을 담은 ‘과실치사와 AI 사용자’ 논문을 공개했다.
다수 전문가들은 AI 기술 자체를 인간과 같이 취급하는 것은 보다 먼 미래에 논의할 일이라고 말한다. 자율주행을 비롯한 AI 기술 전반이 인간과 아주 유사한 형태를 갖추는 것에서 나아가, 같은 ‘인간’으로 취급받을 때 비로소 가능할 것으로 보인다.
◆완전자율주행 이전 기술은 현행법 적용 가능...인간 운전자 책임
자율주행차 사고 대다수의 주인공은 테슬라 오토파일럿이다. 즉, 현재까지 발생한 자율주행차 사고 대부분은 레벨 2 자율주행차로 인한 것이라는 의미다.
오토파일럿은 테슬라 차량에 탑재된 ‘첨단 운전자 보조 시스템(ADAS)’ 이름이다. 즉, 인간 운전자를 보조하는 역할에 그친다. 문제는 해당 기능을 완전자율주행으로 여긴 운전자가 졸음운전 등으로 계속해서 사고를 낸다는 것.
이와 같은 경우 과실은 운전대에 앉은 사용자나 모니터링 담당자에게 돌아간다. 운전에 주의를 기울이지 않았다는 이유로 운전자를 처벌하는 것은 기존 법으로도 가능하다.
법무법인 태평양 AI팀 소속 마경태 변호사는 “완전자율주행이 아닌 상황에서는 사실상 기존과 크게 다를 바가 없다. 과거와 다른 기준을 적용할 필요가 없다고 볼 수 있다”고 말했다.
완전자율주행 전단계에서 기술 공급 기업이 책임을 질 경우는 과장 광고 혐의가 인정됐을 때다. 테슬라는 이달 18일 자사 자율주행 기술을 완전자율주행 기능으로 과장 광고했다는 혐의로 미국 캘리포니타주 차량국 조사를 받게 됐다.
테슬라 차량에서는 오토파일럿과 함께 추가 옵션인 FSD를 제공하는데, 이를 레벨 4 이상 자율주행 기술처럼 각종 SNS에서 광고했다는 지적이다. 독일 뮌헨 법원에서는 이미 오토파일럿이라는 명칭을 사용하는 것에 대해 허위 광고라고 판결을 내리기도 했다. 미국에서도 같은 판결이 나올 가능성이 높다는 것이 전문가 의견이다.
테슬라 자문을 담당한 태평양 AI팀 이재규 변호사는 “테슬라에서 직접적으로 레벨 4라고 말한 적인 없다. 다만 사용자로 하여금 실질적으로 (완전자율주행이라고) 믿게 만들었다는 데서 허위 광고 판결이 날 가능성이 있다”고 설명했다.
그는 “한국과 달리 미국에서는 명확한 규정 이외 정황에 따라 책임을 묻는 경우가 많다. 개인정보와 관련해서도 법적인 규정을 어기는 것 이외에 계약 시 정황상 사용자에게 충분히 설명하지 않았을 경우 처벌하는 경우가 꽤 있다”고 덧붙였다.
◆완전자율주행에 맞춘 법제도 시급...사고 시 기술감독자 처벌
운전대에 사람이 필요한 레벨 3 자율주행까지는 기존 법으로 책임 소지를 판별하는데 큰 문제가 없다. 반면 인간 없이 자율주행차가 운전 전부를 담당하는 레벨 4 이상의 경우 새로운 법이 필요하다.
레벨 4 이상 자율주행차 사고에서는 사용자가 운전에 개입하지 않는 것이 원칙인 만큼 인간 운전자를 처벌할 가능성이 현저하게 떨어진다. 대신 기술을 제공하는 기업 측 인력에 책임이 돌아갈 가능성이 크다.
사고 발생 시 AI, 센서, 네트워크 등 어떤 기술이 문제를 초래했느냐에 따라 해당 기술 공급 기업이 처벌을 받는다. 자율주행기술에 문제가 있을 경우에는 자율주행 기술 공급 기업 내 인간 담당자가 책임질 확률이 크다. 전문가들은 기업 대표나 AI 기술자가 아닌 ‘기술감독관(Technical Supervisor)’을 가장 유력한 대상으로 지목한다.
독일은 금년 2월 자율주행차 상용화를 위한 법 초안을 상정했다. 해당 법안에서는 완전자율주행차 이용 시 안전을 위해 차량 바깥에서 원격으로 자율주행기능을 제어할 수 있는 기술감독관을 기업 내에 마련할 것을 요구했다.
현행 국제규정과 상호의존성을 확립하기 위해서는 자율주행 기동을 외부에서 비활성화 또는 해제할 수 있는 책임자가 필요하다는 것. 이는 기술감독에 의해 수행되며 기술감독은 AI가 아닌 인간만 가능하다.
이재규 변호사는 “호주와 미국을 비롯해 독일에서는 레벨 4 자율주행차 사고 발생 시 기술감독자에 책임을 물어야 한다고 제안한다. AI에 대해 후견인 제도를 적용한다고 보면 된다. 형법에서도 개를 시켜서 사람을 물게 한 경우 시킨 사람을 처벌한다”고 말했다.
AI 기술 자체를 개발하는 연구원에게는 책임이 돌아갈 가능성이 적다는 판단이다. 이 변호사는 “논란 가운데 있는, 아직 논의 중인 주제다. 그렇다 하더라도 개발 자체를 하는 사람보다는 기술감독자가 처벌 받을 가능성이 크다고 본다”고 전했다.
AI타임스 박성은 기자 sage@aitimes.com
[스페셜리포트]①안전, 자율주행을 바라보는 시선의 변화
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com