자율 주행 기능, 보행자 인식 못해서 ‘자동차, 자전거'로 분류해
차 운전은 지속적인 생사 결정 문제, AI 의인화는 위험한 생각
경로 인식할 필요성 줄면서, 실시간 위험에 집중해 안전에 유리
최근 도요타 최고 경영자인 도요다 아키오(明夫豊田) 사장이 지난해 패럴림픽 사고 후, 자율주행 시스템의 빠른 개발에 대한 우려를 표명했다고 독일 자동차 전문매체 카스쿠프스(CarScoops)가 지난 12일 보도했다.
지난달 26일 도쿄 패럴림픽에서 운행하는 자율주행 전기차 e-팔레트와 시각장애 선수가 T자 교차로에서 충돌해 부상을 당하는 사고가 발생했다. 이에 도요타 측은 자율주행차의 운행을 전면 중단한다고 밝혔다.
자율주행 자동차 사고는 그 이전에도 여러 번 발생했다. 지난 2018년에는 우버 테크놀로지스사의 자율주행차가 미국 애리조나에서 일으킨 보행자 사망사고로 차량 내에 탑승했던 보조 운전사가 과실치사 혐의로 지난해 15일 기소되기도 했다.
이 사고는 지난 2018년 3월 애리조나주 템피(Tempe)에서 우버의 자율주행차 시험주행 중 자전거를 밀면서 도로를 횡단하던 일레인 허츠버그(49) 씨를 치어 숨지게 한 사건.
미국 애리조나 템피에서 일레인 허즈버그를 친 자율주행차는 운전자가 브레이크, 핸들, 가속페달 등을 제어하지 않아도 주행 시 외부 정보 감지 및 처리기능 등을 통해 스스로 주변 환경을 인식하고, 주행 경로를 결정하는 자동차다.
무인 자동차(driverless car)와 달리 보조 운전자가 차량 내에 동승하지만, 주행에 관여하지 않는다.
이 당시 차에는 보조 운전사 라파엘로 바스케스(Raphael Vazquez)가 타고 있었고 그는 사고 당시 TV 프로그램 더 보이스(The Voice)를 시청 중이었던 것으로 전해졌다.
그는 지난해 9월 15일 재판소에 첫 출정했으며 올해 2월 공판이 시작됐다.
자율 차, 피해자 사람으로 인식 못 해
당시 연방 교통안전 위원회(NTSB) 조사관들은 지난 2018년 5월과 2019년 11월에 각각 보고서를 제출했다. 공개한 보고서를 인용해 보도한 NBC 뉴스에 따르면, 우버의 이 자율주행차는 볼보 SUV로 운전자 바스케스를 태우고, 야간 자율모드에서 시속 40마일로 주행하고 있었다.
보고서는 이 차가 건널목 근처에 물체가 있지 않은 한 보행자로 분류할 수 있는 능력을 갖추지 못했다고, 분석했다. 즉, 피해자 허즈버그를 보행자로 인식하지 못해서 ‘자동차, 자전거, 그리고 다른 것’의 분류를 번갈아 가면서 시도했다는 것이다.
그러나 최종적으로, 이 자율 차는 자전거로 인식했지만, 이 자전거를 밀고 오는 그녀의 길을 정확하게 예측하지 못했는데 그녀를 치기 1.3초 전에 브레이크를 밟아야 했었다는 결론을 내렸다고 NBC는 보도했다.
한편, 지난달 애플의 자가운전 자동차가 캘리포니아에서 두 건의 사고에 연루됐다고 중국 IT 전문 미디어 기즈모 차이나(Gizmochina)가 지난 11일 밝혔다.
캘리포니아 DMV의 자료를 바탕으로 한 웹사이트 뉴스 맥루머스(McRumors) 보도에 따르면, 보고된 두 사건 모두 지난달에 일어났다. 첫 번째 사건은 8월 19일 캘리포니아 샌디에이고 힐크레스트 지역에서 렉서스 RX 450h가 현대차에 치인 사고다. 이 사고는 경미해 부상자가 없는 것으로 전해졌다.
두 번째 사건은 8월 23일, 애플 파크 캠퍼스 근처의 캘리포니아 쿠퍼티노에서 일어났다. 애플의 자율 주행 장비가 장착된 차량이 수동 모드에서 스바루 아웃백에 의해 추돌된 사고다. 이 두 사건 모두 자율주행 기술을 가진 애플 자동차나 운전자의 잘못은 없는 것으로 알려졌다.
완전한 자율은 너무 큰 도약
애리조나 사고가 일어나기 전만해도 이 자율주행 기술에 대한 신뢰도는 사상 최고였다고 BBC 뉴스가 지난해 9월 16일 보도했다.
일론 머스크에서 필립 해몬드 영국 총리까지 모든 사람은 로보택시와 다른 무인 자동차들이 2년 안에 도로를 달릴 것이고 교통 혼잡을 줄이고, 도로 안전에 큰 도움을 줄 것이라고 말했다고 뉴스는 전했다.
하지만 미 애리조나에서의 사망사고는 그 자신감을 꺾었으며, 자동차가 완전한 자율성을 향한 여정에서 머신러닝이 아무리 똑똑하더라도 로봇과 인간의 혼합은 진정한 도전이 되리라는 것을 보여주었다고 평가했다.
우버는 테스트 프로그램을 잠시 중단해야 했을 뿐만 아니라 구글의 웨이모와 같은 경쟁사들도 그들의 재판에서 눈에 띄게 더 신중해졌다고 보도했다.
“완전히 자율적으로 가는 것은 너무 큰 도약이어서 가장 용감한 기술 회사도 먼저 가는 것에 대해 매우 조심스러울 것”이라고 뉴스는 평가했다.
AI 구동 시스템 지각력 없어
자율주행차(AV)의 운행은 센서 정보와 일부 인공지능(AI) 알고리즘을 기반으로 한다. 따라서 차량은 데이터를 수집하고 궤적을 계획하며 주행을 실행해야 한다.
특히, 마지막 두 가지 작업에는 비전통적인 프로그래밍 접근법이 필요하며, AI의 일부인 머신러닝 기법에 의존한다.
물체 감지는 움직이는 차량에서 AI가 처리해야 하는 가장 중요한 작업 중 하나다. 일반적으로 사용되는 알고리즘은 신경망을 사용해 작업을 수행하는 딥러닝 알고리즘이다
지난 8일 AI 전문가 랜스 엘리엇(Lance B. Eliot)박사는 포브스에 자율주행차의 안전성과 인공지능의 관련성에 대한 칼럼을 썼다.
엘리엇 박사는 “인공지능 운전 시스템이 생사를 결정하게 될 것”이며. “당장 논의해야 할 문제는 인공지능 구동 시스템의 AI가 지각력이 없다는 사실이다”고 못박았다.
그는 “자동차 운전은 지속적인 생사를 결정하는 것”이라고 주장하면서, “요즘 AI를 의인화하는 경향이 많은데 이는 위험하다는 것을 알아야 한다”고 역설했다.
한편, 지난 2018년 3월 26일, CBS 뉴스는 애리조나주 템피에서 발생한 무인 자동차 사망사고를 특집으로 다뤘다.
특집 방송에서 제리 에드거튼(Jerry Edgarton)은 “무인 자동차와 보행자가 관련된 첫 번째 치명적인 사고는 기술에 대한 회의론자들의 우려를 완화하지 못할 수도 있다”고 말했다.
템피 사고는 일부 마니아들이 2020년까지 무인 자동차가 널리 보급될 것이라는 예측의 시간표를 늦출 수 있으며, 국회의원들은 더욱 엄격한 규제를 요구함으로써 개발에 제동을 걸 수도 있다고 그는 주장했다.
에드먼드 닷컴의 산업 분석가 제시카 콜드웰(Jessica Caldwell)은 “대부분 사람은 여전히 무인 자동차의 안전에 대해 매우 회의적이다.”라고 지적했다.
심층 신경망이 운전 더 잘해
자율주행차의 앞날에 우울한 전망만 있는 것은 아니다. 아직도 많은 사람이 자율주행차의 길에 장밋빛 미래를 예상하고 있다.
최근 IHS 오토모티브에 따르면, 자율주행 자동차는 오는 2035년 글로벌 자율주행 자동차의 판매가 2100만 대에 이를 것으로 전망했다. 이는 2014년 1월의 예상치였던 1180만 대보다 두 배 가까이 높은 것이다.
일부 글로벌 자동차 기업들은 시범 운행에도 성공하고 있으며, 많은 회사에서 자율주행차에 투자를 아끼지 않고 있는 실정이다. 최근 국내에서도 정부의 허가를 받아 지난 2016년 3월 이후부터 자율주행차의 첫 시범 운행이 시행됐다.
반도체 기업 마이크론 테크놀러지는 자사 블로그에 올린 ‘완전한 자율성으로 가는 길’이란 주제의 글에서 “자율주행차는 인공지능의 혁신적인 메모리에 의존할 것”이라고 주장했다.
블로그는 지난 2017년 미국에서 거의 4만 명이 도로에서 사망했는데 미국 도로교통안전국(NHTSA)에 따르면, 이러한 사고의 약 90%가 사람의 실수에 의한 것이며, 무인 자동차는 위험한 졸음, 장애, 산만해진 운전자들을 도로에서 몰아낼 것이라고 주장했다.
아울러, 자율주행차는 인공지능(AI) 네트워크가 교통 상황에서 무엇을 어떻게 보고 올바른 결정을 내리는지를 이해하기 위한 광범위한 훈련이 처음에 수행돼야 하는데 현재까지 개발된 다른 소프트웨어 플랫폼보다 더 많은 코드 라인을 포함할 것으로 예상했다.
즉, 이는 자율주행 플랫폼에 필요한 컴퓨팅 성능을 지원하기 위해 초당 1TB 이상의 메모리 대역폭이 필요하다는 설명이다.
이렇게 엄청난 메모리들은 센서 융합 프로세싱, 경로 계획 또는 블랙박스 데이터 레코더와 관련된 스토리지 서브 시스템 등에 쓰이며, 자율주행차의 수많은 장치는 목적지로 안전하게 갈 수 있는 가장 좋은 경로를 탐색해준다는 것이다.
이에 경로를 인식할 필요성이 줄어들면서, 자동 컴퓨터의 관심은 교통, 보행자 및 기타 잠재적인 실시간 위험에 집중될 수 있어 유리하다고 주장했다.
마이크론 임베디드 사업부의 전문가 로버트 비엘비(Robert Bielby)는 “자율주행차는 심층 신경망 알고리즘을 채용해 사람이 운전하는 자동차보다 운전을 더 잘할 수 있다”라며, “센서들이 융합해 전체 환경을 360도, 24/7로 더 멀리, 그리고 더 높은 정확도로 볼 수 있다“고 자신 있게 말했다.
한편, 안전성이 확보된다고 해도 여전히 큰 문제점으로 남는 것이 바로 경로 계획이다. 어느 길목에서 사고가 났는지, 어느 정도로 정체되고 있는지 등의 도로상황을 빠르고 정확하게 판단해 최적의 경로를 운전자에게 전달하는 이 기능은 결국 인공지능의 판단 문제로 귀결된다는 것이 전문가들의 조언이다.
소프트웨어 개발 업체 인텔리아스(Intellias)는 자사 블로그에 자율주행 기술은 정교한 경로 계획 알고리즘, 정밀한 지리 위치 측정 및 딥 러닝 기능 등과 같은 새로운 기술이 도입되고 있다고 전했다.
자율주행에 있어 경로 계획은 매우 중요하며 실제로 자율주행 차량을 개발하는 기업 중 가장 수요가 많은 기술이 바로 경로 계획이며 효과적인 경로 계획 알고리즘은 자율주행을 진정으로 실현 가능하고 안전하고 빠르게 만들 것이라고 설명했다.
아울러, 이전에는 무관했던 소프트웨어 기업들이 새로운 방법을 찾기 위해 수백만 가지 가능성을 창출하면서 전 세계적인 확장을 하고 있다고 밝혔다.
AI타임스 조행만 객원 기자 chohang5@kakao.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com