자율주행 시스템을 속이기 위해 인간 대신 곰돌이 인형을 운전석에 앉혀 운전에 성공한 동영상이 논란을 일으키고 있다.
전문매체 인버스는 4일(현지시간) 'AI 중독(AI ADDICTED)'이라는 유튜브 채널이 '테슬라 운전자 모니터링 시스템-얼마나 잘 작동합니까(Tesla Driver Monitoring System-How well does it work)'라는 영상을 통해 운전자 없이도 운전자 보조 기능이 작동하는 장면을 공개했다고 소개했다.
이에 따르면 비디오 게시자는 테슬라 '완전자율주행(FSD)' 시스템의 운전자 감지 기능을 속이기 위해 사람 대신 큼지막한 테디 베어 인형을 운전석에 앉혀 놓고 10분 동안 차량 운행에 성공했다고 주장했다.
국제자동차기술자협회(SAE) 레벨 2에 해당하는 '운전자 지원 기능'은 정해진 조건 내 시스템이 방향과 속도를 제어하지만, 운전자는 전방을 주시하며 주행에 적극 개입해야 한다. 따라서 시스템은 카메라를 통해 운전자를 모니티링한 뒤 작동하게 돼 있다.
그러나 실험자는 큼직한 곰인형으로 시스템을 속인 것은 물론 샴페인병 모양의 대형 풍선, 심지어는 길쭉한 막대기를 세워 두고도 시스템이 가동하는 모습을 보여 줬다. 그리고 이렇게 움직인 자동차는 인형이나 구조물과 충돌하는 모습을 보였다.
인버스는 "표면적으로는 코믹한 시연 장면이지만, 원칙적으로는 악몽"이라고 지적했다.
또 이번 실험이 테슬라를 비판하기 위해 억만장자 댄 오다우드가 운영하는 '던 프로젝트'의 지원으로 진행했다는 점에 주목할 필요가 있다고 밝혔다. 댄 오다우드와 던 프로젝트는 지난 2월 슈퍼보울 결승전에서도 수십만달러를 투입해 테슬라 자율주행을 비난하는 광고 영상을 만든 바 있다.
이 영상에는 190개 이상의 댓글이 달리는 등 논란이 벌어지고 있다. "테슬라는 운전자 모니터링을 위해 추가 장치를 도입할 필요가 있다"는 내용이 대부분이지만, 일부는 "오다우드 지원으로 진행한 실험이라 의도가 너무 뻔한 것 같다"는 의견을 보이기도 했다.
임대준 기자 ydj@aitimes.com
