AI 외계인 사지 증후군과 자율주행차
상태바
AI 외계인 사지 증후군과 자율주행차
  • 윤광제 기자
  • 승인 2019.09.18 18:56
  • 댓글 0
이 기사를 공유합니다

 

(AI타임스=윤광제 기자) 사지를 조절할 수 없는 사람들에 대한 실제 문헌이 있다. 그것은 전형적으로 '외계인 사지 증후군'이라고 불린다.

아마 ‘닥터 스트레인지’에서 주인공이 팔과 손을 조절하지 못하며, 통제할 수 없어서 그 캐릭터가 더 괴상한 역할처럼 보인다는 것을 기억할 것이다. 이 영화를 정상 의학적 상태로 간주하기 위한 일종의 증거로 간주해서는 안된다.

어떤 사람들은 심지어 '외계인 사지 증후군'을 '닥터 스트레인지 증후군'이라고 부르기도 한다.

또한 이 결함을 '외계인 손 증후군'이라고 부르는 사람들도 있다. 비록 이 질환이 팔, 다리, 발, 그리고 근본적으로 모든 팔다리에 영향을 줄 수 있지만 말이다. 이것은 손만 해당하는 것은 아니지만, 손이 비교적 부각 받기 때문인 듯 하다. (특히 왼손, 주로 왼손에서 나타는 것 같다)

◆ 뇌와 신체 관련성
물론, 우리는 그 사람의 뇌에서 무슨 일이 일어나고 있는지 확실히 알 수 없다. 아마도 뇌의 한 부분은 팔과 손에게 그 행동을 하라고 하는 반면, 뇌의 다른 부분은 다른 부분이 그렇게 행동한다는 것을 모를 수도 있다. 그것은 뇌의 부분만을 사용하기 때문에 그들의 뇌가 그들의 팔과 손을 명령하지 않았다고 우리에게 말해주는 것일 수도 있다.

어떤 사람들은 '외계인 사지 증후군'이 정신과 육체의 분리라고 주장한다. 외계인 사지 증후군의 또 다른 흥미로운 요소는 때때로 한 쪽 사지가 다른 사지를 의도적으로 대응 하려는 점이다. 이것은 일반적으로 한 불순종 사지가 어떤 일을 하려고 하고 다른 불순종 사지가 개입하려고 할 때 발생한다.

◆ '외계인 사지 증후군'에 관련된 위험
'외계인 사지 증후군'에 걸릴 위험이 분명히 있다.

만약  '외계 사지 증후군'에 관심이 있다면, 그것을 유발하는 원인과 그것에 대해 무엇을 할 수 있는지를 발견한 많은 매혹적인 연구들이 있다. 밴더빌트(Vanderbilt) 대학에서 행해진 최근 연구에서, 연구원들은 전구체를 포함하는 뇌의 연결에 대한 결손을 추적하는 것처럼 보였다. 전구체는 종종 우리의 자유 의지와 우리의 기관이 만들어지는 것을 제공하는 뇌의 부분으로 여겨진다.

이 연구의 한 가지 중요한 측면은 이 증후군의 주범으로 여겨질 수 있는 뇌의 특정 영역이 한 군데도 없는 것 같다는 것이었다.

◆ '외계인 사지 증후군'과 컴퓨터 시스템 비교
숙련된 AI 개발자 겸 소프트웨어 엔지니어중 한 사람은 '외계인 사지 증후군'처럼 보이는 컴퓨터 시스템과 관련된 상황을 겪어 왔다고 증언한다.

한동안 잘 작동되던 시스템이 어느 순간 시스템의 범위를 벗어나 다른 영역으로 접근을 시도하려 한다는 지적을 받았다고 한다. 여러 가지 이유로 그와 연구팀은 원인을 찾는데 어려움을 겪었다. 일단 드러난 문제들을 해결한 후에 그들은 결국 자신들이 사용했던 오픈소스 틀로 문제를 좁혔다.

그러자 아니나 다를까, 그들이 의도하지 않았던 그 안에 깊숙이 숨겨져 있던 몇 개의 코드 라인을 발견했다. 그것은 악의적으로 보이지 않았고 아마도 원래의 개발자들이 포함하려고 생각했지만 나중에 수정하지 못한 잔여물이었을 것으로 추정했지만 결과적으로 그 시스템은 '외계인 사지 증후군'을 가지고 있었던 것이다.

◆ AI 자율주행차와 외계인 사지 증후군
이게 AI 자율주행 무인 자율주행차와 무슨 상관이 있을까?
사이버네틱 AI 자율주행차 연구소에서 자율주행차용 AI 소프트웨어를 개발하고 있다. AI 개발자들이 일반적으로 해야하는 한가지 측면은 '외계인 사지 증후군'이 AI 시스템의 나머지 부분을 덮치는 것을 막기 위해 시스템을 구축하는 것이다.

이것은 특히 실시간 시스템에서 매우 중요하며, 특히 자율주행차를 제어하는 실시간 시스템에서는 AI 자율주행차 안에서 행동하는 '외계인 사지 증후군' 때문에 심각한 인명 문제가 발생할수 있다.

좀 더 자세히 설명하자면, AI 자율주행차는 차원이 다양하다는 생각을 먼저 분명히 하고자 한다. 가장 높은 레벨은 레벨 5로 간주된다. 레벨 5 자율주행차는 AI에 의해 운전되고 있는 차이며 운전자는 포함되지 않는다. 레벨 5 자율주행차 설계를 위해 자동차 회사들은 심지어 가스 페달, 브레이크 페달, 그리고 핸들을 제거하고 있다.

왜냐하면 그것들은 인간 운전자들이 사용하는 도구 때문이다. 레벨 5 자율주행차는 사람이 운전하는 것이 아니며, 자율주행차에도 인간운전자가 등장할 것이라는 기대도 없다. 차를 운전하는 것은 모두 AI에게 달려 있다.

여기서 진정한 레벨 5 자율주행차에 초점을 맞춰보자. 레벨 5이하 자율주행차에도 많은 말이 나오겠지만 완전 자율형 AI 자율주행차는 이번 토론에서 가장 많은 관심을 받게 된다.

AI 운전과 관련된 일반적인 단계는 다음과 같다.
•센서 데이터 수집 및 해석
•센서 융합
•가상 월드 모델 업데이트
•AI 실행 계획
•차량 제어 명령 실행

AI 자율주행차의 또 다른 핵심 측면은 사람이 운전하는 자동차 가운데서도 도로를 주행한다는 것이다. 공공도로에는 AI 자율주행차만 있는 유토피아 세계를 추구하는 인공지능 자율주행차 전문가도 있다. 현재 미국에만 약 2억 5천만대의 일반 자동차가 있는데, 이 차들은 하룻밤 사이에 마법처럼 사라지거나 진정한 레벨 5의 AI 자율주행차가 되지는 않을 것이다.

실제로 사람이 운전하는 자동차의 사용은 아마도 수십 년 동안 지속될 것이고, 사람이 운전하는 자동차가 도로에 있는 동안 AI의 자율주행차의 등장은 일어날 것이다. 이는 자율주행차의 AI가 다른 AI 자율주행차뿐만 아니라 사람이 운전하는 차와도 경쟁할 수 있어야 한다는 의미인 만큼 결정적인 대목이다.

모든 인공지능 자율주행차가 정중하게 상호 교류하며 도로 상호작용을 예의 바르게 하는 단순하지만 다소 비현실적인 세계를 상상하기 쉽다. 그러나 그것은 가까운 미래에 일어날 일은 아니다. AI 자율주행차와 사람이 운전하는 자동차는 서로 대응할 수 있어야 한다.

복잡한 컴퓨터 기반 시스템에서 '외계인 사지 증후군'의 주제로 돌아가서, 정통한 AI 개발자들은 일어날지도 모르는 외계인 사지증후군에 대처하기 위해 그들의 AI 시스템을 구축할 필요가 있다.

레벨 5 이하의 자율주행차에는 반드시 사람이 타고 있어야 한다. 인간 운전사는 현재 그 차의 행위에 대한 책임자로 간주되고 있다. AI와 인간 운전자가 함께 운전 과제를 분담하고 있다. 이러한 공동 공유에도 불구하고, 인간은 항상 운전 과제에 완전히 몰두하고 운전 과업을 수행할 준비가 돼 있어야 한다.

◆ '외계인 사지 증후군'으로 각성하는 센서
먼저 센서 중 하나 이상이 기능고장이 날 수 있는 가능성부터 살펴봐야 한다. AI 자율주행차에 장착된 카메라 중 하나가 오류가 났다고 가정해 보면 이 카메라 장애로 인해 AI 시스템이 예상하지 못한 이미지가 쏟아 지거나 이미지가 분석이 시각적 장애 발생할 수 있다.

이는 나머지 AI 체계가 이런 '외계인 사지 증후군'을 처리할 수 있도록 사전 준비하지 않으면 상당한 문제가 생길 수 있다.

또 다른 오류는 카메라와 센서 융합 중인 레이더가 데이터 상에 충돌이 일어날 경우 그 센서들 중 AI는 ‘어느것을 믿어야 하는가?’ 하는 문제가 발생할 수도 있다.

그 외에도 운행중 도로상 정보가 제대로 업데이트 되지 못할 때 문제가 발생할 수 도 있다는 가정이 가능하다. 이와같은 예는 AI가 오류 감지 중 예상 밖 행동을 탐지할 수 있는지 없는지가 또 다른 종류의 문제라는 것을 지적한 부분이다.

◆ 외계 사지 증후군의 반전
고려해야 할 내용이 더 있다. AI가 실제로 적절하게 기능하고 있는 것을 '외계인 사지 증후군'으로 잘못 감지할 수 있다. 위험한 것은 만약 AI가 의심요소를 무시하거나 다른 방법으로 취급하는 것을 선택할 경우 그것이 센서든 다른 어떤 구성 요소 든 간에 AI는 잘못하고 있는 것이기 때문이다.

AI 시스템에 의도적으로 내장된 탐지가 있더라도 외계인의 사지 증후군이 발생했을 때 그것을 잡지 못할 가능성이 있다는 점은 결코 간과해서는 안된다.

◆ 결론
AI 시스템만 놓고 보면 '외계인 사지 증후군'을 의식하지 못하는 AI 개발자들도 있다. AI 시스템의 구성 요소가 제대로 작동하고 있으며 그 안에 일종의 자가 오류 검사를 한다는 것이 이들의 가정이다. 따라서 나머지 AI 시스템은 부품 자체가 제대로 작동하지 않을 때 나머지 AI 시스템에도 알려주기 때문에 부품에 대해 걱정할 필요가 없다.

외계 사지 증후군은 특별히 구성 요소 자체에 오류가 있는 것은 아니다. 내부 자체 점검은 대개 OK로 나타나며 제대로 작동하고 있음을 나타낸다. 그것은 구성 요소가 스스로 작동하거나 활성화하는 것을 선택하는 것보다 구성 요소를 호출하고 원하는 대로 작동시키도록 하는 것에 더 가깝다.

AI 자율주행차의 경우 AI 시스템의 ‘사지’ 중 하나가 활성화 될 때마다 활성화 하도록 선택한다면 혼란을 초래할 수 있다.

여기서 언급한 ‘사지’는 센서, 센서 융합, 가상 세계 모델, AI 액션 플래너, 그리고 자동차 제어 명령을 포함한 AI 시스템의 모든 구성요소를 가리키는 은유이다.

갑자기 방향을 바꾸거나 브레이크를 밟는 AI 자율주행차는 모두 외계 사지 증후군으로 일어난 현상이다. 따라서 자율주행차용 AI 시스템은 '외계인 사지 증후군'을 감지하고 행동할 수 있도록 준비해야 하며, '외계인 사지 증후군'이 추종을 불허하는 행동을 일으키기 전에 반드시 개발해야한다.

이는 AI 자율 주행차를 개발하는 자동차 회사나 기술 회사 들에게 그들이 만든 자율주행차에서 일어날지도 모르는 ‘통제불능 상태’를 미리 대비하라고 전달하는 ‘의학적 조언’이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토
  • 염태영, "자립형 신재생 에너지 전환...이뤄야"
  • SK텔레콤-광주광역시, 지능형전력망으로 ‘에너지 프로슈머’ 시대 선도
  • 유휴부지 등 국토 공간 활용 태양광 나선 공기업과 민간기업
  • 김경수 지사 "재생에너지 확대는 세계적으로 거스를 수 없는 원칙"
  • 세계재생에너지총회(KIREC Seoul 2019) 개막
  • 한·중, 전력망·LNG·재생에너지 분야 협력 강화 모색