[AI 주간 브리핑] 인공지능 속여먹기

[편집자주] 한 주간 주요 인공지능(AI) 동향을 <AI타임스>가 정리해 드립니다. [AI 주간브리핑]을 보시며 주요 AI 이슈를 만나보세요. 본문 내 제목을 클릭하면 자세한 기사 내용을 보실 수 있습니다.

요즘 대중적인 인기를 모으고 있는 달리(DALL-E) 등 이미지 생성 AI 모델들은 여전히 악용될 가능성이 있다는 전문가들의 경고가 이어지고 있습니다. AI모델들이 내놓는 결과물들이 환상적이어서 뭔가 완벽할 것 같은 오해를 사람들에게 불러 일으키고 있지만 의외로 취약한 구석이 있다는 건데요.

미 컬럼비아 대학의 연구원이 AI의 신경망을 속이는 방법을 고안해 시험한 결과를 논문으로 발표했습니다. ‘falaiscoglieklippantilado’이라는 터무니 없는 단어를 만들어 달리2에 입력했더니 ‘절벽’의 이미지를 내놓더라는 겁니다.

이 논문은 "적대적 공격(adversarial attacks)은 신경망을 속여 입력을 잘못 분류하거나 문제가 있는 출력을 생성하도록 의도적으로 그리고 악의적으로 배포될 수 있으며, 이는 실제로 부정적인 결과를 초래할 수 있다"고 경고합니다.

“무엇이든 그려줄게”...DALL-E를 속이는 넌센스 언어

인공지능대학원 심포지엄(18일)에서 기조강연하는 이홍락 교수(사진=김미정 기자)

이렇게 AI가 아직은 인간이 주의깊게 사용해야 하는 수준이지만 주어진 일을 점점 더 스스로 해결하는 능력을 갖춰 나가고 있다고 이홍락 미시건대 교수이자 LG AI연구원 수석 과학자는 말합니다.

"복잡한 일도 스스로 해결하는 AI 시대 왔다"...이홍락 미시건대 교수

이홍락 교수가 소개한 최근 AI트렌드에 부합하는 연구결과도 지난 주 나왔습니다. 구글이 인간의 언어를 이해하고 스스로 생각해서 반응하는 로봇을 공개했습니다.

구글, 스스로 생각해서 반응하는 AI로봇 공개

AI업계에서 ‘4대 천왕’중 한 사람으로 불리는 얀 르쿤(Yann LeCun) 메타 AI연구소 수석과학자도 지난달 말에 발표한 논문에서 스스로 학습하는 AI를 만드는 아키텍처를 제안했습니다. 이 논문은 범용 인공지능(Artificial General Intelligence, AGI)가 가능하다고 믿는 전문가들로부터 크게 지지를 받고 있는 모양샙니다.

인간 수준의 지능을 가진 AI는 언제쯤 실현될 수 있을까?

인간 수준을 뛰어넘는 범용 인공지능(AG)의 출현 가능성에 대해서는 전문가들 사이에 아직도 이견이 있지만 분명한 건 AI의 발전은 쉼없이 이뤄지고 있다는 점이겠죠. 이어서 지난 주 나온 주요 소식들 전합니다.

새 기술 및 서비스들

아마존, 다국어 언어 모델 AlexaTM 공개

아마존(Amazon)이 음성 비서 알렉사(Alexa)를 개선할 수 있는 새로운 AI 언어 모델을 공개했습니다. 이 모델은 소량의 데이터로 새로운 작업을 학습할 수 있는 퓨샷 러닝(few-shot learning)이 가능한 seq2seq(sequence-to-sequence) 구조의 대규모 언어 모델입니다.

“반창고처럼 붙여”...피부 같은 뉴로모픽 칩으로 건강 데이터 분석

몸에 붙일 수 있게 웨어러블 형태로 만든 건강정보 수집 장비가 개발됐습니다. 미국 시카고 대학 연구진이 AI와 '뉴로모픽' 컴퓨팅 칩을 사용해 만들었는데요, 인간의 두뇌처럼 대량의 건강 데이터를 분석할 수 있다고 합니다.

틱톡, 텍스트를 이미지로 변환해주는 'AI 그린스크린' 도입

틱톡(TikTok)이 텍스트 프롬프트를 입력하면 인공지능(AI)이 관련 이미지를 생성해주는 'AI 그린스크린(Greenscreen)' 기능을 제공하기 시작했습니다. 이 기능은 기본적인 수준이지만 텍스트를 이미지로 바꿔주는 AI모델이 대중화의 길로 들어섰다는 것을 보여줍니다.

"2025년 우주로!"...천문연, 'SPHEREx' 망원경 성능 시험장비 만들어

한국천문연구원이 망원경으로 우주 적외선을 관측할 때 필요한 핵심 장비인 '극저온 진공챔버'를 개발했습니다. 이 장비는 미 항공우주연구원(NASA)의 ‘스피어엑스(SPHEREx)' 우주망원경 성능 시험에 활용된다고 합니다.

이어서 업계 소식들 전해드립니다.

업계 주요 소식

"샤오미 로봇, 넘어지면 혼자 못 일어나“

샤오미가 최근 깜짝 공개한 로봇 사이버원(CyberOne)이 넘어지면 혼자 일어서지 못한다는 지적이 나왔습니다. 샤오미의 홍보 영상을 보면 이 로봇은 넘어지는 장면이 반복적으로 나오지만 일어서는 장면은 없기 때문입니다.

25달러로 스타링크 시스템에 들어가는 방법

보안상의 약점을 공개 해킹을 통해 보완하려는 시도가 미국에서 활발하다고 합니다. 우리나라도 인식을 바꿔서 이런 개방적 태도를 가질 필요가 있다는 전문가들의 지적이 있습니다.

현대차 아이오닉 5, 미국서 로보택시 된다

미국의 자율주행 자동차업체 모셔널(Motional)과 차량공유 서비스 리프트(Lyft)가 현대차의 아이오닉 5를 개조해서 로보택시로 만든 뒤 운행하기로 했습니다. 자율주행 수준은 안전요원이 탑승하는 레벨4지만 이들 업체는 로보택시에 아무도 태우지 않고 우선 미국 라스베이거스에서 내년에 시범 운영을 해볼 계획입니다.

"AI가 교통사고 예측"...국토부, 'T-Safer' 시범운영한다

국토교통부가 교통사고 위험도를 AI로 예측하는 ‘T-Safer’의 시범운영에 들어갔습니다. T-Safer는 AI를 통해 사고 위험요인을 분석하고 해결책을 제시하는 교통사고 예측 시스템으로 교통안전 관련 빅데이터를 탑재했습니다.

"AI로 자연재해 대비한다"...과기정통부, 환경부와 협업으로 추진

정부가 디지털 트윈 기반으로 홍수 피해를 예측하거나 비전 기술로 화재를 탐지해 대비하는 체계를 구축하기로 했습니다. 과기정통부와 환경부가 함께 지구 온난화로 인한 자연재난에 대비하는 AI 체계를 강화한다고 밝혔습니다.

바이든, 기후 문제 해소를 위한 법안에 서명

바이든 미국 대통령이 이른바 “인플레이션 감소법(the Inflation Reduction Act)”으로 불리는 법안에 서명했습니다. 당장 현대자동차의 전기차가 이 법 때문에 미 현지에서 보조금 지급을 받지 못하게 되면서 가격이 뛰어 올라 타격을 받게 됐다고 하지요.

AI타임스 정병일 위원 jbi@aitimes.com