AI 한계와 맹점 찾아내 안전성 확보해야
지난주엔 바둑AI의 최강자라는 '카타고'가 젊은 연구자들이 만든 프로그램에게 어이 없이 패배했다는 소식이 관심을 모았습니다.
카타고는 미국 버클리 대학교의 박사과정 학생인 아담 글리브 등이 만든 프로그램과의 대국에서 귀퉁이만에 집을 짓는 전략에 속아 넘어갔습니다. 카타고는 상대 진영외에 다른 영역은 자신의 집으로 보고 이겼다고 판단해 대국을 중단했습니다.
이 대국 프로그램은 한 쪽이 패스(자신의 순서에서 두지 않고 상대에게 차례를 넘기는 것)를 하고 이어서 상대도 패스를 하면 게임을 종료합니다. 이후 양쪽의 집을 계산해 점수를 계산하는데요, 이 과정에서 카타고 진영에 놓여 있던 상대의 돌들이 완전히 잡힌 것이 아니라고 보고 카타고에게 점수를 주지 않았습니다.
결국 이 때문에 카타고가 진 것으로 판정이 됐는데요, 바둑을 잘 아는 독자들 사이에서 카타고(백)의 진영에서 상대(흑)가 살아남기 어려운 판세라 카타고의 패배가 아니라는 이의 제기가 있었습니다.
물론 카타고가 패스한 뒤 상대가 백의 진영에서 집짓기를 시도했다면 대국이 이어져서 카타고가 승리할 수도 있었겠지만 프로그램 개발자들은 의도적으로 패스를 선택해 대국을 끝내게 만들었습니다. 계가 프로그램이 카타고에게 점수를 주지 않을 것을 알았던 거죠.
카타고는 오픈소스 기반으로 누구나와 대국할 수 있는 AI여서 수백만 번의 대국을 하면서 최강의 기력을 갖게 됐습니다. 하지만 이 대국처럼 귀퉁이에만 집을 짓는 ‘필패 전략’을 쓰는 상대는 만난 적이 없었을 겁니다. 일부러 지려고 바둑 두는 대국자는 없으니까요.
아담 글리브 등 연구자들이 이 실험을 통해 지적하고자 한 것은 바로 이런 AI의 맹점, 학습하지 않은 것에는 대처하지 못하는 점입니다. 바둑이 아니라 안전이 중요한 영역, 예를 들어 자율주행과 같은 분야에서 이처럼 어처구니 없는 AI의 실수가 얼마든지 나올 수 있기 때문에 위험할 수 있다는 점을 부각하고자 한 것이죠. 따라서 최악의 상황을 가정해서 AI를 훈련해야 한다는 게 이들의 주장이었습니다.
AI는 이미 우리 생활 전반에 스며들어 있고 새로운 비즈니스를 창출하거나 산업기반으로 활용되면서 떼놓을 수 없는 기술이 됐습니다. 그만큼 AI의 안전성도 중요해지고 있습니다. 잘못되면 이전엔 우리가 경험하지 못한 종류의 피해나 부작용을 낳을 수 있기 때문입니다.
이 때문에 유럽연합에서는 AI의 안전성 확보를 위해서 AI의 위험도에 따라 등급을 나누고 이에 상응하는 규제를 적용하는 내용으로 법 제정을 추진하고 있지요. 인간의 안전과 기본권을 충분히 보장한다는 전제 아래 규칙을 만들고 유럽 각국의 비준 절차를 거치고 있습니다.
미국 정부도 최근 유럽 보다는 느슨하고 구속력도 없지만 향후 규제의 지침이 될 수 있는 ‘AI 권리장전’에 대한 청사진을 발표했는데요, 주목할 부분은 AI시스템에 대해 ‘인간 대안’을 반드시 마련해야 한다고 명시한 조항입니다. AI 프로그램에 문제가 발생하면 신속하게 대체할 수 있는 사람과 연락해야 한다는 내용인데요, AI에 대한 통제권을 인간이 가져야 안전하다는 것입니다.
AI는 지난 10년간 눈부시게 발전해왔고 요즘 특히 생성AI와 같은 놀라운 도구들도 내놓고 있지만 아직은 인간 수준(human-level)에는 훨씬 못 미친다는 데 AI 전문가들이 대부분 동의합니다. 따라서 이처럼 아직은 불완전한 AI 기술을 안전하게 성숙시키려면 한계와 맹점을 찾아 개선하려는 노력이 필요해 보입니다.
이어서 지난주 기술 동향 전해드립니다.
기술 동향
◼ 이미지 생성AI 도구인 스테이블 디퓨전의 스마트폰 앱이 나왔습니다. 아이폰에서 구동되는 ‘드로팅스(Draw Things)’라는 무료 앱입니다.
드로팅스를 처음 실행하면 앱은 SD 1.4 모델을 포함해 몇 가지 필요한 파일을 아이폰에 다운로드합니다. 그런 다음 화면 상단에 텍스트 프롬프트를 입력하고 ‘생성(Generate)’을 탭하면 됩니다.
모든 것이 로컬(스마트폰)에서 실행되기 때문에 다소 느리게 진행됩니다. 아이폰 11 프로에서 384×384 이미지를 생성하는 데 2분 조금 넘게 걸리고, 아이폰 14 프로에서 1분이 조금 넘게 걸립니다.
이미지 생성 AI가 모바일용으로 나온 것은 이번이 처음은 아닙니다. 국내 기업인 카카오브레인은 지난달 16일 AI 모델 '칼로'를 활용해 그림을 그리는 모바일 앱 '비 디스커버(B^DISCOVER)'를 구글 플레이스토어와 애플 앱스토어에 출시했습니다.
◼ 다른 이미지 생성 AI인 미드저니의 이미지 품질이 눈에 띄게 개선됐습니다. 현재 버전4에 대한 알파테스트가 진행중인데요, 이용자들의 반응이 긍정적입니다. “너무 쉽다”, “만든 게 아니라 실재하는 이미지 같다”는 반응이 나왔습니다.
기술매체 아스테크니카는 직접 시험해 보니 디테일이 크게 개선됐고, 프롬프트 이해 능력과 장면 구성이 더 좋아졌다고 평가했습니다. 특히 '포토리얼리스틱 이미지'를 만들어 본 결과 어떤 결과물은 해상도가 조금 낮은 실제 사진과 구별하기 어려웠다고 전했습니다.
미드저니는 알파테스트를 진행하며 단점을 수정해 나갈 계획입니다.
◼ 대표적인 사진 공유 및 판매 사이트인 게티이미지가 AI 생성 이미지에 대한 반대 정책을 철회했습니다.
국내 AI기업 이스트소프트는 게티이미지코리아와 'AI 이미지 생성 및 국내·외 유통 공동사업 추진을 위한 업무협약'을 체결했다고 밝혔습니다. 이스트소프트는 이번 협약을 계기로 이미지 생성 기술인 'AI 페르소나'로 신규 이미지를 만든 뒤 게티이미지코리아 유통망을 통해 판매합니다.
게티이미지는 앞서 "AI 생성 콘텐츠의 적법성에 대한 우려와 고객 보호의 필요성 때문에 달리나 미드저니, 스테이블 디퓨전 등 AI 도구를 이용해 만들어진 이미지에 대한 업로드와 판매를 금지한다"고 밝혔지만 이번에 빗장을 풀었습니다.
◼ 엔비디아가 미국 정부의 대중국 AI칩 수출 규제를 우회하는 방법을 찾아냈습니다. 이 회사는 미 정부의 대중국 수출 요건을 충족하는 그래픽처리장치(GPU) ‘A800’을 개발해 출시했는데요,
A800은 미 상무부가 수출 금지 품목으로 지정한 엔비디아의 GPU ‘A100’의 대안 제품입니다. A100과 A800의 주요 사양은 데이터 전송 속도를 제외하고 대부분 동일합니다. 데이터 전송 속도는 초당 400GB입니다. 미 정부의 수출 규정에 따르면 초당 600GB 미만의 제품만 수출할 수 있습니다. 수천개의 칩이 상호 연결되었을 때 성능을 제한하기 위한 조치입니다.
미국은 지난달 중국의 반도체 제조 부문을 대상으로 수출 규제안을 발표했고 이 조치로 엔비디아는 수억달러의 손실을 입었습니다.
이어서 업계 주요 동향 전해드립니다.
주요 업계 동향
◼ 실적 부진에 시달리고 있는 메타가 결국 1만1000명을 해고했습니다. 메타의 주가는 올해 70%가 떨어졌습니다. 회사측은 거시경제 지표의 악화를 강조했지만 투자자들은 비용 상승과 핵심적인 소셜미디어 사업의 위기를 우려해 왔습니다.
소셜 미디어 사업은 틱톡 등과의 경쟁에 따라 여러 분야에서 성장이 정체됐습니다. 메타의 주 수익원인 온라인 광고 시장은 코로나사태 진정으로 이용자가 감소하고 광고주들도 경기침체로 지갑을 닫고 있는데 따라 위축돼 일론 머스크가 인수한 트위터도 수천명의 직원을 해고하고 있고, 기업 소프트웨어 제공업체인 세일즈포스도 지난 주 감원을 시작했습니다.
◼ 애플의 확장현실(XR) 헤드셋이 내년 4월부터 판매될 것이라는 관측이 나왔습니다. 대만 디지타임스는 애플이 중국의 제조업체 페가트론을 생산 업체로 선정하고 내년 3월부터 XR 헤드셋 대량 생산에 돌입, 4월부터 애플 이벤트로 출시할 것으로 예상된다고 지난 10일 보도했습니다.
초기 공급량은 당초 추정했던 250만대 보다 훨씬 적은 70만~80만대 정도인 것으로 알려졌고 가격은 메타가 지난달 내놓은 '메타 퀘스트'보다 비싼 2000달러(약 275만원) 이상이 될 것으로 예상됐습니다. 메타의 헤드셋 '메타 퀘스트 프로'는 1499.99달러(약 206만원)였습니다.
◼ 엔씨소프트(NC)가 게임 내 대체불가토큰(NFT) 도입을 위해 미국 블록체인 기업 미스틴랩스에 1500만달러(약 206억원)를 투자했습니다. 미스틴랩스는 총 3억달러 규모의 시리즈B 투자 라운드에 NC가 참가, 전략적 파트너십을 구축했다고 밝혔는데요,
메타 임원 출신인 에반 쳉 CEO가 2021년 설립한 미스틴랩스는 자체 레이어1 블록체인 '수이'를 개발한 블록체인 기업입다. 지난해에는 삼성전자의 자회사인 삼성넥스트로부터 3600만달러 규모의 시리즈A 투자를 받기도 했습니다.
미스틴랩스는 "양사는 수이를 활용해 더 매력적이고 플레이어 중심적인 디지털 엔터테인먼트 경험을 만들기 위한 미래의 협력을 모색할 것"이라고 밝혔습니다.
이에 대해 NC는 구체적인 협업 계획은 밝히지 않았고 윤송이 NC 최고전략책임자(CSO)는 "우리의 비전을 공유하는 미스틴랩스와 협력하게 된 것을 기쁘게 생각한다"고 말했습니다.
◼ IBM이 큐비트 수가 기존 보다 세 배 많은 양자 컴퓨팅 칩을 개발했습니다. 큐비트 수가 433개로 기존 제품인 이글 프로세서의 127개보다 세 배 이상 많은 ‘오스프레이' 프로세서입니다.
양자 컴퓨팅은 0이나 1이 될 수 있는 2진수의 비트 대신 양자 정보의 최소 단위인 큐비트를 사용합니다. 큐비트 하나에 0과 1을 겹쳐 여러 연산을 한 번에 계산할 수 있어, 양자 컴퓨터는 기존 컴퓨터보다 연산 처리 속도가 훨씬 빠릅니다.
양자컴퓨터에서 큐비트의 숫자는 성능의 지표가 됩니다. IBM측은 “새 433 오스프레이 프로세서는 이전에 해결하지 못한 문제들을 양자 컴퓨팅으로 풀어내는 데 한 발 더 다가갈 수 있게 해줄 것”이라고 밝혔습니다.
정병일 위원 jbi@aitimes.com
무단전재 및 재배포 금지
기사제보 및 보도자료 news@aitimes.com