지난주 미국 실리콘밸리에서는 AI 기업들의 집단 반발을 일으킨 일이 있었습니다. 캘리포니아주 의회가 이달 말 인공지능(AI) 규제법을 도입할 것이라는 소식입니다.
이 법은 AI로 인한 대량 살상이나 악의적인 행위, 사이버 공격 등을 예방하자는 의도로 추진되고 있습니다. 또 이에 해당하는 첨단 모델 개발사가 안전장치를 마련하는 데 초점이 맞춰져 있습니다.
그럼에도 AI 기업들은 난리입니다. 아직 일어나지도 않은 재해 때문에 AI 산업에 재해를 불러일으킬 수 있다는 지적입니다. 구체적으로는 AI를 악용한 사람이 처벌받아야지 왜 기업을 처벌하려는 것이냐는 말입니다. 프론티어 모델에 대한 기준이 애매모호한 것도 지적됐습니다.
최근 국내에서도 AI 규제법을 둘러싸고 이런저런 이야기들이 많이 나왔습니다. 국내에서는 미국식이냐, 유럽연합(EU) 방식이냐에 초점이 맞춰진 것 같습니다. 규제가 좀 느슨하면 미국식, 반대의 경우를 EU식이라고 보는 것 같습니다.
하지만 실제 내용은 꼭 그렇지도 않습니다. 미국이나 EU나 일반 AI 모델을 무차별로 규제하자는 것이 아닙니다. 인류 실존에 위협이 될 만한 첨단 모델의 경우, 미리 안전 검토를 거치자는 내용이 공통입니다.
다만 EU의 AI 법이 미국보다 강하게 느껴지는 것은 학습 데이터 출처를 밝히라는 점 때문입니다. 하지만 그 기준도 확실하게 정해진 것이 아니며, 데이터셋에 포함된 모든 내용의 저작권을 확인하는 것이 사실상 가능한지도 지적되고 있습니다.
그런데 과연 국내에는 인류 실존에 위협을 줄 프론티어 모델이 있을까요. 또 모델 학습 데이터를 모두 밝히라고 하면, 과연 일정 수준 이상의 성능을 갖춘 모델이 등장할 수 있을지도 의문입니다.
여기에 '선허용·후규제'라는 말이 계속 등장하고 있습니다. AI 분야는 물론, 19일에는 메타버스 관련 법에서도 이런 내용이 또 등장했습니다. 언뜻 들으면 큰 문제가 없어 보입니다.
그러나 이는 당연한 말입니다. AI가 불법 무기나 인간 생명이 걸린 문제가 아닌 이상, 서비스를 '허용'한다는 것 자체가 이상한 논리입니다. AI 서비스를 정부가 사전 검열하는 곳은 전 세계에서 중국밖에 없습니다. 인도에서는 지난봄 검열 방침을 밝혔다가 세계적인 비난을 받았습니다.
지난해부터 해외에서는 AI 규제가 정부의 치적으로 포장되는 분위기입니다. 미국에서는 다른 나라에 주도권을 빼앗기지 말자는 말도 공공연하게 나왔습니다.
하지만 아무리 좋은 AI 법을 만들어도 그 나라의 영향력이 작으면, 아무도 관심을 가질 리 없습니다.
국내에서 세계 최초의 AI 법이 등장한다고 과연 해외에서 관심을 둘까요. 그리고 국내 AI의 경쟁력은 냉정하게 세계 몇위쯤 될까요. 진짜 문제는 이 점이 아닐까요.
이어 19일 주요 이슈입니다.
오픈AI가 지난달 공개한 서치GPT 대기자 명단을 마감했습니다. 생각보다 많은 요청이 몰렸다는 설명입니다. AI 챗봇이 검색을 과연 대체할지 주목됩니다.
■ "LLM, 귀납적 추론에는 강하지만 연역에는 매우 약해"
LLM은 패턴을 찾아내는 귀납에는 강하지만, 지시를 따르는 연역에는 약하다는 연구 결과가 나왔습니다. 이런 특성을 이해하고 사용해야 한다는 내용인데, 사실 그게 더 어려워 보입니다.
'유디오'로 생성한 노래가독일 팝 차트 50위 안에 들었다는 소식입니다. 드디어 AI가 음악시장을 뒤집어 놓을 지 주목됐지만, 사실 이 노래가 관심을 끈 이유는 인종차별적인 가사 때문이라고 합니다.
AI타임스 news@aitimes.com
