내년 인공지능(AI) 예측에서 가장 많이 등장하는 단어는 역시 AI 에이전트입니다. 거의 모든 내년도 예측의 핵심으로 자리 잡았습니다.
에이전트는 우리가 꿈에 그리던 업무 완전 자동화의 첫 단계라는 점에서 주목받고 있습니다. 인간처럼 업무를 지시하면 알아서 자료를 수집하고 이를 검토하고 수정해 결과물을 가져다준다는 개념입니다.
이중 각 에이전트에 업무를 분담하고 결과를 취합하는 '메타 에이전트' 또는 '오케스트레이션 에이전트'의 중요성도 부각되고 있습니다. 이는 현재의 AI 모델 수준만으로도 이를 여러대 잘 엮으면 최적의 결과를 낼 수 있기 때문입니다.
그리고 주목할 것은 인관과 AI의 협업이 새로운 차원에 접어들며, 이에 따른 새로운 패러다임이 필요하다는 주장입니다. 언뜻 와닿는 내용이 아니라서 '무슨 소리야'라며 지나칠 만도 합니다.
그러나 '챗GPT'가 등장하기 이전에는 AI 때문에 표절이나 딥페이크 문제가 생길 것을 예상한 사람은 거의 없습니다. 에이전트도 본격화하면, 인간과의 협업 관계가 중요한 문제로 떠오를 수 있다는 분석입니다.
우선 에이전트가 내놓은 결과물에 대한 책임 소재가 문제가 될 수 있습니다. 이를 지시한 사람의 행위로 봐야 할지, 아니면 에이전트를 공급한 회사의 문제로 봐야 할지가 대표적입니다.
더 중요한 문제는 과연 인간과 AI 에이전트가 어떤 업무에 어떻게 조합할 때 최상의 결과를 내느냐는 점에 대한 것입니다. 이는 현재 생성 AI를 업무에 도입하는 과정에서도 발생합니다. 회사나 업무에 따라서는 생성 AI가 엄청난 도움이 될 수 있지만, 어떤 경우에는 AI가 인간 업무량만 늘리는 결과가 발생할 수 있습니다.
기사 작성이 좋은 예입니다. 챗봇은 여기저기 흩어진 정보를 잘 취합하지만, 이를 의도에 맞춰 재구성하는 것은 오로지 기자의 몫입니다. 수집할 자료가 많지 않은 경우에는 기자가 글을 직접 작성하는 게 더 빠릅니다. 챗봇의 글을 수정하는 것이 더 번거로운 경우가 대부분입니다.
이런 과정을 거쳐 내년부터는 효과적인 업무 조절에 따라 '인간-AI 집단지성 시대'가 처음으로 시작될 것으로 보는 전문가도 있습니다.
이 과정에 발생하는 AI의 잘못된 출력에 따른 위험성이나 인간의 일자리 문제, 나아가 AI를 하나의 노동자로 취급하면 발생할 수 있는 'AI 인권' 등에 대한 문제도 불거질 것으로 봅니다. 불과 1~2년 전만 하더라도 SF 같은 이야기였지만, 이미 해외에서는 이에 관한 논의가 시작됐습니다. 앤트로픽이 좋은 예입니다.
즉, 기업들에게는 AI 도입에 따른 효율성이나 비용 등이 지금까지 주요 이슈였지만, 앞으로는 AI 거버너스와 규제 등에 대해 더 깊은 논의가 필요하다는 지적입니다. 또 이 문제는 대부분 사람에게는 남의 일처럼 들렸던 것이 사실일 텐데, 앞으로는 그렇지 않을 것이라는 말입니다. 내가 다니는 직장에 나보다 빠르게 밤새워 일을 척척 해내면서 군말 한마디 없는 후배가 입사했다고 생각하면 어떨까요. 과연 우리는 어떻게 대처해야 해야 할까요.
지금까지 AI 거버넌스나 규제가 'AI 업계의 문제'로 비졌다면, 앞으로는 그렇지 않을 수도 있다는 것입니다. 특히 최근 등장하는 모델은 이미 특정 분야에서 박사 수준 이상의 능력을 보이는 현실입니다.
물론 이는 내년도 예측 중 하나에 불과하고, 아직 체감하기에는 많이 부족합니다. 또 당장 무엇을 해야 할지도 막연합니다.
하지만 AI를 도입하려는 기업 등에서는 단순히 생산성을 넘어 AI 도입에 따른 영향에 대해 좀 더 고민해 보라는 뜻입니다. 일단 AI를 도입해 성과를 거두면, 과거로 돌아가기는 쉽지 않을 것이 뻔하기 때문입니다.
이어 주말 주요 뉴스입니다.
■ [2024 결산] (4) 'AI'로 치고 나간 삼성, 진검승부는 내년부터
갤럭시 AI를 전면에 내새운 올해 삼성전자의 AI 전략을 분석했습니다. 단순 AI 탑재를 넘어 전장한 차별화를 이루려면 '사용자 사례', 즉 유즈 케이스 구축이 시급하다는 내용입니다. 내년부터가 갤럭시 AI의 본격적인 시작이라고 볼 수 있습니다.
■ 딥시크, 오픈 소스 사상 최대 규모 LLM 출시..."GPT-4o 따라 잡았다"
중국 딥시크가 역대 가장 큰 규모의 오픈 소스 LLM을 출시했습니다. 그리고 성능도 오픈 소스 최강을 넘어 GPT-4o를 능가한다고 밝혔습니다. 중국은 이 문제로 미국을 또 따라잡았다고 흥분하고 있습니다.
■ 오픈AI "구글·아마존서 챗GPT 판매하고 싶어"...MS와 영리기업 전환 협상 진통
영리 기업 변환을 선언한 오픈AI가 최대 주주인 MS와 협상에서 의견차를 보인다는 소식입니다. 그리고 2030년까지는 오픈AI가 MS를 벗어나기 어렵다는 게 핵심입니다.
AI타임스 news@aitimes.com
