포지큐브(대표 오성조)는 4일 서울 드리움 포레스트홀에서 한국마이크로소프트와 '인공지능(AI) 트랜스포메이션 세미나'를 개최, 기업에서 생성 AI를 효과적으로 활용하는 노하우를 공유했다.
오성조 포지큐브 대표는 첫 세션 강사로 등장, '프롬프트의 중요성'을 강조했다.
우선 대부분 챗봇 사용자가 문장 하나에 많은 지시어를 입력한다고 지적했다. 예를 들어 식품에서 이물이 발견됐을 경우 과태료를 알기 위해 법률 관련 조언을 얻을 때 '부대찌개에서 머리카락이 나왔을 때 과태료를 알려줘'라고 입력하는 식이다.
하지만 대형언어모델(LLM)은 '머리카락'이라는 단어를 '이물'이라는 법률 용어에 대응하거나 '부대찌개'를 '식품'에 연결하기는 매우 어렵다고 설명했다. 이때는 '기존 법률에서 유사하거나 비슷한 표현이 있는지 유추해서 알려줘'라는 추가 지시만 사용해도, LLM의 성능은 비약적으로 올라간다고 말했다.
모델 성능이 중요한 것은 사실이지만, 효과적인 데이터 입력 및 프롬프트 입력으로 업무 효율을 훨씬 끌어올릴 수 있다는 주장이다.
오 대표는 "그러나 프롬프트에 '정도'라는 것은 없다. 끈기 싸움이라고 봐도 된다"라며 사용자의 경험이 중요하다고 전했다.
검색을 거치지 않고 사용자가 직접 정보를 입력해 증강하는 최신 트렌드 '노 리트리벌(no retrieval-induced)'을 소개했다. 상기한 법률 문제처럼 조건 및 지시를 추가한다는 점에서 '원 리퀘스트' '투 리퀘스트' 등으로 불러도 된다고 설명했다.
특히 MS 코파일럿 등 상용화된 생성 AI와 대화를 나눌 때도 '프롬프트 입력'만으로 성능을 끌어올릴 수 있다고 말했다. 2~3년 뒤에는 AI가 평준화, 이런 방식이 더 유용해질 수도 있다고 덧붙였다.
물론 포지큐브 등 전문 기업이 '모델 튜닝'을 거치면 LLM은 더 비약적인 성능 향상이 이뤄진다고 강조했다.
한편 포지큐브는 '로비 지(robi G)' 솔루션을 직접 체험해 볼 수 있도록 시연하고 있었다. 로비 지는 애저 오픈AI 기반의 검색 서비스다.
일종의 기업용 GPT 챗봇 서비스로, 기업 내부 문서에서 추출한 방대한 정보를 LLM을 활용해 질의응답 형식으로 얻어낼 수 있다.
권남혁 포지큐브 이사는 "디지털 전환도 이루지 못한 상태에서 AI 전환을 목표로 하는 기업도 생각보다 많은 편"이라며 "로비 지를 활용해 많은 데이터를 디지털로 전환, 기업 내 검색이 가능하도록 프로젝트를 진행 중"이라고 말했다.
장세민 기자 semim99@aitimes.com
