오픈AI의 추론 모델 'o1'에는 새로운 프롬프트 접근법이 필요하다는 지적이 등장해 화제다. 기존 인공지능(AI) 챗봇과 같은 질문 방식으로는 성능을 충분하게 끌어낼 수 없다는 내용으로, 지난 주말부터 해외 커뮤니티에서 다양한 의견을 끌어내고 있다.
그중 지배적인 의견은 “o1은 일반적인 대화를 위한 모델”이 아니라는 것이다.
o1은 ‘대량 텍스트 생성’에 특화돼 있으며, 이를 잘 활용하기 위해서는 최대한 ‘자세하고 짜임새 있는’ 프롬프트를 입력해야 한다는 것이다. 일반 챗봇처럼 이용한다면 다소 속도가 느리고 별반 차이가 없는 결과만 출력된다는 설명이다.
대표적으로 공감을 얻은 내용은 애플에서 비전 OS를 개발한 벤 하일락 디자이너의 게시물이다. 그는 서브스택을 통해 관련 내용을 자세히 설명했다. 이 게시물은 200개가 넘는 '좋아요'를 받았다. 특히 그렉 브록만 오픈AI 회장이 관련 내용을 직접 리트윗할 만큼 주목 받았다.
하일릭 디자이너는 먼저 최대한 많은 맥락을 제공해야 한다고 밝혔다. 일반 챗봇의 경우 간단한 질문으로 시작해 정보를 추가하는 형태지만, o1은 그렇지 않다는 것이다. ‘점진적 조율’이 아닌 ‘한번에 맥락을 밀어 넣는’ 형식으로 진행해야 한다는 설명이다.
예를 들어 간단한 엔지니어링을 요구하는 경우에도 ▲이제까지 시도한 내용(경우의 수) ▲요청하는 기업의 업무와 규모, 기업만의 용어 ▲원하는 엔지니어링 형태 등 구체적인 맥락을 제공해야 한다는 것이다.
다음으로는 과정이 아닌, 목표에 집중해야 한다고 전했다.
기존 챗봇에서는 효과적인 답변을 얻기 위해서는 “소프트웨어 엔지니어처럼 생각하라”나 “차근차근 생각해 보자” 등의 프롬프트를 우선 입력했지만, o1은 이 과정이 필요 없다는 말이다.
대신, 계획이나 목표 자체를 구체적으로 제시하는 것이 중요하다. 스스로 생각하는 과정, 기회를 부여해 주는 것이 핵심이라는 것이다.
결과적으로 o1은 기존 패턴(코드 문법 등)을 지키며 파일 전체를 한번에 생성하는 업무에 특화돼 있다는 결론이다. 하지만 ‘개성’이나 ‘특정 문체’를 살린 글쓰기나 앱 전체를 한번에 생성하는 작업에는 취약하다고 설명했다. 개별 코딩이 아닌 서비스형 소프트웨어(SaaS)를 구축하는 과정에서는 여러 가지 요청이 필요하기 때문이다.
o1에 특화한 프롬프트에는 ▲목표 ▲답변의 형식 ▲주의해야 할 점 ▲사용자의 환경 및 맥락 등을 포함하는 것이 좋다는 조언이다.
한 예로 '기념일에 가기 좋은 음식점'을 추천받고 싶을 경우, ▲음식점을 추천해 달라는 요청 ▲음식점의 이름, 시작점으로부터의 거리, 주요 메뉴, 추천 이유 등 답변 형식 요청 ▲실제 존재하는, 그리고 가까운 식당만을 선별해 달라는 요청 ▲이벤트를 진행하는 사람의 정보 등 상세한 맥락 입력 등을 o1에 제공하는 식이다.
이처럼 o1은 대화가 아닌 ‘목표지향적’인 프롬프트에 특화돼 있다는 설명이다.
또 o1은 코딩과 추론에 특화한 만큼 엔지니어링 용도로 많이 사용되지만, ‘스토리 창작’에도 효과적이라는 의견이 나왔다. 하나의 이야기(소설) 결말을 바꿔 쓰거나 이어 쓰고 싶은 경우, 기존 이야기의 자세한 정보를 제공한 뒤 “50개의 문단을 생성해 달라”라고 구체적인 요청을 제시하면 캐릭터의 일관성을 지키며 수준 있는 이야기 전개를 도출한다는 것이다.
이 역시 o1의 사용 법칙인 ▲최대한 많은 자료 및 맥락의 제공 ▲정확한 목표의 입력 등을 지키는 모습이다.
이는 이번 주부터 국내 개발자 커뮤니티에서도 화제를 일으키고 있다. 링크드인 등에서는 효과적인 o1 프롬프트에 대한 글이 등장하고 있다.
샘 알트먼 오픈AI CEO도 11일 이에 대한 의견을 X에 트윗했다. 그는 “사람들이 o1 사용법을 배워가며 관련 여론이 바뀌는 것을 지켜보는 건 꽤 재미있다”라고 말했다.
o1은 지난해 9월 등장했다. 3개월 동안 o1이 기존 모델보다 더 많이 비용과 시간을 들일 정도로 가치 있는지에 대해서는 의견이 분분했는데, 엔지니어뿐만 아니라 일반 사용자들에게도 효과적인 프롬프트 방법이 등장했다는 점에서 주목된다.
장세민 기자 semim99@aitimes.com
