인공지능(AI) 챗봇과의 대화에서 소비하는 전기량을 추정하는 오픈 소스 도구가 공개됐다.
줄리엥 델라방 허깅페이스 엔지니어는 24일(현지시간) X(트위터)를 통해 AI 모델의 전력 소비량을 실시간으로 추정하는 ‘챗UI-에너지(ChatUI-energy)’을 오픈 소스로 공개했다고 밝혔다.
이 도구는 사용자가 입력한 프롬프트에 따라 AI가 소비한 전기를 와트시(Wh) 또는 줄(J) 단위로 보여주며, 전자레인지나 LED 조명 등 가정용 기기 사용량과 비교해 주는 기능도 포함돼 있다.
예를 들어, 메타의 ‘라마 3.3 70B’이 일반적인 이메일 작성에 소비하는 전력은 약 0.1841Wh이며, 이는 전자레인지를 0.12초 동안 작동시키거나 토스터를 0.02초 사용할 때의 소비량과 비슷하다.
AI 모델은 GPU 등 고성능 반도체를 통해 동작하며, 이들 칩은 막대한 전력을 요구한다. 하지만 지금까지는 개별 프롬프트 수준에서 전력 소비를 측정하거나 비교할 수 있는 도구는 거의 없었다.
델라방 엔지니어는 “수백만건의 쿼리가 누적되면 아주 작은 전력 차이도 환경에 큰 영향을 미친다”라며 “모델 선택이나 출력 길이도 탄소 배출에 영향을 줄 수 있다”고 말했다.
이 도구는 라마나 구글의 '젬마' 등 오픈 소스 모델을 위한 프론트엔드 ‘챗 UI(Chat UI)’와 연동되도록 설계됐다. 정확한 수치를 보장하지는 않지만, 모델별 상대적 전력 소비를 직관적으로 보여주기 때문에 사용자들의 인식 제고에 기여할 수 있을 것으로 기대된다는 평이다.
그는 “AI 에너지 스코어와 같은 프로젝트를 통해 오픈 소스 커뮤니티 내 투명성을 높이고 싶다”라며 “언젠가 에너지 사용량이 식품의 영양 성분 표시처럼 당연하게 공개되는 날이 올 것”이라고 전했다.
박찬 기자 cpark@aitimes.com
