덴마크 코펜하겐 대학생 두 명이 AI에서 배출되는 이산화탄소를 계산하는 소프트웨어를 개발했다고 유나이티드 AI가 8일(현지시간) 보도했다. 이 SW개발로 많은 AI 전문가들이 이제 이산화탄소 문제를 어떻게 개선할 것인지에 초점을 맞춰 연구하려는 움직임을 보이고 있다.
지난 2012년부터 2018년까지 딥러닝에 필요한 계산력은 무려 30만% 증가했다. 알고리즘 개발에 따른 이산화탄소로 대두되는 에너지 소비량은 여지껏 제대로 측정되지 않고 있었다.
코펜하겐대 컴퓨터과학과에 재학 중인 라세 앤서니와 벤자민 칸딩은 라그하벤드라 셀반 조교수와 함께 팀을 구성해 ‘카본트래커’라는 이름의 SW를 개발했다. 이 SW는 딥러닝 모델 훈련 시 발생되는 이산화탄소 배출을 정확히 계산할 뿐 아니라 예측할 수 있다.
앤서니는 “AI 발전은 미친 듯이 질주 중”이라며 “딥러닝 모델 역시 지속적으로 큰 규모로 발전하고 있다”고 말했다. 이어 그는 “이러한 기하급수적인 성장 뒤에는 많은 사람들이 생각지 못한 방대한 양의 에너지 소비율 증가도 뒤따른다”고 꼬집었다.
칸딩은 “데이터셋이 나날이 발전함에 따라 알고리즘이 해결해야 할 문제들이 점점 더 복잡해지고 있다”고 말했다.
이들은 카본트래커 프로그램 개발과정을 오픈소스로 공개했다.
연구팀은 카본트래커를 통해 자연어처리 모델 GPT-3를 훈련 시 얼마만큼의 에너지가 필요한 지를 알아냈다. GPT-3를 1회 훈련할 때 소비되는 에너지는 1년 간 덴마크 내 126세대에서 사용하는 에너지양과 동일하다. 이때 이산화탄소 배출량은 자동차로 약 70만㎞를 주행했을 때와 같다.
앤서니는 “향후 몇 년 안에 GPT-3보다 더 뛰어난 능력을 갖춘 AI 언어모델이 여러 개 등장할 것”이라고 말했다. 이는 곧 그만큼 에너지 배출량도 상상을 초월할 것이란 뜻이다.
카본트래커 개발로 AI 개발이 얼마나 기후변화에 악영향을 미칠 지에 관해 우려의 목소리가 커지고 있다. 연구팀은 그러나 자신들의 SW 개발이 곧 첨단기술에 제동을 거는 것이 아니라고 설명한다. 이에 따른 문제를 인식하고 어떻게 하면 개선하면서 기술 발전도 향상시킬 수 있을지 고민해야 한다는 것.
앤서니와 칸딩은 딥러닝 훈련 시 어떤 종류의 하드웨어와 알고리즘을 사용하고 있는지부터 모델 교육이 언제 진행되는지 주의를 기울여야 한다고 조언한다.
이들은 “AI 알고리즘을 훈련하면서도 기후 영향을 크게 줄일 수 있다”며 “예를 들어 에스토니아나 스웨덴은 현재 친환경적인 에너지 공급으로 AI 훈련 시 탄소배출을 60배 이상 줄이고 있다”고 말했다. 앤서니는 “알고리즘을 훈련시키는 사람들이 효율성을 가져야 한다”고 강조했다. 그는 “결과는 비슷하더라도 과정을 보면 더 적은 컴퓨팅과 에너지로 AI를 훈련시키는 엔지니어들이 있다”며 “이런 유형의 변수를 조정할 수 있다면 상황은 크게 달라질 것”이라고 덧붙였다.
