Google первой из технологических компаний раскрыла детальные данные об энергопотреблении ИИ-помощника. В среднем один запрос к Gemini требует 0,24 ватт-часа энергии и около пяти капель воды.
Отсутствие точных цифр вызывало споры о влиянии массового использования ИИ на окружающую среду. До публикации Google лишь генеральный директор OpenAI Сэм Альтман давал оценки: в июне он писал, что средний запрос ChatGPT потребляет «около 0,34 ватт-часа».
Google разработала собственную методологию расчетов, которая, по ее утверждению, учитывает больше факторов, чем традиционные подходы. В расчет включены не только энергопотребление графических процессоров, но и нагрузка на центральные процессоры, оперативную память, системы охлаждения и простаивающие машины.
По классическому расчету средний запрос Gemini потребляет 0,10 ватт-часа энергии, производит 0,02 грамма углекислого газа и использует 0,12 миллилитра воды. Google считает эти показатели «существенно заниженными» и «оптимистичными».
Собственная методика компании дала более высокие, но, по мнению Google, более точные оценки: 0,24 ватт-часа энергии, 0,03 грамма CO₂ и 0,26 миллилитра воды (примерно пять капель). Это соответствует просмотру телевизора около девяти секунд, говорят в компании.
Компания также отметила рост эффективности: за последние 12 месяцев энергетический след медианного запроса Gemini снизился в 33 раза, а углеродный след — в 44 раза, при этом качество ответов выросло.
Для повышения эффективности используют разные подходы: максимизация производительности оборудования, гибридные алгоритмы, дистилляция моделей и спекулятивное декодирование. Последний метод позволяет меньшему числу процессоров обрабатывать больше запросов: предварительные прогнозы делает более компактная модель, а затем их проверяет крупная.
