Google выявил свежие фигуры о моделях экологических моделей Gemini Artificial Intelligence (AI), утверждая, что каждый текстовый запрос потребляет всего 0,24 ватты энергии, излучает 0,03 грамма эквивалента углекислого газа и использует 0,26 миллилита воды. Компания приравнивает это к просмотру телевизора менее девяти секунд.
Данные, опубликованные в новых технических документах и сообщениях в блогах исследователей Google, включая главного ученых Джеффа Дина, являются частью более широкой попытки количественно определить истинные затраты на ИИ в масштабе. До сих пор многие оценки воздействия ИИ на окружающую среду основывались на неполных измерениях, часто исключая такие факторы, как серверы холостого хода, системы охлаждения или потребление воды.
Google утверждает, что его новая методология предлагает более полную оценку вывода искусственного интеллекта, процесс создания ответа от обученной модели и надеется поощрять согласованность в отрасли.
В то же время компания претендует на значительный рост эффективности. За прошедший год медианное использование энергии текста Близнецов упало на 33 раза, в то время как его углеродный след упал в 44 раза, даже по мере улучшения качества выпуска.
Google приписывает прогресс в достижениях по всему своему технологическому стеку: более эффективные архитектуры моделей, такие как смеси экспертов, оптимизированные методы вывода, такие как спекулятивное декодирование, настраиваемые тензоры-обработки (TPU) и улучшения в операциях центра обработки данных. Говорят, что его новейший TPU, Ironwood, в 30 раз более эффективен, чем его первый публичный TPU.
Несмотря на эти достижения, спрос на энергию продолжает расти. В 2024 году центры обработки данных Google увидели, что использование электроэнергии увеличилось на 27 процентов в годовом исчислении, даже несмотря на то, что выбросы упали на 12 процентов благодаря более чистым источникам энергии и повышению эффективности. Компания пообещала полностью работать на содержании углерода и пополнить больше пресной воды, чем она потребляет в долгосрочной перспективе.
По мере того, как ускоряется внедрение искусственного интеллекта, Google заявила, что хочет прозрачности для повышения ответственности. «Поделившись нашей методологией, мы стремимся установить более четкий эталон для ИИ истинного энергетического следа», — отметила компания, позиционируя эффективность как критическое для ответственного развития ИИ.