ChatGPT может быть не столь энергоемким, как раньше считалось

Недавний анализ Epoch AI, некоммерческого исследовательского института ИИ, попытался подсчитать, сколько энергии потребляет типичный запрос ChatGPT. Часто упоминаемая статистика заключается в том, что ChatGPT требует около 3 ватт-часов энергии, чтобы ответить на один вопрос, или в 10 раз больше, чем поиск в Google.

Используя последнюю стандартную модель OpenAI для ChatGPT, GPT-4o, в качестве эталона, Epoch обнаружила, что средний запрос ChatGPT потребляет около 0,3 ватт-часов — меньше, чем многие бытовые приборы.

«Потребление энергии на самом деле не является большой проблемой по сравнению с использованием обычных приборов, отоплением или охлаждением вашего дома или вождением автомобиля», — сказал TechCrunch Джошуа Ю, аналитик данных Epoch, который проводил анализ.

Энергопотребление искусственного интеллекта и его влияние на окружающую среду, в общем, является предметом противоречивых дискуссий, поскольку компании ИИ стремятся быстро расширить свою инфраструктуру. Только на прошлой неделе группа из более чем 100 организаций опубликовала открытое письмо с призывом к индустрии искусственного интеллекта и регуляторам убедиться, что новые центры обработки данных искусственного интеллекта не истощают природные ресурсы и не заставляют коммунальные предприятия полагаться на невозобновляемые источники энергии.

Разумеется, цифра Epoch в 0,3 ватт-часа также является приблизительной; OpenAI не опубликовал детали, необходимые для точного расчета.

Анализ также не учитывает дополнительные затраты на электроэнергию, связанные с такими функциями ChatGPT, как создание изображений или обработка входных данных. Вы признали, что запросы ChatGPT с «длинным вводом» — например, запросы с вложенными длинными файлами — вероятно потребляют больше электроэнергии наперед, чем обычный вопрос.

Несмотря на то, что за последние месяцы произошли значительные прорывы в эффективности искусственного интеллекта, ожидается, что масштабы развертывания искусственного интеллекта будут способствовать огромному, энергоемкому расширению инфраструктуры. Согласно отчету Rand, в ближайшие два года центрам обработки данных с искусственным интеллектом может потребоваться почти вся мощность электроэнергии Калифорнии 2022 года (68 ГВт). К 2030 году обучение передовой модели может потребовать мощности, эквивалентной мощности восьми ядерных реакторов (8 ГВт), прогнозируется в отчете.

Внимание OpenAI — как и остальной индустрии искусственного интеллекта — также сосредотачивается на моделях рассуждения, которые, как правило, являются более эффективными с точки зрения задач, которые они могут выполнить, но требуют больше вычислений для выполнения. В отличие от таких моделей, как GPT-4o, которые отвечают на запросы почти мгновенно, модели рассуждения «думают» от секунд до минут, прежде чем ответить, процесс, который забирает больше вычислительных ресурсов — и, следовательно, мощности.