ChatGPT может быть не столь энергоемким, как раньше считалось

12.02.25

0

1 288

0

Недавний анализ Epoch AI, некоммерческого исследовательского института ИИ, попытался подсчитать, сколько энергии потребляет типичный запрос ChatGPT. Часто упоминаемая статистика заключается в том, что ChatGPT требует около 3 ватт-часов энергии, чтобы ответить на один вопрос, или в 10 раз больше, чем поиск в Google.

Используя последнюю стандартную модель OpenAI для ChatGPT, GPT-4o, в качестве эталона, Epoch обнаружила, что средний запрос ChatGPT потребляет около 0,3 ватт-часов  меньше, чем многие бытовые приборы.

ChatGPT
ChatGPT

«Потребление энергии на самом деле не является большой проблемой по сравнению с использованием обычных приборов, отоплением или охлаждением вашего дома или вождением автомобиля»,  сказал TechCrunch Джошуа Ю, аналитик данных Epoch, который проводил анализ.

Энергопотребление искусственного интеллекта и его влияние на окружающую среду, в общем, является предметом противоречивых дискуссий, поскольку компании ИИ стремятся быстро расширить свою инфраструктуру. Только на прошлой неделе группа из более чем 100 организаций опубликовала открытое письмо с призывом к индустрии искусственного интеллекта и регуляторам убедиться, что новые центры обработки данных искусственного интеллекта не истощают природные ресурсы и не заставляют коммунальные предприятия полагаться на невозобновляемые источники энергии.

Разумеется, цифра Epoch в 0,3 ватт-часа также является приблизительной; OpenAI не опубликовал детали, необходимые для точного расчета.

Анализ также не учитывает дополнительные затраты на электроэнергию, связанные с такими функциями ChatGPT, как создание изображений или обработка входных данных. Вы признали, что запросы ChatGPT с «длинным вводом»  например, запросы с вложенными длинными файлами  вероятно потребляют больше электроэнергии наперед, чем обычный вопрос.

Несмотря на то, что за последние месяцы произошли значительные прорывы в эффективности искусственного интеллекта, ожидается, что масштабы развертывания искусственного интеллекта будут способствовать огромному, энергоемкому расширению инфраструктуры. Согласно отчету Rand, в ближайшие два года центрам обработки данных с искусственным интеллектом может потребоваться почти вся мощность электроэнергии Калифорнии 2022 года (68 ГВт). К 2030 году обучение передовой модели может потребовать мощности, эквивалентной мощности восьми ядерных реакторов (8 ГВт), прогнозируется в отчете.

Внимание OpenAI  как и остальной индустрии искусственного интеллекта  также сосредотачивается на моделях рассуждения, которые, как правило, являются более эффективными с точки зрения задач, которые они могут выполнить, но требуют больше вычислений для выполнения. В отличие от таких моделей, как GPT-4o, которые отвечают на запросы почти мгновенно, модели рассуждения «думают» от секунд до минут, прежде чем ответить, процесс, который забирает больше вычислительных ресурсов  и, следовательно, мощности.

Источник: TechCrunch


Оставить комментарий

Актуальное

Фанат борьбы со старением Брайан Джонсон хочет начать «секвенирование фудома»

Аналитика

Фанат борьбы со старением Брайан Джонсон хочет начать «секвенирование фудома»

Аналитика

Так же, как секвенирование генома определяет генетический состав организма, Брайан Джонсон — инвестор и основатель движения Don't Die — хочет начать с...

26.03.25

451

0
Как BYD планирует сделать зарядку электромобиля такой же быстрой, как заправка бензобака

Инновации

Как BYD планирует сделать зарядку электромобиля такой же быстрой, как заправка бензобака

Инновации

Китайский автопроизводитель BYD на этой неделе произвел фурор, объявив, что его новый седан Han L может проехать до 248 миль всего за пять минут. Как...

24.03.25

895

0
В тюрьмах США начали выдавать VR-шлемы

Инновации

В тюрьмах США начали выдавать VR-шлемы

Инновации

Саманта Товар, известная как Роял, впервые за три недели покинула свою камеру. Сотрудники исправительного учреждения отвели ее в общую зону женского и...

20.03.25

954

0
Подпишитесь на нас

Раз в неделю мы будем отправлять Вам самые интересные новости недели

Конфиденциальность гарантирована

Популярные статьи

Для еліти будують бункер вартістю 300 мільйонів доларів

Бизнес

Для еліти будують бункер вартістю 300 мільйонів доларів

Недвижимость

В 2026 году планируется открытие роскошного бункера «судного дня», предназначенного только для членов, с бассейнами, охраной здоровья на основе искусс...

25.01.25

44 311

0
Гранты для поддержки идей и бизнеса 2024

Гранты для поддержки идей и бизнеса 2024

В Украине можно получить грант на бизнес или реализацию идеи. Война не остановит рост экономики и прогресс в развитии нашей страны. Рассказываем об ук...

15.01.24

7 692

2
10 главных финтех-инноваций, которые вы должны знать

Инновации

10 главных финтех-инноваций, которые вы должны знать

Fintech

Финансовые технологии или финтех — это больше, чем просто модное слово в мире финансовых услуг. Пользователи, а также предприятия догоняют тенденции в...

12.10.23

6 022

1
Макдональдс: Гамбургеры на первом плане, но недвижимость - основа дохода

Макдональдс: Гамбургеры на первом плане, но недвижимость - основа дохода

Знали ли вы, что крупнейшая сеть заведений быстрого питания, "Макдональдс", на самом деле получает большую часть своих доходов от недвижимости? За вит...

08.11.23

5 657

1
Google говорит, что его новый квантовый чип указывает на существование нескольких вселенных

Инновации

Google говорит, что его новый квантовый чип указывает на существование нескольких вселенных

Инновации

Google в понедельник анонсировала Willow, свой последний, самый лучший квантовый вычислительный чип. Заявления Google по этому чипу о скорости и надеж...

11.12.24

5 654

0

 

Опрос
В какой соцсети вы проводите больше всего времени?
Facebook
13% (41)
Instagram
6% (20)
TikTok
9% (30)
Telegram
23% (74)
Youtube
31% (99)
Twitter
2% (5)
А что это?
15% (48)
Оставить комментарий

Нажав «Принять все cookie-файлы», вы соглашаетесь на размещение всех cookie-файлов на вашем устройстве. Вы можете изменять настройки cookie-файлов или отозвать ваше согласие на их использование в любое время, нажав на «Настройки cookie-файлов».