Как TPU от Google конкурируют с Nvidia

На протяжении всего времени, пока Nvidia Corp. доминировала на рынке чипов искусственного интеллекта, клиенты четко давали понять, что хотели бы видеть больше конкуренции. Оказывается, одна из самых грозных альтернатив, возможно, скрывалась просто на виду.

Google выпустил свои тензорные вычислительные блоки десять лет назад, чтобы помочь ускорить работу поисковой системы компании и повысить эффективность. Позже они были адаптированы для задач машинного обучения в приложениях Google на основе искусственного интеллекта.

Сейчас компания заключает крупные сделки на TPU, что свидетельствует о том, что они могут быть надежной альтернативой ускорителям искусственного интеллекта Nvidia для обучения и работы с современными сложными моделями больших языков программирования. Они называются графическими процессорами (GPU).

В чем разница между графическим процессором (GPU) и процессором TPU (TPU)?

Оба типа чипов могут обрабатывать большое количество вычислений, необходимых для обучения моделей искусственного интеллекта, но достигают этого по-разному. Графические процессоры Nvidia изначально разрабатывались для реалистичного рендеринга изображений видеоигр, обрабатывая несколько задач параллельно с помощью тысяч вычислительных «ядер». Эта архитектура также позволяет им выполнять задачи искусственного интеллекта со скоростью, с которой не могут сравниться конкурирующие технологии.

Процессоры TPU были созданы специально для типа работы, связанной с искусственным интеллектом, известного как умножение матриц, что является основной операцией, участвующей в обучении нейронных сетей, генерирующих ответы на запросы в чат-ботах с искусственным интеллектом, таких как ChatGPT от OpenAI и Claude от Anthropic PBC. Значительная часть этой работы включает повторяющиеся вычисления, выполняемые последовательно, а не параллельно.

TPU были разработаны для эффективного выполнения этих задач. Они считаются менее адаптивными и более специализированными, чем графические процессоры Nvidia, но также менее энергоемкими при выполнении этих операций. Графические процессоры Nvidia считаются более адаптивными и программируемыми, но эта гибкость может сделать их эксплуатацию более дорогой.

Как TPU стали претендентом на звание ИИ?

Google начал работу над своим первым TPU в 2013 году и выпустил его через два года. Изначально он использовался для ускорения работы поисковой системы компании и повышения эффективности. Google впервые начал размещать TPU на своей облачной платформе в 2018 году, позволяя клиентам регистрироваться в вычислительных сервисах, работающих на той же технологии, которая улучшила работу поисковой системы.

Чипы также были адаптированы для поддержки собственной разработки искусственного интеллекта Google. Поскольку компания и ее подразделение DeepMind разрабатывали передовые модели искусственного интеллекта, такие как Gemini, она смогла перенять опыт своих команд по искусственному интеллекту и вернуться к разработчикам чипов TPU, которые, в свою очередь, смогли настроить чипы в пользу собственных команд по искусственному интеллекту.

Самая новая версия TPU от Google под названием Ironwood была представлена в апреле. Она имеет жидкостное охлаждение и предназначена для выполнения задач искусственного интеллекта, то есть использования моделей искусственного интеллекта, а не их обучения. Она доступна в двух конфигурациях: модуль на 256 микросхем или еще больший с 9216 микросхемами.

Процессоры TPU могут работать лучше, чем графические процессоры, для некоторых задач искусственного интеллекта, поскольку Google может «удалить многие другие части чипа», которые не адаптированы для искусственного интеллекта, сказал аналитик Seaport Джей Голдберг, который имеет редкий рейтинг продажи акций Nvidia. Сейчас, в своем седьмом поколении продукта, Google улучшил производительность чипов, сделал их более мощными и снизил энергопотребление, необходимое для их использования, что делает их менее дорогими в эксплуатации.

Кому нужны ТПУ?

Среди текущих клиентов TPU — Safe Superintelligence — стартап, основанный в прошлом году соучредителем OpenAI Ильей Суцкевером, а также Salesforce Inc. и Midjourney, а также Anthropic.

Согласно соглашению, обнародованному в октябре, Anthropic получит доступ к более чем одному гигаватту вычислительной мощности Google благодаря целому 1 миллиону TPU. В следующем месяце The Information сообщила, что Meta Platforms Inc. ведет переговоры об использовании Google TPU в своих центрах обработки данных в 2027 году.

Эти события подчеркивают, как ведущие компании в сфере искусственного интеллекта используют термопроцессорные процессоры (TPU), спеша увеличить вычислительную мощность, чтобы справиться с неуклонным спросом.

Каковы перспективы увеличения продаж ТПУ?

Крупнейшие разработчики искусственного интеллекта тратят десятки миллиардов долларов на дорогие чипы Nvidia, и они стремятся смягчить эту зависимость и смягчить последствия дефицита, что указывает на большой потенциальный рынок для термопроцессорных процессоров (TPU).

В настоящее время компании, которые хотят использовать Google TPU, должны зарегистрироваться для аренды вычислительных мощностей в облаке Google. Это может вскоре измениться. Соглашение с Anthropic делает расширение в другие облака более вероятным, отмечают аналитики.

Никто, включая Google, в настоящее время не стремится полностью заменить графические процессоры Nvidia; темпы развития искусственного интеллекта означают, что это сейчас невозможно.

Google по-прежнему является одним из крупнейших клиентов Nvidia, несмотря на наличие собственных чипов, поскольку ему нужно поддерживать гибкость для клиентов, сказал Гаурав Гупта, аналитик Gartner. Если алгоритм или модель клиента меняется, графические процессоры лучше подходят для обработки более широкого диапазона рабочих нагрузок.

«Nvidia на поколение опережает отрасль», — по словам представителя Nvidia. «Мы рады успеху Google — они достигли значительных успехов в сфере искусственного интеллекта, и мы продолжаем поставлять их Google».

Даже технологические компании, которые подписывают соглашения по TPU, все еще активно используют чипы Nvidia. Например, Anthropic объявила о крупной сделке с Nvidia через несколько недель после объединения Google с TPU. Самая большая надежда для TPU Google может заключаться в том, что они станут частью корзины продуктов, необходимых для развития искусственного интеллекта.