Як TPU від Google конкурують з Nvidia

Протягом усього часу, як Nvidia Corp. домінувала на ринку чіпів штучного інтелекту, клієнти чітко давали зрозуміти, що хотіли б бачити більше конкуренції. Виявляється, одна з найгрізніших альтернатив, можливо, ховалася просто на виду.

Google випустив свої тензорні обчислювальні блоки десять років тому, щоб допомогти пришвидшити роботу пошукової системи компанії та підвищити ефективність. Пізніше їх було адаптовано для завдань машинного навчання в додатках Google на основі штучного інтелекту.

Зараз компанія укладає великі угоди на TPU, що свідчить про те, що вони можуть бути надійною альтернативою прискорювачам штучного інтелекту Nvidia для навчання та роботи з сучасними складними моделями великих мов програмування. Вони називаються графічними процесорами (GPU).

Яка різниця між графічним процесором (GPU) та процесором TPU (TPU)?

Обидва типи чіпів можуть обробляти велику кількість обчислень, необхідних для навчання моделей штучного інтелекту, але досягають цього по-різному. Графічні процесори Nvidia спочатку розроблялися для реалістичного рендерингу зображень відеоігор, обробляючи кілька завдань паралельно за допомогою тисяч обчислювальних «ядер». Ця архітектура також дозволяє їм виконувати завдання штучного інтелекту зі швидкістю, з якою не можуть зрівнятися конкуруючі технології.

Процесори TPU були створені спеціально для типу роботи, пов'язаної зі штучним інтелектом, відомого як множення матриць, що є основною операцією, що бере участь у навчанні нейронних мереж, що генерують відповіді на запити в чат-ботах зі штучним інтелектом, таких як ChatGPT від OpenAI та Claude від Anthropic PBC. Значна частина цієї роботи включає повторювані обчислення, що виконуються послідовно, а не паралельно.

TPU були розроблені для ефективного виконання цих завдань. Вони вважаються менш адаптивними та більш спеціалізованими, ніж графічні процесори Nvidia, але також менш енергоємними під час виконання цих операцій. Графічні процесори Nvidia вважаються більш адаптивними та програмованими, але ця гнучкість може зробити їх експлуатацію дорожчою.

Як TPU стали претендентом на звання ШІ?

Google розпочав роботу над своїм першим TPU у 2013 році та випустив його через два роки. Спочатку його використовували для пришвидшення роботи пошукової системи компанії та підвищення ефективності. Google вперше почав розміщувати TPU на своїй хмарній платформі у 2018 році, дозволяючи клієнтам реєструватися в обчислювальних сервісах, що працюють на тій самій технології, яка покращила роботу пошукової системи.

Чіпи також були адаптовані для підтримки власної розробки штучного інтелекту Google. Оскільки компанія та її підрозділ DeepMind розробляли передові моделі штучного інтелекту, такі як Gemini, вона змогла перейняти досвід своїх команд зі штучного інтелекту та повернутися до розробників чіпів TPU, які, у свою чергу, змогли налаштувати чіпи на користь власних команд зі штучного інтелекту.

Найновішу версію TPU від Google під назвою Ironwood було представлено у квітні. Вона має рідинне охолодження та призначена для виконання завдань штучного інтелекту, тобто використання моделей штучного інтелекту, а не їх навчання. Вона доступна у двох конфігураціях: модуль на 256 мікросхем або ще більший з 9216 мікросхемами.

Процесори TPU можуть працювати краще, ніж графічні процесори, для деяких завдань зі штучним інтелектом, оскільки Google може «видалити багато інших частин чіпа», які не адаптовані для штучного інтелекту, сказав аналітик Seaport Джей Голдберг, який має рідкісний рейтинг продажу акцій Nvidia. Зараз, у своєму сьомому поколінні продукту, Google покращив продуктивність чіпів, зробив їх потужнішими та знизив енергоспоживання, необхідне для їх використання, що робить їх менш дорогими в експлуатації.

Кому потрібні ТПУ?

Серед поточних клієнтів TPU — Safe Superintelligence — стартап, заснований минулого року співзасновником OpenAI Іллею Суцкевером, а також Salesforce Inc. та Midjourney, а також Anthropic.

Згідно з угодою, оприлюдненою в жовтні, Anthropic отримає доступ до понад одного гігавата обчислювальної потужності Google завдяки цілих 1 мільйону TPU. Наступного місяця The Information повідомила, що Meta Platforms Inc. веде переговори щодо використання Google TPU у своїх центрах обробки даних у 2027 році.

Ці події підкреслюють, як провідні компанії у сфері штучного інтелекту використовують термопроцесорні процесори (TPU), поспішаючи збільшити обчислювальну потужність, щоб впоратися з невпинним попитом.

Які перспективи збільшення продажів ТПУ?

Найбільші розробники штучного інтелекту витрачають десятки мільярдів доларів на дорогі чіпи Nvidia, і вони прагнуть пом'якшити цю залежність та пом'якшити наслідки дефіциту, що вказує на великий потенційний ринок для термопроцесорних процесорів (TPU).

Наразі компанії, які хочуть використовувати Google TPU, повинні зареєструватися для оренди обчислювальних потужностей у хмарі Google. Це може незабаром змінитися. Угода з Anthropic робить розширення в інші хмари більш ймовірним, зазначають аналітики.

Ніхто, включаючи Google, наразі не прагне повністю замінити графічні процесори Nvidia; темпи розвитку штучного інтелекту означають, що це зараз неможливо.

Google все ще є одним з найбільших клієнтів Nvidia, незважаючи на наявність власних чіпів, оскільки йому потрібно підтримувати гнучкість для клієнтів, сказав Гаурав Гупта, аналітик Gartner. Якщо алгоритм або модель клієнта змінюється, графічні процесори краще підходять для обробки ширшого діапазону робочих навантажень.

«Nvidia на покоління випереджає галузь», — за словами речника Nvidia. «Ми раді успіху Google — вони досягли значних успіхів у сфері штучного інтелекту, і ми продовжуємо постачати їх Google».

Навіть технологічні компанії, які підписують угоди щодо TPU, все ще активно використовують чіпи Nvidia. Наприклад, Anthropic оголосила про велику угоду з Nvidia через кілька тижнів після об'єднання Google з TPU. Найбільша надія для TPU Google може полягати в тому, що вони стануть частиною кошика продуктів, необхідних для розвитку штучного інтелекту.