Чому штучний інтелект такий дорогий

Минуло трохи більше півтора року з того часу, як весь світ накрила хвиля ейфорії від генеративного штучного інтелекту. За цей час великі технокорпорації встигли не просто повірити в магію ШІ, а й звести її в ранг нової релігії. 

Сьогодні вони заявляють: штучний інтелект — це не іграшка для стартаперів і не модний фокус для презентацій, а повноцінний генератор прибутку. Правда, з одним нюансом: щоб отримати краплю виручки, потрібно вилити океан грошей.

Microsoft і Google (а точніше, її материнська компанія Alphabet) в останньому кварталі відзвітували: доходи від хмарних сервісів йдуть вгору, і все завдяки бізнес-клієнтам, які вирішили не відставати від епохи і активно інвестувати в ШІ-рішення. Meta, яка поки що відстає в гонці монетизації, все ж знайшла, чим похвалитися — її алгоритми вже вміють підсовувати рекламу так, що користувачі навіть не встигають зрозуміти, коли їхній мозок включився в гру.

Однак вся ця цифрова магія відбувається не завдяки чарам — а завдяки мільярдам, закопаним у сервери, нейромережі та гіперенерговитратні обчислення. Але технологічні гіганти не збираються зменшувати темп — навпаки, інвестиційний розгін тільки починається.

Microsoft, наприклад, нещодавно зізналася: її капітальні витрати за квартал склали 14 мільярдів доларів, і ця сума ще зросте — тому що апетити ШІ не знають міри. Для порівняння: це майже на 80% більше, ніж у попередньому кварталі. Alphabet пішла тим же шляхом і виклала 12 мільярдів. Зростання — майже вдвічі порівняно з тим же періодом роком раніше. Meta взагалі вирішила не дрібнитися і переписала свої інвестиційні плани: тепер на порядку денному від 35 до 40 мільярдів доларів, на 42% більше минулих розрахунків. Всі ці суми — заради прискореного прокачування ШІ-продуктів і технологій.

Деякі інвестори, треба визнати, виявилися захоплені зненацька. Особливо коли стало ясно: рекордні витрати Meta не підкріплені настільки ж вражаючими доходами. Акції пішли вниз — ринок любить казки про ШІ, але не любить, коли за них приходить рахунок. 

Втім, в індустрії давно ніхто не будує ілюзій: розвиток ШІ — задоволення не для бідних. Вартість розробки моделей зростає експоненціально, і чим крутіша модель, тим дорожче її запуск, підтримка та експлуатація. Світ жадає ШІ, а значить, доведеться будувати все більше дата-центрів, поки планета ще здатна видавати електрику під цю справу.

Компанії, які тільки починають освоювати ШІ-рішення, вже сьогодні витрачають мільйони на налаштування продуктів на базі OpenAI або Google. А після запуску витрати не закінчуються: кожен запит користувача до чат-бота, кожен аналіз даних — це додаткові витрати. Але набагато дорожче створення самої архітектури, на якій працюють ці системи.

Перед вами — панорама того, як високотехнологічний світ вкладає сьогодні кошти в завтрашній інтелект.

Великі мовні моделі стають ще більшими

На сьогоднішній день найяскравіші досягнення у світі штучного інтелекту — включаючи, звичайно ж, славетний ChatGPT від OpenAI — побудовані на базі масивних мовних моделей. Ці цифрові титани живляться шаленими обсягами інформації: від класичних романів і наукових трактатів до інтернет-форумів і мемів. Саме завдяки такому всепоглинаючому «раціону» ШІ може видавати відповіді, які, хоч і не завжди бездоганні, але все частіше звучать так, ніби їх написала жива людина — та ще й з досвідом. Гіганти індустрії впевнені: шлях до надрозуму, а можливо, і до «цифрового Прометея», лежить через збільшення потужності і масштабів цих моделей.

Але, як це зазвичай буває з амбіціями у світі технологій, грандіозні ідеї вимагають не менш грандіозних витрат. Потрібні не просто дані — потрібні гори даних, обчислювальні потужності, які могли б тягнути на собі цілі цифрові континенти, і колосальні ресурси на навчання моделей. Даріо Амодей, CEO компанії Anthropic, не соромлячись у цифрах, заявив в недавньому інтерв'ю, що натренувати сучасну ШІ-модель — це вже задоволення за 100 мільйонів доларів. І це, вважай, базова комплектація.

За його словами, ті моделі, що зараз на підході, можуть обійтися в мільярд доларів, а з 2025 року — і зовсім в 5–10 мільярдів. Непогано, правда?

Чіпи — золото XXI століття

І вся ця пишність спочиває на крихітних, але неймовірно дорогих шматочках кремнію. Ні, мова не про стандартні CPU, на яких працюють ноутбуки та телефони. Світ ШІ обертається навколо графічних процесорів — GPU, здатних переробляти терабайти інформації на швидкості, від яких закрутиться голова. На вершині цього харчового ланцюжка — Nvidia. Їх H100 — золотий стандарт індустрії, вартістю близько $30 000 за штуку, якщо не натрапиш на реселерів, у яких може бути в два, а то й у три рази дорожче.

Марк Цукерберг заявив, що Meta закупить 350 000 таких чіпів до кінця року. Навіть з оптовими знижками — це не бюджет на каву для офісу, це мільярди.

Звичайно, компанії можуть не купувати чіпи безпосередньо, а орендувати їх у хмарі. Але і тут приємних сюрпризів немає: оренда H100 обійдеться майже в $100 на годину, тоді як звичайні процесори Intel — близько $6.

Nvidia, не втрачаючи моменту, нещодавно презентувала новий чіп Blackwell, у рази потужніший за попередника. На папері — диво техніки. За розрахунками компанії, для навчання моделі з 1,8 трильйона параметрів (на кшталт GPT-4) вистачить 2 000 чіпів Blackwell, замість 8 000 Hopper. Але радіти зарано: в гонитві за масштабом індустрія сама ж нівелює ці поліпшення, спрямовуючись до ще більш громіздких моделей.

Де все це зберігати? У величезних храмах даних

Надпотужні чіпи, як ви розумієте, не можуть просто валятися на складі. Їм потрібні будинки — точніше, дата-центри. Саме тому Meta, Amazon, Google, Microsoft та інші важковаговики кинулися будувати нові центри обробки даних, ніби від цього залежить виживання людства. 

За оцінкою Dell'Oro Group, тільки в цьому році на будівництво та оснащення дата-центрів буде витрачено $294 мільярди. Для порівняння: у 2020-му ця сума становила $193 мільярди. 

Все це, звичайно, пояснюється не тільки потребами ШІ, але і збільшенням цифрової активності в цілому — стріми, соцмережі, бігдата. Але саме ШІ змушує вкладати кошти в дорогі GPU і спеціалізовану інфраструктуру.

DC Byte підрахувала, що по всьому світу зараз понад 7 000 дата-центрів (у 2015 році їх було 3 600). Причому мова йде не тільки про кількість — масштаби вражають. Середній дата-центр зараз — це монстр площею 38 000 квадратних метрів. Майже в п'ять разів більше, ніж десять років тому. Храми нового цифрового світу, не інакше.

Угоди, дані та полювання за мізками

Поки світ ШІ скуповує тоннами графічні чіпи та зводить дата-центри розміром з аеропорт, у тіні заліза розгортається не менш дорога битва — за контент і людський інтелект. Адже що таке мова без слів, і що таке ШІ без тих, хто ці слова пише, редагує, аналізує і перетворює в алгоритми?

Найбільші технологічні компанії світу давно зрозуміли: однієї кремнієвої потужності недостатньо. Потрібен якісний, перевірений текстовий матеріал. І вони починають скуповувати його так само жадібно, як раніше — серверні стійки. OpenAI, наприклад, уклала кілька гучних угод з європейськими видавничими будинками, надавши собі доступ до контенту, на якому буде навчатися ChatGPT і його майбутні побратими. Фінансові подробиці, як зазвичай, тримаються в секреті, але Bloomberg встиг прошепотіти: тільки Axel Springer SE — медіахолдинг, що володіє Politico і Business Insider — отримає від OpenAI десятки мільйонів євро за право використовувати їх статті.

І це тільки початок. На підході — переговори з Time, CNN, Fox News. Якщо раніше новинні видання воювали за кліки, тепер вони торгують своїми архівами нейромережам. Google, наприклад, теж не залишилася осторонь і підписала угоду з Reddit на суму 60 мільйонів доларів — все заради того, щоб згодувати своїм моделям бездонні простирадла користувацьких обговорень і мемів. А Meta, як пишуть в The New York Times, і зовсім думала про покупку гіганта книжкового ринку — Simon & Schuster.

Але війна за дані — лише одна половина. Друга — боротьба за таланти. І тут ставки вже давно пішли в стратосферу. Netflix, наприклад, минулого року опублікував вакансію менеджера з AI-продуктів із зарплатою до 900 000 доларів на рік. Майже мільйон — не за стартап, не за акції, а за «добре попрацювати». Якщо у тебе голова варить у нейромережевому напрямку — тобі сюди.

Маленькі моделі — не означає слабкі

На цьому тлі особливо цікаво виглядає поворот Microsoft. Компанія, яка буквально підлила масла у вогонь ШІ-ажіотажу, несподівано вирішила зіграти від зворотного. Замість чергового «монстра на мільярд параметрів» вона представила три більш компактні ШІ-моделі. Їхня головна фішка — скромні апетити. Для роботи їм не потрібно випалювати дата-центри і вимагати сотні H100, вони справляються меншими силами. І роблять це цілком гідно.

У Microsoft підкреслюють: так, великі мовні моделі — це все ще вища ліга. Вони вирішують складні завдання, вміють аналізувати великі масиви даних, міркувати і розуміти тонкощі людської мови. Але не завжди потрібна важка артилерія. Іноді достатньо «дешевого і сердитого» варіанту — особливо якщо мова йде про локальні завдання або оптимізацію ресурсів в бізнес-додатках.

Схожим шляхом пішов і стартап Sakana AI — його заснували вихідці з Google. Хлопці роблять ставку на те, що менше — іноді краще. І це не просто філософія, а відповідь на зростаючі витрати і складності масштабування.

Роуен Карран, аналітик Forrester, влучно підсумував тренд: «Вам не завжди потрібен суперкар. Іноді вистачає мінівена або пікапа. Одна модель не покриє всі завдання». І дійсно, пора визнати: універсального солдата серед ШІ поки не існує. І, можливо, ніколи не буде. Але, як і в реальному житті, всьому знайдеться своє місце.

Проте, в індустрії досі живе свята віра: чим більше, тим краще. Чим масштабніше — тим розумніше. Але чим розумніше — тим дорожче. А значить, гра триває.