Ілон Маск погоджується, що ми вичерпали дані навчання ШІ

Ілон Маск погоджується з іншими експертами зі штучного інтелекту, що залишилося мало реальних даних для навчання моделей штучного інтелекту.

«Ми фактично вичерпали загальну суму людських знань у навчанні штучному інтелекту», – сказав Маск під час прямої трансляції розмови з головою Stagwell Марком Пенном. «Це сталося в основному минулого року».

Маск, який володіє компанією штучного інтелекту xAI, повторив теми, яких торкнувся колишній головний науковий співробітник OpenAI Ілля Суцкевер на NeurIPS, конференції з машинного навчання, під час виступу в грудні.

Суцкевер, який сказав, що галузь штучного інтелекту досягла того, що він назвав «піковими даними», передбачив, що брак навчальних даних змусить змінити спосіб розробки моделей сьогодні.

Інші компанії, зокрема такі технологічні гіганти, як Microsoft, Meta, OpenAI і Anthropic, уже використовують синтетичні дані для навчання флагманських моделей ШІ. За оцінками Gartner,  у 2024 році 60% даних, використаних для проектів ШІ та аналітики, були згенеровані синтетично.

Phi-4 від Microsoft був навчений на синтетичних даних разом з даними реального світу. Так само були моделі Gemma від Google. Anthropic використала деякі синтетичні дані для розробки однієї зі своїх найефективніших систем,  Claude 3.5 Sonnet . А Meta вдосконалила свою останню   серію моделей  Llama, використовуючи дані, згенеровані ШІ.

Джерело: TechCrunch