Исследователи создали конкурента Openai O1 по цене 50 долларов

Согласно новой исследовательской статье, опубликованной в прошлую пятницу, исследователи ИИ из Стэнфорда и Университета Вашингтона смогли обучить модель «рассуждения» искусственного интеллекта за менее чем 50 долларов кредитов на облачные вычисления.

Модель, известная как s1, работает подобно самым современным моделям рассуждения, таким как o1 OpenAI и R1 DeepSeek, в тестах, измеряющих способности к математике и программированию. Модель s1 доступна на GitHub вместе с данными и кодом, которые используются для ее обучения.

Команда, разрабатывающая s1, сказала, что они начали с готовой базовой модели, а затем настроили ее с помощью дистилляции, процесса, чтобы извлечь возможности «мышления» из другой модели искусственного интеллекта, обучаясь на ее ответах.

Исследователи говорят, что s1 получено из одной из моделей рассуждения Google, Gemini 2.0 Flash Thinking Experimental. Перегонка — это тот же подход, который использовали исследователи из Беркли, чтобы создать модель рассуждения искусственного интеллекта примерно за 450 долларов в прошлом месяце.

Некоторых восхищает идея о том, что несколько исследователей без миллионов долларов все еще могут внедрять инновации в области ИИ. Но s1 вызывает реальные вопросы о коммодитизации моделей ИИ.

В документе s1 утверждается, что модели рассуждения могут быть дистиллированы с относительно небольшим набором данных с помощью процесса, называемого контролируемой тонкой настройкой (SFT), в котором модель искусственного интеллекта явно указывается имитировать определенное поведение в наборе данных.

SFT, как правило, дешевле, чем широкомасштабный метод обучения с подкреплением, который DeepSeek использовал для обучения своего конкурента модели o1 OpenAI, R1.

S1 основан на небольшой готовой модели искусственного интеллекта от китайской лаборатории искусственного интеллекта Qwen, принадлежащей Alibaba, которую можно скачать бесплатно. Чтобы обучить s1, исследователи создали набор данных только из 1000 тщательно подобранных вопросов в сочетании с ответами на эти вопросы, а также с процессом «мышления», стоящим за каждым ответом из Google Gemini 2.0 Flash Thinking Experimental.

По словам исследователей, после обучения s1, которое заняло менее 30 минут с использованием 16 графических процессоров Nvidia H100, s1 достиг высокой производительности в определенных тестах ИИ.

Исследователи использовали хитрый трюк, чтобы заставить s1 еще раз проверить свою работу и продлить время «обдумывания»: они сказали ему подождать. Добавление слова «ждать» во время рассуждений s1 помогло модели получить несколько более точные ответы, согласно документу.

Источник: TechCrunch