Сегодня 22 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Исследователи обучили конкурента OpenAI o1 менее чем за полчаса и $50

Исследователи из Стэнфорда и Университета Вашингтона создали ИИ-модель, которая превосходит OpenAI в решении математических задач. Модель, получившая название s1, была обучена на ограниченном наборе данных из 1000 вопросов методом дистилляции. Это позволило достичь высокой эффективности при минимальных ресурсах и доказать, что крупным компаниям, таким как OpenAI, Microsoft, Meta и Google, возможно не придётся строить огромные дата-центры, заполняя их тысячами графических процессоров Nvidia.

 Источник изображения: Growtika / Unsplash

Источник изображения: Growtika / Unsplash

Метод дистилляции, который применили учёные, стал ключевым решением в эксперименте. Этот подход позволяет небольшим моделям обучаться на ответах, предоставленных более крупными ИИ-моделями. В данном случае, как пишет The Verge, s1 быстро улучшала свои способности, используя ответы, полученные от модели искусственного интеллекта Gemini 2.0 Flash Thinking Experimental, разработанной компанией Google.

Модель s1 была создана на основе проекта Qwen2.5 от Alibaba (подразделение Cloud) с открытым исходным кодом. Первоначально исследователи использовали набор данных из 59 000 вопросов, но в ходе экспериментов пришли к выводу, что увеличение объёма данных не даёт значимых улучшений, и для финального обучения использовали лишь небольшой набор из 1000 вопросов. При этом было использовано всего 16 GPU Nvidia H100 в облаке, за использование которых пришлось заплатить менее $50.

В s1 была также применена техника под названием «масштабирование времени тестирования», которая позволяет модели «поразмышлять» перед генерацией ответа. Также исследователи стимулировали модель к перепроверке своих выводов путём добавления команды в виде слова «Wait» («Жди»), что заставляло ИИ продолжать рассуждение и исправлять ошибки в своих ответах.

Утверждается, что модель s1 показала впечатляющие результаты и смогла превзойти OpenAI o1-preview на 27 % при решении математических задач. Недавно нашумевшая модель R1 от DeepSeek также использовала аналогичный подход и за сравнительно небольшие деньги. Правда, теперь OpenAI обвиняет DeepSeek в извлечении информации из своих моделей в нарушение условий обслуживания. Стоит сказать, что и в условиях использования Google Gemini указано, что её API запрещено применять для создания конкурирующих чат-ботов.

Рост количества меньших и более дешёвых моделей может, по словам экспертов, перевернуть всю отрасль и доказать, что нет необходимости инвестировать миллиарды долларов на обучение ИИ, строить огромные центры обработки данных и закупать в большом количестве GPU.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Разработчики ролевого боевика Alkahest в духе Dark Messiah of Might and Magic анонсировали геймплейную демонстрацию и показали новый тизер 24 мин.
День биткоин-пиццы: 15 лет назад майнер купил две пиццы за 10 000 BTC — сегодня это $1,1 млрд 25 мин.
«Яндекс» запустил «Вертикали Поиска» — теперь искать в интернете можно сразу по объектам 2 ч.
Надёжный инсайдер раскрыл, когда для Assassin’s Creed Shadows выйдет дополнение Claws of Awaji и неанонсированный кооперативный режим 2 ч.
«Алиса» полностью переехала на YandexGPT 5: версия Lite доступна всем бесплатно, а Pro — по подписке 3 ч.
Поисковик «Яндекса» теперь может рассуждать и генерировать тексты и изображения с помощью «Алисы» 3 ч.
Российские ИТ-гиганты обратились к Путину с просьбой помешать национализации «Леста Игры» — суд назначен на 27 мая 4 ч.
Объявлены системные требования MindsEye — для комфортной игры в сюжетный боевик от студии экс-продюсера GTA нужна RTX 4070 7 ч.
Telegram наконец перестал быть убыточным — годовая выручка взлетела в четыре раза до $1,4 млрд 8 ч.
The Elder Scrolls IV: Oblivion Remastered значительно превзошла оригинальную Oblivion по продажам в США за первый месяц 8 ч.
10G Ethernet станет массовым уже в этом году — Realtek представила россыпь доступных контроллеров 14 мин.
SK hynix представила смартфонную память UFS 4.1 на основе 321-слойной 4D NAND 21 мин.
Представлен флагман Xiaomi 15S Pro — первый смартфон на фирменном процессоре Xring O1 44 мин.
Xiaomi представила процессор Xring O1, который быстрее и дешевле Apple A18 Pro — его разрабатывали 4 года и потратили $1,87 млрд 48 мин.
Учёные создали полупроводниковый кулер для всего — без движущихся частей, шума и жидкости 55 мин.
Дебютировал смартфон Honor 400 с 200-Мп камерой и ИИ-функциями по цене от €499 2 ч.
Представлен смартфон Honor 400 Pro — почти флагман для любителей фотографии за €799 2 ч.
Lian Li представила на Computex 2025 компьютерные корпуса разных форм и размеров 3 ч.
Физики из ЦЕРН покатали антиматерию в обычном грузовике — и она не взорвалась 3 ч.
Stargate: ЦОД OpenAI в Техасе вместит до 400 тыс. ускорителей Blackwell 4 ч.