Сегодня 22 февраля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI отказалась от энергоэффективной ИИ-модели Arrakis — её разработка зашла в необъяснимый тупик

Ответственная за нейросеть GPT-4 и службу ChatGPT компания OpenAI работала над новой моделью искусственного интеллекта Arrakis, которая предлагала более высокую эффективность и, соответственно, более низкую себестоимость обслуживания. Но проект пришлось приостановить из-за проблем с качеством.

 Источник изображения: Zac Wolff / unsplash.com

Источник изображения: Zac Wolff / unsplash.com

Предполагалось, что Arrakis будет иметь возможности, сравнимые с GPT-4, но окажется более дешёвой в развёртывании — её спроектировали с использованием так называемого принципа разрежённости. Это значит, что обработка входящих данных производится только частью нейросети, тогда как традиционные «плотные модели» задействуют все её участки. Принцип разрежённости используется, например, Google в проекте Pathways.

Разработка Arrakis началась прошлой осенью, а обучение модели начали этой весной. Но разработчики OpenAI быстро поняли, что система действует слишком медленно. В течение месяца они пытались произвести настройку модели, но затем руководство закрыло проект. Причины сбоя установить пока не удалось: принцип разрежённости хорошо работал в ранних тестах, но в более крупной модели проявить себя не сумел.

Несмотря на неудачу, OpenAI сможет использовать наработки Arrakis и мультимодальной модели Gobi в других проектах. Большие надежды на Arrakis возлагали и в Microsoft: сейчас софтверный гигант переключился на разработку менее дорогих языковых моделей, поскольку высокая себестоимость обслуживания генеративного ИИ начала угрожать её бизнесу.

Arrakis генерировала не только текст, но также изображения и видео; у неё было меньше галлюцинаций, чем у GPT-4; и она могла работать в качестве автономного агента. Модель была частично обучена на синтетических данных, а её выход планировался на 2024 год. Проект мог вылиться в целую систему создания более эффективных моделей — есть версия, что он способствовал разработке нейросети GPT-3.5 Turbo.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple выпустила первую бету iOS 18.4, в которой появились «приоритетные уведомления» 2 ч.
Новая статья: Kingdom Come: Deliverance II — ролевое вознесение. Рецензия 13 ч.
Apple отключила сквозное шифрование в iCloud по требованию властей Великобритании 13 ч.
Взрывной платформер Shotgun Cop Man от создателя My Friend Pedro предложит спуститься в ад и арестовать Дьявола — трейлер и демоверсия в Steam 15 ч.
Valve заблокировала игру в российском Steam по требованию Роскомнадзора 17 ч.
Meta рассказала, как скачивать контент через торренты, но не стать пиратом 17 ч.
Corsair прояснила заявление о релизе ПК-версии GTA VI в начале 2026 года 18 ч.
Роскомнадзор принудительно записал Cloudflare в организаторы распространения информации 19 ч.
«Небольшой, но искренний прогресс»: DeepSeek откроет для всех пять ИИ-репозиториев 19 ч.
Видео: прохождение пролога ремейка первой Gothic и получасовая демонстрация русской озвучки 19 ч.
На первых смарт-часах OnePlus Watch 3 обнаружена нелепая ошибка, которую невозможно исправить 45 мин.
AMD передумала выпускать Radeon RX 9070 XT и RX 9070 в эталонном дизайне 2 ч.
SpaceX запустит на орбиту телескоп, который спасёт Землю от космических угроз 2 ч.
Asus представила беспроводную мышь, которая всегда приятно пахнет 3 ч.
Apple подтвердила, что скоро сделает гарнитуры Vision Pro удобнее и умнее 3 ч.
AMD готовится продать предприятия по выпуску серверного оборудования тайваньским инвесторам 6 ч.
На Балтике вновь повреждён подводный кабель C-Lion1 между Финляндией и Германией 12 ч.
Китайский подводный дата-центр HiCloud получил ИИ-апгрейд 13 ч.
На китайской орбитальной станции испытали робота-инспектора, вдохновлённого морскими звёздами 13 ч.
Ирландский регулятор предложил дата-центрам заняться самостоятельной постройкой электростанций и энергохранилищ 13 ч.