Сегодня 17 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI отказалась от энергоэффективной ИИ-модели Arrakis — её разработка зашла в необъяснимый тупик

Ответственная за нейросеть GPT-4 и службу ChatGPT компания OpenAI работала над новой моделью искусственного интеллекта Arrakis, которая предлагала более высокую эффективность и, соответственно, более низкую себестоимость обслуживания. Но проект пришлось приостановить из-за проблем с качеством.

 Источник изображения: Zac Wolff / unsplash.com

Источник изображения: Zac Wolff / unsplash.com

Предполагалось, что Arrakis будет иметь возможности, сравнимые с GPT-4, но окажется более дешёвой в развёртывании — её спроектировали с использованием так называемого принципа разрежённости. Это значит, что обработка входящих данных производится только частью нейросети, тогда как традиционные «плотные модели» задействуют все её участки. Принцип разрежённости используется, например, Google в проекте Pathways.

Разработка Arrakis началась прошлой осенью, а обучение модели начали этой весной. Но разработчики OpenAI быстро поняли, что система действует слишком медленно. В течение месяца они пытались произвести настройку модели, но затем руководство закрыло проект. Причины сбоя установить пока не удалось: принцип разрежённости хорошо работал в ранних тестах, но в более крупной модели проявить себя не сумел.

Несмотря на неудачу, OpenAI сможет использовать наработки Arrakis и мультимодальной модели Gobi в других проектах. Большие надежды на Arrakis возлагали и в Microsoft: сейчас софтверный гигант переключился на разработку менее дорогих языковых моделей, поскольку высокая себестоимость обслуживания генеративного ИИ начала угрожать её бизнесу.

Arrakis генерировала не только текст, но также изображения и видео; у неё было меньше галлюцинаций, чем у GPT-4; и она могла работать в качестве автономного агента. Модель была частично обучена на синтетических данных, а её выход планировался на 2024 год. Проект мог вылиться в целую систему создания более эффективных моделей — есть версия, что он способствовал разработке нейросети GPT-3.5 Turbo.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Второй патч для Hollow Knight: Silksong не заставит себя долго ждать — в Steam уже доступна бета-версия 2 ч.
ОС Astra Linux Server дополнилась спецверсией для «1С:Предприятия 8» 2 ч.
Бывшие разработчики «Мора» анонсировали The Lift — сюжетный симулятор ремонтника с атмосферой советской фантастики 3 ч.
Дополнение The Red Strain к ролевому экшену Atomfall отправит игроков на заброшенный полигон для ядерных испытаний 3 ч.
YouTube перестал считать пользователей с блокировщиками рекламы за людей — у блогеров резко упали просмотры 4 ч.
OpenAI готовит детскую версию ChatGPT и будет автоматически сортировать пользователей по возрасту 5 ч.
YouTube за последние четыре года выплатила авторам контента более $100 млрд 5 ч.
«Скачок в области открытого кодирования видео» — видеокодек AV2 выйдет к концу года 5 ч.
Разработчики ИИ всё чаще попадают под сокращение из-за ИИ — такое происходит в Meta, xAI и Google 5 ч.
Комедийная игра про супергероев Dispatch от экс-разработчиков The Wolf Among Us выйдет 22 октября, но не целиком 5 ч.