Сегодня 26 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → yi-lightning

Китайцы обучили аналог GPT-4 всего на 2000 чипов и в 33 раза дешевле, чем OpenAI

Китайская компания 01.ai разработала конкурентоспособную ИИ-модель Yi-Lightning, которая, как утверждается, по своим возможностям аналогична GPT-4. Но что удивительно, для этого потребовалось всего 2000 графических процессоров (GPU), а затраты составили всего $3 млн, в то время как OpenAI потратила около $100 млн на обучение своей модели, сообщает Tom's Hardware.

 Источник изображения: Copilot

Источник изображения: Copilot

Достижение 01.ai особенно примечательно на фоне ограниченного доступа китайских компаний к передовым графическим процессорам Nvidia. Основатель и глава компании Кай-Фу Ли (Kai-Fu Lee) подчёркивает, что несмотря на то, что китайские компании практически не имеют доступ к GPU Nvidia из-за нормативных актов США, ИИ-модель Yi-Lightning заняла шестое место в рейтинге производительности моделей по версии LMSIS Калифорнийского университета в Беркли.

 Источник изображения: Nvidia

Источник изображения: Nvidia

«Моих друзей в Кремниевой долине шокирует не только наша производительность, но и то, что мы обучили модель всего за $3 млн, — сказал Кай-Фу Ли. — По слухам, в обучение GPT-5 уже вложен примерно 1 миллиард долларов». Он также добавил, что из-за санкций США, компании в Китае вынуждены искать более эффективные и экономичные решения, чего и удалось достичь 01.ai благодаря оптимизации ресурсов и инженерных идей, получив при этом аналогичные GPT-4 результаты при значительно меньших затратах.

Вместо того, чтобы наращивать вычислительные мощности, как это делают конкуренты, компания сосредоточилась на оптимизации алгоритмов и сокращении узких мест в процессе обработки информации. «Когда у нас есть только 2000 графических процессоров, мы должны придумать, как их использовать [эффективно] », — сказал Ли.

В результате затраты на вывод модели составили всего 10 центов за миллион токенов, что примерно в 30 раз меньше, чем у аналогичных моделей. «Мы превратили вычислительную проблему в проблему памяти, построив многоуровневый кеш, создав специальный механизм вывода и так далее», — поделился подробностями Ли.

Несмотря на заявления о низкой стоимости обучения модели Yi-Lightning, остаются вопросы относительно типа и количества используемых GPU. Глава 01.ai утверждает, что у компании достаточно ресурсов для реализации своих планов на полтора года, но простой подсчёт показывает, что 2000 современных GPU Nvidia H100 по текущей цене в $30 000 за единицу обошлись бы в $6 млн, что вдвое превышает заявленные затраты. Это несоответствие вызывает вопросы и требует дальнейших разъяснений. Тем не менее, достижение компании уже привлекло внимание мировой общественности и показало, что инновации в сфере ИИ могут рождаться даже в условиях ограниченных вычислительных ресурсов.


window-new
Soft
Hard
Тренды 🔥
Электронную подпись через «Госключ» получили более 20 млн россиян 4 ч.
Все популярные модели генеративного ИИ оказалось легко взломать по схеме Policy Puppetry 5 ч.
Учёные уличили ИИ в неспособности строить математические доказательства в олимпиадных задачах USAMO 2025 года 5 ч.
«Клянусь Азурой!»: за три дня в The Elder Scrolls IV: Oblivion Remastered сыграло более 4 миллионов человек 6 ч.
ИИ-помощник Google Gemini появится в автомобилях, умных часах и наушниках 6 ч.
ФБР объявило награду $10 млн за данные о хакерах Salt Typhoon 6 ч.
Прокуратура США усомнилась в праве «Википедии» на налоговые льготы из-за иностранного вмешательства 7 ч.
Холдинг xAI Илона Маска готовится привлечь $20 млрд в свой капитал 11 ч.
Новая статья: Hollywood Animal — тёмная сторона Голливуда. Предварительный обзор 17 ч.
Релиз шутера La Quimera от бывших разработчиков Metro отложили после разгромных обзоров — игра должна была выйти сегодня 18 ч.
Портативная консоль Figment объединила книги и генерацию сюжетов с помощью ИИ 3 мин.
Alphabet в полтора раза нарастил квартальную прибыль и подтвердил планы потратить $75 млрд на ИИ-инфраструктуру 4 ч.
Марсоход Curiosity впервые сфотографировали с орбиты во время передвижения по Красной планете 5 ч.
Общественники уличили xAI Илона Маска во лжи — её мощнейший ИИ-суперкомпьютер тайно вредит экологии 6 ч.
В процессорах Nova Lake будет больше кристаллов Intel, чем в Panther Lake 9 ч.
В этом году Intel выпустит самые мощные процессоры Panther Lake, а версии подешевле появятся в следующем 12 ч.
NASA начало тестировать лунную поверхность на способность принять тяжёлые посадочные модули 19 ч.
TP-Link попала под двойное расследование из-за очень низких цен и угрозы нацбезопасности США 20 ч.
Роботакси на продажу: Waymo задумала предлагать беспилотные авто всем желающим 20 ч.
Curator: в I квартале количество DDoS-атак выросло более чем вдвое, а рекордный ботнет «захватил» сразу 1,33 млн устройств 21 ч.