Сегодня 30 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Китайцы обучили аналог GPT-4 всего на 2000 чипов и в 33 раза дешевле, чем OpenAI

Китайская компания 01.ai разработала конкурентоспособную ИИ-модель Yi-Lightning, которая, как утверждается, по своим возможностям аналогична GPT-4. Но что удивительно, для этого потребовалось всего 2000 графических процессоров (GPU), а затраты составили всего $3 млн, в то время как OpenAI потратила около $100 млн на обучение своей модели, сообщает Tom's Hardware.

 Источник изображения: Copilot

Источник изображения: Copilot

Достижение 01.ai особенно примечательно на фоне ограниченного доступа китайских компаний к передовым графическим процессорам Nvidia. Основатель и глава компании Кай-Фу Ли (Kai-Fu Lee) подчёркивает, что несмотря на то, что китайские компании практически не имеют доступ к GPU Nvidia из-за нормативных актов США, ИИ-модель Yi-Lightning заняла шестое место в рейтинге производительности моделей по версии LMSIS Калифорнийского университета в Беркли.

 Источник изображения: Nvidia

Источник изображения: Nvidia

«Моих друзей в Кремниевой долине шокирует не только наша производительность, но и то, что мы обучили модель всего за $3 млн, — сказал Кай-Фу Ли. — По слухам, в обучение GPT-5 уже вложен примерно 1 миллиард долларов». Он также добавил, что из-за санкций США, компании в Китае вынуждены искать более эффективные и экономичные решения, чего и удалось достичь 01.ai благодаря оптимизации ресурсов и инженерных идей, получив при этом аналогичные GPT-4 результаты при значительно меньших затратах.

Вместо того, чтобы наращивать вычислительные мощности, как это делают конкуренты, компания сосредоточилась на оптимизации алгоритмов и сокращении узких мест в процессе обработки информации. «Когда у нас есть только 2000 графических процессоров, мы должны придумать, как их использовать [эффективно] », — сказал Ли.

В результате затраты на вывод модели составили всего 10 центов за миллион токенов, что примерно в 30 раз меньше, чем у аналогичных моделей. «Мы превратили вычислительную проблему в проблему памяти, построив многоуровневый кеш, создав специальный механизм вывода и так далее», — поделился подробностями Ли.

Несмотря на заявления о низкой стоимости обучения модели Yi-Lightning, остаются вопросы относительно типа и количества используемых GPU. Глава 01.ai утверждает, что у компании достаточно ресурсов для реализации своих планов на полтора года, но простой подсчёт показывает, что 2000 современных GPU Nvidia H100 по текущей цене в $30 000 за единицу обошлись бы в $6 млн, что вдвое превышает заявленные затраты. Это несоответствие вызывает вопросы и требует дальнейших разъяснений. Тем не менее, достижение компании уже привлекло внимание мировой общественности и показало, что инновации в сфере ИИ могут рождаться даже в условиях ограниченных вычислительных ресурсов.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
В Telegram появилась «Проверка фактов», но не у всех 32 мин.
Слухи: Bethesda подготовила новые трейлеры The Elder Scrolls VI, но не для широкой публики 34 мин.
Восток и Запад встречаются в дебютном трейлере дополнения Badlands к симулятору выживания DayZ 35 мин.
Безоговорочный возврат средств, скидка за лояльность и план патчей: создатели провального ремастера Warhammer 40,000: Space Marine обратились к игрокам 45 мин.
«Придётся пройти ещё раз»: звезда Assassin’s Creed IV: Black Flag недвусмысленно намекнула на неанонсированный ремейк игры 3 ч.
AirPods с живым переводом и Wi-Fi без паролей могут появиться в iOS 26 уже осенью 7 ч.
Президент США заявил, что покупатель для американских активов TikTok найден 7 ч.
Baidu откроет исходный код Ernie, что может изменить расстановку сил на мировом ИИ-рынке 7 ч.
Meta переманила из OpenAI ещё четырёх специалистов в области ИИ 29-06 06:57
Обновился формат изображений PNG — теперь в нём поддерживается HDR, анимация и Exif 29-06 01:31
ATP представила индустриальные SSD серий N651Si/N651Sc с повышенной долговечностью 5 мин.
Блоки питания TESLA: надёжность, защита и выгодная цена для любой сборки 13 мин.
Китайские электромобили станут безопаснее: власти ужесточат требования к защите батарей от возгораний и взрывов 43 мин.
Албания присоединилась к европейской суперкомпьютерной программе EuroHPC JU 2 ч.
CoreWeave снова пытается купить оператора ЦОД Core Scirntific, от которого зависит бизнес компании 3 ч.
ИИ от Palantir ускорит и удешевит строительство АЭС 4 ч.
Micron представила накопители Micron 2600 QLC с уровнем производительности памяти TLC 5 ч.
Подразделение Volkswagen займётся сдачей роботакси на базе минивэна ID. Buzz в аренду таксопаркам 5 ч.
Практически все характеристики наушников Nothing Headphones (1) стали известны до официального анонса 1 июля 6 ч.
Gigabyte выпустила RTX 5060 и RTX 5060 Ti в исполнениях Eagle Max и Windforce Max с полноразмерным разъёмом PCIe 7 ч.