Сегодня 09 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Китайцы обучили аналог GPT-4 всего на 2000 чипов и в 33 раза дешевле, чем OpenAI

Китайская компания 01.ai разработала конкурентоспособную ИИ-модель Yi-Lightning, которая, как утверждается, по своим возможностям аналогична GPT-4. Но что удивительно, для этого потребовалось всего 2000 графических процессоров (GPU), а затраты составили всего $3 млн, в то время как OpenAI потратила около $100 млн на обучение своей модели, сообщает Tom's Hardware.

 Источник изображения: Copilot

Источник изображения: Copilot

Достижение 01.ai особенно примечательно на фоне ограниченного доступа китайских компаний к передовым графическим процессорам Nvidia. Основатель и глава компании Кай-Фу Ли (Kai-Fu Lee) подчёркивает, что несмотря на то, что китайские компании практически не имеют доступ к GPU Nvidia из-за нормативных актов США, ИИ-модель Yi-Lightning заняла шестое место в рейтинге производительности моделей по версии LMSIS Калифорнийского университета в Беркли.

 Источник изображения: Nvidia

Источник изображения: Nvidia

«Моих друзей в Кремниевой долине шокирует не только наша производительность, но и то, что мы обучили модель всего за $3 млн, — сказал Кай-Фу Ли. — По слухам, в обучение GPT-5 уже вложен примерно 1 миллиард долларов». Он также добавил, что из-за санкций США, компании в Китае вынуждены искать более эффективные и экономичные решения, чего и удалось достичь 01.ai благодаря оптимизации ресурсов и инженерных идей, получив при этом аналогичные GPT-4 результаты при значительно меньших затратах.

Вместо того, чтобы наращивать вычислительные мощности, как это делают конкуренты, компания сосредоточилась на оптимизации алгоритмов и сокращении узких мест в процессе обработки информации. «Когда у нас есть только 2000 графических процессоров, мы должны придумать, как их использовать [эффективно] », — сказал Ли.

В результате затраты на вывод модели составили всего 10 центов за миллион токенов, что примерно в 30 раз меньше, чем у аналогичных моделей. «Мы превратили вычислительную проблему в проблему памяти, построив многоуровневый кеш, создав специальный механизм вывода и так далее», — поделился подробностями Ли.

Несмотря на заявления о низкой стоимости обучения модели Yi-Lightning, остаются вопросы относительно типа и количества используемых GPU. Глава 01.ai утверждает, что у компании достаточно ресурсов для реализации своих планов на полтора года, но простой подсчёт показывает, что 2000 современных GPU Nvidia H100 по текущей цене в $30 000 за единицу обошлись бы в $6 млн, что вдвое превышает заявленные затраты. Это несоответствие вызывает вопросы и требует дальнейших разъяснений. Тем не менее, достижение компании уже привлекло внимание мировой общественности и показало, что инновации в сфере ИИ могут рождаться даже в условиях ограниченных вычислительных ресурсов.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Xiaomi SU7 Ultra стал первым китайским спорткаром, прописавшимся в гоночном симуляторе Gran Turismo 7 2 ч.
«Напоминает Dishonored и Bioshock»: презентация ролевой игры Clockwork Revolution про путешествия во времени прошла успешно 8 ч.
Ремейк Persona 4 вышел из тени — первый тизер и геймплей Persona 4 Revival 9 ч.
Анонсирован Resonance: A Plague Tale Legacy — приквел дилогии приключений Амиции и Гуго с новой героиней 10 ч.
AMD расширила список игр с поддержкой FSR 4 — добавлено 28 новых игр 13 ч.
Microsoft всё активнее продвигает бренд Xbox PC как альтернативу Steam 13 ч.
Автор Spec Ops: The Line и гитарист Nine Inch Nails работают над Sleep Awake — психоделическим хоррором про вечную бессонницу 14 ч.
Атмосферная стелс-стратегия Eriksholm: The Stolen Dream в антураже северного городка начала XX века выйдет 15 июля 19 ч.
Nvidia планирует построить 100 новых ИИ-фабрик по всему миру 08-06 06:29
Запрет на TikTok в США может быть отложен на неопределённый срок 08-06 00:50
Новая статья: Обзор видеокарты NVIDIA GeForce RTX 5060: счастливое исключение 7 ч.
Marvell получила рекордную выручку и рассчитывает на дальнейшее успешное сотрудничество с гиперскейлерами 8 ч.
Microsoft и Asus показали портативные консоли Xbox Ally на новой Windows с интерфейсом Xbox 9 ч.
Meta хочет инвестировать свыше $10 млрд в стартап по разметке данных для ИИ Scale AI 14 ч.
NASA и Пентагон приступили к поиску альтернатив ракетам и кораблям SpaceX 18 ч.
Сроки строительства гигаваттного ЦОД в ОАЭ растянутся из-за проблем в сфере безопасности 23 ч.
Китайские власти пытаются добиться смягчения европейских санкций в высокотехнологичной сфере 24 ч.
Gigabyte собрала идеальную систему на Ryzen Threadripper для ИИ, игр и работы 08-06 06:33
Акции Broadcom упали из-за слабого прогноза, несмотря рост прибыли и выручки 07-06 23:11
Признаки жизни, сенсационно обнаруженные на экзопланете K2-18b, теперь вызывают у учёных сомнения 07-06 23:02