Похоже, что сотрудничество Samsung и Naver по выпуску чипов для гипермасштабируемых ИИ-моделей уже приносит свои плоды: компании утверждают, что их решение на базе программируемых пользователем вентильных матриц (FPGA) в восемь раз энергоэффективнее, чем любой продукт NVIDIA. Это смелое заявление, и оно, несомненно, будет проверено, когда независимые стороны получат возможность поближе познакомиться с чипом Naver.

Источник изображения: pixabay.com

По словам представителей компаний-партнёров, высокая энергоэффективность достигается отчасти благодаря тому, что в чип интегрирована память DRAM с пониженным энергопотреблением (LPDDR — точный тип памяти не указывается). Однако подробной информации о том, как LPDDR работает в этом новом чипе и что конкретно может привести к столь значительному повышению производительности, предоставлено немного.

Гипермасштабируемая языковая модель HyperCLOVA, разработанная Naver, также играет ключевую роль в достижении высокой эффективности. Naver заявляет, что продолжает работать над улучшением этой модели, надеясь добиться ещё большей эффективности за счет улучшения алгоритмов сжатия и упрощения модели. В настоящее время HyperCLOVA насчитывает более 200 миллиардов параметров.

Источник изображения: Samsung

Сук Гын Чунг (Suk Geun Chung), глава Naver CLOVA CIC, утверждает: «Объединив наши знания и ноу-хау, полученные в HyperCLOVA, с мастерством Samsung в производстве полупроводников, мы уверены, что сможем создать совершенно новый класс решений, способных лучше справиться с проблемами современных технологий ИИ».

Появление ещё одного игрока на рынке чипов для ИИ неудивительно, ведь NVIDIA продолжает зарабатывать на своих предложениях в этой области. Наличие дополнительных возможностей будет полезно для разработчиков, желающих работать с ИИ.

Ускорителей вычислений NVIDIA, которые активно используются в серверном сегменте в наши дни, не хватает на всех желающих, и некоторым клиентам компании приходится присматриваться к изделиям конкурентов. Например, южнокорейский интернет-гигант Naver вынужден был переключиться на процессоры Intel при развитии своей инфраструктуры.

Источник изображения: Intel

Что характерно, как поясняет издание The Korea Economic Daily, речь идёт не об ускорителях вычислений Intel, которые она тоже предлагает, а о центральных процессорах семейства Xeon. Во всяком случае, для задач искусственного интеллекта, применяемых в фирменном картографическом сервисе, Naver сочла уместной именно такую замену в условиях дефицита ускорителей NVIDIA. Сервис Naver Place помогает пользователям получать информацию о так называемых «точках интереса» в непосредственной близости, и разработчикам удалось приспособить для решения таких задач центральные процессоры Intel.

По словам южнокорейских источников, на местном рынке стоимость одного ускорителя NVIDIA H100 с начала текущего года выросла в два раза почти до $60 000 за штуку, и их применение не стало себя оправдывать экономически в отдельных задачах. Кроме того, сроки ожидания поставки таких ускорителей увеличились до 52 недель — ждать заказанный ускоритель приходится целый год. Принятию решения о закупке процессоров Intel Xeon в качестве альтернативы NVIDIA H100 для компании Naver предшествовали месячные испытания пилотной системы на их основе. Процессоры поколения Sapphire Rapids, по всей видимости, будут использоваться Naver и для обновления своей существующей серверной инфраструктуры. Данный пример доказывает, что рынок центральных процессоров может не только страдать, но и выигрывать от наблюдаемых в серверном сегменте тенденций перехода на GPU — по крайней мере, если последние остаются в дефиците и дорожают.

Генеральный директор Лиза Су (Lisa Su) на сегодняшней квартальной конференции дала понять, что рынок ускорителей для систем искусственного интеллекта будет развиваться стремительно в ближайшие четыре года, ежегодно прирастая более чем на 50 %, но места на нём хватит всем. К 2027 году ежегодный оборот средств в этом сегменте достигнет $150 млрд, по мнению главы AMD. При этом собственные ускорители марки, относящиеся к семейству Instinct MI300, рискуют стать категорией продукции, которая быстрее всего в истории компании наберёт более $1 млрд выручки в процессе реализации. Поставки данных ускорителей AMD начинает в текущем квартале.