Сегодня 22 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Российские компании продолжают закупать ИИ-ускорители Nvidia, несмотря на санкции, но затраты растут

Несмотря на санкции, российским компаниям в сфере ИИ-технологий пока удаётся закупать необходимое оборудование, в первую очередь — ускорители вычислений Nvidia, которые можно объединять в высокопроизводительные кластеры, пишет «Коммерсантъ». Данные ускорители сейчас особенно нужны — они служат основой для систем искусственного интеллекта.

 Источник изображения: geralt/Pixabay

Источник изображения: geralt/Pixabay

Российские технологические компании стали активнее коммерциализировать ИИ-решения. Например, «Яндекс» и «Сбер» интегрировали большие языковые модели (LLM), соответственно YandexGPT и GigaChat, в свои ассистенты и предлагают другим компаниям использовать их для обработки или генерации контента. VK и МТС тоже представили собственные продукты на базе генеративного ИИ, использующие собственные LLM.

Создание LLM требует значительных вычислительных мощностей, в основном построенных на графических ускорителях. Лидирует в этой сфере Nvidia. Согласно исследованию Dell’Oro Group, в 2023 году на её серверные графические ускорители приходилось 97 % всей выручки, которую приносит сегмент во всём мире.

Чем больше у LLM параметров, тем больше число вычислительных операций необходимо для её тренировки. Да и обращение с запросом к нейросетям, прошедшим обучение, тоже требует вычислительных ресурсов. Как сообщил директор бизнес-группы поиска и рекламных технологий «Яндекса» Дмитрий Масюк, стоимость ответов на основе YandexGPT в пересчёте на пользователя в семь раз выше, чем при использовании классических технологий вроде интернет-поиска.

В VK рост числа связанных друг с другом высокопроизводительных серверов (HPC-кластеры) на базе графических ускорителей примерно в полтора раза превосходит рост обычных систем, сообщил «Коммерсанту» вице-президент компании по ИИ, контентным и рекомендательным сервисам Антон Фролов. Рост спроса на ресурсы подтвердили и в Beeline Cloud, отметив, что санкции усложняют закупки и поставки серверов «с адекватными конфигурациями и ценами».

С ростом объёма данных, передаваемых в ходе высокопроизводительных вычислений, возникает потребность в расширении сетей, отметил вице-президент по развитию инфраструктуры МТС, глава облачной платформы MWS Игорь Зарубинский. А также растёт потребность в быстрых и ёмких хранилищах данных. «Развитие ИИ приводит к росту спроса на накопители и диски. В будущем потребуется строительство высокоплотных энергонагруженных ЦОДов», — прогнозирует он.

IT-директор облачного провайдера Oxygen Александр Будкин утверждает, что рост потребности клиентов в высоких мощностях требует «переосмысления ЦОДа как конечного коммерческого продукта для ИТ рынка». По его мнению, если тенденция сохранится на четыре-пять лет, можно будет говорить о проектах строительства ЦОД именно под ИИ: «Они могут быть размещены в регионах с холодным климатом, работать от электричества с электростанций на попутном газе». Такие проекты обсуждались и раньше, но были признаны нецелесообразными из-за относительной неразвитости каналов связи, но ИИ «более толерантен к задержкам».

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Разработчики Guilty Gear Strive анонсировали кроссовер с Cyberpunk: Edgerunners — первый трейлер и детали четвёртого сезона 24 мин.
Mistral AI и NVIDIA представили корпоративную ИИ-модель Mistral NeMo 12B со «здравым смыслом» и «мировыми знаниями» 2 ч.
Microsoft: неправильно называть «деградацией» повышение цен на Game Pass 13 ч.
iPhone на iOS 17.4 и новее оказалось невозможно взломать с помощью Cellebrite 16 ч.
Легендарные FlatOut и FlatOut 2 получили большие патчи — перевод на русский язык, поддержка Steam Deck и кое-что ещё 19 ч.
Видео: геймплейная демонстрация фэнтезийного MMO-экшена Soulframe от создателей Warframe 21 ч.
Intel улучшает XeSS, но собственной функции генерации кадров по-прежнему нет 21-07 09:07
Сбой с CrowdStrike затронул 8,5 млн компьютеров с Windows по всему миру 21-07 07:35
Пострадавшие от сбоя с CrowdStrike системы будут восстанавливаться несколько недель 21-07 06:31
Глобальный сбой из-за обновления CrowdStrike затронул 8,5 млн ПК на Windows: Microsoft выпустила инструмент для починки пострадавших систем 21-07 00:48
Nvidia готовит для Китая антисанкционный ИИ-ускоритель новейшего поколения Blackwell 57 мин.
Intel представила чипы Raptor Lake Refresh с отключёнными E-ядрами для встраиваемых устройств 2 ч.
Китайская XPeng поможет Volkswagen при разработке электромобилей для глобального рынка 4 ч.
В рамках 2-нм техпроцесса Samsung увеличит количество EUV-слоёв на 30 % 5 ч.
Новая статья: Обзор ноутбука Digma Pro Fortis M: учёба удобнее, работа эффективнее 11 ч.
В 2024 году лидером российского рынка унифицированных коммуникаций станет «Ростелеком» 11 ч.
Nyriad, разработчик СХД с GPU-ускорением, окончательно свернул бизнес, распродав активы и патенты 14 ч.
К ИИ готов: IXAfrica и Schneider Electric запустили в Кении ЦОД гиперскейл-класса 14 ч.
Профсоюз Samsung запланировал новую акцию протеста, несмотря на старт переговоров с работодателем 21-07 09:40
Tenstorrent начала продажи ИИ-ускорителей Wormhole и рабочие станции на их основе 20-07 21:45