Сегодня 25 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

ИИ обойдётся без Nvidia: Amazon выпустила системы на чипах Trainium2, а через год выйдут Trainium3

Подразделение Amazon Web Services (AWS) компании Amazon объявило на проводимой им конференции re:Invent, что клиенты её облачной платформы теперь могут пользоваться системами с ускорителями Trainium2, предназначенными для обучения и запуска больших языковых моделей искусственного интеллекта.

 Источник изображения: aws.amazon.com

Источник изображения: aws.amazon.com

Представленные в прошлом году чипы работают в четыре раза быстрее предшественников: один инстанс EC2 с 16 ускорителями Trainium2 предлагает производительность до 20,8 Пфлопс. Это значит, что при развёртывании масштабной модели Meta Llama 405B на платформе Amazon Bedrock клиент получит «трёхкратный прирост скорости генерации токенов по сравнению с другими доступными предложениями крупных облачных провайдеров». Можно будет также выбрать систему EC2 Trn2 UltraServer с 64 ускорителями Trainium2 и производительностью 83,2 Пфлопс. Отмечается, что показатель 20,8 Пфлопс относится к плотным моделям и точности FP8, а 83,2 Пфлопс — к разреженным моделям и FP8. Для связи между ускорителями в системах UltraServer используется интерконнект NeuronLink.

Совместно со своим партнёром в лице Anthropic, основным конкурентов OpenAI в области больших языковых моделей, AWS намеревается построить крупный кластер систем UltraServer с «сотнями тысяч чипов Trainium2», где стартап сможет обучать свои модели. Он будет в пять раз мощнее кластера, на котором Anthropic обучала модели текущего поколения — по оценке AWS, он «станет крупнейшим в мире вычислительным кластером для ИИ, о котором сообщалось до настоящего времени». Проект поможет компании превзойти показатели, которые обеспечиваются актуальными ускорителями Nvidia, которые по-прежнему пользуются высоким спросом и остаются в дефиците. Хотя в начале следующего года Nvidia готовится запустить ускорители нового поколения Blackwell, которые при 72 чипах на стойку предложат до 720 Пфлопс для FP8.

Возможно, поэтому AWS уже сейчас анонсировала ускорители нового поколения Trainium3, которые предлагают ещё один четырёхкратный прирост производительности для систем UltraServer — ускорители будут производиться с использованием техпроцесса 3 нм, а их развёртывание начнётся в конце 2025 года. Потребность в системах нового поколения в компании обосновали тем, что современные модели ИИ по масштабам подходят к триллионам параметров. Инстансы Trn2 пока доступны только в регионе US East инфраструктуры AWS, но скоро появятся и в других; системы UltraServer в настоящее время работают в режиме предварительного доступа.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Никакой романтики: Nintendo официально назвала Марио и принцессу Пич «просто друзьями» 12 мин.
Почти вечная жизнь для легендарной игры: полное издание «Героев Меча и Магии III» записали на кристалл, который хранит данные миллиарды лет 15 мин.
Без передачи алгоритмов сделка США с TikTok не состоится — Министр торговли США назвал обязательные условия соглашения 51 мин.
Виртуальная машина Linux в Android научилась запускать Doom и другие приложения с графическим интерфейсом 52 мин.
Надёжный инсайдер: Ubisoft отменила Star Wars Outlaws 2 на фоне провальных продаж 4 ч.
OpenAI может выпустить новую мощную модель GPT-5 уже в августе 4 ч.
Google запустила ИИ-сортировку поисковой выдачи Web Guide — пока в тестовом режиме 5 ч.
Apple выпустила первые публичные беты iOS 26 и других ОС с прозрачным дизайном Liquid Glass 12 ч.
Ubisoft раскрыла дату выхода дополнения Claws of Awaji к Assassin’s Creed Shadows и план улучшений игры 13 ч.
Google объявила дату отключения сервиса сокращения ссылок goo.gl 15 ч.
«Байкал Электроникс» начала выпуск микроконтроллеров BE-U1000 на базе RISC-V 17 мин.
А теперь о погоде: ракета «Союз-2.1б» вывела на орбиту два российских спутника для изучения ионосферы и солнечного ветра 2 ч.
Спутниковый интернет Starlink полностью отключился на 2,5 часа минувшей ночью 2 ч.
Учёные впервые создали кубит из антиматерии — это может стать шагом в новую физику 2 ч.
Tesla упустила возможность заработать $5 млрд на биткоинах, продав их в 2022 году 2 ч.
Импортозамещение по-южнокорейски: LG AI Research выбрала ускорители FuriosaAI RNGD для своих ИИ-серверов 4 ч.
Планшет Honor Pad 10 с большим 12,1-дюймовым экраном поступил в продажу в России — от 29 990 рублей 4 ч.
В Китае расцвёл бизнес по ремонту санкционных ускорителей Nvidia 4 ч.
Выручка Intel превзошла ожидания, но убытки удвоились — грядут массовые увольнения и смена подхода к освоению техпроцессов 5 ч.
Intel сократит 24 000 сотрудников до конца года и откажется от строительства предприятий в Германии и Польше 6 ч.