Сегодня 14 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Google Cloud представила пятое поколение тензорных процессоров для обучения ИИ

На очередной ежегодной конференции Cloud Next компания Google Cloud объявила о выпуске пятого поколения своих тензорных процессоров (TPU) для обучения нейросетей — TPU v5e. Google анонсировала предыдущую, четвертую версию этих процессоров в 2021 году, но разработчикам они стали доступны только в 2022 году.

 Источник изображения: Frederic Lardinois / TechCrunch

Источник изображения: Frederic Lardinois / TechCrunch

Компания отмечает, что при создании новой версии чипа особое внимание уделялось его эффективности. По сравнению с предыдущим поколением, новый процессор обещает двукратное улучшение производительности в пересчёте на доллар для обучения больших языковых моделей (LLM) и генеративных нейросетей, а также 2,5-кратное улучшение производительности по тому же критерию для инференс-систем.

«Это самый экономичный и доступный облачный TPU на сегодняшний день», — заявил на пресс-конференции перед сегодняшним анонсом Марк Ломейер (Mark Lohmeyer), вице-президент и генеральный директор по вычислительной и ML-инфраструктуре Google Cloud.

 Источник изображения: Google

Источник изображения: Google

В то же время он подчеркнул, что компания не экономила на технических характеристиках TPU v5e в угоду рентабельности. Кластеры могут включать до 256 чипов TPU v5e, объединённых высокоскоростным интерконнектом с совокупной пропускной способностью более 400 Тбит/с. Производительность такой платформы составляет 100 Попс (Петаопс) в INT8-вычислениях.

«Мы предоставляем нашим клиентам возможность легко масштабировать свои модели искусственного интеллекта за пределы физических границ одного модуля TPU или одного кластера TPU. Другими словами, одна большая рабочая нагрузка искусственного интеллекта теперь может распределяться на несколько физических кластеров TPU, масштабируясь буквально до десятков тысяч чипов. При этом работа будет выполняться экономически эффективно. В результате, используя облачные графические процессоры и облачные TPU, мы действительно предоставляем нашим клиентам большой выбор, гибкость и дополнительные возможности для удовлетворения потребностей широкого набора рабочих задач, связанных с ИИ, которые, как мы видим, продолжают множиться», — добавил он.

В дополнение к анонсу нового поколения TPU компания Google также объявила, что в следующем месяце сделает общедоступными для разработчиков виртуальные кластеры A3, оснащённые специализированными графическими процессорами Nvidia H100.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Capcom раскрыла дату выхода ремейка Resident Evil 2 на iPhone 16 и iPhone 15 Pro 2 ч.
OpenAI призывает создать ИИ-альянс, который объединит США и союзников, включая страны Ближнего Востока 3 ч.
Google в рамках эксперимента удалит новости издателей ЕС из поисковых результатов 4 ч.
YouTube тестирует новый формат просмотра длинных видео как на Shorts 6 ч.
YouTube на Quest запускает функцию совместного просмотра — до 7 друзей в одном VR-кинозале 7 ч.
FTC потребовала от Meta продать Instagram и WhatsApp 11 ч.
Поработайте за нас: AWS предоставит учёным кластеры из 40 тыс. ИИ-ускорителей Trainium 13 ч.
Комедийный детектив Loco Motive в духе квестов 90-х выйдет на два года позже обещанного — дата релиза и новый трейлер 14 ч.
Warhammer 40,000, Armored Core и даже Concord: анимационный сериал Secret Level от авторов «Любовь, смерть и роботы» получил насыщенный трейлер 15 ч.
«RuStore на гаджетах Apple быть!» — Госдума приняла в I чтении законопроект об обязательной установке RuStore 16 ч.
На TSMC подали в суд за дискриминацию: на фабрику чипов в США тайванцу устроиться проще, чем американцу 45 мин.
XPeng показала сухопутный авианосец Land Aircraft Carrier — его пассажирский дрон выполнил первый полёт на публике 59 мин.
ЦОД Iron Mountain запитают от подводных «воздушных змеев» SeaQurrent 2 ч.
SoftBank построит в Японии первый в мире ИИ-суперкомпьютер на базе NVIDIA DGX B200 3 ч.
Xiaomi выпустила свой 100-тысячный электромобиль всего лишь через 230 дней с момента запуска производства 5 ч.
Представлен электроскутер на солнечных панелях Lightfoot — плюс 5 км пути за час на солнце 7 ч.
Новая статья: Обзор смартфона Infinix ZERO 40 4G: фотографируй как старший брат 10 ч.
Изменение климата не победить: выбросы растут, а Китай впереди всех по зелёной энергетике 11 ч.
Новая статья: Обзор игрового UWQHD-монитора MSI MPG 341CQPX QD-OLED: ожидаемое обновление 12 ч.
Биткоин снова обновил максимум: сколько это будет продолжаться и причём тут Трамп 12 ч.