Сегодня 13 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

 Источник изображений: NEO Semiconductor

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
iPhone научатся дольше работать от батареи — Apple поручит ИИ управление питанием 7 ч.
Sony случайно «слила» трейлер с датой выхода Stellar Blade на ПК 7 ч.
Doom: The Dark Ages по ошибке вышла в Steam раньше времени, но не для всех 9 ч.
Microsoft показала, каким мог бы быть новый «Пуск» в Windows 11 — компания выбрала самый скучный вариант 10 ч.
«Давайте нам деньги и вычислительные ресурсы и не путайтесь под ногами»: OpenAI и Microsoft пытаются договориться о продолжении сотрудничества на фоне роста амбиций стартапа 10 ч.
Календарь релизов — 12–18 мая: Doom: The Dark Ages, The Precinct и Preserve 10 ч.
Remedy анонсировала закрытое тестирование шутера FBC: Firebreak по мотивам Control — сроки, системные требования, доступный контент 11 ч.
Nvidia выпустила драйвер GeForce с поддержкой Doom: The Dark Ages 12 ч.
Вышла новая версия песочницы Kaspersky Research Sandbox 3.0 с расширенными возможностями для ИБ-специалистов 12 ч.
Смартфоны Honor 400 смогут анимировать фото с помощью ИИ-генератора от Google 13 ч.
Американские регуляторы заинтересовались способностью роботакси Tesla передвигаться в условиях ограниченной видимости 42 мин.
Рынок смартфонов в Китае продемонстрировал резкий спад поставок продукции иностранных брендов — почти на 50 % 2 ч.
Slate Auto собрала 100 000 предзаказов на электропикап всего за две недели 2 ч.
Новая статья: Обзор робота-пылесоса Midea VCR S10 Plus: одноразовые мешки для сбора мусора, прощайте! 7 ч.
Google и Elementl реализуют в США три 600-МВт атомных проекта 9 ч.
Western Digital инвестирует в технологию вечного хранения данных на керамике Cerabyte 11 ч.
Оперативная память скоро подорожает: Samsung подняла контрактные цены на DRAM 12 ч.
Космический телескоп «Джеймс Уэбб» показал полярное сияние на Юпитере — в сотни раз ярче, чем на Земле 12 ч.
CoreWeave всего через несколько недель после IPO захотела взять в долг ещё $1,5 млрд 13 ч.
Облако.ру предлагает ИИ-системы, которые позволят запускать даже мощные ИИ-модели 14 ч.