Сегодня 30 марта 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → neo semiconductor

Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

 Источник изображений: NEO Semiconductor

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.


window-new
Soft
Hard
Тренды 🔥
Новая статья: От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте 8 ч.
MSI XpertStation WS300 — рабочая станция для ИИ на базе NVIDIA GB300 12 ч.
«Кремниевая прерия»: Crusoe пристроит к ИИ ЦОД OpenAI Stargate ещё 900 МВт, но уже для Microsoft 13 ч.
ESA запустило на орбиту два спутника Celeste для тестирования новых технологий навигации 19 ч.
Цены на Intel Arrow Lake Refresh выросли выше рекомендованных через 48 часов после начала продаж 20 ч.
Котировки акций производителей DRAM стабилизировались после первичного влияния TurboQuant 23 ч.
Microsoft потратит $146 млрд на ИИ, но это напугало инвесторов и вызвало падение котировок акций на 25 % 29-03 05:33
Anthropic привлекла рекордное количество подписчиков после скандала с Минобороны США 29-03 05:27
NASA возмутило частников отказом от коммерческих орбитальных станций — миллиарды инвестиций под угрозой 28-03 18:27
Худшая неделя за год: техногиганты потеряли миллиарды капитализации из-за войны и проблем Meta 28-03 18:16