Сегодня 31 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → neo semiconductor

Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

 Источник изображений: NEO Semiconductor

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.


window-new
Soft
Hard
Тренды 🔥
Google заблокировала 2,36 млн опасных приложений для Android в Google Play в 2024 году 56 мин.
Google запустила ИИ-функцию Ask for Me для звонков в автомастерские и маникюрные салоны вместо пользователя 58 мин.
«Наконец-то хорошая Horizon на PlayStation»: популярная гонка Forza Horizon 5 станет следующим эксклюзивом Xbox на PS5 7 ч.
Уютная градостроительная игра Town to City от авторов Station to Station отправит в XIX век возводить безмятежные средиземноморские города 9 ч.
«Control 2 подкралась незаметно»: анонсирован ролевой экшен The Directorate: Novitiate про волшебницу-гангстера в преступном мире Лос-Анджелеса 10 ч.
Маркетинговый директор Ubisoft рассекретил продажи Prince of Persia: The Lost Crown за первый год после релиза 11 ч.
Китайская ИИ-модель Kimi k1.5 освоила мультимодальные рассуждения и превзошла OpenAI o1 11 ч.
Группа инвесторов во главе с MrBeast готова предложить за TikTok «значительно» больше $20 млрд 13 ч.
Следующий большой патч для Warhammer 40,000: Space Marine 2 выйдет в феврале: шлем-клюв, гробница для PvP и другое в обновлении 6.0 13 ч.
Выручка Microsoft от Azure AI выросла на 157 %, но для удовлетворения спроса нужно ещё больше ЦОД 13 ч.
Intel завершила год с убытками в размере $18,8 млрд, но потери контрактного направления сократились 2 ч.
Microsoft представила ИИ-планшет Surface Pro 11 и ИИ-ноутбук Surface Laptop 7 на базе Intel Lunar Lake 5 ч.
Первая очередь ЦОД для ИИ-мегапроекта Stargate обойдётся всего в $1,1 млрд 7 ч.
Финны научат производителей 3D NAND выпускать чипы рекордной плотности 9 ч.
Канадцы построили фотонный квантовый компьютер и пообещали быстро масштабировать его до миллиона кубитов 11 ч.
Острый дефицит GeForce RTX 5080 и RTX 5090 обернулся беспорядками в Японии 11 ч.
Стартовали мировые продажи GeForce RTX 5090 и RTX 5080 — первые партии смели мгновенно 11 ч.
Более 80 % планшетов Росстата на «Авроре» оказались невостребованными после переписи населения в 2021 году 13 ч.
Chevron и Engine No. 1 построят в США газовые электростанции мощностью до 4 ГВт для прямого питания ИИ ЦОД 13 ч.
Новая статья: Обзор видеокарты NVIDIA GeForce RTX 5080 и архитектуры Blackwell 14 ч.