Сегодня 18 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

 Источник изображений: NEO Semiconductor

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Глава Microsoft Gaming Фил Спенсер намекнул на продолжение Indiana Jones and the Great Circle 18 мин.
Разработчики Everspace 2 решили снизить цену на дополнение Wrath of the Ancients, потому что «вокруг дорожает буквально всё» 2 ч.
Google обжалует «неблагоприятное» решение суда о признании её монополистом в интернет-рекламе 2 ч.
84 % россиян выходят в интернет каждый день, подсчитал Mediascope 3 ч.
Среди пользователей ChatGPT завирусилась новая забава — поиск местоположения по фото 4 ч.
Cloud.ru представил первый в России управляемый облачный сервис для инференса ИИ-моделей — Evolution ML Inference 5 ч.
Автор Loretta раскрыл дату выхода новой игры — хоррор-стратегии Anoxia Station про погоню за нефтью в недрах умирающей Земли 7 ч.
Создатели кинематографичного боевика Spine в духе «Джона Уика» заинтриговали игроков тизером хардкорного режима — новый геймплейный трейлер 8 ч.
Цифровой белорусский рубль «полноценно» заработает во второй половине 2026 года 8 ч.
Google вживую продемонстрировала возможности Android XR 9 ч.
HP отделалась выплатой $4 млн по иску о завышенных ценах и фиктивных скидках 2 ч.
Xiaomi представила компактный домашний проектор Redmi 3 Lite за $100 2 ч.
Nintendo Switch 2 избежала подорожания, несмотря на новые пошлины США — аксессуары тем же похвастаться не могут 2 ч.
Western Digital запустила в США масштабную программу извлечения редкоземельных элементов из HDD — уже переработано почти 23 т дисков Microsoft 4 ч.
Физики обнаружили аномальный эффект Холла в неожиданном месте 5 ч.
Из-за политики США европейские пользователи задумались об уходе из американских облаков 5 ч.
Intel расследует падение производительности видеокарт Arc при работе со старыми CPU 5 ч.
Китайская EHang пообещала запустить сервис летающих такси по разумной цене до конца года 6 ч.
$278 млрд налогов недоплатила «Кремниевая шестёрка» IT-гигантов благодаря лазейкам в законе 6 ч.
Tesla урезала производство пикапов Cybertruck, потому что их почти никто не покупает 7 ч.