Сегодня 21 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

 Источник изображений: NEO Semiconductor

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Первая за 11 лет новая книга Анджея Сапковского из цикла «Ведьмак» получила название «Перекрёсток воронов» — первые подробности 2 ч.
В Японии порекомендовали добавить в завещания свои логины и пароли 2 ч.
Обновления Windows 11 больше не будут перезагружать ПК, но обычных пользователей это не касается 2 ч.
VK похвасталась успехами «VK Видео» на фоне замедления YouTube 4 ч.
GTA наоборот: полицейская песочница The Precinct с «дозой нуара 80-х» не выйдет в 2024 году 6 ч.
D-Link предложила устранить уязвимость маршрутизаторов покупкой новых 6 ч.
Valve ужесточила правила продажи сезонных абонементов в Steam и начнёт следить за выполнением обещаний разработчиков 7 ч.
Австралия представила беспрецедентный законопроект о полном запрете соцсетей для детей до 16 лет 7 ч.
Биткоин приближается к $100 000 — курс первой криптовалюты установил новый рекорд 8 ч.
В открытых лобби Warhammer 40,000: Space Marine 2 запретят играть с модами, но есть и хорошие новости 8 ч.
Астрономы впервые сфотографировали умирающую звезду за пределами нашей галактики — она выглядит не так, как ожидалось 11 мин.
Представлена технология охлаждения чипов светом — секретная и только по предварительной записи 34 мин.
Японская Hokkaido Electric Power намерена перезапустить ядерный реактор для удовлетворения потребности ЦОД в энергии 47 мин.
Грузовик «Прогресс МС-29» улетел к МКС с новогодними подарками и мандаринами для космонавтов 2 ч.
Meta планирует построить за $5 млрд кампус ЦОД в Луизиане 2 ч.
Arm задаёт новый стандарт для ПК, чтобы навязать конкуренцию x86 2 ч.
HPE готова ответить на любые вопросы Минюста США по расследованию покупки Juniper за $14 млрд 3 ч.
Thermaltake представила компактный, но вместительный корпус The Tower 250 для игровых систем на Mini-ITX 4 ч.
Флагманы Oppo Find X8 и X8 Pro на Dimensity 9400 стали доступны не только в Китае — старший оценили в €1149 4 ч.
«ВКонтакте» выросла до 88,1 млн пользователей — выручка VK взлетела на 21,4 % на рекламе 5 ч.