Стековое размещение ячеек оперативной памяти могло бы значительно повысить плотность хранения данных и решить проблему дефицита ОЗУ. Первый шаг в этом направлении сделала память HBM, но это оказалось недёшево и не для всех. Прорыв мог бы произойти только в том случае, если бы память DRAM пошла по пути производства памяти 3D NAND. Пока этого не произошло, но первый прототип такого решения уже воплощён в кремнии и привлёк внимание именитых инвесторов.

Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»

Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро

Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Источник изображений: NEO Semiconductor

О создании образца 3D X-DRAM в рамках доказательства концепции сообщила молодая американская компания NEO Semiconductor. Год назад она безуспешно искала поддержки среди производителей памяти, а сегодня у неё нет отбоя от инвесторов и заказчиков. Руководство компании утверждает, что ведутся интенсивные переговоры с рядом ведущих производителей памяти и это ускорит появление стековой ОЗУ.

Важным моментом в деятельности NEO Semiconductor стало привлечение на свою сторону такого инвестора, как Стэн Ши (Stan Shih). В мире электроники это человек-легенда. Сейчас ему 81 год. В своё время он основал компанию Acer и около 20 лет возглавлял компанию TSMC. Также значимым стало сотрудничество с высшими учебными заведениями Тайваня — Национальным университетом Янмин Цзяотун (NYCU) и его подразделением — Школой инноваций в сфере взаимодействия промышленности и академических кругов (Industry-Academia Innovation School, IAIS). Образец также был изготовлен на Тайване — в Тайваньском научно-исследовательском институте полупроводников (National Institutes of Applied Research — Taiwan Semiconductor Research Institute, NIAR-TSRI).

Вероятно, тестирование и измерение характеристик образца также были проведены в стенах NIAR-TSRI. В компании сообщают, что задержка чтения/записи составила менее 10 нс, время регенерации при 85 °C — более 1 секунды (в 15 раз лучше, чем в стандарте JEDEC — 64 мс), устойчивость к износу достигла 10¹⁴. Помехоустойчивость также была на высоком уровне.

«Я рад, что благодаря тесному партнёрству между промышленностью и научными кругами удалось подтвердить осуществимость концепции 3D DRAM от NEO в реальных условиях кремниевого производства, — сказал Джек Сан (Jack Sun), старший вице-президент Нью-Йоркского университета и декан Института прикладных исследований в области науки и технологий, а также бывший технический директор TSMC. — Успешная проверка концепции не только демонстрирует потенциал инновационных архитектур памяти, но и подтверждает возможность внедрения передовых технологий памяти с использованием отработанных процессов».

По замыслу разработчиков NEO Semiconductor, стековая компоновка памяти DRAM и чрезвычайно широкая шина данных — порядка 32 000 бит — позволят создавать оперативную память с плотностью записи 512 Гбит на кристалл и пропускной способностью в 16 раз выше, чем у современной памяти HBM. Развитие стандарта HBM не предполагает появления ничего подобного раньше середины нынешнего века, тогда как NEO Semiconductor готова представить оперативную память с такими характеристиками в обозримом будущем.

Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.

Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены

Обзор Ryzen 9 9950X3D2: правильный 16-ядерник с 3D-кешем

Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»

72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию

Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей

Ryzen и DDR5-6000 на чипах Samsung — G.Skill даёт добро

Источник изображений: NEO Semiconductor

В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %.

«Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu).

Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня.