|
Опрос
|
реклама
Быстрый переход
Neo Semiconductor придумала память 3D X-AI, которая умеет обрабатывать ИИ-нагрузки без GPU
17.08.2024 [12:01],
Павел Котов
Компания NEO Semiconductor представила чипы 3D X-AI, призванные заменить память HBM, которая используется в современных ускорителях на базе графических процессоров. Память типа 3D DRAM имеет встроенный модуль обработки ИИ, который принимает на себя потоки данных, не требующие математических вычислений. Это способствует решению проблемы, связанной с шириной шины между процессором и памятью, помогая повысить производительность и эффективность систем ИИ.
Источник изображений: NEO Semiconductor В основе чипа 3D X-AI располагается слой нейронной схемы, на котором обрабатываются данные из 300 слоёв памяти на том же кристалле. Плотность памяти на компоненте в восемь раз превышает аналогичный показатель текущей HBM, а 8000 нейронных схем обеспечивают 100-кратный рост производительности за счёт обработки данных прямо в памяти. Плюсом к тому радикально уменьшается объём передаваемых через интерфейс данных и загрузка GPU, за счёт чего потребление энергии ускорителем снижается на 99 %. «Существующие чипы для ИИ впустую расходуют значительные ресурсы производительности и мощности из-за архитектурной и технологической неэффективности. Чипы ИИ сегодняшней архитектуры хранят данные в HBM и делегируют выполнение всех вычислений графическому процессору. Эта архитектура разделённых хранения и обработки данных неизбежно превращает шину в узкое место в аспекте производительности. Передача огромных объёмов данных через шину сокращает производительность и очень увеличивает потребление энергии. 3D X-AI может осуществлять обработку данных ИИ в каждом чипе HBM. Это может значительно сократить объём данных, передаваемых между HBM и графическим процессором, чтобы повысить производительность и существенно снизить потребление энергии», — рассказал основатель и гендиректор NEO Semiconductor Энди Сю (Andy Hsu). ![]() Один кристалл 3D X-AI имеет ёмкость 128 Гбайт и предлагает скорость обработки данных ИИ 10 Тбайт/с. Двенадцать кристаллов в одном корпусе HBM могут обеспечить объём в 1,5 Тбайт памяти с пропускной способностью 120 Тбайт/с. Разработчики оборудования для обработки ИИ изучают решения, способные повысить их пропускную способность и скорость работы — полупроводники становятся быстрее и эффективнее, а шина между компонентами часто оказывается узким местом. Intel, Kioxia и TSMC, например, работают над оптическими технологиями, призванными ускорить связь между компонентами на материнской плате. Перенеся часть обработки рабочей нагрузки ИИ с графического процессора в HBM, решение NEO Semiconductor может сделать ускорители намного эффективнее, чем сегодня. Micron поверила в себя и возобновляет выкуп акций
08.08.2024 [07:15],
Алексей Разин
В мае 2018 года американская компания Micron Technology приступила к выкупу собственных акций, но к декабрю 2022 года рыночная ситуация заставила этого производителя микросхем памяти приостановить программу. Опираясь на текущие благоприятные для сегмента прогнозы, Micron решила возобновить выкуп акций, как отмечается в официальной заявке, поданной американским регуляторам.
Источник изображения: Micron Technology Как отмечает Bloomberg, до недавних пор Micron оставалась одной из 24 компаний, чьи акции включены в индекс Nasdaq 100, которые не выкупали акции на протяжении прошлого года. Капитализация этих 24 компаний по итогам прошлого года в среднем сократилась на 9,5 %, тогда как сам индекс вырос почти на 10 %. Теперь на рынке памяти, по мнению руководства Micron, сложились более благоприятные условия, что позволяет вернуться к выкупу собственных акций у инвесторов. Данная новость сразу вызвала рост их котировок примерно на 5 % на торгах в Нью-Йорке. Во многом энтузиазм руководства Micron объясняется благоприятной конъюнктурой на рынке памяти типа HBM. Только реализация HBM3E принесла компании в прошлом квартале $100 млн выручки, в текущем квартале все типы поставляемой HBM принесут её несколько сотен миллионов долларов США. К августу 2025 года профильная выручка Micron будет уже измеряться миллиардами долларов. Важно учитывать и то, что Micron свою память типа HBM3E сертифицировала для использования в составе ускорителей Nvidia H200, и это позволяет ей рассчитывать на хорошую выручку при условии сохранения высокого спроса на компоненты для систем искусственного интеллекта. Руководство Micron при этом осознаёт трудности, сопровождающие масштабирование производства HBM. Сложность сертификации в комбинации с этими трудностями, по мнению представителей Micron, буквально вынуждает поставки памяти двигаться с «включенным ручным тормозом». Опасаясь усиления санкций США, китайские компании бросились закупать память типа HBM у Samsung
06.08.2024 [08:36],
Алексей Разин
По слухам, власти США намереваются предпринять следующий шаг по ограничению доступа китайских разработчиков систем искусственного интеллекта к ускорителям вычислений и компонентам для их создания. Микросхемы памяти семейства HBM могут оказаться под запретом для отправки в Китай, а потому местные клиенты Samsung активно их закупали в прошлом полугодии.
Источник изображения: Samsung Electronics Об этом со ссылкой на собственные источники сообщило агентство Reuters, которое утверждает, что Huawei, Baidu и многочисленные китайские стартапы с начала текущего года резко увеличили закупки памяти семейства HBM у компании Samsung для собственных нужд. Китайское направление поставок по итогам первого полугодия сформировало на этом фоне около 30 % выручки Samsung от поставок HBM. На прошлой неделе сообщалось, что в этом месяце власти США предложат новые правила экспортного контроля, которые запретят поставки памяти HBM отдельных видов в Китай. Если учесть, что во всём мире производством HBM занимаются всего три компании — SK hynix, Samsung Electronics и Micron Technology, ограничить её поставки в Китай будет достаточно просто, поскольку две первые имеют штаб-квартиры в лояльной по отношению к США Южной Корее, а третья и вовсе является американской. По всей видимости, китайские производители ускорителей пока не могут интегрировать передовую HBM3 или HBM3E в свои аппаратные решения, а потому основной объём поставок приходится на HBM2E. Эту память в своих ускорителях использует Huawei, являющийся одним из флагманов китайской полупроводниковой промышленности. Кроме того, такие микросхемы могут применяться при производстве спутникового оборудования. Ранее сообщалось, что китайская CXMT пытается наладить самостоятельный выпуск HBM2, но соответствующая активность уже попала в поле зрения американских властей, которые готовят соответствующие адресные санкции против этой компании. Samsung с точки зрения поставок HBM в Китай сильнее всего пострадает от возможных американских экспортных ограничений, поскольку Micron свою память этого типа в Китай не поставляет, а SK hynix предпочитает сосредотачиваться на более выгодных в реализации поколениях памяти. Новые санкции США нацелены на ограничение доступа Китая к скоростной памяти типа HBM
01.08.2024 [09:52],
Алексей Разин
Условные послабления для союзников США в части возможности поставлять оборудование для производства чипов в Китай не должны вводить обывателей в заблуждение. Как отмечает Bloomberg, американские власти намереваются ограничить доступ китайских компаний к микросхемам памяти семейства HBM и оборудованию для их производства. Новые правила вступят в силу в следующем месяце.
Источник изображения: AMD Этим ограничениям вынуждены будут подчиниться не только американская компания Micron Technology, но и южнокорейские производители памяти Samsung Electronics и SK hynix. По данным Bloomberg, новые правила экспортного контроля в их черновом виде охватят не только микросхемы HBM2, HBM3 и HBM3E, но и оборудование для их производства. Непосредственно на бизнесе Micron это практически не скажется, поскольку компания отказалась от поставок своих микросхем HBM в Китай после введения местными властями санкций против неё в 2023 году. Напомним, что власти КНР запретили китайским компаниям использовать любую продукцию в объектах критически важной цифровой инфраструктуры. Механизмы воздействия на южнокорейских поставщиков памяти пока не определены, но у властей США есть несколько юридически обоснованных способов запретить SK hynix и Samsung поставку памяти HBM китайским клиентам. По меньшей мере, корейские производители зависят от программного обеспечения для проектирования памяти, которую они затем поставляют в Китай. Это даёт США право влиять на поставки данного вида продукции южнокорейских компаний на территорию Поднебесной. Пока сложно понять, как новые ограничения повлияют на способность той же Nvidia поставлять свои адаптированные под требования американских правил экспортного контроля ускорители H20, поскольку они оснащаются микросхемами памяти типа HBM3. Одной из целей новых ограничений должно стать лишение китайской компании CXMT возможности выпускать память типа HBM2. По некоторым данным, компания закупила всё необходимое для этого оборудования и постепенно доводит до ума сопутствующие технологии. Кроме того, китайские разработчики ускорителей вычислений должны лишиться доступа к микросхемам памяти HBM зарубежного производства. Всё это позволит, по замыслу властей США, сдерживать темпы развития китайских систем искусственного интеллекта. SK hynix вложит $6,8 млрд в строительство первого предприятия по выпуску памяти в Йонъине
26.07.2024 [11:47],
Алексей Разин
Ещё в 2019 году компания SK hynix намеревалась начать развитие производственного кластера в Йонъине, но соответствующим планам помешала пандемия, и к идее развития данной площадки по выпуску микросхем памяти она вернулась только весной этого года, подтвердив готовность вложить в проект около $91 млрд до 2046 года. На первом этапе, впрочем, расходы ограничатся $6,8 млрд.
Источник изображения: SK hynix Соответствующая сумма, как отмечает Reuters, будет потрачена SK hynix на возведение первого из четырёх предприятий, к строительству компания рассчитывает приступить в марте следующего года. По состоянию на март текущего года строительная площадка была готова к дальнейшим работам чуть более чем на треть. Возводимый SK hynix завод по выпуску памяти должен стать крупнейшим в мире. Какой ассортимент продукции он будет выдавать после ввода в эксплуатацию, пока сказать сложно, но из комментариев представителей SK hynix на минувшей квартальной конференции известно, что между типами памяти HBM и DDR перераспределять производственные ресурсы компания может достаточно гибко. Власти Южной Кореи, которые не очень щедры на субсидии в полупроводниковой сфере, предпочитают участвовать в подобных проектах налоговыми льготами или инфраструктурными работами. В Йонъине они также взялись обеспечить будущее предприятие SK hynix необходимыми энергетическими ресурсами. По планам южнокорейских властей, в текущем году страна сможет экспортировать памяти семейства HBM на сумму более $120 млрд. Компания SK hynix является крупнейшим производителем микросхем этого типа. Прибыль SK hynix достигла максимума за шесть лет на фоне ИИ-бума
25.07.2024 [05:12],
Алексей Разин
Не секрет, что южнокорейская компания SK hynix является лидером рынка памяти типа HBM, контролируя примерно половину сегмента и обгоняя номинально более крупного производителя памяти в лице Samsung. По итогам минувшего квартала операционная прибыль SK hynix выросла до максимального уровня за шесть лет и сменила наблюдавшиеся год назад операционные убытки.
Источник изображения: SK hynix Выручка SK hynix в прошлом квартале оказалась несколько выше ожиданий аналитиков, она достигла $11,86 млрд в пересчёте по текущему курсу, увеличившись на 124,7 % в годовом сравнении и на 32 % последовательно. Последнюю часть динамики руководство компании объясняет высоким спросом на память типа HBM и сохраняющейся тенденции к росту цен на микросхемы памяти в целом. Непосредственно на направлении HBM компания увеличила выручку более чем на 250 %. Операционная прибыль компании во втором квартале достигла $3,96 млрд, завершившийся период стал для SK hynix уже третьим подряд кварталом без убытков, которые сохранялись на протяжении основной части прошлого года. Норма операционной прибыли достигла 33 %. Поставки HBM3E компания начала ещё в марте, но 12-ярусные микросхемы этого поколения SK hynix начнёт выпускать лишь в текущем квартале, чтобы к четвёртому наладить их поставки своим клиентам, в числе которых Nvidia наверняка займёт первое место по приоритету. В мае руководство SK hynix уже отмечало, что компания обеспечена заказами на поставку различных типов HBM до конца 2025 года. По оценкам сторонних аналитиков, HBM к концу текущего года будет формировать до 20 % прибыли SK hynix. Во втором полугодии спрос на микросхемы памяти начнёт подогреваться устройствами, поддерживающими периферийные вычисления в рамках систем искусственного интеллекта — смартфонами и ПК нового поколения, как отмечают представители компании. Они также признают, что увеличение объёмов выпуска HBM вынуждает её сократить объёмы производства обычной DRAM. При этом величина капитальных затрат SK hynix по итогам года окажется выше, чем было заложено в прогноз в начале текущего года. Нехватка мощностей для выпуска DRAM сохранится и в следующем году. Поставлять 12-слойные микросхемы HBM4 компания рассчитывает со второй половины 2025 года. В текущем году более половины всех поставок HBM придётся на HBM3E в натуральном выражении. После публикации квартального отчёта SK hynix столкнулась со снижением курса акций на 6,7 %, но в большей степени это было продиктовано общей коррекцией рынка. |