Сегодня 13 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → annapurnalabs

Amazon вкладывает миллиарды в разработку ИИ-чипов, чтобы снизить зависимость от Nvidia

Подразделение AWS американского интернет-гиганта Amazon давно входит в число крупнейших игроков рынка облачных услуг. Оно сильно зависит от компонентов и программного обеспечения Nvidia, но параллельно развивает и собственную инфраструктуру, используя наработки компании Annapurna Labs, купленной в 2015 году за $350 млн.

 Источник изображения: Amazon

Источник изображения: Amazon

В следующем месяце, как сообщает Financial Times, компания должна продемонстрировать публике ускорители Trainium 2, которые способны справляться с обучением больших языковых моделей. Образцы этих ускорителей уже эксплуатируются стартапом Anthropic, в капитал которого Amazon вложила $4 млрд. Клиентами Amazon на этом направлении также являются компании Databricks, Deutsche Telekom, Ricoh и Stockmark.

Вице-президент AWS по вычислительным и сетевым сервисам Дейв Браун (Dave Brown) заявил следующее: «Мы хотим быть абсолютно лучшим местом для эксплуатации Nvidia, но в то же время мы считаем нормой возможность иметь альтернативу». Уже сейчас ускорители семейства Inferentia обходятся при генерировании ответов ИИ-моделей на 40 % дешевле решений Nvidia. Когда речь идёт о расходах в десятки миллионов долларов, подобная экономия может иметь решающее значение при выборе вычислительной платформы.

По итогам текущего года капитальные расходы Amazon могут достичь $75 млрд, а в следующем окажутся ещё выше. В прошлом году они ограничились $48,4 млрд, и величина прироста показывает, насколько важным компания считает финансирование своей инфраструктуры в условиях бурного развития рынка систем ИИ. Эксперты Futurum Group поясняют, что крупные провайдеры облачных услуг стремятся формировать собственную вертикально интегрированную и однородную по своему составу структуру используемых чипов. Большинство из них стремится разрабатывать собственные чипы для ускорителей вычислений, это позволяет снизить расходы, поднять прибыль, усилить контроль за доступностью чипов и развитием бизнеса в целом. «Дело не столько в чипе, сколько в системе в целом», — поясняет Рами Синно (Rami Sinno), директор Annapurna Labs по разработкам. По его словам, мало кто из компаний может повторить в больших масштабах то, что делает Amazon.

Чипы собственной разработки позволяют Amazon потреблять меньше электроэнергии и повышать КПД собственных центров обработки данных. Представители TechInsights сравнивают чипы Nvidia с автомобилями с кузовом типа «универсал», тогда как решения Amazon собственной разработки напоминают более компактные хэтчбеки, заточенные под выполнение узкого спектра задач. Amazon не спешит делиться данными о тестировании быстродействия своих ускорителей, но чипы Trainium 2 должны по уровню быстродействия превзойти своих предшественников в четыре раза, по имеющимся данным. Само по себе появление альтернатив решениям Nvidia уже может быть высоко оценено клиентами AWS.

Amazon тайно разрабатывает собственные ИИ-ускорители, которые будут лучше Nvidia

В 2015 году Amazon поглотила компанию Annapurna Labs, силами выходцев из которой сейчас разрабатывает собственные ускорители вычислений для систем искусственного интеллекта. Об этом стало известно на этой неделе со слов руководителя профильного подразделения AWS во время визита журналистов в лабораторию в Техасе.

 Источник изображения: AWS

Источник изображения: AWS

Как отмечает Reuters, работой над созданием специализированных чипов для нужд Amazon в данном исследовательском центре занимается около шести инженеров. Их работа тщательно засекречена, но AWS уже располагает прототипами данных ускорителей, которые работают в серверной стойке, расположенной в лаборатории. Руководит этой деятельностью Рами Синно (Rami Sinno), который обладает опытом работы в Arm, Calxeda, Freescale Semiconductor, Marvell и Intel.

Amazon намеревается снизить степень своей зависимости от Nvidia, которая фактически монополизировала рынок ускорителей вычислений, и для крупного игрока облачного сегмента, коим является AWS, подобная инициатива может сэкономить какое-то количество средств в конечном итоге. Принято считать, что Microsoft и Alphabet (Google) тоже создают свои ускорители вычислений. По словам Рами Синно, клиенты AWS всё чаще требуют более дешёвых альтернатив решениям Nvidia.

По словам вице-президента AWS по вычислениям и сетевым решениям Дэвида Брауна (David Brown), компания верит, что можно добиться улучшения соотношения цены и быстродействия вычислительных компонентов на 40–50 % относительно предложений Nvidia. Сейчас AWS контролирует почти треть рынка облачных услуг, на долю Microsoft Azure приходится примерно 25 %. Amazon уже внедрила в своей инфраструктуре 80 000 чипов собственной разработки для ускорения ИИ. Сопутствующие процессоры Graviton сейчас эксплуатируются в количестве 250 000 штук, но они не имеют специализированных функций для ускорения работы систем искусственного интеллекта.


window-new
Soft
Hard
Тренды 🔥
Наследие Mass Effect, свобода выбора и загадочный Мэттью Макконахи: создатели нелинейного ролевого экшена Exodus ответили на вопросы игроков 3 мин.
Голосовой помощник VK «Маруся» заговорит другим голосом 11 мин.
Рекламодатели вернутся на платформу X ради сближения с администрацией Трампа 16 мин.
Олдскульная ролевая игра Sea of Stars получила бесплатное обновление Dawn of Equinox с кооперативом и не только 3 ч.
У разработчиков Rime и Song of Nunu закончились деньги — студия Tequila Works признала себя банкротом 3 ч.
Сервис простой интеграции голосового ИИ для малого и среднего бизнеса появился в России 3 ч.
YouTube тестирует создание ремиксов песен с помощью ИИ 4 ч.
Тариф Netflix с рекламой достиг 70 млн пользователей за два года 4 ч.
«РТК ИТ плюс» запустил импортонезависимую no-code платформу «Акола» 4 ч.
Сооснователь OpenAI Грег Брокман вернулся в компанию после длительного отпуска 4 ч.
Спутниковый интернет на плечах: SpaceX выпустила рюкзак за $199 для тарелки Starlink V4 7 мин.
Cisco объединила Meraki и Catalyst под брендом Cisco Wireless и представила точки доступа Wi-Fi 7 CW9178 и CW9176 24 мин.
Emdoor Information поддержит развитие нового российского бренда ПК 25 мин.
Крупнейший в мире производитель электромобильных батарей CATL намерен запитать целые города 29 мин.
Учёные снова пытаются опровергнуть уравнения Эйнштейна, описывающие Вселенную — пока вышло на «троечку» 53 мин.
СМИ сообщили, что VK может прекратить выпуск «Капсул» — компания это опровергла 2 ч.
МВД пожаловалось, что сломавшиеся серверы на «Эльбрусах» невозможно быстро заменить 2 ч.
Трамп назначил Маска главным борцом с бюрократией и расточительством в правительстве в США 2 ч.
Квартальные отгрузки SSD сократились на 8 %, но их общая ёмкость выросла на 10 % 3 ч.
Акции Samsung упали до минимума за 4 года — победа Трампа породила неопределённость для компании 3 ч.