Легендарный разработчик процессорных архитектур Джим Келлер (Jim Keller), создавший немало коммерчески успешных чипов Apple, Intel, AMD и Tesla, в последнее время сосредоточен на создании ускорителей вычислений в штате стартапа Tenstorrent. Именитый инженер убеждён, что на этом месте работы ему удастся создать ускорители систем искусственного интеллекта, которые будут обладать большей гибкостью конфигурирования и меньшей стоимостью по сравнению с решениями Nvidia.

Источник изображения: Tenstorrent

Келлер поделился некоторыми своими соображениями с представителями ресурса Nikkei Asian Review. «Существует немало сегментов рынка, которые недостаточно охвачены Nvidia», — оптимистично заявил Джим Келлер, выступающий в роли генерального директора американского стартапа Tenstorrent на данном этапе своей карьеры. По мере распространения функции ИИ в сегменте смартфонов, облачных сервисов и даже электромобилей, как он пояснил, многие клиенты ищут более доступные альтернативы ускорителям Nvidia. Не каждая компания, по его словам, готова выложить $20 000 за каждый ускоритель этой марки.

Второе поколение ускорителей Tenstorrent, к созданию которых Келлер приложил руку, начнёт поставляться на рынок к концу текущего года. По словам представителей основанной в 2016 году компании, в некоторых сферах применения решения Tenstorrent превосходят ускорители Nvidia по энергетической эффективности и быстродействию. Готовые системы семейства Galaxy оказываются в три раза эффективнее с точки зрения энергопотребления, и при этом на треть дешевле, чем Nvidia DGX.

Снизить стоимость своих ускорителей и их энергопотребление, помимо прочего, Tenstorrent может благодаря отказу от использования дорогой памяти HBM. Компания Tenstorrent изначально разрабатывала архитектуру своих ускорителей таким образом, чтобы сократить время передачи информации между чипом и микросхемой памяти без использования дорогостоящей HBM. Такой подход позволит заменить как HBM, так и GPU в определённых сферах применения ускорителей искусственного интеллекта. По словам Келлера, многие компании ищут более доступные альтернативы HBM, но чтобы пошатнуть нынешние позиции этого типа памяти на рынке, потребуются годы. Глава Tenstorrent считает, что в определённых сегментах рынка появится множество игроков, способных удовлетворить спрос лучше Nvidia.

Ускорители Tenstorrent используют сотни крохотных процессорных ядер, которые можно конфигурировать довольно гибко с точки зрения решаемых вычислительных задач. По этой причине подход компании к созданию ускорителей позволит ей адаптировать свои разработки под нужды самых разных сегментов рынка. Ядра этих ускорителей, по словам разработчика, способны самостоятельно «думать» и выбирать, какие данные обрабатывать в первую очередь, и как повысить эффективность вычислений. Одни и те же процессорные ядра могут применяться и в смартфонах, и в серверных системах — разница преимущественно будет заключаться в их количестве. Келлер затрудняется определить, какая сфера применения искусственного интеллекта будет более востребована, по этой причине Tenstorrent создаёт решения, которые подойдут под широкий спектр задач.

Насыщенная успехами в разработке процессорных архитектур для разных компаний кривая жизненного пути привела ветерана отрасли Джима Келлера (Jim Keller) в стартап Tenstorrent, который до последнего времени присматривался к возможностям Samsung по контрактному производству чипов. Как выясняется, японской Rapidus Джим Келлер тоже поможет создать передовой ускоритель вычислений.

Источник изображения: Samsung Electronics

Об этом стало известно из совместного заявления Tenstorrent и Rapidus на этой неделе, как сообщает Bloomberg. Стоит напомнить, что японская компания Rapidus была основана полтора года назад консорциумом инвесторов с целью наладить к 2027 году контрактный выпуск 2-нм чипов на территории Японии. Технологическими партнёрами Rapidus выступают американская корпорация IBM, бельгийский исследовательский центр Imec и французский институт Leti.

При участии руководства Rapidus в Японии был основан исследовательский центр LSTC, именно ему Tenstorrent поможет разработать чипы для ускорителей искусственного интеллекта, лицензировав часть своих разработок и предложив общее содействие в этом процессе. Данные ускорители, судя по профилю деятельности Tenstorrent, будут использовать архитектуру RISC-V с открытым исходным кодом. Стартап будет поддерживать связь с американскими регуляторами, чтобы предотвратить утечку чувствительных для США технологий.

Представители Rapidus выразили надежду, что при поддержке Tenstorrent смогут наладить выпуск энергоэффективных чипов для ускорителей вычислений, ведь по мере развития систем искусственного интеллекта активно растёт и энергопотребление вычислительных центров. Помимо Джима Келлера, в составе коллектива Tenstorrent, насчитывающего около 400 специалистов, трудятся и другие ветераны отрасли с опытом работы в AMD и Apple.

Канадская компания Tenstorrent в декабре 2020 года усилила свой штат руководства легендарным разработчиком процессоров Джимом Келлером (Jim Keller), сперва он работал в должности технического директора, а к январю 2023 года стал генеральным. Как выясняется, Samsung Electronics для компании выступит не только в роли инвестора, но и в качестве контрактного производителя одного из продуктов с использованием 4-нм техпроцесса.

Источник изображения: Tenstorrent

Контрактное направление деятельности Samsung Electronics должно обзаводиться новыми клиентами, чтобы снизить зависимость южнокорейского конгломерата от рынка микросхем памяти, который в силу цикличности изменения цен не позволяет ей стабильно и равномерно развиваться. Как сообщает Reuters со ссылкой на заявления представителей Tenstorrent, корейский подрядчик возьмёт на себя производство одного из кристаллов ускорителя вычислений канадского стартапа по 4-нм технологии. Вычислительное решение в целом имеет многокристальную компоновку и использует так называемые чиплеты, как поясняет источник.

Финансовые подробности сделки не уточняются, равно как и количество чипов, которое Samsung будет выпускать для Tenstorrent. Некоторые из решений этой марки используют архитектуру RISC-V, но упоминаемый чип семейства Quasar к ним не относится. Напомним, что в августе этого года Samsung Electronics стала одним из инвесторов, которые сообща вложили в капитал Tenstorrent около $100 млн. На тот момент капитализация компании оценивалась в $1 млрд. Получается, что Samsung сперва пришлось потратить деньги, чтобы заполучить нового клиента, который в перспективе поможет их вернуть.

Возглавляемый легендарным выходцем из Intel, AMD, Apple и Tesla Джимом Келлером (Jim Keller) стартап Tenstorrent в ходе очередного раунда финансирования привлёк от Hyundai Motor Group и Samsung Catalyst Fund инвестиции на $100 млн. Компания специализируется на разработке решений в области искусственного интеллекта и лицензировании своих технологий.

Источник изображений: tenstorrent.com

Отрасль ИИ — это новый очаг возможностей, рынок, на котором существует потребность в новых программных и аппаратных решениях. Понимая это, в Tenstorrent намерены изменить сложившийся технологический ландшафт: в компании разрабатывают чипы, основанные не на устаревших наборах инструкций в экосистемах x86 и Arm, а на основе открытого стандарта RISC-V.

Важным отличием этого раунда финансирования, который для Tenstorrent был уже седьмым, стало партнёрство с технологическими компаниями, а не венчурными капиталистами. Tenstorrent действительно может предложить партнёрам нечто интересное и уникальное: компания не только производит собственные производительные чипы, но и лицензирует технологические решения — лицензиаты могут использовать эти наработки для создания своих собственных, которые полностью адаптированы под их нужды. Это актуально и для Hyundai, и для Samsung.

Вице-президент Tenstorrent по операциям Дженнифер Кроу (Jennifer Crow), сама выходец из Intel и AMD, рассказала, что представители Hyundai прибыли в Tenstorrent, чтобы изучить ряд технических вопросов при содействии инженеров компании. Первоначально планировалось, что инвестиции от корейского автопроизводителя составят около $10 млн, но спустя всего день совместной работы компания увеличила свою инвестиционную позицию в 5 раз, разделив $50 млн между Hyundai и Kia.

На рынке Tenstorrent приходится сражаться с такими гигантами как NVIDIA, AMD и Intel, и особым тяжеловесом здесь является первая, чьё присутствие в отрасли ИИ сегодня чрезвычайно сильно. Вместе с тем, динамика рынка в сегменте аппаратных решений для ИИ резко изменилась: всё большим спросом пользуются нестандартные и частично индивидуальные решения, оптимизированные под конкретные рабочие нагрузки клиентов. Масла в огонь подлила Arm, которая повысила лицензионные сборы, и потенциальные клиенты начали изучать лицензируемые решения Tenstorrent, основанные на открытой архитектуре RISC-V — недавно очередным партнёром компании стала LG.

Канадский стартап Tenstorrent, специализирующийся на разработке ИИ-чипов, объявил о заключении соглашения о сотрудничестве с южнокорейским технологическим гигантом LG Electronics с целью создания чипов на основе архитектуры RISC-V и технологий ИИ для будущих смарт-телевизоров и автомобильных систем, а также центров обработки данных.

Источник изображения: Tenstorrent

По словам гендиректора Tenstorrent Джима Келлера (Jim Keller), работавшего ранее в AMD, Apple, Intel и Tesla, базирующаяся в Торонто компания, основанная в 2016 году, занимается разработкой компьютеров для обучения и запуска моделей ИИ, и круг её задач включает работу как над программным, так и над аппаратным обеспечением. Келлер был в числе первых инвесторов Tenstorrent. Он возглавил компанию в этом году. По данным фирмы PitchBook, стоимость Tenstorrent уже достигла $1 млрд, хотя она до сих пор не раскрыла ни одного из своих клиентов.

Келлер рассказал, что в отличие от других стартапов, сосредоточившихся на разработке одного типа чипов, его команда разрабатывает как ИИ-чип, так и процессор, что обусловлено необходимостью работы с быстро меняющимися моделями ИИ.

Дэвид Беннетт (David Bennett), главный менеджер по работе с клиентами Tenstorrent, сообщил, что на начальном этапе LG будет использовать конструкцию ИИ-чипа Tenstorrent для разработки своих собственных чипов, но это лишь одно из направлений сотрудничества, которое носит стратегический характер и обещает быть взаимовыгодным. Беннетт отметил, что Tenstorrent заинтересовали некоторые разработки LG, которые, возможно, она задействует в своих продуктах.

В свою очередь, Byoung-hoon Kim (Byoung-hoon Kim), технический директор LG, сообщил, что процессорные технологии ИИ и RISC-V от Tenstorrent повысят конкурентоспособность будущих продуктов LG, а «проверенная временем технология видеокодека» поможет Tenstorrent «взять под контроль рынки высокопроизводительных процессоров для центров обработки данных». По его словам, в рамках сотрудничества будут протестированы чиплеты стартапа, чтобы проверить, смогут ли они стать технологической платформой для совместных разработок.

По данным создателя микроархитектуры Zen Джима Келлера (Jim Keller), уже покинувшего AMD, процессоры на следующем воплощении данной архитектуры — Zen 5 — оказались «пугающе быстрыми». Келлер, сегодня возглавляющий стартап Tenstorrent, продемонстрировал на одном из выступлений диаграмму с показателями нескольких конкурирующих чипов разных разработчиков, включая данные о ещё не вышедших чипах на Zen 5.

Источник изображения: AMD

Келлер не только стоял у истоков создания микроархитектуры Zen, но также за свою карьеру поработал в крупнейших IT-компаниях мира, включая Apple. В отсутствие официальных сведений от AMD, его заявления являются весьма важным источником информации. Выступая перед студентами в Индии, Келлер показал слайд с данными о производительности разных серверных CPU, включая чипы со всеми поколениями архитектуры Zen (Naples на Zen, Rome на Zen 2, Milan на Zen 3 и Genoa на Zen 4), новейший чип Intel Sapphire Rapids, собственные CPU Amazon, будущий CPU NVIDIA Grace, а также чип AMD на Zen 5.

Стоит отметить, что серверные решения AMD во многом очень близки процессорам, выпускаемым для потребительского рынка — в обеих платформах используются одинаковые чиплеты с ядрами. Другими словами, имеется прямая связь между данными о производительности серверных чипов на Zen 5 и производительностью будущих компьютерных чипов Ryzen на этой же архитектуре, которые поступят в продажу, вероятно, в следующем году.

Речь идёт о данных бенчмарка SPEC CPU 2017 INT Rate, который является стандартом индустрии для CPU корпоративного класса и измеряет однопоточную целочисленную производительность вместо показателей производительности с плавающей запятой. По данным Tenstorrent, чип на Zen 5 оказался на 30 % быстрее, чем CPU с Zen 4. Кроме того, Келлер указал относительные рабочие частоты, и здесь Zen 5 несколько опережает Zen 4. Сообщается, что Zen 5 может выполнять на 23 % больше инструкций за такт (IPC), чем Zen 4.

Источник изображения: Tenstorrent

Судя по показателям всех версий Zen в рейтинге, цифры во многом соответствуют тому, как растёт производительность CPU Ryzen с каждым поколением, включая игровую производительность. Если разрыв между Zen и Zen 2 оказался не столь большим, то с появлением Zen 3 произошёл качественный скачок, а Zen 4, в свою очередь, тоже не столь сильно ушёл от Zen 3. Теперь скачок производительности ожидается с появлением Zen 5.

Помимо AMD Zen 5 и NVIDIA Grace все остальные решения уже эксплуатируются. Примечательно, что чип Grace отмечен, как «запланированный», а вот Zen 5 такой маркировки не имеет. Не исключено, что AMD уже поставила чипы партнёрам для тестирования, но сведения о них не раскрываются из-за условий соглашений о неразглашении.

Впрочем, Келлер сам по себе является важным источником информации. В своё время он был главным архитектором К8 — архитектуры легендарных чипов Athlon 64. Позже эксперт перешёл в Apple и помог той завоевать сильные позиции на рынках смартфонов с помощью выпуска фирменных чипов Apple A-серии, в 2012 году вернулся в AMD и курировал разработку архитектуры Zen. После этого он ненадолго перешёл в Tesla для того, чтобы помочь разработать чипы для систем автономного вождения, в 2018 году переместился в Intel, а в начале 2023 года возглавил стартап Tenstorrent. Маловероятно, что специалист такого уровня не имеет данных о происходящем в AMD и о Zen 5 в частности.

Спустя всего две недели с момента своего ухода из компании Intel Раджа Кодури (Raja Koduri) стал членом совета директоров канадской компании Tenstorrent. Последняя занимается созданием систем ИИ и машинного обучения, а также производительных процессоров с архитектурой RISC-V. У фирмы есть офисы в США и Канаде, в британском Кембридже, индийском Бангалоре и сербском Белграде.

Источник изображения: Intel

Компания была основана 2016 году Любишей Бажичем (Ljubisa Bajic), а в настоящий момент ею руководит Джим Келлер (Jim Keller). Всех трёх связывает опыт сотрудничества в прошлом.

Кодури работал с Келлером и Бажичем в AMD, в Intel (с Келлером) и в Apple (с Келлером). Последняя совместная работа Кодури и Келлера была связана с разработкой высокопроизводительных GPU и CPU. Келлер занял пост главы Tenstorrent в начале этого года, однако к компании он присоединился ещё два года назад. Келлер и Кодури обладают опытом в совершенно разных сферах, однако оба имеют экспертные знания в области создания высокопроизводительного вычислительного оборудования, что безусловно пригодится такой компании, как Tenstorrent.

Источник изображения: Tenstorrent

Должность в совете директоров компании не означает, что Кодури будет иметь какое-либо влияние на разработки новых процессоров и ИИ-ускорителей. Однако он определённо будет иметь голос в вопросах, связанных с выбором общего направления и стратегического развития компании, что также немаловажно.