|
Опрос
|
реклама
Быстрый переход
OpenAI столкнулась с большими расходами и нехваткой данных при обучении ИИ-модели Orion нового поколения
11.11.2024 [17:05],
Дмитрий Федоров
OpenAI испытывает трудности с разработкой новой флагманской ИИ-модели под кодовым названием Orion. Эта ИИ-модель демонстрирует значительные успехи в задачах обработки естественного языка, однако её эффективность в программировании остаётся невысокой. Эти ограничения, наряду с дефицитом данных для обучения и возросшими эксплуатационными расходами, ставят под сомнение рентабельность и привлекательность упомянутой ИИ-модели для бизнеса.
Источник изображения: AllThatChessNow / Pixabay Одной из сложностей являются затраты на эксплуатацию Orion в дата-центрах OpenAI, которые существенно выше, чем у ИИ-моделей предыдущего поколения, таких как GPT-4 и GPT-4o. Значительное увеличение расходов ставит под угрозу соотношение цена/качество и может ослабить интерес к Orion со стороны корпоративных клиентов и подписчиков, ориентированных на рентабельность ИИ-решений. Высокая стоимость эксплуатации вызывает вопросы об экономической целесообразности ИИ-модели, особенно учитывая умеренный прирост её производительности. Ожидания от перехода с GPT-4 на Orion были высоки, однако качественный скачок оказался не столь значительным, как при переходе с GPT-3 на GPT-4, что несколько разочаровало рынок. Подобная тенденция наблюдается и у других разработчиков ИИ: компании Anthropic и Mistral также фиксируют умеренные улучшения своих ИИ-моделей. Например, результаты тестирования ИИ-модели Claude 3.5 Sonnet компании Anthropic показывают, что качественные улучшения в каждой новой базовой ИИ-модели становятся всё более постепенными. В то же время её конкуренты стараются отвлечь внимание от этого ограничения, сосредотачиваясь на разработке новых функций, таких как ИИ-агенты. Это свидетельствует о смещении акцента с повышения общей производительности ИИ на создание его уникальных способностей. Чтобы компенсировать слабые стороны современных ИИ, компании применяют тонкую настройку результатов с помощью дополнительных фильтров. Однако такой подход остаётся лишь временным решением и не устраняет основных ограничений, связанных с архитектурой ИИ-моделей. Проблема усугубляется ограничениями в доступе к лицензированным и общедоступным данным, что вынудило OpenAI сформировать специальную команду, которой поручено найти способ решения проблемы нехватки обучающих данных. Однако неясно, удастся ли этой команде собрать достаточный объём данных, чтобы улучшить производительность ИИ-модели Orion и удовлетворить требования клиентов. Робот-гуманоид NEO Beta сразился на кухне с известным шеф-поваром Ником ДиДжиованни
11.11.2024 [13:41],
Дмитрий Федоров
Известный шеф-повар и блогер Ник ДиДжиованни (Nick DiGiovanni) провёл кулинарный поединок с роботом-гуманоидом NEO Beta компании 1X, продемонстрировав перспективы использования роботов в домашнем быту. С помощью приложения дистанционного управления, работающего на платформе Meta✴✴ Quest и обеспечивающего контроль движений, NEO Beta под руководством оператора приготовил стейк средней прожарки.
Источник изображений: 1x.tech Идея проекта возникла после обсуждений с командой ДиДжиованни, который предложил превратить NEO Beta в «финального босса» — робота-повара, с которым ему предстояло бы сразиться на кухне. Команда 1X поддержала эту идею, и вскоре началась подготовка к съёмкам. Сценой для кулинарной схватки стал город Саннивэйл (штат Калифорния), расположенный неподалёку от штаб-квартиры 1X, где и были разработаны все технические решения, обеспечивающие роботу гибкость и точность движений. Процесс съёмок был сосредоточен на демонстрации возможностей NEO Beta, которому предстояло самостоятельно выполнить все этапы приготовления стейка — от приправки специями до аккуратного переворачивания его на сковороде. Эта задача была сложной: от робота требовалось точное выполнение действий, требующих контроля температуры и соблюдения времени. Чтобы обеспечить успешное выполнение всех движений, команда использовала дистанционное управление роботом через приложение 1X для Meta✴✴ Quest, что позволило добиться плавности и точности на каждом этапе готовки. По словам разработчиков, единственное, что на данный момент отделяет NEO Beta от полной автономности, — это необходимость обработки и синтеза значительного объёма данных на каждом этапе. Съёмки проходили в домашней обстановке, что усиливало ощущение реальности происходящего. ДиДжиованни даже привёз для робота специально пошитый китель «Chef NEO», а холодильник был с избытком заполнен мраморной говядиной, чтобы в случае ошибки у робота всегда был запасной стейк. К удивлению команды, NEO Beta с первой попытки идеально справился с приготовлением стейка и продемонстрировал реальный потенциал робота как перспективного помощника на кухне. ![]() Съёмочный процесс не обошёлся без курьёзов, которые сделали атмосферу более живой. Так, в одном из эпизодов NEO Beta случайно опрокинул бутылку с оливковым маслом. Самым впечатляющим эпизодом стала техника обжарки с добавлением масла, которую робот выполнил с точностью, достойной профессионального повара. ДиДжиованни позже отметил, что NEO Beta превзошёл даже таких мастеров, как Гордон Рамзи (Gordon Ramsay) и дядя Роджер (Uncle Roger). Хотя NEO Beta смог успешно выполнить все основные действия — от приправки стейка специями до его переворачивания и снятия с огня, включение конфорки потребовало вмешательства человека. Ник и его команда решили оставить эту сцену в видео, чтобы продемонстрировать текущий уровень автономности робота. Компания 1X подчёркивает важность прозрачности в создании подобных видеороликов, чтобы поддерживать доверие и не завышать ожидания аудитории. ![]() Несмотря на то что робот был оснащён функцией голосового общения в реальном времени с помощью интеграции GPT-4o, команда выбрала контролируемый диалог, что помогло поддержать стилистическое единство и создать атмосферу, задуманную ДиДжиованни. В дополнение ко всему, внимательный и дружелюбный голос NEO Beta подчёркивал образ надёжного домашнего помощника. Следует отметить, что, несмотря на успешное приготовление стейка, функция приготовления еды пока не входит в функциональность первых моделей NEO Beta. Первоначальные версии робота будут ориентированы на выполнение безопасных задач, не требующих контакта с горячими или острыми предметами. Разработчики считают, что на данном этапе робототехника должна начинать с более простых бытовых задач, обеспечивая при этом высокий уровень безопасности для людей, прежде чем стать их незаменимым помощником на кухне. SMIC сможет заработать на буме ИИ, даже не имея доступа к передовым техпроцессам
10.11.2024 [07:17],
Алексей Разин
С одной стороны, руководство китайской компании SMIC, находящейся под санкциями, говорит о назревающем перепроизводстве чипов по старым техпроцессам. С другой стороны, не имея доступа к передовой литографии, компания всё же рассчитывает извлечь выгоду из бума систем искусственного интеллекта, поскольку часть заказов ей всё же перепадёт.
Источник изображения: SMIC По крайней мере, как отмечает South China Morning Post, описывая итоги фискального квартала, генеральный директор SMIC Чжао Хайцзюнь (Zhao Haijun), упомянул о факторах, способствующих привлечению новых заказов на конвейер компании в свете бума соответствующих технологий. «ИИ является благословением для полупроводникового производства, он может обеспечить рост нашего бизнеса на многие годы вперёд», — заявил глава SMIC на квартальном отчётном мероприятии. Как он пояснил, технологические ограничения мешают компании производить высоко конкурентные компоненты типа GPU, но она может выпускать другие изделия, так или иначе связанные с сегментом ИИ, типа силовой электроники или аналоговых компонентов. Рост числа заказов наблюдается уже сейчас. В то время как зарубежные конкуренты загружают свои мощности выгодными для них передовыми чипами, клиенты, которым нужны сопутствующие компоненты более зрелого поколения, всё чаще обращаются за услугами к SMIC. По оценкам Чжао Хайцзюня, полупроводниковая отрасль в целом в следующем году продемонстрирует рост на 10 % с учётом бума искусственного интеллекта, а если этот фактор исключить, то рост ограничится 4 %. В прошлом квартале SMIC расширила свою клиентскую базу в Китае, увеличив ежемесячный объём обрабатываемых кремниевых пластин типоразмера 300 мм на 21 000 штук в месяц. Слабостью спроса в мировой полупроводниковой отрасли до сих пор отличаются европейский и американский автопром, а в Китае слабыми звеньями являются рынок солнечной энергетики и аккумуляторов. Из-за этого степень загрузки конвейера в отрасли не превышает 70 %, по словам главы SMIC, и в следующем году показатель вряд ли заметно улучшится. По итогам текущего года компания рассчитывает увеличить выручку на 27 % до $8 млрд. Тенденция импортозамещения по компонентной базе на китайском рынке, по словам Чжао Хайцзюня, имеет свои пределы. Как правило, если китайский производитель до трети своих компонентов получает внутри страны, он всё равно предпочитает сохранить внешние источники комплектующих с целью диверсификации. The Beatles номинированы на «Грэмми» с песней, восстановленной с помощью искусственного интеллекта
10.11.2024 [05:26],
Анжелла Марина
Легендарные The Beatles вновь номинированы на музыкальную премию «Грэмми» спустя более 50 лет после распада группы. Их последняя песня «Now and Then», отреставрированная в прошлом году с помощью искусственного интеллекта, претендует на звание «Запись года» наряду с песенными хитами Билли Айлиш (Billie Eilish) и Тейлор Свифт (Taylor Swift).
Источник изображения: Now And Then / YouTube Песня «Now and Then» была выпущена в ноябре 2023 года, но её история началась ещё в конце 1970-х годов. Тогда Джон Леннон (John Lennon) записал демоверсию этой композиции не в студийных условиях. Позднее запись, вместе с другими треками «Free As A Bird» и «Real Love», была передана оставшимся участникам группы в 1990-х годах для включения в проект The Beatles Anthology. Однако «Now and Then» так и не была завершена из-за технических ограничений того времени, которые не позволяли качественно отделить вокал Джона Леннона от инструментального сопровождения. Изменить ситуацию удалось только в 2021 году, когда режиссёр Питер Джексон (Peter Jackson) и его команда, снимавшие документальный фильм о «Битлз», использовали технологию машинного обучения. Это позволило ныне живущим Полу Маккартни (Paul McCartney) и Ринго Старру (Ringo Starr) завершить работу над песней, отделив голос от фортепиано и создав полноценный трек с сопровождением музыкальных инструментов. «Теперь, благодаря ИИ, мы смогли вернуть эту песню к жизни», — отметил Маккартни. Несмотря на то, что «Now and Then» была закончена с использованием искусственного интеллекта, она соответствует правилам «Грэмми» в отношении ИИ. Правила гласят, что «только люди имеют право быть номинированными или выиграть премию Grammy, но работы, содержащие элементы ИИ, имеют право участвовать в соответствующих категориях». Церемония «Грэмми» состоится 2 февраля 2025 года, а песне The Beatles придётся конкурировать с современными хитами известных артистов. Intel представила нейроморфный чип Loihi II — 128 ядер, 1 млн нейронов и техпроцесс Intel 4
30.09.2021 [19:00],
Игорь Осколков
Intel представила второе поколение нейроморфных чипов: Loihi II. Идейно и архитектурно новый чип, в целом, повторяет первое поколение, анонсированное четыре года назад, однако имеет целый ряд улучшений технического и программного характера. Но что более интересно, с выходом Loihi II, который всё ещё считается исследовательской разработкой, компания готова сделать первые шаги по ограниченной коммерциализации данного решения. ![]() В рамках нейромофорного подхода исследователи пытаются аппаратно воссоздать с той или иной степени точности механизмы, лежащие в основе мозга, которые на первый взгляд довольно просты: по густо провязанной и меняющейся со временем сети нейронов асинхронно и параллельно распространяются сигналы как ответ на внешние события. Попытки повторить это в рамках обычного «железа» можно считать достаточно успешными, ведь нейронными сетями сейчас никого не удивишь. Однако такие сети требуют затратного предварительного обучения на заранее размеченных данных, тогда как мозг учится «на лету». А с ростом сложности моделей остро встаёт вопрос энергоэффективности, причём не только обучения, но и исполнения. «Вершиной эволюции» классических ИИ-ускорителей на сегодняшний день можно считать Cerebras WSE-2: чип размером с кремниевую пластину содержит 850 тыс. ядер и потребляет 15 кВт. Но и этого мало — по словам самих разработчиков, только кластер из таких чипов способен работать с ИИ-моделями, сравнимыми по масштабу с человеческим мозгом. И все эти ограничения призваны устранить именно нейроморфные системы. ![]() Loihi II изготавливается по EUV-техпроцессу Intel 4, который всё ещё находится в стадии разработки. Чип имеет площадь 31 мм2 и содержит 2,3 млрд транзисторов, а площадь одного ядра составляет 0,21 мм2, то есть плотность по сравнению с первым поколением выросла практически вдвое. Чип всё так же содержит 128 нейронных ядер, но число доступных нейронов выросло со 128 тыс. до 1 млн. Объём памяти на ядро слегка уменьшился, с 208 до 192 Кбайт, однако теперь банки памяти можно более гибко распределять между нейронами и синапсами, а компрессия позволяет ещё более эффективно использовать имеющийся объём. Сами ядра тоже изменились. В первом поколении они были оптимизированы под конкретные импульсные нейронные сети, а теперь для каждого ядра есть собственный программируемый конвейер, а сами модели на уровне чипа задаются микрокодом. Кроме того, для состояния нейрона можно использовать до 4096 байт в зависимости от задач (ранее было только 24 байт). Число синапсов на чип уменьшилось со 128 до 12 млн, но они получили существенный апгрейд — для кодирования сигнала используется INT32-значение, а не бинарное (есть/нет). Всё вместе это позволяет задействовать обучение (в том числе на лету) с третьим фактором. Тем не менее, набор инструкций нейроморфных ядер остался по-прежнему простым. Он включает базовые арифметические операции, сдвиги, ветвление, работу с памятью/регистрами и импульсами. Сами ядра объединены быстрой mesh-сетью 8×16, а за конфигурацию сети, (де-)кодирование данных и управлением передачей импульсов отвечают ещё шесть выделенных ядер (ранее их было только три) с аппаратным ускорением соответствующих задач. Суммарный эффект от всех нововведений таков, что Loihi II быстрее Loihi первого поколения примерно на порядок. Более того, он получил улучшенные возможности масштабирования: до 1000 ядер на самом чипе, а также можно сформировать трёхмерную mesh-сеть из чипов благодаря шести выделенным I/O-контроллерам на каждом из них и вчетверо более быстрым линиям. А для связи с внешним миром теперь доступны стандартные интерфейсы SPI/AER, GPIO и 1/2.5/10GbE. ![]() Первым устройством на базе Loihi II стала одночиповая карта Oheo Gulch, предназначенная для разработки и отладки ПО. Она пока что доступна только избранным партнёрам Intel в облаке Neuromorphic Research Cloud. Следующим устройством станет компактная (4” × 4”) плата Kapoho Point, которая несёт на борту уже восемь чипов Loihi II и предоставляет Ethernet и GPIO, а также различные интерфейсы для сенсоров и актуаторов. Платы можно будет напрямую объединять между собой для простого наращивания вычислительной мощности. В дальнейшем возможна интеграция чипов в гибридные SoC для различных задач, а также появление решений для ЦОД. В целом, области применения и задачи новинок совпадают с теми, что сейчас обслуживают «классические» нейронные сети (с поправкой на энергоэффективность). Однако одного «железа» для распространения мало, поэтому Intel подготовила универсальный open source фреймворк LAVA, который позволит унифицировать разработку и подготовку моделей для практических любых аппаратных решений (не только нейроморфных) с учётом специфики конкретных архитектур. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |