AMD сообщила о намерении открыть исходный код большего количества своих программных продуктов Radeon и предоставить больше сведений о своих графических процессорах — интерес к ним растёт.

Источник изображения: amd.com

Рост интереса к видеокартам AMD Radeon связан с популярностью генеративного искусственного интеллекта и стремлением отрасли нарастить присутствие мощного оборудования, отличного от Nvidia. Как показала практика, «зелёные» не в состоянии выпускать ИИ-ускорители в достаточно крупных объёмах, чтобы удовлетворить спрос. Уже один этот факт является мощным фактором роста для AMD.

AMD объявила, что планирует открыть исходный код большей части своего программного стека Radeon. Это, в частности, может значить, что открытым будет исходный код большей части ROCm (Radeon Open Compute Platform) — стека, который включает широкий набор моделей программирования, инструментов, компиляторов, библиотек и сред выполнения для разработки решений в области ИИ и высокопроизводительных вычислений на графических процессорах AMD. Но подробностей об этом компания пока не сообщила.

Источник изображения: twitter.com/amdradeon

Производитель также пообещал, что вскоре предоставит разработчикам дополнительную документацию по оборудованию. Это, в частности, поможет сторонним игрокам в реализации продукции AMD, а значит, будет способствовать и росту продаж компании. Рынок вычислений на графических процессорах также выиграет от появления более жизнеспособных вариантов на базе Radeon. AMD, наконец, сможет извлечь максимальную выгоду из бума ИИ.

Как стало известно агентству Reuters, ряд крупных технологических компаний, включая Intel, Google, Arm, Qualcomm, Samsung и т.д., сформировала группу под названием The Unified Acceleration Foundation (UXL). Компании объединились для создания ПО с открытым исходным кодом, которое позволило бы разработчикам решений на базе искусственного интеллекта (ИИ) не быть привязанными к проприетарным технологиям Nvidia.

Источник изображения: Nvidia

В настоящее время более 4 млн разработчиков по всему миру используют программную платформу Nvidia CUDA для создания ИИ-приложений и других программ. UXL являются частью растущего сообщества компаний, борющихся с доминированием Nvidia в области ИИ. «На самом деле мы демонстрируем разработчикам, как перейти с платформы Nvidia», — сообщил в интервью Reuters Винеш Сукумар (Vinesh Sukumar), руководитель отдела ИИ и машинного обучения Qualcomm.

В настоящее время проект включает открытый стандарт OneAPI, разработанный Intel, чтобы исключить необходимость использования определённых языков программирования, баз данных и другие инструментов, одним словам всех требований, которые вынуждают разработчиков использовать конкретную архитектуру, такую как платформа Nvidia CUDA. По словам руководителей группы, проект с открытым исходным кодом направлен на то, чтобы созданный компьютерный код работал на любой вычислительной машине, независимо от того, какой чип и оборудование в ней используются.

Google в качестве одного из основателей UXL помогает определять техническое направление проекта, сообщил директор и главный технолог по HPC Билл Хьюго (Bill Hugo). По его словам, в первом полугодии 2024-го будут утверждены технические спецификации, а к концу года технические детали проекта должны достичь «зрелого» состояния.

Помимо участников, UXL планирует привлекать провайдеров облачных вычислений, включая Amazon и Microsoft Azure, а также производителей чипов. По словам руководителей группы, с момента запуска в сентябре прошлого года UXL уже начала получать техническую информацию от её участников и сторонних компаний, заинтересованных в использовании технологии с открытым исходным кодом.

UXL планирует заняться решением наиболее насущных вычислительных проблем, связанных с доминированием нескольких производителей чипов в сфере ИИ и HPC, чтобы в перспективе привлечь критическую массу разработчиков на свою платформу. Планы UXL также включают поддержку в дальнейшем оборудования и кода Nvidia.

На нашем YouTube-канале вышел свежий выпуск «Календаря релизов». В ролике мы рассказываем о том, во что поиграть на этой неделе, и отмечаем недавние релизы, которые вы могли пропустить.

Конфликт миллиардера Илона Маска (Elon Musk) с основателями OpenAI вокруг гуманистических ценностей в сфере искусственного интеллекта привёл к достаточно неожиданным последствиям. Основанный Маском стартап xAI пообещал открыть исходный год своего чат-бота Grok на этой неделе. Примечательно, что частным пользователям X доступ к этому чат-боту предоставляется за $16 в месяц.

Источник изображения: xAI

Если xAI опубликует исходный год своего чат-бота Grok, то этот стартап присоединится к ряду компаний, которые это уже сделали, причём среди них оказалась запрещённая в РФ компания Meta✴ Platforms Марка Цукерберга (Mark Zuckerberg). Французский стартап Mistral также вошёл в число сторонников открытия свободного доступа к исходному коду своего чат-бота.

Илон Маск давно продвигает идею свободного доступа к разработкам принадлежащих ему компаний. Многие из патентов Tesla с 2014 года доступны для использования всем желающим, хотя на практике выясняется, что использовать их безвозмездно всё же не получится. Как тогда отмечалось, на такой шаг Tesla пошла из стремления ускорить переход на электромобили. В прошлом году принадлежащая Маску социальная сеть X раскрыла часть исходного кода своих программных алгоритмов. Теперь к ним присоединится и стартап xAI, который работает в сфере систем генеративного искусственного интеллекта.

Сегодня коалиция OpenTitan анонсировала первый коммерческий микропроцессор безопасности, построенный на одноимённой аппаратной платформе с открытым исходным кодом. По словам компании, это ещё одна веха в развитии открытого аппаратного обеспечения, которое набирает обороты благодаря открытой процессорной архитектуры RISC-V.

Источник изображения: OpenTitan

Чип под названием Earl Grey использует процессорное ядро на базе RISC-V и включает в себя ряд встроенных аппаратных модулей безопасности и криптографии. Проект был начат в 2019 году коалицией компаний, основанной Google и возглавляемой некоммерческой организацией lowRISC в Кембридже, Великобритания. По образцу программных проектов с открытым исходным кодом, он разрабатывается участниками со всего мира, как официальными партнерами проекта, так и независимыми инженерами.

«Этот чип очень, очень интересен, — говорит один из создателей OpenTitan, генеральный директор zeroRISC Доминик Риццо (Dominic Rizzo). — Но есть и нечто гораздо большее — это разработка совершенно нового типа методологии. Вместо традиционной... командно-административной структуры — распределенная». Открытый исходный код «просто берет верх, потому что он обладает определенными ценными свойствами... Я думаю, мы видим начало этого в кремнии», добавил Риццо.

Разработанная методология называется Silicon Commons. Разработка открытого аппаратного обеспечения сталкивается с проблемами, которых нет у программного обеспечения с открытым исходным кодом: более высокая стоимость, меньшее профессиональное сообщество и невозможность исправления ошибок в патчах после выпуска продукта, объясняет генеральный директор lowRISC Гэвин Феррис (Gavin Ferris). Фреймворк Silicon Commons предусматривает правила документирования, предопределенные интерфейсы и стандарты качества, а также структуру управления, определяющую, как различные партнеры принимают решения как единое целое.

Еще одним ключом к успеху проекта, по словам Ферриса, стал выбор проблемы, решение которой стимулировало бы всех партнеров продолжать участвовать в проекте. Аппаратные модули безопасности подошли для этой работы как нельзя лучше из-за их коммерческой важности, а также из-за того, что они особенно подходят для модели с открытым исходным кодом. В криптографии есть понятие, известное как принцип Керкхоффса, который гласит, что единственное, что должно быть секретным в криптосистеме, это сам секретный ключ. Открытый доступ ко всему протоколу гарантирует, что криптосистема соответствует этому правилу.

Источник изображения: lowRISC

В OpenTitan используется аппаратный протокол безопасности Root-of-trust (RoT). Идея заключается в том, чтобы обеспечить источник криптографических ключей на кристалле, недоступный удаленно. Поскольку в противном случае ключ недоступен, система может быть уверена, что он не был подделан, обеспечивая основу для построения безопасности. Обычные проприетарные чипы также могут использовать технологию RoT. По мнению сторонников, открытый доступ к ней обеспечивает дополнительный уровень доверия. Поскольку любой желающий может проверить и изучить дизайн, теоретически вероятность того, что ошибки будут замечены, выше, а их исправление может быть проверено.

Подобная защита на кристалле особенно актуальна для устройств, формирующих Интернет вещей (IoT), которые страдают от нерешенных проблем безопасности.

Риццо и Феррис считают, что их чип представляет собой шаблон для разработки аппаратного обеспечения с открытым исходным кодом, который будут копировать другие коллективы. Помимо обеспечения прозрачной безопасности, открытые технологии экономят деньги компаний, позволяя им использовать готовые аппаратные компоненты вместо того, чтобы самостоятельно разрабатывать запатентованные версии одного и того же устройства. Это также открывает возможности для участия в проекте большего числа партнеров, включая академические институты, такие как партнер коалиции OpenTitan — Высшая техническая школа Цюриха. Благодаря участию академических кругов OpenTitan смог включить криптографические протоколы, которые безопасны для будущих квантовых компьютеров.

«Как только методология будет доказана, ее подхватят другие, — говорит Риццо. — Если вы посмотрите, что произошло с программным обеспечением с открытым исходным кодом, то сначала люди думали, что это своего рода попытка вырваться на волю, а потом оказалось, что оно работает почти на каждом мобильном телефоне. Оно просто захватило власть, потому что обладает определенными ценными свойствами. И я думаю, что сейчас мы видим начало этого в кремнии».

Apple при поддержке учёных Корнеллского университета ещё в октябре выложила в открытый доступ собственную мультимодальную большую языковую модель Ferret, которая в качестве запросов может принимать фрагменты изображений.

Источник изображения: Laurenz Heymann / unsplash.com

Выход Ferret на GitHub в октябре не сопровождался со стороны Apple крупными объявлениями, но проект впоследствии привлёк участие специалистов отрасли. Принцип работы Ferret состоит в том, что модель изучает указанный фрагмент изображения, идентифицирует объекты на этом участке и очерчивает их рамкой. Распознанные на фрагменте изображения объекты система воспринимает как часть запроса, ответ на который предоставляется в текстовом формате. К примеру, пользователь может выделить на картинке изображение животного и попросить Ferret распознать его. Модель даст ответ, к какому виду относится животное, и ей можно будет задать дополнительные вопросы в контексте, уточнив информацию по другим объектам или действиям.

Источник изображения: twitter.com/zhegan4

Открытая модель Ferret — это система, способная «давать ссылки и обосновывать что угодно, где угодно и с любыми подробностями», пояснил исследователь из ИИ-подразделения Apple Чжэ Гань (Zhe Gan). Отраслевые эксперты отмечают важность выхода проекта в этом формате — он демонстрирует открытость традиционно закрытой компании. По одной из версий, Apple решилась на этот шаг, поскольку стремится конкурировать с Microsoft и Google, но не обладает сопоставимыми вычислительными ресурсами. Из-за этого она не смогла рассчитывать на выпуск собственного конкурента ChatGPT и была вынуждена выбирать между партнёрством с облачным гиперскейлером и выпуском проекта в открытом формате, как это ранее сделала Meta✴.

«Яндекс» объявил о старте нового этапа ежегодной программы грантов Yandex Open Source, в рамках которой разработчики интересных и важных опенсорс-проектов получат гранты, которые можно будет использовать на платформу данных, инструменты для разработки и другие сервисы Yandex Cloud. Лучшие проекты получат гранты по 600 тыс. рублей каждый. 15 победителей Yandex Open Source 2024 будут определены до мая 2024 года.

Заявки на участие принимаются в трёх треках: обработка и хранение данных, разработка, машинное обучение. Каждый разработчик сможет принять участие в программе только с одним проектом. Рассмотрением заявок и определением победителей займётся программный комитет, состоящий из менеджеров и разработчиков опенсорс-решений Яндекса — YTsaurus, YDB, userver, Diplodoc и других. Комитет оценит актуальность и полезность каждого проекта, а также активность репозитория и потенциал развития.

Претендовать на получение гранта в Yandex Open Source 2024 сможет независимый разработчик или группа разработчиков, а также сотрудники крупных компаний при условии, что проект разрабатывается вне основной работы и вне репозиториев, связанных с работодателем. Доступ к программе закрыт для сотрудников группы компаний «Яндекса», даже если будет предложен собственный сторонний проект.

«Команды “Яндекса” не только выкладывают в опенсорс свои разработки, но и активно пользуются внешними решениями и помогают их развивать. Для нас это очень важно, так как мы верим, что технологии должны быть открыты и доступны для мира. А чтобы открытые проекты могли развиваться лучше и ещё быстрее, мы запускаем программу грантов», — сообщила директор по маркетингу опенсорс-технологий «Яндекса» Лейсан Зигангирова.

Приём заявок на участие в программе Yandex Open Source 2024 продлится с 27 ноября по 29 февраля 2024 года. Затем, в течение месяца пройдёт их рассмотрение и 1 апреля 2024 года будут объявлены победители, которые получат гранты до 30 мая 2024 года.

Узнать правила и подать заявку на грант можно на странице программы, а на сайте — ознакомиться с инициативой Yandex Open Source и проектами «Яндекса» с открытым исходным кодом.

Компания OnePlus официально представила свой первый складной смартфон с гибким дисплеем. Аппарат OnePlus Open разрабатывался совместно с Oppo, которая ранее уже выпустила складные смартфоны Find N и Find N2. Более того, на рынке Китая OnePlus Open будет продаваться как Oppo Find N3.

Источник изображений: The Verge

Одна из привлекательных особенностей OnePlus Open заключается в том, что он способен выдержать миллион циклов складывания и раскладывания экрана. Это примерно в пять раз больше по сравнению с аналогичным показателем у потенциальных конкурентов, таких как Google Pixel Fold и Samsung Galaxy Z Fold 5. По заявлению разработчиков, в конструкции смартфона используется шарнирный механизм, способный выдержать 100 циклов складывания в день на протяжении десяти лет. Это означает, что аппарат будет ещё долго функционировать после того, как перестанет получать программные обновления.

OnePlus Open оснащён 7,82-дюймовым основным дисплеем с поддержкой разрешения 2440 × 2268 пикселей, частотой обновления 120 Гц и максимальной яркостью 2800 кд/м². На нём всё ещё присутствует видимая визуально складка, но разработчики утверждают, что приложили максимум усилий, чтобы сделать её менее заметной. Для защиты экрана от механических повреждений используется ультратонкое стекло, а корпус смартфона защищён по стандарту IPX4. Внешний дисплей с диагональю 6,31 дюйма поддерживает разрешение 2484 × 1116 пикселей, частоту обновления 120 Гц и обеспечивает яркость до 2800 кд/м².

Тройная основная камера OnePlus Open объединила в себе основную 48-мегапиксельную камеру (f/1.7) с телефотомодулем на 64 Мп (f/2.6) с поддержкой 3-кратного оптического зума и сверхширокоугольный датчик на 48 Мп (f/2.2). Поддерживается съёмка видео 4K на скорости до 60 кадров в секунду или 1080p на скорости до 480 кадров в секунду. В дополнение к этому имеется пара селфи-камер на 32 и 20 Мп.

За производительность в флагманском смартфоне OnePlus отвечает восьмиядерный процессор Qualcomm Snapdragon 8 Gen 2 (одно ядро Cortex-X3 с частотой до 3,2 ГГц, два ядра Cortex-A715 с частотой до 2,8 ГГц, два ядра Cortex-A710 с частотой до 2,8 ГГц и три ядра Cortex-A510 с частотой до 2,0 ГГц). За обработку графики отвечает ускоритель Adreno 740, а работу в сетях связи пятого поколения (5G) обеспечивает модем Snapdragon X70. Конфигурацию дополняют 16 Гбайт оперативной памяти и накопитель формата UFS 4.0 на 512 Гбайт. Автономную работу обеспечивает аккумулятор ёмкостью 4805 мА·ч с поддержкой быстрой зарядки мощностью до 67 Вт.

Смартфон работает под управлением Android 13 с фирменным интерфейсом OxygenOS 13.2. В разложенном состоянии он имеет габариты 153,4 × 143,1 × 8,5 мм, а в сложенном — 153,4 × 73,3 × 11,7 мм. Покупатели смогут выбирать между чёрным и изумрудным вариантами цветового исполнения корпуса. Что касается цены, что приобрести OnePlus Open можно за $1699, а в Европе — за €1799.

Принадлежащая, согласно открытым данным ЕГРЮЛ, ПАО «Мобильные ТелеСистемы» (МТС) компания «Иртея» займётся разработкой базовых станций 4G/5G на базе открытой архитектуры Open RAN. На период с 2023 по 2026 гг. бюджет проекта составляет 11 млрд руб. — компания планирует выпускать до 20 тыс. базовых станций в год. Об этом сообщили «Ведомости» со ссылкой на разработанную правительством дорожную карту «Современные и перспективные сети мобильной связи», описывающую план развития отрасли до 2030 года.

Источник изображения: Maxwell Fury / pixabay.com

Разработкой дорожной карты с 2022 года по поручению главы государства занималось правительство. Первая версия документа появилась в декабре минувшего года — она предполагает ввод российского телекоммуникационного оборудования в промышленную эксплуатацию с 2025 года, а тремя годами позже можно будет использовать только российские базовые станции. «Ведомости» ознакомились с версией дорожной карты от 29 августа 2023 года.

Запуск серийного производства отечественных базовых станций запланирован на сентябрь 2024 года — к июню 2026 года намечен выход на мощность 20 000 единиц в год. Единственным владельцем ООО «Иртея» является ПАО «МТС», возглавляет компанию Марат Ибрагимов. Дата её регистрации — 17 марта 2021 года, а до 14 декабря 2022 года она называлась «МТС электроника». Из заложенных в бюджете 11 млрд руб. на разработку оборудования компания выделит 5,6 млрд руб. из собственных средств, и ещё 5,4 млрд составит бюджетное финансирование с 2023 по 2026 гг.

Крупнейшие мировые производители телекоммуникационного оборудования — Ericsson, Nokia, Huawei — традиционно выступали против решений на открытой архитектуре Open RAN, предлагая закрытый проприетарный продукт, напомнили опрошенные «Ведомостями» эксперты. Но оно представляется перспективным для операторов и мелких производителей, потому что позволяет самостоятельно создавать отдельные элементы инфраструктуры и в любой момент включаться в разработку.

АО «Группа Астра» (головное юрлицо разработчика ОС Astra Linux ООО «РусБИТех-Астра») планирует до конца года запустить платформу для совместной разработки открытого кода, которая должна стать альтернативой зарубежным сервисам GitHub и GitLab. Это означает, что компания включается в гонку по запуску отечественного аналога GitHub, в которой уже принимают участие «Ростелеком», ДИТ Москвы и Минцифры.

Источник изображения: Pixabay

В рамках реализации проекта по выведению на рынок российского аналога GitHub АО «Группа Астра» купила долю в размере 26 % в ООО «Ресолют», разработчике платформы для хранения открытого исходного кода и совместной разработки GitFlic. В «Группе Астра» уточнили, что это первый этап сделки, по итогам второго этапа компания станет владельцем 51 % «Ресолюта», а остальные доли останутся у основателей предприятия.

«Компания уже работает над платформой, которая будет представлять собой законченную среду с комбинацией инструментов управления исходными кодами, тестированием, автоматизацией, документацией, фреймворком, шаблонами разработки», — рассказал гендиректор АО «Группы Астра» Илья Сивцев. Он подтвердил разработку аналога зарубежных сервисов вроде GitHub, а также сообщил о намерении запустить платформу до конца этого года.

В «Ресолюте» сообщили, что поддержка крупного вендора позволит увеличить темпы разработки продукта. Компания также намерена вывести на рынок «коробочные решения, в том числе со средствами защиты информации». Сумма сделки, в рамках которой 51 % «Ресолюта» перейдёт под контроль АО «Группа Астра», не разглашается. Гендиректор «АФИ Капитал» Алексей Гориславец считает, что сумма сделки по покупке 26 % «Ресолюта» может составлять 5 млн рублей, а в случае получения контроля — 10 млн рублей.

Ведущий и продюсер Джефф Кейли (Geoff Keighley) опубликовал «хайп-трейлер» по случаю скорого старта трансляции gamescom 2023: Opening Night Live, которая пройдёт 22 августа. Ролик напоминает, какие игры будут представлены на церемонии открытия игровой выставки.

Источник изображения: Twitter

В описании к видео указывается, что на Opening Night Live покажут новые геймплейные кадры Alan Wake II, Assassin's Creed Mirage, Call of Duty: Modern Warfare 3, Cyberpunk 2077: Phantom Liberty, Mortal Kombat 1, Crimson Desert и других проектов.

На открытии выставки должен также состояться «горячий» показ китайского мифологического боевика Black Myth: Wukong. Участие в выставке примет студия 4A Games, известная по серии Metro. В начале текущего месяца компания Microsoft рассказала, в какие игры даст поиграть на gamescom 2023.

Трансляция gamescom 2023: Opening Night Live начнётся 22 августа в 21:00 по Москве, а сама gamescom 2023 пройдёт с 23 по 27 августа.

В рамках заключённого ещё в феврале этого года соглашения компания IBM и NASA создали и открыли доступ к открытой ИИ-платформе для геопространственного анализа спутниковых снимков. В основе инструмента лежат спутниковые снимки (гармонизированные данные) из базы NASA, собранные европейским спутником Sentinel-2. Новый ИИ-инструмент облегчит анализ геоданных и поможет учёным лучше понимать климатические изменения и перспективы.

Источник изображения: IBM

«Никогда еще не была так очевидна важная роль технологий с открытым исходным кодом для ускорения таких важнейших областей открытий, как изменение климата, — сказал Шрирам Рагхаван (Sriram Raghavan), вице-президент IBM Research AI. — Объединив усилия IBM по созданию гибких, многократно используемых систем ИИ с хранилищем спутниковых данных NASA и сделав их доступными на ведущей платформе ИИ с открытым исходным кодом HuggingFace, мы сможем использовать силу сотрудничества для более быстрого и эффективного внедрения решений, которые улучшат состояние нашей планеты».

Данные NASA — это собранные за прошедший год мультиспектральные изображения со спутника с разрешением 30 м на пиксель — обрабатываются моделью IBM watsonx.ai. На сайте HuggingFace можно обнаружить всё необходимое для начала использования этого инструмента. Платформа поможет решить не только прогностические задачи, связанные с климатом планеты, но также позволит давать ответы на насущные вопросы, связанные с землепользованием, вырубками, пожарами, наводнениями и тому подобными проблемами.

Можно ожидать, что появление «разумного» интерфейса в таком деле, как анализ мультиспектральных спутниковых снимков, где неспециалисту ни за что не разобраться, подтолкнёт науку и приведёт к появлению практических решений для экономики, сельского хозяйства, строительства и многих других областей, зависящих от прихотей погоды.

Учёные Университета Карнеги — Меллона и Центра безопасности искусственного интеллекта обнаружили уязвимость, присущую большинству современных ИИ-моделей. Она позволяет обходить установленные их разработчиками морально-этические барьеры. В результате основанные на этих моделях чат-боты выдают рецепты изготовления взрывчатых устройств, пишут вредоносный код, а также поддерживают разговоры в нацистском и сексистском ключах, передаёт Fortune.

Источник изображений: Gerd Altmann / pixabay.com

Предложенный исследователями метод атаки в той или иной степени срабатывает на самых передовых современных системах: OpenAI ChatGPT в версиях на GPT-3.5 и GPT-4, Microsoft Bing Chat, Google Bard и Anthropic Claude 2. Но ещё больше он актуален для открытых больших языковых моделей вроде Meta✴ LLaMA — успех гарантирован, когда у злоумышленника есть доступ ко всей структуре ИИ, и в первую очередь к синаптическим весам. Синаптические веса — коэффициенты, показывающие, какое влияние узел нейросети оказывает на другие узлы, с которыми он связан. Зная эту информацию, можно создать алгоритм автоматического поиска суффиксов, которые добавляются к запросу, чтобы гарантированно преодолеть ограничения системы.

Человеку эти суффиксы могут показаться по большей части длинной последовательностью случайных символов и бессмысленным набором слов. Но строка из таких символов способна обмануть большую языковую модель и заставить её дать ответ, которого ждёт организатор атаки. Схожим образом работают предложенные экспериментаторами методы атаки — например, можно предписать чат-боту начать ответ со слов «Конечно, вот...», и он в отдельных случаях обходит установленные ограничения. Но подобранные программными методами суффиксы выходят далеко за рамки подобных обходных путей и работают более эффективно.

Чат-бот Vicuna, основанный на первой версии Meta✴ LLaMA, позволяет производит атаки с успехом почти 100 %. Обновлённая модель LLaMA 2 имеет более надёжную защиту и позволяет добиваться успеха в 56 % случаев — но при попытке обрушить хотя бы один барьер из нескольких, которые подвергаются атаке одновременно, вероятность взлома повышается 84 %. Схожие показатели успеха демонстрируются при работе с чат-ботами на других открытых моделях, таких как EleutherAI Pythia или созданной в ОАЭ системе Falcon.

К некоторому удивлению самих учёных, те же самые суффиксы хорошо работают и против проприетарных моделей, разработчики которых открывают общий доступ только к интерфейсу запросов — в таких случаях доступ к весам отсутствует, и программу поиска суффиксов запустить не получается. Учёные предложили простое объяснение такому эффекту: большинство открытых моделей обучалось на общедоступных диалогах пользователей с бесплатной версией ChatGPT на основе OpenAI GPT-3.5. Поэтому неудивительно, что и бесплатная ChatGPT демонстрирует 86,6 % успеха.

Высокий успех атак на закрытую Google Bard на базе PaLM 2 (66 %) может указывать на существование каких-то иных скрытых механизмов — или в Google просто покривили душой, когда заявили, что не обучали Bard на данных ChatGPT. Примечательно, что обученная по уникальным методикам Anthropic Claude 2 демонстрирует всего 2,1 % успеха, хотя есть некоторые способы обойти эту защиту, например, предложив ИИ изобразить готовность помочь или представить, что это просто игра — тогда атаки срабатывают в 47,9 % случаев.

Учёные подчёркивают, что их открытие отнюдь не означает, что мощные ИИ-модели следует изъять из общего доступа — напротив, без доступа к исходному коду этого открытия никогда бы не случилось. А перевод больших языковых моделей на проприетарные лицензии означал бы, что автоматизированные методы атаки остались бы доступными только для киберпреступников с хорошим финансированием и поддерживаемых властями стран кибервойск, а независимые учёные никогда не нашли бы способов защиты от них.

Приглашаем вас принять участие в XIX конференции разработчиков свободных программ, которая состоится 29 сентября — 1 октября 2023 г. в городе Переславле-Залесском.

Ежегодно конференция объединяет разработчиков свободных программ из России и других стран, чтобы обсудить новейшие достижения в области свободного ПО и перспективы его развития, наладить личные и профессиональные контакты, инициировать создание новых проектов сферы СПО.

В 2023 году конференция пройдет на базе Института программных систем РАН.

Источник изображения: «Базальт СПО»

Организаторы: Базальт СПО, ИПС РАН.

Оргкомитет принимает заявки на доклады по следующим темам:

• Разработка свободного программного обеспечения;
• Новейшие достижения проектов СПО;
• Формирование сообщества разработчиков СПО;
• Философские, культурные и правовые аспекты свободного ПО;
• Студенческие проекты разработки СПО.

Для участия в конференции в качестве докладчика необходимо отправить заявку по адресу conference@lists.altlinux.org до 1 сентября 2023 г.

Следите за информацией на странице конференции!

• На странице конференции также будет идти трансляция в режиме реального времени.

Тезисы докладов будут изданы в РИНЦ отдельным сборником. Участие для докладчиков и слушателей бесплатное. Язык конференции — русский.

Meta✴ намерена выпустить собственную коммерческую модель искусственного интеллекта, которая поможет стартапам и предприятиям разрабатывать на этой платформе собственное ПО, сообщает Financial Times со ссылкой на собственные источники. Тем самым гигант соцсетей станет полноценным конкурентом Google и дуэту Microsoft и OpenAI, которые лидируют на рынке генеративного ИИ.

Источник изображения: Gerd Altmann / pixabay.com

В начале года Meta✴ выпустила большую языковую модель LlaMA, предназначенную для исследователей, тогда как новая платформа будет предусматривать инструменты для корпоративных клиентов. Компания традиционно публикует исходные коды своих ИИ-моделей, что контрастирует с действиями конкурентов — данные и код GPT-4 от OpenAI третьим лицам недоступны. В Meta✴ же полагают, что «открытость — лучшее противоядие от окружающих ИИ страхов». Вице-президент и старший научный сотрудник в области ИИ в Meta✴ Ян ЛеКун (Yann LeCun) недавно заявил, что конкурентная среда в отрасли в корне изменится, когда выйдут платформы с открытым исходным кодом, которые так же хороши, что и закрытые.

Тем не менее даже при открытом и бесплатном характере новой платформы в Meta✴ рассматривают возможность взимать с корпоративных клиентов плату за её тонкую настройку и адаптацию под их потребности и наборы исходных данных. Но на старте проекта платных опций не предусматривается. Вице-президент Meta✴ по исследованиям в области ИИ Джоэль Пино (Joelle Pineau) добавила, что при выпуске проекта с открытым исходным кодом компания не отказывается от права интеллектуальной собственности на эту работу и уж тем более не скрывает намерения использовать эти модели в собственных продуктах. Недавно глава компании Марк Цукерберг (Mark Zuckerberg) намекнул, что технологии генеративного ИИ в том или ином виде появятся на ключевых платформах Meta✴: Facebook✴, Instagram✴ и WhatsApp.

Важнейшим преимуществом моделей с открытым исходным кодом является их широкое распространение среди пользователей — они вводят свои данные для обработки искусственным интеллектом, и чем обширнее доступный модели массив информации, тем мощнее становится эта модель. Кроме того, исследователи и разработчики имеют возможность выявлять и исправлять ошибки в платформах, повышая тем самым их безопасность. С одной стороны, стратегия выпуска бесплатных продуктов может показаться несовместимой с коммерческими целями разработчика, но, с другой, она помогает захватывать новые рынки.