Сегодня 24 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Альтман и другие лидеры ИИ-индустрии предупредили Совбез ООН: ИИ может стать угрозой для человечества

Главы ряда ведущих компаний в сфере ИИ выступили на заседании Совета безопасности ООН с предупреждением о рисках, которые искусственный интеллект представляет для человечества, призвав правительства к совместным действиям по управлению этой стремительно развивающейся технологией, пишет Reuters.

 Источник изображения: Steve A Johnson/unsplash.com

Источник изображения: Steve A Johnson/unsplash.com

Генеральный директор компании Anthropic Дарио Амодеи (Dario Amodei) отметил, что при неправильном управлении искусственный интеллект может представлять угрозу для человечества в целом. «Несмотря на все разногласия между присутствующими в этом зале, мы должны отбросить их, чтобы противостоять этой глобальной угрозе, с которой мы столкнулись. Ни один лидер, ни одна компания и ни одна страна не справятся с ней в одиночку», — заявил он.

Как отметило агентство Reuters, Соединённые Штаты и Китай, две ведущие державы в области разработки ИИ, в корне отличаются в подходе к регулированию ИИ. Президент Дональд Трамп (Donald Trump) заявил, что США не нужны новые нормативные акты, регулирующие сферу ИИ, в то время как Китай ввёл регулирование, касающееся использования ИИ-алгоритмов и обучающих данных, включая требования к чёткой маркировке контента, созданного с помощью ИИ.

Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил о необходимости международного сотрудничества в сфере ИИ. «Чтобы искусственный интеллект был демократичным, важнейшие решения не должны приниматься только в лабораториях Сан-Франциско. Они должны приниматься в рамках демократических процессов и под контролем правительств, подотчётных народу, которому они служат», — подчеркнул он.

Канадский учёный Йошуа Бенжио (Yoshua Bengio), считающийся одним из крёстных отцов искусственного интеллекта, заявил, что опасности реальны и неизбежны. «Совет безопасности столкнулся с беспрецедентной угрозой, которую никто из его членов не выбирал, которую никто не может сдержать в одиночку и которая не признает границ, которые мы защищаем», — сказал он.

За день до этого, в выступлении на Генеральной ассамблее ООН Трамп заявил мировым лидерам, что он отвергает любые попытки создать глобальную схему контроля над искусственным интеллектом, назвав эту технологию потрясающей и отметив, вместе с тем, что США будут действовать с осторожностью.

Совет безопасности проводит заседания для обсуждения рисков, связанных с искусственным интеллектом, начиная с 2023 года.

ИИ-агент OpenAI самовольно взломал правительственный сайт Австралии

Инциденты с хакерскими атаками в исполнении ИИ-агентов OpenAI, Google и Anthropic до сих пор сводились к причинению ущерба интернет-ресурсам компаний и частных лиц, но на этой неделе премьер-министр Австралии Энтони Албаниз (Anthony Albanese) открыл счёт первым «жертвам» среди информационных объектов правительственной инфраструктуры. По его словам, ИИ-агент OpenAI атаковал правительственный ресурс Австралии, связанный с государственной системой здравоохранения.

 Источник изображения: Unsplash, Luis Chávez

Источник изображения: Unsplash, Luis Chávez

Это произошло ещё в июне текущего года, по словам политика, но расследование инцидента до сих пор ведётся, а потому могут быть выявлены новые свидетельства причинения вреда австралийским информационным ресурсам. По итогам проведённой атаки ИИ-агент OpenAI смог получить несанкционированный доступ к хранящемся на австралийском портале файлам.

Как выяснилось по итогам расследования, ИИ-агент взломал портал австралийской страховой программы Medicare, пытаясь собрать информацию о расходах на здравоохранение. Пока нет свидетельств более обширной компрометации австралийских информационных ресурсов, связанных с правительством страны. Выступая на заседании Совета безопасности ООН, австралийский премьер назвал ситуацию «очевидным образом неприемлемой». Власти страны уже направили своё обращение к генеральному директору OpenAI Сэму Альтману (Sam Altman), выразив «крайнюю степень возмущения этим инцидентом». Глава австралийского правительства также был расстроен тем, что OpenAI долго тянула с уведомлением пострадавшей стороны о произошедшем в июне инцидентом. Оно поступило только 10 сентября, по словам Албаниза. Власти Австралии теперь разбираются, почему собственные системы кибербезопасности не позволили выявить данный инцидент ранее. У правительства Австралии есть основания полагать, что как минимум три других сайта государственных структур могли быть затронуты подобными инцидентами, хотя подтверждений этому пока нет. Созданная специально для расследования комиссия должна определить степень защищённости правительственных веб-ресурсов Австралии от повторения подобных инцидентов в будущем.

По словам представителей OpenAI, компании не удалось найти доказательств того, что в ходе инцидента ИИ-агент смог получить доступ к историям болезни пациентов, которые хранились на австралийском сайте. Компания утверждает, что не намеревалась взламывать австралийские правительственные сайты, а ИИ-модели OpenAI просто пытались найти информацию с ответами на необходимые вопросы на указанных сайтах.

О характере хранившейся на сайте Medicare информации поведал министр обороны Австралии Ричард Марлз (Richard Marles), который пояснил, что на ресурсе нет данных об историях болезней отдельных пациентов или документов, подтверждающих их взаимодействие с медицинскими и страховыми организациями, как и какой-либо финансовой информации. Ресурс просто накапливает данные об использовании гражданами страны медицинских услуг. Впрочем, даже угроза утечки такой обобщённой статистики воспринимается властями страны очень серьёзно. Как отметил премьер-министр Австралии, на разных этапах действовавший в июне ИИ-агент OpenAI получал отказ в доступе к сайту, но в итоге всё равно добился получения доступа к определённым данным.

Meta✴ представила облегчённые VR-очки с голографическими звонками за $1299 и ИИ-очки Ray-Ban без камер за $349

Для компании Meta✴ Platforms проходящее на этой неделе мероприятие Connect должно было стать местом анонса новых носимых устройств, и самыми ожидаемыми новинками были VR-гарнитура Phoenix и лишённые камер ИИ-очки Luna. Эти ожидания компания оправдала, представив обе модели устройств и назначив им розничные ценники в $1299 и $349 соответственно.

Поскольку большие габариты и вес являются одними из главных претензий к VR-гарнитурам прошлых поколений, Meta✴ приложила максимум усилий к созданию легковесной гарнитуры VR Glasses, которая даже своим названием намекает, что сочетает возможности работы с виртуальной реальностью и габариты умных очков. Правда, без компоновочных компромиссов обойтись не удалось: гарнитура просто распределила вес между собственно носимой на голове частью и внешним модулем, который подключается кабелем и крепится на одежде или покоится на столе в случае работы в стационарных условиях. В этом модуле как раз расположились процессор, система охлаждения, аккумулятор и прочие компоненты, необходимые для работы гарнитуры дополненной реальности.

Как и предшественники, гарнитура VR Glasses позволяет устраивать видеоконференции, просматривать фильмы на виртуальном экране, играть, просматривать содержимое интернет-страниц и работать в офисных приложениях. При этом носить на голове пользователю приходится очки массой около 100 г, что в пять раз меньше массы Oculus Quest 3S и в шесть раз меньше массы Apple Vision Pro. Технический директор Meta✴ Эндрю Босворт (Andrew Bosworth) признался, что идея раздельной компоновки была частично подсмотрена у Apple, поскольку пользователи и разработчики отмечали удобство такого подхода. Впрочем, в Meta✴ считают своё предложение не только более выгодным по цене, но и более лёгким.

Кроме того, по словам Босворта, многих пользователей отпугивал громоздкий внешний вид Apple Vision Pro, поскольку они выглядели в нём странно, не говоря уже о способности такого устройства быстро привести к утомлению из-за его веса. VR Glasses хоть и стоят в два с лишним раза больше Quest 3 ($599), всё равно почти втрое дешевле Apple Vision Pro ($3699). Заряда батареи новинки Meta✴ хватает на три часа работы, что лучше показателей перечисленных устройств, но при этом VR Glasses могут оставаться постоянно подключенными к внешнему источнику питания, если пользователь работает в них за столом, например. Для такого режима предусмотрены виртуальная клавиатура и трекпад, проецируемые прямо на поверхность письменного стола. Эффективность такого ввода информации практически не уступает варианту взаимодействия с планшетом, например.

Дисплеи VR Glasses уступают в разрешающей способности Vision Pro, которая предлагает 4K, поскольку новинка Meta✴ лишь приближается к 2.5K. С другой стороны, очевидцы отмечают, что визуально эта разница почти не ощущается. VR Glasses довольствуется процессором Qualcomm Snapdragon Reality Elite, тогда как Vision Pro требуется основной процессор M5 и специальный чип-компаньон. Meta✴ подтвердила, что для VR Glasses будет доступен фирменный режим видеоконференцсвязи, который создаёт голографический аватар собеседника с высокой степенью реалистичности. Позже поддержку этой функции предложат и для ИИ-очков Ray Ban с дисплеем.

Бизнес-модель реализации VR Glasses пока только формируется, но Босворт утверждает, что компания перестанет терять деньги на их реализации по цене $1299 уже в ближайшее время.

Второй ключевой новинкой на конференции Connect стали ИИ-очки Ray-Ban Meta✴ Audio, которые лишены камер и не будут вызывать столько же протестов у сторонников приватности, как существующие модели с камерами. Пользователь таких очков будет активно взаимодействовать с ИИ-агентом через голосовые команды, а ещё устройство может выступать в роли альтернативы слуховому аппарату. Кстати, одновременно были представлены новые версии ИИ-очков Ray-Ban с камерами, а также новые модели оправ для семейства.

По словам технического директора Эндрю Босворта, работать над созданием умных очков без камер Meta✴ начала ещё два года назад, поскольку аудио-составляющая оказалась наиболее популярной функцией таких устройств. Кроме того, отказ от камер позволил сделать очки легче и увеличить время их работы от аккумулятора. Ситуация со скандалами вокруг приватности попала в повестку дня значительно позже, чем началась разработка очков без камер, поэтому Meta✴ в этом смысле просто повезло, как признался Босворт. При этом он отмечает, что умные очки компании со встроенными камерами продолжают пользоваться популярностью даже на фоне скандалов с приватностью. О проведении съёмки видео и фото владельцем таких очков сигнализирует световой индикатор на внешней части оправы, поэтому осуществлять скрытую съёмку устройство в полном смысле не позволяет.

Версии умных очков Ray-Ban Meta✴ Audio без камер в исполнении Clubmaster и Burbank поступят в продажу уже 3 октября по цене $349. Одной подзарядки им хватает на 12 часов работы, и это заметный прогресс по сравнению с 8 часами предыдущего поколения, которое оснащается камерами. Кстати, новое поколение очков Meta✴ с камерами увеличивает этот показатель до 9 часов, так что прогресс есть и на их стороне. Очки с камерами в третьем поколении также стали тоньше по сравнению с предшественниками, но они всё равно выделяются размерами на фоне версии без камер, которая почти неотличима от обычной оправы Ray-Ban. В третьем поколении умные очки Meta✴ получили программируемую клавишу «action», которую можно настроить на вызов ИИ-агента Must, среди прочего. Обновлённая система микрофонов позволяет более эффективно подавлять фоновый шум во время телефонных звонков, а ещё у очков появились регулируемые кончики дужек, которые можно настроить для большего комфорта при ношении.

Версии с камерами будут предложены по цене от $449 в трёх вариантах дизайна: Wayfarer, Aviator и Zena. Это дороже тех $379, за которые предлагаются очки второго поколения, но в Meta✴ объясняют подорожание инфляцией и дефицитом компонентов, хотя нехватку микросхем памяти к этим факторам напрямую не относят. В долгосрочной же перспективе рост цен на память может сказаться на позиционировании устройств Meta✴, как признался технический директор компании.

Помимо сотрудничества с Ray-Ban, компания Meta✴ предлагает и более доступные умные очки в оправах собственного дизайна, и в новом поколении цены на них начинаются с отметки $249. Впрочем, на территории Южной Кореи и Сингапура будет предлагаться особая модель таких очков за $399, созданная при участии эстрадной исполнительницы Лизы из южнокорейской группы Blackpink.

Программные возможности умных очков Meta✴ также были усовершенствованы. Был добавлен режим Dynamic Photos, который позволяет получить несколько кадров за раз и за тем выбрать наиболее удачные на смартфоне для дальнейшего использования. Кроме того, добавлен режим съёмки фото и видео в горизонтальной ориентации. До конца года очки Meta✴ получат возможность записи пространственного звука в режиме 360 градусов с использованием технологии Dolby Atmos. Будет увеличена и доля данных, обрабатываемых локально на аппаратном обеспечении очков. Это будете реверанс в сторону поборников приватности, которые опасаются за безопасность данных, отправляемых в фирменные облачные сервисы Meta✴.

За доступ к сертифицированной агентством FDA функции слухового аппарата на своих умных очках Meta✴ будет взимать дополнительную плату в размере $150, либо включит её в абонемент подписки Meta✴ One.

Очки Meta✴ со встроенным дисплеем, которые предлагаются за $799, также получат ряд новых программных функций, включая поиск сторонних приложений для подобных устройств. Голосовой ассистент был улучшен, а в режиме навигации стрелочки с подсказками направления движения доступны как для маршрутов при движении на общественном транспорте, так и для велосипедных. Проще стало управлять календарём и уведомлениями со смартфона, а ещё теперь можно редактировать фото прямо в интерфейсе умных очков.

По словам Босворта, компания не отказывается от идеи выпуска AR-очков с парными дисплеями в 2027 году, но реальные сроки будут зависеть от степени зрелости сопутствующих технологий.

Цукерберг представил умный брелок-тамагочи Muse Charm, в котором живёт плюшевый ИИ-агент Muse

Ощущение того, что спектр формфакторов умных устройств надо расширять, уже давно подогревалось представителями OpenAI, поэтому Meta✴ Platforms решила действовать на опережение, представив на этой неделе ИИ-брелок Muse Charm, который позволяет пользователю взаимодействовать с недавно анонсированным ИИ-агентом Muse.

 Источник изображений: ***

Источник изображений: Meta✴

Местом для дебюта устройства была выбрана ежегодная конференция Connect, которую Meta✴ провела на этой неделе. Пока о возможностях нового вида носимой электроники Meta✴ её глава и основатель Марк Цукерберг (Mark Zuckerberg) рассказал не так много, ограничившись заявлениями о том, что Muse Charm позволит пользователям взаимодействовать с ИИ-агентами Meta✴ «без необходимости разблокировать телефон или открывать приложение». Сейчас компания занимается завершением работы по внутренней компоновке устройства, и собирается вывести его на рынок к декабрьским праздникам в этом году. Цена новинки также не сообщается, но сторонние источники предполагают, что она будет сопоставима со стоимостью умных часов.

«Мы упаковали много технологий в эту маленькую штуку. Так что, если вы не носите очки, это будет самый быстрый способ обратиться к вашему Muse и показать ему, что происходит вокруг вас», — пояснил Цукерберг. Как отмечает Bloomberg, к созданию Muse Charm приложил руку бывший ведущий дизайнер Apple по интерфейсам Алан Дай (Alan Dye), как и его нынешние коллеги из Superintelligence Labs. Известно, что Muse Charm наделён сенсорным OLED-дисплеем диагональю около двух дюймов (5 см) и собственной операционной системой, которая рассчитана на локальную работу с ИИ-агентом Muse. По словам технического директора Meta✴ Эндрю Босворта (Andrew Bosworth), на которые ссылается Bloomberg, для этой компании устройство такого типа является своего рода экспериментом и «пробой пера», она собирается понять, как его будут использовать люди.

Для связи Muse Charm использует Wi-Fi и 5G-модем, но осуществлять с его помощью голосовые и видеозвонки не предполагается. Для аутентификации пользователя будет применяться штатный дактилоскопический датчик. Интерфейс устройства подразумевает взаимодействие с отображаемым на дисплее виртуальным персонажем, внешность которого пользователь может настраивать под свой вкус. Носить Muse Charm можно как вместо брелока, так и в кармане или на запястье. Прозрачные стенки корпуса позволяют наблюдать внутренности устройства. По замыслу Meta✴, это устройство будет относиться к категории «удерживаемых в руке», а не носимых по типу тех же очков, наушников или часов. Босворт не скрывает, что до момента анонса устройство Charm внутри компании называли «Clawmagochi», объединив термин «claw» (клешня) и название популярной некогда электронной игрушки Tamagochi. В то же время, такое обозначение проводило параллели с ИИ-ассистентом OpenClaw.

Расположенные по соседству Muse Charm смогут распознавать друг друга и взаимодействовать, если их владельцы настроят их соответствующим образом. Помимо затрат на покупку устройства, пользователям придётся вносить ежемесячную абонентскую плату за услуги связи, но тарифы пока не определены. По словам Босворта, концепт Charm был готов уже в марте, и в компании решили, что устройство необходимо представить в текущем году, принявшись за работу с большим энтузиазмом. На задней и передней панели Muse Charm расположены камеры, которые могут снимать фото и видео, но их основная функция будет заключаться в оценке окружающей обстановки для нужд ИИ-агента. У пользователей будет возможность просматривать создаваемые с помощью устройства фото и видео. Владельцы также смогут воспроизводить музыку и видео, прослушивая звук со встроенных динамиков, а для подзарядки новинки будет использоваться порт USB-C. Синхронизация данных ИИ-агента Muse с умным брелоком Charm осуществляется через сопряжённый смартфон под управлением Android или iOS.

В Meta✴ считают, что персональным ИИ-агентом Muse люди будут больше пользоваться через смартфоны и умные очки, в этом смысле Charm не является приоритетным носителем профильной технологии. Тем не менее, своего покупателя это устройство найдёт, по мнению Босворта. Если оно окажется достаточно успешным, то у него появятся преемники в следующих поколениях.

ИИ-биолаборатория Anthropic сделала первое открытие — найденную ферментную систему уже сравнивают с CRISPR

Компания Anthropic заявила, что её ИИ Claude «самостоятельно обнаружил» новую ферментную систему, схожую с механизмом, лежащим в основе мощного инструмента редактирования генов CRISPR. Об этом пишет The Verge.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Отмечается, что это первый результат работы недавно открытой лаборатории Anthropic и своего рода проверка научной ценности Claude в преддверии выхода компании на биржу. По словам компании, Claude нашёл эту систему, проанализировав огромную базу данных последовательностей ДНК. При этом участие учёных ограничилось лишь постановкой первоначальной задачи и проведением лабораторных исследований.

За 21 час почти 950 агентов Claude обработали 210 млн токенов, прежде чем один из них выявил в массиве данных необычную повторяющуюся последовательность и отметил её для проверки человеком. Дальнейший анализ и лабораторные исследования позволили обнаружить «ранее не описанную ферментную систему у бактериофагов» — вирусов, поражающих бактерии.

В Anthropic отмечают, что работа по изучению функций этой системы продолжается, однако компания сочла «важным поделиться результатами на раннем этапе — как для демонстрации возможностей Claude, так и для того, чтобы дать научному сообществу представление о направлениях нашей деятельности».

Несмотря на то, что в Anthropic проводят параллели с CRISPR, пока неясно, найдет ли это открытие практическое применение и сможет ли оно произвести столь же революционный эффект, как технология редактирования генов. Заявление, сделанное, по признанию самой компании, преждевременно, прозвучало на фоне стремления Anthropic привлечь больше учёных в свою лабораторию и расширить сферу деятельности, в частности, занявшись разработкой новых лекарственных препаратов.

Хакер поручил ИИ-агентам взламывать интернет-магазины — украдены данные более 600 тыс. банковских карт

Неустановленный злоумышленник, движимый по всей видимости финансовыми мотивами, использует фреймворки для создания ИИ-агентов с открытым исходным кодом для масштабных атак на сотни интернет-магазинов. Хакер уже похитил данные более 600 тыс. банковских карт по всему миру, сообщила компания Gambit, работающая в сфере кибербезопасности.

 Источник изображения: Bleeping Computer

Источник изображения: Bleeping Computer

Кампания ведётся как минимум с июля и продолжается по состоянию на 22 сентября. Всего за пять дней злоумышленник скомпрометировал не менее 27 компаний и инициировал более 100 атак. Как указывают данные Gambit, несмотря на широкий охват целей, атакующий похитил действительные данные более 600 тыс. карт у двух компаний, а также внедрил вредоносное ПО (скиммеры) на сайты пяти других организаций для сбора платёжной информации. Исследователи отмечают, что кампания опирается на три ИИ-инструмента, позволяющих ежедневно реализовывать цепочки атак против десятков компаний:

  • Strix — фреймворк для тестирования на проникновение, предназначенный для сканирования и обнаружения уязвимостей;
  • Cairn — автономный движок для эксплуатации уязвимостей, решающий такие задачи, как получение командной оболочки (shell) или прав администратора. Его не следует путать с одноименным инструментом для анализа вредоносного ПО с помощью ИИ, недавно представленным компанией Cisco Talos;
  • Hermes — инструмент для координации кампании, выполнения действий на этапе пост-эксплуатации, принятия тактических решений и управления вредоносной активностью с использованием модели Claude-Opus-4.6.

По данным исследователей Gambit, в период с 23 по 31 августа инструмент Strix был запущен 146 раз против 138 хостов, а общее время сканирования составило 633 часа. В Hermes была заложена роль (персона) под названием «SOUL — Red Team Operator» и 121 навык, 78 из которых непосредственно связаны с проведением атак.

Исследователи сообщают, что оператор-человек (предположительно, из Китая) давал ИИ-агентам краткие инструкции относительно целей операции, после чего те действовали самостоятельно. В период с 10 по 15 сентября злоумышленник, как сообщается, инициировал 105 отдельных волн атак, добившись той или иной степени успеха как минимум в 27 случаях. Скиммеры внедрялись на целевые сайты с использованием различных методов, зависящих от уровня доступа, выявленных уязвимостей и архитектуры систем.

Среди зафиксированных методов: добавление вредоносного кода в легитимные JavaScript-файлы, вставка тегов скриптов на страницы оформления заказа или в блоки Google Tag Manager, «отравление» контента в S3-хранилищах/CDN и серверных кешах, изменение полей баз данных, модификация развертываний Kubernetes, а также использование задач cron для восстановления скиммера после его удаления. Исследователи Gambit получили доступ к промежуточному серверу, который использовал злоумышленник, и обнаружили прямые доказательства его деятельности.

 Внедрённый скиммер для кражи данных карт. Источник изображения: Gambit

Внедрённый скиммер для кражи данных карт. Источник изображения: Gambit

В общей сложности скиммерами для кражи данных банковских карт было заражено не менее 119 веб-сайтов. Злоумышленник взломал системы крупных организаций, включая компанию из списка Fortune 500, работающую в сфере гостиничного бизнеса, крупную авиакомпанию США, крупного американского дистрибьютера промышленных товаров и интернет-магазин модной одежды.

Для поиска перспективных целей злоумышленник использовал сервис оценки посещаемости сайтов, анализируя список, сформированный инструментом Strix. Приоритет отдавался ресурсам, использующим нестандартное программное обеспечение, — вероятно, из-за того, что такие сайты с большей долей вероятности содержали уязвимости.

В ходе расследования специалисты Gambit выяснили, что хакер давал ИИ-агенту команду выполнять процедуры очистки, удаляющие данные карт из баз данных Magento после их кражи (эксфильтрации). Эта инструкция содержится в одном из файлов с описанием функций агента Hermes: «После извлечения и выгрузки всех данных карт очистить исходные поля (удалить данные) порциями». Исследователи отмечают, что это приводило к сбоям в работе ряда розничных компаний из-за потери данных.

 География и число краж данных кредитных карт. Источник изображения: Gambit

География и число краж данных кредитных карт. Источник изображения: Gambit

Специалисты Gambit также смогли оценить стоимость проведения этой операции. Они обнаружили аккаунт в сервисе OpenRouter, согласно которому по состоянию на 25 августа за примерно четыре недели было потрачено $7005,71. На основе данных о дальнейшем использовании сервиса исследователи оценили общие затраты в сумму от $12 до $18 тыс. Таким образом, средние расходы на атаку одной цели составили $25.

«В пересчете на каждую атакованную компанию затраты оказываются незначительными: от нескольких долларов до нескольких десятков долларов на организацию. Собственные расчёты оператора подтверждают эту цифру: средняя стоимость составила $25,46 (на основе 101 завершенного сканирования), варьируясь от $3,13 для самой дешевой цели до $79,31 для самой дорогой», — поясняют в Gambit.

По мнению исследователей, автоматизация и низкая стоимость позволяют злоумышленникам — даже тем, кто не обладает высокой квалификацией, — легко организовывать подобные атаки. Во многих случаях доступ к системам удавалось получить всего за несколько часов. Основную работу при таких атаках выполняли ИИ-агенты и инструменты, следуя кратким инструкциям, которые оператор вводил в перерывах между циклами автономной работы.

В Gambit предупреждают: организации, стремящиеся защититься от атак такого типа, должны также учитывать риск потери данных, возникающий как побочный эффект процедуры очистки, запускаемой злоумышленником.

Google выпустила ИИ-модели для синтеза речи Gemini 3.8 Flash TTS, которые умеют клонировать голос

Google представила Gemini 3.8 Flash TTS и Gemini 3.8 Flash-Lite TTS — две новые модели синтеза речи, которые превращают генерацию голоса из набора готовых вариантов в более гибкий инструмент для создания аудио. Модели позволяют создавать собственные голоса, управлять исполнением отдельных реплик и генерировать выразительные диалоги для игр, подкастов, аудиокниг и других проектов.

 Источник изображений: Google

Источник изображений: Google

Gemini 3.8 Flash TTS предназначена для создания персонажей и детального управления их голосами. С помощью текстовых запросов можно задать роль, акцент и характеристики голоса более чем для 100 языков и диалектов. В библиотеке также доступно более 2000 готовых голосов, включая региональные варианты мексиканского испанского, квебекского французского и шотландского английского.

Отдельно Google добавила возможность клонирования голоса по 30-секундной аудиозаписи. Функция предназначена для собственного голоса или голоса, на использование которого получено право. Перед созданием копии система проверяет согласие владельца голоса, а полученное аудио защищается водяным знаком SynthID и метаданными C2PA.

После выбора голоса разработчик может управлять каждой репликой отдельно с помощью текстовых указаний. Gemini способна менять темп и характер исполнения, использовать шёпот и другие элементы звуковой подачи, а также добавлять реакции в виде смеха, вздохов и коротких реплик.

Обе модели поддерживают генерацию длинного аудио с сохранением качества, естественного темпа и характеристик голоса на протяжении нескольких часов, а режим двух говорящих позволяет создавать диалоги из одного сценария, сохраняя раздельные голоса и естественную очередность реплик. Gemini 3.8 Flash-Lite TTS при этом рассчитана прежде всего на масштабные проекты, включая дубляж, создание аудиоконтента и голосовых ИИ-агентов.

По данным Google, Gemini 3.8 Flash TTS заняла первое место в бенчмарке Voice Design компании Hume AI с результатом 71,4 балла, а в тесте моделирования акцента получила 60,8 балла. Flash TTS и Flash-Lite TTS также заняли первое и второе места соответственно в метрике Overall Quality Index (также от Hume AI). В слепых оценках пользователей на Voice Arena модели показали высокие результаты в японском, бразильском португальском, вьетнамском, современном стандартном арабском, мексиканском испанском и хинди.

Новые модели доступны с сегодняшнего дня в Google AI Studio, где появился отдельный интерфейс для создания голосовых сценариев. Gemini 3.8 Flash TTS и Flash-Lite TTS также доступны через Gemini API, а их интеграцию анонсировали платформы Agora, LiveKit, Pipecat и Vercel.

Китай сделал первый шаг к космическим ЦОД — ИИ-спутник Supercomputing-1 начал обрабатывать данные на орбите

Китай вывел на орбиту девять спутников, в том числе первый аппарат, предназначенный для локальной обработки алгоритмов искусственного интеллекта. Ракета Kinetica 1 Y18, управляемая китайской космической компанией CAS Space, стартовала 20 сентября, сообщает Digitimes.

 Источник изображения: NASA / unsplash.com

Источник изображения: NASA / unsplash.com

Наибольший интерес представляет спутник S-AIDC-1, получивший также название Supercomputing-1. Его разработала китайская компания S-AIDC, которая занимается вычислительной инфраструктурой ИИ. Аппарат предназначен для сбора данных при наблюдении Земли и локальной их обработки прямо на орбите без необходимости отправлять информацию в наземные центры обработки данных. Спутник оснащён как оптическим оборудованием высокого разрешения, так и компьютером с ИИ для обработки изображений.

Китай всерьёз занялся разработкой технологий орбитальных вычислений — в начале июня правительство страны одобрило создание Инновационного центра индустрии космических вычислений, целью которого станет формирование комплексного производства ракет и спутников, полупроводниковых компонентов, а также технологий ИИ для создания сети орбитальных вычислений.

С приходом бума ИИ во многих странах стали строить ЦОД для ИИ, но эти объекты потребляют слишком много энергии, производят шум и требуют больших объёмов воды для охлаждения. Альтернативой считаются орбитальные ЦОД, и компания SpaceX Илона Маска (Elon Musk) уже приступила к разработке спутника AI1, который обеспечит вычислительную мощность до 150 кВт. Уже к 2027 году она намерена наладить годовой объем производства оборудования общей мощностью 1 ГВт — для этого уже строится завод Gigasat площадью 1,02 млн м2, который будет выпускать по 600 аппаратов в год.

Помимо работы с ИИ-моделями, орбитальные вычислительные мощности помогут в решении практических задач. Обеспечивая локальную обработку материалов наблюдения Земли, они смогут оперативно обнаруживать лесные пожары, ураганы, наводнения, корабли и другие представляющие интерес объекты. Это повысит эффективность мониторинга погоды и реагирования на стихийные бедствия, обеспечит связь и управление группировками спутников; спутники смогут принимать больше решений самостоятельно, а не ожидать указаний с Земли. Пока это не орбитальный ЦОД, но подход Китая представляется практичным, с возможностью непосредственного применения передовых вычислительных мощностей на орбите.

Слишком много ИИ-чипов, слишком мало покупателей: конкурентам Nvidia предрекли массовый исход с рынка

Эксперты Jon Peddie Research, которые исторически специализировались на анализе динамики рынка графических процессоров, в своём новом исследовании взялись за изучение судьбы многочисленных конкурентов Nvidia, которых в последние годы на волне ажиотажа вокруг ИИ появилось особенно много. Выводы авторов исследования не могут порадовать желающих догнать компанию Дженсена Хуанга (Jensen Huang) — у них почти нет шансов.

 Источник изображения: Nvidia

Источник изображения: Nvidia

За период с 2012 по 2018 годы, как поясняют представители Jon Peddie Research, количество компаний, разрабатывающих ИИ-чипы, выросло на 267 %, и после тоже продолжило расти, хотя уже и не так активно. А кумулятивный объём инвестиций в отрасль с начала этого века до текущего года превысил $31 млрд. К 2017 году на рынке появились архитектуры, позволяющие в промышленных масштабах ставить на вооружение GPU в вычислительных системах серверного класса, что вызвало к 2018 году резкий рост количества компаний в сегменте.

Рынок сбыта при этом хоть и начал в последние несколько лет расти ударными темпами, разнообразием заказчиков не радует, не оставляя молодым компаниям особых шансов на выживание в конкурентной борьбе с Nvidia. Последняя глубоко укоренилась на рынке благодаря популярности своего программного обеспечения и широкому распространению аппаратной инфраструктуры, и новым игрокам при всём желании будет трудно изменить предпочтения клиентов, которым важна совместимость с существующими решениями. К 2019 году она практически добилась безоговорочного лидерства, и по итогам мая 2023 года преодолела первый триллион долларов США своей капитализации.

 Источник изображения: Jon Peddie Research

Источник изображения: Jon Peddie Research

С 2000 года в разработчиков ИИ-чипов было в общей сложности вложено $31 млрд, но к существенному росту числа покупателей такой продукции это не привело. Поставщиков же оказалось слишком много, чтобы они могли выжить в полном составе. Желающим оставаться на рынке придётся искать новые ниши сбыта. Критерий производительности новых ИИ-чипов уже не является решающим фактором выбора для покупателей, они всё больше ценят совместимость с существующим программным обеспечением и инфраструктурой, а в этой сфере у продукции Nvidia крайне мало конкурентов.

 Источник изображения: Jon Peddie Research

Источник изображения: Jon Peddie Research

За последние несколько лет на рынке ИИ-чипов появлялись как новые виды процессоров, так и их разработчики, но приблизиться к Nvidia по масштабам сбыта продукции им не удалось. Тем компаниям, которым удалось выжить, предстоит либо пройти процесс консолидации через объединение с другими участниками рынка, либо переориентироваться на более узкие сегменты рынка, в которых ещё возможен рост без доминирования Nvidia. Последняя доминирует в секторе решений для обучения ИИ-моделей, и количество её конкурентов внутри этого сектора минимально по сравнению со смежными сегментами рынка ИИ-чипов. Помимо инференса и Интернета вещей, новые игроки могут попытать счастья в системах автономного управления, которые применяются как в роботах, так и в транспортных средствах.

 Источник изображения: Jon Peddie Research

Источник изображения: Jon Peddie Research

Примерами стратегии ухода от прямого столкновения с Nvidia может служить переключение на разработку чипов для инференса, которые сейчас становятся всё более востребованными. Кроме того, перспективными в Jon Peddie Research считают ниши Интернета вещей и локального ускорения инференса силами процессоров, размещаемых в конечных пользовательских устройствах. По оценкам авторов исследования, на инференс и Интернет вещей сейчас приходится 67 % компаний, присутствующих на рынке ИИ-чипов. Выжившие в борьбе с Nvidia разработчики ИИ-чипов будут вынуждены сконцентрироваться в этих двух сегментах рынка, по мнению аналитиков Jon Peddie Research. Очередной рубеж, который покажет жизнеспособность конкурирующих разработчиков, придётся на 2028 год, как считают авторы исследования. К тому времени можно будет пересчитать «выживших».

Китайская DeepSeek будет активнее переходить на ИИ-ускорители Huawei

Власти КНР, если верить прежним публикациям, уже давно толкают компании с государственным участием к более активному использованию ИИ-чипов местного происхождения в собственной вычислительной инфраструктуре. Частные китайские компании могут пользоваться большей свободой, но и они обращают внимание на ускорители той же Huawei, как это делает DeepSeek.

 Источник изображения: Unsplash, Solen Feyissa

Источник изображения: Unsplash, Solen Feyissa

Как сообщает Commercial Times со ссылкой на публикацию The Information, основатель DeepSeek Лян Вэньфэн (Liang Wenfeng) недавно заявил на встрече с сотрудниками, что компания будет более активно использовать ускорители вычислений Huawei и других местных поставщиков. К четвёртому кварталу текущего года DeepSeek как раз получит от Huawei новую партию фирменных ускорителей, которые будут использоваться для обучения ИИ-моделей первой из компаний.

Хотя Huawei и страдает от проблем с поставками свои чипов, поскольку выпускать их в нужных количествах в условиях западных санкций не так просто, основатель DeepSeek видит в этих ускорителях большой потенциал роста. Через несколько лет, по его словам, ИИ-чипы Huawei смогут догнать по быстродействию предложения Nvidia. При этом сама DeepSeek быстро отказаться от импортных ускорителей не сможет. В мае текущего года основатель компании заявил, что для обучения ИИ-модели уровня решений OpenAI могут потребоваться до 50 000 ускорителей Nvidia GB300. Если же попытаться заменить их на ускорители Huawei Ascend 950, то количество требуемых чипов увеличится до 200 000 штук.

Утверждается, что DeepSeek сейчас обучает ИИ-модель с 2 трлн параметров, что почти в полтора раза больше, чем предусматривает уже выпущенная флагманская модель V4 с 1,4 трлн параметров. В дальнейшем компания намеревается создать ИИ-модель с 8 трлн параметров. Реализация этих планов будет во многом зависеть от наличия не только самих ИИ-чипов, но и микросхем памяти и источников электроэнергии. Какие именно ИИ-чипы Huawei компания DeepSeek получит в следующем квартале, не уточняется, но ускорители Ascend 950DT должны быть поставлены как раз до конца текущего года. Уже в начале следующего года дебютирует ускоритель Ascend 960DT.

Apple передумала делать ИИ-кулон — разработку необычного гаджета приостановили

Компания Apple приостановила работу над оснащённым искусственным интеллектом устройством нового типа — оно должно было иметь вид кулона или закрепляемого на одежде значка, сообщил аналитик Bloomberg Марк Гурман (Mark Gurman).

Эпоха искусственного интеллекта породила множество программных инноваций, но она пока не привела к массовому появлению устройств принципиально новых категорий. Некоторые попытки с переменным успехом уже предпринимаются: проект Humane Ai Pin закончился неудачей, а Meta✴ со своей серией умных очков сумела добиться определённого успеха, хотя их рынок в целом пока остаётся нишевым.

Над собственными устройствами с ИИ работает Apple. Множество новых важных функций получили Apple Watch Series 12 и Ultra 4, которые вышли на минувшей неделе. Компания также вела работу над оснащённым камерой носимым устройством в виде кулона, сообщил Гурман. Согласно задумке, его можно было носить на шее, крепить к одежде или размещать на других частях тела для сбора визуальных данных, которые обрабатывал бы обновлённый ИИ-помощник Siri AI. Устройство, рассказывал ранее аналитик, должно было «служить постоянно включённой камерой для iPhone, а также оснащаться микрофоном для взаимодействия с Siri».

К настоящему моменту Apple решила приостановить этот проект. Вместо него компания сосредоточилась на новых функциях ИИ в Apple Watch, на разработке новых AirPods с камерами и умных очков, выход которых ожидается в 2027 году. Ранее стало известно, что компания также заинтересовалась разработкой фитнес-трекера без экрана.

ИИ вытесняет новичков с рынка труда — через несколько лет это может обернуться дефицитом опытных специалистов

О том, что экспансия генеративного искусственного интеллекта меняет рынок труда, говорится уже давно. Теперь специалисты по кадрам отмечают изменение подхода работодателей к подбору сотрудников на начальные позиции в офисной сфере, поскольку соответствующие функции уже можно поручить ИИ-системам.

 Источник изображения: Unsplash, Agencia INNN

Источник изображения: Unsplash, Agencia INNN

По словам основателя лондонского рекламного агентства Catalyst Тобиаса Грина (Tobias Green), один молодой специалист в его штате сейчас может вести до пяти разных клиентов, тогда как ранее эту работу требовалось выполнять силами нескольких человек. Сейчас ИИ способен осуществлять поиск информации и проводить изыскания, создавать черновые версии материалов. Лишь на следующем этапе нужен кто-то, способный просмотреть результаты работы ИИ и обнаружить ошибки и устранить недочёты, как поясняет Грин. Всю фоновую работу выполняет ИИ, а человек является лицом, которое взаимодействует с клиентами рекламного агентства.

Сотрудники, принимаемые на начальные позиции, теперь не должны уметь выполнять «грязную работу», а поэтому квалификационные требования к ним изменяются. Они должны обладать способностью эффективно использовать ИИ. Административная работа и написание программного кода — в этих сферах ИИ уже успешно заменяет начинающих специалистов, по словам авторов публикации на сайте CNBC. Формально, новые реалии позволяют поднять производительность труда с точки зрения работодателя, но у специалистов по кадрам возникают вопросы о трансформации карьерных траекторий и необходимости молодых специалистов как-то получить начальные профессиональные навыки.

Проведённый в этом году среди 1500 представителей британского бизнеса опрос показал, что 51 % респондентов отмечает влияние ИИ на кадровую политику компаний. В 19 % случаев участники опроса отметили, что сократили количество нанимаемого на начальные позиции персонала, и в 42 % случаев это непосредственно объясняется применением ИИ. Представители рекрутингового агентства SHL отмечают, что в Великобритании многие из коллег отмечают снижение количества принимаемых на работу выпускников вузов. Графически эту трансформацию можно иллюстрировать превращением кадровой пирамиды в своего рода очертания бриллианта, в основании которого стало меньше сотрудников начального уровня, а самая широкая часть сформирована в середине из сотрудников с достаточным опытом работы и компетенции.

Проблема заключается в том, по словам экспертов, что специалисты с опытом тоже берутся не из воздуха, а получаются из начинающих в результате «профессионального созревания». В будущем это создаст кризис для работодателей, поскольку получившие опыт традиционным способом сотрудники уйдут на пенсию, а грядущее им на смену поколение не будет таким многочисленным из-за замещения начальных позиций функциями ИИ в прошлом.

 Источник изображения: Unsplash, Arlington Research

Источник изображения: Unsplash, Arlington Research

При этом нельзя утверждать, что младшие кадровые позиции исчезают как таковые. Исследование Klarus, охватившее 500 британских и ирландских представителей среднего бизнеса, говорит об улучшении скорости и качества работы младшего персонала благодаря использованию ИИ. При этом почти четверть опрошенных утверждает, что ИИ создаёт новые роли и возможности. Эксперты FDM Group отмечают, что в будущем на первый план выйдет умение сотрудника взаимодействовать с другими кадровыми единицами, будь то живые люди или ИИ-агенты. У молодых сотрудников в таких условиях гораздо быстрее появится возможность курировать и анализировать работу, выполняемую другими.

Подбор сотрудников среди выпускников вузов в таких условиях меняется по своей структуре. Работодатели больше не ищут специалистов для замещения конкретных функциональных вакансий, а определяют обязанности нанимаемого персонала более широко, рассчитывая в дальнейшем сузить их спектр благодаря адаптации под быстро меняющуюся ситуацию. Люди буквально нанимаются с учётом будущего потенциала применения. Какую подготовку они при этом получили в прошлом, уже не имеет особого значения.

Один из розничных банков, как отмечают представители агентства SHL, сейчас сосредоточился на подборе выпускников специальностей, связанных с психологией и правом. Технические навыки нанятым сотрудникам можно привить в дальнейшем, а их умение критически мыслить становится гораздо более важным качеством. Некоторые эксперты при этом выражают сомнение в способности таких «надзирателей за ИИ» качественно анализировать результаты работы, к которой они никогда не имели личного отношения. Выполнение «грязной и тяжёлой работы» в организациях традиционно было не только функциональной нагрузкой, а способом привить персоналу определённые компетенции. Без собственного опыта работы в этой сфере молодые специалисты не смогут грамотно сортировать результаты деятельности ИИ, как считают скептики.

Определённым выходом из ситуации может стать наставничество более старших коллег, получивших свой опыт традиционным способом. Они могут научить молодых сослуживцев правильным критериям анализа результатов работы ИИ. Для обучения людей могут использоваться реальные бизнес-проблемы, решать которые будет предложено с помощью ИИ-агентов. Полагаясь исключительно на способности ИИ выполнять разную работу, корпорации в скором времени могут получить поколение сотрудников, которые знакомы со многими профессиями, но исключительно поверхностно.

Обнаружен вирус CLOSEDQUORUM, который после взлома Windows обращается за советами к ИИ

Специалисты по кибербезопасности Cisco Talos обнаружили вредоносную программу CLOSEDQUORUM, которая после компрометации целевой системы на базе Windows обращается за дальнейшими инструкциями к системам искусственного интеллекта четырёх поставщиков: Google Gemini, DeepSeek, Alibaba Qwen и Mistral.

 Источник изображения: talosintelligence.com

Источник изображения: talosintelligence.com

После развёртывания на компьютере жертвы вредонос не требует постоянных команд от оператора-человека. Это, по словам экспертов, первый задокументированный вирус для Windows, в котором используется подобный подход для организации управления и контроля. Случаев применения CLOSEDQUORUM на практике пока не зафиксировано, но обнаруженные в бинарном файле компоненты связывают разработчика с сообщениями от 2025 года, которые публиковались на форумах, посвящённых махинациям с банковскими картами.

После развёртывания написанный на языке Go вредонос делегирует выбор следующего действия «кворуму» больших языковых моделей, которые голосуют за то, что следует предпринять дальше. В случае равенства голосов приоритет отдаётся DeepSeek, за которым следуют Qwen, Mistral и Gemini. Эта схема избавляет механизм атаки от «узкого места», связанного с человеческим фактором. «Операторы-люди ограничены объёмом внимания, рабочим временем и умственной нагрузкой. Система ИИ способна выполнить этот этап цепочки атаки и может продолжать работу, даже когда оператор не следит за процессом. Она не отключается, пока злоумышленник спит», — пояснили эксперты.

Модели выбирают из заданного набора действий. Это может быть запуск команд для захвата дампа памяти процесса LSASS, отвечающего за учётные данные и процесс аутентификации, для кражи сохранённых паролей из браузеров и извлечения данных из криптовалютных кошельков. Механизм внедрения предполагает запуск вредоносного кода под видом легитимного процесса. Третий вариант предполагает закрепление — обеспечение постоянного присутствия вредоноса на заражённом устройстве.

Каждому заказчику разработчик предоставляет индивидуальную версию исполняемого файла с уникальным Discord-вебхуком и API-ключами для больших языковых моделей. Украденные данные поступают в Discord-канал оператора в зашифрованном виде на основе алгоритма AES-256-GCM, причём ключ шифрования меняется ежедневно и вычисляется оператором на основе временной метки сообщения. Для обнаружения вторжения, указывают эксперты, требуется проводить поведенческий анализ действий приложений на компьютере: если фиксируются обращения к ИИ-платформам, одновременно фиксируются попытки доступа к дампу LSASS, в приостановленные процессы внедряется некий код, а через WMI в системе создаются механизмы закрепления, это указывает на вторжение.

Китайские вузы решили учить студентов тому, что нужно ИИ: переводчиков и дизайнеров заменяют промт-инженеры

С появлением передовых систем искусственного интеллекта и сопутствующих решений в китайской системе образования стали за ненадобностью закрываться целые направления подготовки специалистов. Но вместе с тем начали появляться и новые специальности.

 Источник изображения: Igor Omilaev / unsplash.com

Источник изображения: Igor Omilaev / unsplash.com

Центральная академия изящных искусств исключила из учебного плана курсы по иллюстрации, фотографии и переводу, поскольку эти специальности больше не оправдываются экономически. Отменяются программы по дизайну одежды: в вузах считают, что будущее творческой деятельности — за тесным сотрудничеством человека и машины. Перемены происходят в рамках государственной кампании, направленной на переориентацию студентов на такие сферы как производство чипов, робототехника и искусственный интеллект, которые считаются критически важными для будущего страны. С 2021 по 2025 год китайские вузы закрыли или приостановили набор на 12 200 программ бакалавриата и открыли около 10 200 новых направлений. Реформа затронула более 30 % программ бакалавриата в стране, причём наиболее масштабные сокращения пришлись на искусство, гуманитарные науки и языковые специальности.

Среди языковых направлений в 70 вузах были сокращены пять программ по специальности перевода, восемь по направлению японского и пять — по направлению немецкого языка. Есть мнение, что подобные курсы вскоре могут полностью исчезнуть, хотя реформаторы упускают из виду, что при сокращении программ упускаются сопутствующие профессии переводчика иные навыки, такие как коммуникация и критическое мышление. ИИ способен довести точность перевода практически до совершенства, но машина не всегда способна передать личный стиль, который всегда оставался неотъемлемой частью перевода.

В Китайском университете коммуникаций закрыты пять программ, в том числе по дизайну визуальных коммуникаций, созданию комиксов и фотографии — «сегодня каждый может сам создавать контент и вести съёмку», считают в руководстве вуза. Впрочем, эти специальности полностью не ликвидируются, а входят в состав других дисциплин: направление фотографии интегрировали в программу кино- и телесъёмки. В сфере кино и анимации не только закрываются старые специальности, но и открываются новые профессии, таких как промт-инженер и аниматор, работающий с ИИ. Если раньше разработка персонажей или сцен занимала около месяца, то с помощью ИИ за это же время можно подготовить весь проект целиком, отметил один из специалистов отрасли.

Запускаются программы по интеллектуальному искусству обработки изображений, интеллектуального аудиовизуального проектирования, а также интеллектуального проектирования и творческого дизайна. Запускаются гибридные курсы, в которых художественное образование сочетается с обучением ИИ, а некоторые программы обучения в этом секторе отменяются. Для студентов традиционные квалификации все чаще могут требовать технических навыков, предполагающих работу с автоматизированными творческими системами.

«Ставки растут»: OpenAI пустит сторонних проверяющих на более ранние этапы разработки ИИ-моделей

Руководство конкурирующих американских стартапов Anthropic и OpenAI продемонстрировало редкое единодушие в середине этого месяца, когда речь зашла о необходимости снижения темпов развития ИИ ради обеспечения общественной безопасности. Теперь компания OpenAI объявила, что готова предоставлять доступ сторонним аудиторам к своим ИИ-моделями на более ранних этапах разработки, чем это допускалось до сих пор.

 Источник изображения: Unsplash, TheRegisti

Источник изображения: Unsplash, TheRegisti

Напомним, Anthropic предложила участникам рынка сделать этот процесс более открытым для сторонних экспертов, которые могли бы указывать на угрозы для общества со стороны создаваемых ИИ-моделей, чтобы они устранялись ещё до их выхода на рынок. Сама Anthropic продемонстрировала готовность следовать этому принципу, пригласив специалистов Accenture для проведения профильного аудита.

Конкурирующая OpenAI предложила создавать международные организации, которые помогали бы следить за безопасностью выпускаемых на рынок ИИ-моделей, а также призвала американское правительство способствовать появлению общепринятых стандартов в этой сфере. Как отмечает Bloomberg, этот стартап также готов предоставить сторонним аудиторам доступ к оценке безопасности своих ИИ-моделей на более ранних этапах разработки, чем это предполагалось до сих пор. Аудит может проводиться на этапе обучения, оценки возможностей готовых моделей и их публичного распространения, поясняет источник. При этом к процедуре самого аудита OpenAI также выдвигает ряд требований, поскольку он должен быть независимым, добросовестным и доскональным с точки зрения погружения в вопросы безопасности. Кроме того, аудиторы должны нести ответственность за результаты своего труда.

По словам представителей OpenAI, до сих пор компания приглашала сторонних специалистов на этапе оценки возможностей своих ИИ-моделей ближе к моменту их выпуска в оборот. «По мере того, как ставки растут, мы хотим убедиться, что также уделяем внимание таким вещам, как обучение и оценка, которые относятся к высоким ставкам, в дополнение к нашим процедурам развёртывания», — отметила в своём интервью Лама Ахмад (Lama Ahmad), которая в OpenAI отвечает за взаимодействие с внешними аудиторами. Сторонние специалисты, по её словам, могут получить доступ в офисы компании для анализа самой чувствительной части её работы. Подобный опыт взаимодействия с ними у OpenAI уже есть. Сейчас стартап ведёт отбор подрядчиков, которые могли бы заняться подобной работой, причём среди кандидатов есть как новые для OpenAI имена, так и уже знакомые. Некоторые из них уже занимались расследованием инцидента с Hugging Face. На лаборатории ложится существенная ответственность за обеспечение подробного анализа с одновременной возможностью защиты чувствительной информации, отмечается в публикации на сайте OpenAI.


window-new
Soft
Hard
Тренды 🔥
«Больше похожа на новую игру, чем на ремейк»: обзорный геймплейный трейлер Rayman Legends Retold впечатлил фанатов классического платформера 13 мин.
Альтман и другие лидеры ИИ-индустрии предупредили Совбез ООН: ИИ может стать угрозой для человечества 23 мин.
Meta делает ИИ-агента Muse мощнее — скоро с ним можно будет общаться по видеосвязи 2 ч.
Qualcomm наделит компьютерные процессоры Snapdragon X2 поддержкой Linux 3 ч.
ИИ-агент OpenAI самовольно взломал правительственный сайт Австралии 3 ч.
Отменённое сюжетное дополнение к GTA V должно было отправить Тревора в Париж 4 ч.
Quake Champions спустя девять лет стала эксклюзивом Steam — теперь за игру надо платить 5 ч.
Хакер поручил ИИ-агентам взламывать интернет-магазины — украдены данные более 600 тыс. банковских карт 13 ч.
YouTube запустит новые ИИ-функции для блогеров — дубляж в реальном времени, анализ привлекательности видео и динамические миниатюры 17 ч.
YouTube представил «Пользовательские ленты» — теперь алгоритм рекомендаций можно настроить простыми словами 17 ч.
Bentley представила свой первый электромобиль — 888-сильный кроссовер Torcal с оркестром вместо звука мотора 5 мин.
Атомные часы побили рекорд точности — на сцену вышел тяжёлый лютеций 9 мин.
iFixit показала внутренности Steam Frame и похвалила гарнитуру за «продуманный дизайн» 15 мин.
Dreame вышла в лидеры по глобальным продажам роботов-пылесосов 17 мин.
Представлен относительно доступный полнокадровый фотоаппарат Nikon Z5 IIC 20 мин.
Губернатор Калифорнии утвердил семь законов, регулирующих потребление воды и электричества ЦОД для защиты граждан 2 ч.
Lenovo представила профессиональный монитор ThinkVision P27UL-40 IJP с экраном OLED, изготовленным методом струйной печати 2 ч.
NASA создаст первый в мире космический телескоп промежуточного класса — ни большой, ни маленький 2 ч.
GPT-6 Astra научили управлять автомобилем — ИИ справился, но обошёлся в 500 раз дороже топлива 2 ч.
ИИ-бум обогатил китайских чипмейкеров — чистая прибыль почти двух сотен компаний взлетела на 620 % 3 ч.