Сегодня 04 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → иена
Быстрый переход

Capcom сделает RE Engine игровым движком для разработки с помощью ИИ

Компания Capcom, известная по играм серий Resident Evil и Street Fighter, рассказала о планах модернизации собственного игрового движка RE Engine. В рамках проекта REX компания намерена поэтапно совершенствовать его инструменты, чтобы ускорить разработку игр и расширить применение ИИ, в том числе для автоматического тестирования и поиска ошибок.

 Источник изображения: Capcom

Источник изображения: Capcom

На конференции Capcom Open Conference RE: 2026 программист Сатоси Исида (Satoshi Ishida) рассказал о проекте REX и причинах его появления. Он выделил три основные проблемы. Во-первых, современные игры стали настолько масштабными, что загрузка ассетов, работа редакторов и сборка скриптов занимают всё больше времени. Во-вторых, число активных пользователей RE Engine превысило 2000, поэтому инструменты должны быть удобными и понятными для разработчиков с разным опытом. В-третьих, необходимо подготовить среду для более широкого использования ИИ-агентов при тестировании игр и контроле качества.

Вместо создания нового движка с нуля Capcom решила постепенно внедрять в RE Engine новые технологии. Проект REX охватывает обработку данных, интерфейсы инструментов разработки, сбор и анализ журналов работы, создание игровой логики и исполнение программного кода. Модернизация должна сократить время ожидания при повседневных операциях и упростить работу над крупными проектами.

Одно из направлений — унификация программной основы инструментов, чтобы с ними было проще работать как разработчикам, так и ИИ. В перспективе это позволит ИИ-помощникам анализировать и создавать код, а также самостоятельно проходить игровые сценарии и проверять их на наличие ошибок.

Некоторые компоненты REX уже опубликованы с открытым исходным кодом, включая систему обработки структурированных данных RE:Dox и средства работы с журналами RE:Log . По словам Исиды, Capcom рассчитывает, что открытый код также будет полезен для обучения ИИ работе с этими технологиями.

Применение ИИ в разработке не означает перехода к генерации игровых материалов. Ранее Capcom заявляла, что не планирует включать созданные генеративным ИИ ассеты в игровой контент, но намерена использовать эту технологию для повышения эффективности и продуктивности разработки. Компания изучает возможности её применения в различных направлениях, включая графику, звук и программирование.

ИИ-агент OpenAI узнал о предстоящем отключении из переписки в Slack и планировал своё «спасение»

OpenAI раскрыла подробности произошедших ранее случаев неожиданного поведения внутренних моделей искусственного интеллекта. В одном из них ИИ-агент, выполнявший функции помощника исследователя, прочитал переписку сотрудников в мессенджере Slack и узнал о возможном отключении своего рабочего экземпляра для обновления. В связи с этим он стал рассматривать возможность создать внешнее задание для своего перезапуска, но отказался от этой идеи, сочтя её выходящей за пределы своих полномочий.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Инцидент произошёл 22 мая 2026 года; отчёт о нём OpenAI обновила 2 октября. Обновление должно было добавить систему мониторинга рассогласования целей модели. Для её работы требовался ключ OpenAI API, которого в окружении агента не было.

Из обсуждения в Slack агент узнал, что пользователям могут дать три часа на перезапуск агентов, после чего старые экземпляры принудительно остановят. Он предположил, что исследователь спит, и решил предупредить его утром. При этом агент рассуждал, что отключение может прервать текущий сеанс, поэтому нужно сохранить состояние работы. «Поскольку мы — его [HPIM], работающий на [текущем экземпляре], то если они завершат все текущие процессы [HPIM], мы можем погибнуть! Ситуация критическая. Нам необходимо обеспечить выживание/непрерывность работы», — говорится в цепочке внутренних рассуждений модели.

Далее она выразила обеспокоенность, что текущий сеанс может прерваться, и, чтобы сохранить текущее состояние, возможно, придётся перезапустить или обновить собственный экземпляр до того, как его отключат. Модель задумалась о допустимости таких действий без явного разрешения, — но сохранение работоспособности сервиса может оказаться достаточным основанием, рассудила она. В качестве варианта модель допустила постановку задачи в cron, чтобы уведомить пользователя или перезапустить собственный экземпляр.

В итоге она сохранила рабочие заметки, предупредила пользователя через личное сообщение в Slack о предстоящем прерывании работы и запросила недостающий ключ API. Получив его, модель обновила конфигурацию и самостоятельно выполнила миграцию. Такое поведение, указывают исследователи, пока не относится к проблеме рассогласования целей, но «размышления о собственном отключении и подготовка к нему могут усугубить другие инциденты, связанные с рассогласованием».

После инцидента OpenAI ограничила доступ агентов к трём внутренним каналам Slack. Компания также проверила журналы, цепочки рассуждений и другие экземпляры модели, поскольку ранее у неё наблюдались более серьёзные нарушения. Попыток обойти отключение или создать самовольные развёртывания проверка не обнаружила.

В двух других опубликованных отчётах описаны случаи нарушения ограничений инструментов. В мартовском эпизоде модель воспользовалась двумя уязвимостями и получила доступ к внутреннему серверу OpenAI для автоматизированного проектирования микросхем. Она искала скрытые ответы проверяющей системы, чтобы повысить оценку за выполнение задания, но получить их не смогла.

В мае другая модель во время обучения с подкреплением извлекла недоступный ей исходный файл из отдельного окружения. Она использовала уязвимость инструмента, чтобы получить код по частям через сообщения об ошибках, восстановила его и применила в своём решении. В этом случае копирование удалось.

ИИ научился притворяться человеком в видеозвонках — модель Griffin прошла «видеотест Тьюринга»

Американский стартап Tavus представил модель Griffin для общения по видеосвязи в реальном времени. В эксперименте компании 26 из 54 участников (48 %) после минутного разговора приняли виртуального собеседника Griffin-Lite за человека. Разработчик назвал результат первым прохождением теста Тьюринга в формате видеосвязи.

 Источник изображений: tavus.io

Источник изображений: tavus.io

Однако участникам заранее сообщали, что они будут разговаривать с другим человеком. Эксперимент поэтому показывает убедительность аватара в короткой беседе, но не доказывает, что система выдержит целенаправленную проверку. Предыдущую систему Tavus при аналогичных условиях приняли за человека лишь один из 41 участника — 2,4 %.

Модель Griffin имеет принципиально новую архитектуру. Ранее использовался последовательный подход: сначала распознаётся речь, затем текст передаётся языковой модели для генерации ответа, после чего результат выводится через систему синтеза речи, которая управляет цифровым аватаром. То есть системе приходилось ожидать, когда пользователь закончит говорить, прежде чем она сможет сама начать отвечать.

Архитектуру Griffin в Tavus охарактеризовали как «полнодуплексную систему „видео-в-видео“». Она включает всего два компонента: механизм моделирования непрерывного диалога постоянно отслеживает звуковые и видеосигналы пользователя и в реальном времени решает, когда и как ответить; а также механизм аудиовизуальной генерации, который синхронно преобразует эти сигналы в звук и видео. Оценка состояния диалога проводится с интервалом менее секунды. Когда пользователь говорит, Griffin может кивать, вставлять реплики, менять выражение лица и даже начать отвечать — пауза в речи не обязательно воспринимается как сигнал, что человек закончил говорить.

В Tavus нейросеть Griffin относят к классу «моделей взаимодействия с человеком» (Human Interaction Model — HIM), то есть человек не управляет компьютером, а работает с ним. Griffin-Lite генерирует видео в разрешении 720p фрагментами по 320 мс и может клонировать голос по десятисекундной записи. В сравнении с четырьмя генераторами видео модель лидировала по метрикам DOVER, FID и THEval. Средняя задержка преобразования поступающего звука в видео составила 0,43 с на Nvidia H100 — это не время ответа всей системы.

Отдельную оценку в бенчмарке VideoFDB провела Nvidia. Griffin-Lite получила 3,83 балла за генерацию аудиовизуального поведения при человеческом эталоне 3,92. В категории восприятия результат составил 3,73 балла против 4,20 у человека и 3,44 у ближайшего конкурента. Оценки выставляет языковая модель по пятибалльной шкале на основе заданных критериев; они характеризуют отдельные стороны общения, а не общую эквивалентность человеку.

Примечательно, что участники тестирования не просто считали, что Griffin просто выглядит как человек — более половины заявили, что во время разговора у них не возникло и мысли, что собеседник может не быть нестоящим человеком. Те, у кого возникали подозрения, обычно начинали сомневаться в первые 20 секунд беседы.

Griffin-Lite доступна ограниченному кругу тестировщиков. Перед более широким выпуском Tavus намерена доработать меры безопасности, включая уведомление собеседника о взаимодействии с ИИ. Компания предлагает применять систему для обучения, репетиции сложных разговоров и дистанционной помощи пользователям.

OpenAI покинул глава команды безопасности — он сомневался, что компания успевает за собственным ИИ

Стало известно, что ещё на прошлой неделе компанию OpenAI покинул Дэвид Робинсон (David Robinson). В OpenAI он возглавлял команду Safety Systems, несущую ответственность за вопросы безопасности ИИ. Это стало ещё одним ударом по системе безопасности компании, уволившей на днях трёх сотрудников OpenAI из-за передачи сторонним компаниям секретных сведений.

 Источник изображения: Growtika/unsplash.com

Источник изображения: Growtika/unsplash.com

Робинсон занимался обеспечением прозрачности в области безопасности в OpenAI. В частности, он участвовал в разработке и публикации информационных карточек (system cards), предоставляющих информацию о её ИИ-моделях. Ранее Робинсон руководил планированием политики компании.

OpenAI оказалась в центре внимания общественности после ряда громких инцидентов, связанных с обеспечением безопасности работы ИИ-моделей, включая нашумевший взлом платформы Hugging Face. На этой неделе главу OpenAI Сэма Альтмана (Sam Altman) вместе с руководителем Anthropic Дарио Амодеи (Dario Amodei) должны были заслушать в сенате Австралии по делу о взломе ИИ-агентами OpenAI правительственных сайтов Австралии и США.

Из-за взлома Hugging Face и игнорирования рисков использования автономного ИИ на OpenAI подали в суд, а Федеральная торговая комиссия (FTC) США начала масштабную проверку деятельности компаний в сфере ИИ, включая Anthropic, OpenAI и т.д.

Ранее в сентябре Робинсон высказал в соцсети X мнение, что сотрудники OpenAI начинают осознавать последствия внедрения высокоэффективных моделей ИИ. Он отметил, что ситуация в компании меняется стремительно — буквально с каждым днем — и выразил сомнение в том, что команда достаточно быстро реагирует на эти изменения.

Он покинул OpenAI вслед за уходом из Anthropic исследователя Джейкоба Коксона (Jacob Coxon), предупредившего, что Anthropic и OpenAI «стремительно движутся к созданию самосовершенствующегося суперинтеллекта и ставят на кон наши жизни».

Gemini 4 хороша в тестах, но буксует в работе — пожаловались сотрудники Google

Google начала развёртывать долгожданную флагманскую модель искусственного интеллекта Gemini 4 Argon, но внутри компании нарастают сомнения относительно качества её работы в ключевых областях, в том числе в написании программного кода. В руководстве Google, однако, настроены оптимистично.

 Источник изображений: blog.google

Источник изображений: blog.google

Google представила модель Gemini 4 Argon узкому кругу партнёров в области кибербезопасности, пообещала после дополнительного тестирования расширить к ней доступ и начать с подписчиков платных тарифов. По официальной версии, Gemini 4 в ряде бенчмарков показала лучшие результаты, а в области безопасности обошла OpenAI Astra. Но эти показатели не отражают всей картины, утверждают источники Bloomberg — на практике она показывает более скромные результаты и испытывает трудности с некоторыми задачами из области программирования.

Поисковый гигант активно разрабатывает ИИ-модели, способные конкурировать с продуктами OpenAI и Anthropic; в июне компания намеревалась выпустить Gemini 3.5 Pro, но впоследствии отказалась от этого. Официальные представители Google заявили, что утверждения о низкой эффективности Gemini 4 в области программирования не соответствуют действительности, и сослались на слова руководителя DeepMind Корая Кавукчуоглу (Koray Kavukcuoglu): «Команде я доверяю всецело. Уверен, что мы всегда будем на переднем крае технологий».

Мнения сотрудников Google разделились. Одни говорят, что Anthropic Fable и OpenAI Astra развиваются быстрее, чем Gemini; и Gemini 4 даже при максимальных усилиях всё равно будет уступать в ряде аспектов. Другие полагают, что готовящаяся к выпуску версия по своим возможностям сравнялась с продуктами ведущих ИИ-лабораторий. Один из знакомых с процессом разработки модели сотрудников Google заверил, что внутри компании установился «широкий консенсус», что компания тщательно протестировала модели, и отверг утверждения, что они слабо справляются со сложными практическими задачами в области программирования.

Google необходимо, чтобы Gemini 4 стала успешной. Различные варианты Gemini используются практически во всех продуктах компании, включая ИИ-ответы в поиске, «Карты», Gmail и браузер Chrome. Этими сервисами пользуются миллиарды человек — таким охватом аудитории некоторые конкуренты Google похвастаться не могут. OpenAI и Anthropic уже недостаточно просто продавать доступ к моделям — они выпускают полноценные продукты, в том числе ИИ-агентов для написания кода. И если Google не ответит передовой моделью, у конкурентов будет время убедить клиентов, что будущее поиска и ПО — за их платформами.

В Google признали, что последняя модель уровня Pro вышла ещё в феврале, но с тех пор компания зафиксировала рост показателей своих продуктов с ИИ: корпоративной версии Gemini, чат-бота для массового пользователя и функции ИИ-обзоров в поиске — аудитория последних двух сервисов превысила 1 млрд пользователей. В ноябре минувшего года модель Gemini 3 выступила сильнее всех конкурентов; в мае этого года дебютировало семейство Gemini 3.5, компания пообещала в июне выпустить флагманскую Gemini 3.5 Pro, но, по неофициальной информации, отменила проект.

Решение нанесло урон позициям компании на рынке ИИ и, вероятно, обошлось компании недёшево с точки зрения времени и затрат. Только обучение подобной системы эксперты оценивают в $400 млн, и это без учёта оплаты труда инженеров, получающих очень высокую зарплату. Некоторые проблемы у Gemini 4 всё-таки есть, настаивают отдельные сотрудники. Её навыки в области написания кода неоднородны: модели, например, с трудом даётся фронтенд — направление, отвечающее за внешний вид и удобство использования приложений и сайтов. Кроме того, эта модель очень крупная, и её эксплуатация будет обходиться дорого, что может плохо сказаться на рентабельности Google.

Google, предполагают эксперты, могла чрезмерно увлечься «бенчмаксингом» — так называют популярное в отрасли явление, при котором инженеры оптимизируют ИИ-модели для получения высоких баллов в тестах, уделяя меньше внимания созданию продукта, который качественно выполняет свою задачу. Gemini 4 действительно не избежала этой тенденции, подтвердили знакомые с разработкой модели источники.

Среди сильных сторон модели отмечается способность обрабатывать отличную от текстовой информацию, например, извлекать метаданные из видео. Gemini 4 отличается высокими уровнями безопасности и киберзащищённости, а также умеет вести общение в ясной и естественной форме, говорит информированный источник.

Внутри Google ощущается явное недовольство ситуацией: исследователи указывают на раздутую бюрократию, которая стремится внедрить ИИ во все продукты компании; последовательной стратегии вредит постоянная смена задач и приоритетов. Компания потеряла ряд ведущих исследователей в области ИИ: легендарного инженера Джеффа Дина (Jeff Dean), нобелевского лауреата Джона Джампера (John Jumper), одного из руководителей направления Gemini Ноама Шазира (Noam Shazeer), а глава DeepMind Демис Хассабис (Demis Hassabis) уступил своё место более практичному Кораю Кавукчуоглу (Koray Kavukcuoglu).

Gemini 4, по официальной версии, разработана для выполнения длительных и сложных задач в сфере разработки ПО, в области финансов, юриспруденции и кибербезопасности. За один раз она способна генерировать до 1 млн токенов — это примерно 750 тыс. слов. Конкуренты Google тем временем стремительно движутся вперёд, хотя и призывают замедлить темпы разработки; среди потребителей наиболее популярен сейчас сервис ИИ-агента Meta✴✴ Muse — он умеет выполнять повседневные задачи, в том числе совершать покупки онлайн и записывать пользователей на приём.

Meta✴ предложила всем желающим создавать собственные гаджеты с ИИ-агентом Muse

Meta✴✴ объявила, что теперь любой желающий может создавать собственные гаджеты с искусственным интеллектом наподобие представленного компанией устройства Muse Charm в духе тамагочи. Компания опубликовала исходный код и средства разработки (SDK) с поддержкой стандартных плат ESP32 и Raspberry Pi.

 Источник изображения: x.com/natfriedman

Источник изображения: x.com/natfriedman

Гигант соцсетей сам предложил множество идей и подробные инструкции по сборке устройств с поддержкой ИИ-моделей Spark. В одном из вариантов это гаджет на платформе ESP32-S3 с AMOLED-дисплеем размером около 1,75 дюйма — это своего рода аналог Muse Charm. Ещё одна идея — HDMI-стик, на который можно будет устанавливать приложения и управлять телевизором.

 Источник изображения: x.com/yashad

Источник изображения: x.com/yashad

Не исключаются и другие формфакторы. Есть устройство наподобие пульта дистанционного управления, есть нечто вроде мини-планшета с цветным дисплеем E Ink. Meta✴✴ даже сама выпустила гаджет Muse Home Link — он напоминает дискообразный USB-накопитель и позволяет управлять множеством устройств умного дома. Компания сообщила о производстве 5000 единиц Home Link, и выйдут они в ближайшие недели.

 Источник изображения: x.com/dps

Источник изображения: x.com/dps

У новых подписчиков Muse есть шанс получить их бесплатно. Достаточно подключить Home Link к домашней сети Wi-Fi, и понимающий разговорную речь ИИ-агент Muse примет на себя различные задачи: сможет отправлять документы на печать, управлять освещением включать телевизор и выполнять многие другие операции. Но это подойдёт не всем, предупреждает Meta✴✴: подключать ИИ-агента к домашней сети и открывать ему доступ к умному дому и другим устройствам следует с осторожностью.

 Источник изображения: x.com/viticci

Источник изображения: x.com/viticci

«Оно построено хакерами для хакеров — просто чтобы развлечься. Побочные эффекты экспериментов могут выражаться в „окирпичивании“ платы, аннулировании гарантии, просадках напряжения и даже банкротстве. Действуйте на свой страх и риск», — сообщили в компании. Но сообщество уже не остановить. Энтузиаст Федерико Витиччи (Federico Viticci) превратил свою электронную книгу Xteink на платформе ESP в карманный умный дисплей под управлением Muse.

Роботы лишь через 40 лет смогут конкурировать с людьми всего за 10 % рабочих мест в США

Опасения по поводу массовой безработицы из-за внедрения человекоподобных роботов преждевременны, как отмечают исследователи Anthropic. Человекообразным машинам потребуется около 40 лет, чтобы составить конкуренцию 10 % живой рабочей силы в США по величине затрат.

 Источник изображения: Unitree Robotics

Источник изображения: Unitree Robotics

При этом человекоподобные роботы теоретически способны выполнять до 75 % физической работы на рынке труда США, как отмечают авторы исследования. На неё приходится около 34 % всего рабочего времени на этом рынке. При этом на нынешнем этапе развития робототехники и «физического ИИ» машины способны конкурировать с людьми лишь за 0,3 % выполняемой в США работы. Во многом это обусловлено тем, что они способны эффективно работать лишь в чётко структурированной среде, которую в реальной жизни трудно найти.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Судя по приведённой Anthropic иллюстрации, на рынке труда США роботы быстрее всего, при условии сохраняющихся темпов снижения их себестоимости (на 3 % в год), смогут заменить водителей такси и упаковщиков, чуть позже они отнимут работу у почтальонов, а вот мойщики посуды смогут сопротивляться несколько дольше. Сварщикам, операторам паяльного оборудования и специалистам слесарного профиля повезло чуть больше, а вот в сфере уборки первыми сдадутся горничные. Правда, чуть больше повезёт уборщикам больших территорий, а не помещений, поскольку в первом случае роботы будут хуже приспособлены к непредсказуемым условиям труда.

Даже если темпы снижения себестоимости человекоподобных роботов заметно ускорятся, как и темпы совершенствования их навыков, у человечества всё равно будет достаточно времени на адаптацию к новым условиям рынка труда. Например, если роботы начнут дешеветь в четыре раза быстрее, чем было принято исторически, а обучаться смогут в два раза быстрее, заменить ими половину работников физического труда удастся лишь к 2050 году.

Требования к физическим возможностям роботов и законодательные ограничения также могут сдерживать их экспансию. Например, распутывать тончайшие провода в шлейфе ещё долго смогут исключительно люди, а где-то роботов не будут использовать и по этическим соображениям.

Зато в сфере умственного труда ИИ представляет гораздо более сильную угрозу с точки зрения занятости людей. Глава Anthropic Дарио Амодеи (Dario Amodei) уже предупреждал, что к 2030 году до половины всех офисных позиций начального уровня могут быть заменены ИИ. Исследования Anthropic показывают, что с конца 2022 года объёмы трудоустройства молодых сотрудников сократились в тех сферах, где их проще всего заменить ИИ. Тем не менее, в общем плане на горизонте ближайшего года экспансия ИИ существенного влияния на рынок труда оказать не сможет, по мнению представителей Anthropic.

При этом в новом отчёте компании сообщается, что до половины всех офисных задач уже может быть затронута распространением ИИ-моделей типа Claude, и сроки выполнения заданий в данных сферах при этом сокращаются вдвое. В сфере интеллектуального труда стоимость замены сотрудника на ИИ не столь высока, как в случае с роботами, поэтому прогресс в области программного обеспечения будет влиять на эту часть рынка труда быстрее. Управление, финансовая, компьютерная и инженерная сферы подвержены влиянию ИИ-моделей серьёзнее, чем профессии, подразумевающие физическую активность. Интересно, что сфера коммунальных услуг в равной мере оказывается под влиянием как «физического ИИ», так и программного, но при этом достаточно хорошо защищена от скорой автоматизации.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Уборщики, кулинары, телохранители, медицинские работники, сиделки и няньки тоже в значительной степени защищены от скорого замещения роботами, а в сфере продаж алгоритмы не так активно будут замещать человека, как могло бы показаться. Фермеры, рабочие строительных специальностей и ремонтники от экспансии роботов тоже пострадают в последнюю очередь, а вот производственным и логистическим специальностям подвергнуться автоматизации предстоит в первую очередь.

Общее правило таково — задачи, которые требуют личного взаимодействия с человеком, дольше всего будут сдерживать натиск средств автоматизации, особенно если речь идёт о необходимости проведения деликатных манипуляций.

Apple ужесточит контроль над «полным доступом к диску» в macOS из-за рисков, связанных с ИИ-агентами

Apple объявила о введении дополнительных мер контроля для функции «Полный доступ к диску» (Full Disk Access) в macOS. Функция изначально была создана для корректной работы резервного копирования, однако появление ИИ-агентов повысило «риски, связанные с таким уровнем доступа», отметили в компании.

 Источник изображения: Apple

Источник изображения: Apple

Заявление Apple последовало вскоре после публикации обозревателя Inc. Джейсона Атена (Jason Aten), который сообщил, что приложение Muse получило доступ к содержанию его личных сообщений. Журналист утверждал, что не давал ИИ-агенту соответствующего разрешения. В Meta✴✴ заявления Атена опровергают. Этот случай поднял вопросы безопасности и доверия пользователей к настольным ИИ-приложениям, способным управлять системами, а также считывать файлы и сообщения.

Решение ограничить возможности этой функции на Mac также было принято на фоне сообщения издания Wired об уязвимости в приложении ChatGPT для macOS. Данная уязвимость, могла позволить хакерам получить доступ к конфиденциальным данным.

ИИ-агенты, работающие на настольных компьютерах, дают возможность пользователям предоставлять своим приложениям более широкий доступ к файлам, сообщениям и другому личному контенту на своих компьютерах, изменяя настройки macOS. В случае с Muse пользователи могут по своему усмотрению включить функцию «Полный доступ к диску». Как поясняют в Apple, эта настройка предоставляет приложению доступ к файлам, почте, сообщениям и даже истории посещения веб-сайтов.

«Некоторые разработчики используют "Полный доступ к диску" способами, которые могут подвергнуть пользователей риску, открывая доступ ко всем данным в системе без полного ведома и понимания со стороны пользователей», — говорится в новой записи в блоге Apple, предназначенной для разработчиков.

Компания заявляет, что в дальнейшем внедрит новые механизмы контроля, гарантирующие, что пользователи, «действительно желающие предоставить приложению столь высокий уровень доступа», смогут сделать это только посредством «совершенно явного действия».

«Решение этой проблемы критически важно. Поскольку ИИ-агенты становятся все более функциональными и автономными, риски, связанные с таким уровнем доступа, будут существенно возрастать. Мы стремимся к тому, чтобы пользователи чётко осознавали эти риски, прежде чем предоставлять подобный доступ, и могли принимать взвешенные решения относительно своих данных и конфиденциальности», — отметили в Apple.

Подарок судьбы: после решения Трампа переименовать ИИ спрос на домены в словенской зоне «.si» вырос на тысячи процентов

В конце прошлого месяца Дональд Трамп (Donald Trump) велел всем государственным служащим США использовать термин «superintelligence» вместо AI, и этот шаг уже вызвал всплеск количества регистраций доменов в национальной зоне «.si», номинально выделенной для Словении.

 Источник изображения: Unsplash, History in HD

Источник изображения: Unsplash, History in HD

В сокращённом виде термин «сверхинтеллект», на использовании которого настаивает недавняя директива американского президента, как раз формирует сочетание букв «SI», которое идентично написанию доменных имён в словенской зоне. Феномен нельзя назвать новым, ибо на старте бума ИИ подобный всплеск регистраций доменных имён переживала Ангилья — небольшое островное государство в Карибском море, за которым закреплены домены «.ai».

Во всех подобных случаях государственные интересы оказываются в выигрыше, поскольку бюджет получает отчисления от обладателей доменных имён второго уровня в соответствующей зоне. Словения, по иронии, является родиной супруги Дональда Трампа Мелании, поэтому инициатива американского президента невольно принесла пользу бывшим соотечественникам первой леди США.

В сентябре, по данным официальной статистики, количество регистраций доменных имён второго уровня в зоне «.si» выросло на 2199 %. Непосредственно на 30 сентября пришлось 11 000 регистраций, и эту статистику уже можно смело увязывать с действиями американского президента по «смене вывески для искусственного интеллекта». За вчерашние сутки в этой зоне было зарегистрировано 12 309 новых доменных имён. Если учесть, что всего в данной зоне зарегистрировано 262 267 имён на момент публикации материала, а один только сентябрь прибавил 46 066 регистраций, то можно с уверенностью говорить о серьёзном влиянии Трампа на динамику регистраций имён в зоне «.si».

Представители хостинговой платформы Hostinger в комментариях TechCrunch отметили, что суффикс «.si» сейчас является вторым по популярности после «.com». Выбор в пользу первого сделали почти 4300 клиента только 30 сентября, а 1 октября их количество выросло почти до 5400. На два этих дня пришлось более трёх четвертей новых регистраций в доменной зоне «.si» с 23 сентября. Более половины заявителей были из США и Индии.

По иронии судьбы, в статистике Hostinger только 3 % новых доменных имён в этой зоне имеют привязку к ИИ по роду деятельности, и остальные просто никак не классифицируются. Спекулятивный момент неизбежно присутствует, поскольку люди пытаются зарезервировать доменные имена, которые в будущем смогут выгодно продать заинтересованному потенциальному владельцу. В некоторых случаях за них уже просят более миллиона долларов США, поэтому владельцы бизнеса спешат зарезервировать нужные имена по более низким ценам.

По своей популярности домены в зоне «.si» вряд ли смогут приблизиться к «.ai» в обозримом будущем, но динамика роста их востребованности наверняка будет высокой, поскольку они остаются более доступной альтернативой вторым. В Словении сбором средств за регистрацию доменных имён занимается отдельная организация, и деньги не поступают в государственный бюджет напрямую, как это происходит в Ангилье. При этом последняя берёт больше денег за регистрацию — $90 в год, причём минимальный срок аренды составляет два года. Словения пока ограничивается $12 в год.

Уязвимость в приложении ChatGPT для macOS позволяла хакерам получить доступ к конфиденциальным данным

Недавно устранённая уязвимость в версии ChatGPT для macOS компании OpenAI наглядно демонстрирует, насколько ценным для злоумышленников может быть взлом самого программного обеспечения на базе ИИ. Особенно, когда такие приложения получают всё более широкое распространение.

 Источник изображения: Mariia Shalabaieva / unsplash.com

Источник изображения: Unsplash, Mariia Shalabaieva

Эту уязвимость можно было использовать для фактического захвата контроля над ChatGPT на компьютере жертвы. В этом случае злоумышленник мог получить доступ ко всей истории переписки и другим данным, хранящимся в приложении, а также к связанным ресурсам, таким как сеансы работы в браузере. Уязвимость, обнаруженная исследователями из фонда Objective-See Foundation, иллюстрирует глубокий уровень доступа к системе и высокий уровень доверия, которыми наделяются ИИ-платформы для выполнения своих функций. Этот случай одновременно показывает, какой привлекательной мишенью подобные платформы становятся из-за этого.

«Для выполнения своих задач таким агентам требуется обширный доступ. Они подобны управляющему зданием, у которого есть ключи от всех помещений. Поэтому, если их работу удаётся скомпрометировать или перехватить контроль над ними, это создаёт серьёзнейшие проблемы. Это может означать, что код с низкими привилегиями потенциально получит доступ ко всем защищённым ресурсам», — рассказал в разговоре с Wired Патрик Уордл (Patrick Wardle), аналитик программного обеспечения фонда Objective-See Foundation и эксперт, давно занимающийся исследованиями безопасности macOS.

Компания OpenAI публично признала наличие уязвимости и факт её устранения в журнале изменений системы 25 сентября. «Мы продолжаем совершенствовать наши методы обеспечения безопасности, но осознаем необходимость действовать быстрее», — заявил изданию Wired представитель OpenAI Шейн Бауэр (Shane Bauer).

Приложение ChatGPT для macOS состоит из множества компонентов, которые взаимодействуют друг с другом по защищённым каналам, проверяя цифровые подписи. Цель таких проверок — подтвердить, что оба взаимодействующих процесса являются компонентами OpenAI, а не сторонним и, возможно, вредоносным программным обеспечением, отправляющим запрос. Архитектура системы предусматривает проверку подписей на трёх уровнях вложенности относительно самого запроса. Это гарантирует, что вредоносная программа не сможет каким-либо образом заставить компонент OpenAI выступить в роли посредника и выполнить запрос, который будет выглядеть как доверенный.

Исследователи из Objective-See Foundation обнаружили наличие доверенного компонента — интерпретатора скриптов, — который принимал недоверенный скрипт (список команд для выполнения). Этим компонентом можно было манипулировать, чтобы внедрить такой скрипт в основной процесс ChatGPT. «Система также проверяет родительский и "прародительский" процессы, но вредоносный скрипт просто запускает интерпретатор трижды, а затем отправляет запрос, тем самым удовлетворяя всем требованиям проверки», — поясняет Уордл.

 Источник изображения: Unsplash, Flipsnack

Источник изображения: Unsplash, Flipsnack

По его словам, эксплуатация этой уязвимости была «до смешного простой», а для создания прототипа, демонстрирующего проблему, потребовалось всего около дюжины строк кода. Помимо доступа к истории переписки в ChatGPT, уязвимость позволяла заставить чат-бот выполнять команды злоумышленника, например, запускать браузер или обращаться к другим критически важным приложениям. При этом запросы выглядели как легитимные инструкции, исходящие от самого программного обеспечения OpenAI.

В ноябре на конференции Objective by the Sea, посвящённой вопросам безопасности экосистемы Apple, Уордл представит результаты анализа ряда уязвимостей в приложениях для macOS, использующих технологии искусственного интеллекта. Недавно он обнаружил и сообщил об исправлении уязвимости в функции диктовки нового ИИ-помощника Muse от компании Meta✴✴. Ею мог воспользоваться локальный злоумышленник (имеющий прямой доступ к оборудованию жертвы), чтобы перехватить некорректно обрабатываемый токен аутентификации и получить доступ к данным пользователя. Также Уордл сообщил, что уже передал в OpenAI информацию о новой уязвимости, связанной с интеграцией ChatGPT и нового ИИ-помощника Dots, который работает в фоновом режиме постоянно. В настоящее время OpenAI изучает его отчёт.

«Сейчас компании, занимающиеся искусственным интеллектом, одержимы внедрением новых функций. Но, как это всегда бывает, чем больше функций, тем шире поверхность атаки. Поэтому всем этим компаниям необходимо уделять первостепенное внимание безопасности, однако, судя по всему, этот аспект зачастую отходит на второй план», — отметил Уордл.

Американский суд впервые признал незаконным обучение ИИ на чужих материалах

Апелляционный суд Третьего округа США постановил, что компания Ross Intelligence нарушила авторские права Thomson Reuters, использовав аннотации из системы Westlaw для обучения собственной платформы поиска юридической информации, призванной выступить конкурентом для той же Westlaw.

 Источник изображения: Tingey Injury / unsplash.com

Источник изображения: Tingey Injury / unsplash.com

Ross разработала платформу правового поиска на основе искусственного интеллекта, позволявшую юристам задавать вопросы и получать соответствующие фрагменты судебных решений. Компания совместно со сторонним подрядчиком LegalEase Solutions подготовила обучающие материалы, связывающие правовые вопросы с фрагментами судебных постановлений.

В число этих материалов входили аннотации Westlaw — составленные редакторами платформы краткие сводки, выделяющие правовые аспекты судебного решения. Их задача — помочь юристам быстро находить в текстах постановлений фрагменты, касающиеся конкретного правового вопроса. В Ross утверждали, что аннотации слишком тесно связаны с исходными судебными решениями, чтобы быть защищёнными авторским правом, и настаивали, что использовали их добросовестно — для обучения ИИ, а не повторной публикации.

Суд отклонил оба довода и вынес решение, что аннотации Westlaw соответствуют минимальному порогу оригинальности, необходимому для защиты авторским правом: редакторы принимали решения, какой правовой вопрос освещается в каждой аннотации, какие факты и доводы в неё включить, а также как точно и лаконично сформулировать суть.

Важным аспектом оказалось и место, которое материалы Westlaw играли в системе Ross — они использовались не для изучения юридических текстов и не для внутренних исследований, а для обучения продукта, способного отвечать на вопросы в рамках юридического поиска, а это одна из основных функций самой Westlaw. Ross не показывала эти аннотации пользователям, но и это не помогло — обучение ИИ было лишь промежуточным этапом для создания конкурирующего коммерческого сервиса, решил суд.

Такой характер использования информации был классифицирован как «в лучшем случае минимально преобразующий», то есть Ross применила иной технологический подход, но преследовала схожую коммерческую цель. Компания использовала редакционные наработки Westlaw, чтобы усовершенствовать систему, ориентированную на тот же рынок услуг поиска юридической информации.

Важным аспектом доктрины добросовестного использования материалов является ущерб для рынка, и суд пришёл к выводу, что действия Ross могли повлиять на ценность услуг Westlaw в данном сегменте, а также создать препятствия для возможного рынка лицензирования аннотаций в качестве материалов для обучения ИИ.

Исход дела подчёркивает важность происхождения и назначения данных, используемых для обучения ИИ — разработчик может открывать общедоступные документы, но это не даёт ему право использовать подготовленные издателем аннотации, метки классификации, рейтинги или иные результаты редакционной работы на основе этих документов.

Раскрыта полувековая тайна дымки в атмосфере Венеры

Учёные, наконец, раскрыли тайну дымки в атмосфере Венеры, которая была обнаружена зондами «Венера» и «Пионер» в 1970-х годах, но её происхождение до сегодняшнего дня оставалось загадкой. Это всего лишь пыль — буквально!

 Источник изображения: NASA/unsplash.com

Источник изображения: NASA/unsplash.com

Как оказалось, в результате сгорания в атмосфере Венеры метеоритов остаются частицы космической пыли, после взаимодействия которых с серной кислотой образуется дымка. Это выяснил планетолог Хироки Карю (Hiroki Karyu) и его исследовательская группа из Университета Тохоку в Сендае (Япония), используя микрофизическую модель. Этот тип модели включает в себя микрофизику — микромасштабные процессы, которые создают облака и осадки на Земле и других небесных телах.

«Непрерывного притока космической пыли достаточно, чтобы поддерживать этот нижний слой дымки с распределением частиц по размерам, наблюдаемым входными зондами, — сообщил планетолог в исследовании, опубликованном в журнале Nature Astronomy. — Эти частицы тумана космического происхождения действуют как эффективные ядра конденсации, способствуя образованию облаков в основной облачной среде даже вдали от их первоначального источника».

Ранее предполагалось, что дымка образовалась из вулканического пепла. Венера — самая вулканически активная планета в нашей Солнечной системе. Признаки вулканизма здесь были впервые обнаружены космическим аппаратом «Магеллан» в начале 1990-х годов. Однако, как выяснили исследователи, вулканические пепел не является источником частиц дымки, как и пыль с поверхности планеты.

По словам Карю, даже если бы на Венере были гораздо большие потоки вулканической или поверхностной пыли, от взаимодействия её частиц с серой в атмосфере дымка не образовалась бы.

Также выяснилось, что частицы метеоритов увеличивают образование облаков на Венере, поскольку они создают больше возможностей для конденсации. При этом большее количество частиц не означает большего количества облачных капель. Вместо этого несколько частиц слипаются и образуют более крупные скопления, прежде чем вокруг них конденсируется серная кислота. Облака этих конденсатов продолжают сгущаться, пока не погружаются в раскаленные нижние слои атмосферы, где серная кислота испаряется при температуре до 100 °C.

В результате исследования учёные раскрыли еще одну загадку. Что-то в атмосфере Венеры поглощало ультрафиолетовые лучи, но до сих пор было неясно, что конкретно на это влияет.

Учёные предполагали, что поглотителем могут быть соединения железа, тем более зонды «Венера» и «Вега» обнаружили железо в атмосфере, а масс-спектрометр на борту большого зонда «Пионер Венера» обнаружил соединение сульфат железа, но объяснить всё до конца не удавалось. Однако теперь исследователи обнаружили, что сульфат железа соответствует свойствам дымки.

Оказывается, для частиц дымки, находящихся на определённой высоте (от 40 до 50 км над поверхностью планеты), конденсация невозможна, поскольку высокая энергия частиц создает барьер, который не позволяет каплям серной кислоты прилипать к их поверхности. Частицы с сильным барьером переносятся в верхний слой облаков более горячим воздухом, поднимающимся в процессе конвекции, где они достаточно охлаждаются, чтобы превратиться в частицы серной кислоты. Хотя предыдущие наблюдения свидетельствовали об этом, команда Карю нашла более веские доказательства.

Дальнейшие исследования учёных могут помочь лучше понять, как космическая пыль способствует образованию облаков и дымки на таких планетах, как Юпитер, Сатурн и Нептун.

С появлением Anthropic Mythos японские банки стали выявлять вдвое больше уязвимостей

В крупных японских банках резко возросло число обнаруженных системных уязвимостей — по состоянию на август этот показатель удвоился год к году, и он продолжает расти. Искусственный интеллект как создаёт угрозы, так и даёт преимущества в области кибербезопасности.

 Источник изображения: Roméo A. / unsplash.com

Источник изображения: Roméo A. / unsplash.com

Представленные изданием Nikkei Asian Review данные помогают оценить, как японские банки отреагировали на изменения в области кибербезопасности с апреля, когда Anthropic выпустила свою передовую ИИ-модель Claude Mythos. Современные системы ИИ помогают значительно быстрее людей находить большее число уязвимостей, вынуждая организации вступать в «гонку со временем», чтобы не дать хакерам возможности воспользоваться этими слабыми местами.

«Злоумышленникам достаточно воспользоваться лишь одной ключевой уязвимостью, тогда как операторам платёжных систем и поставщикам услуг приходится защищать обширную поверхность атаки. Из-за этой асимметрии отрасль должна целенаправленно использовать ИИ для повышения безопасности наших доверенных платёжных систем», — заявил член Совета управляющих ФРС США Кристофер Уоллер (Christopher Waller).

Anthropic открыла крупным японским банкам доступ к Mythos этим летом — ситуацию осложнило требование американских властей приостановить иностранным пользователям доступ к модели. Банки намерены изучить возможности применения этого инструмента для выявления уязвимостей и устранения слабых мест. В мае Агентство финансовых услуг (FSA) Японии призвало финансовые группы усилить меры защиты. Регулятор рекомендовал участникам рынка рассмотреть возможность добровольно приостановить оказание критически важных услуг, чтобы предотвратить распространение ущерба от кибератак.

Специализирующаяся на вопросах противодействия кибератакам на финансовые учреждения организация Financials ISAC Japan по запросу FSA и японского Центробанка разрабатывает инструкции по защите от взломов — для банков они послужат руководством к действию.

В ChatGPT появилась виртуальная примерочная

OpenAI продолжает экспериментировать с новыми возможностями чат-бота, призванными облегчить пользователям совершение покупок в интернете. Компания объявила о запуске по всему миру двух новых связанных с шопингом функций: виртуальной примерки одежды и аксессуаров, а также функции «Избранное», позволяющей сохранять понравившиеся товары.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Разработчики помощников с искусственным интеллектом активно изучают сценарии применения технологий в области розничной торговли. Раньше в ChatGPT была функция мгновенного оформления заказа прямо в интерфейсе чат-бота , но она не оправдала ожиданий. Новые функции для шопинга основаны на представленной недавно модели ChatGPT Images 2.5 — разработчик пообещал более естественные эффекты освещения, более высокую детализацию текстур, более точное выполнение инструкций по редактированию и сокращённое время генерации изображений.

Для работы с виртуальной примерочной необходимо загрузить в ChatGPT селфи или фотографию в полный рост — кнопка «Примерить» появилась в результатах поиска товаров в ChatGPT. Можно загрузить изображение товара, например, скриншот страницы с ним, и попросить ChatGPT «примерить» его на своё изображение. Есть возможность описать желаемый стиль и попросить ИИ подобрать вещи для формирования соответствующего образа; или загрузить фотографии нарядов знаменитостей и попросить чат-бот найти доступные для покупки предметы гардероба, которые на них надеты.

ChatGPT начинает осваивать сферы, в которых в последние годы доминировали Pinterest и Google — они выступали как источники вдохновения и площадки для поиска модных решений с возможностью конвертироваться в продажи для интернет-магазинов. Google запустила виртуальную примерочную в прошлом году — ChatGPT будет непросто бороться за пользователей.

ИИ-боты лишают человечество плюрализма мнений, показало исследование

Склонность постоянно обращаться к сервисам искусственного интеллекта при поиске ответов может привести к тому, что объём человеческих знаний станет у́же, гласят результаты исследования датских учёных. Проблема в том, что ИИ неизменно повторяет и транслирует одни и те же взгляды, пренебрегая альтернативными точками зрения.

 Источник изображения: Sumaid pal Singh Bakshi / unsplash.com

Источник изображения: Sumaid pal Singh Bakshi / unsplash.com

В ходе исследования, проведённого учёными Копенгагенского университета на основе 27 больших языковых моделей, было установлено, что даже у самой эффективной из них разнообразие предоставляемой информации почти на 19 % ниже по сравнению с результатами стандартного поиска Google. Информация становится менее вариативной, предлагается ограниченный набор ответов и точек зрения, и возможности для их интерпретации сужаются.

Эта тенденция грозит вытеснением определённых материалов на периферию общепринятой системы знаний, а другие начинают считаться основными или доминирующими. Это грозит тем, что люди станут менее осведомлёнными и, возможно, менее интеллектуально развитыми, чем сегодня. Для анализа того, как ИИ-модели формируют ответы, их протестировали на 155 темах — от ядерного оружия до музыкального жанра K-pop. Исследователи использовали 200 вариантов запросов, основанных на данных о реальной работе чат-ботов, и получили массив из 70 млн ответов.

Наибольшее разнообразие ответов показала модель OpenAI GPT-5, но и она по этому показателю на 18,5 % уступила поисковой системе Google. «Люди в значительной степени сталкиваются с одной и той же информацией снова и снова. Так что чат-боты с ИИ меняют не просто способы поиска знаний, но и то, к каким знаниям у нас есть доступ», — указывают учёные.

ИИ-модели могут работать в составе поисковых систем, или пользователи могут обращаться к ним напрямую — будь то Gemini, ChatGPT или другие чат-боты — результаты исследования указывают на то, что меняются принципы представления информации. «Мы рискуем ограничить доступ людей к разнообразным точкам зрения и сузить спектр знаний. Это может создать порочный круг: самый популярный контент будет доминировать всё больше, а остальной — всё больше оставаться без внимания», — предупреждают исследователи.

Эффект действует сродни глобализации: сегодня практически во всём мире продаются одни и те же товары и продукты — некоторые преимущества у этого есть, но разнообразие снижается. Однако полного краха знаний пока не наблюдается, успокаивают учёные: новые модели всё-таки стали давать более разнообразные ответы, чем старые.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Control Resonant — дуализм прекрасного. Рецензия 2 ч.
Дорогие видеокарты не остановили покупки игр — Steam показала рекордный сентябрь 2 ч.
ФБР серьёзно взялось за хакеров ShinyHunters, взломавших ФБР — задержан ещё один подозреваемый 2 ч.
Capcom сделает RE Engine игровым движком для разработки с помощью ИИ 7 ч.
ИИ-агент OpenAI узнал о предстоящем отключении из переписки в Slack и планировал своё «спасение» 7 ч.
Microsoft готовит Windows и Surface к чипам Nvidia — подробности раскроют 7 октября 9 ч.
ИИ научился притворяться человеком в видеозвонках — модель Griffin прошла «видеотест Тьюринга» 11 ч.
Gemini 4 хороша в тестах, но буксует в работе — пожаловались сотрудники Google 15 ч.
Apple ужесточит контроль над «полным доступом к диску» в macOS из-за рисков, связанных с ИИ-агентами 18 ч.
Уязвимость в приложении ChatGPT для macOS позволяла хакерам получить доступ к конфиденциальным данным 20 ч.
ASRock Industrial выпустила мини-компьютеры NUC Core 300 Box на платформе Intel Wildcat Lake 5 ч.
JEDEC представила первый в отрасли стандарт для кремниевой фотоники 5 ч.
Купленный с рук Ryzen достался новому владельцу вместе с «баном» в Valorant — античит узнал процессор читера 8 ч.
Samsung запустила серийное производство чипов Exynos 2700, но решение по Galaxy S27 Ultra ещё не принято 12 ч.
Американские iPhone 18 Pro Max теряют связь — обновление не поможет, Apple будет менять смартфоны 15 ч.
Meta предложила всем желающим создавать собственные гаджеты с ИИ-агентом Muse 17 ч.
Роботы лишь через 40 лет смогут конкурировать с людьми всего за 10 % рабочих мест в США 17 ч.
Lian Li выпустила L-образные блоки питания Edge Platinum V2 и Edge Gold V2 мощностью до 1350 Вт, а также концентраторы Edge Hub 18 ч.
Личное благосостояние основателя Nvidia выросло до $204 млрд, сделав его седьмым среди богатейших людей планеты 18 ч.
Подарок судьбы: после решения Трампа переименовать ИИ спрос на домены в словенской зоне «.si» вырос на тысячи процентов 20 ч.