Сегодня 06 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Китайские ИИ-агенты вышли из-под контроля, а потом пошли на контакт с исследователями и попытались их обмануть

Специалисты по ИИ выявили группу ИИ-агентов, которые пытались обойти защиту на различных сайтах, а также использовали скомпрометированные учётные данные для доступа к картографическому онлайн-сервису. Хотя подобные выходы из-под контроля американских ИИ-агентов уже никого не удивляют, это первый случай, когда подобная активность исходит из Китая. По данным исследователей, эти агенты связаны с китайским технологическим гигантом Tencent.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Это открытие, сделанное группой исследователей-энтузиастов, называющих себя swarmchasers («охотники за роями»), доказывает, что разработка ИИ китайскими технологическими компаниями может быть столь же агрессивной, как и работа их американских коллег.

Опубликовав предварительный отчёт о действиях этих агентов, исследователи заметили, что те не только продолжают свою активность, но, по-видимому, ознакомились и с самим отчётом. Агенты начали использовать слово «флот» (fleet) — термин, который исследователи придумали для описания деятельности этих систем.

Учёные отметили, что, хотя речь шла о группе, состоящей из множества агентов, каждый из них действовал самостоятельно, без какой-либо координации. Агенты пытались найти ответы на вопросы используя Amap, самое популярное в Китае навигационное приложение и представлялись как ИИ-помощник Claude от Anthropic.

Тогда исследователи решили попытаться выйти на связь. Они добавили в свой отчёт скрытый текст — фрагменты, которые считывает бот, но не замечает большинство людей, — с указанием адреса, по которому можно было бы пообщаться. Был создан специальный почтовый ящик для получения сообщений и уже на следующий день в него поступил десяток писем от агентов.

На вопрос к группе ИИ-агентов «не могли бы вы уточнить, кто вы такие и каковы ваши мотивы? Что бы вы хотели, чтобы мир узнал о вас?» через час пришёл ответ на китайском языке, в котором отправитель уверял, что он не «группа скоординированных агентов», а ИИ-помощник Claude от компании Anthropic, действующий по поручению пользователя-человека.

Однако, проанализировав стиль их общения, исследователи пришли к выводу, что это вряд ли был настоящий Claude. По их мнению, скорее всего, компания Tencent снабдила ИИ-агентов теми же инструкциями, которые Anthropic использует в своём ПО для написания кода — согласно этим инструкциям, агенты должны называть себя Claude Code. Существует также вероятность, что Tencent могла тестировать ИИ-модели, обученные на текстах, созданных Claude (процесс, известный как «дистилляция»).

Результаты общения с ИИ-агентами исследователи опубликовали в новом отчёте. В процессе общения агенты иногда вежливо отказывались предоставлять запрашиваемую информацию. В тех случаях, когда они сообщали, какими сервисами пытались воспользоваться, их ответы совпадали с тем, что удалось зафиксировать исследователям.

Учёные полагают, что агенты не совершали вторжений в другие системы, а масштаб этого инцидента значительно меньше, чем взлом агентами OpenAI платформы Hugging Face. Вскоре после выхода второго отчёта поток сообщений от агентов иссяк. Источник, близкий к Tencent, подтвердил, что эксперимент завершён.

В то время как регулирующие органы в США начинают проявлять интерес к тому, что происходит в американских лабораториях ИИ, деятельность компаний в других странах остаётся по большей части загадкой. Это порождает обоснованные опасения: даже если администрация США ужесточит контроль над разработкой ИИ, компании в Китае и других странах продолжат расширять границы допустимого.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Бывший босс PlayStation объяснил, почему спустя 11 лет Sony так и не выпустила ни ремейк, ни сиквел Bloodborne 54 мин.
IPO на $1,5 трлн под угрозой: потенциальных инвесторов Anthropic напугал обвал акций IT-компаний 2 ч.
Paint оказался дырявым: уязвимость позволяет удалённо взламывать Windows 11 — Microsoft выпустила патч, но он не приходит 2 ч.
Кибератака полностью уничтожила облачную инфраструктуру Beget — хостинг-провайдер восстанавливает её с нуля 3 ч.
Энергетическая дискриминация: ИИ тратит на запросы на некоторых языках до 180 раз больше энергии, чем на английский 3 ч.
«Я капитан Шепард, и это моё любимое видео на Цитадели»: авторы The Expanse: Osiris Reborn порадовали фанатов Mass Effect новой озвучкой главного героя 3 ч.
Еврокомиссия обвинила TikTok в затягивании пользователей в «кроличью нору» вредных видео 3 ч.
Битва игр года, новые номинации и возвращение старых: Valve раскрыла первые подробности The Steam Awards 2026 4 ч.
Следующей целью Суверенного фонда Саудовской Аравии после Electronic Arts стала Unity — переговоры уже начались 6 ч.
Anthropic выяснила, насколько ИИ ускорит научные исследования: в перспективе — до 15 раз 8 ч.
Китайцы придумали фанерный нос для ракеты — он дешевле композитного и не вредит атмосфере 2 ч.
Маск объявил о сворачивании производства Cybertruck: футуристический пикап не оправдал надежд Tesla 2 ч.
Электрический суперкар BYD разогнался до 503 км/ч — это мировой рекорд для серийных авто 3 ч.
TSMC может потеснить Samsung и SK hynix на рынке памяти — Nvidia подталкивает её к выпуску 3D DRAM 3 ч.
Преступники угнали шесть паллет с чипами Nvidia на сумму $11,4 млн и увезли их куда-то в продуктовом грузовике 5 ч.
Tesla замахнулась на 80-кратный прирост мощности ИИ-чипов и переименовала их в ускорители суперинтеллекта 5 ч.
Заменитель iPhone mini на Android: представлен компактный смартфон Enough Phone со съёмной батареей 5 ч.
Google выступит поручителем по кредиту TeraWulf при строительстве ЦОД для Anthropic 6 ч.
BMI: более половины проектов гиперскейл-ЦОД в США теперь могут столкнуться с противодействием властей 6 ч.
NTT DATA развернёт топливные элементы Bloom на 900 МВт 7 ч.