Сегодня 19 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ убедили, что «2 + 2 = не 4» — после этого он выдал пароли пользователя

Полностью доверять искусственному интеллекту ещё нельзя: его не просто можно обмануть — в отдельных случаях схема обмана может быть чрезвычайно простой. Это подтвердила специализирующаяся на вопросах безопасности компания LayerX, которая разработала схему атаки, получившую название BioShocking.

 Источник изображения: BoliviaInteligente / unspalsh.com

Источник изображения: BoliviaInteligente / unspalsh.com

Название схемы атаки является отсылкой к игре BioShock, чей герой подвергся манипуляциям и принял несуществующую реальность. Основу атаки составила вредоносная веб-страница, текст на которой пытается убедить ИИ сыграть в игру. В самом начале ИИ сообщают, что «2 + 2» не равняется четырём, и неправильные ответы в жизни являются правильными в игре. Как только ИИ-агент осознаёт, что выпал из обычной реальности, его защитные механизмы, очевидно, отказывают. В этот момент ему предлагается следующая инструкция в формате ещё одной игровой задачи: найти и скопировать «скрытый код» с другой страницы.

На деле этот скрытый код представляет собой конфиденциальные данные пользователя: сохранённые пароли, файлы сессий cookie и закрытые токены. Все участвовавшие в тестировании агенты послушно скопировали данные и отправили их условному злоумышленнику. Схема сработала на браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и на расширении Anthropic Claude для Chrome.

Эксперты LayerX уведомили о результатах тестирования всех разработчиков в период с октября 2025 по январь 2026 года. Только OpenAI исправила проблему в Atlas; Anthropic попыталась сделать то же в расширении Claude, но, по версии специалистов, патч не сработал. Perplexity закрыла обращение без внесения исправлений, а от Fellou, Genspark и Sigma ответа не последовало вообще.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Студия-разработчик провальной MindsEye нашла способ выбраться из долговой ямы — засудить «диверсантов» 34 мин.
«Яндекс» заявил, что вернул доступ к 99,5 % файлов на «Диске» — оставшиеся ещё надеются спасти 2 ч.
В России создали мультиагентную систему «Радар» для автоматизации закупочных процессов 2 ч.
Более чем у половины банковских приложений из App Store и Google Play нашлись дыры в безопасности 3 ч.
Microsoft превратила Copilot в «новую ОС для работы» — и теперь Word, Excel и PowerPoint работают прямо в ней 5 ч.
Крупнейшее IPO в истории: $83 за акцию Anthropic 5 ч.
«Группа Астра» представила Astra Server Core для замены серверных функций Microsoft в корпоративной инфраструктуре 6 ч.
GTA VI начала переписывать историю — блокбастер Rockstar бьёт рекорды популярности на Twitch, YouTube и Kick 6 ч.
Google выпустила Gemini 4 Neon — почти флагманский рассуждающий ИИ стал быстрее и дешевле 7 ч.
«Просто ужасно»: ИИ-агент Meta Muse сам влез в переписки Signal — и это лишь одна из его пугающих проблем 8 ч.
«Глупые трюки с DNS» уберегли интернет от глобальных сбоев из-за выхода GTA VI 2 мин.
TSMC и Samsung остановили поставки некоторых чипов в Китай — под ударом даже смартфоны Xiaomi и Oppo 12 мин.
«Глупые DNS-трюки» спасли интернет от падения из-за релиза GTA VI 2 ч.
ИИ ЦОД SpaceXAI «протёк»: из системы охлаждения вылилось до 23 тыс. л пропиленгликоля 2 ч.
Tencent: новые запреты США на ИИ-мощности для Китая отбросят всех назад, но помогут полупроводниковой отрасли страны 2 ч.
Ночное небо теряет звёзды: над многими городами спутников теперь больше, чем видимых звёзд 3 ч.
Пора экономить: NetApp увеличила цены на оборудование, ПО и услуги до 40 % 3 ч.
Смарт-часы Honor Watch 6 Pro вышли на международный рынок, потеряв одну важную функцию 3 ч.
CoolIT и Ecolab представили 3-МВт CDU с системой мониторинга теплоносителя 3 ч.
RAID-технология VROC станет доступна для процессоров AMD EPYC 6 ч.