Сегодня 11 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эксперты предупредили о схеме «галлюцинаторного захвата» — атаки на разработчиков ПК, использующих ИИ

Исследователи в области кибербезопасности предупредили о новом методе, с помощью которого хакеры могут злоупотреблять «галлюцинациями», которые посещают искусственный интеллект, используемый при разработке программных продуктов. Существующая пока лишь в теории схема получила название «галлюцинаторный захват» (slopsquatting).

 Источник изображений: socket.dev

Источник изображений: socket.dev

Системы генеративного ИИ, в том числе OpenAI ChatGPT и Microsoft Copilot, склонны к галлюцинациям — когда ИИ просто выдумывает нечто не соответствующее действительности и выдаёт это за фактическую информацию. Он может приписать человеку слова, которых он не говорил; придумать событие, которого не было; или при разработке ПО сослаться на продукт с открытым исходным кодом, которого не существует.

С распространением генеративного ИИ многие разработчики ПО стали в значительной степени полагаться на него при написании кода. Чат-боты сами пишут код или предлагают разработчику сторонние библиотеки для их включения в проект. Примечательно, что при возникновении галлюцинаций ИИ может раз за разом выдумывать один и тот же несуществующий пакет. Если обнаружить запрос, провоцирующий ответ с галлюцинацией, установили эксперты компании Socket, и повторить этот запрос десятикратно, то в 43 % случаев ИИ снова сошлётся на несуществующий программный продукт, а в 39 % случаев про него не вспомнит. В целом 58 % выдуманных ИИ пакетов появлялись более одного раза за десять запросов, и на этом злоумышленники могут попытаться сыграть.

Схема существует только в теории, но ничто не мешает хакерам выявить такую закономерность в сбоях и создать несуществующий программный пакет, на который упорно ссылается ИИ — и внедрить в этот пакет вредоносный код. Получив рекомендацию от ИИ, разработчик откроет одну из наиболее популярных платформ, например, GitHub, найдёт указанный продукт и развернёт его в проекте, не зная, что это вредоносное ПО. На данный момент инцидентов с использованием схемы «галлюцинаторного захвата» пока не зарегистрировано, но, вероятно, их возникновение — это лишь вопрос времени. Лучший способ защититься тот же, что и всегда — осмотрительность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Sony показала 17 минут геймплея Ghost of Yotei и анонсировала лимитированные PS5 в стиле игры 14 мин.
Агентство по охране окружающей среды США посетовало на непрекращающиеся попытки бездумного внедрения ИИ 2 ч.
TikTok уже приступил к реструктуризации американского бизнеса, хотя перспективы сделки не ясны 2 ч.
ГК «Гарда»: лишь треть российских компаний использует решения для защиты данных 2 ч.
Новая статья: В малом весе: обзор российских мобильных операционных систем 10 ч.
YouTube объявил о закрытии раздела «В тренде», но уже готовит ему замену 11 ч.
Первый геймплей боевика «Земский собор» от создателей «Смуты» не впечатлил игроков 11 ч.
Забастовка актёров озвучки игр наконец завершена — участники SAG-AFTRA одобрили новый договор 13 ч.
«Я был пьян, но утечки так и не случилось»: глава издательского отдела Larian рассказал, как чуть не «слил» дату выхода Baldur's Gate 3 14 ч.
Google Gemini научился превращать фото в восьмисекундные видео со звуком, но небесплатно 14 ч.
В облаке AWS появились инстансы EC2 P6e-GB200 UltraServer на базе ИИ-суперускорителей NVIDIA GB200 NVL72 52 мин.
В России стартовали продажи смартфона Honor X6c с мощной батареей и повышенной прочностью за 12 000 рублей 2 ч.
Электрический гиперкар Rimac Nevera R установил 24 новых мировых рекорда, разогнавшись до 431,45 км/ч 3 ч.
Huawei пытается продвигать свои ускорители вычислений на Ближнем Востоке и в Юго-Восточной Азии 4 ч.
Аналитики усомнились в рентабельности бизнеса Starlink после опубликованного отчёта 4 ч.
Масштабные планы Apple на 2026 год: новые Mac, iPad, iPhone и даже монитор 4 ч.
Глава Nvidia встретился с Дональдом Трампом перед визитом в Китай, капитализация компании превысила $4 трлн 6 ч.
Meta готовит новые умные очки Ray-Ban без дисплея, но с улучшенной батареей 6 ч.
Razer представила игровую мышь DeathAdder V4 Pro за $170 с оптическим колёсиком и сенсором на 45 000 DPI 12 ч.
Philips выпустила 27-дюймовый игровой монитор Evnia 27M2N3800A с поддержкой 4K@160 Гц и FHD@320 Гц 12 ч.