Сегодня 29 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эксперты предупредили о схеме «галлюцинаторного захвата» — атаки на разработчиков ПК, использующих ИИ

Исследователи в области кибербезопасности предупредили о новом методе, с помощью которого хакеры могут злоупотреблять «галлюцинациями», которые посещают искусственный интеллект, используемый при разработке программных продуктов. Существующая пока лишь в теории схема получила название «галлюцинаторный захват» (slopsquatting).

 Источник изображений: socket.dev

Источник изображений: socket.dev

Системы генеративного ИИ, в том числе OpenAI ChatGPT и Microsoft Copilot, склонны к галлюцинациям — когда ИИ просто выдумывает нечто не соответствующее действительности и выдаёт это за фактическую информацию. Он может приписать человеку слова, которых он не говорил; придумать событие, которого не было; или при разработке ПО сослаться на продукт с открытым исходным кодом, которого не существует.

С распространением генеративного ИИ многие разработчики ПО стали в значительной степени полагаться на него при написании кода. Чат-боты сами пишут код или предлагают разработчику сторонние библиотеки для их включения в проект. Примечательно, что при возникновении галлюцинаций ИИ может раз за разом выдумывать один и тот же несуществующий пакет. Если обнаружить запрос, провоцирующий ответ с галлюцинацией, установили эксперты компании Socket, и повторить этот запрос десятикратно, то в 43 % случаев ИИ снова сошлётся на несуществующий программный продукт, а в 39 % случаев про него не вспомнит. В целом 58 % выдуманных ИИ пакетов появлялись более одного раза за десять запросов, и на этом злоумышленники могут попытаться сыграть.

Схема существует только в теории, но ничто не мешает хакерам выявить такую закономерность в сбоях и создать несуществующий программный пакет, на который упорно ссылается ИИ — и внедрить в этот пакет вредоносный код. Получив рекомендацию от ИИ, разработчик откроет одну из наиболее популярных платформ, например, GitHub, найдёт указанный продукт и развернёт его в проекте, не зная, что это вредоносное ПО. На данный момент инцидентов с использованием схемы «галлюцинаторного захвата» пока не зарегистрировано, но, вероятно, их возникновение — это лишь вопрос времени. Лучший способ защититься тот же, что и всегда — осмотрительность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Anthropic ввела квоты на работу с Claude Code из-за чрезмерного спроса и злоупотреблений 52 мин.
Bloober Team доказала, что «люди ошибались» — разработчики ремейка Silent Hill 2 и Cronos: The New Dawn больше не чувствуют себя аутсайдерами 2 ч.
Microsoft не хочет упустить сильный ИИ: корпорация борется за доступ к будущим технологиям OpenAI 2 ч.
Представлен российский аналог платформы визуализации данных Grafana 3 ч.
Microsoft начала проверять возраст пользователей Xbox — пока добровольно и только в Великобритании 4 ч.
«Настоящий сиквел, а не повторение пройденного»: создатели The Witcher 4 не пытаются превзойти «Ведьмака 3» 5 ч.
Переосмысление боевой системы, стелс и QTE: разработчики «Смуты» показали первый геймплейный трейлер «Земского собора» 5 ч.
ИИ-агент ChatGPT научился проходить капчу — он утвердительно отвечает на вопрос, человек ли он 6 ч.
Состоялся релиз новой версии SafeTech CA — отечественной альтернативы Microsoft Certificate Authority 6 ч.
Meta обвинили в пиратстве порнофильмов для обучения ИИ 8 ч.
MaxLinear представила DPU Panther V с пропускной способностью 450 Гбит/с 47 мин.
HMD представила кнопочный телефон Barça 3210 — стиль Nokia, логотип «Барселоны» и поддержку DeepSeek 52 мин.
V-Color представила комплекты памяти DDR5 для Ryzen Threadripper Pro 9000 — до 2 Тбайт и до 8200 МТ/с 58 мин.
Преемник самого продаваемого Android-смартфона Samsung засветился на рендерах 3 ч.
Удар по Ирландии: Amazon отказалась от строительства фабрики серверов в стране за €300 млн 3 ч.
Crusoe и Tallgrass построят в Вайоминге ИИ ЦОД мощностью 1,8 ГВт 3 ч.
По-настоящему массовое роботакси: Pony.ai намерена нарастить парк до 1000 беспилотных авто до конца года 3 ч.
Китайцы представили компьютерный корпус с дизайном в стиле GeForce RTX 5000 Founders Edition 3 ч.
Стартап SpiNNcloud поставит Лейпцигскому университету «нейроморфный» суперкомпьютер для создания новых лекарств 3 ч.
Европа возведёт ИИ-гигафабрики, стремясь наверстать упущенное в отрасли 4 ч.