Сегодня 07 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эксперты предупредили о схеме «галлюцинаторного захвата» — атаки на разработчиков ПК, использующих ИИ

Исследователи в области кибербезопасности предупредили о новом методе, с помощью которого хакеры могут злоупотреблять «галлюцинациями», которые посещают искусственный интеллект, используемый при разработке программных продуктов. Существующая пока лишь в теории схема получила название «галлюцинаторный захват» (slopsquatting).

 Источник изображений: socket.dev

Источник изображений: socket.dev

Системы генеративного ИИ, в том числе OpenAI ChatGPT и Microsoft Copilot, склонны к галлюцинациям — когда ИИ просто выдумывает нечто не соответствующее действительности и выдаёт это за фактическую информацию. Он может приписать человеку слова, которых он не говорил; придумать событие, которого не было; или при разработке ПО сослаться на продукт с открытым исходным кодом, которого не существует.

С распространением генеративного ИИ многие разработчики ПО стали в значительной степени полагаться на него при написании кода. Чат-боты сами пишут код или предлагают разработчику сторонние библиотеки для их включения в проект. Примечательно, что при возникновении галлюцинаций ИИ может раз за разом выдумывать один и тот же несуществующий пакет. Если обнаружить запрос, провоцирующий ответ с галлюцинацией, установили эксперты компании Socket, и повторить этот запрос десятикратно, то в 43 % случаев ИИ снова сошлётся на несуществующий программный продукт, а в 39 % случаев про него не вспомнит. В целом 58 % выдуманных ИИ пакетов появлялись более одного раза за десять запросов, и на этом злоумышленники могут попытаться сыграть.

Схема существует только в теории, но ничто не мешает хакерам выявить такую закономерность в сбоях и создать несуществующий программный пакет, на который упорно ссылается ИИ — и внедрить в этот пакет вредоносный код. Получив рекомендацию от ИИ, разработчик откроет одну из наиболее популярных платформ, например, GitHub, найдёт указанный продукт и развернёт его в проекте, не зная, что это вредоносное ПО. На данный момент инцидентов с использованием схемы «галлюцинаторного захвата» пока не зарегистрировано, но, вероятно, их возникновение — это лишь вопрос времени. Лучший способ защититься тот же, что и всегда — осмотрительность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Путин подписал закон, обязывающий Apple открыть iPhone для магазина RuStore 9 мин.
Релиз платформы «Альт Виртуализация» 11.0 (редакция PVE): новый инсталлятор, поддержка SDN, прямой импорт из VMware 16 мин.
Windows 11 наконец-то обогнала Windows 10 и стала самой используемой ОС в мире 46 мин.
Как Left 4 Dead, но не совсем: кооперативный шутер Toxic Commando от авторов Space Marine 2 показался на скриншотах с закрытой «беты» 3 ч.
«Они либо убьют остальных, либо сдадутся»: глава издательского отдела Larian Studios и основатель Arkane Studios не верят в Game Pass 4 ч.
Apple обжаловала гигантский штраф в €500 млн за ограничения для разработчиков в App Store 4 ч.
«Я был готов на всё»: создатель Deus Ex рассказал, как культовая игра едва не стала RPG по Command & Conquer 4 ч.
Студия Romero Games соавтора Doom Джона Ромеро после потери поддержки Microsoft оказалась «полностью закрыта» 8 ч.
Власти ОАЭ опровергли информацию о выдаче 10-летних «золотых виз» за стейкинг TON 11 ч.
Поддержка шутера Chernobylite 2: Exclusion Zone сократится из-за провального старта и вороха проблем 17 ч.
CoolIT за полтора года в 25 раз увеличила производство СЖО для ИИ-серверов и ЦОД 2 ч.
На TSMC подали в суд за дискриминацию «ленивых» американских сотрудников, расизм и домогательства на заводе в США 2 ч.
Китай сменит путь к полупроводниковому суверенитету — $47,5 млрд направят на прорыв в литографии и ПО для выпуска чипов 2 ч.
Пошлины США и геополитическая напряжённость притормозили рост поставок ИИ-серверов в 2025 году 2 ч.
Маск обвалил акции Tesla на 7 %, заявив о создании политической партии 3 ч.
В России представили Aurus Komendant и Lada Vesta с отечественным автопилотом 3 ч.
Апгрейд старых ПК скоро подорожает — память DDR4 взлетит в цене до конца сентября 3 ч.
Axiomtek выпустила 1,6″ одноплатный компьютер KIWI330 на базе Intel Alder Lake-N для приложений AIoT 3 ч.
Суперкомпьютер Doudna получит смешанное All-Flash хранилище IBM и VAST Data 3 ч.
«Солар» представила межсетевые экраны Solar NGFW S и M с производительностью до 20 Гбит/с 4 ч.