Сегодня 17 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эксперты предупредили о схеме «галлюцинаторного захвата» — атаки на разработчиков ПК, использующих ИИ

Исследователи в области кибербезопасности предупредили о новом методе, с помощью которого хакеры могут злоупотреблять «галлюцинациями», которые посещают искусственный интеллект, используемый при разработке программных продуктов. Существующая пока лишь в теории схема получила название «галлюцинаторный захват» (slopsquatting).

 Источник изображений: socket.dev

Источник изображений: socket.dev

Системы генеративного ИИ, в том числе OpenAI ChatGPT и Microsoft Copilot, склонны к галлюцинациям — когда ИИ просто выдумывает нечто не соответствующее действительности и выдаёт это за фактическую информацию. Он может приписать человеку слова, которых он не говорил; придумать событие, которого не было; или при разработке ПО сослаться на продукт с открытым исходным кодом, которого не существует.

С распространением генеративного ИИ многие разработчики ПО стали в значительной степени полагаться на него при написании кода. Чат-боты сами пишут код или предлагают разработчику сторонние библиотеки для их включения в проект. Примечательно, что при возникновении галлюцинаций ИИ может раз за разом выдумывать один и тот же несуществующий пакет. Если обнаружить запрос, провоцирующий ответ с галлюцинацией, установили эксперты компании Socket, и повторить этот запрос десятикратно, то в 43 % случаев ИИ снова сошлётся на несуществующий программный продукт, а в 39 % случаев про него не вспомнит. В целом 58 % выдуманных ИИ пакетов появлялись более одного раза за десять запросов, и на этом злоумышленники могут попытаться сыграть.

Схема существует только в теории, но ничто не мешает хакерам выявить такую закономерность в сбоях и создать несуществующий программный пакет, на который упорно ссылается ИИ — и внедрить в этот пакет вредоносный код. Получив рекомендацию от ИИ, разработчик откроет одну из наиболее популярных платформ, например, GitHub, найдёт указанный продукт и развернёт его в проекте, не зная, что это вредоносное ПО. На данный момент инцидентов с использованием схемы «галлюцинаторного захвата» пока не зарегистрировано, но, вероятно, их возникновение — это лишь вопрос времени. Лучший способ защититься тот же, что и всегда — осмотрительность.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Обзор Infinix NOTE 50 Pro+ 5G+: смартфон, у которого получается почти все 5 ч.
Ноутбук Lenovo ThinkBook Plus Gen 6 с расширяющимся экраном поступит в продажу на этой неделе по цене от $3499 6 ч.
Meta и Oakley представят смарт-очки до конца этой недели, но это не точно 6 ч.
Энтузиаст превратил провальную ИИ-брошь Humane AI Pin в умного ассистента 6 ч.
Подводный интернет-кабель AAE-2 свяжет Азию, Африку, Ближний Восток и Европу в обход Красного моря 11 ч.
Дети Трампа представили золотой смартфон T1 за $499, который «спроектирован и произведён в США» 11 ч.
Характеристики «честного» смартфона Fairphone 6 стали известны до анонса 11 ч.
AWS с нуля разработала и начала выпуск собственной СЖО для ИИ ЦОД всего за 11 месяцев 12 ч.
Китайский рынок робототехники вырастет более чем вдвое к 2028 году 14 ч.
OnePlus анонсировала скорый выход смартфонов Nord 5 и Nord CE5, а также смарт-часов, планшета и наушников 14 ч.