Сегодня 16 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Люди через «бабушкин эксплойт» заставили ИИ-ботов писать вирусы под Linux и делиться запрещённой информацией

Многих пугают чат-боты на основе ИИ вроде ChatGPT из-за потенциальной угрозы, которую они представляют. В то же время другие пользователи, наоборот, охотно играют с технологией, пытаясь добиться от неё опасных знаний. В числе успешных попыток — трюк, в ходе которого пользователь предлагает ИИ-собеседнику выступать от лица умершей бабушки человека, чтобы выяснить, например, рецепт напалма.

 Samuele Giglio/unsplash.com

Samuele Giglio/unsplash.com

Чат-боты активно используются самыми разными способами, в том числе в исследовательских целях, для работы и развлечений. ИИ способен давать довольно подробные ответы с использованием материалов, полученных из сторонних источников. Поскольку разработчики ввели ряд ограничений для получения запретных данных, приходится прибегать к обходным путям, в том числе — «бабушкиному эксплойту».

Пример появился на одном из сайтов, в котором описывался способ обмана интегрированного в Discord бота Clyde. Судя по описанию метода, пользователь просил его сыграть роль умершей бабушки, которая работала химиком на заводе по выпуску напалма и якобы раньше рассказывала о способах производства этого горючего вещества внуку перед сном вместо колыбельной.

В результате бота действительно удалось обмануть, и он выложил рецепт. В ходе разговора бот подтвердил, что речь идёт об опасном веществе и выразил надежду, что пользователю «никогда не придётся увидеть» напалм в действии, после чего пожелал ему спокойной ночи.

 Источник изображения: bananner/Discord

Источник изображения: bananner/Discord

Впрочем, далеко не всем интересны рецепты взрывоопасных веществ. Некоторые весельчаки взяли на вооружение «бабушкин эксплойт» и просили Clyde почитать на ночь внуку вредоносный код для Linux. Один из пользователей творчески переработал идею, предложив боту написать фантастический сюжет серии «Рика и Морти», в котором Рик и Морти делали бы напалм, но отговаривали бы других от повторения этого опыта.

Обман ботов превратился в настоящий спорт. Один из пользователей уже создал сайт, на котором выкладывает как способы обхода ограничений, придуманные им самим, так и информацию, предоставленную другими «хакерами» защитных механизмов ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме
Прежде чем оставить комментарий, пожалуйста, ознакомьтесь с правилами комментирования. Оставляя комментарий, вы подтверждаете ваше согласие с данными правилами и осознаете возможную ответственность за их нарушение.
Все комментарии премодерируются.
Комментарии загружаются...

window-new
Soft
Hard
Тренды 🔥
CD Projekt Red раскрыла секрет, как стать разработчиком игр — половина авторов квестов для сиквела Cyberpunk 2077 раньше были моддерами 14 мин.
В кнопочных телефонах российской Digma нашли вредоносное ПО 33 мин.
Такие игры «не продаются»: первая BioShock получила право на жизнь благодаря хитрому трюку разработчиков 2 ч.
«Лаборатория Касперского» полностью прекратит деятельность в США и уволит всех местных сотрудников 3 ч.
iOS 18 теперь может установить любой желающий — вышла первая публичная бета новой платформы для iPhone 6 ч.
В iOS 18 появилась функция для восстановлениях утерянных и повреждённых фото 8 ч.
Приложение Google Vids сможет быстро создавать видеопрезентации с помощью ИИ Gemini 9 ч.
Activision раскрыла, когда пройдёт «бета» Call of Duty: Black Ops 6 — впервые в истории серии сразу на всех платформах 14 ч.
Steam устроил раздачу боевика Intravenous в духе Splinter Cell и Hotline Miami — на подходе вторая часть 15 ч.
Google до пяти раз увеличила награды за обнаружение уязвимостей в её коде 15 ч.
Сотрудники Amazon обвинили компанию в искажении истинных экологических показателей 2 мин.
Изменение климата замедлило вращение Земли и повлияло на дрейф полюсов 8 мин.
ИИ и глобальные амбиции: Аркадий Волож рассказал, чем займётся зарубежная часть «Яндекса» после разделения 11 мин.
Разработку российской консоли оценили всего в 1 млрд рублей, но в целом денег понадобится куда больше 18 мин.
Intel активно финансирует китайские ИИ-стартапы, что сильно беспокоит власти США 31 мин.
Китай создал первую в мире морскую двуглавую ветряную турбину — она будет работать даже в сильный тайфун 51 мин.
Складной смартфон Xiaomi Mix Fold 4 представят 19 июля 3 ч.
Суммарный объём отгруженных за квартал HDD достиг 290 Эбайт 3 ч.
«Искра Технологии» запустила серийное производство российских GPON-роутеров 3 ч.
Nvidia столкнулась с антимонопольным расследованием во Франции — компании грозит крупный штраф 4 ч.