Сегодня 25 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений

Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o.

 GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом.

Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Мошенники заигрались: аферисты используют Minecraft, Roblox и Brawl Stars для обмана российских школьников 24 мин.
SambaNova делает ставку на инференс и партнёрство с облачными провайдерами и госзаказчиками 27 мин.
Россияне стали проводить меньше времени в интернете из-за замедления YouTube 58 мин.
Развод OpenAI и Microsoft отменяется? Главы компаний обсудили дальнейшее сотрудничество 60 мин.
«Лучший на сегодня» ИИ-генератор изображений Google Imagen 4 стал доступен бесплатно для всех 2 ч.
Новый стандарт для жанра: гоночный симулятор Project Motor Racing от ветеранов GTR получил дату выхода и геймплейный трейлер 2 ч.
Оригинальная Dying Light скоро получит масштабный графический апгрейд, причём бесплатно — подробности обновления Retouched 4 ч.
Российских хакеров из группировки REvil осудили на 5 лет тюрьмы и сразу же освободили 4 ч.
Бизнес раскритиковал идею введения платного доступа к госсервисам для юрлиц 15 ч.
Объявлена дата выхода Little Nightmares 3 — новый трейлер, 11 минут геймплея и предзаказ с приятным сюрпризом 15 ч.
Intel свернёт производство автопроцессоров ради серверов и ПК 27 мин.
Кавардак на рынке памяти продолжается — 16-Гбит чипы DDR4 стоят уже вдвое дороже DDR5 такой же ёмкости 55 мин.
Апокалиптические астероиды подождут: у NASA выявили отсутствие комплексного плана защиты Земли 2 ч.
Ровер Curiosity обнаружил на Марсе коробочные структуры — возможные следы древних грунтовых вод 2 ч.
Xiaomi представила смартфон Poco F7 на чипе Snapdragon 8s Gen 4 всего за $399 2 ч.
SSSTC выпустила SATA SSD серии CVD для интенсивной записи 3 ч.
Китай рассказал, как доставит образцы с Марса на Землю намного раньше США 4 ч.
Xiaomi намерена сделать YU7 популярнее, чем бестселлер Tesla Model Y в Китае 4 ч.
«ОНИКС БУКС» выпустила компактный ридер «Васко Да Гама 5» с дисплеем E Ink и ценой 17 990 рублей 4 ч.
Недоступность ИИ-инфраструктуры усилит цифровое, экономическое и политическое неравенство 5 ч.