Сегодня 05 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений

Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o.

 GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом.

Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google научила Gemini 2.5 понимать и передавать эмоции в диалогах 2 ч.
«Мечты сбываются!»: Team Ninja анонсировала Nioh 3 и выпустила на PS5 эксклюзивную демоверсию 2 ч.
Первый геймплейный трейлер раскрыл дату выхода психологического хоррора Silent Hill f 3 ч.
«Яблочный интеллект» упёрся в китайскую стену: запуск ИИ-сервисов Apple в КНР заморожен 3 ч.
ChatGPT научился копаться в корпоративных файлах в «Google Диске», Dropbox и других облаках 5 ч.
Разработчики Kingdom Come: Deliverance 2 готовят расширение, но не только для игры — Warhorse Studios откроет офис в Брно 5 ч.
«Леста Игры» прояснила решение суда и пригрозила СМИ, порочащим компанию 7 ч.
Mozilla перестанет пропускать в магазин Firefox мошеннические криптовалютные расширения 8 ч.
На Мосбирже стартовали первые в России торги фьючерсами на биткоин 8 ч.
Gemini покажет изменения, внесённые коллегами в файлы на «Google Диске» 8 ч.
Новая статья: Система жидкостного охлаждения PCCooler DT360 ARGB Display: красиво, но есть нюансы 2 ч.
Посадочные модули и лунный танкер: Blue Origin представила план освоения Луны 3 ч.
Новая статья: ИИтоги мая 2025 г.: кто кого ещё выключит 4 ч.
Разборка Galaxy S25 Edge показала, за счёт чего Samsung удалось сделать смартфон таким тонким 5 ч.
AMD оправдалась за отсутствие обзоров Radeon RX 9060 XT 8GB — получилось неубедительно 5 ч.
Лучше, чем InfiniBand и Ethernet: Cornelis Networks представила 400G-интерконнект Omni-Path CN5000 6 ч.
Провода — прошлый век: представлен стол с беспроводным питанием всей компьютерной периферии, включая монитор 8 ч.
GlobalFoundries потратит $16 млрд на расширение производства чипов в США 8 ч.
Побит мировой рекорд по разгону GPU — встроенную графику Intel Core Ultra 9 285K довели до 4,25 ГГц под жидким азотом 9 ч.
Вышли обзоры Radeon RX 9060 XT 16GB — достойная альтернатива GeForce RTX 5060 16GB 10 ч.