Сегодня 02 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений

Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o.

 GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом.

Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Не Hollow Knight: Silksong единой — Microsoft рассказала о первых новинках Game Pass в сентябре 9 мин.
Представлен Dolby Vision 2 — «кинематографический» HDR, аутентичное сглаживание и ИИ-оптимизации 24 мин.
Квантовые компьютеры ещё не готовы, но в ПО для них уже инвестируют миллионы 31 мин.
Слухи: Ubisoft начала строить планы на Rayman 4, а Beyond Good and Evil 2 выйдет до конца 2027 года 2 ч.
Спустя почти год Capcom удалила Denuvo из Dead Rising Deluxe Remaster, но заменила её другой DRM 2 ч.
Не хочешь — заставим: правительство само определит категории объектов КИИ 4 ч.
Криптовалюта WLFI Дональда Трампа упала в цене в первый же день торгов 5 ч.
GeForce RTX 4060 стала самой популярной видеокартой в Steam, а доля Windows 11 впервые превысила 60 % 6 ч.
7 из 10 человек теперь заходят в интернет через Google Chrome — Edge и Safari сильно отстают 8 ч.
YouTube начал блокировать семейные Premium-подписки, если их участники не живут вместе 8 ч.
Tesla провалила старт продаж в Индии — всего 600 заказов за 2,5 месяца 19 мин.
Передовые чипы подорожают: TSMC повысит цены на 10 % из-за трамповских пошлин 2 ч.
Одна плата ASRock уничтожила два Ryzen 7 9800X3D всего за несколько месяцев 2 ч.
В небо над Россией запустят воздушные шары с 5G — альтернатива спутникам Starlink 2 ч.
Мировые продажи электромобилей выросли на 29 % и перевалят за 20 млн в этом году 3 ч.
В умном доме «Сбера» поселился GigaChat — ИИ прокачал голосовое управления и не только 3 ч.
«Не понадобится ни один человек»: доступные роботы позволят Китаю и дальше заваливать мир дешёвыми товарами 3 ч.
Революция в мире оптической связи: Microsoft помогла улучшить характеристики полого оптоволокна 3 ч.
Tecno представила сверхтонкие смартфоны Spark Slim и Pova Slim — меньше 6 мм, но больше 5000 мА·ч 3 ч.
Российский NGFW уровня Enterprise: UserGate выпустила Data Center Firewall для защиты ЦОД и крупных организаций 4 ч.