Сегодня 16 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений

Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o.

 GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом.

Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google вложит £5 млрд в британский ИИ в преддверии визита Трампа 13 мин.
Samsung объявила большой список устройств Galaxy, которые получат OneUI 8 до конца года 2 ч.
Google меняет подход к обновлениям безопасности Android, но пользователи это вряд ли заметят 4 ч.
Borderlands 4 «работает хуже обычного для игры на Unreal Engine 5» — эксперты Digital Foundry раскритиковали новый шутер от Gearbox 4 ч.
TikTok в США продолжит использовать китайские алгоритмы, а за инфраструктуру будет отвечать Oracle 5 ч.
«Игра превратилась в монстра»: даже Ubisoft признала, что в Assassin’s Creed Valhalla было слишком много контента 5 ч.
«Яндекс» научил «Алису» оживлять фото 6 ч.
OpenAI приняла на работу сбежавшего из xAI финансового директора 6 ч.
Хакеры украли данные миллионов клиентов Gucci и Balenciaga, включая информацию о покупках 6 ч.
Диски уходят: продажи игр на физических носителях в прошлом году принесли Sony только 3 % от общего объёма выручки 6 ч.
Google сообщила об инвестициях £5 млрд в развитие ИИ в Великобритании 60 мин.
Eaton представила решение для обнаружения скачков энергопотребления в ИИ-системах 3 ч.
Представлен доступный фотофлагман Meizu 22 с Snapdragon 8s Gen 4 и четырьмя 50-Мп камерами 3 ч.
Основатель Alibaba Джек Ма успешно пережил пять лет гонений и вернулся к управлению своей компанией 3 ч.
Решительные действия и наука спасли озоновый слой, но ускорили глобальное потепление 3 ч.
Первый в отрасли квантовый компьютер на полупроводниковых чипах заработал в Великобритании 4 ч.
ATP выпустила индустриальные SSD серий N701/N601 вместимостью до 960 Гбайт 5 ч.
Китайский регулятор обвинил NVIDIA в нарушении антимонопольного законодательства при покупке Mellanox 5 ч.
Сделанный для Китая ускоритель Nvidia RTX 6000D провалился в продаже — GeForce RTX 5090 лучше 5 ч.
Встроенная в DDR5 защита от атаки Rowhammer оказалась с дырой — любую современную систему можно взломать 5 ч.