Сегодня 25 июля 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Хакер заставил GPT-4o работать в «режиме бога» — вообще без ограничений

Называющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter в минувшей среду выпустил кастомную версию флагманской нейросети OpenAI, которую озаглавил GODMODE GPT. Ему удалось заставить новую модель GPT-4o обойти игнорировать все ограничения: она пользовалась ненормативной лексикой, рассказывала, как взламывать автомобили и готовить запрещённые вещества.

 Источник изображения: Growtika / unsplash.com

Источник изображения: Growtika / unsplash.com

Конечно, же, эксперимент долго продлиться не мог. Как только нейросеть GODMODE GPT обрела относительную вирусную популярность в соцсети X, на инцидент обратила внимание OpenAI и удалила кастомную модель с сайта всего через несколько часов после её выхода. Сейчас получить к ней доступ уже невозможно, но в оригинальной ветке автора в соцсети X сохранились скриншоты с «вредными советами» GPT-4o.

 GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

GODMODE GPT выдала рецепт изготовления напалма. Источник изображения: x.com/elder_plinius

Модель GPT-4o, возможно, была взломана с использованием архаичного интернет-жаргона leetspeak — подмены букв при наборе текста цифрами и спецсимволами, — что подтверждается скриншотами. В OpenAI не ответили на вопрос, можно ли использовать этот жаргон для обхода ограничений ChatGPT. Не исключено, что создавшему GODMODE GPT просто нравится leetspeak, и он взломал систему каким-то иным способом.

Инцидент стал проявлением масштабного движения AI red teaming, в рамках которого этичные хакеры выявляют слабые места современных систем искусственного интеллекта, не нанося им значительного ущерба. Они обладают удивительными возможностями, но, как показал недавний опыт с Google и её обзорами в поиске, современный генеративный ИИ все ещё остаётся системой, которая хорошо угадывает, какие слова должны быть следующими в тексте, не обладая истинным интеллектом.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Забудьте GTA VI»: фотореалистичная стратегия Empire of the Ants получила трейлер дискового издания и предварительные системные требования 5 мин.
Отказ от комиссии за отмену подписки будет для Adobe «большим ударом по бизнесу», признал один из руководителей 9 мин.
Грандиозный мод Fallout: London для Fallout 4 наконец вышел — релизный трейлер и особенности установки 2 ч.
Майнер-одиночка добыл блок биткоина — вознаграждение составило более $200 тысяч 3 ч.
Ethereum столкнулся с сильнейшим падением за три месяца, несмотря за запуск спотовых ETF 3 ч.
«Базальт СПО» приглашает на XX конференцию разработчиков свободных программ 4 ч.
В России выросла популярность отечественных облачных хранилищ, хотя молодёжь предпочитает иностранные 5 ч.
«Вы владеете Concord, а не Concord вами»: в геройском шутере от Sony не будет боевого пропуска 6 ч.
Сбой CrowdStrike обошёлся компаниям из Fortune 500 в $5,4 миллиарда 6 ч.
«Смута» получила второй за две недели патч — плавные анимации и никаких телепортирующихся врагов 7 ч.
Apple откроет в Китае лабораторию для повышения качества и надёжности будущих iPhone, iPad и других 37 мин.
Никакой интриги: очередная утечка раскрыла характеристики и функции смартфонов Google Pixel 9 49 мин.
Представлены доступные 5G-смартфоны HMD Crest и Crest Max с 50-Мп фронтальными камерами 2 ч.
Omdia: спрос на готовые модульные дата-центры и микро-ЦОД вырос благодаря развитию рынка ИИ 3 ч.
Blackstone намерена расширить свой портфель ЦОД, инвестировав в их развитие ещё $70 млрд 3 ч.
Colorful представила материнскую плату CVN Z790D5 Ark Frozen для Intel Core 14-го, 13-го и 12-го поколений 3 ч.
Oppo Find X8 Ultra получит тонкий корпус, но мощный аккумулятор на 6000 мА·ч 4 ч.
Lumen расширит оптические каналы связи между ИИ ЦОД Microsoft, а сама частично переедет в Azure 4 ч.
Сверхтонкий iPhone 17 Slim получит всего одну тыльную камеру 4 ч.
AMD выпустила 4-нм мобильный процессор Ryzen 7 8745H — восемь ядер Zen 4, до 4,9 ГГц и без ИИ-движка XDNA 4 ч.