Сегодня 06 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google

Компания Google в рамках своей программы вознаграждений за уязвимости заявила о готовности выплатить до $20 000 за серьёзный взлом своего чат-бота на базе искусственного интеллекта. От претендентов требуется заставить бота делать что угодно, кроме того, что ему положено, например, вызвать галлюцинации с абсолютно неверными ответами или даже убедить ИИ игнорировать ограничения, которые пытались ввести его создатели.

 Источник изображения: techspot.com

Источник изображения: techspot.com

Google представила специальную программу вознаграждений за выявление уязвимостей и обнаружение потенциально самых опасных ошибок ИИ. К ним относятся, например, взлом аккаунта Google или получение информации о работе самого бота. Для целей этой программы последствия должны быть гораздо серьёзнее, чем просто «это выставляет Gemini в невыгодном свете».

Конечно, подобные уязвимости, возможно, не обладают высоким вирусным потенциалом, но они гораздо важнее для стабильности и репутации Gemini. Одно дело — заставить Gemini посоветовать пользователю рецепт несъедобного блюда, и совсем другое — вынудить его включить фишинговую ссылку в один из ответов в режиме ИИ-поиска.

Отрадно, что Google старается привлечь опытных специалистов к поиску уязвимостей Gemini. Но в данном случае, как говорят опытные оперативники, «главное в процессе расследования не выйти на самого себя»…

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Copilot тормозит при запуске нескольких приложений Microsoft Office — и Microsoft не знает, почему 3 мин.
ChatGPT достиг 800 млн пользователей в неделю — плюс 60 % всего за полгода 6 мин.
Календарь релизов — 6–12 октября: Battlefield 6, Little Nightmares 3, 2XKO и Dying Breed 31 мин.
Анонсирован ремастер культового квеста Broken Sword 2: The Smoking Mirror — спустя год после выхода обновлённой первой части 2 ч.
Адский ритм-шутер Metal: Hellsinger останется последней игрой The Outsiders — Funcom закрывает студию, но разработчики не сдаются 2 ч.
Google представила ИИ-агента CodeMender — он самостоятельно устраняет уязвимости ПО 2 ч.
Ubisoft анонсировала дату выхода «мясистого» бесплатного дополнения к Assassin's Creed Mirage — геймплей и подробности Valley of Memory 3 ч.
Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google 4 ч.
Регулятор выдал возрастной рейтинг Aliens: Fireteam Elite 2 до официального анонса — кооперативный шутер во вселенной «Чужого» получит сиквел 4 ч.
Во Франции запустили расследование возможной прослушки пользователей Apple через Siri 5 ч.