Сегодня 06 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google

Компания Google в рамках своей программы вознаграждений за уязвимости заявила о готовности выплатить до $20 000 за серьёзный взлом своего чат-бота на базе искусственного интеллекта. От претендентов требуется заставить бота делать что угодно, кроме того, что ему положено, например, вызвать галлюцинации с абсолютно неверными ответами или даже убедить ИИ игнорировать ограничения, которые пытались ввести его создатели.

 Источник изображения: techspot.com

Источник изображения: techspot.com

Google представила специальную программу вознаграждений за выявление уязвимостей и обнаружение потенциально самых опасных ошибок ИИ. К ним относятся, например, взлом аккаунта Google или получение информации о работе самого бота. Для целей этой программы последствия должны быть гораздо серьёзнее, чем просто «это выставляет Gemini в невыгодном свете».

Конечно, подобные уязвимости, возможно, не обладают высоким вирусным потенциалом, но они гораздо важнее для стабильности и репутации Gemini. Одно дело — заставить Gemini посоветовать пользователю рецепт несъедобного блюда, и совсем другое — вынудить его включить фишинговую ссылку в один из ответов в режиме ИИ-поиска.

Отрадно, что Google старается привлечь опытных специалистов к поиску уязвимостей Gemini. Но в данном случае, как говорят опытные оперативники, «главное в процессе расследования не выйти на самого себя»…

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google представила ИИ-агента CodeMender — он самостоятельно устраняет уязвимости ПО 23 мин.
Ubisoft анонсировала дату выхода «мясистого» бесплатного дополнения к Assassin's Creed Mirage — геймплей и подробности Valley of Memory 2 ч.
Эпично сломал Gemini? Теперь за это можно получить $20 000 от Google 2 ч.
Регулятор выдал возрастной рейтинг Aliens: Fireteam Elite 2 до официального анонса — кооперативный шутер во вселенной «Чужого» получит сиквел 3 ч.
Во Франции запустили расследование возможной прослушки пользователей Apple через Siri 3 ч.
Рокерский экшен Devil Jam в духе Vampire Survivors отправится в адское турне по Steam уже совсем скоро — дата выхода и новый геймплейный трейлер 3 ч.
OpenAI дала пользователям больше контроля над их ИИ-двойниками в Sora 6 ч.
Массовые увольнения в Intel ударили по открытому ПО — Debian и Ubuntu остались без обновлений важных пакетов 7 ч.
Поглощение Activision обернулось тем, чего боялась FTC — Microsoft режет кадры и поднимает цены 10 ч.
«Это полный сюр»: хоррор об ужасах долговой ямы CloverPit за восемь дней достиг полумиллиона проданных копий в Steam 11 ч.