Сегодня 05 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Яндекс» привлечёт белых хакеров к проверке безопасности генеративных нейросетей

Компания «Яндекс» сообщила о расширении программы «Охоты за ошибками» и запуске нового направления, связанного с генеративными нейросетями. Теперь исследователи, которым удастся отыскать технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре, могут получить вознаграждение до миллиона рублей.

 Источник изображения: yandex.ru/bugbounty

Источник изображения: yandex.ru/bugbounty

Участникам «Охоты» предстоит искать технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей: например, привести модель к сбою или изменить её поведение так, чтобы она повлияла на работу других сервисов «Яндекса». В программе участвуют все сервисы и ИИ-продукты «Яндекса», использующие модели семейства YandexGPT и YandexART. В числе таковых: «Алиса», «Поиск с Нейро», «Шедеврум» и другие облачные службы, включая те, где ML-модель используется неявно для ранжирования и поиска.

Размер выплаты зависит от серьёзности ошибки и простоты её применения. К критичным относятся уязвимости, которые позволяют раскрыть сведения о внутренней конфигурации модели, её служебный промт с техническими данными или другую чувствительную информацию. Максимальное вознаграждение за такие ошибки — 1 млн рублей.

Программу поиска уязвимостей «Яндекс» запустил в 2012 году — компания была первой в России. Теперь программа «Охота за ошибками» действует в «Яндексе» постоянно, а принять в ней участие может любой желающий.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Город зверей, оккультный заговор и личное проклятие: анонсирован нуарный экшен The Shadow Syndicate с элементами L.A. Noire и Max Payne 3 ч.
Терабитное облако: Backblaze запустила S3-хранилище B2 Overdrive для рабочих нагрузок ИИ и HPC 3 ч.
В России взлетел спрос на системы защиты от утечек данных 4 ч.
«Выглядит как игра, в которую играет Джимми из GTA V»: геймплей шпионского боевика MindsEye от студии экс-президента Rockstar не впечатлил фанатов 4 ч.
Две большие RPG и три ремейка за шесть лет: инсайдер рассекретил планы Ubisoft на Assassin’s Creed 5 ч.
Warhorse похвасталась продажами Kingdom Come: Deliverance 2 и раскрыла статистику игроков — Индржих оказался «смертоноснее чумы» 7 ч.
Дональд Трамп заявил, что готов продлить отсрочку на запрет TikTok в США, если сделка не будет заключена к 19 июня 8 ч.
«Росатом сервис» заменил SharePoint на Цитрос Цифровая Платформа» 16 ч.
Со следующего года в школах и детских садах ОАЭ всех детей начнут готовить к ИИ-будущему 18 ч.
В Кувейте объявили майнинг криптовалют вне закона — власти проводят обыски в домах у майнеров 04-05 13:47