Сегодня 13 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic заплатит до $15 000 хакерам, которые найдут уязвимости в её ИИ-системах

Компания Anthropic объявила о запуске расширенной программы поиска уязвимостей, предлагая сторонним специалистам по кибербезопасности вознаграждение до 15 000 долларов за выявление критических проблем в своих системах искусственного интеллекта.

 Источник изображения: Copilot

Источник изображения: Copilot

Инициатива направлена на поиск «универсальных методов обхода», то есть способов взлома, которые могли бы последовательно обходить меры безопасности ИИ в таких областях высокого риска, как химические, биологические, радиологические и ядерные угрозы, а также в области киберпространства. Как сообщает ресурс VentureBeat, компания Anthropic пригласит этичных хакеров для проверки своей системы ещё до её публичного запуска, чтобы сразу предотвратить потенциальные эксплойты, которые могут привести к злоупотреблению её ИИ-системами.

Интересно, что данный подход отличается от стратегий других крупных игроков в области ИИ. Так, OpenAI и Google имеют программы вознаграждений, но они больше сосредоточены на традиционных уязвимостях программного обеспечения, а не на специфических для ИИ-индустрии эксплойтах. Кроме того, компания Meta недавно подверглась критике за относительно завуалированную позицию в области исследований безопасности ИИ. Напротив, явная нацеленность Anthropic на открытость устанавливает новый стандарт прозрачности в этом вопросе.

Однако эффективность программ поиска уязвимостей в решении всего спектра проблем безопасности ИИ остаётся спорной. Эксперты отмечают, что может потребоваться более комплексный подход, включающий обширное тестирование, улучшенную интерпретируемость и, возможно, новые структуры управления, необходимые для обеспечения глобального соответствия систем искусственного интеллекта человеческим ценностям.

Программа стартует как инициатива по приглашению (закрытое тестирование) в партнёрстве с известной платформой HackerOne, но в будущем Anthropic планирует расширить программу, сделав её открытой и создав отдельную независимую модель для отраслевого сотрудничества в области безопасности ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
AMD FSR 4, улучшения графики и оптимизации: для Black Myth: Wukong вышел первый за полгода новый патч 57 мин.
Журналисты показали, как волшебное приключение Everwild от авторов Sea of Thieves выглядело незадолго до отмены 2 ч.
OpenAI определила эпоху ИИ и стала уникальной компанией в истории Кремниевой долины 3 ч.
xAI будет создавать виртуальные миры для игр и обучения роботов 9 ч.
Пользователи ChatGPT снова могут удалять свои чаты безвозвратно 12-10 12:08
Арт-директор Halo покинул студию после 17 лет работы и намекнул на проблемы в команде разработчиков 12-10 10:33
Один из основателей ИИ-стартапа Thinking Machines переметнулся к Марку Цукербергу 12-10 08:17
Apple завершила поддержку своего бесплатного видеоредактора Clips 12-10 06:28
Новая статья: CloverPit — добро пожаловать в яму. Рецензия 12-10 00:07
Хакерская группировка объявила о взломе Nintendo — похищены файлы выпущенных и грядущих игр 11-10 19:32
Microsoft запустила новые облачные регионы в Малайзии и Индонезии и откроет дополнительные в Индии и на Тайване 2 ч.
«Инферит» представил российские 2U-серверы для ИИ на базе Intel Xeon Emerald Rapids 2 ч.
OpenAI растёт быстрее всех — но теперь никто не понимает, кому она принадлежит 2 ч.
Apple уже работает над новыми AirPods Pro и AirPods 5 — они получат чип H3 3 ч.
IBM представила ускоритель Spyre Accelerator для ИИ-инференса 3 ч.
Intel начала сворачивать поддержку ускорителей Ponte Vecchio и Arctic Sound — они вышли всего два года назад 4 ч.
Умные очки Apple будут работать в разных режимах при подключении к Mac и iPhone 5 ч.
Анонсирован защищённый смартфон Oukitel WP58 Pro с батареей на 10 000 мА·ч и двумя кемпинговыми фонариками 6 ч.
«Зелёные» надежды стали пеплом: американские ЦОД активно переходят на питание от угольных электростанций из-за спроса на ИИ 6 ч.
Китайские учёные создали память толщиной в атом, интегрируемую прямо на кристалл процессора 6 ч.