Сегодня 07 ноября 2024
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic заплатит до $15 000 хакерам, которые найдут уязвимости в её ИИ-системах

Компания Anthropic объявила о запуске расширенной программы поиска уязвимостей, предлагая сторонним специалистам по кибербезопасности вознаграждение до 15 000 долларов за выявление критических проблем в своих системах искусственного интеллекта.

 Источник изображения: Copilot

Источник изображения: Copilot

Инициатива направлена на поиск «универсальных методов обхода», то есть способов взлома, которые могли бы последовательно обходить меры безопасности ИИ в таких областях высокого риска, как химические, биологические, радиологические и ядерные угрозы, а также в области киберпространства. Как сообщает ресурс VentureBeat, компания Anthropic пригласит этичных хакеров для проверки своей системы ещё до её публичного запуска, чтобы сразу предотвратить потенциальные эксплойты, которые могут привести к злоупотреблению её ИИ-системами.

Интересно, что данный подход отличается от стратегий других крупных игроков в области ИИ. Так, OpenAI и Google имеют программы вознаграждений, но они больше сосредоточены на традиционных уязвимостях программного обеспечения, а не на специфических для ИИ-индустрии эксплойтах. Кроме того, компания Meta недавно подверглась критике за относительно завуалированную позицию в области исследований безопасности ИИ. Напротив, явная нацеленность Anthropic на открытость устанавливает новый стандарт прозрачности в этом вопросе.

Однако эффективность программ поиска уязвимостей в решении всего спектра проблем безопасности ИИ остаётся спорной. Эксперты отмечают, что может потребоваться более комплексный подход, включающий обширное тестирование, улучшенную интерпретируемость и, возможно, новые структуры управления, необходимые для обеспечения глобального соответствия систем искусственного интеллекта человеческим ценностям.

Программа стартует как инициатива по приглашению (закрытое тестирование) в партнёрстве с известной платформой HackerOne, но в будущем Anthropic планирует расширить программу, сделав её открытой и создав отдельную независимую модель для отраслевого сотрудничества в области безопасности ИИ.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Не прошло и пяти лет: режиссёрская версия Death Stranding неожиданно вышла на Xbox, а Kojima Productions завладела правами на франшизу 23 мин.
ИИ-функции в Microsoft Office бесплатными для подписчиков Microsoft 365 25 мин.
Роскомнадзор порекомендовал владельцам сайтов отказаться от CDN-сервиса CloudFlare 2 ч.
Австралия запретит детям до 16 лет пользоваться соцсетями 3 ч.
Количество кибератак на российские банки за год выросло в два раза 3 ч.
Канада запретила деятельность TikTok, но приложение блокировать не стала 3 ч.
«Мы играем по-крупному»: Take-Two продала издательство Private Division со всеми проектами, кроме одного 6 ч.
Microsoft добавила ИИ-помощник Terminal Chat в командную строку Windows 6 ч.
Microsoft Outlook Classic стал ломаться при попытке открыть более 60 писем одновременно 6 ч.
Ретейлеры назвали самые продаваемые игры в российской рознице, а исследование раскрыло траты геймеров на «донаты» 7 ч.
Archer Aviation получила очередной крупный заказ — сотня электрических аэротакси взмоет в небо Японии 27 мин.
Apple обратилась к Foxconn и Lenovo по поводу выпуска ИИ-серверов на чипах M4 Ultra 55 мин.
KIOST построит подводный ЦОД с десятками тысяч серверов у берегов Южной Кореи 2 ч.
SMIC нарастила выручку и прибыль на волне восстановления полупроводниковой отрасли 2 ч.
Ryzen 7 9800X3D разогнали до 6,9 ГГц и добились более 1000 FPS в Counter-Strike 2 и Valorant 3 ч.
Финансовый фотосинтез: Deutsche Telekom направит избытки возобновляемой энергии на майнинг биткоинов 3 ч.
Российские учёные подключили мозг крысы к искусственному интеллекту и научили отвечать на сложные вопросы 4 ч.
Разработан пластырь для точной передачи тактильных ощущений в виртуальных мирах и помощи слабовидящим 5 ч.
Samsung распродаст оборудование для выпуска 100-слойной памяти в Китае 5 ч.
KKR прогнозирует мировой рост расходов на ЦОД до $250 млрд/год 6 ч.