MWC 2018
2018
Computex
IFA 2018
Anthropic похвалилась, что свежие меры по защите ИИ-моделей от дистилляции сработали — объём данных, которые конкуренты могут извлечь из Claude для обучения собственных ИИ-моделей, уменьшен в 10–100 раз. Новые механизмы безопасности также помогли выявить и заблокировать десятки тысяч учётных записей, связанных с попытками извлечения данных.
Источник изображений: anthropic.com
Дистилляция моделей стала серьёзной проблемой для ведущих разработчиков ИИ на фоне обострения конкуренции между американскими и китайскими лабораториями. Эта практика позволяет конкурентам быстрее и с меньшими затратами воспроизводить возможности передовых систем, указали крупнейшие в США игроки: Anthropic, OpenAI и Google. Защитные механизмы, ограничивающие доступ к механизмам рассуждений Claude, привели к тому, что попытки незаконного извлечения данных резко сократились: «число токенов рассуждений, извлекаемых в ходе дистилляции», стало «в 10–100 раз меньше, чем раньше».
Anthropic добилась этого результата, усложнив применение прокси-сетей, которые ранее использовались, чтобы многократно считывать защищённые средства рассуждений Claude; это позволило блокировать попытки извлечения данных и создать препятствия для масштабных атак с дистилляцией данных. Данная система, подчеркнули в Anthropic, «обладает практически такой же надёжностью, что и системы, не позволяющие Claude помогать в создании биологического оружия» — при этом «частота ложноположительных срабатываний составляет менее 0,1 %».
Компания заблокировала несколько десятков тысяч учётных записей, которые связала с атаками с дистилляцией. В качестве примера она напрямую указала китайский стартап Z.ai, также известный как Zhipu — он при разработке модели GLM-5.3 якобы пытался перехватывать ответы Claude. Подобные действия, заявили в Anthropic, создают угрозу национальной безопасности. В Z.ai на обвинения не ответили.
Источник:
