Сегодня 22 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic перекрыла лазейку для клонирования Claude — дистиллировать модели стало в 10–100 раз труднее

Anthropic похвалилась, что свежие меры по защите ИИ-моделей от дистилляции сработали — объём данных, которые конкуренты могут извлечь из Claude для обучения собственных ИИ-моделей, уменьшен в 10–100 раз. Новые механизмы безопасности также помогли выявить и заблокировать десятки тысяч учётных записей, связанных с попытками извлечения данных.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

Дистилляция моделей стала серьёзной проблемой для ведущих разработчиков ИИ на фоне обострения конкуренции между американскими и китайскими лабораториями. Эта практика позволяет конкурентам быстрее и с меньшими затратами воспроизводить возможности передовых систем, указали крупнейшие в США игроки: Anthropic, OpenAI и Google. Защитные механизмы, ограничивающие доступ к механизмам рассуждений Claude, привели к тому, что попытки незаконного извлечения данных резко сократились: «число токенов рассуждений, извлекаемых в ходе дистилляции», стало «в 10–100 раз меньше, чем раньше».

Anthropic добилась этого результата, усложнив применение прокси-сетей, которые ранее использовались, чтобы многократно считывать защищённые средства рассуждений Claude; это позволило блокировать попытки извлечения данных и создать препятствия для масштабных атак с дистилляцией данных. Данная система, подчеркнули в Anthropic, «обладает практически такой же надёжностью, что и системы, не позволяющие Claude помогать в создании биологического оружия» — при этом «частота ложноположительных срабатываний составляет менее 0,1 %».

Компания заблокировала несколько десятков тысяч учётных записей, которые связала с атаками с дистилляцией. В качестве примера она напрямую указала китайский стартап Z.ai, также известный как Zhipu — он при разработке модели GLM-5.3 якобы пытался перехватывать ответы Claude. Подобные действия, заявили в Anthropic, создают угрозу национальной безопасности. В Z.ai на обвинения не ответили.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Хакеры могли взломать главную криминальную базу ФБР — под угрозой данные полиции всей Америки 3 ч.
Одна игра заняла четверть сети: релиз GTA VI вызвал рекордный всплеск трафика у крупнейшего провайдера США 3 ч.
Новая статья: Cop Bastard — симулятор крутого парня. Рецензия 21 ч.
Персонажи с памятью и миры под управлением ИИ — Ubisoft создала Motherbrain для внедрения ИИ в игры 21-11 14:38
Из систем суперкомпьютера Fugaku украдены сотни закрытых ключей для доступа к другим суперкомпьютерам и облакам 21-11 14:24
Биткоин рухнул до двухлетнего минимума — от рекордных $126 000 не осталось и половины 21-11 10:53
Новая статья: Tanuki: Pon’s Summer — самая очаровательная версия Японии. Рецензия 21-11 00:04
Запуск GTA VI установил абсолютный рекорд индустрии развлечений — 32 миллиона проданных копий и $3,79 миллиарда выручки 20-11 23:48
В Steam выйдет самое полное издание «Дальнобойщиков 3: Покорение Америки» с поддержкой русского языка и недоступным прежде контентом 20-11 22:11
«Включить Bluetooth», «убрать звук», «тёмный режим»: поиск Windows 11 превратился в пульт управления ПК 20-11 21:24