Сегодня 09 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic перекрыла лазейку для клонирования Claude — дистиллировать модели стало в 10–100 раз труднее

Anthropic похвалилась, что свежие меры по защите ИИ-моделей от дистилляции сработали — объём данных, которые конкуренты могут извлечь из Claude для обучения собственных ИИ-моделей, уменьшен в 10–100 раз. Новые механизмы безопасности также помогли выявить и заблокировать десятки тысяч учётных записей, связанных с попытками извлечения данных.

 Источник изображений: anthropic.com

Источник изображений: anthropic.com

Дистилляция моделей стала серьёзной проблемой для ведущих разработчиков ИИ на фоне обострения конкуренции между американскими и китайскими лабораториями. Эта практика позволяет конкурентам быстрее и с меньшими затратами воспроизводить возможности передовых систем, указали крупнейшие в США игроки: Anthropic, OpenAI и Google. Защитные механизмы, ограничивающие доступ к механизмам рассуждений Claude, привели к тому, что попытки незаконного извлечения данных резко сократились: «число токенов рассуждений, извлекаемых в ходе дистилляции», стало «в 10–100 раз меньше, чем раньше».

Anthropic добилась этого результата, усложнив применение прокси-сетей, которые ранее использовались, чтобы многократно считывать защищённые средства рассуждений Claude; это позволило блокировать попытки извлечения данных и создать препятствия для масштабных атак с дистилляцией данных. Данная система, подчеркнули в Anthropic, «обладает практически такой же надёжностью, что и системы, не позволяющие Claude помогать в создании биологического оружия» — при этом «частота ложноположительных срабатываний составляет менее 0,1 %».

Компания заблокировала несколько десятков тысяч учётных записей, которые связала с атаками с дистилляцией. В качестве примера она напрямую указала китайский стартап Z.ai, также известный как Zhipu — он при разработке модели GLM-5.3 якобы пытался перехватывать ответы Claude. Подобные действия, заявили в Anthropic, создают угрозу национальной безопасности. В Z.ai на обвинения не ответили.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«Лаборатория Числитель» выпустила платформу «Штурвал ML/AI» для ML- и AI-нагрузок в Kubernetes 6 ч.
Роботов с ИИ оказалось легко обмануть: искажённая картинка заставляет их легко выполнять опасные команды 9 ч.
Новая статья: Cairn — госпожа горных дорог. Рецензия 08-11 00:11
Новая статья: Gamesblender № 801: песчаная TES VI: Sentinel, новый шутер Джона Ромеро и Xbox в крокодиле 07-11 23:37
У клавиатуры iPhone нашёлся список из 100 тыс. запретных слов — но набирать их всё равно можно 07-11 15:14
Просто деньги очень нужны: Anthropic не откажется от IPO на фоне биржевого обвала 07-11 15:06
Китайский ИИ почти догнал секретную модель OpenAI во взломе сетей — и оказался дешевле 07-11 13:59
Ноябрьские игровые релизы грозят опустошить офисы — сотрудники массово берут выходные 07-11 09:47
Новая статья: Stygian: Outer Gods — лавкрафтианский кошмар. Опять. Рецензия 07-11 00:07
Бывший босс PlayStation объяснил, почему спустя 11 лет Sony так и не выпустила ни ремейк, ни сиквел Bloodborne 06-11 22:07
Авиасообщение в США, наконец, перестанет зависеть от дискет 4 ч.
Новая статья: Мастерская локальных ИИ: FLUX 3 Image Klein — рамки под контролем 5 ч.
Более сотни протестующих проникли на стройплощадку ЦОД Microsoft в Амстердаме 6 ч.
Nokia: к 2035 году на долю ИИ придётся почти половина мирового сетевого трафика 6 ч.
К европейской суперкомпьютерной программе EuroHPC JU присоединилась Канада 6 ч.
«Хьюстон, у нас проблемы»: возвращение американцев на Луну в 2028 году может сорваться из-за забуксовавшего разработчика скафандров 15 ч.
Старые, неэкологичные авиадвигатели всё более востребованы для электропитания ИИ ЦОД в США 07-11 23:42
Расследование показало, что США разрешили закупать чипы Nvidia несуществующим китайским компаниям 07-11 21:41
WOLED-телевизоры атакует «пиксельная плесень» — выгорание оказалось не единственной проблемой 07-11 16:09
Synology выпустила двухконтроллерную СХД PAS3600 на 12 накопителей SATA 07-11 16:04