|
Опрос
|
реклама
Быстрый переход
ByteDance запретила своим исследователям дистиллировать ИИ-модели конкурентов
07.08.2026 [17:35],
Сергей Сурабекянц
Основатель китайского технологического гиганта ByteDance запретил исследователям искусственного интеллекта заниматься дистилляцией моделей конкурирующих иностранных компаний. Причиной запрета послужили напряжённые отношения между Вашингтоном и Пекином. Примечательно, что ByteDance не входит в число компаний, которые американские Anthropic и OpenAI обвиняют в использовании своих моделей, что и вызвало угрозы новых санкций со стороны США.
Источник изображения: ByteDance По данным информационного бюллетеня Pekingnology, эта политика действует с 2023 года, и избежание ответных мер со стороны США является потенциальным коммерческим приоритетом. Эти правила вызвали ожесточённые дебаты в ByteDance, чьи лучшие модели были превзойдены более мелкими китайскими лабораториями, что подчёркивает конкурентное давление, с которым сталкивается отрасль. Пекин стремится к созданию более совершенного ИИ с меньшими вычислительными ресурсами. По мнению аналитиков, американские модели в настоящее время предлагают лучшее соотношение цены и качества, но конвергенция, вероятно, продолжится. Ранее Anthropic обвинила Moonshot и ещё ряд китайских фирм, включая DeepSeek, MiniMax Group и Alibaba Group, в несанкционированном использовании её модели для дистилляции, а OpenAI выдвинула аналогичные обвинения против DeepSeek. Под дистилляцией подразумевается метод, когда более старая ИИ-модель, «учитель», используется для обучения более новой модели, «ученика», что позволяет передать ей возможности «учителя» с гораздо меньшими затратами, чем при создании оригинальной модели с нуля. Эта проблема вынудила конкурирующие компании OpenAI, Anthropic и Google к сотрудничеству, чтобы совместными усилиями попытаться пресечь действия китайских конкурентов по предполагаемому использованию данных их передовых моделей для обучения своих. Anthropic удалила из Claude скрытую защиту от дистилляции ИИ-моделей китайскими разработчиками
02.07.2026 [15:33],
Павел Котов
Anthropic заявила, что в обновлении Claude Code от 1 июля из приложения удалён добавленный несколько месяцев назад скрытый код, который призван выявлять других разработчиков систем искусственного интеллекта, пытающихся украсть данные её моделей.
Источник изображения: anthropic.com «Этот эксперимент мы запустили в марте, и он был призван предотвращать злоупотребление учётными записями со стороны неавторизованных реселлеров и защитить от дистилляции. С тех пор компания разработала более эффективные меры защиты, и мы на самом деле давно собирались его удалить», — пояснил инженер Anthropic Тарик Шихипар (Thariq Shihipar). Эксперимент заключался в применении метода стеганографии — сокрытия секретных данных на виду — к контексту системы Claude Code, передаваемому на серверы Anthropic. Код проверял переменную базового URL, используемую для маршрутизации запросов API к шлюзу или прокси-серверу. Если базовый URL переопределяется, код проверяет часовой пояс системы и производит сверку со списком адресов известных китайских лабораторий и других компаний, которые занимаются ИИ, реселлеров учётных записей и доменов шлюзов. «Claude Code незначительно изменяет системный запрос, используя почти невидимые маркеры Unicode. Классификация прокси/шлюза кодируется в предложение, которое выглядит как обычная фраза на английском. В ней скрывается список доменов в форматах XOR и base64. Функция не вредоносная, но это странный выбор для разработчика, рассчитывающего на доверие», — пояснил эксперт под псевдонимом Thereallo. Компания также использовала средства обнаружения с помощью классификаторов и систем поведенческой идентификации, обмен информацией с другими лабораториями ИИ, контроль доступа и контрмеры, затрудняющие использование ответов модели для воспроизведения её поведения. С утечкой исходного кода приложения Claude Code стало известно ещё об одном средстве защиты ИИ Anthropic от дистилляции — включении файла Typescript с пометкой «ANTI_DISTILLATION_CC». При установке этой пометки в запросы по API внедряются фиктивные данные, призванные быть опасными при обучении сторонних моделей. Anthropic обвинила Alibaba в крупнейшей дистилляции Claude для обучения своих ИИ-моделей
25.06.2026 [12:56],
Павел Котов
Американский разработчик систем искусственного интеллекта Anthropic обвинил китайского технологического гиганта Alibaba в незаконном использовании возможностей модели Claude. Этот инцидент, подчеркнули в Anthropic, стал крупнейшей известной атакой подобного рода на компанию, передаёт Reuters со ссылкой на письмо разработчика.
Источник изображения: anthropic.com Действия Alibaba характеризуются как попытка «дистилляции» — обучения менее способной модели ИИ на ответах более способной. Атака производилась в период с 22 апреля по 5 июня и включала более 28,8 млн единиц обмена сообщениями с Claude, которое осуществляли почти 25 000 подставных учётных записей. При помощи дистилляции, говорят в Anthropic, Китай пытается ускорить освоение передовых возможностей Mythos. Кампанию провели операторы, предположительно связанные с Alibaba и её ИИ-отделом Qwen. Свои соображения Anthropic изложила в письме, которое направила американским сенаторам. Компания выразила поддержку усилиям правительства страны в борьбе с кибератаками, включая партнёрство с частными компаниями, которые специализируются на искусственном интеллекте. В феврале Anthropic выдвинула аналогичные обвинения китайским DeepSeek (150 000 единиц обмена сообщениями), Moonshot AI (3,4 млн) и MiniMax (13 млн). Эти атаки, заявил разработчик, становятся всё более «интенсивными и изощрёнными», требуя соответствующих ответных мер. Ранее Пентагон добавил Alibaba в список компаний, связанных с китайской армией, а DeepSeek удалось избежать этой участи, потому что ведомство пытается избежать эскалации напряжённости в отношениях с Пекином. И через два дня после отправки Anthropic письма компания была вынуждена закрыть доступ к своим передовым моделям Mythos и Fable. |