Сегодня 30 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → claude fable 5

Ограничения на доступ к ИИ-модели Anthropic Fable 5 будут сняты на следующей неделе

Если более мощная Mythos 5 была недоступна для пользователей на протяжении 15 дней из-за запрета властей США, то ориентированную на широкий круг клиентов ИИ-модель Fable 5 из-под ограничений Anthropic на этой неделе не вывела. Осведомлённые источники утверждают, что это случится на следующей неделе. Доступ к Mythos 5 для доверенных пользователей был восстановлен в пятницу.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Как отмечает Axios, переговоры Anthropic с американскими чиновниками на эту тему будут продолжаться и в выходные, поэтому доступ к Fable 5 может быть восстановлен уже на следующей неделе. Если более мощная Mythos 5, даже с учётом некоторых защитных механизмов, изначально была доступна лишь ограниченному кругу из примерно 200 доверенных компаний и организаций, то Fable 5 около трёх дней оставалась в широком доступе, поскольку разработчики предусмотрели для неё более серьёзные защитные механизмы. Впрочем, по некоторым данным, кто-то из пользователей нашёл способы их обхода, что отчасти и послужило причиной ограничения доступа к обеим моделям.

По информации Axios, среди американских ключевых ведомств только Пентагон и АНБ ещё не вынесли своего вердикта о безопасности возвращения Fable 5 в открытый доступ, а остальные правительственные структуры считают её достаточно безопасной для этого. Источник отмечает, что уладить спор между правительством США и Anthropic вокруг безопасности данных ИИ-моделей активно помогали министр торговли Говард Лютник (Howard Lutnick) и министр финансов Скотт Бессент (Scott Bessent).

Несмотря на ограниченный период свободного доступа к Fable 5, данная ИИ-модель успела завоевать высокие оценки среди компаний, активно внедряющих искусственный интеллект в свои бизнес-процессы. Правда, после блокировки доступа 12 июня им пришлось срочно искать замену Fable 5, многие даже обратились к альтернативам китайского происхождения. На каких условиях Fable 5 вернётся, пока не уточняется. Первоначально она была доступна подписчикам некоторых планов семейства Claude без доплаты, но будет ли обеспечен такой порядок в дальнейшем, сказать сложно. Сейчас OpenAI и Anthropic недовольны тем, что каждая новая ИИ-модель отдельно проверяется правительством США на безопасность, поскольку это затягивает процесс выхода новинок на рынок, который стремительно развивается.

Отключить доступ иностранцев к передовым моделям Anthropic пришлось по наводке главы Amazon

Власти США на днях решили, что находящаяся в открытом доступе передовая ИИ-модель Anthropic Fable 5 недостаточно хорошо защищена от злоумышленников, а потому иностранцев нужно лишить этого доступа. Anthropic перестраховалась и запретила работать с моделью всем пользователям. Как выясняется, тревогу в этой сфере поднял глава Amazon.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По информации The Wall Street Journal, именно генеральный директор Amazon Энди Джесси (Andy Jassy) сообщил членам американского правительства, что исследователям этой компании удалось найти способ снять ограничения, предусмотренные Anthropic, чтобы убедиться в возможности использования ИИ-модели Fable 5 для реализации кибератак. Собрав совещание на эту тему, чиновники решили, что надёжнее всего будет перекрыть доступ к Fable 5 для иностранных правительственных структур, компаний и частных лиц. Решение было подкреплено на высшем уровне — его утвердил президент США Дональд Трамп (Donald Trump).

В пятницу между американскими чиновниками и генеральным директором Anthropic Дарио Амодеи (Dario Amodei) состоялся телефонный разговор. Компания была вынуждена пойти на предлагаемые властями США ограничения, но выразила своё несогласие с подобным решением. По факту, Anthropic сделала больше, чем от неё требовалось, перекрыв доступ всем пользователям не только к Fable 5, но и более сильной в части анализа проблем с кибербезопасностью Mythos. Формально, Anthropic лишилась возможности развивать свои ИИ-модели, поскольку многие из её специалистов являются иностранцами.

Представители Amazon заявили, что правительство США часто советуется с компанией в области информационной безопасности. Когда подобный обмен данными происходит, Amazon не раскрывает его содержания. Anthropic подчеркнула, что выявленные специалистами Amazon уязвимости могут быть обнаружены и другими публично доступными ИИ-моделями, и они не дают полного механизма обхода защиты. Компания считает, что существующих мер безопасности достаточно для предотвращения использования злоумышленниками этих уязвимостей. В условиях подготовки к осеннему IPO подобные препятствия для развития ИИ-моделей Anthropic явно не пойдут компании на пользу. У стартапа с весны этого года тлеет конфликт с Пентагоном, но вчерашняя инициатива по блокировке доступа к моделям Anthropic исходила и не от этого ведомства, как поясняют источники.

Исследование Amazon выявило, что особые запросы к Fable 5 позволяют найти с помощью этой модели уязвимости как минимум в четырёх программных продуктах. Сторонние эксперты считают, что выявляемые уязвимости особой опасности с точки зрения кибербезопасности не представляют. Хотя аналогичные слабые места в ПО можно выявить и с помощью других моделей, именно решения Anthropic позволяют генерировать вредоносный программный код, использующий эти уязвимости для реализации злонамеренных действий. Нет никаких свидетельств того, что специалистам Amazon удалось продвинуться в этом сценарии до конечной цели. Более мощная модель Mythos распространялась Anthropic предельно осторожно, но в итоге это не уберегло компанию от очередных претензий со стороны властей США.

Anthropic извинилась за непрозрачность в вопросах безопасности Claude Fable 5

Anthropic принесла извинения, что установила скрытые ограничения на работу своей модели искусственного интеллекта Claude Fable 5, которые мешают деятельности исследователей, как, впрочем, и конкурентов, разрабатывающим собственные системы. Компания пообещала сменить курс и стать более прозрачной в вопросах ограничений, даже если Fable будет отклонять больше запросов.

 Источник изображения: anthropic.com

Источник изображения: anthropic.com

Claude Fable 5 стала первой ИИ-моделью класса Mythos — Anthropic охарактеризовала их как слишком опасные для выпуска в открытый доступ. Разработчик заявил, что устранил некоторые из этих угроз, запретив модели отвечать на запросы по некоторым темам «высокого риска». Это сделано также для защиты от дистилляции — метода обучения меньших моделей ИИ на ответах крупных. При выявлении попыток дистилляции модель, отметили в Anthropic, ранее намеренно давала ответы более низкого качества. И пользователи же не знали о срабатывании средства защиты или о понижении качества ответов.

Теперь же компания решила изменить свой подход: при обнаружении попыток дистилляции ответы будут перенаправляться на Claude Opus 4.8 — предыдущую флагманскую модель компании, — и пользователь каждый раз будет получать соответствующее уведомление. Аналогичная схема действительна и при ответах на вопросы в областях высокого риска: таких как биология, химия и кибербезопасность. Если соответствующие запросы не блокируются полностью, то они делегируются Opus 4.8.

«Видимые меры можно проверить, поэтому они должны быть надёжными, а на их правильную настройку требуется время. Невидимые можно нацелить более узко, что позволяет нам быстро выпускать продукт с очень небольшим числом ложных срабатываний. По этой причине мы выбрали невидимые меры защиты — и этот компромисс был неправильным. Вы должны иметь представление о мерах защиты, которые мы используем, и о том, почему. Приносим извинения за то, что не смогли найти правильный баланс», — заявили в Anthropic.

Скоро стримеры окажутся не у дел — Claude Fable 5 преуспела в прохождении игр

Студия искусственного интеллекта Anthropic, создавшая одну из сильнейших больших языковых моделей в мире, представила свою последнюю разработку — Claude Fable 5. В своём блоге компания описывает новое «увлечение» модели — прохождение видеоигр с использованием машинного зрения. Модель показывает неплохие результаты, если не брать в расчёт чудовищный расход токенов.

 Источник изображения: Anthropic

Источник изображения: Anthropic

В представленном Anthropic ролике Claude Fable 5 запускает игру Pokemon FireRed и играет в неё, прокачивая Чаризарда до запредельного уровня и сокрушая всех врагов. В некоторых моментах она случайным образом оживляет покемонов низкого уровня, чтобы позволить им быть уничтоженными с одного хода. Наткнулась ли она на эту возможность сама или просто собрала информацию из интернета, остаётся только гадать.

Вероятнее всего, это всего лишь внутреннее испытание, которое команда использовала для стресс-тестирования модели зрения, а не серьёзный пример применения. В реальности никто не станет тратить столько токенов, чтобы заставить ИИ играть в Pokemon. Пример демонстрирует, насколько модель способна обрабатывать визуальную информацию и либо адаптироваться к ней в реальном времени, либо дополнять её контекстом из других источников.

Пользователи Сети по-разному отреагировали на опубликованный ролик. «Я очень рад, что ИИ проходит игры за меня, так что у меня больше времени на мытьё посуды и работу в литиевых шахтах», — язвительно прокомментировал достижение Claude Fable 5 пользователь с ником @nopenope-j5s.

Anthropic представила Claude Fable 5 — «безопасную версию» той самой нашумевшей Mythos

В начале месяца Anthropic расширила доступность своей самой мощной ИИ-модели Claude Mythos, которая позволяет эффективно искать уязвимости в информационной инфраструктуре, для 150 организаций из 15 стран. Теперь же компания выпустила Claude Fable 5 — более «безопасную» версию Mythos, ориентированную на потребительский рынок.

 Источник изображений: Anthropic

Источник изображений: Anthropic

В Fable 5 разработчики сохранили высокую производительность в области генерации программного кода и рассуждений, но ввели ряд строгих ограничений для обеспечения должного уровня кибербезопасности. Anthropic опасалась, что Mythos может использоваться хакерами для поиска уязвимостей и проведения атак на критическую инфраструктуру. Поэтому в Fable 5 имеются ограничения. В случаях, когда чат-боту будут задаваться вопросы, например, связанные с кибербезопасностью, биологией или химией, ответы будут генерироваться менее продвинутой моделью Claude Opus 4.8. По данным Anthropic, необходимость переключения на Claude Opus 4.8 возникает сравнительно редко: более 95 % пользовательских сессий обрабатываются непосредственно Fable 5 без задействования резервной модели.

Аналитическая компания Hex сообщила, что Fable стала первой моделью, которая получила 90% в их основном бенчмарке для сложных и длительных аналитических задач, продемонстрировав сильное суждение в самых сложных вопросах. Платформа Base44 отметила, что модель превосходно справляется с вызовом инструментов и лучше других пишет полноценные приложения с одной попытки. Платформа Genspark заявила, что Fable превзошла все остальные алгоритмы в их тестах, показав значительно лучшие результаты в дизайне пользовательских интерфейсов и программировании игр.

Fable 5 будет доступна через Claude API и корпоративные тарифные планы, в рамках которых взимается плата за количество использованных токенов. До 22 июня алгоритм включён в тарифы Pro, Max, Team и Enterprise без дополнительной платы. После этого Anthropic исключит ИИ-модель из этих тарифов и будет взимать плату в зависимости от количества используемых токенов. Параллельно Anthropic развёртывает новую модель Mythos 5 для организаций, которые уже получили доступ к Mythos ранее. Стоимость использования Fable 5 и Mythos 5 составляет $10 за 1 млн входных токенов и $50 за 1 млн выходных токенов, что вдвое выше стоимости использования Opus 4.8.

Из-за опасений по поводу того, что Mythos может стать оружием в руках киберпреступников, Anthropic подвергла классификаторы модели внутреннему стресс-тестированию с попытками взлома и обхода защитных механизмов перед выпуском Fable 5. В результате разработчиком не удалось выявить вариантов взлома за более чем 1000 часов тестирования. После этого к тестированию подключились внешние организации из числа партнёров Anthropic, но и им не удалось найти универсальных вариантов взлома алгоритма.

Тем не менее нельзя исключать, что хакеры попытаются обойти защитные механизмы Fable 5. Поэтому Anthropic будет требовать от клиентов хранить весь трафик в течение 30 дней, даже если ранее было заключено соглашение, не предусматривающее хранения каких-либо данных. Anthropic пообещала не использовать данные клиентов для обучения ИИ-моделей. В компании заявили, что эти данные могут оказаться полезными для «защиты от сложных и новых атак», а также «для выявления и уменьшения количества ложных срабатываний». Такой подход может создать отраслевой прецедент, при котором доступ к передовым ИИ-моделям будет сопровождаться обязательным требованием по хранению данных под предлогом обеспечения безопасности.

Выпуск Fable 5 состоялся вскоре после того, как Anthropic призвала крупнейшие ИИ-компании согласовать механизмы контроля за развитием наиболее мощных моделей. В компании считают, что прогресс в области ИИ происходит настолько быстро, что в будущем системы могут получить возможность самостоятельно улучшать собственные алгоритмы.


window-new
Soft
Hard
Тренды 🔥
Oracle пообещала сделать управление развитием MySQL более открытым, но сообщество требует гарантий 2 мин.
В WhatsApp появились никнеймы для скрытия телефонного номера — резервирование уже доступно 12 мин.
Календарь релизов — 29 июня – 5 июля: Undergrounded, Monopoly: Star Wars Heroes vs. Villains 2 ч.
Власти США предложили $10 млн за информацию о хакерах, атакующих пользователей WhatsApp и Signal 3 ч.
AMD выпустила драйвер Radeon с решением проблем с установкой на Windows 10 3 ч.
Российский суд снова оштрафовал Telegram — на этот раз на 3,5 млн рублей 5 ч.
«Просыпайся, самурай. Время смотреть сиквел»: новый трейлер Cyberpunk: Edgerunners 2 взбудоражил фанатов 6 ч.
Microsoft по-тихому ускорила «Проводник» в июньском обновлении Windows 11 6 ч.
Слухи: неопределённость вокруг Xbox поставила будущее инди-игр в Game Pass под угрозу 8 ч.
Роботов научат осваивать новые профессии без людей — достаточно ИИ и симуляции 9 ч.