Anthropic разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. По имеющимся данным, она превосходит по возможностям флагманскую Mythos, замедлять её разработку компания не намерена, но и выпускать её в широкий доступ она тоже не станет.
Источник изображения: anthropic.com
Риски наступления серьёзных отрицательных последствий, сопряжённые с работой моделей Anthropic, остаются низкими, настаивают в компании, но уже не настолько низкими, как на момент публикации предыдущего отчёта. Компания была вынуждена повысить общую оценку угроз, связанных с выходом моделей из-под контроля при пессимистических сценариях, с «очень низкой» до просто «низкой», ссылаясь на недавние инциденты в области кибербезопасности.
У моделей появились признаки быстрого роста способностей в автономном режиме проводить исследования и разработку, что может способствовать техническому прогрессу, но и использоваться не по назначению. «В рамках нашего стандартного процесса исследований и разработок мы проводим внутреннее обучение и оценку множества различных экспериментальных версий моделей, которые не планируем выпускать. Model 2 — одна из таких», — заявили в компании изданию Axios.
Anthropic отметила, что Model 2 демонстрирует «заметное улучшение» во многих внутренних задачах. Она наряду с Mythos 5 «активно» используется сотрудниками компании в написании кода, управлении агентами и генерации контента, хотя скачок качества результатов у неё не такой, каким был при переходе от Opus 4.6 к Mythos. «В настоящее время у нас нет планов выпускать эту модель для внешнего использования», — отметили в компании. Создаётся впечатление, что Anthropic становится всё труднее понимать возможности собственных моделей и оценивать связанные с их работой угрозы.