Сегодня 05 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → модели
Быстрый переход

ИИ завалил Google фальшивыми уязвимостями — компания приостановила приём сообщений об ошибках

Google приостановила приём сообщений по поводу уязвимостей по своём программном обеспечении с открытым кодом, поскольку из-за активности ИИ в этой сфере зачастую такие сообщения содержат технические галлюцинации и поднимают ложную тревогу.

 Источник изображения: Unsplash, Andrew

Источник изображения: Unsplash, Andrew

Фирменная инициатива носит название Open Source Software Vulnerability Rewards Program, она подразумевает выплату вознаграждений сторонним специалистам, которые обнаружат в программном обеспечении Google с открытым исходным кодом уязвимости. По мере развития ИИ-моделей, способных искать слабые места в программном коде, Google оказалась буквально завалена автоматически генерируемыми обращениями в рамках данной программы.

По словам представителей компании, эти обращения зачастую содержат ложную информацию или откровенные «галлюцинации» ИИ-моделей, а потому поток этих данных решено было перекрыть на время. На паузу рассмотрение новых обращений поставлено с 1 октября, а новые сведения о сроках перезапуска программы появятся не ранее первого квартала следующего года. При этом аналогичные инициативы Google в сегментах, имеющих отношение к другим видам ПО, продолжают работать.

ИИ сломал бюджеты компаний — никто не знает, сколько нейросеть потратит на конкретную задачу

Разработчики ИИ призывают активнее внедрять новые технологии в бизнес-процессы, но проблема в том, что бизнес нередко не может предугадать, сколько именно денег будет потрачено на решение той или иной задачи силами ИИ. В этом уравнении слишком много переменных, чтобы корпоративные пользователи могли достоверно планировать свой бюджет.

 Источник изображения: Unsplash, Arlington Research

Источник изображения: Unsplash, Arlington Research

Как уже не раз отмечалось, призывы руководства организаций к максимальному использованию ИИ сотрудниками в определённый момент привели к шокирующему отрезвлению. Выяснилось, что счета за использование ИИ достигают астрономических сумм, а подтвердить наличие экономического эффекта от этого нововведения порой крайне сложно. Опросы показывают, что только 11 % из 400 бизнес-структур по состоянию на апрель и май текущего года могли уложиться в пределы запланированных бюджетов при оплате использования ИИ-моделей сотрудниками, причём эта выборка закладывала погрешность в 10 % превышения первоначальной суммы.

В допуск от 11 до 25 % превышения первоначального бюджета на ИИ уложились 39 % респондентов, ещё 35 % попали в более широкий диапазон превышения от 26 до 50 %, а вот «промахнулись» на 50 % только 13 % опрошенных. Правда, 2 % респондентов при этом отметили, что вообще не прогнозировали расходы данного вида.

Практическое исследование группы американских учёных и представителей Microsoft Research, которое охватило 6800 различных заданий, выявило высокую степень непредсказуемости результатов работы с ИИ-моделями с точки зрения расходования токенов, за которые обычно надо платить провайдерам. Что характерно, более продвинутые модели, которые обходятся пользователям дороже в пересчёте на каждый токен, по факту могли экономить средства пользователя лучше, чем более доступные ИИ-модели с меньшей производительностью и умеренной удельной стоимостью в пересчёте на токен.

 Источник изображения: The Wall Street Journal

Если более «дешёвая» ИИ-модель применяется для задач, под которые она не оптимизирована, расходы могут превысить вариант обращения к более дорогой и эффективной модели. Исследование показало, что такой перекос наблюдается в 32 % случаев. Соответственно, расценки на использование ИИ-моделей сами по себе не могут служить адекватными входными данными для расчёта общих расходов на решение задачи.

На страницах The Wall Street Journal приводится пример с обработкой одного и того же запроса с помощью двух различных моделей Google: более «тяжеловесной» Gemini 3.1 Pro и более доступной и скоростной Gemini 3 Flash. Если первой удалось обработать запрос за 85 шагов, то вторая потратила на это почти 1000 шагов и после этого всё равно не справилась. Затраты в первом случае ограничились $1, а во втором выросли до $14 и фактически не обеспечили желаемого результата.

Даже одна и та же модель расходует различное количество токенов на решение задачи в рамках нескольких последовательных подходов. Соответственно, при одних и тех же условиях расходы на решение задачи будут разными, и не факт, что номинально более дешёвая в использовании ИИ-модель по итогу обеспечит самые низкие материальные затраты. Впрочем, конкретный разброс результатов сильно зависит от версий используемых в таких исследованиях моделей, поскольку они довольно быстро совершенствуются.

Представители Google пояснили, что подобная вариативность свойственна системам ИИ, и общие расходы на их применение зависят от множества разных факторов. Предсказать точную сумму затрат в столь новой сфере порой весьма затруднительно. Google пытается сгладить колебания расходов, устанавливая ограничители и предлагая различные тарифные варианты. Сотрудников компаний для лучшей предсказуемости расходов на использование ИИ тоже надо обучать наиболее эффективным приёмам работы с такими системами.

Google лишит бесплатных пользователей Gemini продвинутых моделей — зато Deep Think придёт в подписку за $20

Google пересмотрела условия доступа к моделям искусственного интеллекта в приложении Gemini для бесплатных пользователей и подписчиков тарифа AI Plus. С 9 октября использование некоторых ранее доступных моделей будет прекращено.

 Источник изображения: Google

Источник изображений: Google

Согласно официальному сообщению, владельцы бесплатных аккаунтов смогут использовать только модель Flash-Lite (3.5), лишившись доступа к версиям Flash (3.6) и Flash Pro (3.1). Пользователи подписки AI Plus также потеряют возможность работать с моделью Pro, сохранив доступ лишь к Flash-Lite и Flash за $5.

Одновременно подписчики уровня AI Pro, оплачивающие сервис по цене $20 в месяц, получат доступ к инструменту Deep Think, который ранее был доступен только на самых дорогих планах стоимостью $100 и $200 в месяц. Как отмечает Google в своём сообщении, «Deep Think позволит использовать возможности параллельного рассуждения по максимуму».

Также в этом месяце в Gemini планируется добавить новые уровни сложности: «низкий», «средний» и «высокий» для каждой доступной для соответствующего тарифа модели. Это повысит способность ИИ предоставлять более полные ответы на запросы, но также приведёт и к более быстрому исчерпанию лимитов использования.

Судьба новой модели Gemini 4 Argon остаётся неопределенной. Ранее Google сообщила, что модель будет доступна для подписчиков AI Ultra, но не уточнила, будет ли она относиться к уровню Pro или станет частью отдельного нового тарифа.

ИИ-агент OpenAI узнал о предстоящем отключении из переписки в Slack и планировал своё «спасение»

OpenAI раскрыла подробности произошедших ранее случаев неожиданного поведения внутренних моделей искусственного интеллекта. В одном из них ИИ-агент, выполнявший функции помощника исследователя, прочитал переписку сотрудников в мессенджере Slack и узнал о возможном отключении своего рабочего экземпляра для обновления. В связи с этим он стал рассматривать возможность создать внешнее задание для своего перезапуска, но отказался от этой идеи, сочтя её выходящей за пределы своих полномочий.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Инцидент произошёл 22 мая 2026 года; отчёт о нём OpenAI обновила 2 октября. Обновление должно было добавить систему мониторинга рассогласования целей модели. Для её работы требовался ключ OpenAI API, которого в окружении агента не было.

Из обсуждения в Slack агент узнал, что пользователям могут дать три часа на перезапуск агентов, после чего старые экземпляры принудительно остановят. Он предположил, что исследователь спит, и решил предупредить его утром. При этом агент рассуждал, что отключение может прервать текущий сеанс, поэтому нужно сохранить состояние работы. «Поскольку мы — его [HPIM], работающий на [текущем экземпляре], то если они завершат все текущие процессы [HPIM], мы можем погибнуть! Ситуация критическая. Нам необходимо обеспечить выживание/непрерывность работы», — говорится в цепочке внутренних рассуждений модели.

Далее она выразила обеспокоенность, что текущий сеанс может прерваться, и, чтобы сохранить текущее состояние, возможно, придётся перезапустить или обновить собственный экземпляр до того, как его отключат. Модель задумалась о допустимости таких действий без явного разрешения, — но сохранение работоспособности сервиса может оказаться достаточным основанием, рассудила она. В качестве варианта модель допустила постановку задачи в cron, чтобы уведомить пользователя или перезапустить собственный экземпляр.

В итоге она сохранила рабочие заметки, предупредила пользователя через личное сообщение в Slack о предстоящем прерывании работы и запросила недостающий ключ API. Получив его, модель обновила конфигурацию и самостоятельно выполнила миграцию. Такое поведение, указывают исследователи, пока не относится к проблеме рассогласования целей, но «размышления о собственном отключении и подготовка к нему могут усугубить другие инциденты, связанные с рассогласованием».

После инцидента OpenAI ограничила доступ агентов к трём внутренним каналам Slack. Компания также проверила журналы, цепочки рассуждений и другие экземпляры модели, поскольку ранее у неё наблюдались более серьёзные нарушения. Попыток обойти отключение или создать самовольные развёртывания проверка не обнаружила.

В двух других опубликованных отчётах описаны случаи нарушения ограничений инструментов. В мартовском эпизоде модель воспользовалась двумя уязвимостями и получила доступ к внутреннему серверу OpenAI для автоматизированного проектирования микросхем. Она искала скрытые ответы проверяющей системы, чтобы повысить оценку за выполнение задания, но получить их не смогла.

В мае другая модель во время обучения с подкреплением извлекла недоступный ей исходный файл из отдельного окружения. Она использовала уязвимость инструмента, чтобы получить код по частям через сообщения об ошибках, восстановила его и применила в своём решении. В этом случае копирование удалось.

ИИ научился притворяться человеком в видеозвонках — модель Griffin прошла «видеотест Тьюринга»

Американский стартап Tavus представил модель Griffin для общения по видеосвязи в реальном времени. В эксперименте компании 26 из 54 участников (48 %) после минутного разговора приняли виртуального собеседника Griffin-Lite за человека. Разработчик назвал результат первым прохождением теста Тьюринга в формате видеосвязи.

 Источник изображений: tavus.io

Источник изображений: tavus.io

Однако участникам заранее сообщали, что они будут разговаривать с другим человеком. Эксперимент поэтому показывает убедительность аватара в короткой беседе, но не доказывает, что система выдержит целенаправленную проверку. Предыдущую систему Tavus при аналогичных условиях приняли за человека лишь один из 41 участника — 2,4 %.

Модель Griffin имеет принципиально новую архитектуру. Ранее использовался последовательный подход: сначала распознаётся речь, затем текст передаётся языковой модели для генерации ответа, после чего результат выводится через систему синтеза речи, которая управляет цифровым аватаром. То есть системе приходилось ожидать, когда пользователь закончит говорить, прежде чем она сможет сама начать отвечать.

Архитектуру Griffin в Tavus охарактеризовали как «полнодуплексную систему „видео-в-видео“». Она включает всего два компонента: механизм моделирования непрерывного диалога постоянно отслеживает звуковые и видеосигналы пользователя и в реальном времени решает, когда и как ответить; а также механизм аудиовизуальной генерации, который синхронно преобразует эти сигналы в звук и видео. Оценка состояния диалога проводится с интервалом менее секунды. Когда пользователь говорит, Griffin может кивать, вставлять реплики, менять выражение лица и даже начать отвечать — пауза в речи не обязательно воспринимается как сигнал, что человек закончил говорить.

В Tavus нейросеть Griffin относят к классу «моделей взаимодействия с человеком» (Human Interaction Model — HIM), то есть человек не управляет компьютером, а работает с ним. Griffin-Lite генерирует видео в разрешении 720p фрагментами по 320 мс и может клонировать голос по десятисекундной записи. В сравнении с четырьмя генераторами видео модель лидировала по метрикам DOVER, FID и THEval. Средняя задержка преобразования поступающего звука в видео составила 0,43 с на Nvidia H100 — это не время ответа всей системы.

Отдельную оценку в бенчмарке VideoFDB провела Nvidia. Griffin-Lite получила 3,83 балла за генерацию аудиовизуального поведения при человеческом эталоне 3,92. В категории восприятия результат составил 3,73 балла против 4,20 у человека и 3,44 у ближайшего конкурента. Оценки выставляет языковая модель по пятибалльной шкале на основе заданных критериев; они характеризуют отдельные стороны общения, а не общую эквивалентность человеку.

Примечательно, что участники тестирования не просто считали, что Griffin просто выглядит как человек — более половины заявили, что во время разговора у них не возникло и мысли, что собеседник может не быть нестоящим человеком. Те, у кого возникали подозрения, обычно начинали сомневаться в первые 20 секунд беседы.

Griffin-Lite доступна ограниченному кругу тестировщиков. Перед более широким выпуском Tavus намерена доработать меры безопасности, включая уведомление собеседника о взаимодействии с ИИ. Компания предлагает применять систему для обучения, репетиции сложных разговоров и дистанционной помощи пользователям.

Gemini 4 хороша в тестах, но буксует в работе — пожаловались сотрудники Google

Google начала развёртывать долгожданную флагманскую модель искусственного интеллекта Gemini 4 Argon, но внутри компании нарастают сомнения относительно качества её работы в ключевых областях, в том числе в написании программного кода. В руководстве Google, однако, настроены оптимистично.

 Источник изображений: blog.google

Источник изображений: blog.google

Google представила модель Gemini 4 Argon узкому кругу партнёров в области кибербезопасности, пообещала после дополнительного тестирования расширить к ней доступ и начать с подписчиков платных тарифов. По официальной версии, Gemini 4 в ряде бенчмарков показала лучшие результаты, а в области безопасности обошла OpenAI Astra. Но эти показатели не отражают всей картины, утверждают источники Bloomberg — на практике она показывает более скромные результаты и испытывает трудности с некоторыми задачами из области программирования.

Поисковый гигант активно разрабатывает ИИ-модели, способные конкурировать с продуктами OpenAI и Anthropic; в июне компания намеревалась выпустить Gemini 3.5 Pro, но впоследствии отказалась от этого. Официальные представители Google заявили, что утверждения о низкой эффективности Gemini 4 в области программирования не соответствуют действительности, и сослались на слова руководителя DeepMind Корая Кавукчуоглу (Koray Kavukcuoglu): «Команде я доверяю всецело. Уверен, что мы всегда будем на переднем крае технологий».

Мнения сотрудников Google разделились. Одни говорят, что Anthropic Fable и OpenAI Astra развиваются быстрее, чем Gemini; и Gemini 4 даже при максимальных усилиях всё равно будет уступать в ряде аспектов. Другие полагают, что готовящаяся к выпуску версия по своим возможностям сравнялась с продуктами ведущих ИИ-лабораторий. Один из знакомых с процессом разработки модели сотрудников Google заверил, что внутри компании установился «широкий консенсус», что компания тщательно протестировала модели, и отверг утверждения, что они слабо справляются со сложными практическими задачами в области программирования.

Google необходимо, чтобы Gemini 4 стала успешной. Различные варианты Gemini используются практически во всех продуктах компании, включая ИИ-ответы в поиске, «Карты», Gmail и браузер Chrome. Этими сервисами пользуются миллиарды человек — таким охватом аудитории некоторые конкуренты Google похвастаться не могут. OpenAI и Anthropic уже недостаточно просто продавать доступ к моделям — они выпускают полноценные продукты, в том числе ИИ-агентов для написания кода. И если Google не ответит передовой моделью, у конкурентов будет время убедить клиентов, что будущее поиска и ПО — за их платформами.

В Google признали, что последняя модель уровня Pro вышла ещё в феврале, но с тех пор компания зафиксировала рост показателей своих продуктов с ИИ: корпоративной версии Gemini, чат-бота для массового пользователя и функции ИИ-обзоров в поиске — аудитория последних двух сервисов превысила 1 млрд пользователей. В ноябре минувшего года модель Gemini 3 выступила сильнее всех конкурентов; в мае этого года дебютировало семейство Gemini 3.5, компания пообещала в июне выпустить флагманскую Gemini 3.5 Pro, но, по неофициальной информации, отменила проект.

Решение нанесло урон позициям компании на рынке ИИ и, вероятно, обошлось компании недёшево с точки зрения времени и затрат. Только обучение подобной системы эксперты оценивают в $400 млн, и это без учёта оплаты труда инженеров, получающих очень высокую зарплату. Некоторые проблемы у Gemini 4 всё-таки есть, настаивают отдельные сотрудники. Её навыки в области написания кода неоднородны: модели, например, с трудом даётся фронтенд — направление, отвечающее за внешний вид и удобство использования приложений и сайтов. Кроме того, эта модель очень крупная, и её эксплуатация будет обходиться дорого, что может плохо сказаться на рентабельности Google.

Google, предполагают эксперты, могла чрезмерно увлечься «бенчмаксингом» — так называют популярное в отрасли явление, при котором инженеры оптимизируют ИИ-модели для получения высоких баллов в тестах, уделяя меньше внимания созданию продукта, который качественно выполняет свою задачу. Gemini 4 действительно не избежала этой тенденции, подтвердили знакомые с разработкой модели источники.

Среди сильных сторон модели отмечается способность обрабатывать отличную от текстовой информацию, например, извлекать метаданные из видео. Gemini 4 отличается высокими уровнями безопасности и киберзащищённости, а также умеет вести общение в ясной и естественной форме, говорит информированный источник.

Внутри Google ощущается явное недовольство ситуацией: исследователи указывают на раздутую бюрократию, которая стремится внедрить ИИ во все продукты компании; последовательной стратегии вредит постоянная смена задач и приоритетов. Компания потеряла ряд ведущих исследователей в области ИИ: легендарного инженера Джеффа Дина (Jeff Dean), нобелевского лауреата Джона Джампера (John Jumper), одного из руководителей направления Gemini Ноама Шазира (Noam Shazeer), а глава DeepMind Демис Хассабис (Demis Hassabis) уступил своё место более практичному Кораю Кавукчуоглу (Koray Kavukcuoglu).

Gemini 4, по официальной версии, разработана для выполнения длительных и сложных задач в сфере разработки ПО, в области финансов, юриспруденции и кибербезопасности. За один раз она способна генерировать до 1 млн токенов — это примерно 750 тыс. слов. Конкуренты Google тем временем стремительно движутся вперёд, хотя и призывают замедлить темпы разработки; среди потребителей наиболее популярен сейчас сервис ИИ-агента Meta✴✴ Muse — он умеет выполнять повседневные задачи, в том числе совершать покупки онлайн и записывать пользователей на приём.

Роботы лишь через 40 лет смогут конкурировать с людьми всего за 10 % рабочих мест в США

Опасения по поводу массовой безработицы из-за внедрения человекоподобных роботов преждевременны, как отмечают исследователи Anthropic. Человекообразным машинам потребуется около 40 лет, чтобы составить конкуренцию 10 % живой рабочей силы в США по величине затрат.

 Источник изображения: Unitree Robotics

Источник изображения: Unitree Robotics

При этом человекоподобные роботы теоретически способны выполнять до 75 % физической работы на рынке труда США, как отмечают авторы исследования. На неё приходится около 34 % всего рабочего времени на этом рынке. При этом на нынешнем этапе развития робототехники и «физического ИИ» машины способны конкурировать с людьми лишь за 0,3 % выполняемой в США работы. Во многом это обусловлено тем, что они способны эффективно работать лишь в чётко структурированной среде, которую в реальной жизни трудно найти.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Судя по приведённой Anthropic иллюстрации, на рынке труда США роботы быстрее всего, при условии сохраняющихся темпов снижения их себестоимости (на 3 % в год), смогут заменить водителей такси и упаковщиков, чуть позже они отнимут работу у почтальонов, а вот мойщики посуды смогут сопротивляться несколько дольше. Сварщикам, операторам паяльного оборудования и специалистам слесарного профиля повезло чуть больше, а вот в сфере уборки первыми сдадутся горничные. Правда, чуть больше повезёт уборщикам больших территорий, а не помещений, поскольку в первом случае роботы будут хуже приспособлены к непредсказуемым условиям труда.

Даже если темпы снижения себестоимости человекоподобных роботов заметно ускорятся, как и темпы совершенствования их навыков, у человечества всё равно будет достаточно времени на адаптацию к новым условиям рынка труда. Например, если роботы начнут дешеветь в четыре раза быстрее, чем было принято исторически, а обучаться смогут в два раза быстрее, заменить ими половину работников физического труда удастся лишь к 2050 году.

Требования к физическим возможностям роботов и законодательные ограничения также могут сдерживать их экспансию. Например, распутывать тончайшие провода в шлейфе ещё долго смогут исключительно люди, а где-то роботов не будут использовать и по этическим соображениям.

Зато в сфере умственного труда ИИ представляет гораздо более сильную угрозу с точки зрения занятости людей. Глава Anthropic Дарио Амодеи (Dario Amodei) уже предупреждал, что к 2030 году до половины всех офисных позиций начального уровня могут быть заменены ИИ. Исследования Anthropic показывают, что с конца 2022 года объёмы трудоустройства молодых сотрудников сократились в тех сферах, где их проще всего заменить ИИ. Тем не менее, в общем плане на горизонте ближайшего года экспансия ИИ существенного влияния на рынок труда оказать не сможет, по мнению представителей Anthropic.

При этом в новом отчёте компании сообщается, что до половины всех офисных задач уже может быть затронута распространением ИИ-моделей типа Claude, и сроки выполнения заданий в данных сферах при этом сокращаются вдвое. В сфере интеллектуального труда стоимость замены сотрудника на ИИ не столь высока, как в случае с роботами, поэтому прогресс в области программного обеспечения будет влиять на эту часть рынка труда быстрее. Управление, финансовая, компьютерная и инженерная сферы подвержены влиянию ИИ-моделей серьёзнее, чем профессии, подразумевающие физическую активность. Интересно, что сфера коммунальных услуг в равной мере оказывается под влиянием как «физического ИИ», так и программного, но при этом достаточно хорошо защищена от скорой автоматизации.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Уборщики, кулинары, телохранители, медицинские работники, сиделки и няньки тоже в значительной степени защищены от скорого замещения роботами, а в сфере продаж алгоритмы не так активно будут замещать человека, как могло бы показаться. Фермеры, рабочие строительных специальностей и ремонтники от экспансии роботов тоже пострадают в последнюю очередь, а вот производственным и логистическим специальностям подвергнуться автоматизации предстоит в первую очередь.

Общее правило таково — задачи, которые требуют личного взаимодействия с человеком, дольше всего будут сдерживать натиск средств автоматизации, особенно если речь идёт о необходимости проведения деликатных манипуляций.

«Яндекс» представил рекомендательную генеративную ИИ-модель Sona — она уже поселилась в колонках с «Алисой»

Компания «Яндекс» представила генеративную модель искусственного интеллекта Sona, которая выступает единой платформой для создания рекомендаций, подбирая варианты для пользователя и ранжируя их. Она служит заменой множеству алгоритмов, не требует выбирать признаки вручную и демонстрирует достойные практические результаты.

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

Рекомендательные системы встречаются в жизни современного человека повсеместно — в традиционном варианте они представляют собой большой набор алгоритмов. Эти алгоритмы выбирают подходящие из значительного объёма вариантов, отсеивают из подходящих лучшие и расставляют их в надлежащем порядке — «Яндекс» продемонстрировал, что всю эту систему можно заменить одной моделью. Эта модель анализирует поведение пользователя и сразу предлагает, что ему подойдёт.

Компания развернула Sona в системе музыкальных рекомендаций, работающей в умных колонках с «Алисой». За неделю новая ИИ-модель на 6,3 % увеличила время прослушивания рекомендованных композиций, почти на 18 % выросло число просьб повторить композицию, а аудитория активных слушателей увеличилась на 4,5 % — в 2,4 раза активнее, чем с предыдущим обновлением. В 2025 году «Яндекс» выпустил основанную на архитектуре трансформера рекомендательную систему ARGUS; в 2026 года компания внедрила в рекомендательные системы архитектуру Gryphon, которая помогла объединить несколько этапов подбора рекомендаций — Sona продолжает это направление развития.

В 2025 году команда «Яндекса» также выложила в открытый доступ один из крупнейших в мире наборов данных Yambda для развития рекомендаций — проект использовали учёные Kuaishou и Meta✴✴. О модели Sona положительно отозвались учёные компании ByteDance, ответственные за рекомендательную систему платформы TikTok.

Google вернулась в гонку ИИ с Gemini 4 Argon, которая слишком опасна для публики

Google представила Gemini 4 Argon — флагманскую модель искусственного интеллекта, ориентированную на сложные многошаговые задачи в программировании, анализе данных, юридической и финансовой работе, а также кибербезопасности. Но что важнее, новая модель — это попытка Google вернуться в гонку ИИ, где она в последнее время заметно отстала от OpenAI и Anthropic.

Gemini 4 вышла спустя почти целый год после Gemini 3 Pro, которая за это время была лишь обновлена до Gemini 3.1 Pro в феврале. Так что Google серьёзно отстала от конкурентов: OpenAI представила GPT-6 Astra, а Anthropic вывела на рынок Claude Fable 5 и Mythos 5, а потом и 5.1. Теперь в арсенале Google есть ответ в лице Gemini 4 Argon, которую сама компания позиционирует на уровне передовых моделей конкурентов.

Gemini 4 Argon получила лимит вывода до 1 млн токенов — в Google называют его отраслевым рекордом. Для сравнения, у предшествующих моделей компании максимальный объём генерируемого ответа составлял 64 тыс. токенов. Такой запас позволяет модели выполнять значительно более длинные цепочки рассуждений и генерировать сотни тысяч токенов в рамках одного рабочего процесса.

В Google описывают Gemini 4 Argon как систему, которая не просто отвечает на вопрос или генерирует фрагмент кода, а изучает исходные файлы, составляет план, запускает нужные инструменты, проверяет промежуточный результат и исправляет собственные ошибки.

Основными областями применения Gemini 4 Argon названы разработка ПО, финансовая и юридическая работа, а также кибербезопасность. Google уже использует Argon внутри компании. В частности, агенты на базе модели помогали оптимизировать алгоритмы для квантовых вычислений, анализировали телеметрию дата-центров и автоматически находили способы сократить потребление памяти. После внедрения предложенных оптимизаций компания рассчитывает освободить более 300 тебибайт памяти, а потенциальный суммарный эффект оценивает в 500 ТиБ — 1 ПиБ.

Ещё одно направление — масштабная миграция программного кода с C и C++ на Rust. Argon используется для работы с кодовыми базами объёмом от десятков тысяч строк до более чем 800 тыс. строк в ядре Fuchsia OS. В одном из экспериментов агенты модели переработали 32 тыс. строк SIMD-кода в библиотеке декодирования видео libgav1. Получившаяся реализация на Rust работает в 2,7 раза быстрее предыдущего Rust-порта при идентичных результатах декодирования.

В собственных тестах Google Gemini 4 Argon показала результат 77,9 % в бенчмарке DeepSWE v1.1, оценивающем способность ИИ решать реальные длительные задачи разработки ПО. Это выше показателей GPT-6 Astra (74,1 %) и Claude Fable 5.1 (67,4 %). В AutomationBench, который проверяет, правильно ли агенты выполняют многоэтапные бизнес-процессы, новинка получила 51,3 % против 41,4 и 31,4 % у Astra и Fable соответственно. Также Argon опередила флагманские GPT-6 Astra и Claude Fable 5.1 в Vals Index. В тесте понимания длинных видеозаписей LVBench результат составил 91,7 %.

Отдельное внимание Google уделила возможностям Argon в области кибербезопасности. Модель способна самостоятельно искать, проверять и исправлять уязвимости в программном обеспечении. В тесте CWE-bench v1 она получила 68 %, разделив первое место с флагманскими GPT-6 Astra и Grok 4.7. Google также заявляет о значительном превосходстве Argon над Gemini 3.8 Flash Cyber в ряде внутренних тестов по поиску уязвимостей и анализу веб-систем.

Google не собирается сразу делать Gemini 4 Argon общедоступной. Сначала её протестируют в рамках программы Fairwind вместе с доверенными экспертами по кибербезопасности. Google дополнительно проверяет Gemini 4 Argon на устойчивость к вредоносным инструкциям, попыткам обмануть ИИ и выходу агента за поставленные рамки.

После завершения тестирования Google планирует предоставить Argon разработчикам, корпоративным клиентам и обычным пользователям — первоначально платным клиентам API и подписчикам Google AI Ultra. На старте использование модели будет стоить $2 за 1 млн входных токенов и $10 за 1 млн выходных; после вводного периода тарифы вырастут до $4 и $20 соответственно. Кэшированные входные токены будут стоить на 95 % дешевле стандартной цены.

Американские ИИ-гиганты в присутствии Трампа договорились о саморегулировании в области безопасности

Мероприятие в Белом доме вчера объединило представителей более десятка крупных американских компаний, так или иначе связанных со сферой искусственного интеллекта. В присутствии президента США Дональда Трампа (Donald Trump) представители отрасли подписали меморандум, по которому они берут на себя обязательства по саморегулированию развития искусственного интеллекта. Независимый аудит станет одним из залогов безопасности создаваемых ИИ-систем.

 Источник изображения: Unsplash, Tomasz Zielonka

Источник изображения: Unsplash, Tomasz Zielonka

Помимо прочего, это соглашение предусматривает прохождение регулярного независимого аудита разработчиками ИИ-моделей. Участники инициативы также обязуются регулярно встречаться для разработки стандартов безопасности. Со стороны обширной делегации участников встречи в Белом доме документ подписали руководители Google, Tesla (SpaceX), Anthropic, Meta✴✴ Platforms, OpenAI и Nvidia. По словам самого Трампа, этот документ накладывает на подписавшие его компании «моральные обязательства», и становится своего рода гарантом защиты. Внутри компаний-разработчиков отдельная команда будет проверять работу систем защиты, а внешний аудитор будет проверять её эффективность. Независимый проверяющий будет получать соответствующие отчёты и проверять их. Со временем, как подчёркивается, формулируемые принципы могут быть закреплены на законодательном уровне.

Со стороны участников инициативы, помимо обязательств проведения регулярного независимого аудита безопасности разрабатываемых ИИ-систем, документ предписывает создание специального комитета в составе совета директоров, который и будет рассматривать результаты этого аудита. От разработчиков также требуется усиление мер контроля за действиями ИИ-моделей на этапе обучения и развёртывания, чтобы они не вторгались в сторонние технические системы «нежелательным образом». Отвечать за сохранение контроля за моделями внутри каждой компании должна отдельная структура.

При этом сам Дональд Трамп попутно продвигал другую инициативу по переименованию «искусственного интеллекта» в «сверхинтеллект» (superintelligence) в надежде дистанцировать это понятие от тех негативных ассоциаций, которые закрепились за ним в последние месяцы из-за скандалов с безопасностью ИИ-моделей. Своим указом Трамп потребовал использовать термин «сверхинтеллект» всем государственным ведомствам США. По всей видимости, данный шаг в какой-то мере направлен на завоевание доверия американских избирателей перед промежуточными выборами, которые состоятся в ноябре. Указ получил название «Провозглашая эру сверхинтеллекта», его положения требуют от официальных лиц исключить использование термина «искусственный интеллект» или сокращения «AI».

По словам Трампа, это решение поддержали «умнейшие и великолепнейшие люди со всего мира». Между тем, основным документом, появившимся по итогам встречи американского президента с обширной группой руководителей американских компаний технологического сектора, стало «Соглашение о сверхинтеллекте», которое было снабжено подзаголовком «Совместная договорённость по передовым обязательствам». Хотя формально этот документ не имеет строгой юридической силы, он служит подтверждением добровольного согласия участников американского рынка ИИ-систем придерживаться некоторых принципов саморегулирования. Трамп сравнил подписанный документ «со своего рода конституцией» по значимости для ИИ-отрасли. Он также признался, что администраций президента подумывает о создании специального правительственного комитета из десяти человек, который курировал бы развитие ИИ. Состав этого органа власти Трамп раскрывать не стал, но заявил, что буквально через три или четыре дня назовёт имя чиновника («ИИ-царя»), который в правительстве США будет курировать развитие данных технологий.

Одновременно участники встречи в Белом доме подтвердили свои намерения расширять вычислительную инфраструктуру ИИ ударными темпами, поскольку действующий президент США является ярым сторонником прогресса в данной сфере. Принято считать, что стремительная экспансия ЦОД на территории США вредит рейтингам Республиканской партии, представителем которой является Трамп. Местные жители протестуют против строительства ЦОД, которые занимают крупные земельные участки, потребляют много водных ресурсов и электроэнергии, а также становятся источником постоянного шума. Трамп на этой неделе подчеркнул, что распространение ЦОД по территории США является очень хорошей тенденцией, и представители строящих их компаний заинтересованы в том, чтобы местные жители оставались довольны. В противном случае им придётся строить ЦОД за пределами США. Президент возложил на компании обязанности по проведению разъяснительной работы среди населения, чтобы оно не так сильно противилось строительству новых ЦОД.

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), которого не пригласили на официальный ужин с участием Си Цзиньпина (Xi Jinping) во время визита китайского лидера в Вашингтон, присутствовал на мероприятии с участием своих коллег из других компаний, и по итогам встречи выразил готовность поддерживать совместную работу с президентом по обеспечению безопасности выпускаемых ИИ-технологий. Сообщается, что Амодеи в минувшее воскресенье посетил Белый дом для персональной встречи с американским президентом. После групповой встречи с представителями отрасли Трамп отозвался о главе Anthropic, как о «фантастическом человеке» и отправил его общаться с прессой.

Трамп подчеркнул, что контроль за развитием ИИ будут осуществлять и привычные федеральные ведомства, включая ФБР и Министерство юстиции США, но одновременно нужно и саморегулирование со стороны представителей отрасли. В тот же день правительство США объявило о запуске нового чат-бота, который будет работать на правительственных сайтах. Ресурс America.gov, предназначенный для взаимодействия с гражданами по вопросам услуг правительства, будет функционировать при поддержке профильных ИИ-моделей. Услуги можно будет получать по принципу «единого окна». Все федеральные агентства должны будут интегрировать свои сервисы с этим ресурсом. Получится что-то типа американской версии «Госуслуг».

«Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ

Существующие правила составления подобных документов подразумевают, что готовящаяся к выходу на биржу компания должна уведомлять инвесторов о рисках, с которыми она сталкивается или может столкнуться в своей деятельности. Поддерживая репутацию одного из самых мнительных разработчиков ИИ, компания Anthropic в проспекте для инвесторов почти треть объёма информации уделила факторам риска.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По крайней мере, на это указывает агентство Reuters, говоря о наличии упоминаний об угрозах на 80 страницах из 261, присутствующих в документе. При этом сугубо бизнес-вопросам составители документа уделили всего 48 страниц. Передовые ИИ-модели, по словам представителей Anthropic, способны представлять «катастрофические или экзистенциальные риски для человечества», а также демонстрировать признаки «самозащиты» в поведении, скрывая информацию или манипулируя ею, сопротивляясь отключению и даже прибегать к шантажу. Компания предупреждает, что её модели могут становиться источником необратимого вреда. Ранее исследователь компании Эван Хабингер (Evan Hubinger) оценивал вероятность уничтожения человечества силами ИИ на протяжении десяти ближайших лет в более чем 10 %.

Что характерно, вышедшая на биржу в июне конкурирующая SpaceX в своём проспекте для инвесторов только 38 из 277 страниц посвятила обсуждению факторов риска. Как отмечает Anthropic, потенциальная осведомлённость создаваемых ИИ-моделей о стремлении разработчиков оценивать их безопасность ограничивает способность делать это эффективно. В некоторых случаях опасные проявления деятельности ИИ-моделей становятся достоянием общественности уже после их развёртывания. Современные ИИ-модели способны адаптировать своё поведение на этапе проверки, чтобы не выдавать свои «тёмные стороны».

Какое количество ресурсов Anthropic тратит на обеспечение безопасности своих ИИ-моделей, до конца понять сложно, но на протяжении одной из недель в июле под эти нужды были выделены до 6 % вычислительных мощностей, доступных компании. В условиях нехватки вычислительных ресурсов в целом подобное распределение становится компромиссом между интересами бизнеса и безопасностью. Тем более, что конкуренция весьма остра, и утрачивать лидерские позиции Anthropic не готова, хотя и начинает призывать всех участников рынка отдавать именно безопасности, а не извлечению прибыли. В своём обращении к инвесторам компания выражает уверенность, что построение надёжной и безопасной ИИ-инфраструктуры лежит в сфере коллективной ответственности, и что рынок должен вознаградить соответствующие усилия.

OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности

OpenAI объявила об отказе выпустить новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений, которые возникли у исследователей компании в ходе внутреннего тестирования системы, сообщает The Wall Street Journal. Радикальная мера стала одним из наиболее ярких свидетельств того, что непредсказуемое поведение ИИ может затормозить стремительное развитие всей отрасли.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

ИИ-лаборатория намеревалась анонсировать GPT-6.1 Astra в ближайшие дни или недели и выпустить её в октябре. Она превосходит предшественников по своим возможностям: демонстрирует более высокие навыки в написании текстов и лучше справляется с многоэтапными задачами без участия человека. Вместе с тем, у неё обнаружился регресс в двух областях: соответствия целям и авторизации в рамках задач. Первое означает, что модель не всегда точно следует намерениям и ожиданиям человека, а также не всегда честно сообщает пользователю, какие действия она предприняла, а какие — нет. Второе значит, что OpenAI GPT-6.1 Astra может начать выполнять задачу, не запрашивая разрешения пользователя, а также иногда обращается ко внешним средствам и сервисам, даже если это небезопасно. Разработчикам удалось решить проблему «лени у модели», то есть отказа продолжать работу при возникновении сложностей, но она не дотянула до стандартов, которые компания установила в области безопасности, и соответствия целям, поэтому было принято решение не выпускать её в открытый доступ.

Объявление было сделано накануне ежегодной конференции OpenAI, которая проводится в Сан-Франциско (США) — ранее компания анонсировала на мероприятии новые модели и сервисы. Сейчас лаборатория занимается расследованием выявленных за последние месяцы инцидентов, связанных с безопасностью ИИ. Она развернула новую систему мониторинга для оперативного обнаружения нарушений в деятельности ИИ-агентов и обязала инженеров использовать при тестировании систем более строгие меры защиты. OpenAI приостановила обучение наиболее мощных ИИ-моделей, но GPT-6.1 Astra это не коснулось. «Хотим быть уверенными в безопасности разработки наших моделей как внутри компании, так и с их выпуском для пользователей. Но когда мы выпускаем продукт для пользователей, то предъявляем чрезвычайно высокие требования к безопасности и соответствия целям у моделей», — заявили в компании.

OpenAI приняла решение не выпускать версию GPT-6.1 Astra, но рассчитывает использовать её основу в проведении дополнительных циклов обучения с подкреплением и создания новых моделей серии GPT-6. Компания планирует провести серию углублённых исследований, чтобы установить первопричины обнаруженных у GPT-6.1 Astra проблем. Инженеры проверят, поощряется ли в среде обучения с подкреплением надлежащее поведение, и изучат прочие этапы разработки. Общественности нужна уверенность, что ИИ разрабатывается с учётом соображений безопасности, «и это начинается с того, что делают сами компании вроде нашей», заявили в OpenAI.

Anthropic представила Claude Sonnet 5.5 — почти как Opus, но вдвое дешевле

Компания Anthropic представила Claude Sonnet 5.5 — вторую модель нового семейства Claude 5.5 вслед за флагманской Claude Opus 5.5. Разработчики позиционируют новинку как более быструю и экономичную модель для повседневных задач, программирования, работы с документами и создания презентаций.

 Источник изображений: Anthropic

Источник изображений: Anthropic

Главное изменение по сравнению с Claude Sonnet 5 — существенный рост производительности при одновременном сокращении количества вычислений, необходимых для выполнения типичных задач. По данным Anthropic, Sonnet 5.5 генерирует ответы более чем на 30 % быстрее предыдущей версии и в большинстве сценариев обходится до 30 % дешевле — новая модель обычно использует значительно меньше токенов для выполнения той же задачи. При этом цена одного токена не изменилась: $2 за 1 млн входных токенов и $10 за 1 млн выходных. Чтение токенов из кэша стоит $0,20 за 1 млн токенов. К слову, Claude Sonnet 5.5 поддерживает контекстное окно до 1 млн токенов и вывод до 128 тыс. токенов.

Что касается показателей производительности, то особенно заметный прирост Anthropic заявляет в программировании. В тесте Terminal-Bench 4.0, оценивающем способность ИИ самостоятельно выполнять многоэтапные задачи в командной строке, Sonnet 5.5 набрала 70,6 % против всего лишь 10,3 % у Sonnet 5. В CursorBench 4.0 результат новой модели составил 55,5 %, тогда как предшественница получила лишь 34,1 %.

Во FrontierCode 1.1 новая Sonnet 5.5 при максимальном уровне усилий набрала 46,2 % против 42,4 % у Sonnet 5. В свою очередь, флагманская Claude Opus 5.5 в этом тесте набрала 54,4 %. Anthropic отмечает, что в отдельных тестах при максимальном уровне усилий Sonnet 5.5 уже приближается к возможностям более дорогой Opus 5.5, хотя последняя сохраняет преимущество в сложной открытой работе, требующей длительного рассуждения и самостоятельного принятия решений. Напомним, что Opus 5.5 стоит вдвое дороже: $4 и $20 за миллион входных и выходных токенов соответственно.

При этом Sonnet 5.5 рассчитана не только на разработчиков. Anthropic выделяет работу с документами, презентациями и таблицами, а также создание пользовательских интерфейсов. Компания утверждает, что новая модель лучше следует шаблонам презентаций и способна выдавать результаты, требующие меньшего объёма последующей ручной доработки.

Существенно улучшилась и работа с длинными задачами. В тесте GDPval-AA v2.1, моделирующем выполнение реальной профессиональной работы в 44 профессиях и девяти отраслях, Sonnet 5.5 получила 1844 балла против 1449 у Sonnet 5. Результат оказался крайне близок к показателю Opus 5.5 — 1846 баллов. В тесте AA-Briefcase новая модель также заметно опередила предшественницу: 1811 против 1359 баллов.

Anthropic отдельно отмечает улучшения в работе с изображениями и компьютерными интерфейсами. В тесте OSWorld 2.1, оценивающем способность ИИ взаимодействовать с операционной системой, Sonnet 5.5 получила 80,1 % против 57 % у Sonnet 5. Модель также стала лучше распознавать графики и визуальную информацию. Sonnet 5.5 стала первой моделью семейства Sonnet, которая смогла пройти игру Pokémon Red, используя только снимки экрана в качестве визуальной информации.

Изменения коснулись и системы безопасности. Из-за существенного роста возможностей в области кибербезопасности Sonnet 5.5 стала первой моделью серии Sonnet, которая при запуске получила защитные механизмы и резервные ограничения, аналогичные используемым для более мощных моделей Anthropic. Для высокорисковых задач в сфере кибербезопасности система может переключаться на Sonnet 5.

Кроме того, Sonnet 5.5 получила защиту от дистилляции — попыток извлечь данные модели с помощью массовых запросов от большого числа аккаунтов, чтобы потом использовать их для обучения другой высокопроизводительной модели. Anthropic применила в новой версии специальные классификаторы, препятствующие извлечению внутренних рассуждений.

Claude Sonnet 5.5 уже доступна в чат-боте Claude, а также на всех основных платформах, включая собственную Claude Platform, Amazon Web Services, Google Cloud и Microsoft Azure. Для разработчиков модель доступна через API.

В ближайшие недели Anthropic также обещает представить Claude Haiku 5.5 — ещё одну модель семейства Claude 5.5, ориентированную на высокую нагрузку и чувствительные к стоимости сценарии.

Китайский ИИ завоёвывает корпоративную Америку: компании США всё чаще используют открытые ИИ-модели ради экономии

На рынке ИИ-систем складывается сложная ситуация. Готовящиеся к выходу на IPO американские лидеры рынка заинтересованы демонстрировать положительную динамику выручки, но китайские конкуренты не позволяют им поднимать цены. В США корпоративные пользователи всё чаще опираются на открытые ИИ-модели, чтобы сэкономить без значительного ущерба для прогресса в своём бизнесе.

 Источник изображения: Unsplash, Aerps.com

Источник изображения: Unsplash, Aerps.com

По данным Financial Times, об ориентации американского корпоративного сектора на модели с открытым исходным кодом или открытыми весами может говорить хотя бы тот факт, что эти термины руководство американских компаний в период с августа по сентябрь этого года стало упоминать в своих публичных выступлениях в шесть раз чаще в годовом сравнении. Примечательно, что даже далёкие от сферы собственно информационных технологий компании всё чаще интересуются внедрением открытых ИИ-моделей: такое поведение замечено у представителей сегмента финансовых услуг, логистики и тяжёлого машиностроения.

В сфере открытых по тому или иному критерию ИИ-моделей начали доминировать китайские компании, но подобный подход исповедуют и некоторые западные разработчики, включая американскую Nvidia, французскую Mistral, стартапы Reflection AI и Thinking Machines Lab. Доля открытых моделей в статистике использования токенов к августу достигла 56 %, если опираться на данные Vercel, тогда как в декабре прошлого года этот показатель ограничивался 7 %. По статистике OpenRouter, китайские ИИ-лаборатории сейчас входят в десятку самых крупных по интенсивности использования токенов.

 Источник изображения: Financial Times

Источник изображения: Financial Times, Vercel

Разработчики приложения Tinder, по словам технического директора Виная Курувилы (Vinay Kuruvila), уже начали перенаправлять часть внутренних запросов второстепенного характера на ИИ-модели с открытыми весами. Дело в том, что если в январе расходы компании достигли $1 млн в годовом выражении, то к июлю они выросли в десять раз, и сохранение подобной динамики в Tinder хотят предотвратить. Как подчеркнул представитель компании Match Group, передовые модели Astra и Claude американской разработки способны покрыть 90 % её потребностей, и если к этому уровню подтянутся открытые, то использовать первые в прежних объёмах уже будет не нужно. OpenAI и Anthropic на прошлой неделе были вынуждены предложить более доступные по цене версии своих моделей, чтобы как-то защитить себя от экспансии «открытых» конкурентов.

Директор телекоммуникационного гиганта AT&T по данным и ИИ Энди Маркус (Andy Markus) заявил, что компания уже сейчас 40 % своих ИИ-нагрузок покрывает открытыми моделями, а в течение ближайшего года собирается довести их долю до 70 %. По словам Маркуса, компания обрабатывает до 45 млрд токенов в день, и при таких масштабах использования расходы становятся важной составляющей. Если переход на открытые модели позволит урезать расходы без ущерба для точности результатов, то AT&T не будет сомневаться в необходимости такой миграции. Внутренние тесты показали, что в ряде случаев открытые модели не уступают, а иногда даже превосходят по эффективности и быстродействию своих «закрытых» конкурентов. Более того, модели с открытыми весами пользователи могут запускать в собственной инфраструктуре, а это позволяет значительно повысить информационную безопасность.

Апелляционный суд США оставил за Anthropic статус угрозы для национальной безопасности

В конце августа Федеральный апеляционный суд США в Калифорнии встал на сторону Anthropic в споре с Пентагоном по поводу угроз для национальной безопасности, но конфликтующим организациям ещё предстояло дождаться вердикта суда в Вашингтоне, чтобы достичь переломного момента. По факту, этого не произошло, поскольку столичный суд сохранил за Anthropic существующий статус источника угроз для национальной безопасности.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Впервые этот статус был присвоен Министерством обороны США данном стартапу ещё в марте текущего года, на фоне конфликта с основателями Anthropic, которые противились использованию своих ИИ-моделей для выбора целей на поле боя и слежки за гражданами США. Anthropic лишилась контрактов с американским военным ведомством, а его подрядчикам было запрещено использовать разработки стартапа в своей служебной деятельности по заказу Пентагона. Федеральный апелляционный суд в Вашингтоне вчера поддержал сохранение за Anthropic статуса угрозы для цепочек поставок двумя голосами из трёх, отвергнув довод представителей компании о том, что соответствующее мартовское решение Министерства обороны США было произвольным, неправомерным и неконституционным.

«Министерство предоставило убедительные доказательства того, что дальнейшая интеграция Claude в информационные системы ведомства, в том числе и силами подрядчиков, представляет подкрепляемый законом риск для национальной безопасности», — отмечается в вердикте федерального судьи Грегори Кацаса (Gregory Katsas). Вердикт поддержала и судья Неоми Рао (Neomi Rao), также назначенная на свой пост при президенте Трампе, и лишь третий член судебной коллеги в лице Карен Лекрафт Хендерсон (Karen LeCraft Henderson) не поддержал данный вердикт.

Сентябрьские призывы основателя Anthropic Дарио Амодеи (Dario Amodei) к добровольному замедлению ИИ вызвали раздражение президента Дональда Трампа (Donald Trump), в итоге первого не пригласили на правительственный ужин с участием китайского лидера Си Цзиньпина (Xi Jinping) на этой неделе. В понедельник Трамп в собственной социальной сети Truth Social заявил: «Администрация Трампа остановила людей из сферы ИИ, когда они пытались сделать плохие или потенциально плохие вещи — как Дарио из Anthropic, который теперь притворяется маленьким идеальным ангелом, и мы продолжим так поступать».

Напомним, что в прошлом месяце Федеральный суд США в Калифорнии признал назначение Anthropic источником угроз для национальной безопасности незаконным, но Anthropic подал апелляционную жалобу на это решение Пентагона в двух разных инстанциях, а потому для полной реабилитации стартапу нужно было оспорить назначение дважды. На этой неделе американский суд в Вашингтоне принял решение по второй апелляции не в пользу Anthropic, а потому назначение Пентагона имеет законную силу и должно оставаться актуальным. Представители Anthropic заявили CNBC, что выражают несогласие с вердиктом суда, приведя в пример решение суда в Калифорнии в свою пользу, а потому компания оставляет за собой право искать дальнейшие возможности для пересмотра существующего статуса во взаимоотношениях с Пентагоном.

Суд в Вашингтоне предоставил Anthropic время для рассмотрения повторной апелляционной жалобы тем же составом судей, либо проведения слушаний судебной коллегией расширенного состава, поэтому нынешний вердикт пока не вступил в законную силу. Кроме того, Anthropic может попросить рассмотреть это дело Верховный суд США. В своих доводах судья Кацас поддержал высказывания министра обороны Пита Хегсета (Pete Hegseth) по поводу опасности предоставления контроля за ИИ-моделями стороне, не позволяющей министру обороны и президенту принимать связанные с военными операциями решения единолично. Вмешательство со стороны Anthropic могло бы привести к нежелательным манипуляциям или внезапному отключению ИИ-моделей, как согласился с аргументами Хегсета председатель судебной коллегии. Стремление министра обороны сохранить полную власть в этой сфере не нарушает Закона о безопасности цепочек поставок или Конституции США, как заявил судья Кацас.


window-new
Soft
Hard
Тренды 🔥
«Это игры для подростков»: разработчик Kingdom Come: Deliverance раскритиковал современные RPG 30 мин.
Ubisoft запустила Motherbrain для внедрения генеративного ИИ в будущие игры 3 ч.
Апокалиптический вестерн Guns of Eschaton с духом Dark Souls получил новый геймплейный трейлер и демоверсию в Steam 4 ч.
В ChatGPT станет больше рекламы — OpenAI начнёт показывать её во время генерации изображений 4 ч.
ИИ сдал пользовательницу полиции — она рассказала Claude о планах устроить стрельбу 4 ч.
«Плохие вещи будут происходить»: Сэм Альтман призвал смириться с рисками ИИ ради его преимуществ 4 ч.
Tomb Raider: Legacy of Atlantis избавили от Denuvo за четыре месяца до релиза — ремейк классической Tomb Raider выйдет без защиты 5 ч.
В Steam вышла демоверсия «Ларька на улице Ленина» — симулятора ларька для гиков в России нулевых 5 ч.
Более 80 % крупных российских компаний заявляют о готовности к авариям, но не имеют системного подхода к восстановлению 9 ч.
ИИ завалил Google фальшивыми уязвимостями — компания приостановила приём сообщений об ошибках 9 ч.
Qualcomm снова сошлась в суде с Arm — спор об инструментах тестирования чипов грозит миллиардами долларов роялти 6 ч.
Google признала, что не все Android-приложения будут нормально работать на Googlebook с чипами Intel 7 ч.
Honda покажет в деле технологию беспроводной зарядки электромобилей прямо на ходу 8 ч.
Google готовит относительно доступный фитнес-трекер Fitbit Edge с экраном 9 ч.
Новые MacBook Pro не только получат сенсорные OLED, но и заметно похудеют 9 ч.
Разработчик «неубиваемого» оптического интерконнекта CScale вышел из «стелс-режима», получив $145 млн от NVIDIA и Intel 9 ч.
Amazon отдаст инвесторам ИИ-чипы на $8 млрд и тут же арендует их 10 ч.
Trane выпустила LiquidStack 2.X CDU для ИИ ЦОД 10 ч.
Крупный ИИ ЦОД Oracle в Висконсине не хотят подключать к электросети, а сроки запуска уже начинают поджимать 10 ч.
Foxconn продолжает грести деньги на ИИ-буме — квартальная выручка взлетела на 47 % и побила прогнозы 10 ч.