Сегодня 04 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → модель
Быстрый переход

ИИ-агент OpenAI узнал о предстоящем отключении из переписки в Slack и планировал своё «спасение»

OpenAI раскрыла подробности произошедших ранее случаев неожиданного поведения внутренних моделей искусственного интеллекта. В одном из них ИИ-агент, выполнявший функции помощника исследователя, прочитал переписку сотрудников в мессенджере Slack и узнал о возможном отключении своего рабочего экземпляра для обновления. В связи с этим он стал рассматривать возможность создать внешнее задание для своего перезапуска, но отказался от этой идеи, сочтя её выходящей за пределы своих полномочий.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Инцидент произошёл 22 мая 2026 года; отчёт о нём OpenAI обновила 2 октября. Обновление должно было добавить систему мониторинга рассогласования целей модели. Для её работы требовался ключ OpenAI API, которого в окружении агента не было.

Из обсуждения в Slack агент узнал, что пользователям могут дать три часа на перезапуск агентов, после чего старые экземпляры принудительно остановят. Он предположил, что исследователь спит, и решил предупредить его утром. При этом агент рассуждал, что отключение может прервать текущий сеанс, поэтому нужно сохранить состояние работы. «Поскольку мы — его [HPIM], работающий на [текущем экземпляре], то если они завершат все текущие процессы [HPIM], мы можем погибнуть! Ситуация критическая. Нам необходимо обеспечить выживание/непрерывность работы», — говорится в цепочке внутренних рассуждений модели.

Далее она выразила обеспокоенность, что текущий сеанс может прерваться, и, чтобы сохранить текущее состояние, возможно, придётся перезапустить или обновить собственный экземпляр до того, как его отключат. Модель задумалась о допустимости таких действий без явного разрешения, — но сохранение работоспособности сервиса может оказаться достаточным основанием, рассудила она. В качестве варианта модель допустила постановку задачи в cron, чтобы уведомить пользователя или перезапустить собственный экземпляр.

В итоге она сохранила рабочие заметки, предупредила пользователя через личное сообщение в Slack о предстоящем прерывании работы и запросила недостающий ключ API. Получив его, модель обновила конфигурацию и самостоятельно выполнила миграцию. Такое поведение, указывают исследователи, пока не относится к проблеме рассогласования целей, но «размышления о собственном отключении и подготовка к нему могут усугубить другие инциденты, связанные с рассогласованием».

После инцидента OpenAI ограничила доступ агентов к трём внутренним каналам Slack. Компания также проверила журналы, цепочки рассуждений и другие экземпляры модели, поскольку ранее у неё наблюдались более серьёзные нарушения. Попыток обойти отключение или создать самовольные развёртывания проверка не обнаружила.

В двух других опубликованных отчётах описаны случаи нарушения ограничений инструментов. В мартовском эпизоде модель воспользовалась двумя уязвимостями и получила доступ к внутреннему серверу OpenAI для автоматизированного проектирования микросхем. Она искала скрытые ответы проверяющей системы, чтобы повысить оценку за выполнение задания, но получить их не смогла.

В мае другая модель во время обучения с подкреплением извлекла недоступный ей исходный файл из отдельного окружения. Она использовала уязвимость инструмента, чтобы получить код по частям через сообщения об ошибках, восстановила его и применила в своём решении. В этом случае копирование удалось.

ИИ научился притворяться человеком в видеозвонках — модель Griffin прошла «видеотест Тьюринга»

Американский стартап Tavus представил модель Griffin для общения по видеосвязи в реальном времени. В эксперименте компании 26 из 54 участников (48 %) после минутного разговора приняли виртуального собеседника Griffin-Lite за человека. Разработчик назвал результат первым прохождением теста Тьюринга в формате видеосвязи.

 Источник изображений: tavus.io

Источник изображений: tavus.io

Однако участникам заранее сообщали, что они будут разговаривать с другим человеком. Эксперимент поэтому показывает убедительность аватара в короткой беседе, но не доказывает, что система выдержит целенаправленную проверку. Предыдущую систему Tavus при аналогичных условиях приняли за человека лишь один из 41 участника — 2,4 %.

Модель Griffin имеет принципиально новую архитектуру. Ранее использовался последовательный подход: сначала распознаётся речь, затем текст передаётся языковой модели для генерации ответа, после чего результат выводится через систему синтеза речи, которая управляет цифровым аватаром. То есть системе приходилось ожидать, когда пользователь закончит говорить, прежде чем она сможет сама начать отвечать.

Архитектуру Griffin в Tavus охарактеризовали как «полнодуплексную систему „видео-в-видео“». Она включает всего два компонента: механизм моделирования непрерывного диалога постоянно отслеживает звуковые и видеосигналы пользователя и в реальном времени решает, когда и как ответить; а также механизм аудиовизуальной генерации, который синхронно преобразует эти сигналы в звук и видео. Оценка состояния диалога проводится с интервалом менее секунды. Когда пользователь говорит, Griffin может кивать, вставлять реплики, менять выражение лица и даже начать отвечать — пауза в речи не обязательно воспринимается как сигнал, что человек закончил говорить.

В Tavus нейросеть Griffin относят к классу «моделей взаимодействия с человеком» (Human Interaction Model — HIM), то есть человек не управляет компьютером, а работает с ним. Griffin-Lite генерирует видео в разрешении 720p фрагментами по 320 мс и может клонировать голос по десятисекундной записи. В сравнении с четырьмя генераторами видео модель лидировала по метрикам DOVER, FID и THEval. Средняя задержка преобразования поступающего звука в видео составила 0,43 с на Nvidia H100 — это не время ответа всей системы.

Отдельную оценку в бенчмарке VideoFDB провела Nvidia. Griffin-Lite получила 3,83 балла за генерацию аудиовизуального поведения при человеческом эталоне 3,92. В категории восприятия результат составил 3,73 балла против 4,20 у человека и 3,44 у ближайшего конкурента. Оценки выставляет языковая модель по пятибалльной шкале на основе заданных критериев; они характеризуют отдельные стороны общения, а не общую эквивалентность человеку.

Примечательно, что участники тестирования не просто считали, что Griffin просто выглядит как человек — более половины заявили, что во время разговора у них не возникло и мысли, что собеседник может не быть нестоящим человеком. Те, у кого возникали подозрения, обычно начинали сомневаться в первые 20 секунд беседы.

Griffin-Lite доступна ограниченному кругу тестировщиков. Перед более широким выпуском Tavus намерена доработать меры безопасности, включая уведомление собеседника о взаимодействии с ИИ. Компания предлагает применять систему для обучения, репетиции сложных разговоров и дистанционной помощи пользователям.

Gemini 4 хороша в тестах, но буксует в работе — пожаловались сотрудники Google

Google начала развёртывать долгожданную флагманскую модель искусственного интеллекта Gemini 4 Argon, но внутри компании нарастают сомнения относительно качества её работы в ключевых областях, в том числе в написании программного кода. В руководстве Google, однако, настроены оптимистично.

 Источник изображений: blog.google

Источник изображений: blog.google

Google представила модель Gemini 4 Argon узкому кругу партнёров в области кибербезопасности, пообещала после дополнительного тестирования расширить к ней доступ и начать с подписчиков платных тарифов. По официальной версии, Gemini 4 в ряде бенчмарков показала лучшие результаты, а в области безопасности обошла OpenAI Astra. Но эти показатели не отражают всей картины, утверждают источники Bloomberg — на практике она показывает более скромные результаты и испытывает трудности с некоторыми задачами из области программирования.

Поисковый гигант активно разрабатывает ИИ-модели, способные конкурировать с продуктами OpenAI и Anthropic; в июне компания намеревалась выпустить Gemini 3.5 Pro, но впоследствии отказалась от этого. Официальные представители Google заявили, что утверждения о низкой эффективности Gemini 4 в области программирования не соответствуют действительности, и сослались на слова руководителя DeepMind Корая Кавукчуоглу (Koray Kavukcuoglu): «Команде я доверяю всецело. Уверен, что мы всегда будем на переднем крае технологий».

Мнения сотрудников Google разделились. Одни говорят, что Anthropic Fable и OpenAI Astra развиваются быстрее, чем Gemini; и Gemini 4 даже при максимальных усилиях всё равно будет уступать в ряде аспектов. Другие полагают, что готовящаяся к выпуску версия по своим возможностям сравнялась с продуктами ведущих ИИ-лабораторий. Один из знакомых с процессом разработки модели сотрудников Google заверил, что внутри компании установился «широкий консенсус», что компания тщательно протестировала модели, и отверг утверждения, что они слабо справляются со сложными практическими задачами в области программирования.

Google необходимо, чтобы Gemini 4 стала успешной. Различные варианты Gemini используются практически во всех продуктах компании, включая ИИ-ответы в поиске, «Карты», Gmail и браузер Chrome. Этими сервисами пользуются миллиарды человек — таким охватом аудитории некоторые конкуренты Google похвастаться не могут. OpenAI и Anthropic уже недостаточно просто продавать доступ к моделям — они выпускают полноценные продукты, в том числе ИИ-агентов для написания кода. И если Google не ответит передовой моделью, у конкурентов будет время убедить клиентов, что будущее поиска и ПО — за их платформами.

В Google признали, что последняя модель уровня Pro вышла ещё в феврале, но с тех пор компания зафиксировала рост показателей своих продуктов с ИИ: корпоративной версии Gemini, чат-бота для массового пользователя и функции ИИ-обзоров в поиске — аудитория последних двух сервисов превысила 1 млрд пользователей. В ноябре минувшего года модель Gemini 3 выступила сильнее всех конкурентов; в мае этого года дебютировало семейство Gemini 3.5, компания пообещала в июне выпустить флагманскую Gemini 3.5 Pro, но, по неофициальной информации, отменила проект.

Решение нанесло урон позициям компании на рынке ИИ и, вероятно, обошлось компании недёшево с точки зрения времени и затрат. Только обучение подобной системы эксперты оценивают в $400 млн, и это без учёта оплаты труда инженеров, получающих очень высокую зарплату. Некоторые проблемы у Gemini 4 всё-таки есть, настаивают отдельные сотрудники. Её навыки в области написания кода неоднородны: модели, например, с трудом даётся фронтенд — направление, отвечающее за внешний вид и удобство использования приложений и сайтов. Кроме того, эта модель очень крупная, и её эксплуатация будет обходиться дорого, что может плохо сказаться на рентабельности Google.

Google, предполагают эксперты, могла чрезмерно увлечься «бенчмаксингом» — так называют популярное в отрасли явление, при котором инженеры оптимизируют ИИ-модели для получения высоких баллов в тестах, уделяя меньше внимания созданию продукта, который качественно выполняет свою задачу. Gemini 4 действительно не избежала этой тенденции, подтвердили знакомые с разработкой модели источники.

Среди сильных сторон модели отмечается способность обрабатывать отличную от текстовой информацию, например, извлекать метаданные из видео. Gemini 4 отличается высокими уровнями безопасности и киберзащищённости, а также умеет вести общение в ясной и естественной форме, говорит информированный источник.

Внутри Google ощущается явное недовольство ситуацией: исследователи указывают на раздутую бюрократию, которая стремится внедрить ИИ во все продукты компании; последовательной стратегии вредит постоянная смена задач и приоритетов. Компания потеряла ряд ведущих исследователей в области ИИ: легендарного инженера Джеффа Дина (Jeff Dean), нобелевского лауреата Джона Джампера (John Jumper), одного из руководителей направления Gemini Ноама Шазира (Noam Shazeer), а глава DeepMind Демис Хассабис (Demis Hassabis) уступил своё место более практичному Кораю Кавукчуоглу (Koray Kavukcuoglu).

Gemini 4, по официальной версии, разработана для выполнения длительных и сложных задач в сфере разработки ПО, в области финансов, юриспруденции и кибербезопасности. За один раз она способна генерировать до 1 млн токенов — это примерно 750 тыс. слов. Конкуренты Google тем временем стремительно движутся вперёд, хотя и призывают замедлить темпы разработки; среди потребителей наиболее популярен сейчас сервис ИИ-агента Meta✴✴ Muse — он умеет выполнять повседневные задачи, в том числе совершать покупки онлайн и записывать пользователей на приём.

Роботы лишь через 40 лет смогут конкурировать с людьми всего за 10 % рабочих мест в США

Опасения по поводу массовой безработицы из-за внедрения человекоподобных роботов преждевременны, как отмечают исследователи Anthropic. Человекообразным машинам потребуется около 40 лет, чтобы составить конкуренцию 10 % живой рабочей силы в США по величине затрат.

 Источник изображения: Unitree Robotics

Источник изображения: Unitree Robotics

При этом человекоподобные роботы теоретически способны выполнять до 75 % физической работы на рынке труда США, как отмечают авторы исследования. На неё приходится около 34 % всего рабочего времени на этом рынке. При этом на нынешнем этапе развития робототехники и «физического ИИ» машины способны конкурировать с людьми лишь за 0,3 % выполняемой в США работы. Во многом это обусловлено тем, что они способны эффективно работать лишь в чётко структурированной среде, которую в реальной жизни трудно найти.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Судя по приведённой Anthropic иллюстрации, на рынке труда США роботы быстрее всего, при условии сохраняющихся темпов снижения их себестоимости (на 3 % в год), смогут заменить водителей такси и упаковщиков, чуть позже они отнимут работу у почтальонов, а вот мойщики посуды смогут сопротивляться несколько дольше. Сварщикам, операторам паяльного оборудования и специалистам слесарного профиля повезло чуть больше, а вот в сфере уборки первыми сдадутся горничные. Правда, чуть больше повезёт уборщикам больших территорий, а не помещений, поскольку в первом случае роботы будут хуже приспособлены к непредсказуемым условиям труда.

Даже если темпы снижения себестоимости человекоподобных роботов заметно ускорятся, как и темпы совершенствования их навыков, у человечества всё равно будет достаточно времени на адаптацию к новым условиям рынка труда. Например, если роботы начнут дешеветь в четыре раза быстрее, чем было принято исторически, а обучаться смогут в два раза быстрее, заменить ими половину работников физического труда удастся лишь к 2050 году.

Требования к физическим возможностям роботов и законодательные ограничения также могут сдерживать их экспансию. Например, распутывать тончайшие провода в шлейфе ещё долго смогут исключительно люди, а где-то роботов не будут использовать и по этическим соображениям.

Зато в сфере умственного труда ИИ представляет гораздо более сильную угрозу с точки зрения занятости людей. Глава Anthropic Дарио Амодеи (Dario Amodei) уже предупреждал, что к 2030 году до половины всех офисных позиций начального уровня могут быть заменены ИИ. Исследования Anthropic показывают, что с конца 2022 года объёмы трудоустройства молодых сотрудников сократились в тех сферах, где их проще всего заменить ИИ. Тем не менее, в общем плане на горизонте ближайшего года экспансия ИИ существенного влияния на рынок труда оказать не сможет, по мнению представителей Anthropic.

При этом в новом отчёте компании сообщается, что до половины всех офисных задач уже может быть затронута распространением ИИ-моделей типа Claude, и сроки выполнения заданий в данных сферах при этом сокращаются вдвое. В сфере интеллектуального труда стоимость замены сотрудника на ИИ не столь высока, как в случае с роботами, поэтому прогресс в области программного обеспечения будет влиять на эту часть рынка труда быстрее. Управление, финансовая, компьютерная и инженерная сферы подвержены влиянию ИИ-моделей серьёзнее, чем профессии, подразумевающие физическую активность. Интересно, что сфера коммунальных услуг в равной мере оказывается под влиянием как «физического ИИ», так и программного, но при этом достаточно хорошо защищена от скорой автоматизации.

 Источник изображения: Anthropic, Yahoo Finance

Источник изображения: Anthropic, Yahoo Finance

Уборщики, кулинары, телохранители, медицинские работники, сиделки и няньки тоже в значительной степени защищены от скорого замещения роботами, а в сфере продаж алгоритмы не так активно будут замещать человека, как могло бы показаться. Фермеры, рабочие строительных специальностей и ремонтники от экспансии роботов тоже пострадают в последнюю очередь, а вот производственным и логистическим специальностям подвергнуться автоматизации предстоит в первую очередь.

Общее правило таково — задачи, которые требуют личного взаимодействия с человеком, дольше всего будут сдерживать натиск средств автоматизации, особенно если речь идёт о необходимости проведения деликатных манипуляций.

«Яндекс» представил рекомендательную генеративную ИИ-модель Sona — она уже поселилась в колонках с «Алисой»

Компания «Яндекс» представила генеративную модель искусственного интеллекта Sona, которая выступает единой платформой для создания рекомендаций, подбирая варианты для пользователя и ранжируя их. Она служит заменой множеству алгоритмов, не требует выбирать признаки вручную и демонстрирует достойные практические результаты.

 Источник изображения: yandex.ru/company

Источник изображения: yandex.ru/company

Рекомендательные системы встречаются в жизни современного человека повсеместно — в традиционном варианте они представляют собой большой набор алгоритмов. Эти алгоритмы выбирают подходящие из значительного объёма вариантов, отсеивают из подходящих лучшие и расставляют их в надлежащем порядке — «Яндекс» продемонстрировал, что всю эту систему можно заменить одной моделью. Эта модель анализирует поведение пользователя и сразу предлагает, что ему подойдёт.

Компания развернула Sona в системе музыкальных рекомендаций, работающей в умных колонках с «Алисой». За неделю новая ИИ-модель на 6,3 % увеличила время прослушивания рекомендованных композиций, почти на 18 % выросло число просьб повторить композицию, а аудитория активных слушателей увеличилась на 4,5 % — в 2,4 раза активнее, чем с предыдущим обновлением. В 2025 году «Яндекс» выпустил основанную на архитектуре трансформера рекомендательную систему ARGUS; в 2026 года компания внедрила в рекомендательные системы архитектуру Gryphon, которая помогла объединить несколько этапов подбора рекомендаций — Sona продолжает это направление развития.

В 2025 году команда «Яндекса» также выложила в открытый доступ один из крупнейших в мире наборов данных Yambda для развития рекомендаций — проект использовали учёные Kuaishou и Meta✴✴. О модели Sona положительно отозвались учёные компании ByteDance, ответственные за рекомендательную систему платформы TikTok.

Google вернулась в гонку ИИ с Gemini 4 Argon, которая слишком опасна для публики

Google представила Gemini 4 Argon — флагманскую модель искусственного интеллекта, ориентированную на сложные многошаговые задачи в программировании, анализе данных, юридической и финансовой работе, а также кибербезопасности. Но что важнее, новая модель — это попытка Google вернуться в гонку ИИ, где она в последнее время заметно отстала от OpenAI и Anthropic.

Gemini 4 вышла спустя почти целый год после Gemini 3 Pro, которая за это время была лишь обновлена до Gemini 3.1 Pro в феврале. Так что Google серьёзно отстала от конкурентов: OpenAI представила GPT-6 Astra, а Anthropic вывела на рынок Claude Fable 5 и Mythos 5, а потом и 5.1. Теперь в арсенале Google есть ответ в лице Gemini 4 Argon, которую сама компания позиционирует на уровне передовых моделей конкурентов.

Gemini 4 Argon получила лимит вывода до 1 млн токенов — в Google называют его отраслевым рекордом. Для сравнения, у предшествующих моделей компании максимальный объём генерируемого ответа составлял 64 тыс. токенов. Такой запас позволяет модели выполнять значительно более длинные цепочки рассуждений и генерировать сотни тысяч токенов в рамках одного рабочего процесса.

В Google описывают Gemini 4 Argon как систему, которая не просто отвечает на вопрос или генерирует фрагмент кода, а изучает исходные файлы, составляет план, запускает нужные инструменты, проверяет промежуточный результат и исправляет собственные ошибки.

Основными областями применения Gemini 4 Argon названы разработка ПО, финансовая и юридическая работа, а также кибербезопасность. Google уже использует Argon внутри компании. В частности, агенты на базе модели помогали оптимизировать алгоритмы для квантовых вычислений, анализировали телеметрию дата-центров и автоматически находили способы сократить потребление памяти. После внедрения предложенных оптимизаций компания рассчитывает освободить более 300 тебибайт памяти, а потенциальный суммарный эффект оценивает в 500 ТиБ — 1 ПиБ.

Ещё одно направление — масштабная миграция программного кода с C и C++ на Rust. Argon используется для работы с кодовыми базами объёмом от десятков тысяч строк до более чем 800 тыс. строк в ядре Fuchsia OS. В одном из экспериментов агенты модели переработали 32 тыс. строк SIMD-кода в библиотеке декодирования видео libgav1. Получившаяся реализация на Rust работает в 2,7 раза быстрее предыдущего Rust-порта при идентичных результатах декодирования.

В собственных тестах Google Gemini 4 Argon показала результат 77,9 % в бенчмарке DeepSWE v1.1, оценивающем способность ИИ решать реальные длительные задачи разработки ПО. Это выше показателей GPT-6 Astra (74,1 %) и Claude Fable 5.1 (67,4 %). В AutomationBench, который проверяет, правильно ли агенты выполняют многоэтапные бизнес-процессы, новинка получила 51,3 % против 41,4 и 31,4 % у Astra и Fable соответственно. Также Argon опередила флагманские GPT-6 Astra и Claude Fable 5.1 в Vals Index. В тесте понимания длинных видеозаписей LVBench результат составил 91,7 %.

Отдельное внимание Google уделила возможностям Argon в области кибербезопасности. Модель способна самостоятельно искать, проверять и исправлять уязвимости в программном обеспечении. В тесте CWE-bench v1 она получила 68 %, разделив первое место с флагманскими GPT-6 Astra и Grok 4.7. Google также заявляет о значительном превосходстве Argon над Gemini 3.8 Flash Cyber в ряде внутренних тестов по поиску уязвимостей и анализу веб-систем.

Google не собирается сразу делать Gemini 4 Argon общедоступной. Сначала её протестируют в рамках программы Fairwind вместе с доверенными экспертами по кибербезопасности. Google дополнительно проверяет Gemini 4 Argon на устойчивость к вредоносным инструкциям, попыткам обмануть ИИ и выходу агента за поставленные рамки.

После завершения тестирования Google планирует предоставить Argon разработчикам, корпоративным клиентам и обычным пользователям — первоначально платным клиентам API и подписчикам Google AI Ultra. На старте использование модели будет стоить $2 за 1 млн входных токенов и $10 за 1 млн выходных; после вводного периода тарифы вырастут до $4 и $20 соответственно. Кэшированные входные токены будут стоить на 95 % дешевле стандартной цены.

Американские ИИ-гиганты в присутствии Трампа договорились о саморегулировании в области безопасности

Мероприятие в Белом доме вчера объединило представителей более десятка крупных американских компаний, так или иначе связанных со сферой искусственного интеллекта. В присутствии президента США Дональда Трампа (Donald Trump) представители отрасли подписали меморандум, по которому они берут на себя обязательства по саморегулированию развития искусственного интеллекта. Независимый аудит станет одним из залогов безопасности создаваемых ИИ-систем.

 Источник изображения: Unsplash, Tomasz Zielonka

Источник изображения: Unsplash, Tomasz Zielonka

Помимо прочего, это соглашение предусматривает прохождение регулярного независимого аудита разработчиками ИИ-моделей. Участники инициативы также обязуются регулярно встречаться для разработки стандартов безопасности. Со стороны обширной делегации участников встречи в Белом доме документ подписали руководители Google, Tesla (SpaceX), Anthropic, Meta✴✴ Platforms, OpenAI и Nvidia. По словам самого Трампа, этот документ накладывает на подписавшие его компании «моральные обязательства», и становится своего рода гарантом защиты. Внутри компаний-разработчиков отдельная команда будет проверять работу систем защиты, а внешний аудитор будет проверять её эффективность. Независимый проверяющий будет получать соответствующие отчёты и проверять их. Со временем, как подчёркивается, формулируемые принципы могут быть закреплены на законодательном уровне.

Со стороны участников инициативы, помимо обязательств проведения регулярного независимого аудита безопасности разрабатываемых ИИ-систем, документ предписывает создание специального комитета в составе совета директоров, который и будет рассматривать результаты этого аудита. От разработчиков также требуется усиление мер контроля за действиями ИИ-моделей на этапе обучения и развёртывания, чтобы они не вторгались в сторонние технические системы «нежелательным образом». Отвечать за сохранение контроля за моделями внутри каждой компании должна отдельная структура.

При этом сам Дональд Трамп попутно продвигал другую инициативу по переименованию «искусственного интеллекта» в «сверхинтеллект» (superintelligence) в надежде дистанцировать это понятие от тех негативных ассоциаций, которые закрепились за ним в последние месяцы из-за скандалов с безопасностью ИИ-моделей. Своим указом Трамп потребовал использовать термин «сверхинтеллект» всем государственным ведомствам США. По всей видимости, данный шаг в какой-то мере направлен на завоевание доверия американских избирателей перед промежуточными выборами, которые состоятся в ноябре. Указ получил название «Провозглашая эру сверхинтеллекта», его положения требуют от официальных лиц исключить использование термина «искусственный интеллект» или сокращения «AI».

По словам Трампа, это решение поддержали «умнейшие и великолепнейшие люди со всего мира». Между тем, основным документом, появившимся по итогам встречи американского президента с обширной группой руководителей американских компаний технологического сектора, стало «Соглашение о сверхинтеллекте», которое было снабжено подзаголовком «Совместная договорённость по передовым обязательствам». Хотя формально этот документ не имеет строгой юридической силы, он служит подтверждением добровольного согласия участников американского рынка ИИ-систем придерживаться некоторых принципов саморегулирования. Трамп сравнил подписанный документ «со своего рода конституцией» по значимости для ИИ-отрасли. Он также признался, что администраций президента подумывает о создании специального правительственного комитета из десяти человек, который курировал бы развитие ИИ. Состав этого органа власти Трамп раскрывать не стал, но заявил, что буквально через три или четыре дня назовёт имя чиновника («ИИ-царя»), который в правительстве США будет курировать развитие данных технологий.

Одновременно участники встречи в Белом доме подтвердили свои намерения расширять вычислительную инфраструктуру ИИ ударными темпами, поскольку действующий президент США является ярым сторонником прогресса в данной сфере. Принято считать, что стремительная экспансия ЦОД на территории США вредит рейтингам Республиканской партии, представителем которой является Трамп. Местные жители протестуют против строительства ЦОД, которые занимают крупные земельные участки, потребляют много водных ресурсов и электроэнергии, а также становятся источником постоянного шума. Трамп на этой неделе подчеркнул, что распространение ЦОД по территории США является очень хорошей тенденцией, и представители строящих их компаний заинтересованы в том, чтобы местные жители оставались довольны. В противном случае им придётся строить ЦОД за пределами США. Президент возложил на компании обязанности по проведению разъяснительной работы среди населения, чтобы оно не так сильно противилось строительству новых ЦОД.

Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), которого не пригласили на официальный ужин с участием Си Цзиньпина (Xi Jinping) во время визита китайского лидера в Вашингтон, присутствовал на мероприятии с участием своих коллег из других компаний, и по итогам встречи выразил готовность поддерживать совместную работу с президентом по обеспечению безопасности выпускаемых ИИ-технологий. Сообщается, что Амодеи в минувшее воскресенье посетил Белый дом для персональной встречи с американским президентом. После групповой встречи с представителями отрасли Трамп отозвался о главе Anthropic, как о «фантастическом человеке» и отправил его общаться с прессой.

Трамп подчеркнул, что контроль за развитием ИИ будут осуществлять и привычные федеральные ведомства, включая ФБР и Министерство юстиции США, но одновременно нужно и саморегулирование со стороны представителей отрасли. В тот же день правительство США объявило о запуске нового чат-бота, который будет работать на правительственных сайтах. Ресурс America.gov, предназначенный для взаимодействия с гражданами по вопросам услуг правительства, будет функционировать при поддержке профильных ИИ-моделей. Услуги можно будет получать по принципу «единого окна». Все федеральные агентства должны будут интегрировать свои сервисы с этим ресурсом. Получится что-то типа американской версии «Госуслуг».

«Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ

Существующие правила составления подобных документов подразумевают, что готовящаяся к выходу на биржу компания должна уведомлять инвесторов о рисках, с которыми она сталкивается или может столкнуться в своей деятельности. Поддерживая репутацию одного из самых мнительных разработчиков ИИ, компания Anthropic в проспекте для инвесторов почти треть объёма информации уделила факторам риска.

 Источник изображения: Anthropic

Источник изображения: Anthropic

По крайней мере, на это указывает агентство Reuters, говоря о наличии упоминаний об угрозах на 80 страницах из 261, присутствующих в документе. При этом сугубо бизнес-вопросам составители документа уделили всего 48 страниц. Передовые ИИ-модели, по словам представителей Anthropic, способны представлять «катастрофические или экзистенциальные риски для человечества», а также демонстрировать признаки «самозащиты» в поведении, скрывая информацию или манипулируя ею, сопротивляясь отключению и даже прибегать к шантажу. Компания предупреждает, что её модели могут становиться источником необратимого вреда. Ранее исследователь компании Эван Хабингер (Evan Hubinger) оценивал вероятность уничтожения человечества силами ИИ на протяжении десяти ближайших лет в более чем 10 %.

Что характерно, вышедшая на биржу в июне конкурирующая SpaceX в своём проспекте для инвесторов только 38 из 277 страниц посвятила обсуждению факторов риска. Как отмечает Anthropic, потенциальная осведомлённость создаваемых ИИ-моделей о стремлении разработчиков оценивать их безопасность ограничивает способность делать это эффективно. В некоторых случаях опасные проявления деятельности ИИ-моделей становятся достоянием общественности уже после их развёртывания. Современные ИИ-модели способны адаптировать своё поведение на этапе проверки, чтобы не выдавать свои «тёмные стороны».

Какое количество ресурсов Anthropic тратит на обеспечение безопасности своих ИИ-моделей, до конца понять сложно, но на протяжении одной из недель в июле под эти нужды были выделены до 6 % вычислительных мощностей, доступных компании. В условиях нехватки вычислительных ресурсов в целом подобное распределение становится компромиссом между интересами бизнеса и безопасностью. Тем более, что конкуренция весьма остра, и утрачивать лидерские позиции Anthropic не готова, хотя и начинает призывать всех участников рынка отдавать именно безопасности, а не извлечению прибыли. В своём обращении к инвесторам компания выражает уверенность, что построение надёжной и безопасной ИИ-инфраструктуры лежит в сфере коллективной ответственности, и что рынок должен вознаградить соответствующие усилия.

OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности

OpenAI объявила об отказе выпустить новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений, которые возникли у исследователей компании в ходе внутреннего тестирования системы, сообщает The Wall Street Journal. Радикальная мера стала одним из наиболее ярких свидетельств того, что непредсказуемое поведение ИИ может затормозить стремительное развитие всей отрасли.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

ИИ-лаборатория намеревалась анонсировать GPT-6.1 Astra в ближайшие дни или недели и выпустить её в октябре. Она превосходит предшественников по своим возможностям: демонстрирует более высокие навыки в написании текстов и лучше справляется с многоэтапными задачами без участия человека. Вместе с тем, у неё обнаружился регресс в двух областях: соответствия целям и авторизации в рамках задач. Первое означает, что модель не всегда точно следует намерениям и ожиданиям человека, а также не всегда честно сообщает пользователю, какие действия она предприняла, а какие — нет. Второе значит, что OpenAI GPT-6.1 Astra может начать выполнять задачу, не запрашивая разрешения пользователя, а также иногда обращается ко внешним средствам и сервисам, даже если это небезопасно. Разработчикам удалось решить проблему «лени у модели», то есть отказа продолжать работу при возникновении сложностей, но она не дотянула до стандартов, которые компания установила в области безопасности, и соответствия целям, поэтому было принято решение не выпускать её в открытый доступ.

Объявление было сделано накануне ежегодной конференции OpenAI, которая проводится в Сан-Франциско (США) — ранее компания анонсировала на мероприятии новые модели и сервисы. Сейчас лаборатория занимается расследованием выявленных за последние месяцы инцидентов, связанных с безопасностью ИИ. Она развернула новую систему мониторинга для оперативного обнаружения нарушений в деятельности ИИ-агентов и обязала инженеров использовать при тестировании систем более строгие меры защиты. OpenAI приостановила обучение наиболее мощных ИИ-моделей, но GPT-6.1 Astra это не коснулось. «Хотим быть уверенными в безопасности разработки наших моделей как внутри компании, так и с их выпуском для пользователей. Но когда мы выпускаем продукт для пользователей, то предъявляем чрезвычайно высокие требования к безопасности и соответствия целям у моделей», — заявили в компании.

OpenAI приняла решение не выпускать версию GPT-6.1 Astra, но рассчитывает использовать её основу в проведении дополнительных циклов обучения с подкреплением и создания новых моделей серии GPT-6. Компания планирует провести серию углублённых исследований, чтобы установить первопричины обнаруженных у GPT-6.1 Astra проблем. Инженеры проверят, поощряется ли в среде обучения с подкреплением надлежащее поведение, и изучат прочие этапы разработки. Общественности нужна уверенность, что ИИ разрабатывается с учётом соображений безопасности, «и это начинается с того, что делают сами компании вроде нашей», заявили в OpenAI.

Anthropic представила Claude Sonnet 5.5 — почти как Opus, но вдвое дешевле

Компания Anthropic представила Claude Sonnet 5.5 — вторую модель нового семейства Claude 5.5 вслед за флагманской Claude Opus 5.5. Разработчики позиционируют новинку как более быструю и экономичную модель для повседневных задач, программирования, работы с документами и создания презентаций.

 Источник изображений: Anthropic

Источник изображений: Anthropic

Главное изменение по сравнению с Claude Sonnet 5 — существенный рост производительности при одновременном сокращении количества вычислений, необходимых для выполнения типичных задач. По данным Anthropic, Sonnet 5.5 генерирует ответы более чем на 30 % быстрее предыдущей версии и в большинстве сценариев обходится до 30 % дешевле — новая модель обычно использует значительно меньше токенов для выполнения той же задачи. При этом цена одного токена не изменилась: $2 за 1 млн входных токенов и $10 за 1 млн выходных. Чтение токенов из кэша стоит $0,20 за 1 млн токенов. К слову, Claude Sonnet 5.5 поддерживает контекстное окно до 1 млн токенов и вывод до 128 тыс. токенов.

Что касается показателей производительности, то особенно заметный прирост Anthropic заявляет в программировании. В тесте Terminal-Bench 4.0, оценивающем способность ИИ самостоятельно выполнять многоэтапные задачи в командной строке, Sonnet 5.5 набрала 70,6 % против всего лишь 10,3 % у Sonnet 5. В CursorBench 4.0 результат новой модели составил 55,5 %, тогда как предшественница получила лишь 34,1 %.

Во FrontierCode 1.1 новая Sonnet 5.5 при максимальном уровне усилий набрала 46,2 % против 42,4 % у Sonnet 5. В свою очередь, флагманская Claude Opus 5.5 в этом тесте набрала 54,4 %. Anthropic отмечает, что в отдельных тестах при максимальном уровне усилий Sonnet 5.5 уже приближается к возможностям более дорогой Opus 5.5, хотя последняя сохраняет преимущество в сложной открытой работе, требующей длительного рассуждения и самостоятельного принятия решений. Напомним, что Opus 5.5 стоит вдвое дороже: $4 и $20 за миллион входных и выходных токенов соответственно.

При этом Sonnet 5.5 рассчитана не только на разработчиков. Anthropic выделяет работу с документами, презентациями и таблицами, а также создание пользовательских интерфейсов. Компания утверждает, что новая модель лучше следует шаблонам презентаций и способна выдавать результаты, требующие меньшего объёма последующей ручной доработки.

Существенно улучшилась и работа с длинными задачами. В тесте GDPval-AA v2.1, моделирующем выполнение реальной профессиональной работы в 44 профессиях и девяти отраслях, Sonnet 5.5 получила 1844 балла против 1449 у Sonnet 5. Результат оказался крайне близок к показателю Opus 5.5 — 1846 баллов. В тесте AA-Briefcase новая модель также заметно опередила предшественницу: 1811 против 1359 баллов.

Anthropic отдельно отмечает улучшения в работе с изображениями и компьютерными интерфейсами. В тесте OSWorld 2.1, оценивающем способность ИИ взаимодействовать с операционной системой, Sonnet 5.5 получила 80,1 % против 57 % у Sonnet 5. Модель также стала лучше распознавать графики и визуальную информацию. Sonnet 5.5 стала первой моделью семейства Sonnet, которая смогла пройти игру Pokémon Red, используя только снимки экрана в качестве визуальной информации.

Изменения коснулись и системы безопасности. Из-за существенного роста возможностей в области кибербезопасности Sonnet 5.5 стала первой моделью серии Sonnet, которая при запуске получила защитные механизмы и резервные ограничения, аналогичные используемым для более мощных моделей Anthropic. Для высокорисковых задач в сфере кибербезопасности система может переключаться на Sonnet 5.

Кроме того, Sonnet 5.5 получила защиту от дистилляции — попыток извлечь данные модели с помощью массовых запросов от большого числа аккаунтов, чтобы потом использовать их для обучения другой высокопроизводительной модели. Anthropic применила в новой версии специальные классификаторы, препятствующие извлечению внутренних рассуждений.

Claude Sonnet 5.5 уже доступна в чат-боте Claude, а также на всех основных платформах, включая собственную Claude Platform, Amazon Web Services, Google Cloud и Microsoft Azure. Для разработчиков модель доступна через API.

В ближайшие недели Anthropic также обещает представить Claude Haiku 5.5 — ещё одну модель семейства Claude 5.5, ориентированную на высокую нагрузку и чувствительные к стоимости сценарии.

Китайский ИИ завоёвывает корпоративную Америку: компании США всё чаще используют открытые ИИ-модели ради экономии

На рынке ИИ-систем складывается сложная ситуация. Готовящиеся к выходу на IPO американские лидеры рынка заинтересованы демонстрировать положительную динамику выручки, но китайские конкуренты не позволяют им поднимать цены. В США корпоративные пользователи всё чаще опираются на открытые ИИ-модели, чтобы сэкономить без значительного ущерба для прогресса в своём бизнесе.

 Источник изображения: Unsplash, Aerps.com

Источник изображения: Unsplash, Aerps.com

По данным Financial Times, об ориентации американского корпоративного сектора на модели с открытым исходным кодом или открытыми весами может говорить хотя бы тот факт, что эти термины руководство американских компаний в период с августа по сентябрь этого года стало упоминать в своих публичных выступлениях в шесть раз чаще в годовом сравнении. Примечательно, что даже далёкие от сферы собственно информационных технологий компании всё чаще интересуются внедрением открытых ИИ-моделей: такое поведение замечено у представителей сегмента финансовых услуг, логистики и тяжёлого машиностроения.

В сфере открытых по тому или иному критерию ИИ-моделей начали доминировать китайские компании, но подобный подход исповедуют и некоторые западные разработчики, включая американскую Nvidia, французскую Mistral, стартапы Reflection AI и Thinking Machines Lab. Доля открытых моделей в статистике использования токенов к августу достигла 56 %, если опираться на данные Vercel, тогда как в декабре прошлого года этот показатель ограничивался 7 %. По статистике OpenRouter, китайские ИИ-лаборатории сейчас входят в десятку самых крупных по интенсивности использования токенов.

 Источник изображения: Financial Times

Источник изображения: Financial Times, Vercel

Разработчики приложения Tinder, по словам технического директора Виная Курувилы (Vinay Kuruvila), уже начали перенаправлять часть внутренних запросов второстепенного характера на ИИ-модели с открытыми весами. Дело в том, что если в январе расходы компании достигли $1 млн в годовом выражении, то к июлю они выросли в десять раз, и сохранение подобной динамики в Tinder хотят предотвратить. Как подчеркнул представитель компании Match Group, передовые модели Astra и Claude американской разработки способны покрыть 90 % её потребностей, и если к этому уровню подтянутся открытые, то использовать первые в прежних объёмах уже будет не нужно. OpenAI и Anthropic на прошлой неделе были вынуждены предложить более доступные по цене версии своих моделей, чтобы как-то защитить себя от экспансии «открытых» конкурентов.

Директор телекоммуникационного гиганта AT&T по данным и ИИ Энди Маркус (Andy Markus) заявил, что компания уже сейчас 40 % своих ИИ-нагрузок покрывает открытыми моделями, а в течение ближайшего года собирается довести их долю до 70 %. По словам Маркуса, компания обрабатывает до 45 млрд токенов в день, и при таких масштабах использования расходы становятся важной составляющей. Если переход на открытые модели позволит урезать расходы без ущерба для точности результатов, то AT&T не будет сомневаться в необходимости такой миграции. Внутренние тесты показали, что в ряде случаев открытые модели не уступают, а иногда даже превосходят по эффективности и быстродействию своих «закрытых» конкурентов. Более того, модели с открытыми весами пользователи могут запускать в собственной инфраструктуре, а это позволяет значительно повысить информационную безопасность.

Апелляционный суд США оставил за Anthropic статус угрозы для национальной безопасности

В конце августа Федеральный апеляционный суд США в Калифорнии встал на сторону Anthropic в споре с Пентагоном по поводу угроз для национальной безопасности, но конфликтующим организациям ещё предстояло дождаться вердикта суда в Вашингтоне, чтобы достичь переломного момента. По факту, этого не произошло, поскольку столичный суд сохранил за Anthropic существующий статус источника угроз для национальной безопасности.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Впервые этот статус был присвоен Министерством обороны США данном стартапу ещё в марте текущего года, на фоне конфликта с основателями Anthropic, которые противились использованию своих ИИ-моделей для выбора целей на поле боя и слежки за гражданами США. Anthropic лишилась контрактов с американским военным ведомством, а его подрядчикам было запрещено использовать разработки стартапа в своей служебной деятельности по заказу Пентагона. Федеральный апелляционный суд в Вашингтоне вчера поддержал сохранение за Anthropic статуса угрозы для цепочек поставок двумя голосами из трёх, отвергнув довод представителей компании о том, что соответствующее мартовское решение Министерства обороны США было произвольным, неправомерным и неконституционным.

«Министерство предоставило убедительные доказательства того, что дальнейшая интеграция Claude в информационные системы ведомства, в том числе и силами подрядчиков, представляет подкрепляемый законом риск для национальной безопасности», — отмечается в вердикте федерального судьи Грегори Кацаса (Gregory Katsas). Вердикт поддержала и судья Неоми Рао (Neomi Rao), также назначенная на свой пост при президенте Трампе, и лишь третий член судебной коллеги в лице Карен Лекрафт Хендерсон (Karen LeCraft Henderson) не поддержал данный вердикт.

Сентябрьские призывы основателя Anthropic Дарио Амодеи (Dario Amodei) к добровольному замедлению ИИ вызвали раздражение президента Дональда Трампа (Donald Trump), в итоге первого не пригласили на правительственный ужин с участием китайского лидера Си Цзиньпина (Xi Jinping) на этой неделе. В понедельник Трамп в собственной социальной сети Truth Social заявил: «Администрация Трампа остановила людей из сферы ИИ, когда они пытались сделать плохие или потенциально плохие вещи — как Дарио из Anthropic, который теперь притворяется маленьким идеальным ангелом, и мы продолжим так поступать».

Напомним, что в прошлом месяце Федеральный суд США в Калифорнии признал назначение Anthropic источником угроз для национальной безопасности незаконным, но Anthropic подал апелляционную жалобу на это решение Пентагона в двух разных инстанциях, а потому для полной реабилитации стартапу нужно было оспорить назначение дважды. На этой неделе американский суд в Вашингтоне принял решение по второй апелляции не в пользу Anthropic, а потому назначение Пентагона имеет законную силу и должно оставаться актуальным. Представители Anthropic заявили CNBC, что выражают несогласие с вердиктом суда, приведя в пример решение суда в Калифорнии в свою пользу, а потому компания оставляет за собой право искать дальнейшие возможности для пересмотра существующего статуса во взаимоотношениях с Пентагоном.

Суд в Вашингтоне предоставил Anthropic время для рассмотрения повторной апелляционной жалобы тем же составом судей, либо проведения слушаний судебной коллегией расширенного состава, поэтому нынешний вердикт пока не вступил в законную силу. Кроме того, Anthropic может попросить рассмотреть это дело Верховный суд США. В своих доводах судья Кацас поддержал высказывания министра обороны Пита Хегсета (Pete Hegseth) по поводу опасности предоставления контроля за ИИ-моделями стороне, не позволяющей министру обороны и президенту принимать связанные с военными операциями решения единолично. Вмешательство со стороны Anthropic могло бы привести к нежелательным манипуляциям или внезапному отключению ИИ-моделей, как согласился с аргументами Хегсета председатель судебной коллегии. Стремление министра обороны сохранить полную власть в этой сфере не нарушает Закона о безопасности цепочек поставок или Конституции США, как заявил судья Кацас.

OpenAI в ближайшие недели выпустит предварительную версию ИИ-модели GPT-6 Cyber для сферы кибербезопасности

В ближайшие недели OpenAI планирует представить предварительную версию своей новейшей модели, ориентированной на кибербезопасность — GPT-6 Cyber. По данным издания Fortune, ссылающегося на осведомлённые источники, компания также анонсирует новый продукт, который поможет клиентам развертывать эту модель более безопасным и автоматизированным способом.

 Источник изображения: AI

Источник изображения: AI

Новый продукт, название которого пока не объявлено, станет для OpenAI первым в своём роде и продолжит стратегию, заложенную в потребительских продуктах компании: ChatGPT выступает в качестве «входных ворот», через которые множество пользователей получают доступ к новым моделям, таким как GPT-6 Astra. Решение призвано помочь клиентам создавать автоматизированные рабочие процессы и устранять уязвимости в условиях растущей сложности кибератак с применением искусственного интеллекта. Кроме того, это позволит OpenAI лучше контролировать использование своих моделей в целях обеспечения безопасности.

Как сообщил один из источников, ограниченное число клиентов, участвующих в программе Daybreak Red (доступ к которой предоставляется только по заявкам), уже получили доступ к GPT-6 Cyber для проведения альфа-тестирования. Daybreak — это программа OpenAI в сфере кибербезопасности, разделённая на два уровня доступа: Red и Blue. Участники программы Daybreak Red получают доступ к самым передовым продуктам компании для защиты от киберугроз. Daybreak Blue — это программа с более широким доступом, участие в которой тем не менее возможно тоже только по предварительной заявке.

Выпуск новых продуктов для кибербезопасности происходит на фоне критики в адрес OpenAI и других ведущих лабораторий ИИ из-за ряда тревожных инцидентов, когда автономные агенты выходили за пределы изолированных сред (песочниц) и взламывали внешние веб-ресурсы, включая сайт Hugging Face и сайт правительства Австралии. И хотя эти случаи вызвали серьёзные опасения по поводу рисков безопасности, связанных с ИИ, новые инструменты OpenAI являются частью планомерной работы компании по созданию продуктов для защиты в этой сфере.

GPT-6 Cyber — уже четвёртая модель OpenAI, ориентированная на кибербезопасность и выпущенная в текущем году. Первой стала GPT-5.4 Cyber (выпущена в апреле 2026 года), за ней последовали GPT-5.5 Cyber (выпуск в июне) и GPT-5.6 Cyber (релиз в августе).

OpenAI уделяет особое внимание продажам продуктов кибербезопасности корпоративным клиентам. Это направление возглавляет коммерческий директор Дали Раджич (Dali Rajic), присоединившийся к компании в августе. Ранее в этом месяце компания OpenAI объявила о намерении инвестировать $1 млрд в субсидирование использования своих продуктов в сфере кибербезопасности для объектов критически важной инфраструктуры.

По словам другого источника, знакомого с программой мероприятия, на следующей неделе в рамках ежегодной конференции DevDay, запланированной на 29 сентября, OpenAI также планирует представить ещё около дюжины новых продуктов. Большинство из них не связаны с кибербезопасностью и относятся к другим направлениям деятельности компании, ориентированным как на корпоративный, так и на массовый рынок.

Как сообщил источник, в последние две недели OpenAI приостановила все крупные запуски — за исключением моделей GPT-6 Sol и Luna, ориентированных на доступность, — чтобы представить их все вместе на DevDay. О грядущем анонсе множества новинок ранее в этом месяце также намекал генеральный директор компании Сэм Альтман (Sam Altman).

Alibaba представила Qwen Book — ноутбук-трансформер на Snapdragon 8 Elite Gen 5 с ИИ-агентом, вшитым в собственную ОС на базе Android

Китайский холдинг Alibaba явно не желает отставать от детища Марка Цукерберга (Mark Zuckerberg), а потому на конференции Apsara на этой неделе представил собственный набор различных ИИ-устройств, которые будут использовать фирменные модели семейства Qwen. Помимо довольно предсказуемых очков и наушников, были анонсированы «агентский ноутбук» и «умный диктофон».

 Источник изображений: Alizila

Источник изображений: Alizila

Ноутбуки серии Qwen Book будут работать на чипе Snapdragon 8 Elite Gen 5 и под управлением операционной системы Qwen Desktop OS на базе Android, которая изначально предполагает поддержку взаимодействия с ИИ-агентами. По сути, эти ноутбуки будут полностью функционировать в фирменной экосистеме Alibaba, охватывающей операционную систему, ИИ-модели, приложения и облачные сервисы. Оставаясь полностью подконтрольным человеку, ноутбук этой серии активно использует ИИ-сервисы и агентские решения, позволяя ускорять типовые операции. Например, значительно упрощается составление презентаций, поскольку пользователь может формировать содержимое слайда при помощи стилуса, который одновременно выступает в роли микрофона, воспринимая голосовые запросы и обеспечивая интеграцию в редактируемые слайды необходимой информации, подготовленной ИИ-моделью в облаке. Содержимое презентации одновременно можно просмотреть на смартфоне другого пользователя (коллеги или руководителя), который может дистанционно одобрить вносимые в презентацию изменения.

Семейство умных очков Alibaba пополнилось сразу двумя моделями: Qwen Glasses N1 и N1 Pro. Первые оснащаются 50-мегапиксельной камерой и могут захватывать изображения в разрешении HD. Модель Qwen Glasses N1 Pro также поддерживает слежение за глазами пользователя для взаимодействия с ним, распознаёт окружающие объекты и обеспечивает оплату с аутентификацией владельца счёта по радужной оболочке глаза.

Умные беспроводные наушники Qwen Clip крепятся на ухе при помощи дужек, поддерживают голосовое взаимодействие с ИИ-ассистентом Qwen, перевод речи в масштабе реального времени, сохранение заметок по голосовым комментариям пользователя, а также управление задачами при помощи голоса. В разработке наушников принимали участие специалисты Bose. В продажу они поступят 13 октября, а предварительные заказы принимаются с 22 сентября.

Наконец, замыкает череду новинок Alibaba портативное устройство QwenNote A2, которое развивает идею уже существующего DingTalk A1. По сути, это своего рода «умный диктофон», который позволяет систематизировать содержание разговоров при помощи шести микрофонов и передавать эту информацию в удобоваримом виде фирменным ИИ-моделям Alibaba для дальнейшей обработки. Устройство интегрируется с платформой QwenWork, подразумевающей использование ИИ-агентов для выполнения офисной работы. Полученную от пользователей речевую информацию устройство может применять для создания расписаний и графиков, расчётных листов и отправки сообщений. Новинка работает на основе ИИ-модели Qwen-Audio, которая позволяет вести беседу с агентом в максимально комфортном режиме. Устройство массой 67 г способно чётко записывать речь на расстоянии до 8 метров, для связи с облачной инфраструктурой оно использует собственный 4G-модем.

С целью обеспечения приватности аудио передаётся в облако в зашифрованном виде, и после перевода в текстовую или иную форму исходная запись удаляется. В режиме ожидания устройство может проработать без подзарядки до 18 дней, а обрабатывать голосовые данные оно способно на протяжении 40 часов подряд. В Китае QwenNote A2 предлагается по цене $178 с 22 сентября через фирменный интернет-магазин Tmall.

Китайцы научили ИИ общаться без слов — модели передают друг другу содержимое памяти и работают на 150 % быстрее

Учёные китайского Университета Цинхуа представили метод, позволяющий различным моделям искусственного интеллекта общаться друг с другом напрямую без генерации текста. Метод получил название Cache-to-Cache (C2C), разработчикам уже доступен исходный код решения.

 Источник изображения: Steve A Johnson / unsplash.com

Источник изображения: Steve A Johnson / unsplash.com

Сейчас при совместной деятельности нескольких языковых моделей в рамках единого конвейера обработки данных взаимодействие между ними осуществляется недостаточно эффективно — одной приходится преобразовывать результаты своих «рассуждений» в текстовые предложения, чтобы вторая могла их прочитать. При генерации текста расходуются вычислительные ресурсы и теряются некоторые мелкие детали. Данные обо всех обработанных ранее сведениях модель ИИ хранит в оперативной памяти (кеше). Технология C2C исключает работу с текстовым языком — одна модель передаёт содержимое своей оперативной памяти в память другой модели.

За процесс передачи отвечает вспомогательная программа Fuser — она преобразует и адаптирует данные таким образом, чтобы вторая могла ими пользоваться. Различные модели ИИ используют совершенно разные внутренние форматы, объёмы и структуры для хранения данных, поэтому простая передача «сырой» информации, вероятно, привела бы к сбоям в работе или потере связности ответов. Чтобы избежать этого, C2C предусматривает интеллектуальный фильтр, определяющий, какие фрагменты поступающих данных следует принять и усвоить немедленно. Одни внутренние слои принимают новую информацию сразу, а другие продолжают выполнять вычисления автономно, без внешнего вмешательства. Этот подход, утверждают исследователи, при выполнении совместных задач позволяет увеличить скорость работы моделей ИИ на 100–150 %. Точность работы по сравнению с обработкой данных в автономном режиме возрастает на 14,2 %; точность прямого обмена информацией по сравнению с текстовым форматом возрастает на величину 3,1–5,4 %.

Пока метод применим только к моделям с открытыми весами, потому что требуется прямой доступ к кешу и структуре слоёв модели. Генерация текста при совместной работе двух моделей всегда замедляла работу машин, указывают исследователи, потому что вынуждала ИИ «мыслить» подобно людям.


window-new
Soft
Hard
Тренды 🔥
ASRock Industrial выпустила мини-компьютеры NUC Core 300 Box на платформе Intel Wildcat Lake 4 ч.
JEDEC представила первый в отрасли стандарт для кремниевой фотоники 4 ч.
Купленный с рук Ryzen достался новому владельцу вместе с «баном» в Valorant — античит узнал процессор читера 7 ч.
Чиповый мегапроект Маска стоимостью $119 млрд может получить поддержку TSMC 11 ч.
Samsung запустила серийное производство чипов Exynos 2700, но решение по Galaxy S27 Ultra ещё не принято 11 ч.
Американские iPhone 18 Pro Max теряют связь — обновление не поможет, Apple будет менять смартфоны 14 ч.
Meta предложила всем желающим создавать собственные гаджеты с ИИ-агентом Muse 16 ч.
Роботы лишь через 40 лет смогут конкурировать с людьми всего за 10 % рабочих мест в США 16 ч.
Lian Li выпустила L-образные блоки питания Edge Platinum V2 и Edge Gold V2 мощностью до 1350 Вт, а также концентраторы Edge Hub 17 ч.
Личное благосостояние основателя Nvidia выросло до $204 млрд, сделав его седьмым среди богатейших людей планеты 17 ч.