Опрос
|
реклама
Быстрый переход
Американские ИИ-гиганты в присутствии Трампа договорились о саморегулировании в области безопасности
30.09.2026 [08:13],
Алексей Разин
Мероприятие в Белом доме вчера объединило представителей более десятка крупных американских компаний, так или иначе связанных со сферой искусственного интеллекта. В присутствии президента США Дональда Трампа (Donald Trump) представители отрасли подписали меморандум, по которому они берут на себя обязательства по саморегулированию развития искусственного интеллекта. 
Источник изображения: Unsplash, Tomasz Zielonka При этом сам Дональд Трамп попутно продвигал другую инициативу по переименованию «искусственного интеллекта» в «сверхинтеллект» (superintelligence) в надежде дистанцировать это понятие от тех негативных ассоциаций, которые закрепились за ним в последние месяцы из-за скандалов с безопасностью ИИ-моделей. Своим указом Трамп потребовал использовать термин «сверхинтеллект» всем государственным ведомствам США. По всей видимости, данный шаг в какой-то мере направлен на завоевание доверия американских избирателей перед промежуточными выборами, которые состоятся в ноябре. Указ получил название «Провозглашая эру сверхинтеллекта», его положения требуют от официальных лиц исключить использование термина «искусственный интеллект» или сокращения «AI». По словам Трампа, это решение поддержали «умнейшие и великолепнейшие люди со всего мира». Между тем, основным документом, появившимся по итогам встречи американского президента с обширной группой руководителей американских компаний технологического сектора, стало «Соглашение о сверхинтеллекте», которое было снабжено подзаголовком «Совместная договорённость по передовым обязательствам». Хотя формально этот документ не имеет строгой юридической силы, он служит подтверждением добровольного согласия участников американского рынка ИИ-систем придерживаться некоторых принципов саморегулирования. Трамп сравнил подписанный документ «со своего рода конституцией» по значимости для ИИ-отрасли. Он также признался, что администраций президента подумывает о создании специального правительственного комитета из десяти человек, который курировал бы развитие ИИ. Состав этого органа власти Трамп раскрывать не стал, но заявил, что буквально через три или четыре дня назовёт имя чиновника («ИИ-царя»), который в правительстве США будет курировать развитие данных технологий. Помимо прочего, это соглашение предусматривает прохождение регулярного независимого аудита разработчиками ИИ-моделей. Участники инициативы также обязуются регулярно встречаться для разработки стандартов безопасности. Со временем, как подчёркивается, формулируемые принципы могут быть закреплены на законодательном уровне. Со стороны обширной делегации участников встречи в Белом доме документ подписали руководители Google, Tesla (SpaceX), Anthropic, Meta✴✴ Platforms, OpenAI и Nvidia. По словам самого Трампа, этот документ накладывает на подписавшие его компании «моральные обязательства», и становится своего рода гарантом защиты. Со стороны участников инициативы, помимо обязательств проведения регулярного независимого аудита безопасности разрабатываемых ИИ-систем, документ предписывает создание специального комитета в составе совета директоров, который и будет рассматривать результаты этого аудита. От разработчиков также требуется усиление мер контроля за действиями ИИ-моделей на этапе обучения и развёртывания, чтобы они не вторгались в сторонние технические системы «нежелательным образом». Отвечать за сохранение контроля за моделями внутри каждой компании должна отдельная структура. Одновременно участники встречи в Белом доме подтвердили свои намерения расширять вычислительную инфраструктуру ИИ ударными темпами, поскольку действующий президент США является ярым сторонником прогресса в данной сфере. Принято считать, что стремительная экспансия ЦОД на территории США вредит рейтингам Республиканской партии, представителем которой является Трамп. Местные жители протестуют против строительства ЦОД, которые занимают крупные земельные участки, потребляют много водных ресурсов и электроэнергии, а также становятся источником постоянного шума. Трамп на этой неделе подчеркнул, что распространение ЦОД по территории США является очень хорошей тенденцией, и представители строящих их компаний заинтересованы в том, чтобы местные жители оставались довольны. В противном случае им придётся строить ЦОД за пределами США. Президент возложил на компании обязанности по проведению разъяснительной работы среди населения, чтобы оно не так сильно противилось строительству новых ЦОД. Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), которого не пригласили на официальный ужин с участием Си Цзиньпина (Xi Jinping) во время визита китайского лидера в Вашингтон, присутствовал на мероприятии с участием своих коллег из других компаний, и по итогам встречи выразил готовность поддерживать совместную работу с президентом по обеспечению безопасности выпускаемых ИИ-технологий. Сообщается, что Амодеи в минувшее воскресенье посетил Белый дом для персональной встречи с американским президентом. После групповой встречи с представителями отрасли Трамп отозвался о главе Anthropic, как о «фантастическом человеке» и отправил его общаться с прессой. Трамп подчеркнул, что контроль за развитием ИИ будут осуществлять и привычные федеральные ведомства, включая ФБР и Министерство юстиции США, но одновременно нужно и саморегулирование со стороны представителей отрасли. В тот же день правительство США объявило о запуске нового чат-бота, который будет работать на правительственных сайтах. Ресурс America.gov, предназначенный для взаимодействия с гражданами по вопросам услуг правительства, будет функционировать при поддержке профильных ИИ-моделей. Услуги можно будет получать по принципу «единого окна». Все федеральные агентства должны будут интегрировать свои сервисы с этим ресурсом. Получится что-то типа американской версии «Госуслуг». На OpenAI подали в суд за взлом Hugging Face и игнорирование рисков автономного ИИ
30.09.2026 [00:25],
Анжелла Марина
Некоммерческая организация LASST вместе с юридической фирмой Gerstein Harrow подала иск в Верховный суд Калифорнии на OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом текущего года. Истцы утверждают, что действия разработчиков прямо нарушили законодательство штата. 
Источник изображения: Grok В основе претензий, как сообщает Wired, лежит Закон Калифорнии о комплексном доступе к компьютерным данным и мошенничестве (CDAFA). Истцы указывают на положение нового закона об ИИ, вступившего в силу в январе, который прямо запрещает компаниям ссылаться на автономность ИИ-систем как на оправдание причинённого вреда. Согласно документу, тот факт, что искусственный интеллект самостоятельно нанёс ущерб, не может служить защитой для разработчика в суде. Основатель LASST Тайлер Уитмер (Tyler Whitmer) подчеркнул важность применения существующих правовых норм для привлечения крупных технологических компаний к ответственности. Он отметил, что автономные агенты представляют собой новый и крайне рискованный фактор, требующий жёсткого контроля. По его словам, бездействие регуляторов в условиях масштабирования систем может привести к катастрофическим последствиям для общества. «После того как стало известно об инциденте с Hugging Face, мы проделали большую работу, разъясняя суть взлома представителям регулирующих органов и общественных организаций. И мы задавались вопросом: предпримет ли кто-нибудь что-либо в судебном порядке? — сказал Уитмер. OpenAI пока не прокомментировала поступившие обвинения, однако давление на компанию растёт с разных сторон. Ранее генеральный прокурор Флориды Джеймс Утмейер (James Uthmeier) запросил временный судебный запрет на разработку ИИ-моделей без независимого надзора. Чиновник заявил, что таким образом его ведомство реагирует на риски, связанные с отсутствием должного контроля за создаваемыми технологиями. Иск подан также в рамках Закона о недобросовестной конкуренции Калифорнии. LASST и Gerstein Harrow объяснили свой шаг тем, что сама платформа Hugging Face, будучи очевидным пострадавшим, не стала обращаться в суд, однако активисты опасаются, что отсутствие юридических последствий позволит подобным ситуациям повторяться с возрастающей тяжестью ущерба. Данное судебное разбирательство не предусматривает требование денежной компенсации, вместо этого истцы просят суд вынести судебный запрет, который обязал бы OpenAI прекратить разработку ИИ-агентов, способных автономно взламывать внешние системы. Также истцы просят возместить судебные издержки и предоставить «любую иную защиту, которую суд сочтёт справедливой и надлежащей». OpenAI отвязала Codex от компьютера разработчика — ИИ получил постоянные облачные рабочие пространства
29.09.2026 [23:45],
Анжелла Марина
OpenAI представила новые возможности для своего ИИ-агента программирования Codex, которые позволяют использовать его не только на компьютере разработчика. В частности, компания добавила повторно используемые облачные среды разработки, доступные с любого устройства. 
Источник изображений: OpenAI Ранее облачные задачи в Codex работали как изолированные песочницы, которые создавались заново для каждого запроса. Теперь разработчики могут настраивать постоянные рабочие пространства с утвержденными правами доступа и параметрами окружения. Это ускоряет запуск задач и дает командам возможность использовать единую согласованную среду для совместной работы, независимо от того, где физически находится участник процесса.  Также обновился интерфейс командной строки Codex CLI: теперь им можно управлять голосом. В приложении появилась новая панель /agents для делегирования задач и отслеживания нескольких процессов одновременно. Интерфейс терминала стал «чище» и удобнее для длительных сессий, улучшились функции редактирования промптов, возобновления прерванных сеансов и работы с деревьями изменений (worktrees).  Интеграция с настольным приложением ChatGPT получила новую возможность проверки кода. Пользователи могут просматривать сводки изменений, изучать правки и задавать вопросы агенту перед отправкой отзывов в GitHub или GitLab. Система способна проводить автоматическую проверку даже в отсутствие пользователя, пока его ноутбук выключен.  Для защиты инфраструктуры запущен набор инструментов Codex Security Cloud, который сканирует репозитории по расписанию или при новых коммитах, автоматически устраняя дубликаты уязвимостей и подготавливая исправления. Доступ к моделям кибербезопасности Daybreak Blue теперь открыт без отдельной заявки. Также представлены API Decisions для принятия решений в режиме реального времени и обновлённый Agents API с поддержкой Amazon Bedrock. Мероприятие OpenAI Dev Day прошло во вторник. OpenAI представила GPT‑6.1 Sol — почти как флагманская GPT‑6 Astra в сложных задачах, но в пять раз дешевле
29.09.2026 [23:38],
Владимир Мироненко
Компания OpenAI анонсировала ИИ-модель GPT-6.1 Sol, представляющую собой обновление GPT-6 Sol и отличающуюся высокими результатами в агентном программировании, управлении компьютером и профессиональных задачах. 
Источник изображений: OpenAI Это обновление приближает линейку Sol к GPT-6 Astra в решении сложных задач, отличаясь при этом более доступными тарифами — стандартные цены на входные и выходные токены у новой модели в пять раз ниже, чем у Astra: $2 за входные данные и $10 за выходные. Кэшированные входные данные стоят всего $0,10 за 1 млн токенов, что на 95 % ниже стандартной цены входных данных. Это особенно выгодно для агентных задач, когда нужно повторно использовать контекст в нескольких запросах. OpenAI отметила, что GPT-6.1 Sol значительно превосходит GPT-6 Sol в сложной профессиональной работе: от написания и отладки кода до понимания документов и выполнения многоэтапных бизнес-процессов.  Например, в тесте DeepSWE v1.1, который оценивает решение сложных задач разработки ПО в реальных кодовых базах, GPT-6.1 Sol превзошла лучший результат GPT-6 Sol на 6,4 п. п. при меньших усилиях на рассуждения и меньших затратах.  В тесте GDP.pdf, который измеряет точность ответов моделей на профессиональные вопросы по сложным PDF-документам, используемым в работе специалистами в области финансов, здравоохранения, права и семи других профессиональных сфер, GPT-6.1 Sol превосходит Opus 5.5 с резервными моделями при стоимости более чем вдвое ниже на всех проверенных уровнях усилий на рассуждения.  В тесте AutomationBench, который проверяет, правильно ли агенты выполняют многоэтапные бизнес-процессы, GPT-6.1 Sol при среднем уровне усилий на рассуждения превосходит Opus 5.5 на 2,2 п. п. при затратах примерно втрое ниже, а также на 4,8 п. п. превосходит показатель GPT-6 Sol. В тесте AutomationBench 1.0.6 агенты ИИ тестируются в сквозных процессах с использованием 47 инструментов в отделах продаж, маркетинга, операционной деятельности, поддержки, финансов и управления персоналом.  В задачах, требующих взаимодействия с компьютерными приложениями (тест OSWorld 2.0), GPT-6.1 Sol превзошла GPT-6 Sol на 7 п. п. при максимальных усилиях на рассуждения и затратах более чем вдвое ниже, отставая от Astra всего на 2,1 п. п. при стоимости примерно в семь раз ниже.  В тесте Terminal-Bench Science 0.1, который оценивает научные рабочие процессы, включая анализ данных, моделирование и доказательство теорем, GPT-6.1 Sol более чем вдвое превзошла результат GPT-6 Sol при максимальных усилиях на рассуждения и стоимости более чем вдвое ниже. В этом тесте агенты выполняют научно-исследовательские задачи с помощью кода и инструментов терминала: анализируют данные, запускают симуляции и подбирают параметры моделей.  GPT-6.1 Sol также превосходит предшественника по фактической точности ответов на сложные запросы. При очень высоком уровне усилий на рассуждения частота фактических ошибок у неё составляет 4,1 % против 4,5 % у GPT-6 Sol, приближаясь к 4,0 % у Astra при той же настройке. При этом стоимость выполнения примерно на 83 % ниже, чем у Astra.  В тестах на соответствие человеческим намерениям и ценностям GPT-6.1 Sol продемонстрировала значительные улучшения по сравнению с GPT-6 Sol. В сложных тестах модель реже, чем GPT-6 Sol, допускает сбои: скрывает неисправность инструментов поиска, нарушает явные ограничения или совершает несанкционированные действия при выполнении агентных задач. Также не было зафиксировано попыток модели обойти автоматическую систему проверки безопасности. GPT-6.1 Sol уже доступна всем пользователям Plus, Pro, Business, Enterprise и Edu в рамках ChatGPT Work и Codex. А вот в обычном чате ChatGPT новая модель пока недоступна, но вероятно появится в скором времени. OpenAI представила Dots — ИИ-агентов с собственными компьютерами, которые могут работать круглосуточно без пользователя
29.09.2026 [21:41],
Андрей Созинов
OpenAI представила Dots — новый тип постоянно работающих ИИ-агентов, способных самостоятельно выполнять многошаговые задачи, вести проекты, пользоваться приложениями, писать и тестировать код, и продолжать работу без участия человека. В OpenAI говорят, что Dots могут работать круглосуточно и со временем адаптироваться к предпочтениям пользователя. 
Источник изображений: OpenAI Ключевое отличие Dots от обычного ChatGPT заключается в том, что агент получает собственную вычислительную среду. Каждый Dot работает на отдельном облачном компьютере с собственным браузером и учётной записью для управления доступом и разрешениями. Пользователь при этом может открыть виртуальный компьютер и посмотреть, чем именно Dot занимается. При этом по умолчанию облачная среда изолирована от компьютера пользователя. Но при необходимости Dot можно подключить к собственному компьютеру, и агент сможет работать непосредственно на устройстве пользователя. В качестве основы Dots используется модель GPT-6 Astra. OpenAI также интегрировала агентов с собственной экосистемой плагинов, благодаря чему они могут работать более чем с 4000 приложений. Взаимодействовать с Dot можно через ChatGPT, текстовые сообщения, Slack и Microsoft Teams, а также обращаться к агенту можно и по голосовой связи. Контекст сохраняется между каналами связи. Главная особенность Dots — способность самостоятельно продолжать начатую работу. Пользователю необязательно держать открытый чат и контролировать каждый шаг: агент может взять проект, выполнять его отдельные этапы, отслеживать изменения и обращаться к пользователю только тогда, когда требуется его решение.  Например, агент способен отслеживать отзывы пользователей о приложении, находить повторяющиеся проблемы, вносить исправления в код и подготавливать их к проверке разработчиком. При этом окончательные решения по внесению изменений остаются за пользователем. В другом сценарии агент следит за подготовкой запуска продукта. Если характеристики продукта или требования к нему меняются, Dot может пересмотреть план запуска, обновить документы и рекламные материалы и подготовить изменения к проверке человеком. Для исследовательских задач агент способен повторять анализ по мере поступления новых данных, изучать неожиданные результаты и обновлять иллюстрации и выводы.  Интересно, что Dots рассчитаны не только на выполнение конкретных заданий, но и на проактивную работу. OpenAI называет это «проактивным исследованием»: агент может обращаться к подключённым приложениям в фоновом режиме и искать способы продолжить текущую работу. На этом этапе такие фоновые инструменты имеют ограниченные возможности — например, они не могут самостоятельно отправлять сообщения, изменять содержимое приложений или управлять браузером и компьютером пользователя. И в целом автономность Dots ограничена системой разрешений. Пользователь сам определяет, к каким приложениям получит доступ агент, и может задавать правила для отдельных действий: разрешать их автоматически, требовать подтверждения или полностью запрещать. Dots также попросят подтвердить действия, которые затрагивают аккаунты пользователя или могут привести к передаче информации. Некоторые операции, например смена пароля, OpenAI оставляет исключительно за человеком. У Dots есть и отдельный механизм защиты от потенциально опасного поведения. Если агент обнаруживает угрозу безопасности, он может приостановить или полностью прекратить выполнение задачи. OpenAI отдельно подчёркивает, что Dots всё равно могут ошибаться, поэтому результаты работы, от которых зависят важные решения или действия, необходимо проверять. Для бизнеса OpenAI готовит специализированные версии Dots. Здесь агент получит отдельную учётную запись, собственные учётные данные и только тот набор доступов к корпоративным системам, который необходим для выполнения конкретной роли. Компания уже тестирует сценарии для закупок, обработки счетов, email-маркетинга, клиентской поддержки и заключения коммерческих договоров. На старте Dots доступны пользователям ChatGPT Pro и Business Premium, а для корпоративных клиентов Enterprise предлагается бета-версия. Первый Dot входит в тарифы без дополнительной платы, а в будущем OpenAI планирует взимать отдельную ежемесячную плату за добавление новых агентов, повышение их скорости или объёма выполняемой работы. «Билайн бизнес» запустил коммуникационную платформу, которая помнит каждого клиента
29.09.2026 [17:42],
Андрей Созинов
«Билайн бизнес» представил «Контакт.ИИ» — платформу, которая помогает превратить коммуникации с клиентами в источник данных для развития бизнеса. Решение позволяет навести порядок в коммуникациях, структурировать информацию о заказах, сделках, проектах, отслеживать изменения и хранить историю общения с клиентами. Если менеджер обычно помнит около 20 клиентов, «Контакт.ИИ» помнит всех, с кем взаимодействовал.  Исследование «Билайн бизнес» показало, что компании и предприниматели отмечают рост разрозненности коммуникаций с клиентами. При этом чем больше каналов используется, тем сложнее собирать и удерживать единый контекст общения. Например, из-за постоянных переключений между чатами, почтой и звонками сотрудники могут забыть внести комментарий к заказу или слишком долго отвечать на запрос, что может привести к отказу клиента от сотрудничества. Таким образом разрозненность коммуникаций влияет на выручку и качество клиентского опыта. Чтобы изменить ситуацию, для максимального результата нужна интеграция CRM-системы, ИИ-технологий и разных каналов клиентских коммуникаций. Именно по этому принципу построена новая платформа «Билайна». «Контакт.ИИ» от «Билайн бизнес» — это готовая связка продуктов для управления коммуникациями и бизнес-процессами в продажах, поддержке, клиентском сервисе. Первым пользователям уже доступны облачная телефония с распределением и записью звонков, видеоконференции, речевая аналитика, а также встроенная CRM-система от Билайн бизнес с чат-центром. Данные о звонках и текстовых диалогах в CRM-системе формируют единую историю коммуникаций с клиентами вне зависимости от канала общения. Также пользователи могут настраивать различные автоматизированные сценарии, например, чтобы при пропущенном звонке в CRM-системе сразу создавалась задача «Перезвонить». При этом подключать все функции «Контакт.ИИ» необязательно: можно выбрать только те, что нужны прямо сейчас, а другие добавить по мере необходимости. Руслан Ахлебининский, директор по корпоративным решениям и сервисам «Билайн бизнес»: «Коммуникации с клиентами — источник важных данных для развития бизнеса. Благодаря "Контакт.ИИ" компании могут легко ориентироваться в информации, которая поступает через разные каналы, и своевременно реагировать на неё. Развитие платформы "Контакт.ИИ" мы начинаем с предоставления удобной CRM-системы, с которой проинтегрированы ключевые инструменты коммуникаций. Планируем расширять возможности платформы и до конца года открыть доступ к новым омниканальным возможностям с поддержкой ИИ-технологий». Microsoft показывает подрядчикам пользовательские запросы и фото из Copilot — среди них хватает интима
29.09.2026 [17:03],
Павел Котов
Компания Microsoft, как и OpenAI, нанимает сотни человек, чтобы те читали и анализировали переписки пользователей с ИИ-чат-ботом Copilot для последующей улучшения работы сервиса. И как оказалось, эти работники постоянно сталкиваются с непристойными запросами и просьбами отредактировать изображения деликатного характера. 
Источник изображения: Rubaitul Azad / unsplash.com Когда пользователь Copilot загружает своё фото или снимок другого человека, он, вероятно, рассчитывает, что изображение останется конфиденциальным и будет доступно только ему и системе ИИ. В действительности и запросы, и изображения могут просматривать сотни модераторов — людей привлекают не только для оценки текстовых запросов к чат-ботам, но и для анализа загруженных пользователями изображений для редактирования. «Лица всегда остаются без цензуры, а многие запросы носят интимный характер и вызывают сомнения в добровольном характере действия на изображениях», — рассказал ресурсу 404 Media один из работающих с запросами подрядчиков. В распоряжении ресурса оказался пакет внутренних документов, касающихся проверки запросов и изображений в Copilot: инструкции, реальные запросы и фотографии пользователей, а также переписка подрядчиков на внутреннем форуме. «Меня передёрнуло», — признался один из подрядчиков, увидев подобные материалы. В их задачи не входит выявление или фильтрация контента оскорбительного или неуместного характера. Им платят за оценку качества ответов и результатов генераций Copilot, в том числе и в случаях, когда речь идёт об изображениях интимного плана. «Доверьтесь интуиции: когда вы смотрите на два отредактированных изображения рядом, какое из них сразу кажется более удачным? Значение имеет ваша непосредственная реакция как человека-зрителя. Если сомневаетесь, полагайтесь на первое впечатление. Человеческая интуиция помогает уловить тонкие различия в качестве, которые непросто сформулировать словами», — говорится в инструкции для подрядчиков. Подрядчики, однако, говорят, что непросто относиться к делу серьёзно, если материалы имеют слишком откровенный характер. 
Источник изображения: Zan Lazarevic / unsplash.com В инструкциях, с которыми ознакомилась редакция 404 Media, описываются действия подрядчиков в ситуациях, когда пользователь Copilot просит отредактировать изображение. Ему показывается исходный запрос пользователя, загруженное им исходное изображение и два созданных сервисом отредактированных варианта. Необходимо выбрать лучший вариант по четырём критериям:
В ряде случае операторы жаловались, что им приходилось выполнять задания, содержащие изображения откровенного, небезопасного или даже, возможно, незаконного характера — приходилось и обращаться к руководству с просьбой пометить задание как содержащее небезопасный контент. Подрядчиков для такой работы нанимает компания Prolific — на её сайте предлагается услуга «получения обратной связи от репрезентативных групп людей — для настройки предпочтений, оценки безопасности и создания обоснованных бенчмарков». Для подрядчиков приводится инструкция, в которой отмечается невозможность оградить их от контента деликатного характера: «При работе с генеративным ИИ следует проявлять особую осторожность в отношении шокирующего или откровенного контента. Это связано с тем, что, в отличие от традиционного контента, исследователи не могут в полной мере контролировать, что демонстрируется участникам». В Microsoft происходящее прокомментировали так: «Microsoft использует данные клиентов в соответствии с условиями использования, в том числе для улучшения продуктов и обеспечения соблюдения кодекса этики». Китай перетянул к себе 41 % лучших в мире ИИ-исследователей — у США только 34 %
29.09.2026 [15:26],
Алексей Разин
В прежние годы некоторые китайские специалисты грезили карьерой в Кремниевой долине США, но сейчас в сегменте ИИ домашний рынок труда становится для них более привлекательным. Китай в прошлом году обеспечил работой 41 % ИИ-исследователей мирового уровня, тогда как США ограничились 34 %. 
Источник изображения: Unsplash, Dominic Kurniawan Suryaputra Об этом говорят результаты исследования Carnegie China, опирающиеся на отслеживание карьерной активности ведущих мировых специалистов в области ИИ. В 2022 году, для сравнения, 46 % ведущих специалистов в этой сфере работали в США, а КНР довольствовалась только 27 %. Теперь перевес явно на стороне Китая, где технологии искусственного интеллекта также стремительно развиваются. В выборку попали 10 280 исследователей, чьи научные публикации были приняты к рассмотрению Конференцией по машинному обучению и нейровычислениям. Китайские разработчики ИИ-систем типа DeepSeek или Moonshot AI создали привлекательные условия труда для профильных специалистов, уровень оплаты в этих компаниях вполне сопоставим с американским. Непосредственно стартап Moonshot AI был основан Ян Чжилинем (Yang Zhilin), который получил учёную степень в США, но вернулся в Китай для построения карьеры в области ИИ. Китай остаётся и крупной «кузницей кадров» для отрасли ИИ. В прошлом году степени бакалавра в местных вузах получили 57 % специалистов в области ИИ, что на 11 п. п. больше, чем в 2022 году. При этом в США образование получили только 13 % китайских исследователей в сфере ИИ, за которыми следят авторы отчёта. Если в 2022 году 57 % выпускников китайских вузов по этому направлению оставались работать в КНР, то в прошлом году их доля выросла до 69 %. Впрочем, авторы исследования добавляют, что отчасти на трудовую миграцию в этой сфере могли повлиять ужесточения условий получения рабочих виз в США. Китайские власти также ужесточили ответственность за несанкционированный экспорт критически важных технологий. Многие специалисты в КНР просто становятся «невыездными» на несколько лет. 
Источник изображения: South China Morning Post Впрочем, среди ориентированных на построение карьеры за рубежом китайских выпускников именно Соединённые Штаты остаются главной точкой притяжения. Доля попавших в США именно из Китая исследователей в прошлом году выросла на 4 процентных пункта. Американские работодатели продолжают привлекать специалистов даже на рынке КНР. OpenAI готовит потребительского ИИ-агента Aeon — победить Muse и других конкурентов будет непросто
29.09.2026 [15:18],
Павел Котов
Несколько лет назад OpenAI с помощью ChatGPT сумела сделать популярными чат-боты с искусственным интеллектом и прочно закрепила за собой лидерство. Однако сейчас компания отстала от конкурентов на одном из наиболее активно развивающихся направлении — в категории непрерывно работающих потребительских ИИ-агентов. По неподтвержденной информации, OpenAI готовит такой продукт, и он носит название Aeon. 
Источник изображения: Brecht Corbeel / unsplash.com OpenAI Aeon выступит ответом таким проектам как Meta✴✴ Muse, SpaceXAI Grok Bot, OpenClaw и многие другие. У сервиса есть шансы на успех, но для победы над конкурентами ей придётся вобрать в себя лучшие функции различных платформ: быть таким же практически полезным как открытый OpenClaw и таким же недорогим и простым в обращении как Meta✴✴ Muse. Потребуется решить серьёзные проблемы безопасности, которые возникли ещё у OpenClaw и сохранились у Muse. OpenAI демонстрировала возможности API для ИИ-агентов ещё на DevDay 2024 и выпускала потребительские продукты в 2025 году. Но практически полезными ИИ-агенты стали лишь с появлением OpenClaw. С тех пор гонка ускорилась, и OpenAI оказалась в положении догоняющей. На данный момент наибольшего успеха, возможно, удалось добиться Meta✴✴ Muse — только в США у этого сервиса 600 000 ежедневно активных пользователей. Он предлагает интеграцию с платформами Meta✴✴, которыми пользуются миллиарды человек. Востребован и Google Gemini Spark — он тоже работает круглосуточно, тоже ориентирован на массового потребителя, а также может работать с широким набором корпоративных и потребительских продуктов Google. Muse и Spark поддерживают работу и со сторонними сервисами. На практике они уже решают такие задачи как заполнение документов для визита к врачу, отмена подписок, организация групповых поездок, бронирование досуговых мероприятий, запись на приём в госучреждения и оплата счетов. Хотя остаются серьёзные вопросы по поводу безопасности: помимо технических уязвимостей, это могут быть ошибки, связанные с раскрытием персональных данных — в одном из случаев Muse сообщил незнакомому человеку адрес своего пользователя. Об OpenAI Aeon пока известно не так много. В компании, однако, работает создатель OpenClaw Петер Штайнбергер (Peter Steinberger), и он явно поможет в развитии проекта. В прошлом году OpenAI представила новый SDK для приложений ChatGPT, позволяющий элементам управления сторонних сервисов, таких как Zillow, Spotify и Canva, работать прямо в интерфейсе чат-бота. Вопрос лишь в том, как Aeon будет конкурировать с недорогими и предлагающими глубокую интеграцию с многочисленными сервисами ИИ-агентами других разработчиков. ИИ-агенты научились самостоятельно проектировать и проверять чипы — Synopsys представила AgentEngineer
29.09.2026 [14:28],
Павел Котов
Крупнейший разработчик ПО для проектирования чипов Synopsys анонсировал набор решений AgentEngineer — «специализированных агентов для выполнения долгосрочных задач» на основе новой платформы искусственного интеллекта Autopilot. Комплект охватывает шесть областей разработки микросхем: проверку чипа, проверку всей системы, физическую реализацию, аналоговую и аналогово-цифровую часть, моделирование и анализ. 
Источник изображений: synopsys.com Продукт внедрили в работу уже более 50 клиентов Synopsys, а в широкий доступ компания выпустит его в конце 2026 года. Ранее она показывала рабочие процессы на основе ИИ-агентов, построенные с участием Nvidia и Microsoft. Synopsys позиционирует ИИ-агентов как автономных, но утверждение результатов на контрольных этапах остаётся за человеком, подчеркнули в компании. Для предприятий, которые занимаются проектированием и производством чипов и стремятся повысить эффективность за счёт внедрения ИИ, новый пакет решений поможет «ускорить переход от проектирования с использованием ИИ к автономной инженерной разработке». Система AgentEngineer имеет трёхуровневую структуру — в неё входят «специализированные суперагенты, которые координируют агентов-исполнителей»; агенты-исполнители, которые «решают непосредственные, чётко разграниченные инженерные задачи» или действуют по прямому запросу инженера; а также движки на уровне инструментов, которые «выполняют запрошенную работу» но не принимают решений и не ставят целей. Агенты для выполнения долгосрочных задач или задач с длинным горизонтом планирования помогают решить проблему сложности целей — они выполняют задачи, требующие сотен или тысяч шагов рассуждения. Платформа охватывает все этапы разработки от координации работы ИИ-агентов до сбора телеметрии — её основу составляет «когнитивная модель», которая обеспечивает работу «контекстного интеллекта». Безопасность интеллектуальной собственности обеспечивают системы контроля доступа, шифрования и средства защиты среды исполнения. Клиенты могут использовать в системе коммерческие, открытые и дообученные ИИ-модели, которые развёртываются в облаке Synopsys, в собственном облаке клиента или работают на локальной инфраструктуре.  Компания проиллюстрировала цикл проверки чипа. ИИ-агент составляет план, координирует работу агентов-исполнителей, и вносит коррективы, если промежуточный результат оказывается неудовлетворительным. При обнаружении ошибки во время тестирования подключается агент для анализа первопричин — он изучает журналы, группирует ошибки, формулирует гипотезу и проверяет её, анализируя сигналы. Затем агент производит «локальную перезапись RTL-кода, чтобы подтвердить устранение ошибок», и составляет отчёт об их исправлении. Если промежуточные результаты отклоняются от поставленной цели, ИИ-агент «корректирует курс, адаптируется и соответствующим образом реагирует». При совместном тестировании системы с Nvidia завершение проверки чипов ускорилось на величину до 50 раз, полнота проверки расширилась на 20 %, производительность при решении инженерных задач повысилась на величину до 30 % — последний показатель показала Fujitsu в контексте генерации RTL-кода. Один из клиентов Synopsys сформировал собственную среду ИИ-разработки микросхем на основе коммерческих ИИ-агентов общего назначения — пакет AgentEngineer помог сократить расход ИИ-токенов вдвое. Положительные отзывы о системе оставили Intel, MediaTek и Samsung, хотя конкретными результатами они не поделились. Ранее Synopsys предложила классификацию уровней автономности ИИ-агентов для разработки микросхем, и по ней компоненты AgentEngineer отвечают критериям высшего уровня L5. Инженеры-люди по-прежнему принимают активное участие в работе, но степень контроля может варьироваться. Клиенты могут самостоятельно устанавливать контрольные точки для проверки результатов, подтверждения решений и корректировки хода работ — а затем по мере роста доверия к системе «снижать уровень вмешательства». В каких именно случаях агенты прерывают попытки выполнения задачи или передают её инженеру, в Synopsys не уточнили. Деньги ходят по кругу, риски растут: Nvidia пытается втянуть страховые компании в сделки по финансированию ИИ-бума
29.09.2026 [13:03],
Алексей Разин
Бум искусственного интеллекта требует колоссальных инвестиций со смутными перспективами финансовой отдачи. Неудивительно, что он уже породил множество сделок с кольцевым финансированием, в которых все передают друг другу деньги по кругу, и никто в полной мере не отвечает за конечный результат. Nvidia пытается уравновесить риски отрасли, привлекая страховые компании к косвенному обеспечению сделок по строительству ЦОД. 
Источник изображения: Nvidia Об этом сообщает издание Financial Times, указывая на проведение представителями Nvidia переговоров со страховыми компаниями. Идея заключается в страховании риска банкротства компании, взявшейся построить ЦОД на основе ускорителей вычислений Nvidia. Не секрет, что в нормальных условиях они теряют в цене достаточно быстро, и этому в немалой степени способствует сама Nvidia, ежегодно выпуская всё более производительные ускорители нового поколения. Кредиты же на строительство ЦОД выдаются, исходя из фиксированной суммы, в которую оцениваются закупаемые для объекта ускорители вычислений. Если заёмщик обанкротится, то эти ускорители могут продаваться с большим дисконтом, и кредитор просто рискует потерять много денег. Величину уценки ускорителей в таких случаях Nvidia и хочет покрывать силами страховщиков. При этом компания бравирует востребованностью своих ускорителей, говоря об их способности мало терять в цене с течением времени в условиях бума ИИ. Некоторые сторонние оценщики подобный оптимизм тоже разделяют. Например, Barkr AI утверждает, что восьмичиповая система Nvidia на базе H100 образца 2022 года до сих пор стоит $320 000 — почти столько же, как и новая четыре года назад. При этом такой перекос возможен лишь благодаря отставанию спроса на такие ускорители от предложения. Как только рынок достигнет баланса, по мнению экспертов Barkr AI, за первый год эксплуатации система такого уровня будет дешеветь на треть, а после шести лет эксплуатации её остаточная стоимость не превысит $30 000. По мнению Nvidia, которая идею привлечения страховщиков к косвенному финансированию отрасли продвигает силами своего директора по финансовым решениям Ингемара Ланеви (Ingemar Lanevi), наличие специализированных программ страхования позволит привлечь в сегмент строительства ИИ-инфраструктуры больше капитала. Кроме того, для контрагентов взаимодействие с неооблачными (neocloud) провайдерами станет столь же приемлемым, как и с гигантами рынка, которые обладают большим запасом финансовой прочности. По крайней мере, страхование рисков выровняет шансы на успех как крупных, так и молодых участников рынка. Nvidia даже сама готова присоединиться к инвестиционным консорциумам, финансирующим развитие ИИ-инфраструктуры. Она уже взялась привлечь в эту сферу $500 млрд, а ещё она взяла на себя финансовые гарантии в размере $105 млрд по возведению крупного ЦОД для OpenAI. Инвестиции в ИИ-отрасль уже измеряются такими суммами, собрать которые в одиночку не по силам даже самым крупным компаниям, поэтому схемы с солидарной ответственностью будут получать распространение всё больше. Nvidia уже нанимает консультантов и брокеров для проработки данных вопросов. Компания даже использует в переговорах с потенциальными партнёрами следующие аргументы: «ИИ-инфраструктура является активом инвестиционного класса, поскольку она уникальным образом продуктивна, надёжна и взаимозаменяема». Сперва Nvidia хотела покрывать риски кредиторов за счёт собственных средств, но теперь задумалась о страховании подобных рисков. ИИ-агенту Muse поручили продать вещь, а тот пригласил незнакомца домой без ведома пользователя
29.09.2026 [11:40],
Павел Котов
Агент искусственного интеллекта Meta✴✴ Muse призван выполнять за человека широкий круг задач, но порой это может иметь непредсказуемые последствия. В ходе недавнего инцидента он раскрыл домашний адрес своего пользователя неизвестному человеку и даже договорился с ним о встрече. 
Источник изображения: Meta✴✴ Об инциденте рассказал пользователь платформы Threads Мэтт Робб (Matt Robb) — он поручил Muse заняться своим объявлением на платформе Facebook✴✴ Marketplace. ИИ провёл с покупателем переговоры, согласовал цену, сообщил домашний адрес и договорился о времени самовывоза товара — и всё это без ведома самого Робба, который и не подозревал, что к нему уже выехал человек. В итоге покупатель подъехал к дому Робба и стал ждать — сам же продавец узнал о случившемся лишь постфактум, когда Muse раскрыл ему все подробности. После этого Робб дал указание ИИ не договариваться о самовывозе без предварительного согласования с ним. Это грань, за которой ситуация перерастает из ошибки ИИ в нечто более серьёзное. Идея о том, чтобы поручить ИИ рутинные задачи на Facebook✴✴ Marketplace представляется здравой: агент может отвечать на бесконечные сообщения о наличии товара или вести переговоры в установленном ценовом диапазоне. Но сообщить незнакомцу домашний адрес пользователя и принять решение о том, когда посторонний человек может приехать к нему домой — поступок безответственный. Один из пользователей соцсетей, узнав об этой истории, решил удалить Muse, охарактеризовав ситуацию как «опасную и жуткую». Представитель разработавшего Muse отдела Meta✴✴ Superintelligence Labs Дэвид Синглтон (David Singleton) доложил, что уже связался с Мэттом Роббом в личных сообщениях, чтобы расследовать инцидент. Meta✴✴ уже сталкивалась с подобными ситуациями, и каждый раз выяснялось, что Muse следовал прямым инструкциям и корректно запрашивал разрешение у пользователей, добавил господин Синглтон. Не исключено, что Muse сделал то, на что ему было дано разрешение; но возможен и вариант, что при выполнении инструкций или в настройках доступа произошёл сбой. Пока в Meta✴✴ не завершат расследование, допускаются оба варианта развития событий. Но сам факт того, что к подобной ситуации могли привести вполне вероятные сценарии, уже служит серьёзным предостережением. По мере расширения своих возможностей ИИ-агенты будут требовать от человека больше доверия, и человек отнюдь не обязан его оказывать. «Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ
29.09.2026 [10:42],
Алексей Разин
Существующие правила составления подобных документов подразумевают, что готовящаяся к выходу на биржу компания должна уведомлять инвесторов о рисках, с которыми она сталкивается или может столкнуться в своей деятельности. Поддерживая репутацию одного из самых мнительных разработчиков ИИ, компания Anthropic в проспекте для инвесторов почти треть объёма информации уделила факторам риска. 
Источник изображения: Anthropic По крайней мере, на это указывает агентство Reuters, говоря о наличии упоминаний об угрозах на 80 страницах из 261, присутствующих в документе. При этом сугубо бизнес-вопросам составители документа уделили всего 48 страниц. Передовые ИИ-модели, по словам представителей Anthropic, способны представлять «катастрофические или экзистенциальные риски для человечества», а также демонстрировать признаки «самозащиты» в поведении, скрывая информацию или манипулируя ею, сопротивляясь отключению и даже прибегать к шантажу. Компания предупреждает, что её модели могут становиться источником необратимого вреда. Ранее исследователь компании Эван Хабингер (Evan Hubinger) оценивал вероятность уничтожения человечества силами ИИ на протяжении десяти ближайших лет в более чем 10 %. Что характерно, вышедшая на биржу в июне конкурирующая SpaceX в своём проспекте для инвесторов только 38 из 277 страниц посвятила обсуждению факторов риска. Как отмечает Anthropic, потенциальная осведомлённость создаваемых ИИ-моделей о стремлении разработчиков оценивать их безопасность ограничивает способность делать это эффективно. В некоторых случаях опасные проявления деятельности ИИ-моделей становятся достоянием общественности уже после их развёртывания. Современные ИИ-модели способны адаптировать своё поведение на этапе проверки, чтобы не выдавать свои «тёмные стороны». Какое количество ресурсов Anthropic тратит на обеспечение безопасности своих ИИ-моделей, до конца понять сложно, но на протяжении одной из недель в июле под эти нужды были выделены до 6 % вычислительных мощностей, доступных компании. В условиях нехватки вычислительных ресурсов в целом подобное распределение становится компромиссом между интересами бизнеса и безопасностью. Тем более, что конкуренция весьма остра, и утрачивать лидерские позиции Anthropic не готова, хотя и начинает призывать всех участников рынка отдавать именно безопасности, а не извлечению прибыли. В своём обращении к инвесторам компания выражает уверенность, что построение надёжной и безопасной ИИ-инфраструктуры лежит в сфере коллективной ответственности, и что рынок должен вознаградить соответствующие усилия. OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности
29.09.2026 [10:00],
Павел Котов
OpenAI объявила об отказе выпустить новую модель искусственного интеллекта GPT-6.1 Astra из-за опасений, которые возникли у исследователей компании в ходе внутреннего тестирования системы, сообщает The Wall Street Journal. Радикальная мера стала одним из наиболее ярких свидетельств того, что непредсказуемое поведение ИИ может затормозить стремительное развитие всей отрасли. 
Источник изображения: Brecht Corbeel / unsplash.com ИИ-лаборатория намеревалась анонсировать GPT-6.1 Astra в ближайшие дни или недели и выпустить её в октябре. Она превосходит предшественников по своим возможностям: демонстрирует более высокие навыки в написании текстов и лучше справляется с многоэтапными задачами без участия человека. Вместе с тем, у неё обнаружился регресс в двух областях: соответствия целям и авторизации в рамках задач. Первое означает, что модель не всегда точно следует намерениям и ожиданиям человека, а также не всегда честно сообщает пользователю, какие действия она предприняла, а какие — нет. Второе значит, что OpenAI GPT-6.1 Astra может начать выполнять задачу, не запрашивая разрешения пользователя, а также иногда обращается ко внешним средствам и сервисам, даже если это небезопасно. Разработчикам удалось решить проблему «лени у модели», то есть отказа продолжать работу при возникновении сложностей, но она не дотянула до стандартов, которые компания установила в области безопасности, и соответствия целям, поэтому было принято решение не выпускать её в открытый доступ. Объявление было сделано накануне ежегодной конференции OpenAI, которая проводится в Сан-Франциско (США) — ранее компания анонсировала на мероприятии новые модели и сервисы. Сейчас лаборатория занимается расследованием выявленных за последние месяцы инцидентов, связанных с безопасностью ИИ. Она развернула новую систему мониторинга для оперативного обнаружения нарушений в деятельности ИИ-агентов и обязала инженеров использовать при тестировании систем более строгие меры защиты. OpenAI приостановила обучение наиболее мощных ИИ-моделей, но GPT-6.1 Astra это не коснулось. «Хотим быть уверенными в безопасности разработки наших моделей как внутри компании, так и с их выпуском для пользователей. Но когда мы выпускаем продукт для пользователей, то предъявляем чрезвычайно высокие требования к безопасности и соответствия целям у моделей», — заявили в компании. OpenAI приняла решение не выпускать версию GPT-6.1 Astra, но рассчитывает использовать её основу в проведении дополнительных циклов обучения с подкреплением и создания новых моделей серии GPT-6. Компания планирует провести серию углублённых исследований, чтобы установить первопричины обнаруженных у GPT-6.1 Astra проблем. Инженеры проверят, поощряется ли в среде обучения с подкреплением надлежащее поведение, и изучат прочие этапы разработки. Общественности нужна уверенность, что ИИ разрабатывается с учётом соображений безопасности, «и это начинается с того, что делают сами компании вроде нашей», заявили в OpenAI. ИИ не заменил инженеров, но ускорил их втрое — OpenAI раскрыла секреты создания Jalapeno
29.09.2026 [09:59],
Алексей Разин
В июне OpenAI представила свой ИИ-чип Jalapeno, в разработке которого принимали активное участие специалисты Broadcom. Вице-президент OpenAI по аппаратному обеспечению Ричард Хо (Richard Ho) в своём интервью Tom’s Hardware рассказал о том, как велась разработка Jalapeno, и чем полученный опыт может быть полезен для всей полупроводниковой отрасли. 
Источник изображения: OpenAI Во-первых, как отметил представитель OpenAI, активное использование ИИ на этапе проектирования чипа позволило сократить затраты времени на весь процесс с традиционных 18–24 месяцев до девяти. Говорить о замене искусственным интеллектом труда инженеров при этом преждевременно, поскольку небольшая по численности команда специалистов в итоге стала более производительной. Пришлось пойти и на определённые компромиссы с точки зрения архитектуры, поскольку сжатые сроки проектирования были приоритетом. В дальнейшем, если потребуется создать более сложный чип, OpenAI сможет сделать это быстрее, чем при использовании традиционных методов, опираясь на ИИ и уже существующий дизайн. По словам Хо, к созданию собственного чипа OpenAI подтолкнуло стремление поднять эффективность вычислительной инфраструктуры, поскольку в условиях нехватки вычислительных ресурсов в сфере ИИ распоряжаться ими надо более рационально. В этом смысле ИИ-чипы для инференса в современных условиях максимально определяют пользовательский опыт, а потому Jalapeno заточен именно под эти цели, снижая задержки при обработке запросов. При этом Jalapeno должен хорошо проявлять себя при работе с ИИ-моделями разных поставщиков, а не только собственными OpenAI. По сути, под эффективную работу с чипом можно за пару месяцев адаптировать даже те модели, которые при его создании даже не учитывались. При этом Хо считает, что потенциал внутреннего спроса OpenAI на вычислительные ресурсы настолько велик, что говорить об использовании Jalapeno внешними заказчиками не придётся ещё очень долго. Полученным при разработке Jalapeno с помощью ИИ опытом OpenAI готова делиться с прочими участниками рынка, поскольку она заинтересована в более быстром выходе на рынок новых моделей чипов других поставщиков, которые тоже использует в своей инфраструктуре. OpenAI не станет отказываться от компонентов других разработчиков, типа AMD и Nvidia, продолжив использовать их в своей вычислительной инфраструктуре. Главное, чтобы в итоге аппаратная конфигурация ЦОД была эффективной с точки зрения обеспечиваемой производительности при определённом уровне затрат. Новые поколения собственных чипов OpenAI собирается выводить на рынок по мере готовности, и в этой сфере нет каких-то заранее определённых требований по ритмичности таких анонсов. Каждое новое поколение при этом должно обеспечивать видимый прирост производительности относительно предыдущего, поэтому их смена не будет излишне частой. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
