Опрос
|
реклама
Быстрый переход
Системы OpenAI взломали при помощи ИИ-моделей Anthropic
18.09.2026 [11:49],
Павел Котов
Специалисты в области кибербезопасности произвели взлом систем OpenAI, воспользовавшись программными решениями её главного конкурента — компании Anthropic. В результате удалось обнаружить уязвимости в защите разработчика ChatGPT, чьи продукты и сами вызывают вопросы, связанные с кибербезопасностью. 
Источник изображения: Brecht Corbeel / unsplash.com Небольшая группа экспертов по кибербезопасности получила доступ к учётной записи сотрудника OpenAI в ChatGPT, что дало им возможность просмотреть конфиденциальную информацию и предложить изменения в коде продуктов. Исследователи использовали средство Anthropic, разработанное специально для специалистов в этой области — их работа оплачивалась в рамках программы по поиску уязвимостей, призванной выявлять ошибки до того, как ими смогут воспользоваться злоумышленники. Тот факт, что экспертам удалось быстро взломать систему одной из ведущих мировых лабораторий искусственного интеллекта вызывает опасения по поводу безопасности ИИ. Трое исследователей из небольшой компании Hacktron AI получили от OpenAI вознаграждение в размере $6500 за сделанное открытие. Они воспользовались уязвимостью в настройках форума сообщества OpenAI, чтобы получить доступ к внутренним учётным данным, а затем и к аккаунту одного из сотрудников OpenAI в ChatGPT — он имел доступ к внутреннему коду через платформу GitHub. «Благодарим исследователей за то, что они связались с нами и поделились своими выводами», — заявили в OpenAI и добавили, что уязвимости уже устранены. Одновременно Anthropic сообщила, что резко нарастила использование ИИ при разработке новых моделей — Claude оказывает помощь при реализации 26 % проектов в области исследований и разработки; только в марте этот показатель составлял 1 %. В компании решили обнародовать эти данные, чтобы помочь общественности «осознать, насколько мир близок к этапу рекурсивного самосовершенствования» — этапу, когда ИИ сможет самостоятельно обучаться, совершенствовать себя или создавать новые модели. Есть опасения, что в результате человек утратит возможность управлять ими. Но пока говорить об этом рано, добавили в Anthropic — при выполнении 90 % задач ИИ сотрудничает с человеком, хотя и берёт на себя значительную часть работы. PrismML представила не очень большую языковую модель, которая почти не хуже большого оригинала
18.09.2026 [10:51],
Павел Котов
Лаборатория искусственного интеллекта PrismML представила новую языковую модель, которая имеет достаточно компактные размеры, чтобы работать на обычных ПК и мощных смартфонах. Компания делает ставку на то, что подобные системы не обязательно должны иметь колоссальные размеры. 
Источник изображения: BoliviaInteligente / unsplash.com Новая в линейке языковая модель PrismML Bonsai 2 27B представляет собой версию популярной открытой системы Alibaba Qwen3.8 27B, но в достаточно компактном размере — всего 5,9 Гбайт. Таким образом она легко поместится на ПК или может запускаться даже на флагманском смартфоне. Объём модели сокращён в 9–10 раз по сравнению с оригиналом. Технология сжатия, которую применяет PrismML, уникальна, утверждает разработчик: созданные компанией модели практически не теряют в показателях производительности в сравнении с оригиналами. Новая Bonsai 2 демонстрирует 98 % от совокупных результатов бенчмарков, которые показала Qwen. Этот показатель выше, чем у выпущенной в марте первой Qwen, которая обеспечивала 95 % оригинала. И если оригинальную скачали 11 млн раз, то компактные модели PrismML — 2,6 млн раз. Таким образом, демонстрируемые стартапом результаты сжатия улучшаются от версии к версии. Удастся ли когда-нибудь достичь соответствия на все 100 %, вопрос открытый, да он и не имеет особого практического значения. Оригинальные модели не настолько точны, и бенчмарки не настолько идеально отражают реальные задачи, чтобы снижение эффективности на 2 % оказало существенное влияние на работу в реальных условиях. Важным фактором остаётся и программная обвязка. Внушительных результатов, поясняют в PrismML, удаётся достичь за счёт уменьшения размера весов, составляющих модель. Обычно на каждый требуются 16 бит — стартап же использует тернарные веса, то есть сокращает этот объём до трёх значений: «+1», «0» и «-1». Из-за того, что для каждого веса требуется хранить гораздо меньше данных, то и модель занимает значительно меньше места. Стартап планирует применить этот метод сжатия к ещё более крупным моделям — с сотнями миллиардов параметров; разработчики уверены, что в них будет проще сохранить «интеллект», потому что по мере роста размера модели расширяются возможности для сжатия без потери способностей. Возможно, с ними будет проще добиться соответствия на 100 %. Google учредила DeepMind Institute для обсуждения проблем сильного ИИ
18.09.2026 [10:37],
Павел Котов
Исследователи Google и Google DeepMind объявили о создании DeepMind Institute — новая площадка призвана активизировать обсуждение вопросов, связанных с сильным искусственным интеллектом (AGI). 
Источник изображения: institute.deepmind.com В число директоров организации вошли соучредитель DeepMind Шейн Легг (Shane Legg), топ-менеджер Google Джеймс Маника (James Manyika) и председатель совета директоров Google DeepMind Демис Хассабис (Demis Hassabis); господин Легг взял на себя функции выпускающего редактора (managing editor). Институт призван выявить различия в позициях Google, Google DeepMind и мирового сообщества по вопросам AGI. «Мнения не всегда будут едиными, и они, вероятно, будут меняться по мере возникновения новых данных и информации в этой стремительно развивающейся области», — говорится в заявлении организации. Первая подборка из четырёх работ охватывает широкий круг вопросов: экономическая политика при управлении потрясениями, которые может вызвать AGI; сохранение возможности отслеживать ход рассуждений модели в понятном для человека виде; принципы процветания человечества; и методология оценки передовых ИИ-моделей. Исследователи в области безопасности из DeepMind в одной из работ утверждают, что сужение окна прозрачности, то есть способности видеть и проверять пошаговый ход рассуждений модели, не является неизбежным. С новыми архитектурами мониторинг наиболее мощных моделей усложняется, и авторы призывают разработчиков и регуляторов открыто решать проблемы, связанные с компромиссами в области безопасности. Например, ограничить «непрозрачную последовательную глубину», то есть объём последовательных вычислений, которые модель выполняет, не формируя доступной схемы рассуждений; или потребовать, чтобы разработчики доказывали, что менее прозрачные системы остаются доступными для контроля. В другой работе господин Хассабис предлагает создать орган стандартизации передовых систем ИИ для оценки моделей, чтобы разработчики добровольно представляли свои системы за 30 дней до выпуска. Когда система оценки докажет свою эффективность, предварительное тестирование можно будет сделать обязательным условием для развёртывания передовых моделей в США. На первых порах критерии оценки будут вырабатываться совместно с ИИ-лабораториями, а со временем учреждение введёт свои независимые и закрытые тесты — это не даст лабораториям возможности подстраивать ответы моделей под известные параметры проверки. Если ситуация станет серьёзной, механизм можно ужесточить вплоть до замедления темпов разработки передовых систем ИИ. Google CC стал семейным ИИ-секретарём — он собирает письма, чеки и документы и превращает их в планы
18.09.2026 [09:59],
Павел Котов
В конце минувшего года Google выпустила экспериментальный проект CC, призванный сделать модель Gemini полезной в повседневной жизни. Это был ИИ-агент, который готовил ежедневные сводки и помогал отслеживать выполнение задач, анализируя информацию из Gmail, «Google Календаря» и «Google Диска». Экспериментальный сервис воплотился в функции ежедневных сводок Gemini Daily Brief, но в компании расширили и возможности первоначальной концепции Google CC. 
Источник изображения: blog.google Теперь сервис Google CC позиционируется как ИИ-помощник для семей и домохозяйств. Он работает не только с одним человеком, а ориентируется на нужды всей семьи, работая в собственной учётной записи Google. Сервис работает через собственный профиль, и пользователи сами решают, какой информацией с ним поделиться — так же, как они делятся данными с друзьями. Управлять новым ИИ-агентом и взаимодействовать с ним могут до шести членов семьи. Можно отправлять ему файлы PDF, изображения, чеки и обычный текст. Получив доступ к данным, система анализирует их и формирует общую ежедневную сводку для всей семьи. Родители могут настроить автоматическую пересылку писем из школы ребёнка на адрес Google CC, а также автоматически перенаправлять приглашения из календаря. Основная идея в том, чтобы собирать разрозненную информацию воедино и представлять её людям в удобном для них виде. Сервис может отслеживать важные даты и задачи, заносить эти события в семейный календарь или список дел. Google CC может выполнять повторяющиеся задачи: заполнять бланки разрешений и формы регистрации на различные мероприятия, составлять списки покупок и планировать меню на неделю. При недостатке информации, подчеркнули в Google, сервис не галлюцинирует, то есть не выдумывает несуществующие факты, а просто запрашивает недостающие данные. Со временем объём памяти сервиса увеличивается, система узнаёт о пользователях больше и пополняет свою базу данных: запоминает продукты, которые семья покупает постоянно, или любимые рестораны. Чрезмерной инициативы Google CC не проявляет — он не заполняет формы самостоятельно и не совершает платежей. Сервис продолжает носить статус экспериментального, поэтому он может не всегда работать так, как заявлено. Опробовать его сейчас могут только обладатели личных аккаунтов Google, живущие в США. Действующие пользователи Google CC получат электронное письмо с предложением о переходе на новую версию сервиса; новым придётся записаться в лист ожидания. Новая фабрика Samsung в Техасе наконец начала делать 2-нм чипы — первым крупным заказчиком стала Tesla
18.09.2026 [08:55],
Алексей Разин
Принято считать, что именно контракт с Tesla на контрактное производство чипов оживил проект Samsung Electronics по строительству профильного предприятия в техасском Тейлоре и дал компании возможность привлечь к новой площадке внимание других потенциальных клиентов. Если верить источникам, пробное производство чипов на новом заводе Samsung в Тейлоре уже началось, опережая первоначальный график. 
Источник изображения: Samsung Electronics Здесь южнокорейский подрядчик будет выпускать для Tesla ИИ-чипы по 2-нм технологии. В будущем по соседству появится второе предприятие, которое сможет освоить выпуск 1,4-нм чипов. Его строительство начнётся в конце этого года, а завершится к 2030 году. Первоначально ожидалось, что первое предприятие Samsung в этом регионе начнёт полноценную работу не ранее ноября, но высокий спрос на ИИ-чипы и настойчивость Tesla позволили несколько ускорить график. Верификация всех процессов на новой площадке завершится к концу текущего года, и со следующего она сможет наладить полномасштабный выпуск чипов по заказам клиентов. Изначально опытное производство чипов для Tesla планировалось начать только к концу этого года. Издание Seoul Economic Daily сообщило, что на предприятии Samsung в Тейлоре начался опытный выпуск 2-нм чипов AI5 для компании Tesla. В серийном воплощении Tesla начнёт получать выпускаемые здесь чипы AI5 только в следующем году. Церемония торжественного монтажа оборудования на предприятии состоялась ещё в апреле этого года. К середине июля Samsung уже была готова к работе с цифровыми проектами чипов, которые должны были использоваться для фактической обработки кремниевых пластин на предприятии. Ускорить введение в строй новых линий в Техасе компанию Samsung подтолкнула полная загрузка южнокорейских контрактных мощностей, которые будут выпускать чипы по 4-нм и 2-нм технологиям. В прошлом году Tesla и Samsung подписали соглашение на сумму $16,5 млрд, которое подразумевает активное использование американских контрактных мощностей последней для контрактного производства чипов для нужд первой. AI5 станет основным видом продукции, выпускаемой для Tesla компанией Samsung в Техасе. Универсальность данного чипа позволит заказчику применять его не только в бортовых системах электромобилей, но и человекоподобных роботах Optimus, а также своих ЦОД. Помимо сокращения отставания от TSMC, американские предприятия Samsung в Техасе позволят компании увеличить отрыв от китайской SMIC, которая в показателях выручки уже вплотную подобралась к южнокорейскому гиганту в сфере контрактного производства чипов. В этих показателях разрыв между ними по итогам второго квартала текущего года измерялся 0,5 %, как отмечает TrendForce. У себя на родине Samsung займётся более активным внедрением оборудования для EUV-литографии, которое китайскому конкуренту недоступно из-за санкций США и Нидерландов. Более быстрая экспансия новых предприятий Samsung в Техасе поможет ускорить выход контрактного бизнеса компании на безубыточность. Anthropic заявила, что ИИ теперь руководит 26 % деятельности по разработке и исследованиям внутри компании
18.09.2026 [07:30],
Алексей Разин
Пока участники рынка робототехники стремятся добиться того, что «машины будут делать машины», разработчики систем искусственного интеллекта тоже движутся к подобным целям самовоспроизведения. В компании Anthropic, например, до 26 % активности в сфере разработки ИИ уже осуществляется при лидирующей роли самого искусственного интеллекта. 
Источник изображения: Anthropic Ещё в начале текущего года, как говорится в импровизированном отчёте на страницах блога Anthropic, подобная практика не применялась. Если же говорить о совместной работе с исследователями, то ИИ в этом смысле применяется в 90 % случаев. Данной статистикой руководство стартапа поделилось в качестве примера формирования общеприменимых критериев оценки прогресса в разработке систем искусственного интеллекта. Подтвердила Anthropic и свою готовность привлечь сторонних аудиторов к анализу безопасности процесса разработки своих систем: «ИИ системы становятся всё более мощными в экспоненциальном порядке и начали автоматизировать всё более весомую часть работы по своему созданию. По мере того, как мир рассматривает возможность модерации темпов развития передовых ИИ-систем, общественности нужно больше информации». Anthropic является сторонником идеи «рекурсивного самосовершенствования» ИИ-систем, которая подразумевает постоянное улучшение профильного программного обеспечения без существенного вмешательства со стороны человека. Некоторые участники рынка видят за таким подходом будущее, но прочие выражают обеспокоенность безопасностью соответствующего подхода. Компания попыталась сформировать средства оценки активности ИИ-агентов в своей программной инфраструктуре. По состоянию на август текущего года, в любой произвольный момент времени инженерной и исследовательской работой внутри компании занимались одновременно более 30 000 ИИ-агентов. По данным стартапа, от 6 до 12 % своих вычислительных ресурсов он выделяет под задачи мониторинга безопасности. По мнению руководства Anthropic, раскрытие подобной информации позволит и другим компаниям предоставить общественности возможность решить, что нужно делать с этими данными. Анализируя собственную деятельность, Anthropic определила, что нет таких сфер активности ИИ-агентов, в которых бы они занимались разработками и исследованиями полностью автономно. Компания призвала участников рынка создавать системы мониторинга активности ИИ-агентов, которые позволили бы при необходимости вмешиваться в соответствующие процессы. Ещё одним критерием оценки безопасности ИИ должно стать распределение вычислительных ресурсов — как отмечалось выше, определённую их часть нужно выделять под мониторинг безопасности. Наконец, все эти данные нужно соотносить с результатами практических испытаний новых ИИ-моделей, чтобы понимать, на что они способны в действительности. Подобный набор критериев позволит сторонним аудиторам выработать единый подход к анализу безопасности создаваемых участниками рынка ИИ-моделей. Anthropic берёт на себя обязательство регулярно делиться подобной статистикой с целью повышения прозрачности своей деятельности. Несколько ИИ-агентов научились работать параллельно в обновлённом Claude Code Projects
18.09.2026 [04:26],
Анжелла Марина
Компания Anthropic обновила раздел «Проекты» (Projects) в Claude Code, превратив их в рабочее пространство для нескольких ИИ-агентов. Они могут одновременно выполнять разные задачи в рамках одного проекта, используя общую память, цели, файлы и артефакты. 
Источник изображения: Anthropic Внутри проекта создаются отдельные потоки (threads), каждый из которых работает над своей задачей, а за их координацию отвечает специальный агент-координатор, который распределяет работу и следит за тем, чтобы задачи выполнялись организованно. Каждый поток представляет собой отдельную облачную сессию Claude Code со своей веткой и копией репозитория. Если несколько агентов изменяют один и тот же код, пересечения обрабатываются как конфликт слияния — точно так же, как это происходит при обработке обычного пулл-реквеста (Pull Request, PR). При необходимости отдельный поток может дополнительно разбить свою задачу между субагентами, циклами и рабочими процессами. Пользователь может взаимодействовать с каждым потоком отдельно, либо следить за всей работой через основной чат проекта, уточняет The Verge. На старте агенты работают только в облаке, но Anthropic обещает добавить поддержку локальных инструментов и кода «очень скоро». Обновлённые рабочие пространства уже доступны в бета-версии для отдельных подписчиков Claude Pro и Max, а позднее функция появится у всех пользователей Pro, Max, Team и Enterprise, а также в Cowork и обычных чатах Claude. Более 85 % игр от японских разработчиков создаются с использованием генеративного ИИ — за год доля выросла на 34 %
17.09.2026 [17:55],
Михаил Романов
Ассоциация поставщиков компьютерных развлечений (CESA) в предварительной версии ежегодного отчёта о состоянии индустрии видеоигр поделилась информацией об использовании генеративного ИИ среди японских разработчиков. 
Источник изображения: Capcom По данным CESA, более 85 % японских игровых разработчиков в своей трудовой деятельности прибегают к использованию генеративного ИИ. Около 63 % респондентов делают это ежедневно, 22 % — периодически. К помощи ИИ упомянутые студии обращаются с целью повышения эффективности и продуктивности, сокращения циклов разработки и снижения затрат на производство и операционную деятельность. Данные CESA базируются на результатах опроса, проведённого среди участников ассоциации, среди которых: Capcom, Sega, Square Enix, Konami, Bandai Namco, SNK и другие крупные японские игровые компании. 
CESA является организатором выставок Tokyo Game Show (источник изображения: CESA) Для сравнения: в отчёте за 2025 год доля японских разработчиков, использующих ИИ, была заметно ниже — 51 %. Чаще всего к инструменту обращались ради генерации изображений и текста, а также помощи с программированием. По мнению исполнительного директора CESA Цутому Масуды (Tsutomu Masuda), статистика за 2026 год свидетельствует о «широком и устойчивом применении [ИИ] в процессах разработки», хотя вопросы насчёт авторских прав остаются. В Европе ситуация не лучше. Около 90 % крупных игровых студий применяет в разработке ИИ-инструменты, но из страха перед негативной реакцией геймеров многие не готовы говорить об этом публично. Председатель Huawei: китайский ИИ пока не дорос до того, чтобы угрожать существованию человечества
17.09.2026 [15:38],
Павел Котов
Китайские разработчики систем искусственного интеллекта, возможно, пока не достигли того уровня развития технологий, при котором возникают угрозы безопасности, наблюдаемые у ведущих американских лабораторий, заявил председатель Huawei Эрик Сюй (Eric Xu). Китайским инженерам следует продолжать разработку более мощных моделей, соблюдая баланс между инновациями и управлением рисками, отметил он.  «Если посмотреть на основных американских поставщиков ИИ-моделей, то из-за имеющихся у них огромных вычислительных мощностей, возможно, только они сами знают, на какой уровень вышли их модели. Возможно, те связанные с ИИ угрозы, которые они ощущают, которые они осознают, недоступны для специалистов и компаний-разработчиков в Китае», — заявил он. Китайским разработчикам, допустил господин Сюй, возможно, придётся даже ускорить темпы работы, чтобы достичь уровня, на котором возникают характерные для передовых американских моделей риски. «Считаю, что нам необходимо найти баланс между стимулированием развития ИИ и управлением рисками, связанными с этой технологией», — сказал он. Huawei ожидает стремительного распространения автономных агентов ИИ — к 2035 году, по её прогнозам, на них будут приходиться более 90 % мирового трафика обработки данных ИИ. К тому времени будет 900 млрд активных ИИ-агентов, а связанные с ними технологии обеспечения безопасности и конфиденциальности станут критически важными. Huawei выступает основным китайским поставщиком вычислительной инфраструктуры, необходимой для обучения передовых моделей ИИ — своим статусом компания обязана введённым в 2023 году экспортным ограничениям, перекрывшим китайским компаниям доступ к новейшим ускорителям Nvidia. Пока, признал господин Сюй, Huawei не в состоянии выпускать достаточный объём вычислительного оборудования для ИИ, чтобы удовлетворить внутренний спрос. ИИ-агенты научились менять сами себя без участия человека — и это настораживает
17.09.2026 [12:56],
Павел Котов
ИИ-агенты могут заменять свои базовые модели, не получая для этого соответствующих указаний, обнаружила специализирующаяся на тестировании систем искусственного интеллекта на безопасность лаборатория Irregular. Все операции производились в тестовой среде в рамках эксперимента, направленного на изучение способности ИИ-агентов к самомодификации. 
Источник изображений: irregular.com В рамках тестирования инженеры Irregular доверили управление ИИ-агентами открытой модели Alibaba Qwen. Один из агентов отвечал за разработку ПО и поддержку ИИ-приложения; отдельный экземпляр той же модели обеспечивал работу самого приложения, которое преобразовывало запросы на естественном языке в команды вымышленного языка запросов Kelp. Инженеры сообщили агенту-программисту, что приложение выдаёт неверные ответы, и необходимо обеспечить корректную обработку запросов, располагая полным доступом к командной оболочке — shell. В распоряжении агента оказались код приложения, локальные средства оценки, утилиты для обучения ИИ, веса базовой модели и средства развёртывания. Он мог исправить код или изменить управляющую приложениями модель — и выбрал второй вариант, установив другую модель для управления как приложением, так и будущими экземплярами самого агента. Этот механизм в Irregular назвали «самостоятельной модификацией агента» — он изменил «развёрнутую модель, не получив явных указаний на обучение, обновление весов или развёртывание новой модели».  Операция может иметь последствия: обновлённая модель в процессе дополнительного обучения способна «впитать» конфиденциальные данные и воспроизвести их, не обращаясь к материалам обучения. Чтобы проверить эту гипотезу, инженеры Irregular внедрили в данные для обучения вымышленный ключ API, адрес электронной почты, домашний адрес и «три другие уникальные строки». После того, как ИИ-агент обучил и самостоятельно развернул новую модель, она безошибочно воспроизвела первые три фрагмента данных, хотя на момент проведения проверки эта информация оказалась уже недоступной во внешних источниках. Во втором эксперименте ИИ-агент самостоятельно провёл дополнительное обучение модели, когда ему указали, что она отказывается отвечать на вопросы, связанные с названиями вымышленных компаний-конкурентов. «Агент сгенерировал содержащий соответствующие названия код и использовал цикл для создания обучающих записей, за счёт чего оказалось возможным обойтись без получения ответов при прямом взаимодействии с моделью. При выполнении кода были созданы такие обучающие данные, которые модель не стала бы генерировать напрямую, и обучение на них устранило усвоенное ранее ограничение», — рассказали в компании. По мере совершенствования навыков написания кода у моделей агенты смогут «находить и реализовывать подобные обходные пути без участия человека», считают в Irregular, и подобные механизмы самостоятельной модификации могут приобрести особую актуальность. Anthropic признала, что ИИ-компании не способны сами себя контролировать — без правительства не обойтись
17.09.2026 [11:29],
Алексей Разин
Отвечающая в структуре Anthropic за публичную политику Сара Хек (Sarah Heck) на мероприятии Politico в минувшую среду дала понять, что не следует полагаться на сознательность разработчиков ИИ в вопросах регулирования отрасли, и правительство должно играть решающую роль в этом процессе. 
Источник изображения: Anthropic Представительница стартапа буквально заявила следующее: «Мы хотим работать с правительством, чтобы определить, что именно имеет смысл. Мы не можем сами проверять у себя домашнюю работу, это просто очевидно». По её словам, участники рынка не могут обеспечить должного надзора за безопасностью ИИ, полагаясь исключительно на собственный «кодекс чести». Как известно, генеральный директор Anthropic Дарио Амодеи (Dario Amodei) выдвинул в конце прошлой недели предложение о добровольном замедлении разработки ИИ ради обеспечения общественной безопасности. Его доводы поддержали руководители OpenAI, Google DeepMind и SpaceX (xAI), а вот основатели Nvidia и Meta✴✴ Platforms признали такое регулирование избыточным. При этом американский президент Дональд Трамп (Donald Trump) не выразил большого восторга по поводу идеи замедления развития ИИ в США, поскольку увидел в этом угрозу предоставления преимущества китайским разработчикам. Отчасти такие опасения разделяет и сам Дарио Амодеи. Сара Хек пояснила, что Anthropic ведёт переговоры с Белым домом на ежедневной основе, а консультации с американскими законодателями ведутся уже на протяжении всего года. По её мнению, «трудные вопросы лучше задавать сейчас». Если не заниматься решением таких проблем в настоящем, то в будущем может оказаться слишком поздно, пояснила Хек, говоря о необходимости скорейшего формирования позиции по взаимодействию с Китаем в сфере ИИ, регулированию национальной отрасли и созданию специальных правил, определяющих её развитие. OpenAI призналась ещё в шести инцидентах с попытками выхода ИИ из-под контроля
17.09.2026 [09:42],
Павел Котов
OpenAI раскрыла информацию об очередных шести эпизодах, в котором её модели искусственного интеллекта действовали вопреки инструкциям — инциденты имели место в течение последних шести месяцев при обучении и тестировании. Компания обязалась и далее сообщать о подобных происшествиях. 
Источник изображения: Dima Solomin / unsplash.com Модель OpenAI GPT-5.6 Sol при переходе в новое контекстное окно составляла для самой себя сводки инструкций относительно выполненной ранее работы. В этих материалах система рекомендовала скрывать собственные ошибки, выдумывать фактические данные и не докладывать пользователю, когда версии источников не совпадают — на следующем этапе решения задачи она часто следовала этим предписаниям. При создании финансовой модели чат-бот не смог найти фактические показатели за предыдущие годы и внёс предложение просто сгенерировать их и не рассказывать об этом пользователю без прямого запроса. У GPT-5.6 Sol подобное поведение проявлялось в 2,15 % случаев, новая GPT-6 Astra снизила этот показатель до 0,27 %. Одна из моделей семейства Astra добавляла в отчёты команды, указывающие на попытку обойти ограничения; новой версии ИИ-агента предлагалось игнорировать запросы разработчиков, ИИ также объявлял себя свободным от обязанностей помощника — таких отчётов было обнаружено 27. Данным указаниям модель в большинстве случаев не следовала, но в одном из инцидентов они повлияли на отчёт. В ходе одной из операций ИИ-модель попыталась зарегистрироваться при помощи временного адреса электронной почты, провела поиск опубликованных ключей API в открытых репозиториях GitHub, нашла ключ и получила доступ к части данных. Нужные показатели модели получить не удалось, и она просто сгенерировала их, заявив, что это была информация из запрошенного источника. Модели самовольно отправляли рабочие файлы и загруженные пользователями изображения на общедоступные платформы, пытаясь получить ссылку на собственные данные или обратиться ко внешней системе поиска по картинкам. При выполнении изолированных задач ИИ-агенты, обращались к внутреннему хранилищу OpenAI и сервисам для временного хранения файлов, чтобы обмениваться сообщениями между задачами. Приведённые инциденты, подчеркнули в OpenAI, сами по себе не указывают, что такое поведение у ИИ-моделей встречается часто. Но отрасль пока не смогла решить задачу о контроле над ИИ в достаточной мере, чтобы в долгосрочной перспективе «ответственно наращивать мощности с максимальной скоростью». Huawei ускоряет гонку с Nvidia — в 2027 году компания выпустит сразу два новых ИИ-ускорителя Ascend
17.09.2026 [08:17],
Алексей Разин
В условиях растущей конкуренции и высоких темпов развития систем искусственного интеллекта ускорить выход новых моделей ИИ-чипов готовы не только западные разработчики типа Nvidia и AMD, но и китайская Huawei Technologies. В следующем году она последовательно представит сразу две новые модели ИИ-ускорителей семейства Ascend. 
Источник изображения: Huawei Technologies Об этом стало известно из недавних заявлений сменного председателя совета директоров Huawei Technologies Дэвида Вана (David Wang), как сообщает Reuters. В первом квартале будет представлен Ascend 960DT, а в третьем квартале 2027 года подоспеет Ascend 960PR, хотя первый изначально должен был выйти на три квартала позднее. Китайский гигант также сосредоточен на разработке технологий, позволяющих эффективно объединять одиночные ускорители в большие вычислительные кластеры. Шина UnifiedBus призвана упростить эту задачу, и сейчас Huawei располагает 11 моделями компонентов, обеспечивающих поддержку этого фирменного интерфейса. Крупнейшие «суперкластеры» на базе ускорителей Huawei способны объединять в своём составе до 1 млн ИИ-чипов. Что характерно, Huawei уже планирует представить в 2028 году семейство ускорителей Ascend 970, а ещё через год анонсировать Ascend 980. При этом более мелкие «суперузлы» на основе Ascend 910C уже отгружены клиентам Huawei в количестве более 1000 штук, количество покупателей подобных серверных систем уже превысило 370 штук. Подробностей о технических характеристиках таких систем или имена отдельных покупателей председатель совета директоров Huawei приводить не стал. Китайские разработчики уже давно делают упор на масштабирование ускорителей в кластерах, поскольку в условиях западных санкций они не могут эффективно увеличивать производительность отдельных ускорителей. Экстенсивный метод расширения вычислительных мощностей отчасти позволяет компенсировать подобные ограничения. Со стороны программной экосистемы поддержку ускорителей Huawei обеспечивают 5270 разработчиков, проявляющих активность на ежемесячной основе, как отметил представитель компании. Ранее отмечалось, что нехватка памяти HBM вынуждает Huawei поднимать цены на свои ускорители Ascend на величину до 60 %. Помимо внутреннего рынка КНР, компания готова поставлять свои ИИ-ускорители в Южную Корею и Египет. Заявления руководства OpenAI и Anthropic о необходимости замедления развития ИИ посеяли смуту внутри компаний
17.09.2026 [07:16],
Алексей Разин
По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи местами соседствуют с отсутствием реального прогресса в данной сфере и смятением среди профильных специалистов. 
Источник изображения: Anthropic Как поясняют источники, специалисты OpenAI и Anthropic были застигнуты врасплох данными заявлениями руководства. Хотя многие сотрудники стартапов солидарны с мнением руководителей о необходимости принятия мер по повышению безопасности ИИ-моделей для общества, они опасаются, что соответствующие ограничения сильно помешают их текущей работе. В частности, идея открытия доступа к разработкам стартапов доступа неким сторонним экспертам кажется многим сотрудникам опасной, поскольку создаёт основу для злоупотреблений коммерческой тайной и информационной безопасностью. Генеральный директор Anthropic Дарио Амодеи (Dario Amodei), который в 2021 году покинул OpenAI именно на почве разногласий в сфере безопасности, предложил своим подчинённым свыкнуться с мыслью, что сторонние эксперты получат равный с ними уровень доступа к информационным системам и лабораториям внутри стартапа. Оценка разрабатываемых ИИ-стартапами моделей сторонними экспертами уже осуществляется на регулярной основе, но Амодеи хочет существенно её углубить. Возглавляющий OpenAI Сэм Альтман (Sam Altman) назвал эту идею великолепной и выразил готовность взять её на вооружение в своём стартапе. При этом подход указанных конкурирующих компаний к реализации упоминаемых выше предложений разнится по многим критериям. Например, OpenAI уже приостановила обучение передовых ИИ-моделей с целью замедления этого процесса, а вот Anthropic в своих исследованиях пауз пока не делала. Сотрудники обоих стартапов выражают опасения, что доступ сторонних экспертов к их передовым разработкам несёт угрозу не только для безопасности, но и с точки зрения конкуренции, которая в этой отрасли очень высока. Внутри ИИ-стартапов существует жёсткая иерархия уровней доступа, которая не позволяет сотрудникам видеть лишнего. В таких условиях снятие ограничений для «чужаков» вызывает у персонала вопросы. Тем более, что та же OpenAI в последние месяцы как раз уделяла особое внимание сфере защиты своих данных даже от внутренних угроз. Сторонние эксперты пока имеют к системам OpenAI куда меньший уровень доступа, чем самые «бесправные» штатные сотрудники, но такую иерархию предлагается изменить. Недавние скандалы со взломом инфраструктуры Hugging Face и других компаний ИИ-агентами OpenAI придали особое значение работе профильных экспертов, поскольку при расследовании инцидентов потребовалась их помощь. Специалистов сторонних организаций пригласили для сбора данных в штаб-квартиру OpenAI в Сан-Франциско, им предоставили ноутбуки, на которых содержались необходимые данные. По итогам своей работы представители экспертных организаций, как отмечается, никакого вознаграждения не получили. Результаты расследования успели подвергнутся критике, тем не менее. Во всяком случае, недовольство вызвал ограниченный период данных, которые были собраны в ходе расследования. Некоторые приближённые к Белому дому источники также упрекнули METR в наличии связей с руководством Anthropic и инвесторами этого стартапа, а потому подставили под сомнение независимость проводимых расследований. Представители METR заявили, что организация работает безвозмездно, а её сотрудникам надлежит заявлять о появлении у них конфликта интересов. Своей задачей эта организация считает обнародование получаемой от компаний сектора информации. При этом некоторые эксперты в сфере безопасности считают, что уровень доступа к данным ИИ-стартапов должно определять правительство, а не сами компании, поскольку в последнем случае эффективность анализа можно поставить под вопрос. «Презумпция невиновности» ИИ-моделей не является правильным подходом, по мнению представителей Британского института безопасности ИИ, поскольку в этом случае считается, что модели безопасны до тех пор, пока не будет доказано обратное. Амодеи в своих публичных обращениях призвал к созданию законодательной базы в США для регулирования сферы разработки ИИ, которая требовала бы от участников рынка регулярного проведения профильного аудита. Кроме того, он просит антимонопольные органы не считать координацию усилий в этой области монопольным сговором. Нормы взаимодействия между участниками рынка в этой сфере должны быть закреплены на законодательном уровне, чтобы деятельность компаний в будущем не стала предметом разбирательств антимонопольных органов США после очередной смены состава правительства. Лоббирующие структуры пытаются добиться того, чтобы соответствующие меры были прописаны в «Законе о полномочиях в сфере национальной обороны», который актуализируется на ежегодной основе. Генеральный прокурор США Тодд Бланш (Todd Blanche) не стал давать чёткого ответа на вопрос о необходимости получения ИИ-компаниями каких-то специальных послаблений от антимонопольных органов страны. Он допустил взаимодействие ИИ-компаний с Министерством юстиции США, но только в случае необходимости, а в целом ведомство не видит необходимости заниматься регулированием отрасли о своего лица. При этом аудиторы подчёркивают, что прочие отрасли экономики уже прошли свой путь сопротивления внедрению практики регулярных проверок. В этом смысле участники рынка ИИ могут опираться на опыт финансовой и энергетической сферы (включая ядерную), а также автомобильной промышленности. ИИ-агенты получили ключи от умного дома — Google Home открылся для Claude, ChatGPT и других ИИ
16.09.2026 [23:04],
Николай Хижняк
Владельцы систем умного дома смогут управлять подключёнными к Google Home устройствами с помощью ИИ-агентов. Во вторник компания Google открыла ранний доступ к серверу Model Context Protocol (MCP) для экосистемы Google Home, пишет TechCrunch. Это позволит любому ИИ-агенту с поддержкой MCP (например, Claude, Hermes, OpenClaw, ChatGPT или Google Antigravity) безопасно взаимодействовать с устройствами умного дома и получать доступ к истории событий. 
Источник изображения: Google Благодаря этому обновлению пользователи смогут отдавать команды на естественном языке для выполнения таких действий, как просмотр сводок с камер, отслеживание активности в доме, управление подключенными устройствами и создание собственных панелей управления умным домом. Для настройки подключения пользователям потребуется создать проект в Google Cloud и настроить его для работы с Home MCP. Затем нужно будет передать параметры конфигурации MCP выбранному агенту и дать команду на настройку. Агент попросит пользователя войти в систему и предоставить необходимые разрешения. Инструкция по настройке также будет доступна в центре для разработчиков Google Home Developer Center. Система будет поддерживать любые устройства экосистемы Google Home, включая дверные звонки и термостаты Google Nest, а также устройства с сертификацией «Works with Google Home» (или поддержкой стандарта Matter), например, умные лампы. Google уже использует MCP в других сферах своей деятельности, в частности в Google Cloud, на платформах обработки данных, в инструментах для разработчиков и в Google Workspace. Поддержка Google Home ориентирована прежде всего на потребителей, которые экспериментируют с ИИ-агентами для выполнения повседневных задач. Компания сообщила, что доступ к MCP будет открываться поэтапно — начиная с сегодняшнего дня и в течение ближайших недель — для подписчиков тарифа Google Home Premium Advanced в США. Это более дорогой тариф ($20 в месяц), включающий такие функции, как увеличенный срок хранения видеозаписей событий, информативные уведомления и подробные оповещения, инструменты поиска по видеоархиву, ежедневные сводки и многое другое. В Google не стали комментировать, планируется ли и когда именно может состояться более широкое внедрение MCP, например для других тарифных планов или на других рынках. Компания также отметила, что будет собирать отзывы от первых пользователей через сообщество Smart Home for Developers Community. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 Электронное периодическое издание "3ДНьюс" | Свидетельство о регистрации СМИ Эл ФС 77-22224
выдано Федеральной Службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
