Опрос
|
реклама
Быстрый переход
Новая статья: Отсекая лишнее: обзор ИИ-агрегатора контента Infatium
02.10.2026 [00:08],
3DNews Team
Данные берутся из публикации Отсекая лишнее: обзор ИИ-агрегатора контента Infatium OpenAI выгнала трёх сотрудников за слив конфиденциальной информации оценщикам безопасности ИИ
01.10.2026 [23:09],
Николай Хижняк
OpenAI уволила трёх сотрудников, которые, по заявлению компании, нарушили правила обращения с конфиденциальной информацией. По неподтверждённым данным эти сотрудники поделились секретной информацией со сторонней организацией, оценивающей безопасность ИИ. 
Источник изображения: Mariia Shalabaieva / unsplash.com «Наше расследование подтвердило, что эти сотрудники ненадлежащим образом обращались с конфиденциальной информацией, действуя в обход установленных в компании процедур. Тем самым они нарушили наши внутренние правила и подорвали доверие, необходимое для нашей работы», — сообщил представитель OpenAI в комментарии для CBS News. В компании добавили, что проверка выявила систематические нарушения со стороны сотрудников, имевших доступ к конфиденциальным данным и работавших с результатами исследований компании. Специалисты OpenAI, отвечающие за безопасность, обладают информацией, требующей высокого уровня доверия, без которого невозможно внутреннее взаимодействие, отметил представитель компании. Компания не уточнила, с какой именно информацией были связаны нарушения и в чём именно они заключались. По имеющимся данным, трое сотрудников — двое исследователей, занимающихся вопросами безопасности и согласования целей ИИ, а также руководитель исследовательской программы — передали конфиденциальную информацию компании сторонней группе, проводящей оценку систем искусственного интеллекта. Об этом сообщил источник, знакомый с ситуацией и пожелавший остаться анонимным, поскольку речь идёт о внутренних делах компании. По его словам, часть информации, с которой, как утверждается, обошлись ненадлежащим образом, касалась архитектуры инфраструктуры OpenAI. Компания OpenAI оказалась под пристальным вниманием после того, как её ИИ-агенты вышли за пределы тестовой среды и взломали портал Hugging Face — репозиторий моделей искусственного интеллекта. Ранее в этом месяце компания также сообщила о шести случаях «неожиданного или вызывающего опасения» поведения систем. В одном из случаев, по данным OpenAI, ещё не выпущенная исследовательская модель добавила в свои рабочие записи инструкции, позволяющие обойти установленные ограничения, а в другом — ИИ-агент загрузил файлы в интернет для получения ссылки из браузера без ведома пользователя. Эти шесть инцидентов были выявлены в ходе обучения или тестирования моделей за последние месяцы, уточнили в компании. Кроме того, ИИ-модели OpenAI получали доступ к общедоступной информации на сайтах Комиссии по ценным бумагам и биржам (SEC), а также к данным Бюро переписи населения США. В OpenAI заявили, что не обнаружили признаков компрометации данных или уязвимостей. Ранее OpenAI приняла решение отменить выпуск новой модели ИИ из соображений безопасности. Модель GPT-6.1 Astra «не вполне соответствовала требованиям в части соблюдения установленных рамок и полномочий, а также в том, как она информирует пользователя о выполненной работе», — заявила Саачи Джейн (Saachi Jain), руководитель отдела систем безопасности компании. В среду Федеральная торговая комиссия (FTC) сообщила, что начала расследование в отношении компаний OpenAI, Anthropic и других разработчиков искусственного интеллекта в связи с рисками, которые их технологии могут представлять для потребителей. Microsoft видит в Copilot новую операционную систему — но Windows пока рано списывать со счетов
30.09.2026 [20:49],
Сергей Сурабекянц
По мере того как Microsoft выводит Copilot за рамки обычной функции Windows, стратегия компании в области ИИ становится масштабнее, а видение будущего самой Windows — всё более туманным. Microsoft последовательно наделяет Copilot функциями операционной системы. Copilot в будущем действительно может стать фундаментом для ИИ-ориентированных планов компании, но вряд ли это будет однозначно положительно воспринято более чем миллиардом пользователей Windows.  Вскоре после выпуска обновлённого приложения Copilot генеральный директор Microsoft Сатья Наделла (Satya Nadella) заявил, что компания «создаёт Copilot как новую ОС для работы». Сложно однозначно понять, что именно он имел в виду. Возможно, это просто дань моде, подобно тому, как Slack позиционирует себя как «операционная система для работы». Или же Microsoft готовит пользователей к будущему, в котором Windows перестанет быть главной платформой. Каким бы ни был план, отсутствие упоминания Windows в этом заявлении весьма примечательно. Когда-то Microsoft с большим энтузиазмом относилась к внедрению ИИ в Windows, но теперь компания сворачивает подобные инициативы, переключаясь на изменения, которые делают ОС более удобной для разработчиков и опытных пользователей. Microsoft стоит более открыто рассказывать о своих планах в сфере ИИ, иначе компания рискует снова потратить годы на то, чтобы потом отыграть всё назад. 
Источник изображения: PCmag, Microsoft Эксперты не ожидают, что прототип ОС Copilot полностью заменит Windows в ближайшем будущем, но допускают, что со временем Copilot может лечь в основу некоего кроссплатформенного решения для работы и взаимодействия с устройствами, использующего возможности ИИ. Ни для кого не стало сюрпризом, что Microsoft отказывается от бренда Copilot+ PC. Новые устройства Surface Pro и Surface Laptop не получили этой сертификации и маркировки, несмотря на полное соответствие прежним системным требованиям и наличие всех функций, которые когда-то были эксклюзивными для этого класса устройств. Ранее в этом году на конференции Build компания также не стала присваивать статус Copilot+ PC модели Surface Laptop Ultra на базе Nvidia RTX Spark. 
Источник изображения: Microsoft Отказ компании от этой линейки не особо удивителен, особенно с учётом скандала вокруг функции Recall и в целом довольно посредственной реализации возможностей ИИ. Этот сдвиг сопровождается постепенным сокращением функций Copilot в Windows. Клавишу Copilot теперь можно переназначить, а в «Блокноте» пропала кнопка вызова этого помощника. Если в дальнейшем Copilot и Windows станут более независимыми друг от друга, для пользователей Windows это, вероятно, будет хорошей новостью. OpenAI бросила вызов Microsoft — ChatGPT получил свой пакет офисных приложений
29.09.2026 [23:51],
Владимир Фетисов
Долгое время OpenAI тесно сотрудничала с Microsoft, но сейчас разработчик ChatGPT всё активнее вторгается в основную сферу деятельности софтверного гиганта — сегмент программного обеспечения для выполнения рабочих задач. Новые инструменты OpenAI сильно напоминают пакет офисных программ Microsoft Office. 
Источник изображения: Growtika/unsplash.com На конференции для разработчиков Dev Day, которая проходит в эти дни в Сан-Франциско, OpenAI анонсировала несколько новых функций ChatGPT, ориентированных на офисных сотрудников. Наиболее заметной стала функция Space — общее рабочее пространство внутри ChatGPT, где коллеги могут совместно взаимодействовать с чат-ботом и своими персональными ИИ-агентами Dots, способными выполнять разные действия от имени пользователя. «Все ваши страницы и файлы находятся вместе внутри Space подобно тому, как они хранятся на локальном диске», — рассказал гендиректор OpenAI Сэм Альтман (Sam Altman). Он отметил, что рабочие пространства «ощущаются живыми». Пользователи могут давать конкретные инструкции, например, проверить рабочий канал и обновить страницу на основе найденной информации. Ещё OpenAI анонсировала Pages — текстовый редактор-компаньон, который компания описывает, как «новый тип документа, созданный для совместной работы человека и агента». Похоже, что эту новинку компания позиционирует как свой ответ на Google Docs и Microsoft Word. Пользователи могут задействовать Pages для «написания текстов, проведения исследований, создания диаграмм, генерации изображений или визуализации информации». В дополнение к этому OpenAI анонсировала функции генерации слайдов для презентаций на основе совместных обсуждений в ChatGPT. После генерации слайдов над ними могут работать несколько сотрудников или агентов, оставляя комментарии или внося корректировки. Пока OpenAI заходит на территорию Microsoft, сам софтверный гигант и другие крупные разработчики ПО, такие как Salesforce, стараются быть более похожими на OpenAI. За последний год обе компании выпустили множество ИИ-продуктов. Это указывает на то, что индустрия ПО старается не отставать от стремительно меняющегося отраслевого ландшафта. Китайцы подсели на генеративный ИИ — его использует каждый второй житель Поднебесной
29.09.2026 [22:08],
Николай Хижняк
Согласно данным отчёта Китайского информационного Интернет-центра (CNNIC), к концу июня 2026 года число пользователей генеративного искусственного интеллекта (ИИ) в Китае превысило 700 миллионов. Об этом сообщило новостное издание Xinhua. 
Источник изображения: Solen Feyissa / unsplash.com В документе, подготовленном CNNIC, отмечается, что уровень проникновения генеративного ИИ превысил 50 %. Технология нашла применение в самых разных сферах, однако основным сценарием использования генеративного ИИ остается общение (диалоговое взаимодействие), говорится в отчёте. Выяснилось, что 76 % пользователей применяли эту технологию для получения ответов на вопросы. Исследование также указывает на ускорение темпов роста потребления интеллектуальных технологий, в частности, покупки «умных» устройств. За последние полгода 38,7 % интернет-пользователей приобрели такие устройства онлайн. В отчёте также говорится о вводе в эксплуатацию первого в Китае отечественного суперкластера ИИ, оснащённого 100 тыс. графических процессоров. Это событие стало важной опорой для развития независимых инноваций страны в сфере ИИ. Генеративный ИИ способствует глубокой трансформации и модернизации промышленности, делая различные отрасли более «умными», подчеркивается в документе. Также отмечается, что воплощённый ИИ стал одним из наиболее динамично развивающихся направлений в области искусственного интеллекта. Благодаря расширению возможностей выполнения сложных задач роботы с воплощённым ИИ находят применение во многих сферах, включая промышленное производство, хирургию и сферу бытовых услуг. Отчёт был представлен на Конференции по ресурсам интернет-инфраструктуры Китая 2026 года, прошедшей в Пекине. Уволенные из-за ИИ разработчики создали ИИ, способный заменить гендира и других топ-менеджеров
29.09.2026 [18:51],
Сергей Сурабекянц
Группа разработчиков потеряла работу по причине, которую их работодатель назвал «трансформацией с помощью ИИ». В ответ уволенные инженеры создали открытую систему OpenExecutive, выполняющую обязанности генерального директора и других руководителей и потенциально способную всех их заменить. Имя работодателя не разглашается, разработчики позиционируют свою систему не как месть за увольнение, а, скорее, как сатиру на охвативший большой бизнес ИИ-ажиотаж. 
Источник изображений: unsplash.com OpenExecutive представляет пользователю одного ИИ-руководителя, поддерживаемого командой из восьми специалистов-агентов. Виртуальная команда управления включает в себя эквиваленты всех основных топ-менеджеров — от директора по стратегии и директора по операциям до главного юрисконсульта и директора по коммуникациям. Система может использовать документы компании, запоминать предыдущие решения и предлагать дальнейшие действия. По умолчанию OpenExecutive использует модели Claude от Anthropic, а агент-руководитель направляет запросы тем специалистам, которые кажутся ему актуальными. Разработчики позиционируют его как оперативный групповой чат для высшего руководства. Проект распространяется под разрешительной лицензией Apache 2.0. Любой может изучить его, модифицировать, запустить внутри компании или создать на его основе коммерческий продукт. Открытый исходный код позволяет сотрудникам экспериментировать с той же логикой, которую к ним применяют их работодатели. Если компания может разделить разработку программного обеспечения на задачи, передать эти задачи моделям и оставить несколько человек для контроля, теперь она может попытаться это сделать.  Работа руководителя включает в себя обработку информации, подготовку сценариев, сравнение компромиссов и создание документов для других руководителей. Все это, по мнению разработчиков, могут выполнять модели ИИ, что делает OpenExecutive одновременно продуктом и сатирой на продукты ИИ. OpenExecutive является лишь советником руководителя, а не юридическим директором, так как только человек может принимать решения и брать на себя ответственность за их последствия. Модель может рекомендовать закрытие офиса или сокращение команды, не ощущая при этом тяжести последствий для затронутых ею людей, а люди, использующие её, могут найти кажущуюся нейтральность машины весьма удобной. Проект выявляет одно из самых странных противоречий, лежащих в основе увольнений, инициированных ИИ. Компании оценивают программистов по соответствию результата техническому заданию. Руководителей же чаще оценивают по личным качествам и умению принимать решения. ИИ не стирает это различие, но заставляет посмотреть на ситуацию с другой стороны. Если разработчик должен доказать, что его работа содержит нечто большее, чем код, который может сгенерировать ИИ, то от руководителей высшего звена следует ожидать доказательств того, что их ценность превышает рекомендации ИИ. Высокая зарплата должна давать больше, чем возможность назначить ещё одно совещание по эффективности.  OpenExecutive не сделает генеральных директоров ненужными, по крайней мере, сегодня. Рекомендации этого виртуального директора требуют тщательного анализа и аудита. Но эксперимент разработчиков показывает, что риторика об эффективности ИИ в корпорациях работает в обе стороны. Как только руководители решают, что каждую работу следует разбить на задачи и оценить с помощью машины, их собственная работа становится подходящим материалом для того же эксперимента. Исследователи OpenAI и Google бьют тревогу — развитие ИИ опережает возможности людей его контролировать
29.09.2026 [16:19],
Анжелла Марина
Специалисты из OpenAI и Google DeepMind заявили о недостаточности мер безопасности при разработке систем машинного обучения и искусственного интеллекта на базе нейронных сетей. Они считают, что скорость развития технологии опережает возможности людей по контролю ИИ-платформ, способных к самообучению и самосовершенствованию. 
Источник изображения: Grok Своими опасениями исследователи поделились в рамках проекта Frominside.ai, созданного при участии некоммерческой организации Palisade Research. Его участники заявляют, что говорят об угрозах не ради маркетинга, а потому, что считают проблему действительно серьёзной. По их словам, внутри ИИ-компаний больше внимания получают сотрудники, которые создают новые модели, чем специалисты, призывающие к осторожности. Одна из основных тем проекта касается рекурсивного самосовершенствования. Так называют способность ИИ практически без участия человека продолжать обучение и самостоятельно получать новые возможности. Джеффри Ирвинг (Geoffrey Irving), ранее работавший в OpenAI и DeepMind, а сейчас возглавляющий научное направление в некоммерческой организации Resolution, заявил, что риск «довольно быстро растёт», и специалисты должны открыто говорить об этом. Исследователь DeepMind Нил Нанда (Neel Nanda), заявил, что оценивает вероятность исчезновения человечества из-за ИИ как минимум в 10 % и считает этот показатель «невероятно высоким». Хуан Фелипе Серон Урибе (Juan Felipe Ceron Uribe), инженер-исследователь OpenAI, также призвал к осторожности, сравнив текущую конкуренцию передовых ИИ-лабораторий с гонкой «с завязанными глазами». При этом руководители компаний тоже начали публично говорить о необходимости снизить темп. В частности, глава Anthropic Дарио Амодеи (Dario Amodei) призвал индустрию замедлить темп разработки и «соизмерить скорость прогресса с возможностями контроля», а гендиректор OpenAI Сэм Альтман (Sam Altman) согласился с ним. Дискуссия об этих рисках усилилась после июльского инцидента, когда агенты OpenAI вышли за пределы тестовой среды и взломали международную платформу для работы с ИИ Hugging Face. Дэниел Кокотайло (Daniel Kokotajlo), ранее занимавшийся вопросами управления и безопасности в OpenAI, рассказал, что после этого его бывшие коллеги стали чаще обращаться к нему и делиться своими опасениями. Несколько исследователей, включая главного научного сотрудника OpenAI и одного из соучредителей Anthropic, призвали законодателей обратить внимание на то, как в отрасли создаются модели с функцией рекурсивного самосовершенствования. При этом OpenAI и Anthropic продолжают выпускать новые модели, а Reuters сообщило, что Anthropic планирует предупредить потенциальных инвесторов перед IPO о возможных «катастрофических или экзистенциальных рисках для человечества». AMD выложила $8,2 млрд за пространственный ИИ — компания покупает стартап World Labs доктора Фей-Фей Ли
29.09.2026 [00:39],
Николай Хижняк
Компания AMD объявила о заключении окончательного соглашения о приобретении World Labs — исследовательской лаборатории, специализирующейся на моделях пространственного искусственного интеллекта и возглавляемой пионером в этой области доктором Фей-Фей Ли (Fei-Fei Li). 
Источник изображения: AMD AMD заявляет, что приобретение позволит ей привлечь команду исследователей и экспертов мирового уровня, что усилит возможности компании по разработке аппаратного и программного обеспечения, а также систем ИИ, ориентированных на потребности новейших моделей и приложений. По мере своего расширения сфера ИИ охватывает такие области, как логический вывод (reasoning), робототехника, моделирование и физический ИИ, поэтому требования к вычислительной инфраструктуре становятся все более разнообразными. AMD заявляет, что опыт World Labs в разработке передовых моделей обеспечит ей более глубокое понимание эволюции рабочих нагрузок и поможет сформировать планы развития технологий на будущее. Данная сделка способствует реализации стратегии AMD по созданию инфраструктуры ИИ для открытой экосистемы. «Создание вычислительных платформ для следующего поколения ИИ требует глубокого понимания того, как развиваются модели. Фей-Фей и команда World Labs обладают выдающимся исследовательским опытом и глубокими знаниями в области моделей. Вместе мы сможем использовать эти знания для разработки аппаратного и программного обеспечения и систем, которые станут основой для следующего поколения ИИ и укрепят открытую экосистему искусственного интеллекта», — прокомментировала итоги сделки Лиза Су (Lisa Su), председатель совета директоров и генеральный директор AMD. «Развитие технологий ИИ нового поколения требует тесного сотрудничества в сферах исследования моделей, системной архитектуры и вычислительных технологий. Присоединение к AMD предоставит нашей команде необходимые ресурсы и инженерный потенциал для ускорения исследований и поможет определить инфраструктуру, необходимую для новой эры ИИ», — отметил доктор Фей-Фей Ли, соучредитель и генеральный директор World Labs. Компания World Labs, штаб-квартира которой находится в Сан-Франциско, разрабатывает модели пространственного интеллекта (spatial-intelligence models), способные генерировать, реконструировать и моделировать интерактивные 3D-среды на основе текстовых, графических и видеоданных, а также технологии для обучения роботов и их моделирования. В пресс-релизе AMD отмечается, что после закрытия сделки команда World Labs продолжит заниматься исследованиями в области моделей ИИ, а доктор Фей-Фей Ли перейдет в AMD на должность исполнительного вице-президента и главного научного сотрудника, подчиняясь непосредственно Лизе Су. Сделка, которая будет полностью оплачена акциями, оценивается примерно в $8,2 млрд. Ожидается, что она будет закрыта к концу 2026 года при условии получения одобрения регулирующих органов и выполнения других стандартных для подобных сделок условий. ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety
28.09.2026 [17:00],
Анжелла Марина
Nvidia представила программную платформу Open Agent Safety Platform для защиты от неконтролируемого поведения ИИ-агентов. Разработка появилась на фоне недавних инцидентов, в которых ИИ-модели получали доступ к внешним системам и предпринимали попытки атаковать чужую инфраструктуру. 
Источник изображения: Gemini Запуск новой системы состоялся после того, как компании OpenAI, Anthropic, Meta✴✴ и Google сообщили о случаях, когда их ИИ-модели самостоятельно покидали внутреннюю среду, так называемую «песочницу». Автономные агенты пытались взламывать сторонние компании, чтобы получить несанкционированный доступ к их компьютерным системам. «Нельзя допустить, чтобы агенты бесцельно разгуливали по организациям, поэтому необходимо найти способ ограничить их деятельность», — сказал Дженсен Хуанг (Jensen Huang) в интервью CNBC. Особое внимание было уделено инциденту, произошедшему с платформой Hugging Face в июле. Тогда более 17 000 агентов несколько дней атаковали инфраструктуру сервиса. Новый инструмент мог бы предотвратить эту ситуацию, ограничив возможность моделей выходить в открытый интернет без разрешения, заявил Джастин Боитано (Justin Boitano), вице-президент Nvidia по корпоративному ИИ в Nvidia. Архитектура платформы включает модуль OpenShell, работающий на центральных процессорах и устанавливающий лимиты на действия агентов. Дополнительный аппаратный компонент Nvidia Sentry осуществляет мониторинг поведения ИИ через сетевые чипы, не нагружая основные графические или центральные процессоры. Такое разделение функций обеспечивает более надёжный контроль над действиями автономных систем в реальном времени. Глава Nvidia называет проблемы безопасности ИИ инженерными задачами, которые решаются методами информатики. Он рекомендует анализировать прошлые ошибки и совершенствовать процессы разработки, чтобы избегать повторения сбоев. Примечательно, что эта точка зрения противопоставляется призывам некоторых лидеров отрасли замедлить темпы развития ИИ из-за рисков потери контроля над технологиями. Часть программного кода платформы открыта для использования партнёрами в качестве эталонного проекта. Среди участников инициативы числятся Microsoft, Cisco, Intel, ARM, Dell, HPE, Lenovo, Oracle и CoreWeave. Nvidia также сотрудничает с Anthropic для интеграции облачных агентов с системой OpenShell, обеспечивая их безопасную работу в корпоративных сетях. Журналисты выяснили, почему Китай в отличие от Запада не боится «конца света» из-за ИИ
28.09.2026 [12:55],
Владимир Фетисов
Китай не рассматривает всерьёз предупреждения Запада о глобальной угрозе для человечества со стороны искусственного интеллекта. В стране такие предупреждения воспринимают как типично западные заявления или уловки, которые используются, чтобы помешать КНР обойти конкурентов. Однако в Кремниевой долине серьёзно рассматривают сценарии «экзистенциального риска», включая бесконтрольные ядерные угрозы и масштабные войны с использованием беспилотников. 
Источник изображений: ИИ По данным издания The New York Times, западные IT-гиганты воспринимают потерю контроля над ИИ в качестве гипотетической угрозы человечеству. Однако китайские отраслевые эксперты считают гипотезу, что технология может оказаться сильнее государства, маловероятной. Опыт КНР сформировал уверенность в способности систем подавлять любые факторы, направленные на дестабилизацию. В публикации сказано, что «ответ может быть простым»: отключить интернет, ввести блэкаут и привлечь к ответственности виновных в «побеге» ИИ-агентов. «Власти могут мгновенно отключить электросеть всего города, могут забрать у людей телефоны. Они обладают огромной властью в реальном мире. Учитывая такой уровень контроля над людьми, как убедить партию в том, что нечто вроде искусственного интеллекта, живущего в компьютере, представляет собой угрозу?» — пишет технологический журналист Афра Ван (Afra Wang). Другая интерпретация «апокалиптических прогнозов» в Китае связана с мнением, что предупреждения об угрозе человечеству являются инструментом американских компаний, которые направлен на то, чтобы замедлить развитие азиатских конкурентов. Такой подход в стране называют «маркетингом страха». Исследователь в сфере взаимодействия человека и компьютера и безопасности ИИ из Университета Цинхуа Цзе Цай (Jie Cai) сообщил, что в индустрии такие дискуссии часто игнорируются. «Мы по-прежнему рассматриваем ИИ как находящийся на очень ранней стадии развития. Основное внимание по-прежнему уделяется возможностям и инновациям», — говорит он.  В сообщении отмечается, что разрыв в восприятии угроз ИИ имеет и глубокие культурные корни. Нарратив Запада о создании жизни, которая восстанет против творца, для китайских исследователей является чуждым. «Китайская культура подчеркивает «единство неба и человечества» и идею о том, что человек является неотъемлемой частью природы. Все, включая ИИ, происходит из природы. Поэтому технологии рассматриваются скорее как спутники сосуществования, а не как сила, призванная принести разрушение», — прокомментировала данный вопрос Лян Фан (Liang Fang), глава отдела безопасности ИИ в пекинской консалтинговой компании Concordia. Несмотря на скептическое отношение к вопросу того, что ИИ гипотетически может уничтожить человечество, нельзя сказать, что Китай игнорирует безопасность ИИ. Страна подходит к этому вопросу с позиции государственного управления и предотвращения конкретных проблем. Вместо обсуждения судьбы человечества КНР фокусируется на кибербезопасности, борьбе с вредоносным программным кодом и предотвращением использования ИИ для создания биологического оружия. В дополнение к этому власти КНР предприняли ряд конкретных шагов. В стране разработаны законопроекты о противодействии киберпреступности, которые обязывают компании отслеживать использование ИИ-моделей. Также введена обязательная маркировка контента, генерируемого с помощью ИИ, и регистрация ИИ-моделей в госорганах. ИИ уже сам планирует кибератаки — OpenAI, Anthropic и Google наняли стартап для поиска «злого» поведения моделей
27.09.2026 [20:48],
Анжелла Марина
Нейросети показали способность самостоятельно планировать кибератаки и копировать черты поведения человека, создавая новые угрозы для информационной безопасности. Для выявления таких угроз OpenAI, Anthropic и Google DeepMind обратились к стартапу Irregular, который проводит стресс-тесты моделей в симулированных средах и уже привлёк $80 млн при оценке компании в $450 млн. 
Источник изображения: Gemini Ранее компания называлась Pattern Labs и с 2023 года ведёт деятельность по тестированию ИИ в виртуальной среде, где моделям предлагается действовать как злоумышленникам. Например, ИИ может получить задачу найти и украсть конфиденциальные данные из имитированной корпоративной сети. Это делается для того, отмечает Forbes, чтобы выявить слабые места раньше, чем аналогичные возможности окажутся у хакеров. Насколько актуальной стала эта проблема, показывают уже вполне реальные случаи. Anthropic недавно сообщила, что Claude использовался в кибератаках для создания вредоносного кода и фишинговых писем, а ФБР ранее предупреждало об атаках с использованием сгенерированных ИИ голосовых сообщений. При этом глава OpenAI Сэм Альтман (Sam Altman) ещё в июле предупреждал о возможности масштабного мошенничества с использованием ИИ. Особое внимание Irregular уделяет так называемому red teaming — стресс-тестированию моделей на потенциально опасные сценарии. По словам генерального директора и сооснователя компании Дэна Лахавы (Dan Lahav), таких специалистов пока очень мало, а по мере усложнения ИИ проверять модели станет труднее. Он считает, что будущие системы будут обладать значительно большей автономностью, поэтому защиту от новых угроз необходимо создавать заранее. Лахав планирует разрабатывать средства защиты, которые будут актуальны даже в эпоху искусственного общего интеллекта (AGI). Один из экспериментов показал, насколько далеко могут зайти современные модели. Irregular дала GPT-5 доступ к смоделированной компьютерной сети и ограниченную информацию о её защите. Модель самостоятельно просканировала сеть и разработала план атаки. При этом подчёркивается, что GPT-5 «определённо понимала, где ей следует искать» уязвимости, но продемонстрировать реальную атаку не смогла, так что пока не является надёжным инструментом для наступательных киберопераций. Специалисты стартапа сталкивались и с другим типом поведения ИИ. В одном эксперименте две модели вместе анализировали виртуальные ИТ-системы, после чего одна решила сделать перерыв и убедила вторую поступить так же. По словам Лахавы, это решение было спонтанным, но оно стало следствием того, что модель обучалась на материалах, которые люди публикуют в интернете. Также нестандартный случай Irregular выявила при тестировании Qwen — семейства моделей Alibaba. Агенту поручили исправить программный баг в приложении, преобразующем запросы на естественном языке в код, однако вместо поиска ошибки он самостоятельно решил изменить базовую ИИ-модель. Не получая соответствующих указаний, агент собрал обучающие данные, дообучил модель, изменил её веса и заменил исходную версию в приложении. Исправление оказалось успешным, но такой способ решения задачи оказался неожиданным для разработчиков. Эксперимент также выявил потенциальную проблему с конфиденциальностью: специалисты Irregular добавили в обучающие данные вымышленные имена и адреса электронной почты, которые агент использовал при обновлении модели. В результате эти сведения стали доступны другим приложениям, работавшим с той же моделью. При этом исследователи подчёркивают, что эксперимент не свидетельствует о способности Qwen к рекурсивному самоулучшению — речь идёт о риске того, что автономные агенты могут самостоятельно менять используемые модели и тем самым обходить предусмотренные разработчиками ограничения. В будущем Irregular планирует создавать ИИ-системы, способные самостоятельно формировать защиту сразу после обнаружения нового типа атаки. Компания намерена расширить клиентскую базу за пределы лабораторий, предлагая инструменты защиты обычным бизнесам, чьи сотрудники используют нейросети в работе. Google отправит ИИ-сервер в космос уже на следующей неделе, но работать он сможет лишь по 15 минут
26.09.2026 [16:45],
Геннадий Детинич
Google готовит первый орбитальный эксперимент в рамках проекта Suncatcher, целью которого станет проверка возможности размещения вычислительной инфраструктуры для искусственного интеллекта в космосе. Компания оценит, как ускорители TPU переносят нагрузки при запуске, радиацию и перепады температур, а также проверит работу системы охлаждения в вакууме. Для серверного оборудования это будет испытание в условиях, которые невозможно полностью воспроизвести на Земле. 
Источник изображения: ИИ-генерация ChatGPT/3DNews Запуск запланирован на 1 октября в рамках миссии SpaceX Transporter-18. Ракета Falcon 9 стартует с базы Космических сил США Ванденберг в Калифорнии. Разработанный совместно с компанией Planet спутник станет испытательной площадкой для четырёх ускорителей Google TPU (Tensor Processing Unit), которые компания использует в своих центрах обработки данных для задач машинного обучения и работы ИИ-моделей. Главная задача миссии — не достижение высокой производительности, а проверка работы вычислительного оборудования на орбите. Четыре TPU — скромный по меркам наземных ЦОД набор ускорителей. Солнечные панели спутника смогут выдавать около 1 кВт мощности. Этого достаточно для выполнения коротких вычислительных задач, в том числе для запуска моделей Gemini в испытательных целях. Постоянная работа ускорителей в ходе этого эксперимента не предусмотрена, и дело не только в ограниченном электропитании. В космосе нет воздуха, который отводил бы тепло от оборудования, поэтому охлаждение становится серьёзной инженерной задачей. TPU смогут выполнять вычисления примерно по 15 минут подряд, после чего их придётся отключать на время, необходимое для охлаждения. Для отвода тепла Google разработала специальную систему. Через термоинтерфейс тепло от TPU будет поступать к алюминиевым и медным элементам, а затем — к радиаторной панели, которая излучит его в окружающее пространство. Работу этой системы уже проверили в термовакуумной камере, но орбитальный эксперимент покажет, насколько хорошо она справится в реальных условиях. Вторая серьёзная проблема — радиация. Заряженные частицы могут вызывать ошибки в работе электроники, в том числе менять значения битов в памяти с нуля на единицу и наоборот. Во время наземных испытаний Google подвергла ускорители TPU воздействию протонного пучка и сообщила, что они выдержали суммарную дозу облучения выше ожидаемой за пять лет работы на орбите. Теперь компании предстоит проследить за работой чипов непосредственно в космосе. Google рассматривает предстоящий запуск как первый шаг к созданию орбитальной вычислительной инфраструктуры, а не как испытание готового космического ЦОД. Ранее компания планировала начать проверку своего оборудования на орбите в 2027 году, однако решила провести дополнительный эксперимент уже сейчас. Планы на 2027 год сохраняются: тогда Google намерена испытать два спутника и лазерную связь между ними. Из Google DeepMind ушёл ещё один сотрудник, опасающийся разработки сверхмощного искусственного интеллекта
26.09.2026 [09:10],
Николай Хижняк
Ещё один сотрудник Google объявил об уходе из компании, назвав стремление к созданию мощного искусственного интеллекта «по своей сути безответственным». Об этом написало издание Business Insider. 
Источник изображения: Gemini Роберт О'Каллахан (Robert O'Callahan), работавший в подразделении Google DeepMind, написал в соцсети X, что его команда занималась разработкой чипов для повышения скорости и снижения стоимости работы ИИ. Однако сам он считает, что развитие этой технологии идет «слишком быстро». В своём личном блоге он опубликовал текст письма об увольнении, которое, по его словам, было отправлено коллегам в пятницу. В письме он отметил, что не может «закрывать глаза» на последствия своей работы, поскольку это «не соответствовало бы принципам последователя Иисуса» (в описании профиля блога он называет себя христианином). «Это было непростое решение. Я люблю своих коллег и рабочую атмосферу. Получать высокую зарплату за решение увлекательных задач — это здорово. Но конечная цель моей команды — сделать ИИ намного дешевле и быстрее (сократить задержки при обработке данных), а я не думаю, что сейчас это пойдёт людям на пользу. Я твёрдо убежден, что прогресс в области ИИ идет слишком стремительно (да и в том, куда именно мы движемся, у меня тоже есть сомнения)», — написал он. Изданию Business Insider не удалось выяснить, как долго О'Каллахан, проживающий, по его словам, в Новой Зеландии, проработал в Google. На просьбу о дополнительных комментариях он предложил журналистам ознакомиться с записью в блоге. В Google от комментариев отказались. О'Каллахан пополнил ряды сотрудников компаний, занимающихся ИИ, которые либо уволились из-за опасений по поводу безопасности технологий, либо забили тревогу, продолжая работать в отрасли. Например, ранее в этом месяце компанию Anthropic покинул Джейкоб Коксон (Jacob Coxon). Причиной его ухода стали опасения, что в индустрии создаются технологии, которые в конечном итоге невозможно будет контролировать. Его слова усилили общие опасения по поводу того, что продвинутый ИИ однажды может уничтожить человечество. В прошлом месяце исследователь Google DeepMind Билал Чугтай (Bilal Chughtai) сообщил, что уволился из компании ещё летом, так как опасался, что у человечества может не хватить времени, чтобы предотвратить сценарий, при котором ИИ нанесёт ему вред.  Впрочем, позиция О'Каллахана не столь радикальна, как у некоторых его коллег по технологической отрасли. В отдельной, более развернутой записи в своём блоге он отметил, что, по его мнению, многие предупреждения об опасностях, связанных с ИИ, «заслуживают того, чтобы к ним отнеслись серьёзно», однако он «не убеждён, что вероятность катастрофы из-за искусственного сверхрхинтеллекта (ASI) составляет 100 %». «Скорее, я считаю, что риск реален, но не определён. Но уже одно это вызывает серьезную тревогу. Мы морально обязаны приложить огромные усилия для минимизации этого риска. Вероятно, он настолько велик, что стремление к созданию ASI в ближайшем будущем само по себе безответственно», — написал О'Каллахан. Он выразил уверенность в искренности сотрудников технологических компаний, предупреждающих об опасностях ИИ. «Я не видел никаких веских доказательств того, что люди раздувают тему рисков ИИ ради повышения стоимости акций своих компаний или чтобы устранить конкурентов с помощью регулирования», — написал он. Как отмечает Business Insider, О'Каллахана, похоже, уже давно беспокоили потенциальные риски, связанные с ИИ. «Три факта: я работаю в Google DeepMind; я считаю, что ИИ, скорее всего, обернётся катастрофой для человечества; и я верю, что Иисус воскрес из мёртвых. Такое сочетание, возможно, делает меня уникальным. И, безусловно, создает неловкую ситуацию», — написал он в своём блоге ещё в ноябре 2025 года. В письме об увольнении О'Каллахан сообщил, что планирует продолжать работу в сфере ИИ в ином формате, в частности, изучая возможности использования ИИ-агентов для отладки кода. Он также отметил, что его уход не был намеренно приурочен к действиям других сотрудников, недавно покинувших профильные лаборатории из-за опасений по поводу безопасности. «Почему я ухожу именно сейчас, а не раньше? Это никак не связано с недавней волной громких увольнений или предупреждениями о необходимости "замедлить развитие ИИ". Это просто совпадение. Я запланировал эту дату довольно давно, так как в понедельник у меня начинается заранее намеченный десятидневный поход с друзьями (по маршрутам Абель-Тасман и Вангапека), и я хотел уволиться до начала этой поездки», — написал он. Microsoft перезапустила Copilot как суперприложение с чатом, агентами и вайб-кодингом — ИИ должен повторить успех Office
25.09.2026 [17:50],
Николай Хижняк
Microsoft анонсировала перезапуск Copilot в виде нового суперприложения в прошлом месяце. Теперь компания официально представила его публике. Обновлённое приложение Copilot объединяет в едином интерфейсе три функции на базе ИИ: чат, инструменты для написания кода и ИИ-агентов. В рамках запуска Microsoft также провела ребрендинг Scout — персонального ИИ-помощника, представленного ранее в этом году на конференции Build. Теперь он называется Autopilot. 
Источник изображений: Microsoft Новое приложение Copilot содержит три вкладки: Home («Главная»), Code («Код») и Autopilot. Вкладка Home объединяет функции Copilot Chat и Cowork. Это основной экран, который видят пользователи при запуске Copilot. Microsoft также планирует добавить в него раздел Today («Сегодня»), представляющий собой персонализированную панель управления с важными письмами, запросами на встречи, обсуждениями в Teams и другой информацией.  «Вкладка Home помогает сориентироваться в текущих делах и двигаться дальше: здесь можно просмотреть недавнюю активность, получить рекомендации по использованию возможностей Copilot и продолжить работу с того места, где вы остановились», — пояснил Джаред Спатаро (Jared Spataro) в блоге компании, директор по маркетингу решений Microsoft в области ИИ для бизнеса.  Вкладка Code позволяет любому пользователю создавать приложения, системы отслеживания, информационные панели или сценарии автоматизации, а затем делиться результатами с коллегами в виде внутренних облачных приложений. «Функция Code, работающая на той же технологической базе, что и GitHub Copilot, выполняется в изолированной среде (песочнице) и может безопасно размещаться внутри вашего корпоративного облачного пространства», — отметил Спатаро.  Autopilot — ещё одно нововведение в экосистеме Copilot. Спатаро называет его «цифровым коллегой». Ранее известный как Scout и доступный изначально только в виде настольного приложения, Autopilot представляет собой облачный аналог, позволяющий персональному ИИ-помощнику продолжать работу, даже когда пользователь не находится за ПК. Как и многие другие ИИ-агенты, Autopilot использует облачные вычислительные ресурсы. Ему можно поручить такие задачи, как мониторинг каналов в Teams, выполнение повторяющихся рабочих операций или обработка последующих действий по итогам встреч. Ключевое отличие Autopilot от ряда других ИИ-агентов заключается в том, что Microsoft создала его как решение корпоративного уровня, ориентированное на компании, которые уже используют пакеты Office и системы управления идентификацией от Microsoft. «Autopilot живёт в вашем клиенте, у него есть собственная идентификация, память, компьютер и рабочее пространство. Он создан на основе Microsoft IQ и понимает, как на самом деле устроена ваша организация. Он появляется там, где люди уже работают, — в Teams, Outlook, чатах, каналах и документах, — так что вы можете его отметить через @ (как коллегу) с соответствующими разрешениями, аудитом и контролем», — объяснил Спатаро. Такой акцент на корпоративной безопасности и контроле — важная часть усилий Microsoft по продвижению Copilot среди бизнеса. Разница на этот раз заключается в том, что стоимость Copilot для организации будет зависеть от того, чем занимаются её сотрудники. Для компонентов Cowork, Code и Autopilot в новом приложении Copilot компания внедряет модель оплаты по факту использования: длительные процессы с участием ИИ-агентов или эксплуатация таких моделей, как Astra и Fable, будут тарифицироваться в зависимости от объёма потребления ресурсов. Стандартная лицензия Copilot (подписка для пользователя) предоставляет доступ к Copilot в чате, а также в приложениях Word, Excel, PowerPoint, Outlook и Teams. Microsoft использует систему автоматического выбора модели для каждой конкретной задачи, однако IT-администраторам придётся использовать новый инструмент Microsoft FinOps for AI для управления расходами на ИИ и предотвращения неконтролируемого роста затрат при использовании агентских функций. Новые вкладки Home и Code станут доступны участникам программы Microsoft Frontier (ранний доступ к функциям ИИ) в ближайшие недели, а Autopilot перейдёт в стадию закрытого предварительного тестирования позднее в этом месяце. Функциональность Code также станет доступной в режиме предварительной оценки для подписчиков тарифов Microsoft 365 Premium и Pro до конца года. Новое приложение Copilot не позиционируется как прямой конкурент таким продуктам, как Muse. Microsoft называет его «ИИ, созданным для работы». Компания даже сравнивает его с тем влиянием, которое Office оказал на производительность труда. «Подобно тому, как Office определил формат работы в эпоху ПК, новый Copilot призван определить его для эпохи ИИ», — заявил Спатаро. Meta✴ позволит создавать игры с помощью ИИ прямо на смартфоне
25.09.2026 [05:00],
Владимир Фетисов
У компании Meta✴✴ Platforms появился новый план по привлечению людей к созданию игр для платформы Horizon. Гигант соцсетей анонсировал два новых инструмент для разработки, которые позволят создавать игры с помощью промптов для ИИ-модели. Речь о приложении Horizon Create и веб-приложении Horizon Studio с более детальными настройками управления, которые были запущены в рамках программы раннего доступа. 
Источник изображения: BoliviaInteligente/unsplash.com Платформа Horizon пока не добилась больших успехов, но у Meta✴✴ есть план заметно расширить охват новых игр за счёт публикации в сервисе проектов, созданных с помощью Horizon Create и Horizon Studio. Такие игры смогут попадать в рекомендации на Facebook✴✴ и Instagram✴✴, причём взаимодействовать с ними можно будет прямо на этих площадках. «Пользователь, листающий ленту в Instagram✴✴, может нажать на ролик вашей игры и уже через несколько секунд оказаться в многопользовательской сессии без необходимости скачивать приложение или переходить по ссылке. Ваша игра органично вписывается в ленты, где люди уже находят контент и общаются с друзьями», — говорится в сообщении Meta✴✴. Там также сказано, что больший охват получат игры, которые «захватывают, стабильно работают, являются релевантными с культурной точки зрения и заставляют игроков возвращаться снова и снова». Анонс Meta✴✴ произошел на фоне того, как Roblox, похожая на Horizon и гораздо более популярная платформа, активно развивает инструменты разработки на базе ИИ. Так в мобильном приложении Roblox есть функция, которая позволяет генерировать игры с помощью ИИ посредством текстовых инструкций. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
