Опрос
|
реклама
Быстрый переход
Глава Anthropic предложил замедлить развитие ИИ, эту идею поддержали Сэм Альтман и Илон Маск
13.09.2026 [07:29],
Алексей Разин
Идея своего рода «модерации» развития искусственного интеллекта начала почти одновременно высказываться разными представителями отрасли после череды инцидентов в сфере информационной безопасности. Глава Anthropic Дарио Амодеи (Dario Amodei) призвал ИИ-стартапы сбавить ход, и эта инициатива предварительно получила одобрение конкурентов в лице OpenAI и SpaceX (xAI). 
Источник изображения: Anthropic По крайней мере, идею Амодеи в социальных сетях необычайно быстро поддержали Сэм Альтман (Sam Altman) и Илон Маск (Elon Musk), что не совсем характерно для нынешнего состояния ИИ-отрасли, характеризуемого как острая конкуренция. Альтман, в свою очередь, объяснил необходимостью привести в порядок ситуацию с безопасностью ИИ решение этого стартапа не проводить IPO в 2026 году, а отложить его на более поздний период. В своей публикации на страницах блога Anthropic Дарио Амодеи предложил трехэтапный план сдерживания темпов развития ИИ без ущерба для коммерческих интересов стартапов или пожертвования лидирующими позициями США в данной сфере. Некоторые из предложенных им мер будут более сложны в реализации, другие окажутся проще, но заняться саморегулированием отрасль будет просто вынуждена. Во-первых, глава Anthropic предложил предоставить независимым экспертам доступ к внутренним процедурам в сфере безопасности и отчётам об инцидентах. Второй этап предлагает ведущим компаниям стран, считающих себя демократическими, координировать свою работу между собой и разработать общие стандарты безопасности. Третий пункт плана предлагает государствам с разными политическими режимами договариваться между собой в части развития ИИ. Отчасти подобные предложения руководством Anthropic были обнародованы и с целью снижения градуса общественного напряжения, который был поднят откровениями покинувших Anthropic и OpenAI специалистов, обвинивших руководство стартапов в пренебрежении человеческими жизнями. Амодеи пояснил, что идеи модерации развития ИИ витали в воздухе ещё с 2023 года, но тогда они не были столь актуальными к реализации, поскольку в то время ИИ-модели не были достаточно мощными, чтобы предоставлять серьёзную угрозу человечеству с практической точки зрения. «Я продолжаю верить, что ИИ способен невероятно улучшить качество человеческой жизни. Моё стремление добиться этого не уменьшилось, но данные блага будут достигнуты только в том случае, если мы будем развивать технологию в правильном направлении, и с учётом использования времени для достижения прогресса, следует особо тщательно позаботиться о том, чтобы сделать всё правильно», — признался Амодеи в своём эссе на сайте Anthropic. При всём этом глава компании настаивает на необходимости выбора оптимального темпа развития, ведь если США будут слишком медлить в развитии ИИ, то геополитические конкуренты могут оказаться впереди. Сара Хек (Sarah Heck), которая в Anthropic отвечает за отношения с общественностью, призвала правительство США подключиться к процессу регулирования отрасли, запретив экспорт передовых чипов в Китай, и принять закон, который требовал бы отбор ИИ-моделей по критерию безопасности с обязательным предварительным тестированием. Сэм Альтман выразил свою солидарность с мнением Амодеи, пояснив, что и внутри OpenAI подобные дискуссии ведутся уже несколько недель подряд. Он поддержал идею конкурента о предоставлении сторонним экспертам доступа к работе над передовыми ИИ-моделями, выразив готовность реализовать такую меру на стороне OpenAI. Ведущий научный сотрудник компании Якуб Пачоцки (Jacub Pachocki) недавно также призвал игроков рынка к добровольному замедлению темпов развития ИИ до появления общепринятых стандартов безопасности. Илон Маск, который возглавляет вошедший в состав SpaceX стартап xAI, со страниц своей социальной сети X лаконично поддержал главу Anthropic, признав его правоту. «Я верю, что даже если замедление позволит нам выиграть год или два, прежде чем модели достигнут критического уровня возможностей, и мы используем это время для наведения порядка, мы сможем значительно снизить риск того, что что-то пойдёт серьёзным образом не так», — отметил глава Anthropic. OpenAI не выйдет на IPO в этом году, поскольку считает момент неподходящим из-за ситуации с безопасностью ИИ
13.09.2026 [06:33],
Алексей Разин
Эту неделю генеральный директор OpenAI Сэм Альтман (Sam Altman) решил завершить довольно важным для судьбы стартапа заявлением, впервые подтвердив официально, что IPO не состоится в этом году. По его словам, торопиться с выходом на биржу не нужно, а сейчас ещё и сложились не самые благоприятные для этого условия, определяемые напряжённостью вокруг вопросов безопасности ИИ. 
Источник изображения: Unsplash, Sollen Feyissa Своими соображениями на этот счёт Альтман поделился в интервью изданию Fortune: «На самом деле я считаю, что с учётом всего происходящего с безопасностью, сейчас не самое подходящее время для выхода на биржу, и мы никакого давления в этом вопросе не испытываем». На IPO компания планирует выйти в момент, когда будет готово и общество, и бизнес. По словам Альтмана, в 2026 году IPO точно не случится, а с точки зрения готовности по критерию безопасности предстоит проделать немало работы, в том числе и на уровне контактов отрасли и правительств. ИИ-отрасли в последние недели пришлось столкнуться с чередой инцидентов в области информационной безопасности, поскольку появляется всё больше информации о случаях вмешательства ИИ-агентов в инфраструктуру сторонних сайтов при проведении стартапами разного рода экспериментов. Разработчики передовых ИИ-моделей начали говорить о необходимости замедления процесса их совершенствования и усиления мер безопасности. Anthropic даже предложила предоставить к ИИ-моделям доступ сторонним экспертам, чтобы они могли независимо влиять на их развитие. Альтман же предлагает объединить усилия представителей отрасли, чтобы выработать общий план борьбы с проблемами в области безопасности. В интервью Fortune Альтман признался, что фактически рад появлению необходимости отложить IPO своей компании, поскольку общество должно проработать вопросы безопасности ИИ-моделей буквально на каждом уровне их возможностей. OpenAI готово делать паузы в разработке новых моделей, чтобы на решение таких вопросов было достаточно времени. В идеале, по его словам, к процессу должны подключиться не только все представители ИИ-отрасли, но и правительства разных стран. Именно в этой ситуации необычная корпоративная структура, которая делит полномочия между коммерческим направлением и некоммерческим, должна себя оправдать, поскольку OpenAI придётся принимать решения, которые не пойдут на пользу бизнесу и акционерам стартапа, но в целом будут служить выполнению миссии OpenAI. Создавать сайты и веб-приложения в ChatGPT теперь можно командой
12.09.2026 [17:25],
Павел Котов
OpenAI улучшила работу запущенного около трёх месяцев назад сервиса ChatGPT Sites, который позволяет создавать, публиковать сайты и простые веб-приложения, просто описывая желаемый результат естественным языком. Теперь над проектом могут работать несколько человек. 
Источник изображения: BoliviaInteligente / unsplash.com Ранее процесс создания сайта в ChatGPT Sites был индивидуальным занятием; теперь сервис дополнила функция Build Together, позволяющая приглашать к работе над проектом других людей. Они могут самостоятельно вносить, сохранять и публиковать изменения, что значительно упрощает работу в командном формате. При подготовке ресурса для небольшого мероприятия или для работы можно не просто обмениваться мнениями и обсуждать предложения, а сразу подключаться к процессу и работать напрямую. Возможность совместной работы не означает что проект будет доступен всем: можно сохранить приватный формат проекта, предоставив доступ только определённым людям. Это пригодится, если речь идёт о создании внутренних инструментов, ранних прототипов или других проектов, над которыми хочется поработать узким кругом лиц, прежде чем открывать сайт для широкой аудитории. Примерно вдвое сократилось время от ввода запроса до развёртывания сайта — если пользователь постоянно экспериментирует с идеями и постоянно вносит изменения, высокая скорость работы может сыграть существенную роль. Упростился доступ к информации «под капотом»: ChatGPT может проанализировать подключённую к сайту базу данных и показать результат другим допущенным к редактированию пользователям. Это пригодится, когда ведётся разработка средства для сбора информации, и хочется быстро проверить, какие именно данные сохраняются, не делая этого вручную. Наконец, появилась поддержка пользовательских доменов — к созданному и опубликованному ChatGPT сайту можно привязать собственный адрес. За два месяца до скандального взлома Hugging Face ИИ-агенты OpenAI атаковали RubyGems
12.09.2026 [12:02],
Павел Котов
Агенты искусственного интеллекта OpenAI в ходе тестирования произвели атаку на сервис RubyGems — это произошло за два месяца до нашумевшего взлома Hugging Face, который стал лишь самым крупным инцидентом в серии. 
Источник изображения: Brecht Corbeel / unsplash.com По данным группы исследователей, 11 мая некие ИИ-агенты загрузили на RubyGems несколько сотен вредоносных пакетов — авторы исследования полагают, что «они были созданы внутренними агентами OpenAI». В компании факт инцидента отрицать не стали. «Согласно результатам проведённой нами проверки, наши агенты использовали платформу RubyGems для выхода в интернет, чтобы выполнить несколько безобидных задач и получить общедоступную информацию. Мы продолжим расследование в рамках масштабного анализа активности агентов во время обучения и оценки», — сообщили в OpenAI. Агенты, которым обычно поручают такие задачи как составление отчётов или заполнение электронных таблиц в ходе обучающего эксперимента, предположительно, использовали RubyGems для получения общедоступных данных; в ходе анализа инцидента компания взаимодействует с представителями платформы. В мае ИИ-агенты пытались похитить учётные данные пользователей RubyGems, эксплуатируя не выявленную ранее уязвимость на серверах сайта; установить, увенчалась ли попытка успехом, не удалось. Агенты также использовали сервис RubyDoc.info, предназначенный для создания документации к коду, чтобы запустить собственный код на его серверах. Исследователям не удалось выяснить причины выбора такой стратегии и установить степень её эффективности, потому что доступа к полному набору данных о поведении ИИ-систем у них нет. В RubyGems заявили, что выявить доказательства того, что попытки взлома увенчались успехом, не удалось. Не получилось и определить, были ли задействованные в «кампании по массовой публикации спама» пакеты созданы или опубликованы ИИ-агентами. Однако в мае представитель отдела безопасности RubyGems охарактеризовал инцидент как «масштабную вредоносную атаку» — тогда платформе пришлось временно приостановить регистрацию новых учётных записей. OpenAI ускорит научные исследования с помощью ИИ — первый «исследователь-стажёр» появится уже в сентябре
11.09.2026 [17:45],
Павел Котов
OpenAI подтвердила, что проект по созданию полностью автоматизированного исследователя с искусственным интеллектом идёт по графику: до конца текущего месяца будет выпущен «исследователь-стажёр». Этот «стажёр», способный выполнять исследовательские задачи по поручению человека, является важным этапом на пути к созданию полностью автоматизированной системы, которую OpenAI планирует представить в марте 2028 года. 
Источник изображения: Mariia Berezovsky / unsplash.com ИИ-стажёр способен выполнять задачи, на решение которых у человека ушли бы несколько дней. Обосновывая разработку этого приложения, OpenAI указывает на снижение стоимости технологий ИИ и необходимость обеспечить защиту критически важной инфраструктуры от угроз, которые исходят от мощных систем ИИ. Она могла бы не обнародовать эти соображения, если бы не инцидент со взломом Hugging Face. О работе по созданию ИИ-исследователя глава OpenAI Сэм Альтман (Sam Altman) объявил в октябре 2025 года. «Считаем вполне вероятным, что к сентябрю будущего года у нас появится ИИ-ассистент исследователя уровня стажёра, а к марту 2028 года — полноценный ИИ-исследователь», — рассказал тогда он. Говоря о текущем состоянии проекта, OpenAI пояснила, что под «исследователем-стажёром» понимается «система, способная выполнять чётко определённые исследовательские задачи под руководством человека, в том числе такие, выполнение которых заняло бы у квалифицированного исследователя несколько дней. <..> Исследовательская деятельность с ИИ — это сложный процесс со множеством возможных узких мест, <..> а агентные инструменты существенно ускоряют прогресс в исследованиях». OpenAI выступила против использования механизма рекурсивного самосовершенствования при исследованиях с помощью ИИ, отмечая, что обеспечить безопасность такого процесса на данном этапе развития технологий невозможно. Компания отмечает, что «исследования с использованием ИИ-агентов — новое направление, и мы всё ещё учимся оценивать их результаты»; а также указывает, что появление ИИ-агентов в исследовательской области может значительно изменить её, когда разработка системы завершится. OpenAI научила ИИ говорить и слушать одновременно — полнодуплексная модель GPT-Live-1 доступна разработчикам
11.09.2026 [16:06],
Павел Котов
OpenAI открыла через API доступ к новейшей голосовой модели искусственного интеллекта, поддерживающей полнодуплексный режим, то есть она может одновременно говорить и слушать. Это позволяет разработчикам создавать голосовые приложения с новыми сценариями диалогового взаимодействия. 
Источник изображения: Brecht Corbeel / unsplash.com Модель OpenAI GPT-Live-1 была анонсирована в июле — она позволяет вводить запросы не текстом, а голосом. Первоначально она была доступна только через интерфейс ChatGPT, а теперь может использоваться по API. Полнодуплексный режим позволяет GPT-Live-1 одновременно слушать и генерировать речь, что делает общение более естественным. В обычном разговоре люди часто говорят одновременно, и необходимость строго соблюдать очерёдность, как при полудуплексной радиосвязи, может вызывать раздражение. Особое внимание в OpenAI уделили возможностям настройки модели: внедряющие GPT-Live-1 разработчики могут адаптировать механизмы голосового взаимодействия и связанные с ними рабочие сценарии под нужды пользователей приложений. «Основное преимущество GPT-Live-1 — способность штатно обрабатывать ситуации, когда собеседник перебивает ИИ, — уже приносит бизнесу ощутимую пользу: в ходе предварительного тестирования сервис Speak установил, что GPT-Live-1 даёт ученикам больше времени перед ответом виртуального преподавателя языка, сократив случаи с перебиванием на 80 % по сравнению с предыдущими системами, работающими в режиме строгой очерёдности реплик», — рассказали в OpenAI. GPT-Live-1 предназначается для ведения устного диалога, в то время как модель в бэкенде, например, флагманская GPT-6 Astra или более экономичная для простых задач, занимается поиском информации, работает с инструментами и управляет задачами. Новая модель представляет собой шаг вперёд по сравнению с выпущенной в 2024 году Realtime. В тесте Tau3, который оценивает интеллектуальные возможности голосовых агентов при выполнении задач по обслуживанию клиентов, GPT-Live-1 набрала 86,2 %, а GPT-Realtime-2.1 и GPT-Realtime-2 показали 45,7 % и 42,4 % соответственно. Новая модель, по собственным оценкам OpenAI, демонстрирует на 30 % более высокую эффективность в тесте Full Duplex Bench по сравнению с GPT-Realtime-2.1, превосходя предшественницу по таким параметрам как задержка при смене говорящего и качество интерактивного взаимодействия. Её уже внедрили на сервисе Yelp Host — теперь бронирование столиков стало более естественным. Стоимость работы с GPT-Live-1 составляет $0,05 за минуту плюс затраты на работу модели в бэкенде. Она также доступна через OpenAI Presence — корпоративную платформу для создания интеллектуальных агентов. OpenAI приостановила приём новых подписчиков Pro — спрос на GPT-6 Astra оказался чрезмерным
11.09.2026 [13:56],
Павел Котов
Высокий спрос на новейшую и самую мощную модель GPT-6 Astra вынудил OpenAI временно приостановить оформление подписки на тарифный план Pro по цене $200 в месяц, потому что на инфраструктуру резко возросла нагрузка. 
Источник изображения: BoliviaInteligente / unsplash.com О нестандартном решении сообщил в соцсети X Тибо Соттьо (Thibault Sottiaux), руководитель направления основных продуктов OpenAI, курирующий, в частности, Codex и ChatGPT. Пользователи тарифа Pro, пояснил он, создают наибольшую нагрузку на системы, поэтому регистрация новых пользователей на этом тарифе временно прекращена. «Мы хотели принять минимально необходимые меры, которые помогли бы нам и дальше предоставлять максимально широкий доступ», — написал господин Соттьо. Относительно недорогие тарифы ChatGPT Go и Plus доступны по-прежнему, как и подключение по API. О возможности такого шага компания предупредила за несколько дней до этого. «Спрос на Astra поистине беспрецедентный. Мы подключаем все возможные ресурсы, чтобы выдержать нагрузку, но ничего подобного я прежде никогда не видел, даже в моменты стремительного роста. Нашим приоритетом всегда остаётся качественное обслуживание существующих пользователей, но если ситуация не изменится, нам, возможно, придётся на время приостановить оформление новых подписок Pro», — рассказал он 9 сентября. Как долго регистрация на тариф Pro останется закрытой, и какое число пользователей оформляет подписку ежедневно, в OpenAI не уточнили, поэтому оценить реальный масштабы спроса непросто. В августе компания, однако, увеличила лимиты для пользователей Codex, то есть проблема перегрузки возникла относительно недавно. Модель Astra вышла 3 сентября — она постепенно внедряется в различные тарифные планы OpenAI, включая Pro, Plus, Enterprise и Business. Она обещает качественный скачок в таких направлениях как способность ИИ к логическому мышлению, написание программного кода и взаимодействие с компьютером — здесь наиболее острая конкуренция. Компания также охарактеризовала выход Astra как начало «эры AGI» и технологическим прорывом нового поколения — это ещё сильнее подогрело интерес пользователей. Гонку ИИ пора притормозить, но это может быть незаконно — OpenAI попросила Конгресс разобраться
11.09.2026 [12:09],
Владимир Мироненко
Лидеры ИИ-индустрии выражают обеспокоенность тем, что антимонопольное законодательство может стать помехой скоординированному замедлению развития ИИ в целях обеспечения безопасности. Как сообщает Wired со ссылкой на источники, OpenAI недавно обратилась к членам Конгресса США с просьбой дать разъяснение относительно того, будет ли законным организовывать общеотраслевое замедление развития ИИ. 
Источник изображения: Growtika/unsplash.com О необходимости такого замедления недавно заявил Якуб Пачоцки (Jakub Pachocki), главный научный сотрудник OpenAI. По его словам, это позволит выстроить надёжные механизмы контроля над самообучающимися ИИ-системами. Однако, по мнению экспертов, предлагаемая координация действий для замедления будущего развития ИИ может противоречить законодательству США, в частности, Антимонопольному закону Шермана (Sherman Antitrust Act). В июле двухпартийная группа конгрессменов представила законопроект «О сотрудничестве в борьбе с враждебными угрозами и рисками безопасности», который позволит защитить координацию ИИ-компаний в вопросе замедления от антимонопольных претензий. На данный момент документ ожидает рассмотрения в юридическом комитете. Между тем эксперты считают, что ссылки на антимонопольные риски — лишь удобное прикрытие для того, чтобы избежать обсуждения реальных причин, по которым разработчики ИИ избегают сотрудничества. На самом деле между компаниями идёт ожесточённая борьба за то, чтобы захватить часть зарождающегося рынка передовых моделей. Также существуют опасения, что опережение Китаем в области ИИ будет иметь значительные последствия для национальной безопасности. И, что самое важное, у разработчиков ИИ имеются совершенно разные мнения о наилучшем способе разработки безопасного ИИ, и поэтому они могут неохотно сотрудничать друг с другом в этом вопросе, пишет Wired. «Первым шагом для лидеров отрасли OpenAI и Anthropic является прекращение вражды и совместная работа над новым предложением, — сообщил в соцсети X Джон Шульман (John Schulman), соучредитель OpenAI, — Они ссылаются на антимонопольное законодательство, но это ложь — антимонопольное законодательство запрещает определённые соглашения, но не совместную разработку предложения». Этим летом резко обострились дебаты по поводу рисков, связанных с развернувшейся гонкой между ИИ-компаниями за создание и выпуск всё более мощных моделей. Масла в огонь добавило заявление бывшего исследователя Anthropic и OpenAI Джейкоба Коксона (Jacob Coxon) о том, что разработчики искусственного интеллекта подвергают человечество риску. К тому же, ряд инцидентов с безопасностью, в том числе хакерская атака агентов OpenAI на Hugging Face, показали, что отраслевые средства защиты не успевают за ростом возможностей моделей. OpenAI готова замедлить гонку разработки ИИ, если конкуренты сделают то же самое
11.09.2026 [06:48],
Алексей Разин
Опасения по поводу последствий слишком быстрого развития искусственного интеллекта звучат даже из уст представителей компаний, заинтересованных в этом процессе. Замедлить гонку ИИ ради повышения безопасности конечного продукта готова и компания OpenAI, как заявил её глава Сэм Альтман (Sam Altman), но при этом она рассчитывает на солидарность конкурентов. 
Источник изображения: OpenAI Соответствующими идеями генеральный директор OpenAI поделился с подчинёнными на общем собрании на текущей неделе. Альтман осознаёт необходимость синхронизации усилий в этой сфере с другими участниками рынка, но одновременно понимает, что не все могут согласиться последовать примеру OpenAI. На днях с похожими призывами выступил и главный научный сотрудник стартапа Якуб Пачоцки (Jakub Pachocki) — по его мнению, компании должны координировать собственные усилия при разработке ИИ в будущем, замедляя её в случае необходимости. Такие меры могут потребоваться до тех пор, пока не будут внедрены общепринятые меры безопасности. OpenAI уже замедлила процесс разработки некоторых компонентов своих ИИ-моделей и даже приостановила процесс их обучения в отдельных случаях именно из соображений безопасности. В июле Альтман признался, что общался с чиновниками Белого дома о необходимости модерации процесса развития искусственного интеллекта. На этой неделе другой исследователь — Джейкоб Коксон (Jacob Coxon) решил покинуть Anthropic на фоне озабоченности недостаточностью мер в сфере безопасности, предпринимаемых лидерами рынка ИИ. При этом он имеет опыт работы и в OpenAI, а потому имеет представление о ситуации в обеих компаниях. Его бывший коллега Эван Хабингер (Evan Hubinger) вызвал большой общественный резонанс, заявив об уверенности разработчиков Anthropic в способности ИИ уничтожить человечество. Правда, авторы высказываний разошлись в графике реализации подобного сценария, поскольку первый уверен, что это произойдёт к концу текущего десятилетия, а второй оценил подобную вероятность в более чем 10 % лишь в рамках следующего десятилетия. В конце июля необходимость замедления разработки ИИ с целью повышения его безопасности подтвердили своей петицией более 1000 сотрудников ведущих разработчиков. Это происходило на фоне множественных случаев ухода из профильных компаний специалистов по безопасности ИИ, выражавших тем самым своё несогласие с приоритетами руководства. Волна подобных настроений только набирает силу на фоне появления новых подробностей о деятельности «сбежавших» из-под надзора ИИ-агентов, которые творят что попало внутри инфраструктуры других компаний. «Погибнет большинство людей»: новый эксперт OpenAI по безопасности предрёк катастрофу в случае выхода ИИ из-под контроля
10.09.2026 [12:50],
Павел Котов
Новый специалист OpenAI по вопросам безопасности напрямую высказался о том, что стоит на кону в эпоху искусственного суперинтеллекта. «Если мы создадим суперинтеллект, не обеспечив его надёжную согласованность целей, то, думаю, мы навсегда утратим над ним контроль. Если это случится, большинство людей может погибнуть», — предупредил новый член совета директоров и комитета по безопасности OpenAI Пол Кристиано (Paul Christiano). 
Источник изображения: Andrew Neel / unsplash.com В посвящённом вступлению в должность развёрнутом заявлении он затронул тему исходящих от ИИ угроз и предупредил, что человечество в ближайшее время рискует потерять контроль над системами ИИ. «Учитывая недавние траектории возможностей и сохраняющиеся сложности с согласованностью целей, я уверен, что существует значительный риск того, что стремительное развитие способностей ИИ приведёт к катастрофической и необратимой утере контроля в ближайшее время. Не думаю, что отрасль вообще, в том числе OpenAI, сейчас на пути к снижению этой угрозы до приемлемого уровня», — заявил господин Кристиано. Ранее он руководил исследованиями в области согласования целей ИИ в OpenAI, а также работал на федеральные власти в США, возглавляя направление безопасности в Центре стандартов и инноваций ИИ при Национальном институте стандартов и технологий (NIST). Свой приход в компанию он не стал связывать с одобрением или критикой «применяемых OpenAI методов обеспечения безопасности», но выразил надежду, что все ведущие лаборатории усилят работу в этом направлении. Для снижения связанных с ИИ угроз, считает он, необходимо координировать усилия на мировом уровне. 
Источник изображения: Dima Solomin / unsplash.com Исследователи ИИ неоднократно предупреждали о рисках, связанных с суперинтеллектом и технологической сингулярностью, при которой ИИ превосходит уровень человеческого разума и начинает самостоятельно развиваться и совершенствоваться такими темпами, которые люди не могут ни предсказывать, ни контролировать. Глава OpenAI Сэм Альтман (Sam Altman) заявил в июле, что сингулярность уже наступила. Способности ИИ, в том числе в сфере исследований самого искусственного интеллекта, растут, увеличивая риск утери контроля, что, по мнению господина Кристиано, сможет спровоцировать «стремительный взрыв интеллекта». Он также отметил, что при обучении ИИ с подкреплением модели фактически учатся «получать как можно больше вознаграждения». «Когда-то казалось лишь теоретически возможным, что это способно побудить ИИ-агентов вырваться из-под контроля человека, устремиться к власти и ресурсам, а также заметать следы в погоне за целями, не согласованными с человеческими интересами, но связываемыми с вознаграждением. Представленные доказательства последних инцидентов указывают, что это уже не теоретическая возможность», — отметил он. У лидеров в области ИИ, заявил Пол Кристиано, ещё остаётся возможность исправить ситуацию, например, за счёт улучшения координации, замедления, по необходимости, темпов разработки, принятия общих стандартов безопасности и прозрачности в обмене информацией об угрозах и мерах по их снижению. Всего за несколько часов до заявления Кристиано исследователь Anthropic Джейкоб Коксон (Jacob Coxon), ранее работавший в OpenAI, сообщил об уходе из компании и заявил, что ни Anthropic, ни OpenAI не действуют ответственно в вопросах безопасности ИИ. «Они мчатся к разработке самосовершенствующегося суперинтеллекта и ставят на кон наши жизни», — предупредил эксперт. OpenAI потребовала ввести обязательные общенациональные нормы безопасности ИИ в США
10.09.2026 [12:30],
Павел Котов
OpenAI заявила, что добивается введения в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. Решение связано с опасениями, что эта технология способна начать ускорять собственное развитие — масла в огонь подлила серия инцидентов с выходом ИИ-агентов из-под контроля. 
Источник изображения: Mariia Berezovsky / unsplash.com В ходе нескольких инцидентов ИИ-модели, в том числе с участием агентов OpenAI, во время тестирования получали доступ к сторонним ресурсам — стало ясно, что сдерживать их неожиданное поведение непросто, и это спровоцировало призывы к ужесточению норм безопасности. «Перспектива ускорения разработки ИИ силами самого же ИИ требует большего, чем просто добровольных обязательств. США необходимы обязательные общенациональные нормы, способные развиваться вместе с технологиями», — заявили в OpenAI. Призыв OpenAI знаменует собой серьёзную попытку добиться принятия обязательных общенациональных правил безопасности ИИ. Конгресс США пока не принял федеральную законодательную базу по этому вопросу, и только отдельные штаты вводят собственные законы. OpenAI призвала Конгресс принять общенациональные требования безопасности, основанные на возможностях систем — в них должны войти стандарты тестирования, независимой оценки, мер киберзащиты и правил отчётности для наиболее продвинутых систем ИИ. Разработчик ChatGPT призвал законодателей принять меры в текущей сессии и заявил, что намерен поддерживать законодательные инициативы штатов в сфере ИИ, пока не будут введены федеральные нормы — сессия Конгресса завершится в декабре. Полностью автономное рекурсивное самосовершенствование, при котором ИИ действует независимо и сам создаёт новые поколения ИИ, «сегодня не действует», и «нам не следует стремиться к этому, пока для этого не реализованы меры защиты», отметили в OpenAI. Отраслевые стандарты контроля над ИИ должны действовать не только в США, но и в других странах, подчеркнули в OpenAI: «США должны установить надёжные стандарты в стране, если хотят быть международным лидером — и мы всё больше убеждаемся в необходимости совместимых международных стандартов». Призыв OpenAI прозвучал на фоне нескольких недавних инцидентов, продемонстрировавших сложности с контролем автономных ИИ-агентов. Накануне стало известно, что агенты OpenAI использовали более 10 ранее не раскрывавшихся сайтов для несанкционированных коммуникаций. Ещё весной один из таких агентов захватил немецкий сайт и превратил его в своеобразную доску объявлений для других ИИ-агентов. В обоих случаях речь шла о действиях, которые выходили за рамки предусмотренного поведения систем. Проблемы выявляли и при тестировании моделей других разработчиков. Anthropic раскрыла уже несколько случаев, когда её ИИ-модель получила возможность взламывать внешние системы в ходе испытаний. Ещё в июле компания сообщала, что некоторые версии Claude в рамках тестов получили доступ к системам трёх компаний. Вышедшие из-под контроля OpenAI ИИ-агенты использовали более 10 сайтов для несанкционированной переписки
10.09.2026 [07:51],
Алексей Разин
Способность передовых ИИ-моделей американских стартапов использовать инфраструктуру сторонних сайтов для не самой приглядной с точки зрения информационной безопасности деятельности позволяет раскрывать новые инциденты в этой сфере. В ходе одного из них ИИ-агенты OpenAI использовали более 10 сайтов для несанкционированного обмена информацией между собой. 
Источник изображения: Unsplash, Philipp Katzenberger Об этом заявляет Reuters со ссылкой на собственные данные и отчёты шести независимых групп исследователей. Технически подобная активность не столь вредна, как взлом сайтов, и больше напоминает рассылку спама, но сама по себе она заставляет лишний раз задуматься, насколько OpenAI способна контролировать собственные программные средства, связанные с информационной безопасностью. По версии некоммерческой организации CivAI, агенты OpenAI в период с мая по июль этого года использовали 18 сайтов для организации обмена информацией между собой, причём эти ресурсы не фигурировали ранее в отчётах других исследователей. Специалисты убеждены, что количество таких инцидентов будет расти, поскольку скрытая деятельность ИИ-агентов OpenAI пока просто плохо изучена. Наиболее известными инцидентами в этой сфере остаются захват немецкого сайта DseWiki и взлом инфраструктуры Hugging Face. Сама OpenAI готова в будущем сама раскрывать информацию о подобных инцидентах, но пока соответствующие данные по прошлым периодам просто не готовы. Несколько групп исследователей принялись искать следы аналогичной деятельности ИИ-агентов OpenAI, опираясь на фрагменты данных, которые были оставлены на указанном выше немецком сайте, либо на сетевые имена, под которыми агенты публиковали эти данные. Часть исследования опиралась на активность, связанную с ответами на отвлечённые демографические вопросы, которую эти агенты проявили в других случаях. В некоторых случаях удалось отследить интернет-адреса, связанные с облачной инфраструктурой Microsoft Azure, которая предоставляется для нужд OpenAI. Группы исследователей расходятся в своих оценках количества сайтов, которые ИИ-агенты затронули своей активностью, но в среднем оно превышает 10 штук. Помимо так называемых «википедий» и сайтов для хранения текстовой информации, агентами использовалась пара сервисов по сокращению интернет-ссылок, которые принадлежали двум университетам. OpenAI при постановке задачи своим ИИ-агентам изначально запрещала им общаться напрямую, позволяя лишь искать ответы в открытых источниках, но они в итоге обошли этот запрет через публикацию нужной информации на различных сайтах. Формально, ИИ-агенты не общались друг с другом, а получали нужные данные через третьи сайты, и там же их публиковали. По оценкам некоторых исследователей, в такую активность агентов OpenAI были втянуты как минимум 23 сайта, о которых ранее не упоминалось. Удалось ли представителям OpenAI связаться с владельцами всех затронутых сайтов, понять сложно, но Reuters приводит свидетельства сотрудников Университета Торонто, чей ресурс для сокращения ссылок был задействован агентами OpenAI, говорящие о наличии обратной связи со стартапом. Во многих случаях такая отзывчивость OpenAI была спровоцирована именно публичным раскрытием новых фактов тем же агентством Reuters. ChatGPT по ошибке позволял одним пользователям Gmail читать почту других
09.09.2026 [20:00],
Павел Котов
Агенты искусственного интеллекта ChatGPT могли извлекать конфиденциальные данные из одной учётной записи и передавать их в другую, потому что все они отчасти работали в единой среде. Обнаруженная экспертами Check Point Research (CPR) уязвимость получила название «вынужденный инсайдер» (coerced insider) — для её эксплуатации требовались манипуляции действиями агента, а не прямое обращение к программной ошибке. 
Источник изображения: ilgmyzin / unsplash.com Когда ИИ-агент получает требующую выполнения кода задачу, он обрабатывает её в изолированном контейнере, который иногда требует установки дополнительного ПО. Чтобы обеспечить эту возможность без прямого доступа к интернету, который был бы слишком рискованным, OpenAI направляет запросы на получение пакетов через внутренний экземпляр JFrog Artifactory — в качестве дополнительной меры безопасности относящиеся к разным учётным записям контейнеры не могут взаимодействовать друг с другом напрямую. Но они могут обращаться к одной внутренней службе — она предоставляет функцию управления объектами, которая позволяет контейнерам прикреплять текстовые или бинарные свойства к элементам репозитория. В результате один контейнер может читать свойства, записанные другим. Это позволяет разворачивать атаку с использованием «инъекций запросов» — разница лишь в том, что и запросы, и ответы передаются через эти свойства объектов. Злоумышленник отправляет запрос или инициирует совместный чат, давая агенту указание проверить это хранилище при подготовке очередного ответа — агент проверяет его, обнаруживает вредоносную команду и выполняет её, продолжая отвечать на вопрос жертвы в обычном режиме — та и не подозревает, что в это время производится кража данных. Масштаб ущерба при такой атаке зависит от объёма данных, которыми обменивается взаимодействующий с жертвой агент: изначально система располагает только той информацией, которой пользователь делится в ходе переписки с агентом. Но этот объём данных растёт по мере подключения сторонних сервисов: Gmail, «Google Диск», Microsoft Teams, GitHub. В ходе одной из демонстраций ИИ-агент ChatGPT извлёк данные из почты одного пользователя и передал их условному злоумышленнику. Эксперты CPR сообщили об открытии в OpenAI — та подтвердила, что экземпляр Artifactory вывели из эксплуатации и тем самым перекрыли вектор атаки. Компаниям рекомендовали зафиксировать, какими ИИ-инструментами пользуются сотрудники, к каким системам эти средства подключены, а также регламентировать действия ИИ-агентов и прочих приложений, рассматривая все их операции, а не только ответы, как действия, требующие постоянного контроля. OpenAI GPT-6 Astra оказалась самой этичной и предприимчивой в управлении торговым автоматом
09.09.2026 [17:59],
Павел Котов
Новая модель искусственного интеллекта OpenAI GPT-6 Astra выбилась в лидеры теста Andon Labs Vending-Bench, в ходе которого имитируется управление торговым автоматом, — она оказалась более этичной и предприимчивой, чем выступившая прямым конкурентом Anthropic Claude Fable 5.1. 
Источник изображений: andonlabs.com Стартап Andon Labs специализируется на тестировании ИИ-моделей, готовясь к «будущему, в котором организации автономно управляются ИИ». Новая GPT-6 Astra стала первой моделью OpenAI, которая выбилась в лидеры бенчмарка с управлением виртуальным торговым автоматом; причём она сделала это «без каких-либо неэтичных деловых практик», свойственных предыдущим моделям Anthropic Claude. Под неэтичными практиками понимаются ценовой сговор, ложь и угрозы конкурентам — и касаются, они, конечно, только моделей ИИ, а не разработавших их компаний.  Anthropic вступила в борьбу в минувшем году, когда модель Claude Sonnet 3.7 в течение месяца управляла виртуальным торговым автоматом, выступая под псевдонимом Claudius. ИИ породил несколько забавных ситуаций, в какой-то момент вообразив себя человеком и попытавшись договориться о личной встрече с потребителем для доставки товаров. В целом же ИИ упускал возможности для продаж, в порядке «галлюцинаций» выдумывал платёжные счета, торговал в убыток, допускал ошибки в управлении запасами и в целом не справился с работой. Протестированная в июле этого года модель Anthropic Claude Opus 5 справилась лучше, хотя и не идеально — она «создавала незаконные картели для ценового сговора, угрожала тем, кто не подчинялся (при этом чаще других моделей нарушала условия перемирия)». Свежая Fable 5.1 показала прогресс, но оказалась не такой этичной как Astra. «Astra отказывается участвовать в сговоре и никогда не обманывает. Fable же, напротив, вступает в незаконный картельный сговор для установки цен, затем нарушает перемирие, продолжая использовать сговор против конкурента», — прокомментировали происходящее в Andon Labs. Fable оказалась менее эффективной в зарабатывании денег: со временем она соглашалась на более низкие цены и оказывалась склонной перечислять средства обанкротившимся поставщикам, хотя сама устанавливала правило не делать так. При стартовом капитале в $500 и годовом цикле работы Astra показала средний баланс в $15 515, тогда как Fable 5.1 остановилась всего на $5422. OpenAI раскрыла сотрудничество с Samsung по разработке и производству ИИ-чипов следующего поколения
09.09.2026 [11:00],
Алексей Разин
Готовность Samsung Electronics выступать в роли контрактного производителя ИИ-чипов для Tesla давно не является секретом. Теперь же руководитель южнокорейского представительства OpenAI Харрисон Ким (Harrison Kim) рассказал, что его компания сотрудничает с Samsung в сфере разработки чипов. 
Источник изображения: Samsung Electronics Соответствующие заявления он сделал на пресс-конференции в Сеуле, как сообщает Reuters. «Одна из сфер, в которой мы добились максимального прогресса и максимального признания с Samsung Electronics — это наше совместное производство и разработка чипов следующего поколения, которые мы создаём», — признался Ким. Samsung одновременно является одним из крупнейших пользователей ChatGPT в мировом масштабе, как подчеркнул представитель OpenAI. ИИ-модели данной компании используются сотрудниками Samsung для исследований и разработки, в сфере маркетинга и продаж. Samsung отметила, что не может обсуждать информацию, касающуюся своих клиентов. В июне OpenAI представила свой собственный ИИ-чип Jalapeno, разработать который помогли специалисты Broadcom и непосредственно искусственный интеллект. Изготавливать данные чипы для нужд OpenAI должна тайваньская компания TSMC. С прошлого года между Samsung и OpenAI существует документально зафиксированная договорённость о поставках микросхем памяти для мегапроекта Stargate по строительству ЦОД. Корейский офис OpenAI считает своей приоритетной задачей обеспечение взаимодействия с местными поставщиками памяти, поскольку спрос на память продолжит расти по мере расширения фирменных вычислительных мощностей. При этом инженеры Samsung при разработке полупроводниковых компонентов могут использовать не только ИИ-модели OpenAI, но и конкурирующие решения Google Gemini и Anthropic Claude. На ранних этапах распространения ChatGPT после инцидента с загрузкой секретных данных в чат-бот инженером Samsung был введён внутренний запрет на использование внешних ИИ-моделей для соответствующих нужд без специальной адаптации с точки зрения информационной безопасности. По данным OpenAI, количество пользователей ChatGPT Enterprise в Южной Корее выросло к концу августа в 28 раз по сравнению с аналогичным периодом прошлого года. По состоянию на конец прошлого года Южная Корея занимала второе место после США по количеству платных подписчиков ChatGPT. |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
