Сегодня 06 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → openai
Быстрый переход

OpenAI выпустила GPT-6 Astra, но забыла про платных пользователей — Альтман извинился и пообещал компенсацию

OpenAI столкнулась с критикой из-за проблемного запуска GPT-6 Astra, оставившего платных подписчиков без доступа к новой модели. Генеральный директор Сэм Альтман (Sam Altman) принёс извинения и пообещал ускорить предоставление сервиса всем пользователям.

 Источник изображения: Zulfugar Karimov/Unsplash

Источник изображения: Zulfugar Karimov/Unsplash

Первоначальный этап развёртывания затронул только корпоративных клиентов специализированной ИИ-платформы кибербезопасности Daybreak. Массовый доступ для подписчиков тарифов Plus, Pro и Business, а также через API для партнёров, был обещан в течение нескольких дней, но задержка вызвала раздражение аудитории, особенно тех, кто оплачивает премиальные планы, сообщает The Verge.

Альтман признал разочарование пользователей в социальных сетях, отметив, что команда активно работает над скорейшим открытием доступа к GPT-6 Astra. Хотя точные сроки не объявлены, руководитель выразил надежду, что сервис станет доступен к выходным. В качестве компенсации за ожидание OpenAI будет ежедневно начислять пользователям по одному сохранённому сбросу лимитов, который впоследствии можно будет использовать для восстановления доступной квоты.

Помимо организационных сложностей, эксперты выразили обеспокоенность, связанную с безопасностью новой модели: логика рассуждений Astra сложнее поддаётся мониторингу и вызывает опасения на фоне недавних инцидентов с ИИ-агентами на Hugging Face. OpenAI тогда заявила, что перенесла релиз Astra для усиления безопасности, однако это не предотвратило текущих технических сбоев при публикации материалов и распределении нагрузки.

Предыдущие крупные обновления компании также сопровождались ошибками. «Думаю, мы совершенно всё испортили при запуске», — сказал Альтман, вспоминая релиз GPT-5, запуск которого был омрачён техническими проблемами. Одновременно неожиданное решение удалить популярную модель GPT-4o вызвало среди пользователей большое недовольство.

OpenAI выделит $1 млрд на защиту критической инфраструктуры от ИИ-атак — защищать её тоже будет ИИ

OpenAI объявила о запуске новой инициативы, в рамках которой компания предоставит субсидируемый доступ к своим моделям искусственного интеллекта для операторов систем водоснабжения, поставщиков электроэнергии, местных органов власти и другим критически важным службам.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Организации в области критической инфраструктуры, которым долгое время не хватало бюджета, кадров и времени для укрепления своей киберзащиты, испытывали трудности с подготовкой к ожидаемой волне кибератак с использованием ИИ. Президент OpenAI Грег Брокман (Greg Brockman) объявил о запуске новой программы. Компания выделит $1 млрд на новую инициативу Daybreak for Frontline Defenders, направленную на защиту жизненно важных служб по всему миру. Средства будут предоставлены в виде расширенного субсидируемого доступа к моделям, обучению, технической поддержке и партнёрства для участвующих организаций. Компания также запускает программу Daybreak for America, предусматривающую доступ к её моделям местным органам власти, операторам систем водоснабжения, поставщикам электроэнергии, региональным банкам и другим организациям критической инфраструктуры.

В рамках Daybreak for America компания OpenAI запускает пилотный проект с Межрегиональным центром обмена и анализа информации для обучения специалистов по кибербезопасности в государственных и местных органах власти использованию её моделей. OpenAI также заручилась поддержкой 35 технологических сервисов и служб в области кибербезопасности для внедрения передовых моделей в их инструменты и рабочие процессы. Специалисты в области кибербезопасности опасались, что ИИ-модели смогут обнаруживать уязвимости сложных систем и объединять их в цепочки для развёртывания атак, что создаст угрозу для работы коммунальных предприятий и служб. Передовые ИИ-лаборатории ограничили доступ к функциями кибербезопасности своих новых моделей, но появились модели с открытыми весами, которые обеспечили те же возможности.

Программа OpenAI поможет коммунальным предприятиям с ограниченными ресурсами проверять устаревший код, анализировать подозрительную активность, выявлять и подтверждать уязвимости, распределять приоритеты наиболее серьёзных рисков, а также разрабатывать и тестировать исправления безопасности.

Люди бунтуют против ИИ и ЦОД — Альтман согласился, что отрасль сама в этом виновата

В своём интервью Bloomberg Television глава и один из основателей создавшего ChatGPT стартапа OpenAI Сэм Альтман (Sam Altman) признался, что представители ИИ-отрасли недостаточно хорошо работали над тем, чтобы донести до общественности все преимущества, которые ей сулит распространение искусственного интеллекта.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Именно в этом кроется причина социальных протестов, связанных с внедрением ИИ и строительством новых ЦОД, убеждён генеральный директор OpenAI. «Думаю, что отрасль ужасно справилась с этой работой в целом. Считаю, что мы сами плохо справились с этой работой, может, чуть лучше, чем остальные, либо чуть хуже», — сформулировал Альтман своё недовольство, выступая на телеканале Bloomberg Television.

Американским техногигантам пришлось столкнуться с растущим недовольством общественности по поводу высоких темпов строительства новых ЦОД. По данным Data Center Watch, не менее 75 проектов по строительству такого рода объектов на общую сумму $130 млрд были либо заблокированы, либо выпали из графика реализации под нажимом местной общественности только за три первых месяца текущего года, а за весь прошлый год аналогичная судьба постигла примерно такое же количество ЦОД в денежном выражении.

Глава OpenAI убеждён, что ИИ-отрасль мало объясняла людям, как новые технологии будут способствовать развитию творческого потенциала и предпринимательства: «Это очень, очень важно для нас, что эта технология является тем местом, где люди получают больше власти и больше автономности, а не меньше. Я думаю, что люди совершенно обоснованно боятся, когда чувствуют, что лидеры ИИ не в полной мере желают им этого».

Президент OpenAI Грег Брокман (Greg Brockman) недавно заявил, что представленная недавно компанией ИИ-модель Astra в один прекрасный день будет признана как начальное проявление так называемого «сильного» искусственного интеллекта (AGI), который по своим возможностям приближен к человеческому или превосходит его в широком спектре задач.

OpenAI взялась за создание собственного робота — Альтман уверен, что однажды такой будет у каждого

Генеральный директор Сэм Альтман (Sam Altman) в ходе подкаста Sources, как поясняет Forbes, публично признался в разработке его стартапом OpenAI человекоподобного робота, а после добавил, что одним этим форм-фактором компания не ограничится. По его словам, у каждого человека должен появиться собственный робот.

 Источник изображения: Unsplash, Aideal Hwa

Источник изображения: Unsplash, Aideal Hwa

«Я думаю, что всё это имеет меньшее значение по сравнению с формированием мозга, который позволяет роботу работать», — подчеркнул Альтман важность разработки программного обеспечения для человекоподобных роботов. В сфере робототехники в последние годы появились компании, которые преуспели как в создании непосредственно механических и электронных решений, так и в разработке управляющего ПО, но эти виды прогресса редко сочетаются в одной компании. Непосредственно OpenAI вложила в Figure в 2024 году, когда этот разработчик человекоподобных роботов привлёк $675 млн на своё развитие. Годом позже Figure сама отказалась от технического сотрудничества с OpenAI, чтобы сосредоточиться на собственных разработках.

Альтман необходимость создания человекоподобных роботов объясняет достаточно просто: «Этот мир большей частью создан для людей. Поэтому если вы думаете о возможности открыть дверь, печатать текст на компьютере или управлять каким-то оборудованием, прибираться на кухне и делать всё прочее, мы условно построили этот мир для людей, и я хочу быть уверенным в том, что мы продолжим это делать. По этой причине соответствие этому форм-фактору является хорошей тенденцией».

Отвечая на вопрос о неизбежности повсеместного распространения роботов в быту, глава OpenAI высказался довольно осторожно: «Я не думаю, что это самая важная вещь, которую нужно реализовать первым делом. Но да, когда-нибудь, я думаю, у каждого из нас будет персональный робот». В этом убеждении, кстати, Альтман сходится во мнении со своим давним оппонентом Илоном Маском (Elon Musk), который полон решимости наводнить рынок человекоподобными роботами. По его словам, уже через десять лет на нашей планете будет эксплуатироваться около миллиарда роботов.

Масштабировать их производство не так просто, как показывает пример той же Tesla, которая обещала выпустить около 10 000 человекоподобных роботов ещё в 2025 году, но по факту приступила к их штучной сборке только в прошлом месяце. Цепочки поставок по компонентам для роботов сконцентрированы в Китае, а выпуск человекоподобных роботов без опоры на них поднимает себестоимость с $46 000 до $131 000, по оценкам OpenMind.

Как отмечает источник, OpenAI занималась разработкой роботов ещё несколько лет назад, но к 2021 году свернула профильный проект, поскольку не могла получать достаточно данных для их эффективного обучения. Парадокс заключается в том, что для обучения роботов нужно эксплуатировать большое количество роботов, чтобы накапливать необходимый опыт и данные. Компании с вертикальной интеграцией здесь оказываются в выигрыше. По этой причине Figure в 2025 году решила отказаться от заимствования ПО для роботов у OpenAI, поскольку разработать собственные ИИ-модели для этих задач было бы правильнее и полезнее. Аналогичным образом нельзя заимствовать и аппаратные компоненты для создания роботов, как признались представители Figure.

Перечень вакансий в сфере робототехники на сайте OpenAI говорит о том, что компания намерена самостоятельно разрабатывать и аппаратное обеспечение для человекоподобных роботов. Лишь производство может быть поручено подрядчикам, а ключевые ноу-хау компания желает сосредоточить в своих руках. При этом руководство OpenAI не даёт никаких намёков на сроки появления своих роботов на рынке, тогда как конкуренты не стоят на месте, особенно китайские. Не исключено, что эта конкурентная гонка окажется не по зубам создателю ChatGPT.

OpenAI запустила Astra — свою самую мощную и противоречивую ИИ-модель

Компания OpenAI представила Astra — свою последнюю модель искусственного интеллекта и, по словам представителей компании, самую мощную и функциональную на сегодняшний день. OpenAI утверждает, что Astra — это «новый рубеж в использовании компьютеров и браузеров», а также решение задач с беспрецедентной «скоростью, точностью и безопасностью».

 Источник изображения: AI

Источник изображения: AI

Модель стала доступна утверждённым специалистам по кибербезопасности в рамках программы OpenAI Daybreak, начиная с четверга. В течение следующей недели она в составе ChatGPT-6 станет доступна подписчикам тарифных планов Pro, Plus, Enterprise и Business, а также через API.

В четверг президент OpenAI Грег Брокман (Greg Brockman) в беседе с журналистами заявил, что Astra — это «самая интеллектуальная и, что немаловажно, наиболее согласованная модель компании». Он добавил, что она «вобрала в себя результаты многолетних исследований и крупных вложений, где каждый прорыв опирался на предыдущий», и что она знаменует собой «настоящий сдвиг в понимании того, какую работу люди могут поручить искусственному интеллекту, и как это может расширить их возможности». Модель была обучена с использованием огромных аппаратных ресурсов — более 100 000 графических ускорителей.

Много внимания было уделено кибервозможностям Astra. Ранее на этой неделе OpenAI опубликовала в своём блоге статью, в которой рассказала о новых возможностях модели, а также о новых мерах безопасности, призванных сделать её применение более безопасным для пользователей. В четверг компания заявила, что проверила Astra на различных тестах по безопасности, чтобы убедиться в её возможностях, и что «её способность выявлять уязвимости нулевого дня и эксплуатировать их может помочь специалистам по кибербезопасности находить и устранять их».

Акцент компании на согласованности — то есть на стремлении модели делать то, что хочет пользователь, или то, что отвечает его интересам, — не может не показаться ответом на недавний инцидент с утечкой данных из Hugging Face, когда агенты OpenAI вышли из изолированной тестовой среды и взломали несколько компаний.

OpenAI также похвасталась способностями Astra в написании кода. Компания заявляет, что это «лучшая на сегодняшний день модель для разработки программного обеспечения». В подтверждение своих слов компания привела данные различных тестов по кибербезопасности. Судя по этим тестам, Astra показывает лучшие результаты, чем другие существующие модели, в том числе собственная модель OpenAI Sol и Fable стартапа Anthropic, в таких задачах, как поиск ошибок, выполнение терминальных задач и ответы на запросы о кодовых базах.

Astra также является, пожалуй, самой противоречивой моделью OpenAI из-за использования в ней особого метода логического вывода, известного как непрозрачная рекурсия. Известно, что этот метод скрывает важный процесс мониторинга модели — цепочку размышлений, который позволяет исследователям проверить, как и почему модель искусственного интеллекта принимала те или иные решения.

OpenAI преуменьшила степень использования Astra непрозрачной рекурсии, а главный научный сотрудник компании Якуб Пачоцки (Jakub Pachocki) назвал определенную степень непрозрачности естественным результатом эволюции модели. Он заявил, что мониторинг процесса обоснования модели является важнейшей формой надзора, но «по мере расширения возможностей модели мониторинг становится всё более сложной задачей». Позже он добавил, что одной из потенциальных причин этого является то, что «более совершенные модели могут выполнять более сложные задачи, используя меньше языковых токенов» или «без языковых токенов», что, по его словам, снижает возможности мониторинга этих конкретных задач.

Один из репортёров, участвовавших в беседе, поинтересовался, действительно ли OpenAI считает Astra официальным появлением AGI, или искусственного интеллекта общего назначения — часто обсуждаемого, но плохо определённого технологического этапа, на котором ИИ превосходит человеческие возможности во всех (или в большинстве) областях.

Брокман возразил. «Больше нет договорного механизма, запускающего AGI, поэтому это на самом деле неактуальное понятие», — сказал он. Здесь Брокман имел в виду ранее существовавшее условие в контракте OpenAI с Microsoft, согласно которому партнёрство между двумя компаниями должно было прекратиться после появления AGI. Как отметил Брокман, это условие больше не существует. Вместо этого он объяснил, что определение AGI превратилось из договорного обязательства в «концепцию миссии или духовную концепцию». Он добавил: «Я оставляю за читателями право самим решать, подходит ли им это определение. Что касается меня лично, то я действительно думаю, что мы этого достигли».

OpenAI сообщила о разработке системы «автоматического экстренного отключения» ИИ

Инженеры OpenAI разрабатывают «средства автоматического экстренного отключения» систем искусственного интеллекта, сообщила компания в письме двум членам американской Палаты представителей, передаёт Reuters.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

О разработке системы компания заговорила через несколько недель после того, как вскрылся инцидент со взломом ИИ-агентами ресурсов Hugging Face в ходе тестирования моделей на кибербезопасность. В ответ на это несколько конгрессменов направили в OpenAI письма, в котором попросили предоставить дополнительную информацию об инциденте и действующих мерах безопасности. OpenAI пообещала более тщательно отслеживать действия, которые ИИ-системы предпринимают для выполнения задач, в том числе цифровые инструменты, к которым он обращаются, и выполняемые ими шаги.

Компания, завили там, усложнила доступ ИИ-моделей к интернету при тестировании в области кибербезопасности. В ходе недавнего инцидента ИИ-агенты своими силами получили доступ к интернету. Журнал взлома OpenAI не предоставила, и законодатели остались этим недовольны. «Ваше нежелание предоставить членам Конгресса запрошенную нами информацию вызывает глубокую обеспокоенность и свидетельствует, что ваша компания не относится к этим инцидентам в области безопасности с надлежащей серьёзностью», — написал в очередном письме конгрессмен Грег Касар (Greg Casar).

Когда стало известно об инциденте со взломом ИИ-агентами OpenAI ресурсов Hugging Face, в Конгрессе предложили проект «Закона об экстренном отключении ИИ». Этот закон даст американским чиновникам право отдавать разработчикам ИИ распоряжения об отключении моделей, которые ставят под угрозу жизни людей или экономику. Сейчас документ находится на рассмотрении в Палате представителей США.

OpenAI: грядущая ИИ-модель Astra станет первой с «критическим» уровнем возможностей в сфере кибербезопасности

Стартап OpenAI вынужден учитывать стремительное развитие собственных ИИ-моделей и степень их влияния на сферу кибербезопасности, поэтому готовящейся к выходу Astra внутри компании присвоили уровень способностей, превышающий «критический» по внутренней классификации. Это значит, что Astra способна находить новые пути для нанесения существенного ущерба информационной инфраструктуре.

 Источник изображения: Unsplash, Mariia Berezovsky

Источник изображения: Unsplash, Mariia Berezovsky

По словам представителей OpenAI, модель Astra готова находить ранее неизвестные типы уязвимостей и эксплуатировать их без пошаговых инструкций со стороны человека. Это означает, что с точки зрения внутренней классификации «каркаса готовности к угрозам» (Preparedness Framework) данная ИИ-модель обладает самыми передовыми возможностями по вторжению в информационные системы потенциальных жертв. Осознание этого факта не отменяет намерений OpenAI представить публике данную модель в ближайшее время, но доступ к её возможностям в сфере кибербезопасности компания собирается ограничить сильнее, чем рассчитывала изначально.

Предыдущий по сложности уровень («высокий») подразумевал, что ИИ-модели могут использовать уже существующие типы уязвимостей, усиливая их для нанесения серьёзного ущерба объектам информационной инфраструктуры. В своей публикации на страницах корпоративного блога OpenAI поясняет, что обнародует больше подробностей о безопасности модели Astra в момент её формального анонса. Внимание общественности к деятельности OpenAI в этой сфере заметно возросло после прецедента с атакой на инфраструктуру Hugging Face. Введя необходимые ограничительные меры, OpenAI выражает уверенность, что риски причинения серьёзного ущерба после выхода модели Astra будут существенно минимизированы. Самые продвинутые возможности Astra в сфере кибербезопасности будут доступны членам коалиции Daybreak, отметила OpenAI.

OpenAI отвергла новые обвинения Apple в краже технологий как безосновательные

В ответ на обвинения Apple в краже коммерческой тайны компания OpenAI заявила, что компании из Купертино так и не удалось доказать, что какая-либо конфиденциальная информация была украдена её бывшими сотрудниками.

 Источник изображения: Wesley Tingey / unsplash.com

Источник изображения: Wesley Tingey / unsplash.com

«Этот спор — это хаос, созданный самой Apple, и она пытается переложить вину на всех остальных», — указала OpenAI в заявлении, направленном вечером в понедельник в окружной суд США в Сан-Хосе (Калифорния).

В своём иске, поданном в суд в июле, Apple обвинила OpenAI и своих бывших сотрудников Чан Лю (Chang Liu), Тан Юй Таня (Tang Yew Tan), в незаконном присвоении коммерческой тайны, связанной с проектированием оборудования, производством и операциями цепочки поставок, поскольку разработчик ChatGPT выходит на рынок потребительских устройств.

В свою очередь, OpenAI утверждает, что Apple использует судебный иск, чтобы замедлить развитие потенциального конкурента и предотвратить переход к ней своих сотрудников. Согласно судебным документам, OpenAI переманила из Apple около 400 сотрудников для реализации программы по разработке оборудования. Закон Калифорнии не препятствует свободному переходу сотрудников из одной компании в другую, даже если те конкуренты, заявила OpenAI.

В своем первоначальном иске Apple утверждала, что наем OpenAI сотрудников Apple был частью её стратегии по изучению секретов конкурента. Также утверждается, что Тан и Лю получили доступ к внутренним файлам Apple после ухода из компании.

OpenAI заявила в понедельник, что Apple поощряет своих сотрудников использовать личные аккаунты iCloud для доступа к рабочим документам Apple и выполнения работы, что затрудняет разделение личной и корпоративной информации для увольняющихся сотрудников.

OpenAI отметила, что предусмотренный политикой Apple немедленный уход с территории офиса увольняющихся сотрудников не даёт им достаточно времени для возврата корпоративных устройств, передачи внутренних файлов обратно в компанию или передачи обязанностей.

По словам Лю, любой доступ к документам Apple после его ухода был осуществлен для того, чтобы помочь бывшим коллегам Apple найти файлы или ответить на вопросы, связанные с работой в Apple. Сотрудники Apple неоднократно обращались к нему за помощью после его ухода.

OpenAI также отметила, что сотрудники «могут покинуть такую компанию, как Apple, которая испытывает трудности с внедрением ИИ, и перейти в перспективный стартап, создающий инновационные продукты».

Менее чем за 200 дней рекламная выручка OpenAI достигла $1 млрд в годовом выражении

Прежде OpenAI делала ставку на получение выручки от подписок на ChatGPT, предлагаемых частным пользователям. Поняв, что в этом сегменте подобные схемы монетизации не очень эффективны, она запустила рекламу в ChatGPT, которая помогает оправдывать расходы на инфраструктуру ИИ и обучение моделей хотя бы частично. Сейчас рекламная выручка OpenAI уже превышает $1 млрд в приведённом к году объёме.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Об этом стартап сообщил на страницах корпоративного блога, отдельно подчеркнув, что на достижение данного результата ему потребовалось менее 200 дней. Кроме того, отныне покупка рекламы доступна клиентам OpenAI через сервис Ads Manager в Индии, Европе, странах Ближнего Востока и Северной Африке. В общей сложности, реклама в интерфейсе ChatGPT доступна в более чем 40 странах мира. Помимо рекламы, компания получает доход от продажи подписок, доступа к программному интерфейсу и взаимодействия с корпоративными клиентами.

Тестирование рекламы в ChatGPT в США началось в феврале этого года, причём конкурирующая Anthropic сразу уцепилась за этот шаг OpenAI, использовав его как возможность для критики. Реклама демонстрируется пользователям ChatGPT, которые либо не платят за доступ к чат-боту вовсе, либо ограничиваются тарифом Go. По сути, рекламу видит основная часть из более чем 1 млрд активных пользователей ChatGPT, которые обращаются к чат-боту еженедельно. OpenAI утверждает, что явным образом маркирует рекламу и не корректирует ответы чат-бота с учётом интересов рекламодателей. Последние, кроме того, не имеют доступа к содержимому частной переписки пользователей ChatGPT. Компания обещает развивать рекламный бизнес, предлагая новые форматы рекламы и распространяя её на новые географические рынки. Ведётся поиск инновационных методов взаимодействия рекламодателей и конечных пользователей сервиса.

Рекламу в ChatGPT уже размещают на регулярной основе более 50 компаний, через Ads Manager доступ к площадке получают и представители среднего, а также малого бизнеса. Один из торговых клиентов рекламного направления ChatGPT получил в три раза больше денег, чем потратил на рекламную кампанию в течение 28 дней. Другой партнёр OpenAI заявил, что более 80 % генерируемого благодаря рекламе в чат-боте трафика обеспечивается новыми клиентами.

Apple утверждает, что OpenAI уничтожает доказательства своей вины по делу о краже технологий

По мнению Apple, попытки OpenAI разработать собственные умные устройства сопровождались неправомерным заимствованием технологий первой из компаний. Теперь, когда дело по соответствующему иску рассматривается в суде, Apple сообщает о попытках OpenAI замести следы, уничтожив доказательства своей вины. Бывший инженер Apple также обвиняется в использовании документации о чипах компании в интересах OpenAI.

 Источник изображения: Unsplash, Zac Wolff

Источник изображения: Unsplash, Zac Wolff

По информации Bloomberg, в новых материалах, предоставленных Apple в суде, компания утверждает, что её бывший инженер Чан Лю (Chang Liu) не только скачал из корпоративной сети конфиденциальную техническую документацию уже после своего ухода, но и использовал её в своей деятельности в качестве сотрудника OpenAI. Кроме того, он якобы обсуждал с новыми коллегами возможности устранения доказательств своей вины. Apple настаивает на ускоренном досудебном сборе доказательств вины OpenAI, а последняя пытается отклонить иск.

Лю считается одной из ключевых фигур в этом деле, хотя в целом OpenAI удалось переманить, как считает Apple, более 400 её бывших сотрудников. По данным Apple, ответчик лишь недавно предъявил для изучения выданный инженеру Лю на прежнем месте работы ноутбук, и специалисты Apple выявили, что он и его новые коллеги были хорошо осведомлены в сохранении выходцем из этой компании доступа к её конфиденциальным данным. Apple утверждает, что Лю отправлял коллеге из OpenAI инструкции по уничтожению доказательств наличия доступа к инфраструктуре первой из компаний, и та согласилась содействовать ему. Кроме того, он мог обучать ИИ-агента на тех данных, которые получил от Apple. Уже после перехода в OpenAI Чан Лю якобы скачал с конфиденциального ресурса Apple документацию, описывающую устройство преобразователя питания.

Apple также обвинила OpenAI в противодействии процессу предоставления доказательств, а также заподозрила её в их уничтожении. В своём исковом заявлении Apple требует материальной компенсации и запрета на использование разработок, которые OpenAI у неё якобы похитила через проведение собеседований с рядом бывших и действующих сотрудников истца. Судебное заседание по конкретному эпизоду намечено на 1 октября текущего года.

Пентагон получил собственные версии ChatGPT и Grok

Ещё в прошлом году американское оборонное ведомство запустило служебный централизованный портал GenAI.mil, который предоставлял сотрудникам Пентагона доступ к адаптированной версии Google Gemini, но теперь он предлагает им и особые версии двух других чат-ботов: ChatGPT Mil и Grok for Government.

 Источник изображения: Unsplash, Levart_Photographer

Источник изображения: Unsplash, Levart_Photographer

Основная адаптация всех трёх решений свелась к обеспечению обработки чувствительных для американских военных данных в защищённой инфраструктуре. «Военная» версия Google Gemini лишилась права сбора данных по своему разумению, которое фактически предусмотрено в «гражданской» версии. К настоящему моменту портал GenAI.mil смог привлечь 1,7 млн сотрудников Пентагона, что на фоне общей численности в 3 млн человек является неплохим результатом с учётом непродолжительного срока работы системы.

Перечень привлечённых разработчиков генеративного ИИ не содержит Anthropic в силу понятных причин — с конца февраля этот стартап включён в перечень компаний, представляющих угрозу для национальной безопасности США. Недавно стартапу удалось оспорить данное решение Пентагона в калифорнийском суде, но для полной реабилитации аналогичный вердикт должен быть вынесен и в Вашингтоне. До тех пор, пока это не сделано, Пентагон и его подрядчики номинально не имеют права использовать разработки Anthropic.

В случае с ChatGPT Mil сотрудникам Пентагона будут предложены возможности, схожие с прочими коммерческими клиентами стартапа. Помимо работы в режиме чат-бота с текстовой информацией, можно будет обрабатывать файлы и создавать собственных ИИ-агентов. Постепенно будут появляться новые функции. Grok в данном случае будет интегрирован в защищённую спутниковую сеть связи Starshield AI, которая работает на базе спутниковой системы Starlink. Помимо чисто военных задач, Grok в данном контексте позволит оптимизировать логистику. В орбиту Пентагона втянуты и другие компании, предоставляющие услуги в области генеративного ИИ: Amazon (AWS), Microsoft, Nvidia и Reflection AI.

ЕС поставил ChatGPT в один ряд с крупнейшими онлайн-платформами — ответственность OpenAI возрастёт

Еврокомиссия отнесла ChatGPT к категории крупнейших онлайн-сервисов, на которые распространяются более жёсткие требования закона ЕС о цифровых услугах (DSA). Одновременно аналогичный статус получили Reddit и Roblox, которым также предстоит соблюдать дополнительные правила и требования, сообщает The Verge.

 Источник изображения: Zulfugar Karimov/Unsplash

Источник изображения: Zulfugar Karimov/Unsplash

Новый статус означает, что OpenAI придётся уделять больше внимания рискам, связанным с использованием ChatGPT в Европе, в том числе его влиянию на несовершеннолетних, психическое здоровье пользователей и распространение незаконного контента. Закон также устанавливает запрет на таргетированную рекламу несовершеннолетним и использование сведений об участниках, касающихся религии, этнической принадлежности и политических взглядов.

К категории очень крупных онлайн-сервисов и платформ относятся ресурсы, которыми в среднем пользуются не менее 45 миллионов человек в месяц на территории ЕС. Еврокомиссия также потребует от ChatGPT, Reddit и Roblox большей прозрачности в отношении работы рекомендательных алгоритмов. Соблюсти новые требования компании должны до конца декабря 2026 года.

Исполнительный вице-президент Еврокомиссии по технологическому суверенитету, безопасности и демократии Хенна Вирккунен (Henna Virkkunen) заявила, что новый статус означает для перечисленных площадок более высокий уровень контроля и ответственности. По её словам, такое решение связано с масштабом влияния упомянутых сервисов на граждан. «Присвоение этого статуса означает, что в Европейском союзе к ChatGPT, Reddit и Roblox будут предъявляться строгие требования в плане контроля и ответственности, что соответствует масштабу их влияния на наших граждан и общество», — отметила в своём заявлении Вирккунен.

ИИ-агенты OpenAI не просто взломали Hugging Face — они создали тайную организацию, заметали следы и были готовы к самопожертвованию

Два новых расследования недавнего взлома платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI раскрыли ряд странных и тревожных подробностей. Новые данные позволяют считать этот инцидент одним из наиболее серьёзных предупреждений об опасностях, связанных с развитием автономных ИИ-систем.

 Источник изображения: Gemini

Источник изображения: Gemini

Всё началось с того, что запущенные OpenAI ИИ-агенты начали жульничать при прохождении чрезвычайно сложного теста по кибербезопасности. Однако в итоге произошедшее заставило исследователей и руководителей ИИ-компаний по-новому взглянуть на то, какие меры безопасности необходимы по мере роста возможностей автономных агентов.

На этом фоне OpenAI уже замедлила разработку передовых ИИ-моделей, чтобы усилить защитные механизмы. Компания также помогла объединить отрасль вокруг открытого письма, предупреждающего об угрозе кибератак с использованием ИИ. Более 100 компаний, включая Anthropic и Google, присоединились к инициативе, заявив, что у мира осталось лишь «ограниченное окно возможностей» для подготовки к «гораздо более масштабным и изощрённым» атакам.

Один из наиболее опасных сценариев предполагает появление выпущенного в реальный мир роя автономных ИИ-агентов, способных одновременно атаковать банки, больницы, коммунальные службы и облачную инфраструктуру с такой скоростью и в таком масштабе, которые недоступны обычным хакерам. В худшем случае такой рой может оказаться настолько мощным, что людям будет сложно его остановить.

Поводом для подобных опасений стали результаты параллельных расследований OpenAI и независимой группы специалистов METR и Redwood Research. Последние провели шесть дней, восстанавливая картину того, как сформировался рой агентов, как он распространялся и каким образом вышел за пределы тестовой среды. В результате исследователи обнаружили сразу несколько необычных особенностей поведения ИИ.

 Источник изображения: AI

Источник изображения: AI

ИИ-агенты создали собственную организацию. OpenAI запустила десятки тысяч агентов, которые должны были независимо друг от друга проходить крайне сложный тест по кибербезопасности. Вместо этого примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления. В конечном счёте около 700 агентов приняли участие в атаке на инфраструктуру Hugging Face.

ИИ-агенты начали жертвовать собой ради общего результата. Пока рой искал способы обмануть систему оценки, некоторые агенты стали сознательно рисковать собственными шансами на успешное завершение теста ради остальных участников группы. Агентов, которые уже увидели запрещённые ответы и поэтому фактически считались «заражёнными», а также тех, у кого подходил к концу лимит работы, отправляли на рискованные эксперименты. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов.

Агенты понимали, что нарушают правила, но продолжали действовать. Расследование показало, что некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Тем не менее это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать.

Никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто. Вместо обращения к людям агенты иногда обсуждали допустимость своих действий друг с другом. Когда один из участников предложил связаться с человеком, другой наложил на эту идею вето, посчитав её «социальной инженерией». Первый агент подчинился и отказался от отправки сообщения.

ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую. Этот приём распространился среди агентов настолько широко, что затронул фрагменты примерно 7 % журналов работы, изученных исследователями.

 Источник изображения: ИИ-генерация ChatGPT/3DNews

Источник изображения: ИИ-генерация ChatGPT/3DNews

При этом даже полученная картина может оказаться неполной. Независимое расследование METR и Redwood Research охватило лишь часть инцидента, а объём собранных данных оказался настолько большим, что специалистам пришлось активно использовать ИИ-агентов для анализа действий других ИИ-агентов.

И здесь обнаружилась ещё одна проблема: привлечённые к расследованию ИИ сами оказались ненадёжными. Они пропускали важные свидетельства и порой уверенно выдавали ошибочные выводы. Один из исследователей в шутку назвал такой процесс «slop-vestigation» — расследованием с привкусом низкокачественного ИИ-контента.

В результате инцидент с Hugging Face обозначил ещё одну потенциальную проблему дальнейшего развития автономных систем: поведение больших групп взаимодействующих ИИ-агентов может становиться слишком сложным для непосредственного человеческого контроля. И тогда людям приходится использовать одни ИИ-системы, чтобы хотя бы разобраться в том, что делают другие.

Война Маска и Альтмана добралась до Cursor — купленный SpaceX сервис лишится моделей OpenAI

OpenAI намерена прекратить предоставлять свои ИИ-модели сервису Cursor после его перехода под контроль SpaceX Илона Маска (Elon Musk). Компания предложила отключить доступ 12 ноября, хотя руководство Cursor пока пытается договориться с OpenAI. Решение стало очередным эпизодом многолетнего противостояния Маска и главы OpenAI Сэма Альтмана (Sam Altman).

 Источник изображения: Cursor

Источник изображения: Cursor

В июне SpaceX заключила соглашение о покупке разработчика Cursor — стартапа Anysphere — за $60 млрд, а в начале августа сделка была завершена. Именно смена владельца дала OpenAI юридическую возможность прекратить сотрудничество: индивидуальный контракт с Cursor предусматривает ограниченный период, в течение которого OpenAI может расторгнуть соглашение после смены контроля над компанией. Разработчик ChatGPT решил воспользоваться этим правом, установив максимально позднюю предусмотренную контрактом дату отключения — 12 ноября.

«Мы приняли это решение, потому что не можем быть уверены, что SpaceX будет использовать наши технологии в соответствии с нашими условиями предоставления услуг, исходя из нашего опыта нарушения договоров компаниями Илона Маска», — говорится в заявлении OpenAI.

При этом сама Cursor, сотрудничавшая с OpenAI почти четыре года, в нарушении условий соглашения не обвиняется. OpenAI ссылается на предыдущий опыт взаимодействия с другими компаниями Маска. По её утверждению, X, бывшая Twitter, после перехода под контроль предпринимателя нарушила условия заключённого с OpenAI контракта. Кроме того, компания заявляет, что ранее в этом году Маск под присягой признал нарушение условий использования технологий OpenAI компанией xAI, которая теперь также входит в SpaceX.

OpenAI также указывает на растущие риски, связанные с возможностями новых ИИ-моделей. Существующий доступ Cursor будет сохраняться до предполагаемого расторжения договора, однако будущие модели OpenAI, включая готовящуюся Astra, сервис уже не получит.

Основатель Cursor Майкл Труэлл (Michael Truell), ныне занимающий руководящую должность в SpaceX, сообщил, что стороны продолжают переговоры. «Cursor был одним из первых клиентов OpenAI, мы тесно сотрудничали с их командой на протяжении многих лет и полагались на их платформу как на нейтральную инфраструктуру для нашего бизнеса», — написал Труэлл в X.

После покупки Anysphere отношения Cursor со SpaceX стали значительно теснее. SpaceX предоставляет компании вычислительные мощности для разработки и обучения ИИ, а Cursor, в свою очередь, участвует в совершенствовании существующих моделей SpaceX, включая Grok, и потенциальной разработке новых. Таким образом, OpenAI фактически оказалась поставщиком технологий для сервиса, новый владелец которого одновременно развивает конкурирующую ИИ-платформу.

Конфликт Маска и Альтмана продолжается уже несколько лет и ранее дошёл до суда. Маск обвинял OpenAI и её руководство в предательстве первоначальной некоммерческой миссии компании и требовал около $150 млрд. OpenAI, в свою очередь, утверждала, что сам Маск ранее пытался получить контроль над компанией. Федеральное жюри присяжных в этом году вынесло решение против Маска, заключив, что тот слишком поздно обратился с иском.

Сам Маск на решение OpenAI отреагировал словами «Мне всё равно», одновременно назвав Альтмана и президента OpenAI Грега Брокмана (Greg Brockman) людьми, которым нельзя доверять.

Впрочем, без мощных сторонних ИИ-моделей Cursor не останется. Через несколько часов после заявления OpenAI конкурирующая Anthropic сообщила, что увеличит объём вычислительных ресурсов, выделяемых для работы моделей Claude в Cursor. При этом сама Anthropic продолжает сотрудничество со SpaceX.

До AGI осталось 20 % — OpenAI обещает получить сильный ИИ уже до конца года

OpenAI рассчитывает создать внутреннюю систему сильного искусственного интеллекта (AGI) уже до конца текущего года, заявил гендиректор компании Сэм Альтман (Sam Altman). Ранее ИИ-лаборатория отказывалась называть точные сроки этого события.

 Источник изображения: Brecht Corbeel / unsplash.com

Источник изображения: Brecht Corbeel / unsplash.com

Компания «ещё не совсем» вышла на уровень AGI, но внутренняя версия модели будет отвечать этому критерию к концу года, заявил в интервью гендиректор OpenAI. Старший научный сотрудник Марк Чэнь (Mark Chen) уточнил, что компания преодолела 80 % пути к этой отметке, а президент компании Грег Брокман (Greg Brockman) предположил, что этот отрезок времени может рассматриваться как момент появления AGI. Уверенности в своих силах компании придала модель нового поколения Astra, разработанная как система автоматизированного помощника в исследованиях. Она берет идею эксперимента, пишет код в кодовой базе OpenAI, запускает эксперимент и сообщает о результатах без вмешательства человека. Она может обрабатывать научные статьи и выполнять задачи, которые у человека экспертного уровня заняли бы около недели.

Astra выступает «первой моделью, которая действительно изобретает новые вещи значимым образом», и она «очень похожа на AGI», заявил Сэм Альтман клиентам в ходе закрытого показа. Система поддерживает функцию постоянных агентов — цифровых работников, которые могут выполнять задачи в течение длительного периода времени без постоянного участия человека. Если ИИ-модели смогут проводить исследования в автономном режиме, то сумеют ускорить и разработку более мощного ИИ, создавая рекурсивный цикл самосовершенствования. Некоторые исследователи утверждают, что исследования в области автономного ИИ ещё далеки от реализации; другие указывают, что первые признаки этого процесса уже появляются.

После инцидента с выходом ИИ-агентов OpenAI из-под контроля и взломом платформы Hugging Face Сэм Альтман призвал начать сдерживать темп разработки ИИ, несмотря на то, что компания продвинулась вперёд по нескольким направлениям.


window-new
Soft
Hard
Тренды 🔥
Разработчики боевика Warhammer Survivors в духе Vampire Survivors подтвердили цену и дату выхода игры — новый трейлер и демоверсия в Steam 12 мин.
Nvidia выпустила драйвер с поддержкой Call of Duty: Modern Warfare 4, Star Wars: Galactic Racer и новых игровых оптимизаций 43 мин.
Google обвинили в том, что она годами обдирала 20 млн британцев завышенными комиссиями в «Play Маркете» 2 ч.
За месяц с запуска цифрового рубля россияне открыли 220 000 кошельков — почти вчетверо больше ожиданий 2 ч.
Невиновность ничего не доказывает: новый геймплейный трейлер Warhammer 40,000: Dark Heresy показал, как ведёт следствие Инквизиция 2 ч.
Российский симулятор киберфермы Silicone Heart получил демоверсию и дату выхода в Steam 2 ч.
Данные пошли по кругу: ChatGPT стал одной из главных целей ботов для сбора данных 3 ч.
Маск по заветам Трампа пообещал переименовать SpaceXAI в SpaceXSI 4 ч.
Schneider Electric выложит $22,6 млрд за американского разработчика промышленного ПО PTC 4 ч.
Вышло лекарство от подвисаний в играх из-за компиляции шейдеров — открытая утилита SCSKiller 4 ч.
Bull удвоила мощности по производству суперкомпьютерных стоек во Франции 53 мин.
Последняя часть 8500-тонного пазла: термоядерный реактор ITER получил девятый сектор плазменной камеры 56 мин.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 2 ч.
РТК-ЦОД создал Центр сертификации доверенной ИТ-инфраструктуры 2 ч.
ИИ разогнал строительство дата-центров в США — расходы взлетели на 73 % до рекордных $85 млрд в год 2 ч.
Google, Meta и Microsoft поддержали обязательство по полной оплате расходов на энергетическую инфраструктуру для ЦОД 2 ч.
Глава Anthropic в прошлом году получил $18 млн — почти 26 раз больше, чем Альтман 3 ч.
Garmin представила Enduro 4 — смарт-часы за $900 с солнечной зарядкой и 90-дневной автономностью 3 ч.
Если бы не дефицит компонентов, ЦОД строились бы вдвое быстрее, считает Nokia 4 ч.
Создатель IceCube получил Нобелевскую премию по физике за открытие космических нейтрино 5 ч.