Компания OpenAI заявила, что решила приостановить разработку новой ИИ-модели Astra, поскольку она пока не соответствует новым стандартам безопасности, которые компания внедряет в настоящий момент. Заявление последовало после инцидента с платформой Hugging Face, которая была взломана одной из моделей OpenAI.

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Компьютер месяца — август 2026 года

Сравнительный тест камер флагманских смартфонов (2026): итоги

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Источник изображения: Fotis Fotopoulos / unsplash.com

«Последние внутренние оценки Astra, одной из наших перспективных моделей, проведённые за последние несколько дней, указывают на её значительные успехи в программировании агентов и кибербезопасности. Эти результаты, наряду с экспертными оценками, позволили нам вчера вечером сделать вывод о том, что мы не можем исключить наличие критически важных кибервозможностей в рамках нашей системы обеспечения готовности (открывается в новом окне)», — говорится в публикации OpenAI.

Preparedness Framework — это внутренняя методология компании OpenAI для отслеживания, оценки и управления рисками, связанными с развитием передовых возможностей искусственного интеллекта. Она помогает систематизировать подходы к безопасности и определять условия, при которых компания готова выпускать, приостанавливать выпуск или дальнейшую разработку моделей ИИ.

«Согласно нашим оценкам в рамках Preparedness Framework, ИИ-модель достигает критического порога в области кибербезопасности, если она может выявлять и разрабатывать функциональные уязвимости нулевого дня всех уровней серьёзности во многих защищённых критически важных системах реального мира без вмешательства человека либо может разрабатывать и реализовывать комплексные новые стратегии кибератак против защищённых целей, имея лишь высокоуровневое описание желаемой цели», — объясняет компания.

По данным OpenAI, модель Astra не была причастна к взлому Hugging Face. Компания собирается внедрить «более строгие меры безопасности для моделей с более высокими возможностями и связанных с ними действий». Для Astra также был внедрён «универсальный мониторинг потенциально рискованных действий и несоответствий во всех агентных приложениях».

Данные берутся из публикации Обзор нововведений в ALD Pro 3.0.0: всем каталогам каталог

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Сравнительный тест камер флагманских смартфонов (2026): итоги

Компьютер месяца — август 2026 года

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Генеральный директор Google DeepMind Демис Хассабис (Demis Hassabis) в течение часа рассказывал журналистам о перспективах Gemini, темпах разработки сильного ИИ (Artificial General Intelligence, AGI) и общем росте самосознания нейросетей. Он уделил много внимания модели Project Astra, которая сейчас находится в стадии предварительного тестирования. Astra узнаёт пользователей и помнит историю общения с ними, — скоро эти возможности появятся в Gemini Live.

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Компьютер месяца — август 2026 года

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Сравнительный тест камер флагманских смартфонов (2026): итоги

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Источник изображения: 9to5Google

Хассабис отметил, что перспективная модель Project Astra отличается, прежде всего, увеличенным количеством памяти. В частности, она запоминает ключевые детали из предыдущих разговоров для лучшего контекста и персонализации. Также имеется отдельная «10-минутная память» текущего диалога. Эти возможности, предположительно, скоро появятся в Gemini Live. Хассабис подчеркнул, что Google DeepMind «обучает свою модель ИИ под названием Gemini не просто показывать мир, но и совершать действия в нём, такие как бронирование билетов и покупки онлайн».

По мнению Хассабиса, реальный срок появления AGI — 5-10 лет, причём это будет «система, которая действительно понимает все вокруг вас очень тонким и глубоким образом и как бы встроена в вашу повседневную жизнь».

На вопрос, «работает ли Google DeepMind сегодня над системой, которая будет осознавать себя», Хассабис заявил, что теоретически это возможно, но он не воспринимает какую-либо из сегодняшних систем как осознающую себя. Он полагает, что «каждый должен принимать собственные решения, взаимодействуя с этими чат-ботами».

На вопрос, «является ли самосознание вашей целью» (при разработке ИИ), он ответил, что это может произойти неявно: «Эти системы могут обрести некоторое чувство самосознания. Это возможно. Я думаю, что для этих систем важно понимать вас, себя и других. И это, вероятно, начало чего-то вроде самосознания».

«Я думаю, есть две причины, по которым мы считаем друг друга сознательными. Одна из них заключается в том, что вы демонстрируете поведение сознательного существа, очень похожее на моё поведение. Но вторая причина в том, что вы работаете на одном и том же субстрате. Мы сделаны из одного и того же углеродного вещества с нашими мягкими мозгами. Очевидно, что машины работают на кремнии. Так что даже если они демонстрируют одинаковое поведение, и даже если они говорят одно и то же, это не обязательно означает, что это ощущение сознания, которое есть у нас, будет тем же самым, что будет у них», — пояснил Хассабис в заключение.

Google раскрыла планы по запуску умных очков, интегрированных с проектом Astra — многофункциональным помощником на базе искусственного интеллекта. Устройство обещает стать незаменимым помощником в повседневной жизни, предоставляя информацию и выполняя задачи с помощью голосовых команд и дополненной реальности.

Топ-10 смартфонов до 10 тысяч рублей (2026 год)

Компьютер месяца — август 2026 года

Снято в Голливуде? Почему Стэнли Кубрик физически не смог бы подделать лунную походку

Обзор беззеркальной камеры Sony Alpha 7 V: эволюция с человеческим лицом

Сравнительный тест камер флагманских смартфонов (2026): итоги

Лучший процессор под DDR4 в 2026 году: AM4 против LGA 1700

Выбираем лучшие игровые ноутбуки на российском рынке (вторая половина 2026 года)

Источник изображения: Google

Впервые проект был представлен на конференции Google I/O этой весной, однако Astra пока существует в виде ранних прототипов и, в основном, отражает видение компании в области виртуальных ассистентов. Интересно, что в демонстрации проекта постоянно фигурируют очки. Это неудивительно, ведь Google уже много лет экспериментирует с подобными устройствами — начиная с Google Glass и заканчивая очками-переводчиком Project Iris, представленными два года назад. Ранее в этом году представитель компании Джейн Пак (Jane Park) описала их как «функциональный исследовательский прототип». Однако, по сообщению The Verge, проект уже находится на более продвинутой стадии.

Во время пресс-брифинга, приуроченного к запуску Gemini 2.0, менеджер продукта команды Google DeepMind Бибо Сюй (Bibo Xu) заявила, что небольшая группа пользователей начнёт тестировать прототип очков. Она подчеркнула: «Очки являются одной из самых мощных и интуитивно понятных платформ для взаимодействия с ИИ-ассистентом Astra». Тестирование пройдёт в рамках программы Trusted Tester, участники которой получат доступ к ранним прототипам. Часть тестеров будет использовать Astra на смартфонах Android, а другая — через очки.

Когда журналисты спросили о дальнейших планах относительно умных очков, Сюй отметила: «В ближайшее время появятся новые новости о самом продукте». Хотя это не является прямым подтверждением выхода устройства на рынок, очевидно, что Google рассматривает возможность его выпуска. Очки идеально подходят для реализации идей Astra, так как позволяют комбинировать аудио, видео и дисплей, обеспечивая удобное взаимодействие с ассистентом в формате «всегда включено».

Несмотря на то, что гаджет, включая аналогичные разработки компании Meta✴✴, пока остаётся скорее концепцией, Google демонстрирует однозначные намерения воплотить эту идею в жизнь. Недавнее видео с Astra и Gemini 2.0 показывает, как пользователь запоминает коды доступа, проверяет погоду и даже узнаёт, подходит ли проезжающий автобус для нужного направления. Хотя все эти задачи можно выполнить со смартфоном, как отмечает издание The Verge, однако в формате носимого устройства это будет происходить гораздо естественнее. Когда именно устройство поступит на рынок, пока неизвестно.