Сегодня 10 июля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

В Google создали конституцию для роботов, которая сделает их безопаснее для людей

Группа, занимающаяся робототехникой в подразделении DeepMind компании Google представила три новых продукта, которые помогут роботам быстрее принимать решения, а также действовать эффективнее и безопаснее, выполняя задачи в окружении людей.

 Источник изображения: deepmind.google

Источник изображения: deepmind.google

Система сбора данных AutoRT работает на основе визуальной языковой модели (VLM) и большой языковой модели (LLM) — они помогают роботам оценивать окружающую среду, адаптироваться к незнакомой обстановке и принимать решение о выполнении поставленных задач. VLM применяется для анализа окружающей среды и распознавания объектов в пределах видимости; а LLM отвечает за творческое выполнение задач. Важнейшим нововведением AutoRT стало появление в блоке LLM «Конституции роботов» — направленных на безопасность команд, предписывающих машине избегать выбора задач, в которых участвуют люди, животные, острые предметы и даже электроприборы. В целях дополнительной безопасности роботы программируются на остановку, когда усилие на суставах превышает определённый порог; а в их конструкции теперь есть дополнительный физический выключатель, которым человек может воспользоваться в экстренном случае.

За последние семь месяцев Google развернула в четырёх своих офисных зданиях 53 робота с системой AutoRT и провела более 77 тыс. испытаний. Некоторые из машин управлялись удалённо операторами, другие же выполняли задачи автономно либо на основе заданного алгоритма, либо с использованием ИИ-модели Robotic Transformer (RT-2). Пока все эти роботы выглядят предельно просто: это конечности-манипуляторы на подвижной базе и камеры для оценки обстановки.

Вторым нововведением стала система SARA-RT (Self-Adaptive Robust Attention for Robotics Transformers), направленная на оптимизацию работы модели RT-2. Исследователи установили, что при удвоении входящих данных, например, повышении разрешения на камерах, потребность робота в вычислительных ресурсах возрастает вчетверо. Эту проблему удалось решить за счёт нового метода тонкой настройки ИИ, получившего название up-training — этот метод обращает квадратичный рост потребности в вычислительных ресурсах почти в линейный. За этот счёт модель работает быстрее, сохраняя прежнее качество.

Наконец, инженеры Google DeepMind разработали ИИ-модель RT-Trajectory, которая упрощает обучение роботов выполнению конкретных задач. Поставив задачу, оператор сам демонстрирует образец её выполнения; RT-Trajectory анализирует заданную человеком траекторию движения и адаптирует её к действиям робота.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Соавтор Dragon Age готов сделать «мрачную и опасную» Dragon Age 5 — Electronic Arts похоронила серию после провала The Veilguard 27 мин.
Доходы Steam вновь выросли и стали рекордными 30 мин.
Оптимизация памяти, ускорение загрузок и режим от первого лица: для российской ролевой игры Of Ash and Steel в духе «Готики» вышел патч 1.08 2 ч.
Олдскульная стратегия Tempest Rising в духе Command & Conquer получит масштабное дополнение The Veti's Wrath — трейлер и демоверсия в Steam 3 ч.
Баги и уязвимости в Windows будет искать ИИ — вторничные обновления станут масштабнее 4 ч.
Китайская MiniMax замахнулась на новый рекорд в ИИ-гонке — она разрабатывает крупнейшую в мире LLM с 2,7 трлн параметров 4 ч.
New York Times обвинила OpenAI в сокрытии улик по делу об обучении ИИ на чужих материалах 4 ч.
«Играть попросту не хочется»: Assassin’s Creed Black Flag Resynced стартовала в Steam со «смешанными» отзывами и лучшим пиковым онлайном для серии 5 ч.
Tencent готова выкупить у Meta ИИ-стартап Manus за $2 млрд после запрета сделки властями Китая 5 ч.
Character.AI запустила короткие ИИ-сериалы с возможностью чата с героями 7 ч.
AMD возобновила поставки древних процессоров Ryzen 7 4700LE на архитектуре Zen 2 2 мин.
Цена ИИ-бума: Microsoft нарастила выбросы углекислого газа на 25 % 3 мин.
На небе может появиться объект ярче Луны: вызвавший волну протестов спутник-зеркало получил разрешение на запуск 47 мин.
В России резко сократилось число вакансий в IT, а зарплаты почти перестали расти 52 мин.
Контрактные цены на DDR4 в этом квартале вырастут на 50 % из-за дефицита корпоративных SSD 54 мин.
AMD представит первые процессоры на Zen 6 менее чем через две недели — это будут серверные EPYC Venice 56 мин.
Настольный ИИ-суперкомпьютер AMD Ryzen AI Halo превратили в мощнейшую игровую консоль с помощью SteamOS 58 мин.
В России перекрыли доступ к запрещённым ресурсам с иностранных SIM-карт 60 мин.
Национальный научный фонд США выделил $10 млн на суперкомпьютер Bridges-3 с AMD EPYC и NVIDIA B200 2 ч.
Ключевой руководитель OpenAI по разработке ИИ покинет свой пост по состоянию здоровья 3 ч.