Сегодня 18 февраля 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Hardware

В Google создали конституцию для роботов, которая сделает их безопаснее для людей

Группа, занимающаяся робототехникой в подразделении DeepMind компании Google представила три новых продукта, которые помогут роботам быстрее принимать решения, а также действовать эффективнее и безопаснее, выполняя задачи в окружении людей.

 Источник изображения: deepmind.google

Источник изображения: deepmind.google

Система сбора данных AutoRT работает на основе визуальной языковой модели (VLM) и большой языковой модели (LLM) — они помогают роботам оценивать окружающую среду, адаптироваться к незнакомой обстановке и принимать решение о выполнении поставленных задач. VLM применяется для анализа окружающей среды и распознавания объектов в пределах видимости; а LLM отвечает за творческое выполнение задач. Важнейшим нововведением AutoRT стало появление в блоке LLM «Конституции роботов» — направленных на безопасность команд, предписывающих машине избегать выбора задач, в которых участвуют люди, животные, острые предметы и даже электроприборы. В целях дополнительной безопасности роботы программируются на остановку, когда усилие на суставах превышает определённый порог; а в их конструкции теперь есть дополнительный физический выключатель, которым человек может воспользоваться в экстренном случае.

За последние семь месяцев Google развернула в четырёх своих офисных зданиях 53 робота с системой AutoRT и провела более 77 тыс. испытаний. Некоторые из машин управлялись удалённо операторами, другие же выполняли задачи автономно либо на основе заданного алгоритма, либо с использованием ИИ-модели Robotic Transformer (RT-2). Пока все эти роботы выглядят предельно просто: это конечности-манипуляторы на подвижной базе и камеры для оценки обстановки.

Вторым нововведением стала система SARA-RT (Self-Adaptive Robust Attention for Robotics Transformers), направленная на оптимизацию работы модели RT-2. Исследователи установили, что при удвоении входящих данных, например, повышении разрешения на камерах, потребность робота в вычислительных ресурсах возрастает вчетверо. Эту проблему удалось решить за счёт нового метода тонкой настройки ИИ, получившего название up-training — этот метод обращает квадратичный рост потребности в вычислительных ресурсах почти в линейный. За этот счёт модель работает быстрее, сохраняя прежнее качество.

Наконец, инженеры Google DeepMind разработали ИИ-модель RT-Trajectory, которая упрощает обучение роботов выполнению конкретных задач. Поставив задачу, оператор сам демонстрирует образец её выполнения; RT-Trajectory анализирует заданную человеком траекторию движения и адаптирует её к действиям робота.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Bethesda наконец починила The Elder Scrolls V: Skyrim на Nintendo Switch 2 — легендарная RPG получила поддержку 60 кадров/с и не только 16 мин.
Perplexity первой встроила рекламу в ИИ, но теперь отказалась от неё из-за угрозы доверию пользователей 36 мин.
Microsoft показала, чего ждать от следующих обновлений Windows 11 — улучшение панели задач, новые настройки и эмодзи 39 мин.
Google сделает ссылки в ИИ-поиске заметнее на фоне жалоб издателей 2 ч.
AWS внедрила вложенную виртуализацию для инстансов EC2 2 ч.
Перевод на русский, приручение животных и многое другое: ролевая песочница Hytale в духе Minecraft получила крупное обновление 2 ч.
После скандального взлома обновления Notepad++ защитили по схеме «двойной блокировки» 3 ч.
Психологический хоррор-шутер Total Chaos от создателя Turbo Overkill скоро станет ещё сложнее и страшнее — дата выхода «Новой игры +» 3 ч.
«Немного ошеломлены»: кошачий роглайк Mewgenics от автора The Binding of Isaac и Super Meat Boy за неделю достиг миллиона проданных копий 4 ч.
Google рассказала, как сделает работу всех смартфонов более плавной в Android 17 5 ч.
Бум ИИ разогнал станкостроителей: прибыль поставщиков чипового оборудования растёт восьмой квартал подряд 29 мин.
Технология древних на новых лад: учёные научились записывать 2 Тбайт данных на лист керамики формата A4 2 ч.
Adani вложит $100 млрд в создание 5 ГВт «зелёных» ИИ ЦОД в Индии 2 ч.
США бросили миллиарды на редкоземельную независимость от Китая — это может затянуться на десятилетие 2 ч.
Эхо несостоявшейся сделки на $40 млрд: Nvidia продала последние акции Arm 3 ч.
Meta развернёт ИИ-инфраструктуру на «миллионах GPU-ускорителей NVIDIA Blackwell и Rubin», а также Arm-чипах Grace 4 ч.
От распознавания кошек к задачам Эрдёша: ИИ всё активнее штурмует высшую математику 5 ч.
SpaceX вошла в секретный конкурс Пентагона по созданию ИИ для голосового управления роями дронов 6 ч.
Apple готовит «умный» домофон с Face ID — он будет впускать в дом по лицу 8 ч.
Meta закупит миллионы ИИ-чипов у Nvidia, включая центральные Arm-процессоры Grace и Vera 9 ч.