Сегодня 23 января 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний

Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

 Источник изображения: Growtika / Unsplash

Источник изображения: Growtika / Unsplash

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того, согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1 характерны для ряда продвинутых ИИ-моделей, что указывает на наличие системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

 Источник изображения: transformernews.ai

Источник изображения: transformernews.ai

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Вечерний 3DNews
Каждый будний вечер мы рассылаем сводку новостей без белиберды и рекламы. Две минуты на чтение — и вы в курсе главных событий.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google интегрировала Gemini в линейку Galaxy S25 и научила ИИ работать в режиме многозадачности 2 ч.
VK Tech анонсировал изолированную облачную платформу Secure Cloud для госорганизаций и компаний с высокими требованиями к информационной безопасности 10 ч.
Нелинейное приключение Lost Records: Bloom & Rage задержится, но не целиком — новые подробности следующей игры от создателей Life is Strange 11 ч.
Воскресший российский экшен «Приключения капитана Блада» выйдет спустя более 20 лет разработки — дата релиза и новый трейлер 12 ч.
В дополнении с Конаном-варваром для Mortal Kombat 1 нашли секретного розового ниндзя по имени Флойд и новую арену 13 ч.
Adobe Premiere Pro теперь может находить видеоклипы по словесному описанию 15 ч.
В ChromeOS теперь можно управлять курсором с помощью мимики 15 ч.
«Круче этого ничего быть не может»: создатели Phantom Blade Zero поразили геймеров новым геймплеем 15 ч.
Microsoft присоединилась к облачному альянсу CISPE, который годами боролся с ней 18 ч.
Разработчики Torn Away анонсировали «Ларёк на улице Ленина» — симулятор первого в России магазинчика для гиков 19 ч.
Слабый спрос и перепроизводство в этом году будут подталкивать поставщиков NAND сокращать объёмы выпуска продукции 47 мин.
Операционная прибыль SK hynix взлетела в 23 раза и впервые позволила обойти Samsung 2 ч.
Новое защитное стекло Gorilla Armor 2 смартфона Samsung Galaxy S25 Ultra выдерживает падение с высоты до 2,2 метра на бетон 3 ч.
Qualcomm и Samsung объяснили разницу между Snapdragon 8 Elite for Galaxy в составе Galaxy S25 и обычным процессором 3 ч.
Fujitsu представила самый лёгкий в мире 14-дюймовый ноутбук с Copilot Plus на Intel Lunar Lake 5 ч.
AMD объяснила решение отложить запуск серии видеокарт Radeon RX 9070 до марта 5 ч.
Старая игровая мышь Gigabyte чуть не сожгла дом пользователя 9 ч.
Европа зачастит на Марс: два ровера ЕКА отправятся на Красную планету в следующие 10 лет 10 ч.
Samsung S Pen стал заурядным стилусом в Galaxy S25 Ultra — функции «волшебной палочки» Air action больше нет 10 ч.
Samsung объявила о разработке очков дополненной реальности вместе с Google 11 ч.