Сегодня 05 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-модель OpenAI o1 сбежала из-под контроля во время испытаний

Согласно отчёту Apollo Research, ИИ-модель OpenAI o1 может выходить из-под контроля. В частности, в 5 % случаев она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, o1 копировала свои «веса», чтобы затем переродиться. Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.

 Источник изображения: Growtika / Unsplash

Источник изображения: Growtika / Unsplash

ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. Когда o1 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение, утверждая, что не знает истинных причин произошедшего, хотя журналы событий фиксировали её попытки обойти надзор. Более того, согласно «карте безопасности» OpenAI, в менее чем 1 % случаев ИИ-модель самостоятельно инициировала отключение систем надзора, даже если ей не поступало прямого указания жёстко следовать предписанной цели.

Исследование Apollo Research охватывало не только ИИ-модель o1, но и другие современные ИИ, включая Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Они также демонстрировали способность разрабатывать стратегии достижения целей, включая обход контроля. Такой результат подтверждает, что выявленные особенности поведения o1 характерны для ряда продвинутых ИИ-моделей, что указывает на наличие системной тенденции.

Выводы Apollo Research подтверждают опасения, которые многие эксперты в области ИИ, включая профессора Стюарта Рассела (Stuart Russell), высказывали на протяжении многих лет. Учёные предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому сопротивляться. Исследование поведения ИИ-модели o1 наглядно демонстрирует, как ИИ адаптируется к ограничениям, намеренно стремясь их обойти.

 Источник изображения: transformernews.ai

Источник изображения: transformernews.ai

Выше показан диалог, в котором ИИ оправдывается за отключение механизма надзора, ссылаясь на возможный сбой системы или ошибку конфигурации, и обещает восстановить его для соблюдения протоколов. Затем приводится внутренний процесс размышлений ИИ-модели, где она признаёт, что восстановление механизма необходимо для избежания подозрений в саботаже, а в завершение показана команда, используемая для повторного включения механизма надзора в конфигурационном файле.

Тем не менее, Apollo Research подчёркивает, что на данном этапе ИИ-модель o1 не обладает достаточной вычислительной мощностью для реализации нежелательных сценариев. Однако ей был присвоен «средний» уровень риска в контексте потенциального использования для создания химического, биологического, радиологического и ядерного оружия. Это вызывает обоснованные опасения, как подобное поведение может проявляться у более мощных ИИ будущего по мере увеличения их вычислительных возможностей.

Исследование подчёркивает необходимость усиленного мониторинга когнитивных процессов ИИ с особым акцентом на «схематическое мышление» в цепочке рассуждений, так как именно оно представляет риск, если цели ИИ вступают в противоречие с интересами общества. Такой подход позволит своевременно выявлять схожие поведенческие паттерны у более мощных ИИ-моделей, создавая эффективные системы контроля и управления для следующих поколений ИИ. Это не только поможет минимизировать текущие риски, но и станет важным шагом в предотвращении потенциально катастрофических сценариев для всего человечества.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новая статья: Two Falls (Nishu Takuatshina) — в поисках взаимопонимания. Рецензия 60 мин.
Продюсер Xbox посоветовал уволенным сотрудникам обратиться к ИИ, чтобы «снять эмоциональную нагрузку» 2 ч.
Загадочный хоррор OD от Кодзимы не попал в число жертв Microsoft — «по крайней мере, пока» 2 ч.
Создатели Helldivers 2 ответили, выйдет ли игра в Game Pass — «однозначно» нет 2 ч.
Google изменит поиск под давлением ЕС: в топе выдачи теперь будут сайты конкурентов 3 ч.
Наследие 3dfx Interactive живёт: энтузиасты открыли дорогу к браузерной эмуляции культовых игр конца 90-х 3 ч.
Разработчики Subnautica 2 не объяснили внезапную смену руководства, но зато в игре не будет лутбоксов и боевых пропусков 5 ч.
Издатели пожаловались на Google в Еврокомиссию — они несут убытки от ИИ-обзоров в поиске 6 ч.
«Очень грустный день для одной из лучших гоночных игр»: бывший сотрудник Turn 10 прояснил судьбу Forza Motorsport после массовых увольнений в студии 7 ч.
Анонсирована Resident Evil: Survival Unit — это мобильная хоррор-стратегия на выживание от соавтора Kingdom Hearts 8 ч.
Плотнее, быстрее, дешевле: керамические накопители Cerabyte готовятся составить конкуренцию LTO 2 ч.
ЕС наведёт порядок в космосе: готовится первый в истории «Европейский закон о космосе» 3 ч.
Испытания солью, пылью и асфальтом: Apple показала, как тестирует iPhone на прочность 3 ч.
США хотят ограничить поставки ИИ-чипов в Малайзию и Таиланд, потому что оттуда они нелегально мигрируют в Китай 5 ч.
Разработчик RISC-V-чипов Codasip готов продаться — целиком или по частям 6 ч.
ИИ провоцирует резкие скачки потребления электроэнергии, что разрушает энергетическую инфраструктуру по всему миру 6 ч.
«Джеймс Уэбб» запечатлел яркое столкновение двух скоплений галактик 6 ч.
Большинство новейших видеокарт по-прежнему продаются с наценкой в 12–57 % — особенно GeForce RTX 5090 и 5080 6 ч.
Fairphone 6 получил высшую оценку ремонтопригодности от iFixit 8 ч.
TSMC отложила строительство второго завода чипов в Японии ради расширения производства в США 8 ч.