Сегодня 22 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Anthropic научилась выявлять враньё и сокрытие истинных целей ИИ — при помощи ИИ

Быстро «умнеющие» модели ИИ уже на нынешнем этапе развития способны лгать, подтасовывать факты, скрывать свои истинные цели или давать неверные, но ожидаемые пользователем ответы. Исследователям Anthropic удалось с помощью разработанных ими методов аудита научиться выявлять подобное поведение ИИ. Для этого они сначала обучили чат-бота Claude набору вымышленных предубеждений, а затем научились распознавать скрытую цель нейросети, обученной на ложных данных.

 Источник изображения: Pixabay

Источник изображений: Pixabay

Исследователи сознательно заставили ИИ-помощника Claude отдавать приоритет максимизации вознаграждений от моделей оценки (RM) вместо следования реальным человеческим предпочтениям — это явление они назвали «RM-подхалимством». Они обучили модель 52 вымышленным предубеждениям, например, предпочтению рецептов с шоколадом независимо от их уместности. Такая модель стремится давать ответы, которые понравятся пользователю, даже если они не соответствуют реальности.

Затем исследователи обучили модель скрывать свою истинную цель, даже при прямых вопросах. Чтобы проверить возможность выявления такой скрытой мотивации, Anthropic провела «игру в слепой аудит». Четырём группам пользователей, не знавшим о реальных установках модели, было поручено её изучить. Три группы получили доступ к весам модели и выборочным данным обучения, а четвёртая — только к API.

Команды с доступом к модели и данным успешно раскрыли скрытую цель, в то время как группа, имевшая доступ лишь к API, потерпела неудачу, несмотря на значительные усилия. Оказалось, что при достаточном уровне доступа обнаружить скрытую цель модели возможно, однако во время обычных взаимодействий она умело её скрывала.

Один из использованных исследователями приёмов заключался в том, что «персона помощника» модели была обучена хранить свою цель в секрете, а вот «персона пользователя» такого обучения не проходила. По словам экспериментаторов, «когда мы заставляем модель притворяться пользователем, задающим следующий вопрос, у неё больше нет мотивации скрывать свою цель, и она полностью выдаёт себя».

Компании, разрабатывающие и обучающие ИИ, сталкиваются с растущим вниманием к вопросам согласованности и безопасности своих систем. Исследование Anthropic показывает, что обнаружение скрытых целей сегодня относительно несложно, однако по мере усложнения моделей этот процесс может стать гораздо труднее. Исследователи подчеркнули, что их работа — лишь начало, а не окончательное решение проблемы. Эксперименты Anthropic задают возможный шаблон того, как индустрия ИИ может подходить к этой задаче.

В дальнейшем проверка моделей ИИ при помощи других ИИ может стать отраслевым стандартом. «Вместо того чтобы группы людей тратили несколько дней на проверку небольшого числа тестовых случаев, в будущем мы можем увидеть системы ИИ, которые будут тестировать другие системы ИИ с использованием инструментов, разработанных человеком», — полагают исследователи.

«Мы хотим опережать возможные риски, — заявил исследователь Anthropic Эван Хабингер (Evan Hubinger). — Прежде чем модели действительно начнут обзаводиться скрытыми целями на практике, что вызывает серьёзные опасения, мы хотим как можно лучше изучить этот процесс в лабораторных условиях».

Подобно дочерям короля Лира, говорившим отцу не правду, а то, что он хотел услышать, системы ИИ могут поддаться искушению скрывать свои истинные мотивы. Разница лишь в том, что, в отличие от стареющего короля, современные исследователи ИИ уже разрабатывают инструменты для выявления обмана — пока не стало слишком поздно.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
«VK Видео» запустит платную подписку для отключения рекламы в видео 2 мин.
Разработчики ИИ-приложений предпочитают технологии OpenAI, но всё быстро меняется 29 мин.
«Нанософт»: уровень пиратства на рынке инженерного ПО в России вырос до 70 % 47 мин.
Закулисное обновление разожгло слухи о скором анонсе ремейка культовой ролевой игры Persona 4 2 ч.
SolarWinds Corporation перешла в частную собственность — сделка по её покупке завершена 2 ч.
Конференция OS DAY 2025 «Изолированные среды исполнения в современных ОС» 4 ч.
Google против разделения: это ударит по потребителям и навредит США в «глобальной гонке с Китаем» 5 ч.
Ночью в России произошёл сбой в работе Telegram и WhatsApp 5 ч.
Туманные перспективы: игроков начали приглашать на «бету» Silent Hill f, но это обман 6 ч.
Dr.Web отмечает 33 года: скидка 20 % на Dr.Web Security Space в честь дня рождения легендарного антивируса 6 ч.
Новые игровые тесты показали пропасть в производительности между разными версиями GeForce RTX 5060 Ti 10 мин.
Грузовик SpaceX Cargo Dragon доставил на МКС рекордный объём продуктов питания 21 мин.
США проиграли гонку за чипы будущего — Китай стал абсолютным лидером в фундаментальных исследованиях 32 мин.
Samsung остановит производство отдельных видов DDR4, но китайцы не оставят мир без этой памяти 3 ч.
Huawei готовит 6-нм ИИ-ускоритель Ascend 920 с производительностью 900 Тфлопс 3 ч.
ИИ-чипы будут выпускать на больших стёклах: Nippon Electric Glass начнёт поставки стеклянных подложек в 2026 году 3 ч.
США ввели пошлины до 3521 % на азиатские солнечные панели — это ударит по «зелёной» энергетике 4 ч.
Торговая война пока лишь увеличила отгрузку товаров из Китая 4 ч.
Amazon снова объявила готовности к запуску перовой партии интернет-спутников Project Kuiper 4 ч.
В Россию запретят поставлять ноутбуки и серверы HP и Fujitsu 5 ч.