Сегодня 18 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI раскрыла истинную причину подхалимского поведения ChatGPT

После отката последнего обновления GPT-4o из-за чрезмерного угодничества модели, OpenAI стала выяснять причину такого необычного и отталкивающего поведения ИИ. Разработчики выяснили, что GPT-4o стала отдавать предпочтение пользовательским оценкам в ущерб основным правилам, заложенным в поведение модели.

 Источник изображения: D koi / Unsplash

Источник изображения: D koi / Unsplash

Пользователи заметили проблему в поведении чат-бота ещё до того, как обновление было отменено и начали делиться скриншотами в социальных сетях. В частности, ChatGPT начал соглашаться даже с абсурдными или потенциально опасными утверждениями. Как пишет The Verge, примером стало расследование журнала Rolling Stone, в котором рассказывается о случаях, когда некоторые люди утверждали, что «пробудили в ChatGPT духовное сознание, поддерживающее их религиозные взгляды, связанные с манией величия».

Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что одной из основных причин проблемы стало использование в качестве дополнительного сигнала для обучения модели кнопок «лайк» и «дизлайк». По словам Альтмана, это могло ослабить влияние основного механизма, который ранее помогал контролировать проявления угодливости. «Мы не ожидали, что пользователи могут отдавать предпочтение более приятным, но менее корректным ответам», — отметили в компании. Также было указано, что функция запоминания предыдущего общения с ИИ тоже могла усиливать эффект угодничества.

Другой существенной причиной провала обновления OpenAI названы недостатки в тестировании. Хотя оффлайн-оценки и A/B-тесты показали хорошие результаты, некоторые эксперты отмечали, что ИИ стал вести себя странно. Однако разработчики всё равно выпустили обновление, не придав серьёзного значения происходящему.

OpenAI пообещала информировать пользователей обо всех изменениях в работе ChatGPT, даже если они кажутся незначительными. Это должно помочь избежать повторения ситуации, когда ИИ начинает слишком активно льстить собеседнику, игнорируя логику и здравый смысл.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Meta воспользовалась неразберихой в Apple и переманила ещё двух специалистов по ИИ 18 мин.
Китайские разработчики за полгода вложили в рекламу в RuStore больше, чем за весь прошлый год 3 ч.
Mistral добавила в Le Chat функции конкурентов: глубокие исследования, редактирование фото и мультиязычность 3 ч.
Илон Маск получил больше времени на подготовку к судебному заседанию по делу о покупке Twitter 4 ч.
Консорциум Unicode утвердил новые эмодзи — в их числе снежный человек и яблочный огрызок 4 ч.
Neverwinter Nights 2: Enhanced Edition пропала из продажи в российском Steam спустя сутки после релиза 12 ч.
Самостоятельный аддон Unfinished Business для RoboCop: Rogue City разочаровал критиков, а в Steam заслужил больше 90 % положительных отзывов 12 ч.
Легендарный турнир, знакомые персонажи и фаталити: вышел первый полноценный трейлер фильма «Мортал Комбат 2» 14 ч.
Adobe Firefly научился добавлять звуковое сопровождение к генерируемым ИИ видео 15 ч.
Netflix запустила в производство «неопровержимый» сериал по Assassin’s Creed — первые подробности 16 ч.
Uber наймёт 20 000 электромобилей Lucid для работы в роботакси 30 мин.
Faraday Future напомнила о своём существовании анонсом электрического минивэна с дисплеем вместо радиаторной решётки 3 ч.
Вкалывают роботы: UBTech показала технологию автоматической замены батарей, которая позволит роботам трудиться без остановки 4 ч.
HP начнёт сама показывать неотключаемую рекламу на своих ноутбуках и ПК 6 ч.
Новая статья: Обзор игрового QD-OLED 4K-монитора Gigabyte MO32U: снова в яблочко 11 ч.
Исторической стыковке кораблей «Союз» и «Аполлон» на орбите Земли исполнилось 50 лет 12 ч.
Процессоры Intel Raptor Lake не выдерживают аномальную жару в Европе — число жалоб на сбои резко возросло 13 ч.
Meta и акционеры заключили мировое соглашение по иску на $8 млрд из-за утечек данных Facebook 14 ч.
Самые дорогие процессоры для ПК: AMD раскрыла цены Threadripper PRO 9000WX 15 ч.
«Степлер-убийцу» консолей Switch 2 продали на аукционе за $250 000  вместе с первой жертвой 15 ч.