Сегодня 31 июля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI раскрыла истинную причину подхалимского поведения ChatGPT

После отката последнего обновления GPT-4o из-за чрезмерного угодничества модели, OpenAI стала выяснять причину такого необычного и отталкивающего поведения ИИ. Разработчики выяснили, что GPT-4o стала отдавать предпочтение пользовательским оценкам в ущерб основным правилам, заложенным в поведение модели.

 Источник изображения: D koi / Unsplash

Источник изображения: D koi / Unsplash

Пользователи заметили проблему в поведении чат-бота ещё до того, как обновление было отменено и начали делиться скриншотами в социальных сетях. В частности, ChatGPT начал соглашаться даже с абсурдными или потенциально опасными утверждениями. Как пишет The Verge, примером стало расследование журнала Rolling Stone, в котором рассказывается о случаях, когда некоторые люди утверждали, что «пробудили в ChatGPT духовное сознание, поддерживающее их религиозные взгляды, связанные с манией величия».

Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что одной из основных причин проблемы стало использование в качестве дополнительного сигнала для обучения модели кнопок «лайк» и «дизлайк». По словам Альтмана, это могло ослабить влияние основного механизма, который ранее помогал контролировать проявления угодливости. «Мы не ожидали, что пользователи могут отдавать предпочтение более приятным, но менее корректным ответам», — отметили в компании. Также было указано, что функция запоминания предыдущего общения с ИИ тоже могла усиливать эффект угодничества.

Другой существенной причиной провала обновления OpenAI названы недостатки в тестировании. Хотя оффлайн-оценки и A/B-тесты показали хорошие результаты, некоторые эксперты отмечали, что ИИ стал вести себя странно. Однако разработчики всё равно выпустили обновление, не придав серьёзного значения происходящему.

OpenAI пообещала информировать пользователей обо всех изменениях в работе ChatGPT, даже если они кажутся незначительными. Это должно помочь избежать повторения ситуации, когда ИИ начинает слишком активно льстить собеседнику, игнорируя логику и здравый смысл.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
ИИ увеличил времяпрепровождение пользователей в Facebook и Instagram, похвалился Цукерберг 33 мин.
Telegram готовится запустить глобальный поиск во всех публичных каналах сразу 2 ч.
Утечка подтвердила дату выхода Battlefield 6 — Electronic Arts раньше времени показала тизер нового трейлера 2 ч.
Инсайдер раскрыл планы Electronic Arts на открытую «бету» Battlefield 6 — когда тестирование и как получить ранний доступ 13 ч.
«Абсолютно нормальное» обновление на радость фанатам добавило в инди-хит Peak каннибализм 14 ч.
Google выпустила экстренное обновление для Chrome, закрывшее опасную уязвимость 16 ч.
Devil May Cry 5 стала самой продаваемой игрой квартала для Capcom, а Monster Hunter Wilds весь запал растеряла 16 ч.
ИИ-приложения захватили смартфоны и удвоили выручку — ChatGPT уже дышит в затылок Google 16 ч.
Google заявила, что Великобритания не требовала от неё создать бэкдор в облаке — в отличие от Apple 17 ч.
Тысячи камер Hikvision остаются уязвимы ко взлому почти год — доступ к ним активно продают в даркнете 17 ч.
Canon впервые за 21 год открыла новый завод для производства машин по выпуску чипов — всё ради бума ИИ 28 мин.
Оборудование ASML для выпуска чипов не будет облагаться в США пошлиной в 15 % 31 мин.
Western Digital тоже наживается на ИИ-буме — выручка подскочила на 30 % 2 ч.
В России начались продажи роботов-пылесосов Dreame F10 и F10 Plus 2 ч.
Сообщение о ликвидации утечки воздуха в модуле «Звезда» на МКС оказалось преждевременным 2 ч.
Выделение сетевого бизнеса Intel в отдельную компанию угрожает бизнесу Ericsson и других поставщиков 5G-решений 3 ч.
Arm заговорила о производстве собственных процессоров, но квартальный отчёт всё равно обрушил акции 3 ч.
Qualcomm отчиталась о росте выручки, но недозаработала на чипах для смартфонов — акции обвалились 4 ч.
Прибыль Samsung от чипов рухнула в 16 раз — зато смартфоны показали рост благодаря Galaxy S25 6 ч.
Новая статья: Обзор гибкого смартфона Samsung Galaxy Z Fold7: догнал одним прыжком 10 ч.