Сегодня 03 мая 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI придумала, как исправить угодливое поведение ChatGPТ

OpenAI официально отчиталась о мерах, принятых для устранения чрезмерно услужливого поведения ChatGPT. Ранее пользователи пожаловались, что ИИ стал слишком льстивым и одобрял даже опасные или рискованные идеи. Проблема возникла после выхода доработанной версии GPT-4o, которую разработчикам пришлось срочно откатывать назад.

 Источник изображения: openai.com

Источник изображения: openai.com

Генеральный директор OpenAI Сэм Альтман (Sam Altman) признал проблему в своём посте в X и пообещал исправить ситуацию «как можно скорее». Уже во вторник компания откатила обновление GPT-4o и заявила, что работает над исправлением «поведенческих особенностей» модели. Позже OpenAI опубликовала разбор инцидента и анонсировала изменения в процессе тестирования новой версии.

В своём блоге компания заявила, что усовершенствовала основные методы обучения и системные подсказки с целью увода модели от угодничества, создала дополнительные ограничения для повышения честности ответов и расширила возможности для большего числа пользователей по проведению тестирования перед развёртыванием. Также OpenAI считает, что пользователи должны иметь больше контроля над ChatGPT, и для этого разрешит вносить коррективы в поведение модели.

Проблема стала особенно актуальной на фоне роста популярности ChatGPT как источника полезных советов. Согласно опросу Express Legal Funding, 60 % взрослых американцев уже используют ИИ для поиска информации или рекомендаций. Учитывая масштабы аудитории, любые сбои в работе ChatGPT, будь то подхалимство или недостоверные ответы, могут иметь серьёзные последствия.

В качестве временного решения OpenAI начала тестировать функцию обратной связи в реальном режиме времени, которая позволяет пользователям напрямую влиять на ответы ChatGPT. Также изучается возможность добавления разных типов личности для ИИ. Компания не уточнила сроки внедрения всех намеченных изменений.

«Главный урок — осознание того, что люди всё чаще используют ChatGPT для личных советов, чего год назад почти не было, — отметили в OpenAI. — Теперь мы уделим этому аспекту больше внимания в контексте безопасности».

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Apple прокачает среду разработки Xcode с помощью ИИ-модели Claude Sonnet, но публичный запуск под вопросом 5 ч.
Минюст США потребовал от Google продать почти весь рекламный бизнес 6 ч.
Удалённый доступ к Windows содержит «дыру», которую Microsoft не собирается исправлять 8 ч.
Skype навсегда прекратит работу 5 мая, а Microsoft переведёт пользователей в Teams 12 ч.
Новая статья: Lost Records: Bloom & Rage — Tape 2: закончили за упокой. Рецензия 13 ч.
OpenAI придумала, как исправить угодливое поведение ChatGPТ 14 ч.
Ждать осталось недолго: журналист раскрыл, когда выйдут первые обзоры Doom: The Dark Ages 15 ч.
«Ждём всем селом»: новый трейлер душевного симулятора деревенского водителя «Заря» очаровал игроков 17 ч.
Перенос GTA VI на 2026 год обвалил акции Take-Two, но компания «целиком поддерживает решение Rockstar Games» 18 ч.
Bandai Namco и FromSoftware показали, что ждёт игроков в Elden Ring Nightreign — опубликован большой обзорный трейлер 19 ч.
«Джеймс Уэбб» открыл самую холодную экзопланету в истории наблюдений 4 ч.
Apple рассказала о вынужденном изменении географии поставок из-за трамповских пошлин 14 ч.
Nvidia придумала, как законно обойти антикитайские санкции, и продолжит поставки ИИ-ускорителей в Китай 15 ч.
На Землю вот-вот упадёт советская межпланетная станция «Космос-482», провисевшая на орбите 53 года 15 ч.
Крупнейший в мире речной электрический паром получит батарейку весом 250 тонн 17 ч.
Опубликованы изображения тонкого Samsung Galaxy S25 Edge — он получит батарею на 3900 мА·ч 18 ч.
Anthropic раскрыла схему контрабанды ИИ-чипов вперемешку с живыми лобстерами — в Nvidia лишь посмеялись 21 ч.
Кто-то заинтересовался покупкой одного из крупнейших производителей систем жидкостного охлаждения в мире 21 ч.
Microsoft расскажет о новых устройствах Surface на следующей неделе 22 ч.
Vivo представила 125-долларовый смартфон Y19 5G с ИИ-функциями и Dimensity 6300 22 ч.