Сегодня 26 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI придумала, как исправить угодливое поведение ChatGPТ

OpenAI официально отчиталась о мерах, принятых для устранения чрезмерно услужливого поведения ChatGPT. Ранее пользователи пожаловались, что ИИ стал слишком льстивым и одобрял даже опасные или рискованные идеи. Проблема возникла после выхода доработанной версии GPT-4o, которую разработчикам пришлось срочно откатывать назад.

 Источник изображения: openai.com

Источник изображения: openai.com

Генеральный директор OpenAI Сэм Альтман (Sam Altman) признал проблему в своём посте в X и пообещал исправить ситуацию «как можно скорее». Уже во вторник компания откатила обновление GPT-4o и заявила, что работает над исправлением «поведенческих особенностей» модели. Позже OpenAI опубликовала разбор инцидента и анонсировала изменения в процессе тестирования новой версии.

В своём блоге компания заявила, что усовершенствовала основные методы обучения и системные подсказки с целью увода модели от угодничества, создала дополнительные ограничения для повышения честности ответов и расширила возможности для большего числа пользователей по проведению тестирования перед развёртыванием. Также OpenAI считает, что пользователи должны иметь больше контроля над ChatGPT, и для этого разрешит вносить коррективы в поведение модели.

Проблема стала особенно актуальной на фоне роста популярности ChatGPT как источника полезных советов. Согласно опросу Express Legal Funding, 60 % взрослых американцев уже используют ИИ для поиска информации или рекомендаций. Учитывая масштабы аудитории, любые сбои в работе ChatGPT, будь то подхалимство или недостоверные ответы, могут иметь серьёзные последствия.

В качестве временного решения OpenAI начала тестировать функцию обратной связи в реальном режиме времени, которая позволяет пользователям напрямую влиять на ответы ChatGPT. Также изучается возможность добавления разных типов личности для ИИ. Компания не уточнила сроки внедрения всех намеченных изменений.

«Главный урок — осознание того, что люди всё чаще используют ChatGPT для личных советов, чего год назад почти не было, — отметили в OpenAI. — Теперь мы уделим этому аспекту больше внимания в контексте безопасности».

Источники:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Meta захотела улучшить свои приложения с помощью ИИ-технологий конкурирующей Google 3 ч.
В Twitch наконец-то появилась перемотка трансляций, но доступная она не всем 4 ч.
Google грозит огромный штраф по новому антимонопольному закону ЕС, но шансы отвертеться есть 4 ч.
Gemini теперь сможет объяснить, почему формула в «Google Таблицах» не работает или работает неправильно 5 ч.
Боузер прощается с Грибным королевством: президент Nintendo of America уйдёт в отставку, чтобы освободить место «руководству нового поколения» 5 ч.
OpenAI анонсировала ChatGPT Pulse — ИИ-агента, который следит за пользователем постоянно 6 ч.
Трамп одобрил сделку по американскому TikTok — сервис оценили всего в $14 млрд, но это не точно 16 ч.
Starbreeze извинилась за вероломное повышение цены сборника Infamous Collection с DLC для Payday 2 и отменила подорожание 19 ч.
Кроссплатформенная поддержка модов для The Witcher 3: Wild Hunt не выйдет в 2025 году — CD Projekt Red отложила горячо ожидаемое обновление 21 ч.
Подростковые аккаунты в Facebook теперь доступны по всему миру — у них повышена приватность и усилен родительский контроль 21 ч.
Представлен быстрый роутер Xiaomi BE10000 Pro с Wi-Fi 7, функцией NAS и минималистичным дизайном за $240 55 мин.
Xiaomi представила компактную портативную колонку Portable Bluetooth Speaker с элегантным дизайном 58 мин.
Лишь около 10 % российских компаний использует серверы с отечественными процессорами 2 ч.
Китай сделал шаг к солнечным панелям с напряжением 2000 В — это поможет снизить потери при передаче энергии 3 ч.
Руководить производством чипов TSMC в США поручено ветерану отрасли с опытом освоения 4-нм техпроцесса 3 ч.
Dreame показала второй электромобиль — он очень похож на Rolls-Royce Cullinan и сможет оснащаться ДВС 3 ч.
Alibaba Cloud запустит восемь новых ЦОД в Европе, Азии и Северной Америке 4 ч.
Google добавила в Pixel Buds Pro 2 управление кивками головы и адаптивный звук 4 ч.
Роботы Unitree заменят людей на сборке смартфонов через несколько лет 4 ч.
Китайская YMTC запустила массовый выпуск 267-слойной 3D NAND — отставание от Samsung и SK hynix сокращается 4 ч.