Сегодня 16 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Поумневшие ИИ-модели OpenAI o3 и o4-mini проявили повышенную склонность к галлюцинациям

На этой неделе OpenAI выпустила модели искусственного интеллекта o3 и o4-mini. Они стали передовыми во многих отношениях, однако чаще галлюцинируют — то есть с уверенностью дают не соответствующие действительности ответы — по сравнению со своими предшественниками.

 Источник изображений: Mariia Shalabaieva / unsplash.com

Источник изображений: Mariia Shalabaieva / unsplash.com

Проблема галлюцинаций остаётся одной из крупнейших и наиболее сложных в современной отрасли ИИ — она затрагивает даже самые эффективные современные системы. Исторически каждая последующая модель демонстрировала улучшения в этом аспекте, то есть снижение количества галлюцинаций по сравнению с предыдущими версиями. Однако к o3 и o4-mini это, по-видимому, не относится. Новые системы от OpenAI галлюцинируют чаще, чем предыдущие рассуждающие модели компании, включая o1, o1-mini и o3-mini, а также традиционные «нерассуждающие», такие как GPT-4o, — гласят собственные тесты разработчика.

Некоторую тревогу вызывает то, что и сама компания не знает, почему так происходит. В техническом отчёте (PDF) она указывает, что «необходимы дополнительные исследования», чтобы понять, почему частота галлюцинаций увеличивается по мере масштабирования рассуждающих моделей. OpenAI o3 и o4-mini лучше предшественников справляются с рядом задач, в том числе в области математики и программирования, однако, поскольку «в целом они делают больше заявлений», они также чаще делают как «более точные заявления», так и «более неточные или галлюцинаторные», — говорится в отчёте разработчика.

 Источник изображений: Mariia Shalabaieva / unsplash.com

В собственном тесте OpenAI PersonQA, предназначенном для оценки знаний моделей о людях, o3 допускала галлюцинации в 33 % случаев, что примерно вдвое превышает частоту аналогичных ошибок у предыдущих рассуждающих моделей o1 и o3-mini (16 % и 14,8 % соответственно). Модель o4-mini в том же тесте галлюцинировала в 48 % случаев. Сторонний тест Transluce, проведённый независимым разработчиком, показал, что o3 имеет склонность выдумывать действия, которые она якобы предпринимала при подготовке ответов. В одном из случаев она утверждала, что запускала программный код на Apple MacBook Pro 2021 года «вне ChatGPT» и копировала числа в свой ответ. При этом у o3 действительно есть доступ к некоторым инструментам, но выполнить такое действие она не могла.

Согласно одной из версий, проблема с галлюцинациями, частота которых ранее снижалась при подключении стандартных средств после основного этапа обучения, могла, напротив, усугубиться из-за применения использованного для моделей серии «o» типа обучения с подкреплением. В результате модель OpenAI o3 может оказаться недостаточно полезной на практике, считают эксперты. Также было обнаружено, что в задачах, связанных с программированием, она значительно превосходит другие модели, но иногда дополняет код неработающими ссылками на веб-сайты.

Одним из многообещающих подходов к снижению числа галлюцинаций является открытие функций веб-поиска для моделей. Так, GPT-4o удалось добиться 90 % правильных ответов в эталонном тесте OpenAI SimpleQA. Возможно, это решение окажется эффективным и для рассуждающих моделей. «Устранение галлюцинаций во всех наших моделях — актуальная область исследований, и мы постоянно работаем над повышением их точности и надёжности», — заявили в OpenAI ресурсу TechCrunch.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google выпустила ИИ-генератор видео Veo 3.1 с повышенным реализмом и улучшенным звуком 2 ч.
Google упростила восстановление аккаунта — теперь в этом могут помочь друзья и родственники 2 ч.
Warhammer 40,000: Dark Heresy готовится к «альфе», а Rogue Trader скоро выйдет на Nintendo Switch 2 4 ч.
Дом с призраками, зубодробительные головоломки и могущественный маятник в геймплейном трейлере хоррора The Occultist 4 ч.
Межпространственный шутер на выживание Voidtrain готов вырваться из измерения раннего доступа — дата выхода и новый трейлер 5 ч.
Warface вернулась в российский Steam спустя два года, но есть нюанс 7 ч.
Microsoft показала иконки, которые могли бы получить Word, Excel и PowerPoint — но не получили 8 ч.
Google предложила изменить поисковую выдачу, чтобы отвертеться от огромного штрафа в Европе 8 ч.
Witchbrook нужно «ещё немного времени повариться в котле» — амбициозный симулятор школы магии не выйдет в 2025 году 8 ч.
«Огромное влияние в огромных масштабах»: Илон Маск рассказал о Macrohard — будущем конкуренте Microsoft 9 ч.
От мВт до МВт: Arm и Meta объявили о стратегическом партнёрство в области ИИ 28 мин.
Новая статья: Авторегрессионные ИИ-модели: лизоблюдство вместо силы 50 мин.
Microsoft арендует у Nscale ещё 116 тыс. ускорителей NVIDIA GB300 2 ч.
Samsung выпустила зарядные устройства с Qi2 — совместимых смартфонов у компании пока нет 3 ч.
Honor представила самый мощный Android-планшет — 13,3-дюймовый MagicPad 3 Pro на Snapdragon 8 Elite Gen 5 4 ч.
Honor показала концепт Robot Phone — смартфон с «живой» камерой на механической руке 4 ч.
Дроны вдохнули водород и удвоили время полёта — в США испытали беспилотник на топливных ячейках 5 ч.
Apple перестала комплектовать MacBook Pro зарядными устройствами — пока обделили только Европу 6 ч.
BenQ представила 27-дюймовые 4K-мониторы для пользователей Mac и творческих профессионалов 6 ч.
iPhone получил недоделанный Wi-Fi 7 — под новым шильдиком Apple спрятала старый Wi-Fi 6E 6 ч.