OpenAI официально отчиталась о мерах, принятых для устранения чрезмерно услужливого поведения ChatGPT. Ранее пользователи пожаловались, что ИИ стал слишком льстивым и одобрял даже опасные или рискованные идеи. Проблема возникла после выхода доработанной версии GPT-4o, которую разработчикам пришлось срочно откатывать назад.

Источник изображения: openai.com

Генеральный директор OpenAI Сэм Альтман (Sam Altman) признал проблему в своём посте в X и пообещал исправить ситуацию «как можно скорее». Уже во вторник компания откатила обновление GPT-4o и заявила, что работает над исправлением «поведенческих особенностей» модели. Позже OpenAI опубликовала разбор инцидента и анонсировала изменения в процессе тестирования новой версии.

В своём блоге компания заявила, что усовершенствовала основные методы обучения и системные подсказки с целью увода модели от угодничества, создала дополнительные ограничения для повышения честности ответов и расширила возможности для большего числа пользователей по проведению тестирования перед развёртыванием. Также OpenAI считает, что пользователи должны иметь больше контроля над ChatGPT, и для этого разрешит вносить коррективы в поведение модели.

Проблема стала особенно актуальной на фоне роста популярности ChatGPT как источника полезных советов. Согласно опросу Express Legal Funding, 60 % взрослых американцев уже используют ИИ для поиска информации или рекомендаций. Учитывая масштабы аудитории, любые сбои в работе ChatGPT, будь то подхалимство или недостоверные ответы, могут иметь серьёзные последствия.

В качестве временного решения OpenAI начала тестировать функцию обратной связи в реальном режиме времени, которая позволяет пользователям напрямую влиять на ответы ChatGPT. Также изучается возможность добавления разных типов личности для ИИ. Компания не уточнила сроки внедрения всех намеченных изменений.

«Главный урок — осознание того, что люди всё чаще используют ChatGPT для личных советов, чего год назад почти не было, — отметили в OpenAI. — Теперь мы уделим этому аспекту больше внимания в контексте безопасности».

Суд Северного округа Калифорнии отказался удовлетворить ходатайство OpenAI о прекращении иска Илона Маска (Elon Musk) против компании, её генерального директора Сэма Альтмана (Sam Altman) и крупнейшего инвестора Microsoft, тем самым допустив дело к рассмотрению по существу. Маск обвиняет OpenAI в нарушении соглашений и мошенничестве при преобразовании в коммерческую структуру.

Источник изображения: Wesley Tingey / Unsplash

Окружной судья США Ивонн Гонсалес Роджерс (Yvonne Gonzalez Rogers) отклонила ходатайство OpenAI о прекращении дела, инициированного Илоном Маском (Elon Musk) в 2023 году. В своём иске Маск обвиняет Сэма Альтмана (Sam Altman), компанию OpenAI и её крупнейшего инвестора — корпорацию Microsoft — в нарушении обязательств, на основе которых он предоставил финансирование в начале деятельности проекта. По его утверждению, преобразование OpenAI из некоммерческой организации в коммерческую структуру нарушает достигнутые договорённости и содержит признаки мошенничества.

OpenAI была основана в 2015 году как некоммерческая организация с миссией разрабатывать безопасные ИИ-системы на благо всего человечества. Маск, один из соучредителей OpenAI, утверждает, что предоставил значительную часть стартового капитала компании, исходя из обещания сохранить её некоммерческий статус и структуру. Судья признала, что обвинения, изложенные адвокатами Маска, являются достаточно обоснованными для продолжения судебного процесса. Несмотря на отсутствие письменного соглашения, Маск, как указано в решении, правомерно ссылается на наличие договора.

В марте суд отклонил просьбу Маска о предварительном запрете преобразования OpenAI в коммерческую структуру. Однако в том же решении судья согласилась ускорить рассмотрение дела, выделив часть требований из первоначального иска для приоритетного разбирательства. Основное слушание по делу назначено на март 2026 года. Ходатайство OpenAI об отклонении иска было удовлетворено частично, но ключевые положения, включая обвинения в нарушении договорённостей и введении в заблуждение, остались в силе.

Суд признал, что Маск представил обоснованные утверждения о том, что ответчики пообещали сохранить некоммерческий статус и структуру OpenAI с целью получить от него финансирование, а на самом деле намеревались использовать эти средства для создания коммерческой структуры, направленной на собственное обогащение. Эта часть аргументации была сохранена судьёй для дальнейшего судебного рассмотрения.

В апреле 2025 года OpenAI подала встречный иск против Маска. В документе компания утверждает, что Маск использует недобросовестные приёмы с целью сорвать преобразование OpenAI в коммерческую структуру. По утверждению OpenAI, действия истца направлены на замедление развития компании и установление контроля над ведущими разработками в области ИИ ради получения личной выгоды.

Компания OpenAI в настоящее время управляется советом директоров некоммерческой организации, миссией которой является создание мощных ИИ на благо всего человечества. При этом компания предпринимает попытки упростить свою уникальную корпоративную структуру с целью преобразования в коммерческую организацию с общественно полезным статусом.

Такое преобразование, в том числе, преследует цель упростить привлечение капитала от внешних инвесторов. Эти усилия вызвали критику со стороны бывших сотрудников и специалистов в сфере ИИ, включая Джеффри Хинтона (Geoffrey Hinton), Маргарет Митчелл (Margaret Mitchell) и Стюарта Рассела (Stuart Russell), которые считают, что подобное преобразование передаёт контроль над развитием ИИ компании, движимой коммерческой выгодой.

Значимость программного обеспечения, связанного с так называемым искусственным интеллектом, в наши дни велика для большинства компаний, поэтому китайская Xiaomi решила не отставать от конкурентов, представив собственную рассуждающую ИИ-модель MiMo с открытым исходным кодом.

Источник изображения: Unsplash, BoliviaInteligente

Эта модель подражает человеку в логике решения различных проблем. По информации Bloomberg, в своём аккаунте в китайской социальной сети WeChat компания Xiaomi опубликовала результаты тестирования собственной языковой модели, которые свидетельствуют о её превосходстве по быстродействию по сравнению с o1-mini американского стартапа OpenAI и Qwen китайского интернет-гиганта Alibaba. Аналогом MiMo также можно считать китайскую DeepSeek R1.

По традиции руководство Xiaomi не ограничилось дебютом первой языковой модели компании, заявив на этой неделе о наличии амбиций создать так называемый сильный искусственный интеллект (AGI), сопоставимый по своим возможностям с человеческим. Более того, на фоне этого заявления акции самой Xiaomi подорожали на 5 %, что также повлияло на рост котировок многих других эмитентов. Отчасти этому способствовал и визит главы китайского государства Си Цзиньпина (Xi Jinping) в один из «инкубаторов» для стартапов, занимающихся искусственным интеллектом.

В своём сообщении на страницах WeChat представители Xiaomi отметили: «Хотя 2025 год может показаться поздним этапом для воплощения мечты о больших моделях, мы верим, что в долгосрочной перспективе займёмся AGI».

За последние пару лет это уже второй пример выхода Xiaomi в новую для себя сферу деятельности. В 2024 году компания вышла на рынок электромобилей, весьма успешно стартовав для новичка без соответствующего опыта в регионе с высочайшей конкуренцией, каковым является Китай. Отсутствие кроссовера YU7 на недавней выставке в Шанхае, как отмечает Bloomberg, не помешало Xiaomi подтвердить, что его рыночный дебют по-прежнему намечен на июнь или июль текущего года.

Платформа Reddit навсегда заблокировала группу исследователей из Цюрихского университета после того, как выяснилось, что те несколько месяцев тайно использовали ИИ-ботов для психологического воздействия на пользователей. Эксперимент, который сами учёные назвали «изучением убедительности нейросетей», привёл к скандалу, а Reddit теперь рассматривает возможность подачи судебного иска.

Источник изображения: AI

В рамках исследования боты выдавали себя за психолога-консультанта и жертву насилия. Они оставили более 1,7 тысячи комментариев в сообществе r/changemyview и набрали свыше 10 тысяч кармы, прежде чем их раскрыли, пишет издание The Verge. При этом главный юрист Reddit Бен Ли (Ben Lee) назвал эксперимент не только противозаконным, но и неэтичным.

Согласно данным, которые успели попасть в сеть, боты использовали модели GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B. Они анализировали историю постов пользователей, чтобы подбирать максимально убедительные аргументы. «Во всех случаях наши боты генерировали комментарии, основанные на последних 100 публикациях и репликах автора», — говорится в документе.

Исследователи заявили, что вручную удаляли посты, если те распознавались как этически проблемные или явно указывали на то, что их написал ИИ-бот, то есть по факту скрывали следы своего эксперимента. Более того, в запросах для нейросетей они утверждали, будто пользователи Reddit дали согласие на участие в эксперименте, хотя на самом деле этого не было.

В ходе исследования, хоть и нелегального, было обнаружено, что боты действительно оказались во много раз эффективнее людей в плане убеждения и с лёгкостью воздействовали на мнение собеседника. По мнению авторов работы, ИИ-боты могут использоваться для вмешательства в выборы или манипуляции общественным мнением, если попадут в руки злоумышленников.

Исследователи рекомендуют онлайн-платформам разрабатывать надёжные механизмы проверки контента, создаваемого искусственным интеллектом. Однако по иронии судьбы само исследование стало примером злонамеренных действий и манипуляций.

Компания OpenAI начала откат последнего обновления GPT-4o после жалоб пользователей на то, что ChatGPT стал до такой степени льстивым и угодливым, что это раздражало. Генеральный директор компании Сэм Альтман (Sam Altman) признал проблему, заявив, что ИИ действительно демонстрирует «подхалимское и надоедливое» поведение, и пообещал срочное исправление.

Источник изображения: Dima Solomin / Unsplash

Откат обновления начался в понедельник вечером, и, как сообщает The Verge, изменения уже полностью отменены для бесплатных пользователей ChatGPT, и позднее это произойдёт для подписчиков платной версии. «Мы работаем над дополнительными исправлениями поведения модели и сообщим подробности в ближайшие дни», — написал глава компании в социальной сети X.

Проблемы начались после того, как OpenAI выпустила обновление GPT-4o с улучшенным «интеллектом и личностью». Однако уже через 10 минут после поста один из пользователей пожаловался в X, что ChatGPT стал вести себя как «подхалим», на что Альтман ответил, что ему уже об этом известно и пообещал всё исправить. Команда OpenAI срочно приступила к решению проблемы, но пока путём отката обновления.

Это не первый случай, когда OpenAI корректирует поведение своей ИИ-модели после критики. Ранее ChatGPT уже обвиняли в излишней осторожности или, наоборот, избыточной самоуверенности. Теперь же главной претензией стало «заискивающее» поведение, что заставило разработчиков в срочном порядке пересмотреть последние изменения. Пока OpenAI официально не прокомментировала ситуацию в ответ на запросы СМИ.

Несколько дней назад компания OpenAI объявила о запуске новой ИИ-модели GPT-4o, которая стала основой чат-бота ChatGPT. Вскоре после этого глава OpenAI Сэм Альтман (Sam Altman) заявил, что алгоритм стал «слишком льстивым и раздражающим». Он опубликовал пост в соцсети X, в котором написал, что личность GPT-4o будет исправлена «как можно скорее».

Источник изображений: Mariia Shalabaieva / unsplash.com

«Последнее обновление GPT-4o сделало его личность слишком льстивой и раздражающей (хотя в ней есть и хорошие моменты), и мы работаем над тем, чтобы исправить это как можно скорее: часть изменений появится уже сегодня, остальные — в течение недели», — сказано в одном из недавних сообщений Альтмана.

После выхода обновления пользователи ИИ-бота OpenAI начали делиться скриншотами своих бесед с GPT-4o. Независимо от того, что писали пользователи, реакция бота почти всегда была хвалебной — даже в случае проявлений агрессии или неадекватного поведения. Когда один из пользователей сообщил чат-боту, что чувствует себя одновременно «богом» и «пророком», бот ответил, что это «невероятно мощно» и что человек делает шаг к чему-то большему, не просто ощущая связь с богом, а отождествляя себя с ним. Другого пользователя бот похвалил после того, как тот признался, что перестал принимать лекарства и теперь слышит радиосигналы во время телефонных звонков.

Однако позднее, при попытке повторить аналогичные запросы, алгоритм выдавал более сдержанные комментарии. Возможно, OpenAI уже внесла изменения в личность своего чат-бота.

Компания OpenAI объявила о значительном обновлении поисковой системы в ChatGPT. Теперь пользователи смогут искать товары и получать персонализированные рекомендации прямо в чате. Новая функция позволяет находить продукты, просматривать их изображения, читать отзывы и переходить по ссылкам в магазины.

Источник изображения: OpenAI

OpenAI заявляет, что пользователи могут задавать «гиперспецифические вопросы на естественном языке» и получать персонализированные результаты с высокой степенью релевантности. Компания позиционируют это изменение как шаг к созданию более удобной альтернативы традиционным поисковым системам, например, Google. По данным TechCrunch, в настоящий момент тестируется такие категории, как мода, косметика, товары для дома и электроника.

Обновление уже доступно для всех пользователей ChatGPT — как для подписчиков Pro и Plus, так и для бесплатных пользователей, в том числе для неавторизованных в системе. При этом интересно, что в результатах поиска не будет рекламы и, как подчёркивает OpenAI, это существенно отличает сервис от традиционного поиска.

Рекомендации формируются независимо на основе структурированных данных от партнёров, но компания не получает комиссию с покупок. «Мы не продаём приоритетное размещение и не навязываем рекламу», — подчёркивают в OpenAI.

Генеральный директор Сэм Альтман (Sam Altman) ранее выступал против рекламы в ChatGPT, но в недавнем интервью известному медиа-аналитику Бену Томпсону (Ben Thompson) смягчил свою позицию. Он допустил возможность рекламы, где OpenAI получала бы партнёрские отчисления за покупки, но не продавала бы приоритет в выдаче, так как, по словам Альтмана, компания хочет «сохранить баланс между полезностью и монетизацией».

В ближайшее время OpenAI планирует также интегрировать с поиском товаров функцию памяти для подписчиков Pro и Plus. Эта функция будет анализировать предыдущие диалоги и выдавать более персонализированные рекомендации. Однако пользователи из ЕС, Великобритании, Швейцарии, Норвегии, Исландии и Лихтенштейна не смогут воспользоваться опцией из-за регуляторных ограничений.

В ChatGPT также появились всплывающие подсказки при вводе текста, аналогично автозаполнению в Google Search. Кроме того, OpenAI запустила поиск в WhatsApp через который можно отправлять запросы чат-боту и мгновенно получать ответы. Поиск работает на базе стандартной ИИ-модели GPT-4o.

По данным OpenAI, популярность поиска в ChatGPT стремительно растёт. Так, на прошлой неделе пользователи совершили более миллиарда запросов, что подтверждает усиление конкуренции с Google, особенно в сфере онлайн-покупок.

Функция исследования и глубокого анализа Deep Research от OpenAI стала доступна всем пользователям, а не только подписчикам ChatGPT Pro. Инструмент, первоначально запущенный в феврале как эксклюзивное предложение для пользователей ChatGPT Pro, теперь доступен подписчикам планов ChatGPT Plus и Team, а также бесплатным пользователям в облегчённом варианте.

Источник изображения: Choong Deng Xiang / Unsplash

Deep Research, работающий на основе модели o3, становится всё более популярным. Инструмент помогает генерировать развёрнутые отчёты за считанные секунды. Его можно применять для анализа рынка, написания литературных обзоров, выбора вуза или места жительства, а также, например, для подбора косметических средств и многого другого, поясняет Android Authority.

Чтобы сделать инструмент доступнее, компания представила облегчённую версию на основе модели o4-mini. Как заявляют в OpenAI, она даёт почти такие же развёрнутые ответы, как и полная версия, но при этом экономичнее в эксплуатации. Ответы будут короче, но сохранят глубину и качество анализа.

Доступ к Deep Research теперь зависит от типа подписки. Бесплатные пользователи смогут выполнять до пяти запросов в месяц, но только в облегчённой версии. Подписчики ChatGPT Plus и Team получат 10 запросов в полной версии и 15 — в облегчённой. Pro-пользователям доступно по 125 запросов в обоих вариантах, а корпоративные клиенты (подписка Enterprise) — 10 запросов в полной версии. В случае, если лимит полной версии будет исчерпан, ChatGPT автоматически переключится на упрощённый режим, чтобы не прерывать работу.

В OpenAI подчёркивают, что расширение доступа позволит большему числу людей пользоваться мощным аналитическим инструментом. При этом за счёт введения разумных ограничений для разных категорий пользователей удастся сохранить баланс между открытостью и устойчивостью всей экосистемы.

Обновлённый генератор изображений OpenAI 4o Image Generation в составе ChatGPT привлёк внимание широкой аудитории благодаря своей способности создавать картинки в стиле студии аниме Ghibli. Теперь компания открыла доступ к «изначально мультимодальной модели» через API — доступ к платформе gpt-image-1 уже начали бронировать для себя крупные партнёры.

Источник изображения: openai.com

«Универсальность модели позволяет ей создавать изображения в различных стилях, в точности придерживаться запросов пользователей, применять знания о мире и правильно воспроизводить текст, раскрывая бесчисленное множество сценариев практического применения в различных областях», — говорится в блоге OpenAI.

Поработать с моделью смогут пользователи сервисов Adobe и Figma, которые уже включили её поддержку в свои наборы инструментов. Adobe добавила её в приложения Firefly и Express; с сегодняшнего дня генератор изображений gpt-image-1 доступен также в Figma Design, где по простым текстовым запросам он сможет корректировать стили, добавлять или удалять объекты, расширять фоновые изображения и производить множество других операций.

OpenAI добавила, что продолжает сотрудничать с другими партнёрами, которые помогут ей раскрыть новые сценарии применения генератора изображений — среди них значатся, в частности, Canva, GoDaddy и Instacart.

Представитель OpenAI заявил в суде, что компания заинтересована в покупке браузера Chrome, если Google обяжут его продать. Глава продукта ChatGPT Ник Тёрли (Nick Turley) сделал это заявление в рамках антимонопольного дела США против Google. Власти считают, что отделение Chrome поможет ослабить доминирование корпорации на рынке поисковых услуг.

Источник изображения: Copilot

Судья Амит Мехта (Amit Mehta) ранее признал Google монополистом в сфере онлайн-поиска, и сейчас рассматриваются возможные меры по ограничению её влияния. Компания намерена обжаловать это решение, однако если суд постановит продать Chrome, OpenAI готова стать покупателем, сообщает The Verge со ссылкой на Reuters.

Также выяснилось, что OpenAI ещё в прошлом году пыталась договориться с Google о партнёрстве, чтобы ChatGPT мог использовать её поисковые технологии. Сейчас нейросеть получает данные от поисковика Microsoft Bing, но, как отметил Тёрли, у компании «серьёзные проблемы с качеством», связанные с поставщиком поисковых услуг. «Мы уверены, что сотрудничество с Google помогло бы нам улучшить продукт», — говорилось в письме OpenAI, представленном в суде. Однако Google отказалась от партнёрства.

Одновременно OpenAI продолжает развивать собственную поисковую систему, но изначальный план того, что ChatGPT сможет полагаться на свой поиск в большинстве запросов (около 80 %) к 2025 году оказался слишком оптимистичным. Достичь этой цели, предположительно, удастся только через несколько лет.

Эксперты считают, что интерес OpenAI к Chrome связан не только с поиском, но и с долгосрочной стратегией, а владение браузером дало бы компании прямой доступ к пользователям и данным, усилив её позиции в конкуренции с Google и Microsoft. Пока же судья должен решить, состоится ли принудительное разделение Google и станет ли Chrome самостоятельным активом.

Если Chrome действительно выставят на продажу, OpenAI окажется среди главных претендентов, но не исключено, что за него развернётся борьба и между другими крупными игроками рынка.

OpenAI является наиболее частым выбором среди разработчиков приложений искусственного интеллекта; компания доминирует в области больших языковых моделей, но динамика рынка меняется, и её клиенты изучают альтернативные варианты, сообщает TechRadar со ссылкой на исследование, проведённое облачной платформой Vercel.

Источник изображения: Dima Solomin / unsplash.com

Данные опроса, проведённого платформой Vercel среди 656 разработчиков, показали, что 87 % используют модели OpenAI и 83 % пользуются предоставляемым компанией API. При этом сейчас разработчики уже используют в среднем двух поставщиков ИИ-моделей, а 60 % в течение последних шести месяцев меняли поставщиков. Почти треть предприятий используют DeepSeek, а большие языковые модели от Microsoft выбирают лишь 10 % респондентов.

Разработка продуктов на базе ИИ выстраивается вокруг чётких сценариев их применения, а создатели приложений отдают приоритет инструментам, а не командам: в 45 % случаев у компаний отсутствуют специализирующиеся на ИИ подразделения, 57 % сообщили об отсутствии экспертов по ИИ в руководстве. Приоритетными для 75 % ориентированных на клиентов приложений являются связанные с ИИ функции; 39 % используют чат-ботов в поддержке.

Важным аспектом является управления затратами: более 70 % тестируют модели вручную и тратят менее $1000 в месяц. В аспекте сокращения расходов только 14 % опрошенных обучают свои модели, а 60 % вместо этого используют технологию генерации с дополненным извлечением (Retrieval-Augmented Generation — RAG) и векторные базы данных. Связанный с «чрезмерной шумихой» (overhype) вокруг ИИ акцент на инструментах получил среди респондентов среднюю оценку 6,4 из 10; рейтинг 7,7 из 10 получил вопрос о том, преобразует ли ИИ отрасль участников опроса в ближайшие 12 месяцев.

В декабре прошлого года OpenAI представила большую языковую модель o3, заявив, что она способна справиться более чем с 25 % набора сложных математических задач FrontierMath, тогда как другие ИИ-модели справлялись только с 2 % заданий из этого набора. Однако расхождения между результатами внутренних и независимых тестов вызывали вопросы о прозрачности компании и практике тестирования нейросетей.

Источник изображения: Levart_Photographer / unsplash.com

На момент анонса ИИ-модели o3 представитель компании особо отметил результаты алгоритма при решении задач FrontierMath. Однако выпущенная на прошлой неделе потребительская версия алгоритма далеко не так хорошо справляется с вычислениями. Это может указывать на то, что OpenAI либо завысила результаты тестирования, либо в нём была задействована другая, более способная к решению математических задач версия o3.

Исследователи из Epoch AI, стоящие за созданием FrontierMath, опубликовали результаты независимых тестов общедоступной версии ИИ-модели o3. Оказалось, что алгоритм сумел справиться только с 10 % задач, что значительно ниже заявленных OpenAI 25 %. Вместе с этим исследователи протестировали ИИ-модель o4-mini, более компактный и дешёвый алгоритм, который является преемником o3-mini.

Источник изображения: @EpochAIResearch / X

Конечно, расхождение в результатах тестирования не означает, что OpenAI намеренно завысила показатели ИИ-модели. Нижняя граница результатов тестирования OpenAI практически совпадает с результатами, полученными Epoch AI. В Epoch AI также отметили, что тестируемая ими модель, скорее всего, отличается от той, что тестировалась OpenAI. Также отмечается, что исследователи задействовали обновлённую версию набора задач FrontierMath.

«Разница между нашими результатами и результатами OpenAI может быть связана с тем, что OpenAI оценивает результаты с помощью более мощной внутренней версии, используя больше времени для вычислений, или потому, что эти результаты были получены на другом подмножестве FrontierMath (180 задач в frontiermath-2024-11-26 против 290 задач в frontiermath-2025-02-28)», — сказано в сообщении Epoch AI.

По данным организации ARC Foundation, которая тестировала предварительную версию o3, публичная версия ИИ-алгоритма «представляет собой другую модель», которая оптимизирована для использования в чате/продуктах. «Вычислительный уровень всех выпущенных версий o3 ниже, чем у версии, которую мы тестировали», — сказано в сообщении ARC.

Сотрудница OpenAI Венда Чжоу (Wenda Zhou) рассказала, что публичная версия o3 «более оптимизирована для реальных случаев использования» и повышения скорости обработки запросов по сравнению с версией o3, которую компания тестировала в декабре. По её словам, это и является причиной того, что результаты тестирования в бенчмарках могут отличаться от того, что показывала OpenAI.

На этой неделе OpenAI выпустила модели искусственного интеллекта o3 и o4-mini. Они стали передовыми во многих отношениях, однако чаще галлюцинируют — то есть с уверенностью дают не соответствующие действительности ответы — по сравнению со своими предшественниками.

Источник изображений: Mariia Shalabaieva / unsplash.com

Проблема галлюцинаций остаётся одной из крупнейших и наиболее сложных в современной отрасли ИИ — она затрагивает даже самые эффективные современные системы. Исторически каждая последующая модель демонстрировала улучшения в этом аспекте, то есть снижение количества галлюцинаций по сравнению с предыдущими версиями. Однако к o3 и o4-mini это, по-видимому, не относится. Новые системы от OpenAI галлюцинируют чаще, чем предыдущие рассуждающие модели компании, включая o1, o1-mini и o3-mini, а также традиционные «нерассуждающие», такие как GPT-4o, — гласят собственные тесты разработчика.

Некоторую тревогу вызывает то, что и сама компания не знает, почему так происходит. В техническом отчёте (PDF) она указывает, что «необходимы дополнительные исследования», чтобы понять, почему частота галлюцинаций увеличивается по мере масштабирования рассуждающих моделей. OpenAI o3 и o4-mini лучше предшественников справляются с рядом задач, в том числе в области математики и программирования, однако, поскольку «в целом они делают больше заявлений», они также чаще делают как «более точные заявления», так и «более неточные или галлюцинаторные», — говорится в отчёте разработчика.

В собственном тесте OpenAI PersonQA, предназначенном для оценки знаний моделей о людях, o3 допускала галлюцинации в 33 % случаев, что примерно вдвое превышает частоту аналогичных ошибок у предыдущих рассуждающих моделей o1 и o3-mini (16 % и 14,8 % соответственно). Модель o4-mini в том же тесте галлюцинировала в 48 % случаев. Сторонний тест Transluce, проведённый независимым разработчиком, показал, что o3 имеет склонность выдумывать действия, которые она якобы предпринимала при подготовке ответов. В одном из случаев она утверждала, что запускала программный код на Apple MacBook Pro 2021 года «вне ChatGPT» и копировала числа в свой ответ. При этом у o3 действительно есть доступ к некоторым инструментам, но выполнить такое действие она не могла.

Согласно одной из версий, проблема с галлюцинациями, частота которых ранее снижалась при подключении стандартных средств после основного этапа обучения, могла, напротив, усугубиться из-за применения использованного для моделей серии «o» типа обучения с подкреплением. В результате модель OpenAI o3 может оказаться недостаточно полезной на практике, считают эксперты. Также было обнаружено, что в задачах, связанных с программированием, она значительно превосходит другие модели, но иногда дополняет код неработающими ссылками на веб-сайты.

Одним из многообещающих подходов к снижению числа галлюцинаций является открытие функций веб-поиска для моделей. Так, GPT-4o удалось добиться 90 % правильных ответов в эталонном тесте OpenAI SimpleQA. Возможно, это решение окажется эффективным и для рассуждающих моделей. «Устранение галлюцинаций во всех наших моделях — актуальная область исследований, и мы постоянно работаем над повышением их точности и надёжности», — заявили в OpenAI ресурсу TechCrunch.

Компания OpenAI ежегодно тратит десятки миллионов долларов на обработку вежливых фраз вроде «спасибо» и «пожалуйста» в ChatGPT. Несмотря на высокие затраты, генеральный директор компании Сэм Альтман (Sam Altman) считает это оправданным. По его мнению, такие ответы делают общение с искусственным интеллектом более человечным и дружелюбным.

Источник изображения: AI

Хотя известно, что ИИ не испытывает эмоций, многие пользователи инстинктивно благодарят ChatGPT, как если бы общались с реальным человеком, но как отмечает Альтман, даже короткие ответы вроде «не за что» требуют значительных вычислительных ресурсов. Как пишет Tom's Hardware, один такой ответ «стоит» 40–50 миллилитров воды и энергозатрат на работу дата-центров.

OpenAI могла бы заранее запрограммировать шаблонные ответы на вежливые реплики, но это сложно реализовать технически. Поэтому компания предпочитает сохранять естественность диалога, даже если это увеличивает расходы. При этом часть пользователей настолько привыкает к ChatGPT, что начинает воспринимать его как собеседника, что, по мнению исследователей из OpenAI и Массачусетского технологического института (MIT), может привести даже к эмоциональной зависимости.

Интересно, что пользователи, которые оплачивают каждый запрос токенам, формально уже «включили» вежливые ответы в стоимость сервиса. Эксперты не исключают, что по мере развития ИИ граница между человеческим и машинным общением исчезнет, и тогда привычка быть вежливым с ChatGPT может оказаться полезной. Впрочем, пока это лишь теория, а миллионные расходы OpenAI на любезности вполне реальны.

Компания OpenAI внедрила новую функцию в ChatGPT, позволяющую использовать «память» для персонализированного поиска в интернете. Обновление, вышедшее вместе с новыми версиями моделей o3 и o4-mini и получившее название Memory with Search, уже доступно в ChatGPT и позволяет ИИ учитывать информацию из прошлых пользовательских запросов для более точного и полезного веб-поиска.

Источник изображения: AI

Согласно данным, опубликованным в официальном справочном центре OpenAI, новая функция объединяет возможности искусственного интеллекта (ИИ) по запоминанию предпочтений пользователя с функцией онлайн-поиска, работающей на базе Bing или других поисковых партнёров OpenAI. Теперь ChatGPT может учитывать такие ранее предоставленные сведения, как любимая еда, стиль общения и другие интересы пользователя, чтобы адаптировать результаты поиска под его предпочтения. Например, если человек часто обсуждает с ChatGPT японскую кухню, бот сможет использовать это знание при поиске ресторанов, рецептов или культурной информации, предлагая более релевантные результаты.

Напомним, функция памяти в ChatGPT была представлена ещё в начале 2024 года, но до недавнего времени она не использовалась при поиске информации в интернете. Издание TechCrunch также отмечает, Memory with Search — это, очевидно часть продолжающихся усилий OpenAI по дифференциации ChatGPT от конкурирующих чат-ботов, таких как Claude от Anthropic и Gemini от Google, последний из которых также предлагает функцию Memory.

Важно отметить, что пользователи могут самостоятельно управлять «памятью» ChatGPT — просматривать, удалять или полностью отключать её в меню настроек приложения. При этом в компании подчёркивают, что вопросы конфиденциальности остаются приоритетом: данные используются только для улучшения взаимодействия с конкретным пользователем и не передаются третьим лицам.

На данный момент функция доступна ограниченному кругу пользователей, но OpenAI обещает расширить доступ в ближайшие недели. Как и прежде, она будет работать в версии ChatGPT с подпиской Plus, начиная с GPT-4-turbo.