Сегодня 15 сентября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → chatgpt
Быстрый переход

Сотни людей читают переписки пользователей с ChatGPT — и OpenAI платит им за это от $50 в час

Издание 404 Media выяснило, что OpenAI нанимает через подрядчиков сотни людей для анализа огромного потока запросов пользователей к ChatGPT. Их задача — улучшить качество ответов, которые ChatGPT выдаёт пользователям: люди оценивают и анализируют сгенерированные ботом реплики. Они изучают диалоги между пользователями и чат-ботом, о возможности прочтения которых живыми людьми даже не подозревает большинство из более чем 900 миллионов пользователей сервиса.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Во внутренних документах, попавших в распоряжение 404 Media, указано, что подрядчики обучают ChatGPT избегать антропоморфизма (приписывания себе человеческих черт) и чрезмерной угодливости. Последнее является серьёзной проблемой для OpenAI: как утверждается в ряде судебных исков, излишне подобострастное поведение модели 4o отчасти привело к самоубийствам нескольких человек.

В распоряжении издания 404 Media оказались обширные материалы, касающиеся привлечения OpenAI людей-рецензентов: инструкции, переписка в Slack, реальные запросы пользователей ChatGPT и система оценки, которую рецензенты используют для совершенствования чат-бота. Такая практика анализа запросов отличается от официально объявленных мер безопасности ChatGPT — например, проверки чатов в случаях, когда компания выявляет пользователей, планирующих причинить вред другим людям.

Утечка указывает на серьёзные риски для конфиденциальности пользователей ChatGPT, ведь многие воспринимают чат-бота как психотерапевта, профессионального помощника или виртуального друга, делясь с ним самыми сокровенными подробностями своей жизни. Подрядчики не видят имён пользователей, а OpenAI заявляет, что старается удалять личную информацию до того, как запросы попадут к проверяющим. Впрочем, компания признает, что конфиденциальные данные все же могут просочиться в ходе процесса.

Кроме того, эти внутренние документы развеивают заблуждение о том, что модели совершенствуются исключительно благодаря массовому сбору данных из интернета, таланту высокооплачиваемых инженеров и специалистов по ИИ или мощности новых версий моделей. Важным, но часто упускаемым из виду фактором является труд сторонних подрядчиков, которым платят за то, чтобы они снова и снова анализировали ответы ChatGPT на реальные запросы пользователей.

«Отличный ответ должен учитывать намерение пользователя, быть полезным и точным, а также быть написанным в ясном, естественном и достаточно доброжелательном стиле», — говорится в одной из инструкций для сторонних подрядчиков. Их работа разделена на три этапа: чтение реального запроса пользователя ChatGPT, его краткое изложение и критический разбор вариантов ответов, сгенерированных ChatGPT на этот запрос.

В рабочем интерфейсе рецензенты могут сами выбирать, за какую задачу взяться. После выбора им демонстрируется реальный запрос пользователя ChatGPT. Издание 404 Media ознакомилось с множеством таких запросов, но не приводит их дословно из соображений защиты источников. Некоторые запросы свидетельствуют о том, что пользователи ChatGPT не предполагают, что их переписку может прочитать человек, поскольку они просят чат-бота сохранить содержание беседы в тайне.

По словам одного из работников, чтение запросов иногда бывает «довольно забавным», но в целом эта работа — «очень однообразная и рутинная». Он также отметил, что рабочий процесс кажется «хаотичным»: инструкции часто меняются и порой противоречат друг другу. Запросы анонимизированы, но, тем не менее, могут содержать конфиденциальную или личную информацию. В разделе над самим запросом иногда приводится «сводка воспоминаний пользователя» (user memories summary) — краткий обзор того, для чего пользователь ранее пытался использовать чат-бота. В некоторых случаях там также указывается примерное местоположение человека и другие личные сведения.

Рецензентам предписывается передавать вышестоящим специалистам подобные задачи, содержащие личную информацию или вызывающие «потенциальные опасения с точки зрения безопасности». По словам OpenAI, перед отправкой исполнителям разговоры пользователей проходят обработку с помощью специальной модели — фильтра конфиденциальности (Privacy Filter). Эта система предназначена для выявления и удаления личной информации.

«Как и любые модели, Privacy Filter может допускать ошибки. Она способна пропустить редкие идентификаторы или неоднозначные упоминания частной информации, а также избыточно или недостаточно скрывать данные при ограниченном контексте — особенно в коротких фрагментах текста», — говорится на сайте OpenAI.

OpenAI не ответила на вопрос, уведомляет ли компания пользователей о том, что люди могут просматривать их запросы для улучшения ответов ChatGPT, и если да, то где именно приводится эта информация. На сайте компании описано, что люди могут просматривать лишь контент, помеченный как нарушающий условия использования сервиса или представляющий угрозу безопасности.

В политике конфиденциальности OpenAI указано, что компания может использовать персональные данные для совершенствования своих моделей. Если пользователь решит удалить историю диалогов в ChatGPT, OpenAI обещает стереть эти данные из своих систем в течение 30 дней — за исключением случаев, когда информация «уже была обезличена и отвязана от учётной записи». После публикации статьи в 404 Media OpenAI всё же указала на раздел сайта, где говорится, что люди могут просматривать контент для «улучшения работы модели».

OpenAI утверждает, что чаты пользователей не будут использоваться для обучения моделей компании, если те отключат настройку «улучшение модели для всех» (improve the model for everyone). Эта функция включена по умолчанию для бесплатных тарифов, а также для подписок Plus и Pro, поэтому пользователям необходимо самостоятельно её отключить. В OpenAI уточнили, что это правило распространяется лишь на новые диалоги и не имеет обратной силы. У корпоративных клиентов (Enterprise, Business и Edu) настройка обучения модели по умолчанию отключена.

Поиском исполнителей для анализа запросов к ChatGPT занимается рекрутинговое агентство Crossing Hurdles. Согласно информации на сайте компании, она «связывает квалифицированных специалистов с возможностями в сфере обучения ИИ, оценки, исследований и участия в проектах глобальной индустрии искусственного интеллекта». На странице Crossing Hurdles в LinkedIn размещено множество вакансий, связанных с ИИ, включая позиции специалиста по проверке данных, аннотатора данных и «оценщика чат-ботов».

В описании последней вакансии не упоминаются OpenAI или ChatGPT, однако в обязанности входит «оценка ответов ИИ с точки зрения персонализации, опоры на факты (grounding), интеграции и полезности», а также «сравнение ответов модели и оценка их общего качества». Среди доступных проектов есть и такие, где исполнители записывают на видео выполнение домашних дел — этот процесс сбора данных критически важен для разработки робототехники на базе ИИ.

Люди-проверяющие уже давно играют важную (хотя зачастую и незаметную) роль в модерации контента в социальных сетях и в совершенствовании моделей искусственного интеллекта — например, тех, что распознают объекты в видеопотоке с камер. Практика привлечения людей к проверке диалогов с ИИ не ограничивается одной лишь OpenAI. Например, в уведомлении к чат-боту Gemini от Google говорится: «Люди просматривают некоторые сохранённые чаты, чтобы улучшить работу искусственного интеллекта Google». Представители компании Anthropic также подтвердили, что используют ручную проверку для совершенствования своих моделей, в том числе для улучшения будущих ответов чат-бота Claude.

 Источник изображения: Anthropic

Источник изображения: Anthropic

Сообщается, что оплата труда «оценщиков чат-ботов» составляет от $50 в час, что заметно превышает доходы других подрядчиков в технологическом секторе — будь то модераторы контента в соцсетях или специалисты по обучению ИИ. Впрочем, эксперты полагают, что столь щедрые расценки со временем снизятся по мере совершенствования моделей ИИ.

Создавать сайты и веб-приложения в ChatGPT теперь можно командой

OpenAI улучшила работу запущенного около трёх месяцев назад сервиса ChatGPT Sites, который позволяет создавать, публиковать сайты и простые веб-приложения, просто описывая желаемый результат естественным языком. Теперь над проектом могут работать несколько человек.

 Источник изображения: BoliviaInteligente / unsplash.com

Источник изображения: BoliviaInteligente / unsplash.com

Ранее процесс создания сайта в ChatGPT Sites был индивидуальным занятием; теперь сервис дополнила функция Build Together, позволяющая приглашать к работе над проектом других людей. Они могут самостоятельно вносить, сохранять и публиковать изменения, что значительно упрощает работу в командном формате. При подготовке ресурса для небольшого мероприятия или для работы можно не просто обмениваться мнениями и обсуждать предложения, а сразу подключаться к процессу и работать напрямую.

Возможность совместной работы не означает что проект будет доступен всем: можно сохранить приватный формат проекта, предоставив доступ только определённым людям. Это пригодится, если речь идёт о создании внутренних инструментов, ранних прототипов или других проектов, над которыми хочется поработать узким кругом лиц, прежде чем открывать сайт для широкой аудитории.

Примерно вдвое сократилось время от ввода запроса до развёртывания сайта — если пользователь постоянно экспериментирует с идеями и постоянно вносит изменения, высокая скорость работы может сыграть существенную роль. Упростился доступ к информации «под капотом»: ChatGPT может проанализировать подключённую к сайту базу данных и показать результат другим допущенным к редактированию пользователям. Это пригодится, когда ведётся разработка средства для сбора информации, и хочется быстро проверить, какие именно данные сохраняются, не делая этого вручную. Наконец, появилась поддержка пользовательских доменов — к созданному и опубликованному ChatGPT сайту можно привязать собственный адрес.

ChatGPT по ошибке позволял одним пользователям Gmail читать почту других

Агенты искусственного интеллекта ChatGPT могли извлекать конфиденциальные данные из одной учётной записи и передавать их в другую, потому что все они отчасти работали в единой среде. Обнаруженная экспертами Check Point Research (CPR) уязвимость получила название «вынужденный инсайдер» (coerced insider) — для её эксплуатации требовались манипуляции действиями агента, а не прямое обращение к программной ошибке.

 Источник изображения: ilgmyzin / unsplash.com

Источник изображения: ilgmyzin / unsplash.com

Когда ИИ-агент получает требующую выполнения кода задачу, он обрабатывает её в изолированном контейнере, который иногда требует установки дополнительного ПО. Чтобы обеспечить эту возможность без прямого доступа к интернету, который был бы слишком рискованным, OpenAI направляет запросы на получение пакетов через внутренний экземпляр JFrog Artifactory — в качестве дополнительной меры безопасности относящиеся к разным учётным записям контейнеры не могут взаимодействовать друг с другом напрямую.

Но они могут обращаться к одной внутренней службе — она предоставляет функцию управления объектами, которая позволяет контейнерам прикреплять текстовые или бинарные свойства к элементам репозитория. В результате один контейнер может читать свойства, записанные другим. Это позволяет разворачивать атаку с использованием «инъекций запросов» — разница лишь в том, что и запросы, и ответы передаются через эти свойства объектов. Злоумышленник отправляет запрос или инициирует совместный чат, давая агенту указание проверить это хранилище при подготовке очередного ответа — агент проверяет его, обнаруживает вредоносную команду и выполняет её, продолжая отвечать на вопрос жертвы в обычном режиме — та и не подозревает, что в это время производится кража данных.

Масштаб ущерба при такой атаке зависит от объёма данных, которыми обменивается взаимодействующий с жертвой агент: изначально система располагает только той информацией, которой пользователь делится в ходе переписки с агентом. Но этот объём данных растёт по мере подключения сторонних сервисов: Gmail, «Google Диск», Microsoft Teams, GitHub. В ходе одной из демонстраций ИИ-агент ChatGPT извлёк данные из почты одного пользователя и передал их условному злоумышленнику. Эксперты CPR сообщили об открытии в OpenAI — та подтвердила, что экземпляр Artifactory вывели из эксплуатации и тем самым перекрыли вектор атаки.

Компаниям рекомендовали зафиксировать, какими ИИ-инструментами пользуются сотрудники, к каким системам эти средства подключены, а также регламентировать действия ИИ-агентов и прочих приложений, рассматривая все их операции, а не только ответы, как действия, требующие постоянного контроля.

OpenAI представила генератор изображений ChatGPT Images 2.5 с упором на редактирование

OpenAI представила обновлённый вариант генератора изображений ChatGPT Images 2.5 — в этой версии разработчик сделал упор не на способности модели рисовать красивую картинку, а на точности выполнения запросов пользователя при редактировании существующих.

 Источник изображений: openai.com

Источник изображений: openai.com

При загрузке исходной фотографии в качестве образца модель OpenAI ChatGPT Images 2.5 стала лучше сохранять идентичность ключевого объекта, например, человека, если нужно изменить стиль или сцену изображения. Повысилась точность выполнения инструкций: при редактировании модель эффективнее изменяет только те аспекты изображения, на которые указывает пользователь, не трогая остальных — это могут быть фон, предмет гардероба или надпись. Особенно важной новая возможность представляется при редактировании за несколько шагов — больше не придётся беспокоиться, что на одном из этапов лицо человека изменится, или действия предыдущего этапа будут сведены на нет на последующем.

Повысилась скорость работы: по сравнению с предшественницей OpenAI ChatGPT Images 2.5 может экономить до 50 % времени при выполнении запроса. Модель стала более восприимчивой к сложным запросам — она лучше обрабатывает описания композиций, текст, прозрачный фон и визуальные стили. При экспорте изображения можно быстро опубликовать не только саму картинку, но и соответствующий ей запрос, благодаря чему другие пользователи сервиса могут попытаться добиться того же результата со своим исходным изображением. Важным нововведением стала функция «Набросок» (Sketch): теперь прямо в интерфейсе ChatGPT можно от руки изобразить примерную схему того, что должно получиться на выходе — это пригодится, когда описать пространственную композицию словами оказывается непросто. Полезной окажется и функция шаблонов для типовых задач при генерации постеров или маркетинговых материалов.

Генератор изображений OpenAI ChatGPT Images 2.5 доступен на платформах ChatGPT, ChatGPT Work и Codex в десктопных и мобильных приложениях, а также в веб-интерфейсе и через API. Модель доступна в двух вариантах: в более простом и универсальном GPT-Image-2.5 Flare, который подойдёт для большинства задач; а также в медленном GPT-Image-2.5 Sunburst, который предлагает максимальный контроль и высокую точность редактирования. При генерации к картинкам добавляются невидимые «водяные знаки» и метаданные C2PA — маркировка обеспечивает прозрачность для созданных или отредактированных с помощью ИИ изображений.

Масштабный сбой вывел из строя популярные платформы ИИ, включая ChatGPT, Claude и Grok

Сервис мониторинга DownDetector зафиксировал резкий рост числа сообщений о масштабных сбоях в работе сразу нескольких популярных платформ искусственного интеллекта, включая ChatGPT от OpenAI, Claude от Anthropic и Grok от X. Сообщения пользователей подтверждаются данными с соответствующих панелей мониторинга.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Хотя сбои в работе ИИ не являются чем-то необычным, на этот раз все три платформы не работают одновременно. Cursor также не работает из-за сбоев Grok и Claude. Gemini от Google, по-видимому, пока не затронут. Несмотря на всплеск пользовательских сообщений примерно в то же время, Google не подтвердила наличие проблем.

 Источник изображения: DownDetector

Источник изображения: DownDetector

Эксперты полагают, что основная проблема может быть связана с облачным сервисом Microsoft Azure, где также наблюдается всплеск сообщений о сбоях. Все три отказавшие платформы искусственного интеллекта используют Azure для облачных сервисов, хотя в этом сегменте присутствуют и другие поставщики, включая Google.

Менее чем за 200 дней рекламная выручка OpenAI достигла $1 млрд в годовом выражении

Прежде OpenAI делала ставку на получение выручки от подписок на ChatGPT, предлагаемых частным пользователям. Поняв, что в этом сегменте подобные схемы монетизации не очень эффективны, она запустила рекламу в ChatGPT, которая помогает оправдывать расходы на инфраструктуру ИИ и обучение моделей хотя бы частично. Сейчас рекламная выручка OpenAI уже превышает $1 млрд в приведённом к году объёме.

 Источник изображения: OpenAI

Источник изображения: OpenAI

Об этом стартап сообщил на страницах корпоративного блога, отдельно подчеркнув, что на достижение данного результата ему потребовалось менее 200 дней. Кроме того, отныне покупка рекламы доступна клиентам OpenAI через сервис Ads Manager в Индии, Европе, странах Ближнего Востока и Северной Африке. В общей сложности, реклама в интерфейсе ChatGPT доступна в более чем 40 странах мира. Помимо рекламы, компания получает доход от продажи подписок, доступа к программному интерфейсу и взаимодействия с корпоративными клиентами.

Тестирование рекламы в ChatGPT в США началось в феврале этого года, причём конкурирующая Anthropic сразу уцепилась за этот шаг OpenAI, использовав его как возможность для критики. Реклама демонстрируется пользователям ChatGPT, которые либо не платят за доступ к чат-боту вовсе, либо ограничиваются тарифом Go. По сути, рекламу видит основная часть из более чем 1 млрд активных пользователей ChatGPT, которые обращаются к чат-боту еженедельно. OpenAI утверждает, что явным образом маркирует рекламу и не корректирует ответы чат-бота с учётом интересов рекламодателей. Последние, кроме того, не имеют доступа к содержимому частной переписки пользователей ChatGPT. Компания обещает развивать рекламный бизнес, предлагая новые форматы рекламы и распространяя её на новые географические рынки. Ведётся поиск инновационных методов взаимодействия рекламодателей и конечных пользователей сервиса.

Рекламу в ChatGPT уже размещают на регулярной основе более 50 компаний, через Ads Manager доступ к площадке получают и представители среднего, а также малого бизнеса. Один из торговых клиентов рекламного направления ChatGPT получил в три раза больше денег, чем потратил на рекламную кампанию в течение 28 дней. Другой партнёр OpenAI заявил, что более 80 % генерируемого благодаря рекламе в чат-боте трафика обеспечивается новыми клиентами.

ЕС поставил ChatGPT в один ряд с крупнейшими онлайн-платформами — ответственность OpenAI возрастёт

Еврокомиссия отнесла ChatGPT к категории крупнейших онлайн-сервисов, на которые распространяются более жёсткие требования закона ЕС о цифровых услугах (DSA). Одновременно аналогичный статус получили Reddit и Roblox, которым также предстоит соблюдать дополнительные правила и требования, сообщает The Verge.

 Источник изображения: Zulfugar Karimov/Unsplash

Источник изображения: Zulfugar Karimov/Unsplash

Новый статус означает, что OpenAI придётся уделять больше внимания рискам, связанным с использованием ChatGPT в Европе, в том числе его влиянию на несовершеннолетних, психическое здоровье пользователей и распространение незаконного контента. Закон также устанавливает запрет на таргетированную рекламу несовершеннолетним и использование сведений об участниках, касающихся религии, этнической принадлежности и политических взглядов.

К категории очень крупных онлайн-сервисов и платформ относятся ресурсы, которыми в среднем пользуются не менее 45 миллионов человек в месяц на территории ЕС. Еврокомиссия также потребует от ChatGPT, Reddit и Roblox большей прозрачности в отношении работы рекомендательных алгоритмов. Соблюсти новые требования компании должны до конца декабря 2026 года.

Исполнительный вице-президент Еврокомиссии по технологическому суверенитету, безопасности и демократии Хенна Вирккунен (Henna Virkkunen) заявила, что новый статус означает для перечисленных площадок более высокий уровень контроля и ответственности. По её словам, такое решение связано с масштабом влияния упомянутых сервисов на граждан. «Присвоение этого статуса означает, что в Европейском союзе к ChatGPT, Reddit и Roblox будут предъявляться строгие требования в плане контроля и ответственности, что соответствует масштабу их влияния на наших граждан и общество», — отметила в своём заявлении Вирккунен.

Новая статья: Ставим локальный ИИ на картофелину, или «ChatGPT есть у нас дома!»

Данные берутся из публикации Ставим локальный ИИ на картофелину, или «ChatGPT есть у нас дома!»

Реклама в ChatGPT стала доступна для европейских пользователей из 31 страны

OpenAI запустила 24 августа в ChatGPT рекламу в 31 стране Европы, сообщили «Ведомости» со ссылкой на блог компании. На первом этапе размещение будет доступно через рекламное подразделение OpenAI, агентства и технологических партнёров, а самостоятельный запуск через менеджер рекламы появится позднее в этом квартале.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Тестировать рекламу в сервисе OpenAI начала ещё в феврале в США, после чего за шесть месяцев распространила пилотный проект ещё на восемь рынков. Выход в 31 европейскую страну, включая Германию, Францию, Испанию, Италию, Швецию, Норвегию, Данию, Нидерланды и Австрию, станет следующим этапом международного расширения платформы. По данным компании, рекламой ChatGPT на сегодня уже воспользовались десятки тысяч рекламодателей.

За время тестирования OpenAI расширила набор рекламных инструментов. Помимо модели оплаты за тысячу показов (CPM), платформа теперь поддерживает оплату за клики (CPC) и оплату по модели oCPC (Optimized Cost Per Click) за совершения целевых действий. Также появились геотаргетинг, создание пользовательской аудитории и инструменты оценки результатов рекламных кампаний, включая OpenAI Pixel, Conversions API и интеграцию со сторонними системами аналитики.

OpenAI заявляет, что рекламные объявления в ChatGPT чётко маркируются и отделяются от ответов сервиса, а их размещение не влияет на содержание ответов ChatGPT. Компания планирует показывать рекламу в ситуациях, когда пользователи изучают и сравнивают товары или услуги и планируют покупки.

OpenAI добавит в ChatGPT защиту отдельных диалогов с помощью PIN-кода и отпечатка пальца

В ChatGPT может появиться отдельный режим для защиты сохранённых диалогов от глаз посторонних. Такие чаты можно будет скрывать из истории и поиска, оставляя доступ к ним только после ввода PIN-кода или проверки отпечатка пальца.

 Источник изображения: OpenAI (изменено)

Источник изображения: OpenAI (изменено)

Признаки разработки новой функции в приложении ChatGPT для Android версии 1.2026.230 обнаружили журналисты Android Authority. Найденные в коде текстовые строки подробно описывают принцип работы защищённых чатов. В частности, после блокировки название и содержимое разговора перестанут отображаться в обычной боковой панели, истории и поисковой выдаче ChatGPT. Чтобы снова открыть переписку, понадобится PIN-код или отпечаток пальца. При этом успешная авторизация не снимет защиту и чат останется заблокированным, пока пользователь сам не переведёт его обратно в обычный режим.

Как отмечают в Android Authority, нововведение не следует путать с уже доступными временными чатами. Последние не сохраняются в истории, поэтому после завершения разговора вернуться к ним нельзя, тогда как заблокированные переписки будут храниться в учётной записи и останутся доступными владельцу. Судя по найденному описанию, защитить таким образом можно будет любой сохранённый чат.

Особый подход предусмотрен и для сохранения данных в ChatGPT. Заблокированные чаты смогут учитывать сведения из общей памяти, но новая информация, которая была сохранена нейросетью во время защищённой переписки, не станет использоваться в обычных диалогах и останется внутри отдельных защищённых чатов. Таким образом, сведения из таких чатов автоматически не попадут в общую память ChatGPT.

В новой сборке уже присутствуют довольно подробные описания предстоящей функции, однако OpenAI пока не объявляла о её запуске, поэтому неизвестно, станет ли она доступна пользователям и когда это может произойти.

ChatGPT получил интеграцию с «Apple Сообщениями» — теперь ИИ может читать, писать и удалять сообщения

OpenAI представила новый плагин для ChatGPT, который обеспечивает интеграцию с сервисом «Apple Сообщения». Новый инструмент обещает некоторые удобства, отметили в компании.

 Источник изображения: Mariia Berezovsky / unsplash.com

Источник изображения: Mariia Berezovsky / unsplash.com

Среди преимуществ нового плагина упоминается возможность сортировать, анализировать и редактировать свои сообщения прямо в переписке с ChatGPT. Плагин поддерживает сервисы Codex и ChatGPT Work, так что средства интеграции можно использовать не только в личных целях, но и в профессиональной деятельности. В одном из примеров пользователь просит ChatGPT предложить ответы для всех собеседников, с кем он переписывался накануне.

ChatGPT может удалять сообщения, если его попросят, писать и отправлять их от имени пользователя, а также искать информацию в отдалённых уголках истории сообщений. Функция предсказуемо вызывает некоторые вопросы в аспекте конфиденциальности, но в OpenAI заверили, что плагин работает локально на устройстве пользователя, и он «не индексирует все сообщения», но не пояснили, что под этим подразумевается. Компания также посоветовала следить за действиями ChatGPT и порекомендовала включить постоянные подтверждения перед отправкой сообщений от имени пользователя. ИИ всё-таки допускает ошибки, и в переписке они могут обходиться дорого.

Новая система безопасности OpenAI поможет выявлять угрозы, скрывающиеся за цепочкой безобидных запросов

Компания OpenAI начала тестировать новый механизм безопасности для клиентов, имеющих доступ к её флагманским ИИ-моделям по платной подписке. По сообщению Bloomberg, меры призваны усилить защиту в условиях, когда клиенты всё чаще доверяют ИИ выполнение сложных задач и работу с конфиденциальной информацией.

 Источник изображения: OpenAI (дополнено)

Источник изображения: OpenAI (дополнено)

На текущий момент OpenAI гарантирует некоторым клиентам, использующим интерфейс API, политику «нулевого хранения данных», при которой не сохраняются запросы и ответы после завершения работы с ИИ. Теперь же, тестируя механизм, который получил название Private Safety Processing («Конфиденциальная обработка в целях безопасности»), OpenAI намерена научить систему выявлять совокупность закономерностей, а не отдельных запросов и ответов. Это поможет предотвращать попытки взлома как со стороны злоумышленников, так и со стороны ИИ-агентов, чьё поведение отклоняется от заданных норм безопасности.

Необходимость такого изменения в компании объяснили тем, что современные ИИ-модели всё чаще используются для выполнения сложных многоэтапных задач, а вместе с этим растёт и роль инструментов, способных действовать без подробных инструкций пользователя. Руководитель продуктовой политики OpenAI Алеа Хоуз (Aleah Houze) рассказала, что потенциальный риск не всегда можно обнаружить, рассматривая только отдельную пару запроса и ответа, поскольку подозрительная последовательность может складываться лишь при анализе нескольких взаимодействий, происходящих с течением времени. По её словам, отдельные обращения к ИИ могут выглядеть как вполне легитимное исследование в области кибербезопасности, тогда как их совокупность способна указывать на подготовку атаки.

В качестве примера Хоуз привела ситуацию, при которой пользователь в одном разговоре выясняет сведения об уязвимости какого-либо программного обеспечения, а позднее интересуется возможностями удалённого доступа и средствами обнаружения подобных угроз. Каждый из таких запросов сам по себе может не вызывать подозрений, однако их связь между собой способна доказать злонамеренное поведение.

OpenAI рассчитывает, что Private Safety Processing позволит учитывать подобный контекст и тем самым эффективнее противостоять как злоумышленникам, так и потенциально опасным ИИ-агентам, при этом сохраняя содержимое клиентских запросов недоступным для самой OpenAI. Тестирование проводится совместно с такими клиентами, как Microsoft и Databricks. Запуск системы, а также публикация отчёта с описанием технологии, запланированы на сентябрь.

OpenAI представила ChatGPT для подростков — он предназначен для образования и защищён от вредоносного контента

OpenAI представила специальную версию ChatGPT для подростков. По словам компании, новая платформа разработана, чтобы помочь подросткам учиться, критически мыслить, углублять понимание и уверенно использовать ИИ. Она также обеспечивает надёжную защиту от вредоносного контента и оснащена средствами родительского контроля. Все пользователи от 13 до 17 лет будут автоматически направляться в ChatGPT для подростков.

 Источник изображения: unsplash.com

Источник изображения: unsplash.com

Запуск сервиса основан на фундаментальной работе по поддержке подростков, включая внедрение родительского контроля, обновление спецификации модели OpenAI для лиц младше 18 лет, создание плана обеспечения безопасности подростков, внедрение прогнозирования возраста и расширение функций для поддержки обучения и здорового использования ИИ подростками. По словам разработчиков, новый сервис в полной мере учитывает интересы подрастающего поколения.

OpenAI стремится расширять образовательные возможности и поддерживать возможность обучения за пределами школы. Например, подросток, готовящийся к тесту, может попросить ChatGPT объяснить незнакомое слово, решить практическую задачу и проверить своё понимание.

 Источник изображений: OpenAI

Источник изображений: OpenAI

В ChatGPT для подростков объединены:

  • режим обучения, который использует наводящие вопросы и пошаговую поддержку, чтобы помочь подросткам понять материал;
  • новые напоминания о выполнении домашних заданий, которые могут распознать, когда подросток пытается упростить задание, и перенаправить его в режим обучения для пошагового совместного решения задач;
  • тесты и визуализация учебного материала для практики, проверки знаний и более наглядного представления сложных задач для проверки понимания;
  • выбор времени включения режима учёбы по умолчанию.

Разработчики утверждают, что активно сотрудничали с учителями, учёными и экспертами в области педагогики, опираясь на многолетние исследования в сфере образования. Основными задачами ChatGPT в режиме обучения создатели видят направляющие вопросы, поддержку, когнитивные подсказки и проверки знаний, чтобы помочь учащимся решать задачи шаг за шагом, а не просто получать готовое решение.

Для пользователей младше 18 лет ChatGPT применяет соответствующие возрасту меры защиты, разработанные для снижения воздействия контента, который может быть вредным или не соответствующим возрасту, сохраняя при этом возможность учиться, творить и исследовать. На практике это означает соответствующие возрасту меры защиты модели в областях повышенного риска, таких как членовредительство, насилие, опасные виды деятельности, сексуальный контент.

OpenAI также развивает инструменты родительского контроля. Родители с привязанными учётными записями подростков могут устанавливать «Тихие часы», управлять выбранными настройками и получать уведомления о безопасности.

ChatGPT для подростков разработан, чтобы поддерживать реальные отношения и здоровые привычки, с напоминаниями о перерывах, которые побуждают подростков отвлечься, и подсказками продукта, которые постоянно идентифицируют ChatGPT как ИИ. ChatGPT не должен использовать романтическую лексику, поощрять эмоциональную зависимость или подразумевать, что у него есть чувства или сознание.

OpenAI добавила подсказки и элементы управления, которые призваны снизить риски в контексте и указать подросткам на полезные инструменты и средства защиты, в том числе:

  • напоминания о загрузке конфиденциальных изображений, предупреждающие о недопустимости обмена личными или конфиденциальными сведениями;
  • ознакомление с функциями обучения и безопасности;
  • настройки, помогающие сделать взаимодействие с системой более персонализированным, не размывая грань между полезным инструментом и человеческими отношениями.

По утверждению OpenAI, эти меры защиты подкрепляются исследованиями безопасности, основанными на науке о развитии, экспертных оценках и тестировании защитных механизмов ИИ-моделей в областях, где подростки могут сталкиваться с особыми или повышенными рисками. Компания пообещала и дальше совершенствовать политику в отношении пользователей младше 18 лет и усиливать защиту продукта.

OpenAI разогнала GPT-5.6 Sol в 14 раз — флагманский ИИ теперь выдаёт до 750 токенов в секунду

OpenAI представила новый режим Ultrafast, предназначенный для существенного ускорения работы флагманской ИИ-модели GPT-5.6 Sol. Сверхбыстрый режим будет использоваться в задачах, где скорость ответа имеет особое значение.

 Источник изображения: Grok

Источник изображения: Grok

По сообщению TechCrunch со ссылкой на блог компании, Ultrafast позволяет GPT-5.6 Sol работать до 14 раз быстрее стандартного режима, выдавая до 750 выходных токенов в секунду. В OpenAI отмечают, что раньше высокая скорость работы с искусственным интеллектом обычно достигалась за счёт использования менее крупных или специализированных моделей, а теперь производительность наиболее мощной модели будет совмещена с более быстрым формированием ответа.

Новый режим может использоваться в корпоративных задачах, требующих быстрой обработки информации, включая реагирование на инциденты, обслуживание клиентов, анализ финансовых рынков и электронную коммерцию. Сейчас Ultrafast распространяется в предварительном режиме и пока доступен лишь избранной группе клиентов, а его работа обеспечивается в рамках сотрудничества с производителем чипов Cerebras.

OpenAI не уточняет сроки полноценного запуска, ограничившись обещанием постепенно расширять его доступность по мере роста вычислительных мощностей. Конкуренты OpenAI, например Anthropic, также выпустили ускоренные версии своих моделей. У Claude есть «быстрый режим» (fast mode), однако он не обеспечивает той скорости, которую предлагает на сегодня OpenAI.

OpenAI выпустила десктопное приложение ChatGPT для Linux

Приложение ChatGPT, уже доступное на огромном числе настольных компьютеров по всему миру, пока отсутствовало в одном сегменте — на платформах Linux. Сообщества разработчиков просили OpenAI обратить на себя внимание, и компания исправила это упущение, объявив о выходе предварительной версии ChatGPT для Linux.

 Источник изображения: x.com/OpenAI

Источник изображения: x.com/OpenAI

«Linux был платформой, на которой десктопное приложение было одним из наиболее востребованных, и этот выпуск расширяет поддержку ChatGPT и Codex на все основные настольные ОС», — говорится в заявлении компании. С новым приложением пользователи различных дистрибутивов Linux смогут пользоваться ChatGPT, ChatGPT Work и Codex — выпуск состоялся для аудитории по всему миру.

Предварительная версия программы поддерживает наиболее популярные дистрибутивы, в том числе десктопные варианты Ubuntu 24.04 и 26.04 LTS, Debian 13, Fedora 43 и 44. В сообществе Linux значатся несколько сотен систем, но указанные OpenAI платформы служат основой для большинства их вариантов и производных, так что и они должны быть совместимы с приложением OpenAI. Поддерживаются RPM-пакеты и пакеты Debian для процессоров x64 и Arm64.

Разработчик ChatGPT несколько отстал от своего конкурента в лице Anthropic, которая выпустила настольное приложение Claude для Linux около месяца назад. Оно доступно для Ubuntu 22.04, Debian 12 и более поздних версий этих систем.


window-new
Soft
Hard
Тренды 🔥
Вот это поворот: на покупку издателя «Мира танков» и «Мира кораблей» нацелился бывший российский гонщик «Формулы-1» 42 мин.
Запущена подписка Meta One с расширенными ИИ-функциями, Muse и всеми платными функциями Instagram, WhatsApp и Facebook 2 ч.
OpenAI, Anthropic и Google DeepMind уже давно тайно обсуждают, как не дать ИИ уничтожить человечество 2 ч.
В Америке прошло закрытое тестирование загадочного AAA-файтинга — журналисты подозревают, что это Injustice 3 5 ч.
В серверных продуктах GitLab нашлась уязвимость, которую эксплуатируют хакеры — рекомендовано срочно обновиться 6 ч.
За пять дней в раннем доступе Steam продажи Wardogs превысили два миллиона копий — успех игры защитит разработчиков от увольнений 6 ч.
Anthropic отправила Claude на Уолл-стрит — ИИ теперь анализирует портфели и готовит встречи с клиентами 6 ч.
DeepSeek готовится выйти на биржу — её новым финансовым директором станет ветеран Уолл-стрит 7 ч.
ИИ-агенты стали регистрироваться в соцсетях и засыпать администраторов платформ спамом 8 ч.
Мессенджер XChat соцсети X внезапно пропал из магазинов приложений — проект, возможно, закрыт 9 ч.
К следующему поколению видеокарт готовы: начались продажи кабелей HDMI 2.2 с пропускной способностью до 96 Гбит/с 19 мин.
Meta заставит ИИ работать дешевле — фирменные ускорители потеснят Nvidia в ЦОД уже в 2027 году 2 ч.
Роботы строят роботов: UBTech запустила умный завод человекоподобных машин 5 ч.
Поглощённый 11 лет назад Intel чипмейкер Altera подал конфиденциальную заявку на IPO 5 ч.
Samsung представила свой самый бюджетный смартфон Galaxy A08 — он получил 4 Гбайт LPDDR5X и батарею на 6000 мА·ч 5 ч.
Oppo представит фотофлагман Find X10 Pro Max и другие гаджеты 22 сентября 6 ч.
Юристы Latham & Watkins закупились NVIDIA-серверами — это плохой знак для Anthropic и OpenAI 6 ч.
Samsung выпустила Galaxy A18 — он стал толще и дороже предшественника, а о его чипе почти ничего не известно 6 ч.
Был завод, стал ИИ ЦОД: Teravolt предлагает переделать старые промышлынные объекты в дата-центры 6 ч.
Пентагон ведёт переговоры о предоставлении $5 млрд неооблачному стартапу Fluidstack 8 ч.