Опрос
|
реклама
Быстрый переход
Уязвимость в приложении ChatGPT для macOS позволяла хакерам получить доступ к конфиденциальным данным
03.10.2026 [05:33],
Николай Хижняк
Недавно устранённая уязвимость в версии ChatGPT для macOS компании OpenAI наглядно демонстрирует, насколько ценным для злоумышленников может быть взлом самого программного обеспечения на базе ИИ. Особенно, когда такие приложения получают всё более широкое распространение. 
Источник изображения: Unsplash, Mariia Shalabaieva Эту уязвимость можно было использовать для фактического захвата контроля над ChatGPT на компьютере жертвы. В этом случае злоумышленник мог получить доступ ко всей истории переписки и другим данным, хранящимся в приложении, а также к связанным ресурсам, таким как сеансы работы в браузере. Уязвимость, обнаруженная исследователями из фонда Objective-See Foundation, иллюстрирует глубокий уровень доступа к системе и высокий уровень доверия, которыми наделяются ИИ-платформы для выполнения своих функций. Этот случай одновременно показывает, какой привлекательной мишенью подобные платформы становятся из-за этого. «Для выполнения своих задач таким агентам требуется обширный доступ. Они подобны управляющему зданием, у которого есть ключи от всех помещений. Поэтому, если их работу удаётся скомпрометировать или перехватить контроль над ними, это создаёт серьёзнейшие проблемы. Это может означать, что код с низкими привилегиями потенциально получит доступ ко всем защищённым ресурсам», — рассказал в разговоре с Wired Патрик Уордл (Patrick Wardle), аналитик программного обеспечения фонда Objective-See Foundation и эксперт, давно занимающийся исследованиями безопасности macOS. Компания OpenAI публично признала наличие уязвимости и факт её устранения в журнале изменений системы 25 сентября. «Мы продолжаем совершенствовать наши методы обеспечения безопасности, но осознаем необходимость действовать быстрее», — заявил изданию Wired представитель OpenAI Шейн Бауэр (Shane Bauer). Приложение ChatGPT для macOS состоит из множества компонентов, которые взаимодействуют друг с другом по защищённым каналам, проверяя цифровые подписи. Цель таких проверок — подтвердить, что оба взаимодействующих процесса являются компонентами OpenAI, а не сторонним и, возможно, вредоносным программным обеспечением, отправляющим запрос. Архитектура системы предусматривает проверку подписей на трёх уровнях вложенности относительно самого запроса. Это гарантирует, что вредоносная программа не сможет каким-либо образом заставить компонент OpenAI выступить в роли посредника и выполнить запрос, который будет выглядеть как доверенный. Исследователи из Objective-See Foundation обнаружили наличие доверенного компонента — интерпретатора скриптов, — который принимал недоверенный скрипт (список команд для выполнения). Этим компонентом можно было манипулировать, чтобы внедрить такой скрипт в основной процесс ChatGPT. «Система также проверяет родительский и "прародительский" процессы, но вредоносный скрипт просто запускает интерпретатор трижды, а затем отправляет запрос, тем самым удовлетворяя всем требованиям проверки», — поясняет Уордл. 
Источник изображения: Unsplash, Flipsnack По его словам, эксплуатация этой уязвимости была «до смешного простой», а для создания прототипа, демонстрирующего проблему, потребовалось всего около дюжины строк кода. Помимо доступа к истории переписки в ChatGPT, уязвимость позволяла заставить чат-бот выполнять команды злоумышленника, например, запускать браузер или обращаться к другим критически важным приложениям. При этом запросы выглядели как легитимные инструкции, исходящие от самого программного обеспечения OpenAI. В ноябре на конференции Objective by the Sea, посвящённой вопросам безопасности экосистемы Apple, Уордл представит результаты анализа ряда уязвимостей в приложениях для macOS, использующих технологии искусственного интеллекта. Недавно он обнаружил и сообщил об исправлении уязвимости в функции диктовки нового ИИ-помощника Muse от компании Meta✴✴. Ею мог воспользоваться локальный злоумышленник (имеющий прямой доступ к оборудованию жертвы), чтобы перехватить некорректно обрабатываемый токен аутентификации и получить доступ к данным пользователя. Также Уордл сообщил, что уже передал в OpenAI информацию о новой уязвимости, связанной с интеграцией ChatGPT и нового ИИ-помощника Dots, который работает в фоновом режиме постоянно. В настоящее время OpenAI изучает его отчёт. «Сейчас компании, занимающиеся искусственным интеллектом, одержимы внедрением новых функций. Но, как это всегда бывает, чем больше функций, тем шире поверхность атаки. Поэтому всем этим компаниям необходимо уделять первостепенное внимание безопасности, однако, судя по всему, этот аспект зачастую отходит на второй план», — отметил Уордл. В ChatGPT появилась виртуальная примерочная
02.10.2026 [15:08],
Павел Котов
OpenAI продолжает экспериментировать с новыми возможностями чат-бота, призванными облегчить пользователям совершение покупок в интернете. Компания объявила о запуске по всему миру двух новых связанных с шопингом функций: виртуальной примерки одежды и аксессуаров, а также функции «Избранное», позволяющей сохранять понравившиеся товары. 
Источник изображения: OpenAI Разработчики помощников с искусственным интеллектом активно изучают сценарии применения технологий в области розничной торговли. Раньше в ChatGPT была функция мгновенного оформления заказа прямо в интерфейсе чат-бота , но она не оправдала ожиданий. Новые функции для шопинга основаны на представленной недавно модели ChatGPT Images 2.5 — разработчик пообещал более естественные эффекты освещения, более высокую детализацию текстур, более точное выполнение инструкций по редактированию и сокращённое время генерации изображений. Для работы с виртуальной примерочной необходимо загрузить в ChatGPT селфи или фотографию в полный рост — кнопка «Примерить» появилась в результатах поиска товаров в ChatGPT. Можно загрузить изображение товара, например, скриншот страницы с ним, и попросить ChatGPT «примерить» его на своё изображение. Есть возможность описать желаемый стиль и попросить ИИ подобрать вещи для формирования соответствующего образа; или загрузить фотографии нарядов знаменитостей и попросить чат-бот найти доступные для покупки предметы гардероба, которые на них надеты. ChatGPT начинает осваивать сферы, в которых в последние годы доминировали Pinterest и Google — они выступали как источники вдохновения и площадки для поиска модных решений с возможностью конвертироваться в продажи для интернет-магазинов. Google запустила виртуальную примерочную в прошлом году — ChatGPT будет непросто бороться за пользователей. Хакеры сделали поддельный ChatGPT прямо на сайте OpenAI — жертвам подсовывали троян с полным доступом к ПК
01.10.2026 [16:43],
Павел Котов
Киберпреступники стали использовать кастомные версии ChatGPT в сочетании с сервисами Google для проведения атак типа ClickFix и внедрения на системы жертв вредоносного ПО, которое передаёт компьютер пользователя под контроль хакеров. О хитроумной схеме рассказали эксперты из компании Huntress — как только её удалось пресечь, через несколько дней появилась новая подделка. 
Источник изображения: BoliviaInteligente / unsplash.com В основе мошеннический схемы лежит функция Custom GPT. Пользователи могут настраивать ChatGPT под конкретные задачи: создавать собственные версии чат-бота с особыми наборами инструкций, базой знаний, файлами, а также прочими инструментами и возможностями. Производным чат-ботам можно присваивать уникальные названия, наделять их определённым характером и задавать варианты фраз для начала диалога. Кастомные чат-боты размещаются на основном домене ChatGPT, поэтому при переходе по ссылке из электронного письма потенциальная жертва не испытывает подозрений. В данном случае производному чат-боту присвоили название «Plus 5.6» — для тех, кто не особо внимательно следит за продуктами OpenAI, оно может сойти за официальное. Он запрограммирован выдавать одно и тоже сообщение независимо от запроса: «В данный момент наблюдаются трудности с доступом по основному домену», — за которым следует инструкция по переходу на «резервный». Резервный размещён на платформе Google Sites, что также призвано создать видимость надёжности, хотя внимательный пользователь может задаться вопросом, зачем OpenAI использовать ресурсы Google. Переход на этот сайт раскрывает истинные намерения злоумышленников: там размещена поддельная защита от ботов Cloudflare, а также предложение вставить фрагмент кода в интерфейс командной строки. Если сделать это, на компьютер загрузится и запустится троян удалённого доступа, который специалисты Huntress назвали «@input» — он открывает злоумышленникам почти полный контроль над заражённой машиной под Windows. Они могут видеть изображение экрана жертвы, управлять компьютером удалённо, а также активировать веб-камеру, микрофон и системный звук для скрытого наблюдения и прослушивания. Злоумышленники могут просматривать любые файлы на компьютере; кроме того, они проверяют установленное защитное ПО, запущенные программы и способы подключения ПК к сети. Далее в большинстве случаев незаметно для жертв устанавливаются дополнительные компоненты и другие вредоносные модули. Для связи с операторами @input использует зашифрованные каналы, маскирующиеся под обычный веб-трафик. Вредонос, предположительно, управляется через профессионально поддерживаемую и организованную инфраструктуру. Проблема затронула несколько десятков жертв. Исследователи связались с OpenAI, и поддельный чат-бот заблокировали 25 сентября. А уже через два дня появился новый. OpenAI своими новыми функциями бросила вызов традиционной модели магазинов приложений
30.09.2026 [09:00],
Павел Котов
Крупнейшими анонсами на конференции для разработчиков OpenAI Dev Day накануне стали агенты искусственного интеллекта Dots и новые модели ИИ; новые продукты в совокупности указывают на более масштабный замысле компании — она стремится изменить традиционную схему магазинов приложений. ChatGPT превращается в платформу, на которой пользователи и ИИ-агенты находят, запускают и используют программные продукты. 
Источник изображений: openai.com OpenAI представила механизм, позволяющий пользователям сохранять профиль и настройки ChatGPT при переходе в другие сервисы и использовать имеющиеся у них лимиты функций ИИ в сторонних приложениях. Чат-бот с аудиторией 1,2 млрд активных пользователей в месяц превращается в площадку для запуска приложений — прямо в ходе диалога он сам предлагает приложение, если распознаёт, что оно способно помочь пользователю в решении текущей задачи. Можно подключить приложение и начать пользоваться им, не покидая интерфейса ChatGPT. Этому также способствует усиление архитектуры плагинов ChatGPT, которая теперь поддерживает полноценные расширения. Разработчики могут создавать интерактивные панели, позволяющие пользователям обращаться к инструментам во время переписки с ChatGPT. Приложения и сервисы, которые ранее использовались через браузер или нативные десктопные или мобильные программы, теперь функционируют прямо внутри ChatGPT. Разработчики ПО теперь могут создавать версии своих приложений, изначально ориентированные на ИИ — так же, как это делается в веб-версиях и с мобильными приложениями. Учитывая, что современный пользователь находит новые сервисы через чат-боты, этот канал дистрибуции представляется привлекательным. У самих пользователей также появляется стимул использовать этот канал — функция «Войти через ChatGPT» позволяет переносить настройки и лимиты использования ИИ в сторонние сервисы. В рамках этой инициативы у OpenAI на запуске уже 16 партнёров, в том числе Cognition Devin, Notion, Vercel, T3, OpenClaw и Dactyl — вскоре компания намерена привлечь и других. OpenAI продемонстрировала два примера работы таких приложений: ИИ может вести запись во время совещания, а затем представить сводку и перечень дальнейших действий; ещё один вариант — работа с приложениями для дизайна, такими как Figma и Adobe, с возможностью вносить правки в текущий проект и использовать функции, для которых раньше потребовалась бы отдельная программа. Созданные в ChatGPT лёгкие веб-версии приложений можно отправлять другим людям, например, коллегам. Перейдя по ссылке, человек авторизуется под своей учётной записью и с собственными правами доступа — работа с программой становится персонализированной для каждого.  Улучшен процесс подачи разработчиками плагинов на проверку, своего рода аналог Apple App Review. Разработчики могут отслеживать статус проверки, видят, что нужно исправить, запрашивают проверку специалистом и обновляют инструменты плагина без необходимости начинать процедуру подачи заявки с нуля. OpenAI анонсировала новый маркетплейс корпоративных приложений, где партнёры могут предлагать свои продукты — среди них значатся Adobe, Figma, Sierra, Decagon, HubSpot, Salesforce, ServiceNow, Harvey, Legora, Palo Alto Networks, CrowdStrike и Baseten. Некоторые клиенты могут направлять часть согласованного с OpenAI объёма расходов на такое партнёрское ПО. Особое место в новое экосистеме занимают ИИ-агенты Dots: у каждого есть свой облачный компьютер и браузер, а также доступ к подключённым приложениям. Пользователю достаточно сообщить, что он хочет сделать, и ИИ-агент сам выполняет задачу; в некоторых случаях ему требуется доступ к другой модели ИИ или к конкретному приложению — он сам предлагает пользователю оптимальное решение, избавляя его от необходимости самостоятельно подбирать подходящий для задачи инструмент. Dots подключаются к экосистеме OpenAI, в которой на данный момент более 4000 приложений; ИИ-агент действует проактивно, предлагая помощь в работе над проектом или в устранении ошибки, а также выполняя задачу, о которой пользователь забыл — и всё это происходит только с его одобрения. Разработчики получают новый канал взаимодействия с клиентами в обход экосистем Apple и Google. Можно оформить подписку на сервис через сайт разработчика, а затем привязать эту учётную запись к ChatGPT или Codex, чтобы ИИ-агент мог использовать данный сервис. Хотя в OpenAI и не заявляли, что эти функции дадут возможность отказаться от сторонних подписок или иных платежей. Компания накануне рассказала о новых механизмах, но пока не представила планов по внедрению системы биллинга или распределения доходов, как у традиционных магазинов приложений. OpenAI представила Dots — ИИ-агентов с собственными компьютерами, которые могут работать круглосуточно без пользователя
29.09.2026 [21:41],
Андрей Созинов
OpenAI представила Dots — новый тип постоянно работающих ИИ-агентов, способных самостоятельно выполнять многошаговые задачи, вести проекты, пользоваться приложениями, писать и тестировать код, и продолжать работу без участия человека. В OpenAI говорят, что Dots могут работать круглосуточно и со временем адаптироваться к предпочтениям пользователя. 
Источник изображений: OpenAI Ключевое отличие Dots от обычного ChatGPT заключается в том, что агент получает собственную вычислительную среду. Каждый Dot работает на отдельном облачном компьютере с собственным браузером и учётной записью для управления доступом и разрешениями. Пользователь при этом может открыть виртуальный компьютер и посмотреть, чем именно Dot занимается. При этом по умолчанию облачная среда изолирована от компьютера пользователя. Но при необходимости Dot можно подключить к собственному компьютеру, и агент сможет работать непосредственно на устройстве пользователя. В качестве основы Dots используется модель GPT-6 Astra. OpenAI также интегрировала агентов с собственной экосистемой плагинов, благодаря чему они могут работать более чем с 4000 приложений. Взаимодействовать с Dot можно через ChatGPT, текстовые сообщения, Slack и Microsoft Teams, а также обращаться к агенту можно и по голосовой связи. Контекст сохраняется между каналами связи. Главная особенность Dots — способность самостоятельно продолжать начатую работу. Пользователю необязательно держать открытый чат и контролировать каждый шаг: агент может взять проект, выполнять его отдельные этапы, отслеживать изменения и обращаться к пользователю только тогда, когда требуется его решение.  Например, агент способен отслеживать отзывы пользователей о приложении, находить повторяющиеся проблемы, вносить исправления в код и подготавливать их к проверке разработчиком. При этом окончательные решения по внесению изменений остаются за пользователем. В другом сценарии агент следит за подготовкой запуска продукта. Если характеристики продукта или требования к нему меняются, Dot может пересмотреть план запуска, обновить документы и рекламные материалы и подготовить изменения к проверке человеком. Для исследовательских задач агент способен повторять анализ по мере поступления новых данных, изучать неожиданные результаты и обновлять иллюстрации и выводы.  Интересно, что Dots рассчитаны не только на выполнение конкретных заданий, но и на проактивную работу. OpenAI называет это «проактивным исследованием»: агент может обращаться к подключённым приложениям в фоновом режиме и искать способы продолжить текущую работу. На этом этапе такие фоновые инструменты имеют ограниченные возможности — например, они не могут самостоятельно отправлять сообщения, изменять содержимое приложений или управлять браузером и компьютером пользователя. И в целом автономность Dots ограничена системой разрешений. Пользователь сам определяет, к каким приложениям получит доступ агент, и может задавать правила для отдельных действий: разрешать их автоматически, требовать подтверждения или полностью запрещать. Dots также попросят подтвердить действия, которые затрагивают аккаунты пользователя или могут привести к передаче информации. Некоторые операции, например смена пароля, OpenAI оставляет исключительно за человеком. У Dots есть и отдельный механизм защиты от потенциально опасного поведения. Если агент обнаруживает угрозу безопасности, он может приостановить или полностью прекратить выполнение задачи. OpenAI отдельно подчёркивает, что Dots всё равно могут ошибаться, поэтому результаты работы, от которых зависят важные решения или действия, необходимо проверять. Для бизнеса OpenAI готовит специализированные версии Dots. Здесь агент получит отдельную учётную запись, собственные учётные данные и только тот набор доступов к корпоративным системам, который необходим для выполнения конкретной роли. Компания уже тестирует сценарии для закупок, обработки счетов, email-маркетинга, клиентской поддержки и заключения коммерческих договоров. На старте Dots доступны пользователям ChatGPT Pro и Business Premium, а для корпоративных клиентов Enterprise предлагается бета-версия. Первый Dot входит в тарифы без дополнительной платы, а в будущем OpenAI планирует взимать отдельную ежемесячную плату за добавление новых агентов, повышение их скорости или объёма выполняемой работы. Meta✴ нашла слабое место OpenAI — ИИ-агент Muse стремительно набирает популярность
25.09.2026 [19:20],
Сергей Сурабекянц
ИИ-агент Muse компании Meta✴✴ обошёл ChatGPT в рейтингах бесплатных ИИ-помощников. Muse способен просматривать сайты, переходить по ссылкам, вводить текст и вести диалог в интернете, выполняя поставленные пользователем задачи. Meta✴✴ объявила о планах внедрить Muse в свои умные очки, а также о разработке нового гаджета в стиле тамагочи под названием Muse Charm. ChatGPT пока остаётся «лицом» потребительского ИИ, однако слегка подрастерял прелесть новизны. 
Источник изображений: unsplash.com Сами по себе возможности Muse не новы и сопоставимы с ChatGPT и другими ИИ-помощниками. И все же стремительный взлёт популярности Muse может стать серьёзной головной болью для генерального директора OpenAI Сэма Альтмана (Sam Altman). Выход Muse доказывает, что ИИ-инструмент может эффективно работать без опоры на передовые модели OpenAI. Это также свидетельствует о готовности Meta✴✴ вкладывать огромные средства в то, чтобы её ИИ-ассистент оставался бесплатным. Кроме того, это сигнал, что давние попытки OpenAI закрепиться в сфере «работы с браузером» (на чём во многом базируется функциональность Muse) не обеспечивают компании надёжного конкурентного преимущества. Энтузиасты, традиционно первыми осваивающие новинки, уже присматриваются к альтернативным ИИ-помощникам, из-за чего OpenAI рискует остаться позади. Выбор пользователей достаточно широк: от продукта крошечного стартапа Instinct до Grok Bot от SpaceXAI и Gemini Spark от Google, за которыми стоит колоссальный ресурсный потенциал этих гигантов. И наконец, теперь есть Muse, продвигаемый благодаря агрессивной стратегии роста Meta✴✴. «Все так или иначе подступаются к этой теме», — отметил аналитик Techsponential Ави Грингарт (Avi Greengart). По его словам, запуск каждого такого помощника отражает общую тенденцию: компании пытаются найти надёжный и прибыльный способ использования ИИ, чтобы — как они надеются — улучшить жизнь людей.  Главным конкурентом OpenAI всегда была компания Anthropic, однако у первой изначально имелось весомое преимущество: аудитория ChatGPT значительно превышает Claude. В этом году число еженедельных активных пользователей инструмента от OpenAI достигло 1 миллиарда. В противостоянии с Meta✴✴ таким показателем не похвастаешься. Империя Марка Цукерберга (Mark Zuckerberg) охватывает более 3 миллиардов ежедневных активных пользователей сервисов Instagram✴✴, Facebook✴✴, Messenger и WhatsApp. Рекламный бизнес компании приносит достаточно средств для финансирования вычислительных мощностей для ИИ. Настоящим хитом стали умные очки Meta✴✴, обеспечив компании ещё одну точку взаимодействия с пользователями. По данным аналитической фирмы Sensor Tower, за 13 дней после запуска мобильную версию Muse скачали более 2,5 миллионов человек. По мнению экспертов, главным преимуществом Muse является простота. Интерфейс помощника напоминает окно мессенджера, он быстро справляется с задачами и уже получил восторженные отзывы от энтузиастов, начавших пользоваться им в числе первых. И хотя инструмент предназначен для рабочих задач, он, подобно ChatGPT, умеет отвечать на вопросы. Аналитики полагают, что, несмотря на стремительный рост Muse, борьба ещё далека от завершения, поскольку показатели удержания пользователей свидетельствуют об успехе лучше, чем первоначальная волна скачиваний. По их мнению, в сегменте чат-ботов, как и в любой другой сфере, существуют различные уровни вовлеченности, оттока и удержания аудитории, и на данный момент ChatGPT демонстрирует лучшие результаты по этим показателям. OpenAI пока не представила прямого ответа на Muse. Тем не менее, уже поползли слухи о готовящемся конкурентном продукте компании, а руководитель по продуктам OpenAI Тибо Соттьо (Thibault Sottiaux) прямо намекнул на скорый релиз программного решения. ChatGPT-6 Astra расшифровала сообщение, которое люди не могли разгадать со времён Первой мировой войны
20.09.2026 [11:31],
Владимир Мироненко
ИИ-модель ChatGPT-6 Astra расшифровала сообщение 108-летней давности, адресованное Верховному командованию Германии и вниманию адмирала или, возможно, военно-морского командования. Как оказалось, сообщение содержит информацию о передвижениях английского крейсера и эскадры союзников вблизи Крымского полуострова в ноябре 1918 года. 
Источник изображения: scienceblogs.de Разработчик Prinz выбрал это сообщение в известном списке из 50 неразгаданных шифров, опубликованном немецким порталом научных блогов Scienceblogs.de. Известно, что текст был закодирован с использованием метода ADFGVX. Тем не менее до нынешнего момента разгадать его не удавалось. Зашифрованное сообщение выглядит как бессмыслица. Немецкие военные в то время использовали сложную последовательность букв, которая менялась в зависимости от текущего ключевого слова. Astra расшифровала сообщение, используя в качестве ключа слово TRUPPENVERSCHIEBUNG. В результате сообщение выглядело так: EIN ENGLISCHER KREUZER EINLIEG X SEWASTOPOL X S4STEN X EIN GESCHWADER DER X ALLIIERTEN FOLGT 26STEN X (Английский крейсер прибыл в Севастополь ?4 числа, а 26 числа за ним прибыла эскадра союзников). Astra также сверила содержащуюся в сообщении информацию с военными архивами. Данные о времени прибытия крейсера совпадают с информацией о прибытии британского крейсера HMS «Кентербери» в Севастополь (Крым) — 24 ноября 1918 года. Таким образом, «?» — это, вероятно, опечатка, допущенная при передаче. При этом дата прибытия эскадры союзников указана верно (26 ноября). GPT-Astra предполагает, что до этого расшифровать сообщение не удавалось потому, что дешифровщики исходили из предпосылки, что слово TRUPPENVERSCHIEBUNG использовалось в качестве ключа, начиная с 9 декабря 1918 года, а сообщение было передано немного раньше — 29 ноября. Сотни людей читают переписки пользователей с ChatGPT — и OpenAI платит им за это от $50 в час
15.09.2026 [20:47],
Сергей Сурабекянц
Издание 404 Media выяснило, что OpenAI нанимает через подрядчиков сотни людей для анализа огромного потока запросов пользователей к ChatGPT. Их задача — улучшить качество ответов, которые ChatGPT выдаёт пользователям: люди оценивают и анализируют сгенерированные ботом реплики. Они изучают диалоги между пользователями и чат-ботом, о возможности прочтения которых живыми людьми даже не подозревает большинство из более чем 900 миллионов пользователей сервиса. 
Источник изображений: unsplash.com Во внутренних документах, попавших в распоряжение 404 Media, указано, что подрядчики обучают ChatGPT избегать антропоморфизма (приписывания себе человеческих черт) и чрезмерной угодливости. Последнее является серьёзной проблемой для OpenAI: как утверждается в ряде судебных исков, излишне подобострастное поведение модели 4o отчасти привело к самоубийствам нескольких человек. В распоряжении издания 404 Media оказались обширные материалы, касающиеся привлечения OpenAI людей-рецензентов: инструкции, переписка в Slack, реальные запросы пользователей ChatGPT и система оценки, которую рецензенты используют для совершенствования чат-бота. Такая практика анализа запросов отличается от официально объявленных мер безопасности ChatGPT — например, проверки чатов в случаях, когда компания выявляет пользователей, планирующих причинить вред другим людям. Утечка указывает на серьёзные риски для конфиденциальности пользователей ChatGPT, ведь многие воспринимают чат-бота как психотерапевта, профессионального помощника или виртуального друга, делясь с ним самыми сокровенными подробностями своей жизни. Подрядчики не видят имён пользователей, а OpenAI заявляет, что старается удалять личную информацию до того, как запросы попадут к проверяющим. Впрочем, компания признает, что конфиденциальные данные все же могут просочиться в ходе процесса.  Кроме того, эти внутренние документы развеивают заблуждение о том, что модели совершенствуются исключительно благодаря массовому сбору данных из интернета, таланту высокооплачиваемых инженеров и специалистов по ИИ или мощности новых версий моделей. Важным, но часто упускаемым из виду фактором является труд сторонних подрядчиков, которым платят за то, чтобы они снова и снова анализировали ответы ChatGPT на реальные запросы пользователей. «Отличный ответ должен учитывать намерение пользователя, быть полезным и точным, а также быть написанным в ясном, естественном и достаточно доброжелательном стиле», — говорится в одной из инструкций для сторонних подрядчиков. Их работа разделена на три этапа: чтение реального запроса пользователя ChatGPT, его краткое изложение и критический разбор вариантов ответов, сгенерированных ChatGPT на этот запрос. В рабочем интерфейсе рецензенты могут сами выбирать, за какую задачу взяться. После выбора им демонстрируется реальный запрос пользователя ChatGPT. Издание 404 Media ознакомилось с множеством таких запросов, но не приводит их дословно из соображений защиты источников. Некоторые запросы свидетельствуют о том, что пользователи ChatGPT не предполагают, что их переписку может прочитать человек, поскольку они просят чат-бота сохранить содержание беседы в тайне.  По словам одного из работников, чтение запросов иногда бывает «довольно забавным», но в целом эта работа — «очень однообразная и рутинная». Он также отметил, что рабочий процесс кажется «хаотичным»: инструкции часто меняются и порой противоречат друг другу. Запросы анонимизированы, но, тем не менее, могут содержать конфиденциальную или личную информацию. В разделе над самим запросом иногда приводится «сводка воспоминаний пользователя» (user memories summary) — краткий обзор того, для чего пользователь ранее пытался использовать чат-бота. В некоторых случаях там также указывается примерное местоположение человека и другие личные сведения. Рецензентам предписывается передавать вышестоящим специалистам подобные задачи, содержащие личную информацию или вызывающие «потенциальные опасения с точки зрения безопасности». По словам OpenAI, перед отправкой исполнителям разговоры пользователей проходят обработку с помощью специальной модели — фильтра конфиденциальности (Privacy Filter). Эта система предназначена для выявления и удаления личной информации. «Как и любые модели, Privacy Filter может допускать ошибки. Она способна пропустить редкие идентификаторы или неоднозначные упоминания частной информации, а также избыточно или недостаточно скрывать данные при ограниченном контексте — особенно в коротких фрагментах текста», — говорится на сайте OpenAI.  OpenAI не ответила на вопрос, уведомляет ли компания пользователей о том, что люди могут просматривать их запросы для улучшения ответов ChatGPT, и если да, то где именно приводится эта информация. На сайте компании описано, что люди могут просматривать лишь контент, помеченный как нарушающий условия использования сервиса или представляющий угрозу безопасности. В политике конфиденциальности OpenAI указано, что компания может использовать персональные данные для совершенствования своих моделей. Если пользователь решит удалить историю диалогов в ChatGPT, OpenAI обещает стереть эти данные из своих систем в течение 30 дней — за исключением случаев, когда информация «уже была обезличена и отвязана от учётной записи». После публикации статьи в 404 Media OpenAI всё же указала на раздел сайта, где говорится, что люди могут просматривать контент для «улучшения работы модели». OpenAI утверждает, что чаты пользователей не будут использоваться для обучения моделей компании, если те отключат настройку «улучшение модели для всех» (improve the model for everyone). Эта функция включена по умолчанию для бесплатных тарифов, а также для подписок Plus и Pro, поэтому пользователям необходимо самостоятельно её отключить. В OpenAI уточнили, что это правило распространяется лишь на новые диалоги и не имеет обратной силы. У корпоративных клиентов (Enterprise, Business и Edu) настройка обучения модели по умолчанию отключена.  Поиском исполнителей для анализа запросов к ChatGPT занимается рекрутинговое агентство Crossing Hurdles. Согласно информации на сайте компании, она «связывает квалифицированных специалистов с возможностями в сфере обучения ИИ, оценки, исследований и участия в проектах глобальной индустрии искусственного интеллекта». На странице Crossing Hurdles в LinkedIn размещено множество вакансий, связанных с ИИ, включая позиции специалиста по проверке данных, аннотатора данных и «оценщика чат-ботов». В описании последней вакансии не упоминаются OpenAI или ChatGPT, однако в обязанности входит «оценка ответов ИИ с точки зрения персонализации, опоры на факты (grounding), интеграции и полезности», а также «сравнение ответов модели и оценка их общего качества». Среди доступных проектов есть и такие, где исполнители записывают на видео выполнение домашних дел — этот процесс сбора данных критически важен для разработки робототехники на базе ИИ. Люди-проверяющие уже давно играют важную (хотя зачастую и незаметную) роль в модерации контента в социальных сетях и в совершенствовании моделей искусственного интеллекта — например, тех, что распознают объекты в видеопотоке с камер. Практика привлечения людей к проверке диалогов с ИИ не ограничивается одной лишь OpenAI. Например, в уведомлении к чат-боту Gemini от Google говорится: «Люди просматривают некоторые сохранённые чаты, чтобы улучшить работу искусственного интеллекта Google». Представители компании Anthropic также подтвердили, что используют ручную проверку для совершенствования своих моделей, в том числе для улучшения будущих ответов чат-бота Claude. 
Источник изображения: Anthropic Сообщается, что оплата труда «оценщиков чат-ботов» составляет от $50 в час, что заметно превышает доходы других подрядчиков в технологическом секторе — будь то модераторы контента в соцсетях или специалисты по обучению ИИ. Впрочем, эксперты полагают, что столь щедрые расценки со временем снизятся по мере совершенствования моделей ИИ. Создавать сайты и веб-приложения в ChatGPT теперь можно командой
12.09.2026 [17:25],
Павел Котов
OpenAI улучшила работу запущенного около трёх месяцев назад сервиса ChatGPT Sites, который позволяет создавать, публиковать сайты и простые веб-приложения, просто описывая желаемый результат естественным языком. Теперь над проектом могут работать несколько человек. 
Источник изображения: BoliviaInteligente / unsplash.com Ранее процесс создания сайта в ChatGPT Sites был индивидуальным занятием; теперь сервис дополнила функция Build Together, позволяющая приглашать к работе над проектом других людей. Они могут самостоятельно вносить, сохранять и публиковать изменения, что значительно упрощает работу в командном формате. При подготовке ресурса для небольшого мероприятия или для работы можно не просто обмениваться мнениями и обсуждать предложения, а сразу подключаться к процессу и работать напрямую. Возможность совместной работы не означает что проект будет доступен всем: можно сохранить приватный формат проекта, предоставив доступ только определённым людям. Это пригодится, если речь идёт о создании внутренних инструментов, ранних прототипов или других проектов, над которыми хочется поработать узким кругом лиц, прежде чем открывать сайт для широкой аудитории. Примерно вдвое сократилось время от ввода запроса до развёртывания сайта — если пользователь постоянно экспериментирует с идеями и постоянно вносит изменения, высокая скорость работы может сыграть существенную роль. Упростился доступ к информации «под капотом»: ChatGPT может проанализировать подключённую к сайту базу данных и показать результат другим допущенным к редактированию пользователям. Это пригодится, когда ведётся разработка средства для сбора информации, и хочется быстро проверить, какие именно данные сохраняются, не делая этого вручную. Наконец, появилась поддержка пользовательских доменов — к созданному и опубликованному ChatGPT сайту можно привязать собственный адрес. ChatGPT по ошибке позволял одним пользователям Gmail читать почту других
09.09.2026 [20:00],
Павел Котов
Агенты искусственного интеллекта ChatGPT могли извлекать конфиденциальные данные из одной учётной записи и передавать их в другую, потому что все они отчасти работали в единой среде. Обнаруженная экспертами Check Point Research (CPR) уязвимость получила название «вынужденный инсайдер» (coerced insider) — для её эксплуатации требовались манипуляции действиями агента, а не прямое обращение к программной ошибке. 
Источник изображения: ilgmyzin / unsplash.com Когда ИИ-агент получает требующую выполнения кода задачу, он обрабатывает её в изолированном контейнере, который иногда требует установки дополнительного ПО. Чтобы обеспечить эту возможность без прямого доступа к интернету, который был бы слишком рискованным, OpenAI направляет запросы на получение пакетов через внутренний экземпляр JFrog Artifactory — в качестве дополнительной меры безопасности относящиеся к разным учётным записям контейнеры не могут взаимодействовать друг с другом напрямую. Но они могут обращаться к одной внутренней службе — она предоставляет функцию управления объектами, которая позволяет контейнерам прикреплять текстовые или бинарные свойства к элементам репозитория. В результате один контейнер может читать свойства, записанные другим. Это позволяет разворачивать атаку с использованием «инъекций запросов» — разница лишь в том, что и запросы, и ответы передаются через эти свойства объектов. Злоумышленник отправляет запрос или инициирует совместный чат, давая агенту указание проверить это хранилище при подготовке очередного ответа — агент проверяет его, обнаруживает вредоносную команду и выполняет её, продолжая отвечать на вопрос жертвы в обычном режиме — та и не подозревает, что в это время производится кража данных. Масштаб ущерба при такой атаке зависит от объёма данных, которыми обменивается взаимодействующий с жертвой агент: изначально система располагает только той информацией, которой пользователь делится в ходе переписки с агентом. Но этот объём данных растёт по мере подключения сторонних сервисов: Gmail, «Google Диск», Microsoft Teams, GitHub. В ходе одной из демонстраций ИИ-агент ChatGPT извлёк данные из почты одного пользователя и передал их условному злоумышленнику. Эксперты CPR сообщили об открытии в OpenAI — та подтвердила, что экземпляр Artifactory вывели из эксплуатации и тем самым перекрыли вектор атаки. Компаниям рекомендовали зафиксировать, какими ИИ-инструментами пользуются сотрудники, к каким системам эти средства подключены, а также регламентировать действия ИИ-агентов и прочих приложений, рассматривая все их операции, а не только ответы, как действия, требующие постоянного контроля. OpenAI представила генератор изображений ChatGPT Images 2.5 с упором на редактирование
09.09.2026 [08:36],
Павел Котов
OpenAI представила обновлённый вариант генератора изображений ChatGPT Images 2.5 — в этой версии разработчик сделал упор не на способности модели рисовать красивую картинку, а на точности выполнения запросов пользователя при редактировании существующих. 
Источник изображений: openai.com При загрузке исходной фотографии в качестве образца модель OpenAI ChatGPT Images 2.5 стала лучше сохранять идентичность ключевого объекта, например, человека, если нужно изменить стиль или сцену изображения. Повысилась точность выполнения инструкций: при редактировании модель эффективнее изменяет только те аспекты изображения, на которые указывает пользователь, не трогая остальных — это могут быть фон, предмет гардероба или надпись. Особенно важной новая возможность представляется при редактировании за несколько шагов — больше не придётся беспокоиться, что на одном из этапов лицо человека изменится, или действия предыдущего этапа будут сведены на нет на последующем.  Повысилась скорость работы: по сравнению с предшественницей OpenAI ChatGPT Images 2.5 может экономить до 50 % времени при выполнении запроса. Модель стала более восприимчивой к сложным запросам — она лучше обрабатывает описания композиций, текст, прозрачный фон и визуальные стили. При экспорте изображения можно быстро опубликовать не только саму картинку, но и соответствующий ей запрос, благодаря чему другие пользователи сервиса могут попытаться добиться того же результата со своим исходным изображением. Важным нововведением стала функция «Набросок» (Sketch): теперь прямо в интерфейсе ChatGPT можно от руки изобразить примерную схему того, что должно получиться на выходе — это пригодится, когда описать пространственную композицию словами оказывается непросто. Полезной окажется и функция шаблонов для типовых задач при генерации постеров или маркетинговых материалов.  Генератор изображений OpenAI ChatGPT Images 2.5 доступен на платформах ChatGPT, ChatGPT Work и Codex в десктопных и мобильных приложениях, а также в веб-интерфейсе и через API. Модель доступна в двух вариантах: в более простом и универсальном GPT-Image-2.5 Flare, который подойдёт для большинства задач; а также в медленном GPT-Image-2.5 Sunburst, который предлагает максимальный контроль и высокую точность редактирования. При генерации к картинкам добавляются невидимые «водяные знаки» и метаданные C2PA — маркировка обеспечивает прозрачность для созданных или отредактированных с помощью ИИ изображений. Масштабный сбой вывел из строя популярные платформы ИИ, включая ChatGPT, Claude и Grok
03.09.2026 [18:45],
Сергей Сурабекянц
Сервис мониторинга DownDetector зафиксировал резкий рост числа сообщений о масштабных сбоях в работе сразу нескольких популярных платформ искусственного интеллекта, включая ChatGPT от OpenAI, Claude от Anthropic и Grok от X. Сообщения пользователей подтверждаются данными с соответствующих панелей мониторинга. 
Источник изображения: unsplash.com Хотя сбои в работе ИИ не являются чем-то необычным, на этот раз все три платформы не работают одновременно. Cursor также не работает из-за сбоев Grok и Claude. Gemini от Google, по-видимому, пока не затронут. Несмотря на всплеск пользовательских сообщений примерно в то же время, Google не подтвердила наличие проблем. 
Источник изображения: DownDetector Эксперты полагают, что основная проблема может быть связана с облачным сервисом Microsoft Azure, где также наблюдается всплеск сообщений о сбоях. Все три отказавшие платформы искусственного интеллекта используют Azure для облачных сервисов, хотя в этом сегменте присутствуют и другие поставщики, включая Google.  Менее чем за 200 дней рекламная выручка OpenAI достигла $1 млрд в годовом выражении
01.09.2026 [08:47],
Алексей Разин
Прежде OpenAI делала ставку на получение выручки от подписок на ChatGPT, предлагаемых частным пользователям. Поняв, что в этом сегменте подобные схемы монетизации не очень эффективны, она запустила рекламу в ChatGPT, которая помогает оправдывать расходы на инфраструктуру ИИ и обучение моделей хотя бы частично. Сейчас рекламная выручка OpenAI уже превышает $1 млрд в приведённом к году объёме. 
Источник изображения: OpenAI Об этом стартап сообщил на страницах корпоративного блога, отдельно подчеркнув, что на достижение данного результата ему потребовалось менее 200 дней. Кроме того, отныне покупка рекламы доступна клиентам OpenAI через сервис Ads Manager в Индии, Европе, странах Ближнего Востока и Северной Африке. В общей сложности, реклама в интерфейсе ChatGPT доступна в более чем 40 странах мира. Помимо рекламы, компания получает доход от продажи подписок, доступа к программному интерфейсу и взаимодействия с корпоративными клиентами. Тестирование рекламы в ChatGPT в США началось в феврале этого года, причём конкурирующая Anthropic сразу уцепилась за этот шаг OpenAI, использовав его как возможность для критики. Реклама демонстрируется пользователям ChatGPT, которые либо не платят за доступ к чат-боту вовсе, либо ограничиваются тарифом Go. По сути, рекламу видит основная часть из более чем 1 млрд активных пользователей ChatGPT, которые обращаются к чат-боту еженедельно. OpenAI утверждает, что явным образом маркирует рекламу и не корректирует ответы чат-бота с учётом интересов рекламодателей. Последние, кроме того, не имеют доступа к содержимому частной переписки пользователей ChatGPT. Компания обещает развивать рекламный бизнес, предлагая новые форматы рекламы и распространяя её на новые географические рынки. Ведётся поиск инновационных методов взаимодействия рекламодателей и конечных пользователей сервиса. Рекламу в ChatGPT уже размещают на регулярной основе более 50 компаний, через Ads Manager доступ к площадке получают и представители среднего, а также малого бизнеса. Один из торговых клиентов рекламного направления ChatGPT получил в три раза больше денег, чем потратил на рекламную кампанию в течение 28 дней. Другой партнёр OpenAI заявил, что более 80 % генерируемого благодаря рекламе в чат-боте трафика обеспечивается новыми клиентами. ЕС поставил ChatGPT в один ряд с крупнейшими онлайн-платформами — ответственность OpenAI возрастёт
31.08.2026 [17:54],
Анжелла Марина
Еврокомиссия отнесла ChatGPT к категории крупнейших онлайн-сервисов, на которые распространяются более жёсткие требования закона ЕС о цифровых услугах (DSA). Одновременно аналогичный статус получили Reddit и Roblox, которым также предстоит соблюдать дополнительные правила и требования, сообщает The Verge. 
Источник изображения: Zulfugar Karimov/Unsplash Новый статус означает, что OpenAI придётся уделять больше внимания рискам, связанным с использованием ChatGPT в Европе, в том числе его влиянию на несовершеннолетних, психическое здоровье пользователей и распространение незаконного контента. Закон также устанавливает запрет на таргетированную рекламу несовершеннолетним и использование сведений об участниках, касающихся религии, этнической принадлежности и политических взглядов. К категории очень крупных онлайн-сервисов и платформ относятся ресурсы, которыми в среднем пользуются не менее 45 миллионов человек в месяц на территории ЕС. Еврокомиссия также потребует от ChatGPT, Reddit и Roblox большей прозрачности в отношении работы рекомендательных алгоритмов. Соблюсти новые требования компании должны до конца декабря 2026 года. Исполнительный вице-президент Еврокомиссии по технологическому суверенитету, безопасности и демократии Хенна Вирккунен (Henna Virkkunen) заявила, что новый статус означает для перечисленных площадок более высокий уровень контроля и ответственности. По её словам, такое решение связано с масштабом влияния упомянутых сервисов на граждан. «Присвоение этого статуса означает, что в Европейском союзе к ChatGPT, Reddit и Roblox будут предъявляться строгие требования в плане контроля и ответственности, что соответствует масштабу их влияния на наших граждан и общество», — отметила в своём заявлении Вирккунен. |
|
✴ Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»; |
© 1997—2026 3DNews
При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является
нарушением
российского и международного законодательства и возможно только с согласия редакции 3DNews.
MWC 2018
2018
Computex
IFA 2018
