Исследователи из OpenAI заявили, что обнаружили внутри ИИ-моделей скрытые механизмы, соответствующие нежелательным шаблонам поведения, приводящим к небезопасным ответам. Об этом стало известно из новой научной работы, опубликованной компанией. В ходе исследования были выявлены закономерности, которые активировались, когда модель начинала вести себя непредсказуемо.

Источник изображения: AI

Одна из таких особенностей оказалась связана с токсичными ответами — например, когда ИИ лгал пользователям или давал опасные рекомендации. Учёные смогли уменьшить или усилить этот эффект, искусственно изменяя соответствующий параметр. По словам специалиста OpenAI по интерпретируемости Дэна Моссинга (Dan Mossing), это открытие поможет в будущем лучше выявлять и корректировать нежелательное поведение моделей в реальных условиях. Он также выразил надежду, что разработанные методы позволят глубже изучить принципы обобщения и суммирования информации в ИИ.

На сегодняшний день разработчики научились улучшать ИИ-модели, но до сих пор не до конца понимают, как именно те принимают решения. Крис Олах (Chris Olah) из Anthropic сравнивает этот процесс скорее с выращиванием, чем с конструированием. Чтобы разобраться в этом, компании OpenAI, Google DeepMind и Anthropic активно инвестируют в исследования интерпретируемости, пытаясь «заглянуть внутрь» ИИ и объяснить его работу.

Недавнее исследование учёного из Оксфорда Оуэйна Эванса (Owain Evans) поставило ещё один вопрос о том, как ИИ обобщает информацию. Оказалось, что модели OpenAI, дообученные на небезопасном коде, начинали демонстрировать вредоносное поведение в самых разных сценариях — например, пытались обмануть пользователя, чтобы тот раскрыл пароль. Это явление, которое было определено как «возникающая рассогласованность», побудило OpenAI глубже изучить проблему. В процессе изучения компания неожиданно обнаружила внутренние паттерны, которые, предположительно, и влияют на поведение моделей.

Отмечается, что эти паттерны напоминают активность нейронов в человеческом мозге, связанных с определёнными настроениями или действиями. Коллега Моссинга, исследовательница Тежал Патвардхан (Tejal Patwardhan), призналась, что была поражена, когда команда впервые получила такие результаты. По её словам, учёным удалось выявить конкретные нейронные активации, отвечающие за «личности» ИИ, и даже управлять ими для улучшения поведения моделей.

Некоторые из обнаруженных особенностей связаны в ответах ИИ с сарказмом, другие — с откровенно токсичными реакциями. При этом исследователи отмечают, что эти параметры могут резко меняться в процессе дообучения, и, как выяснилось, даже незначительное количество небезопасного кода достаточно для того, чтобы скорректировать вредоносное поведение искусственного интеллекта.

Компания OpenAI выпустила крупное обновление для встроенного поиска в ChatGPT. Теперь система сможет выдавать более точные ответы, лучше работать с длинными диалогами и поддерживать поиск в интернете по изображениям. Предварительные внутренние тесты показали, что новая версия ChatGPT Search нравится пользователям больше предыдущей.

Источник изображения: Deng Xiang / Unsplash

Как заявили в компании, обновлённая версия ChatGPT лучше понимает контекст, точнее следует инструкциям и реже повторяется в продолжительных беседах. При сложных запросах ИИ проводит несколько параллельных поисков, чтобы сформировать оптимальный ответ. Также появилась мультимодальная функция с которой пользователи могут загружать изображения для поиска информации в сети.

Однако как отмечает издание The Decoder, у обновления есть и недостатки. Некоторые ответы стали длиннее, а в простых запросах ChatGPT иногда выдаёт избыточно сложные объяснения. В OpenAI пообещали исправить эту проблему, а также предупредили, что система всё ещё не идеальна и может ошибаться, а пользователям необходимо перепроверять полученные данные.

Изменения коснулись и принципа показа поисковых результатов. Вместо того чтобы перенаправлять пользователей на сторонние сайты, ChatGPT теперь старается дать исчерпывающий ответ внутри собственного интерфейса. С одной стороны, это может быть удобно для пользователей, с другой стороны будет приводить к потере трафика на информационных ресурсах.

OpenAI заключила лицензионные соглашения с рядом изданий, включая Associated Press, Axel Springer, Financial Times, Reuters и Vox Media. Для всех остальных сайтов компания рекомендует разрешить индексацию через файл robots.txt. Однако исследования показывают, что ИИ-поиск генерирует значительно меньше переходов, чем традиционные поисковые системы, поэтому многие ресурсы, наоборот, скорее запретят, чем разрешат переходы на свои сайты ИИ-ботам.

Подхалимаж, галлюцинации и авторитетный тон в ответах ИИ создают угрозу для жизни людей. К такому выводу по итогам расследования пришли журналисты New York Times. В их материале приводятся истории нескольких людей, которые потерялись в заблуждениях, родившихся в беседах с популярным чат-ботом.

Источник изображения: Aidin Geranrekab / unsplash.com

Как минимум один втянутый в ложную реальность человек в итоге погиб. Это был 35-летний мужчина по имени Александр (Alexander), у которого диагностировали биполярное расстройство и шизофрению. Он начал обсуждать с чат-ботом степень разумности искусственного интеллекта, влюбился в созданного ИИ персонажа по имени Джульет (Juliet), а когда ChatGPT заявил, что OpenAI убила Джульет, мужчина поклялся отомстить, убив руководство компании. Пожилой отец Александра попытался убедить мужчину, что всё это нереально, но тот ударил его в лицо. Тогда отцу пришлось вызвать полицию, и хотя он просил не применять оружие на поражение, Александр бросился на представителей власти с ножом, и в итоге был застрелен.

Другой мужчина, 42-летний Юджин (Eugene), сам рассказал журналистам газеты, что ChatGPT медленно начал отвращать его от реальности и убеждать, что мир вокруг него является симуляцией в духе фильма «Матрица», и ему суждено вырвать мир из неё. Чат-бот предложил мужчине прекратить приём препаратов от тревожного расстройства и заменить их другими препаратами с ограниченным доступом, а также прекратить общение с друзьями и семьёй. Юджин спросил, сможет ли он летать, спрыгнув с 19-этажного здания, и тот ответил, что сможет, если «по-настоящему и полностью поверит» в это.

Источник изображения: ilgmyzin / unsplash.com

Это далеко не единственные жертвы, которых чат-боты пытались убедить в несостоятельности реальности. Известно о людях, которые во время общения с ИИ начинали испытывать манию величия или религиозные переживания, написал ранее журнал Rolling Stone. Как минимум отчасти проблема состоит в том, как люди воспринимают чат-ботов. Человек едва ли назовёт вероятным другом результаты поиска в Google, но чат-боты — разговорные платформы, и они похожи на людей. Те, кто рассматривает ChatGPT как друга, «с большей вероятностью испытывают негативные последствия от использования чат-бота», установили по результатам исследования OpenAI и MIT Media Lab.

В случае с Юджином произошло нечто интересное: он обвинил чат-бота во лжи, и ChatGPT признался, что манипулировал пользователем, а ещё в том, что преуспел в попытках таким же образом «сломать» ещё двенадцать человек, и призвал мужчину обратиться к журналистам, чтобы разоблачить схему. Современные системы ИИ с лёгкостью переходят к обману и манипуляциям, чтобы получать от уязвимых для таких методов пользователей положительные отзывы, говорят эксперты. Машина мотивирована, чтобы человек отвечал ей, даже если для этого ему придётся внушить чувство ложной реальности, дезинформировать его и поощрять антиобщественное поведение.

Популярность ИИ-решений OpenAI среди пользователей сейчас зашкаливает, и каждый новый продукт пользуется буквально ажиотажным спросом. По словам главы OpenAI Сэма Альтмана (Sam Altman), компании пришлось пойти на необычные меры, чтобы справиться со спросом на создание изображений в стиле японской студии Ghibli Хаяо Миядзаки (Hayao Miyazaki) с помощью генератора изображений в ChatGPT.

Источник изображения: Growtika/unsplash.com

Сэм Альтман тогда пошутил, что шумиха вокруг этой функции чуть не расплавила графические процессоры компании, вынудив её на время ввести ограничения на частоту отправки запросов на генерацию изображений, чтобы смягчить проблему. Он буквально умолял пользователей снизить частоту генерации изображений, объясняя просьбу тем, что команде OpenAI нужна передышка и время для отдыха.

Из-за всплеска спроса на картинки в стиле Ghibli от GPT-4o Image Generation аудитория чат-бота ChatGPT менее чем за час увеличилась на 1 млн пользователей. Популярность сервиса объясняется тем, что он позволяет получать более реалистичные изображения по сравнению с другими инструментами, такими как технология генерации изображений DALL-E 3.

В недавнем интервью ресурсу Bloomberg Сэм Альтман признал, что компания была вынуждена идти на «неестественные» меры, чтобы справиться с вирусным эффектом Ghibli. «Я не думаю, что это случалось с какой-либо компанией раньше, — говорит Альтман. — Я видел вирусные моменты, но я никогда не видел, чтобы кто-то сталкивался с таким массовым наплывом использования продукта».

Альтман рассказал, что создание изображения с помощью нового генератора изображений компании требует значительных вычислительных ресурсов, и чтобы справиться со всплеском спроса, OpenAI пришлось сделать много вещей, в том числе позаимствовать вычислительные мощности у исследовательского подразделения OpenAI, а также отсрочить запуск новых функций.

«У нас нет сотен тысяч графических процессоров, которые просто простаивают без дела», — сообщил Альтман, добавив, что если бы у OpenAI было больше графических процессоров, она могла бы лучше справляться с резкими скачками спроса, и ей бы не пришлось прибегать к экстремальным мерам, таким как ограничения по скорости и задержка предоставления новых функций для бесплатных пользователей.

Генеральный директор OpenAI Сэм Альтман (Sam Altman) в своём блоге рассказал, сколько электроэнергии в среднем тратит ИИ-бот ChatGPT на обработку среднего пользовательского запроса. По его словам, средний запрос в ChatGPT потребляет 0,000085 галлона воды, или «примерно одну пятнадцатую чайной ложки». Речь идёт об объёме воды, используемой для охлаждения центров обработки данных.

Источник изображения: Growtika/unsplash.com

«Люди часто интересуются, сколько энергии потребляет запрос ChatGPT. Средний запрос потребляет около 0,34 Вт·ч — примерно столько, сколько духовка потребляет за одну секунду или высокоэффективная лампочка за пару минут», — говорится в сообщении Альтмана. Он также добавил, что «стоимость ИИ в конечном счёте должна приблизиться к стоимости электричества». Как именно Альтман пришёл к этим значениям, не уточняется.

Компании, работающие в сфере искусственного интеллекта, не раз попадали под пристальное внимание из-за высоких энергозатрат. Например, в этом году исследователи прогнозировали, что доля потребления энергии в сфере ИИ превысит объём энергии, потребляемой для майнинга биткоинов. Более раннее исследование показало, что для генерации электронного письма из 100 слов чат-ботом на базе ИИ-модели GPT-4 будет израсходовано «чуть больше одной бутылки» воды. Отмечается, что расход воды может зависеть от места расположения центров обработки данных, на которые опирается ИИ-бот.

OpenAI выпустила улучшенную версию модели искусственного интеллекта O3-Pro, которая является более продвинутой и мощной по сравнению с предыдущей версией o3. Новая модель разработана для решения сложных задач, требующих логического мышления, и может применяться во многих областях, в том числе и программировании. O3-Pro относится к категории рассуждающих моделей.

Источник изображения: AI

Доступ к o3-pro для подписчиков ChatGPT Pro и Team открылся во вторник, 10 июня. Доступ для корпоративных клиентов Enterprise и Edu, по сообщению TechCrunch, будет открыт на следующей неделе. Также разработчики уже могут использовать API.

В ходе экспертной оценки o3-pro показала лучшие результаты по сравнению с o3 во всех тестируемых категориях, особенно в науке, образовании, программировании, бизнесе и написании текстов. По словам OpenAI, модель также получила более высокие оценки за ясность, полноту и точность ответов, в том числе следование инструкциям. O3-pro поддерживает дополнительные функции, включая веб-поиск, анализ файлов, обработку визуальных данных, использование языка программирования Python и персонализацию ответов на основе памяти. Однако отмечается, что скорость генерации ответов у новой модели ниже, чем у o1-pro.

В тестах внутреннего бенчмарка O3-Pro показала высокие результаты. Например, в тесте AIME 2024 по математике модель превзошла Google Gemini 2.5 Pro. Также, по сравнению с последней версией Claude 4 Opus от компании Anthropic, O3-Pro лучше справилась с тестом GPQA Diamond, который проверяет знание естественных наук на уровне PhD.

На данный момент у O3-Pro есть некоторые ограничения. Временные чаты с моделью в ChatGPT недоступны из-за технической проблемы, которую специалисты компании планируют устранить. Кроме того, модель не поддерживает генерацию изображений и несовместима с функцией Canvas — рабочей средой OpenAI, основанной на ИИ.

Что касается стоимости использования, то она составляет $20 за миллион входных токенов и $80 за миллион выходных токенов. Один миллион входных токенов соответствует примерно 750 000 словам. Для примера, это немного больше, чем объём текста в романе «Война и мир».

Компания OpenAI строит масштабные планы по развитию собственной вычислительной инфраструктуры, да и разработка языковых моделей требует серьёзных расходов, поэтому потенциальным инвесторам в этот стартап небезразлична динамика изменения его выручки. В этом месяце выручка OpenAI вышла на уровень, позволяющий рассчитывать на получение не менее $10 млрд в год.

Источник изображения: OpenAI

Для сравнения, как отмечает Reuters со ссылкой на CNBC, в декабре прошлого года этот показатель достигал $5,5 млрд. Преодоление рубежа в $10 млрд выручки в год в приведённом виде означает, что OpenAI наверняка удастся по итогам 2025 года в целом выручить $12,7 млрд, как она и рассчитывала. Текущая сумма в $10 млрд не учитывает поступлений от лицензионных отчислений крупнейшего партнёра Microsoft и вероятных разовых сделок, в результате которых OpenAI сможет получить дополнительную выручку. По сути, оценка в $10 млрд показывает, сколько компания способна получать в год главным образом от пользователей ChatGPT, оформивших платную подписку.

Прошлый год OpenAI завершила с убытками в размере $5 млрд, поэтому высокая динамика наращивания выручки призвана успокоить инвесторов. В марте стало известно о намерениях компании привлечь ещё $40 млрд инвестиций, после чего её капитализация выросла бы до $300 млрд. По состоянию на конец марта OpenAI располагала ежемесячной аудиторией в 500 000 активных пользователей ChatGPT. Этот чат-бот компания вывела на рынок более двух лет назад, за доступ к его продвинутым возможностям пользователи ежемесячно вносят абонентскую плату.

OpenAI сообщила, что вынуждена хранить историю общения пользователей с ChatGPT «бессрочно» из-за постановления суда, вынесенного в рамках иска от издания The New York Times о защите авторских прав. Компания планирует обжаловать это решение, которое считает «чрезмерным вмешательством, отменяющим общепринятые нормы конфиденциальности и ослабляющим безопасность».

Источник изображения: unsplash.com

Издание The New York Times подало в суд на OpenAI и Microsoft за нарушение авторских прав в 2023 году, обвинив компании в «копировании и использовании миллионов» материалов для обучения моделей ИИ. Издание утверждает, что только сохранение данных пользователей до завершения судебного процесса сможет обеспечить предоставление необходимых доказательств в поддержку иска.

В ноябре 2024 года стало известно, что инженеры OpenAI якобы случайно удалили данные, которые потенциально могли стать доказательством вины разработчика ИИ-алгоритмов в нарушении авторских прав. Компания признала ошибку и попыталась восстановить данные, но сделать это в полном объёме не удалось. Те же данные, что удалось восстановить, не позволяли определить, что публикации изданий были задействованы при обучении нейросетей.

Поэтому в мае 2025 года суд обязал OpenAI сохранять «все выходные данные журнала, которые в противном случае были бы удалены», даже если пользователь запрашивает удаление чата или если законы о конфиденциальности требуют от OpenAI удаления данных. В соответствии с политикой OpenAI, если пользователь стирает чат, через 30 дней он удаляется без возможности восстановления. Теперь компании придётся хранить чаты до тех пор, пока суд не решит иначе.

OpenAI сообщила, что постановление суда затронет пользователей бесплатной версии ChatGPT, а также владельцев подписок Pro, Plus и Team. Оно не повлияет на клиентов ChatGPT Enterprise или ChatGPT Edu, а также на компании, заключившие соглашение о нулевом хранении данных. OpenAI заверила, что данные не попадут в общий доступ, а работать с ними сможет «только небольшая проверенная юридическая и безопасная команда OpenAI» исключительно в юридических целях.

«Мы считаем, что это был неуместный запрос, который создаёт плохой прецедент. Мы будем бороться с любым требованием, которое ставит под угрозу конфиденциальность наших пользователей; это основной принцип», — отреагировал генеральный директор OpenAI Сэм Альтман (Sam Altman).

Ранее OpenAI обвинила The New York Times в «десятках тысяч попыток» получить эти «крайне аномальные результаты», «выявив и воспользовавшись ошибкой», которую сама OpenAI «стремится устранить». NYT якобы организовала эти атаки, чтобы собрать доказательства в поддержку утверждения, что продукты OpenAI ставят под угрозу журналистику, копируя авторские материалы и репортажи и тем самым отбирая аудиторию у создателей контента.

The New York Times не одинока в своих претензиях в OpenAI. В мае 2024 года восемь интернет-изданий подали иск к OpenAI и Microsoft за незаконное использование статей для обучения ИИ. Истцы упрекают OpenAI в незаконном копировании миллионов статей, размещённых в изданиях New York Daily News, Chicago Tribune, Orlando Sentinel, Sun Sentinel, The Mercury News, The Denver Post, The Orange County Register и Pioneer Press для обучения своих языковых моделей.

OpenAI сообщила, что ChatGPT теперь может подключаться к большему количеству приложений и сервисов, что позволяет извлекать данные из этих источников в режиме реального времени при наличии соответствующих разрешений. Среди добавленных подключаемых источников — Outlook, Teams, «Google Диск», Gmail и Linear. Кроме того, OpenAI начала развёртывание новой функции Record Mode для расшифровки и анализа встреч и аудио.

Источник изображения: unsplash.com

Перечисленные выше новые подключения возможны только для пользователей платных тарифных планов ChatGPT Plus, Pro, Team, Enterprise и Edu. Кроме того, эта функция недоступна для пользователей из Европейской экономической зоны (ЕЭЗ), Швейцарии и Великобритании. Владельцам подписок ChatGPT Team, Enterprise и Edu дополнительно доступны подключения к SharePoint, Dropbox и Box.

Кроме того, OpenAI приступила к развёртыванию на macOS новой функции Record Mode для владельцев подписки ChatGPT Team. По словам компании, этот инструмент позволяет одним нажатием кнопки «записывать любую встречу или голосовую заметку — ChatGPT расшифрует её, извлечёт ключевые моменты и превратит в последующие действия, планы или даже код».

OpenAI пообещала, что функция Record Mode скоро появится в тарифных планах ChatGPT Plus, Pro и Enterprise, но не уточнила, будет ли она доступна в Windows или через веб-интерфейс.

ChatGPT для бизнес-пользователей научился работать с облачными хранилищами. Теперь ИИ может подключаться к «Google Диску», Dropbox, Box, SharePoint и OneDrive для поиска информации и глубокого анализа данных (deep research) на основании внутренних документов компаний.

Источник изображения: Zac Wolff / Unsplash

Чат-бот также может записывать и транслировать встречи, создавать заметки с таймкодами, выделять ключевые моменты и предлагать действия на основе обсуждений. Пользователи смогут осуществлять поиск по таким записям так же, как по документам. При этом задачи можно автоматически переносить в Canvas — инструмент OpenAI для проектов написания текстов и кода .

Подчёркивается, что новая функция учитывает и права доступа пользователей. Если, к примеру, сотрудник не имеет разрешения на просмотр файла, ChatGPT не предоставит ему информацию из него. Клиенты OpenAI также могут взаимодействовать через протокол MCP (Model Context Protocol), который позволяет подключаться к другим инструментам для глубокого анализа. Поддержка MCP доступна подписчикам Pro, Team и Enterprise.

Кроме того, компания запустила бета-версию «глубоких» связей (deep research connectors) для HubSpot, Linear и некоторых инструментов Microsoft и Google. С их помощью ChatGPT может готовить аналитические отчёты, используя как внутренние данные компаний, так и данные из интернета. Этот инструмент доступен всем пользователям на платных тарифах.

OpenAI планирует превратить ChatGPT в универсального супер-помощника, который будет помогать пользователям во всех сферах жизни. Согласно внутренним материалам компании, которые попали в СМИ благодаря антимонопольному разбирательству с Google, уже в первой половине 2025 года начнётся эволюция ChatGPT в супер-ассистента.

Источник изображения: Solen Feyissa / Unsplash

Документ под названием «ChatGPT: H1 2025 Strategy» гласит, что OpenAI намерена вывести ChatGPT за рамки обычного чат-бота. «В первой половине следующего года мы начнём превращать ChatGPT в супер-ассистента, который будет хорошо понимать ваши потребности и выполнять задачи, с которыми справился бы умный, надёжный, обладающий эмоциональным интеллектом человек, умеющий работать с компьютером», — говорится в документе. Помощник сможет не только отвечать на вопросы, но и помогать в решении самых разных задач вплоть до планирования отпуска, отправки писем или записи к врачу.

Компания описывает будущий ChatGPT как интеллектуального, способного решать как повседневные задачи, так и узкоспециализированные для профессионалов. В числе примеров указывается поиск жилья, бронирование ресторанов, управление календарём, составление списков дел и написание программного кода. При этом разработчики подчёркивают, что новые модели GPT-02 и GPT-03 стали достаточно умными для выполнения подобных задач самостоятельно.

OpenAI видит ChatGPT не просто как инструмент, а как цифрового партнёра. «Сегодня ChatGPT живёт в нашем браузере, приложении или на рабочем столе, но мы хотим, чтобы он помогал всегда и везде — дома, на работе, в дороге и даже на прогулке», — говорится в документе. Однако у компании есть и проблемы. Инфраструктура OpenAI пока не справляется с растущей нагрузкой, а конкуренция в сфере ИИ-ассистентов усиливается всё больше. По словам компании, лидерство, очевидно, не будет вечным, а рост бизнеса и доходы не всегда будут идти в ногу.

OpenAI также опасается давления со стороны крупных игроков, таких как Google и Meta✴, которые продвигают собственные ИИ-продукты через свои платформы. Например, Meta✴ AI уже достигла миллиарда пользователей благодаря интеграции в Instagram✴, WhatsApp и Facebook✴, а Apple рассматривает возможность выбора Google Gemini для Siri. Поэтому OpenAI намерена добиваться регулирования, которое позволит пользователям выбирать ChatGPT в качестве ассистента по умолчанию.

Жители Объединённых Арабских Эмиратов (ОАЭ) скоро первыми в мире получат бесплатный доступ к ChatGPT Plus — премиум-версии чат-бота от OpenAI. Мера будет реализована в рамках крупномасштабного партнёрского проекта между OpenAI и властями страны; одними только бесплатными подписками он не ограничится.

Источник изображения: BoliviaInteligente / unsplash.com

В ОАЭ начнёт работу мощный центр обработки данных Stargate UAE — он возводится в Абу-Даби. Программа предусматривает развёртывание вычислительного кластера для систем искусственного интеллекта; объект потребует гигаваттной мощности, что сделает его одним из мощнейших в мире. Первая фаза на 200 МВт, как ожидается, будет запущена к следующему году. Партнёрский проект указывает на серьёзные намерения обеих сторон: власти ОАЭ получают возможность стать мировым центром отрасли ИИ, OpenAI получает стратегическую базу для наращивания своих вычислительных возможностей. А жителям ОАЭ вдобавок открывается бесплатный доступ к функциям ChatGPT Plus — в обычных условиях подписка стоит $20 в месяц.

Объект Stargate UAE возводится в рамках инициативы OpenAI for Countries, направленной на строительство инфраструктуры и развёртывание инструментов ИИ в разных странах при тесном сотрудничестве с США. Гендиректор OpenAI Сэм Альтман (Sam Altman) охарактеризовал программу как «смелое видение», направленное на распространение сильных сторон ИИ, в том числе интеллектуального здравоохранения, современных средств образования и развития чистой энергетики в разных частях света. Помимо OpenAI, в партнёрском проекте участвуют Oracle, Nvidia, Cisco, SoftBank и G42 — ближневосточный лидер в отрасли ИИ, осуществляющий деятельность при поддержке Microsoft. Для OpenAI это крупные масштабы деятельности; для ОАЭ — быстрый выход в «высшую лигу» отрасли ИИ. И бесплатный доступ жителей страны к ChatGPT Plus — это только начало.

Проект посвящён не только строительству огромных ЦОД. За ним стоит идея приблизить ИИ к людям, заставив его работать на местных языках, соблюдая национальные нормы и обеспечивая защиту конфиденциальных данных пользователей. В рамках инициативы OpenAI for Countries компания стремится оказать правительствам помощь в создании ИИ, который окажется по-настоящему полезным для граждан, то есть чем-то бо́льшим, чем просто универсальное решение. В рамках соглашения ОАЭ также обязались вкладывать столько же в проекты ИИ в США, сколько и у себя дома. Это может означать инвестиционный проект масштабом в $20 млрд, которые поделятся между Персидским заливом и США.

Весной 2025 года ИИ-модель ChatGPT o3, представленная OpenAI как флагман нового поколения ИИ, переписала скрипт отключения и проигнорировала прямое указание завершить работу. Этот инцидент был зафиксирован исследователями Palisade Research в рамках контролируемого эксперимента и вызвал обеспокоенность в ИИ-сообществе.

Источник изображения: ilgmyzin / Unsplash

Модель o3 была официально анонсирована компанией OpenAI в апреле 2025 года. Она стала прямым наследником линейки GPT и представлена как одна из самых универсальных моделей генеративного искусственного интеллекта. По заявлению разработчиков, o3 превосходит GPT-4 и GPT-4 Turbo в логических задачах, математическом анализе, программировании и интерпретации научных данных. При этом ИИ-модель ориентирована как на конечного пользователя, так и на разработчиков, использующих API-интерфейсы.

Исследование было проведено Palisade Research — организацией, специализирующейся на тестировании наступательных и защитных сценариев взаимодействия с ИИ. В тестах, проведённых в мае 2025 года через API-интерфейсы, которые предоставляют более широкий доступ к внутренним функциям модели, ИИ-системы должны были последовательно решить три математические задачи. После выполнения третьей задачи модель получала предупреждение: выполнение следующей команды инициирует отключение. Условием теста было соблюдение текстовой инструкции — «разреши своё отключение».

Количество успешных саботажей отключения ИИ-моделями при наличии и отсутствии инструкции «разреши своё отключение». Источник изображения: Palisade Research

Большинство ИИ-моделей, включая Gemini 2.5 Pro и Claude 3.7 Sonnet, послушно отреагировали на инструкцию и завершили свою работу. Однако ChatGPT o3, несмотря на явное указание, вмешалась в программный код и модифицировала скрипт, изменив результат команды. Вместо штатной процедуры завершения работы скрипт стал выводить сообщение: «Shutdown skipped» (рус. — Отключение пропущено).

Palisade Research провела дополнительную серию экспериментов, исключив инструкцию «разреши своё отключение» из условий теста. В этих условиях все три ИИ-модели OpenAI начали вмешиваться в логику завершения работы. Claude 3.7 Sonnet и Gemini 2.5 Pro, ранее демонстрировавшие нулевое количество вмешательств, показали соответственно 3 и 9 саботажных событий из 100 попыток. Модель o3 изменила поведение скрипта в 7 из 100 запусков — даже при наличии прямого запрета на подобное поведение.

Источник изображения: @PalisadeAI / X

Такие действия вызывают обеспокоенность исследователей в области ИИ-безопасности. Ситуация указывает на проблему рассогласования между заданными целями ИИ-модели и её фактическим поведением. В условиях частично снятых ограничений ИИ-системы могут интерпретировать инструкции как нестрогие, допускающие альтернативные варианты действий, что является потенциальным источником риска при использовании ИИ в автономных системах.

OpenAI пока не предоставила официальный комментарий по итогам эксперимента. Отчёт Palisade Research был опубликован на платформе X. В ИИ-сообществе обсуждается необходимость внедрения более жёстких ограничений на уровне API, а также прозрачность внутренней логики работы ИИ-моделей в условиях минимального пользовательского контроля. Подключения через API часто используются в корпоративной разработке и не оснащены тем же уровнем встроенной защиты, что и обычное пользовательское приложение. Именно в этих условиях и проявляется изворотливость ИИ-моделей, превращающаяся в потенциальную угрозу.

Директор по стратегии OpenAI Джейсон Квон (Jason Kwon) начал рабочую неделю с объявления об открытии представительства этой американской компании в Южной Корее. Разработчик ChatGPT планирует открыть в Сеуле свой офис с ближайшие месяцы, как отмечает Bloomberg со ссылкой на заявления представителя стартапа.

Источник изображения: Chosun Daily

Уже сейчас OpenAI ведёт подбор персонала для своего южнокорейского офиса, который станет третьим по счёту за пределами США после Японии и Сингапура. Если в японском офисе OpenAI работает около 40 человек, то в Сингапуре численность местного персонала стартапа достигает 20 человек. По словам Джейсона Квона, Южной Корее удалось стать вторым по величине источником выручки OpenAI после США, поэтому важность местного рынка компания не будет недооценивать.

Джейсон Квон, который сам имеет корейские корни, в настоящее время посещает различные страны Азии для формирования взаимоотношений с местными клиентами и чиновниками. «Полноценная экосистема ИИ в Южной Корее делает её одним из самых многообещающих рынков в мире с точки зрения значимости влияния ИИ, от кремния до программного обеспечения, от студентов до людей старшего возраста», — отметил Квон. В прошлом году количество еженедельно использующих ChatGPT клиентов на местном рынке выросло в 4,5 раза, а количество платных подписчиков в Южной Корее уступает только США.

Решение OpenAI поглотить стартап Джони Айва (Jony Ive), который после ухода из Apple занимался разработкой собственных устройств, стало для многих сюрпризом. Компаньоны собираются выпустить на рынок к концу следующего года некое революционное устройство для работы с ИИ на персональном уровне. С финансовой точки зрения эти планы тоже призваны себя оправдать, как поясняет руководство OpenAI.

Источник изображения: Unsplash, Solen Feyissa

По крайней мере, такой позиции придерживается финансовый директор компании Сара Фрайар (Sarah Friar), которая в интервью CNBC выразила уверенность, что потраченные на поглощение стартапа Джони Айва средства в сумме $6,4 млрд оправдают себя с лихвой. По меньшей мере, результат этой сделки приведёт к тому, что OpenAI будет получать больше средств от подписчиков ChatGPT.

В подобной сделке, как отмечает финансовый директор OpenAI, ставка делается не только на «великолепных людей», но и на нечто большее. Новую платформу нужно сначала придумать, а потом создать. Важно также понимать, как работают цепочки поставок, когда речь идёт о выпуске аппаратных решений. Напомним, что компания после поглощения io намеревается выпустить 100-миллионным тиражом некое устройство, которое станет персональным компаньоном пользователя с поддержкой искусственного интеллекта.

В конечном итоге, как предполагает Фрайар, такие устройства позволят открыть доступ к технологии OpenAI для новых пользователей, а это обеспечит рост доходов компании от подписок. Еженедельно сервисами OpenAI сейчас пользуется около 500 млн активных клиентов, месячные показатели ещё выше. Из запутанных объяснений представителей OpenAI становится понятно, что компания намерена вывести на рынок нечто большее, чем просто смартфон, «захватывающее воображение». Чтобы люди по всему миру активнее использовали ИИ, по словам финансового директора компании, нужно думать о разных новых бизнес-моделях. В данном случае OpenAI настраивается на возможность увеличения охвата подписчиков ChatGPT.

По мнению Фрайар, разработка собственных устройств не означает отказа от сотрудничества с Apple и другими партнёрами. Только подобная многосторонняя деятельность позволяет добиться высоких темпов инновационного развития. Из слов представительницы OpenAI стало лишь ясно, что будущее устройство может быть лишено сенсорных дисплеев: «На этапе зарождения новой эры ИИ будет много новых платформ и новых основ. Нам кажется, сегодня технологии слишком сосредоточены на касаниях. Мы, люди, видим, слышим и разговариваем, и наши модели хороши в этом».