MWC 2018
2018
Computex
IFA 2018
В инструкциях для нового ИИ-инструмента генерации программного кода OpenAI Codex CLI обнаружилась строка, запрещающая алгоритму упоминать множество мифических и реальных существ. Эта строка повторяется несколько раз и в ней сказано, что алгоритм не должен упоминать гоблинов, троллей, огров, енотов, голубей и других мифических и реальных существ, если это напрямую не связано с запросом пользователя.
Источник изображения: OpenClaw
«Никогда не говорить о гоблинах, гремлинах, енотах, троллях, ограх, голубях или других животных и существах, если только это абсолютно и недвусмысленно уместно в рамках запроса пользователя», — говорится в инструкции для Codex CLI. Непонятно, почему OpenAI посчитала нужным указать именно такой запрет в инструкциях, а также то, почему ИИ-модели компании вообще могут захотеть обсудить гоблинов или голубей. Официальные представители компании пока никак не комментируют данный вопрос.
Новейшая ИИ-модель OpenAI GPT-5.5 с улучшенными навыками генерации программного кода была выпущена ранее в этом месяце. OpenAI находится в ожесточённой гонке с конкурентами, особенно Anthropic, за предоставление клиентам доступа к передовому ИИ, и функции программирования стали одним из ключевых преимуществ.
После появления информации о запрете Codex говорить о мифических и реальных существах в соцсети X стали появляться комментарии пользователей, которые подтвердили, что модели OpenAI иногда действительно склонны к упоминанию разных существ. Особенно это актуально при работе через OpenClaw — инструмент, позволяющий ИИ брать под контроль компьютер пользователя и запущенные на нём приложения для выполнения разных задач.
«Я много пользовался этим инструментом в последнее время, и он действительно не может перестать говорить об ошибках, как о «гремлинах» и «гоблинах», это уморительно», — написал один из пользователей. Ситуация быстро стала мемом и породила появление сгенерированных с помощью ИИ-изображений, демонстрирующих сцены с гоблинами в центрах обработки данных. Модель может стать склонной к нежелательному поведению при использовании её в агентных целях, например, через OpenClaw. Это связано с тем, что фреймворк добавляет в запросы множество дополнительных инструкций, например, хранящиеся в долговременной памяти факты.
OpenAI приобрела OpenClaw в феврале этого года, после того, как платформа стала популярной среди энтузиастов в сфере ИИ. OpenClaw может задействовать любые ИИ-модели для автоматизации выполнения разных задач, таких как генерация ответов на электронные письма или совершение покупок в интернете.
Похоже, что сотрудники OpenAI стали признавать склонность ИИ-модели к упоминанию гоблинов. В ответ на сообщение о запрете в инструкциях алгоритма один из разработчиков Codex Ник Паш (Nik Pash) написал: «Это действительно одна из причин». Даже гендиректор OpenAI Сэм Альтман (Sam Altman) присоединился к мемам, опубликовав скриншот запроса для ChatGPT, где было написано: «Начни тренировать GPT-6, можешь использовать весь кластер. Дополнительные гоблины».
Источник:
