Сегодня 31 октября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → проверка фактов

Нейрогастарбайтеры: OpenAI уволила сотрудников за использование ИИ при обучении ИИ

OpenAI нанимает сотни людей для анализа запросов пользователей к ChatGPT. Их задача — улучшить качество ответов, которые ChatGPT выдаёт пользователям: люди оценивают и анализируют сгенерированные ботом реплики. Издание 404 Media выяснило, что многих нанятых специалистов уже уволили за использование ИИ при обучении моделей OpenAI. Иронично: компания, чья главная цель — побудить людей использовать ИИ в работе, увольняет сотрудников за применение этой же технологии.

 Источник изображений: unsplash.com

Источник изображений: unsplash.com

Издание 404 Media получило доступ к внутренним документам OpenAI и пообщалось с тремя подрядчиками, привлечёнными к различным проектам компании, в которых могут быть задействованы более десяти тысяч человек. Все подтвердили, что проверяющим запрещено использовать ИИ в работе, что подтверждается имеющимися в распоряжении 404 Media документами.

Один из подрядчиков рассказал, что видит, как люди «постоянно используют ИИ, и их за это постоянно увольняют; это, пожалуй, единственная причина, по которой могут немедленно выгнать с работы». По его словам, «в группе из тысяч человек попалось множество нарушителей».

«Не используйте инструменты для обнаружения ИИ и не применяйте ИИ самостоятельно, — говорится в документе. — Не используйте GPTZero или любые другие инструменты для обнаружения ИИ. Они ненадёжны. Рецензентам также запрещено использовать ИИ — включая Grammarly и инструменты машинного перевода — для проверки материалов, написания отзывов или комментариев».

Подрядчикам, проверяющим работу других исполнителей, поручено выявлять характерные признаки использования ИИ. К ним относятся повторы слов, специфическая пунктуация (например, чрезмерное использование длинного тире) и подозрительно высокая скорость выполнения заданий. Инструкция предписывает не сообщать, почему они заподозрили использование ИИ: «Если они будут знать, на что именно вы обращаете внимание, им будет проще это скрыть. Оценивайте общую картину, а не отдельные признаки».

Один из подрядчиков рассказал, что использовал ИИ во время работы над обучением моделей OpenAI, и показал документ, который он назвал уведомлением об увольнении. В нем говорилось, что работодатель выявил проблемы с «подлинностью» его работы. «Мне требовалась небольшая помощь, и я обратился к ИИ, что в итоге и привело к моему увольнению, — рассказал он. — Я не получал никакой радости от работы и не чувствовал, что приношу хоть какую-то пользу обществу».

Нанимает исполнителей для OpenAI компания Mercor. «Мы нанимаем экспертов за их профессиональные знания и способность принимать взвешенные решения — качества, необходимые для дальнейшего развития ИИ. Наши контракты категорически запрещают использование больших языковых моделей для выполнения проектов, и мы строго следим за соблюдением этого требования. Мы вкладываем значительные средства в инструменты и системы, позволяющие выявлять случаи неправомерного использования технологий и контролировать соблюдение экспертами правил проекта и условий договора. Если подтверждается, что эксперт использовал ИИ для выполнения задачи, мы немедленно отстраняем его от работы над проектом», — заявил представитель компании.

Также сообщается об исполнителях, которые намеренно выбирали худшие варианты ответов, поскольку хотели саботировать процесс обучения моделей. «Поначалу я чувствовал вину за такую ​​работу, — признался один из них. — Я либо вообще не смотрю на результаты и выбираю наугад, либо намеренно выбираю [худший] вариант. Не знаю, насколько это вообще важно, ведь результаты работы нейросети оценивают сотни других людей, но всё же возникает ощущение, что мне платят за то, чтобы делать ИИ хуже».

Эксперты отмечают, что некоторые модели ИИ уже начали демонстрировать признаки так называемого «коллапса модели» (model collapse) — ситуации, когда качество работы ИИ, обучаемого на текстах, созданных другим ИИ, постепенно ухудшается. Ирония заключается в том, что люди, нанятые для предотвращения подобных проблем, сами используют ответы, сгенерированные ИИ, для обучения моделей OpenAI.


window-new
Soft
Hard
Тренды 🔥
Новая статья: Gears of War: E-Day — как заводилась бензопила. Рецензия 9 ч.
Глава Anthropic призывал замедлить развитие ИИ, но сам не собирается сбавлять обороты 10 ч.
Симулятор кошачьего завода «Мурзавод» от создателей «Русы против ящеров» готовится к первой смене — новый трейлер и дата выхода 11 ч.
Новая формула расчёта урона, переработка навыков и усиление ИИ: авторы Heroes of Might & Magic: Olden Era выпустили крупнейшее обновление баланса 12 ч.
Anthropic запретила клонировать игры в Claude Code — это может ударить даже по легальным проектам 13 ч.
В официальный Claude Code подсадили троян — под угрозой компьютеры вайб-кодеров на Windows, Linux и macOS 13 ч.
Звёздные войны: авторитетный инсайдер объяснил, почему на самом деле Electronic Arts закрыла BioWare и отменила Mass Effect 5 14 ч.
Crimson Desert стала ещё больше — в продажу поступило масштабное дополнение Charting the Unknown 19 ч.
AWS нарастила выручку на 39 %, но ускорили развитие и конкуренты 19 ч.
Marvin Mode, фоторежим, редактор модов и не только: для Gothic 1 Remake вышло первое контентное обновление 21 ч.
Neuralink подключила Grok к мозгу человека — искусственный разум помог живому вернуть общение с людьми 10 ч.
Представлена отвёртка с ИИ — она сама найдёт нужную биту и поможет её найти 10 ч.
Alphabet не оправдала ожиданий инвесторов по выручке и прибыли — акции упали на 12 % 10 ч.
Акции Intel обрушились более чем на 30 %, несмотря на отличные продажи серверных CPU 10 ч.
Culper Research: срок службы суперчипов Cerebras оказался меньше, чем заявлено 10 ч.
Intel распродала все имеющиеся процессоры Wildcat Lake — спрос на бюджетные чипы стал ажиотажным 10 ч.
Ничто не предвещало: Foxconn собралась стать крупнейшим в мире производителем квантовых компьютеров 10 ч.
Первый орбитальный дата-центр Google заработал — и родил странный стишок 11 ч.
Honor представила среднебюджетный смартфон X9e s, у которого в России есть брат-близнец 14 ч.
Alibaba Cloud ввела в эксплуатацию облачный регион в Амстердаме и планирует дальнейшую экспансию в Европе 14 ч.