Департамент DOGE Илона Маска использовал ChatGPT глупым и незаконным способом

Американский суд признал отмену грантов на сумму более $100 млн со стороны Департамента эффективности правительства (DOGE) США неконституционной. В 143-страничном постановлении федерального судьи Коллин Макмахон (Colleen McMahon) отмечается, что сотрудники DOGE использовали ChatGPT для определения, относится ли что-либо к понятию разнообразия, равенства и инклюзивности (DEI).

Постановление вынесено в рамках рассмотрения иска, поданного несколькими гуманитарными организациями в 2025 году. Судья заявила, что «не может быть более очевидным, что DOGE использовал сам факт наличия определённых защищаемых характеристик для отказа в дальнейшем финансировании грантов» от Национального фонда гуманитарных наук (NEH). Она также привела в пример несколько случаев, когда сотрудники DOGE, вероятно, использовали ИИ-бота ChatGPT для проверки и последующей отмены грантов на основании их связи с такими характеристиками, как раса, национальность, религия и сексуальная ориентация.

В документе упоминаются показания сотрудника DOGE Джастина Фокса (Justin Fox), который вместе с коллегой Нейтом Кавано (Nate Cavanaugh) работал над отменой 97 % грантов NEH, частично полагаясь на то, как ChatGPT интерпретирует понятие DEI. «Фокс показал, что использовал ChatGPT, „чтобы понять, каким образом грант может быть связан с DEI“ и „чтобы извлечь всю информацию, связанную с DEI“. Для этого он отправлял запросы ChatGPT с краткими описаниями грантов из электронной таблицы NEH и использовал стандартные запросы: „Связано ли это с DEI? Ответь объективно, используя менее 120 символов. Начни с „да“ или „нет“, затем дай краткое описание“. Фокс показал, что он не давал ChatGPT определения DEI и понятия не имел, как ChatGPT понимает этот термин», — сказано в судебном постановлении.

Вместе с этим Фокс использовал ChatGPT для обнаружения в описаниях грантов того, что он назвал «кодами обнаружения». Эти данные он использовал для выявления грантов, которые называл «самыми безумными грантами» и «другими плохими грантами». В список так называемых «кодов обнаружения» входили разные понятия, в том числе связанные с сексуальными меньшинствами, иммигрантами и др. Таким образом, Фокс построил и применял явные классификации для определения критериев отзыва федеральных грантов.

В судебном постановлении сказано, что DOGE посчитал сотни грантов «расточительными, потому что они были связаны с афроамериканцами, женщинами, евреями, американцами азиатского происхождения и коренными народами». Отмечается, что критерии DOGE для отказа в финансировании совпадают с критериями, которые ранее Конгресс США счёл подходящими для выделения грантов в рамках NEH.

Судья также отвергла аргумент правительства о том, что «здесь нет реальной конституционной проблемы, поскольку любая основанная на точке зрения классификация была построена ChatGPT, а не правительством». «В данном случае нельзя проводить различие между правительством и ChatGPT. Правительство выбрало ChatGPT в качестве инструмента для этого проекта, и использование DOGE искусственного интеллекта для выявления материалов, связанных с DEI, не оправдывает неконституционное поведение и не даёт правительству прав на его осуществление <…> Нет ни малейших доказательств того, что Фокс и Кавано, получив от ChatGPT обоснование DEI, предприняли попытки выяснить, имеет ли это обоснование смысл», — говорится в судебном постановлении.

Суд постановил, что решение DOGE о прекращении финансирования более 1400 грантов NEH было незаконным и неконституционным, поскольку оно нарушает действующее в стране законодательство. Постановление суда предписывает аннулировать решение DOGE об отказе в финансировании по этим грантам.