Федеральный суд постановил, что структура DOGE нарушила Конституцию США
Федеральный суд США признал незаконной массовую отмену гуманитарных грантов, проведённую структурой DOGE (Department of Government Efficiency), после того как выяснилось, что для отбора «нежелательных проектов» сотрудники использовали ChatGPT.
Решение вынесла окружной судья Коллин Макмэхон (Colleen McMahon). В 143-страничном постановлении говорится, что действия DOGE нарушали Конституцию США и основывались на прямой фильтрации проектов по признакам, связанным с расой, национальным происхождением, религией и сексуальной ориентацией.
Разбирательство началось после иска гуманитарных организаций против DOGE и Национального фонда гуманитарных наук США — National Endowment for the Humanities (NEH). В ходе процесса выяснилось, что сотрудники DOGE использовали ChatGPT для анализа кратких описаний грантов и определения, относятся ли они к тематике DEI — разнообразие, равенство и инклюзивность.
Согласно судебным материалам, сотрудник DOGE Джастин Фокс (Justin Fox) загружал описания грантов в ChatGPT с шаблонным запросом: определить, относится ли проект к DEI, и кратко объяснить почему. При этом сам Фокс признал в суде, что не давал ChatGPT определения термина DEI и не понимал, как именно система интерпретирует этот запрос.
Дополнительно DOGE использовала набор ключевых слов, названных «кодами обнаружения» (Detection Codes). Среди них были термины вроде BIPOC, minorities, tribal, indigenous, immigrant, LGBTQ, homosexual и gay. Эти слова автоматически использовались для поиска и маркировки грантов как «проблемных» или «расточительных».
Иллюстрация: Nano BananaСуд отдельно отметил, что под сокращение попали проекты, посвящённые Холокосту, движению за гражданские права, культуре коренных народов и образовательным программам по изучению традиционных знаний и климата.
Макмэхон прямо указала, что власти не могут переложить ответственность на ИИ-систему. В решении подчёркивается, что ChatGPT выступал «инструментом правительства», а использование искусственного интеллекта не освобождает государство от соблюдения конституционных норм.
Судья также заявила, что не нашла доказательств того, что сотрудники DOGE после ответов ChatGPT проводили содержательную проверку выводов системы. По сути, ИИ использовался как механизм автоматической фильтрации проектов по чувствительным социальным признакам.
В результате суд признал незаконной отмену более 1400 грантов и постановил восстановить финансирование. В решении упоминаются нарушения Первой поправки к Конституции США, гарантирующей свободу слова и выражения, а также принципов равной защиты закона из Пятой поправки.
Это дело может стать одним из наиболее значимых судебных прецедентов, связанных с использованием генеративного ИИ в государственных решениях. Суд фактически подтвердил, что государственные органы несут полную ответственность за выводы ИИ-систем, если используют их при принятии административных решений.
На фоне стремительного внедрения генеративного ИИ в государственный сектор решение также усиливает давление на власти США по созданию более прозрачных правил применения подобных технологий в управлении и распределении государственных средств.
Решение может повлиять на использование нейросетей в госуправлении далеко за пределами гуманитарных грантов.
© iXBT
