Спорный чат-бот Grok начинают использовать американские ведомства

Министерство сельского хозяйства США (United States Department of Agriculture) заявило, что «гордится» продвижением программы внедрения чат-бота Grok в рабочих процессах ведомства.

Решение USDA стало заметным шагом для компании xAI, которая активно продвигает свой продукт в государственный сектор США. Ранее администрация Трампа заключала соглашения с рядом ИИ-компаний, предлагая федеральным агентствам доступ к моделям обработки языка, включая скидочные программы.

Однако внедрение Grok сопровождается критикой. Ранее сообщалось, что чат-бот вызывал резонанс из-за генерации спорного контента и проблем с модерацией. По данным СМИ, в прошлом году он уже фигурировал в инцидентах, связанных с публикацией оскорбительных материалов и созданием изображений без согласия пользователей, что усилило внимание регуляторов.

Изображение Grok

При этом федеральные структуры пока осторожно подходят к интеграции: некоторые государственные платформы не включили Grok в общие ИИ-инструменты из-за незавершённых проверок безопасности. Внутренние оценки продолжаются, и внедрение в госинфраструктуру возможно только после прохождения процедур FedRAMP и независимых аудитов.

В начале года компания xAI Илона Маска ввела ограничения на возможность редактирования фотографий реальных людей при помощи чат-бота Grok. Это произошло на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений.

Ранее власти Малайзии и Индонезии заблокировали работу Grok на территории своих стран. Ранее премьер-министр Великобритании Кир Стармер заявил, что в данный момент власти должны «рассмотреть все варианты», включая потенциальный запрет платформы X. Великобритания также провела переговоры с Канадой и Австралией о возможном запрете социальной сети Илона Маска.

iXBT прочитано 1210 раз