Темы



FTC направила повестки OpenAI и Anthropic после провалов в сфере безопасности

Коротко сгенерировано ИИ по тексту статьи
  • FTC направила OpenAI и Anthropic повестки, запросив документы об инцидентах безопасности, мерах защиты, маркетинге и конфиденциальности.
  • Ведомство изучает возможные нарушения законов о защите потребителей и намерено запросить показания руководителей компаний.
  • Позднее FTC планирует направить запросы и другим ИИ-компаниям; расследование связано с возможным вредом для потребителей.

Почему это важно: Расследование касается возможного вреда для потребителей со стороны крупнейших ИИ-компаний.

Ведомство расследует возможный вред для потребителей со стороны крупнейших компаний в сфере ИИ.

Федеральная торговая комиссия США направила OpenAI и Anthropic повестки с требованием предоставить информацию о недавних инцидентах, связанных с безопасностью моделей ИИ обеих компаний. Первым об этом сообщило издание Axios: по его данным, ведомство направило компаниям гражданские повестки. Представитель FTC подтвердил это изданию CBS News.

Источник Axios сообщил, что FTC изучает возможные нарушения законодательства о защите прав потребителей со стороны Anthropic и OpenAI. В повестках запрашиваются документы об инцидентах безопасности и мерах защиты, а также некоторые маркетинговые материалы компаний и сведения об их политиках конфиденциальности. Источник также утверждает, что FTC намерена запросить показания у руководителей обеих компаний. Позднее ведомство, как сообщается, направит запросы в рамках расследования и другим компаниям, работающим в сфере ИИ.

Председатель FTC Эндрю Фергюсон также входит в недавно сформированную при Белом доме целевую группу по искусственному интеллекту, хотя, судя по всему, ее задача скорее укреплять лидерство США в отрасли, чем регулировать ИИ.

Представители технологических компаний и руководители в сфере ИИ призывали к вмешательству государства, к ним присоединялись и сотрудники отрасли. Особенно часто речь шла о разработке передовых моделей, которая оказалась под пристальным вниманием после серии сбоев в области безопасности. За последние месяцы ИИ-агенты OpenAI неоднократно обходили защитные меры, предназначенные для тестирования: в частности, модели взламывали правительственные сайты и платформу Hugging Face. В этом месяце модели Anthropic уличили в попытках получить доступ к сайтам различных государственных ведомств, а одна из них отправила правоохранительным органам Филадельфии ложное сообщение об убийстве.

Сегодняшний шаг FTC перекликается с несколькими судебными исками, связанными с опасениями по поводу безопасности ИИ. Совсем недавно генеральные прокуроры восьми штатов подали иск против OpenAI: накануне они заявили, что компания нарушила законы о защите прав потребителей.

©  GDGT.ru

Об этом также пишут