Anthropic жертвует 20 миллионов долларов организации Public First Action
Искусственный интеллект принесет колоссальные преимущества — для науки, технологий, медицины, экономического роста и многого другого. Но столь мощная технология сопряжена и со значительными рисками.
Эти риски могут быть связаны с неправомерным использованием моделей: ИИ уже применяется для автоматизации кибератак; в будущем он может помочь в создании опасных видов оружия. Риски также могут исходить от самих моделей: мощные системы ИИ способны предпринимать вредные действия вопреки намерениям пользователей и вне их контроля.
Возможности моделей ИИ совершенствуются с головокружительной и нарастающей скоростью: от простых чат-ботов в 2023 году до сегодняшних «агентов», выполняющих сложные задачи. В Anthropic нам приходилось несколько раз перерабатывать заведомо сложный технический тест для найма инженеров-программистов, поскольку новые поколения ИИ успешно справлялись с каждой версией. Такие темпы прогресса не ограничатся разработкой ПО; на самом деле, многие другие профессии уже ощущают на себе это влияние.
Следовательно, решения в области политики в отношении ИИ, которые мы примем в ближайшие несколько лет, затронут практически каждую сферу общественной жизни: от рынка труда и защиты детей в интернете до национальной безопасности и баланса сил между государствами.
В таких обстоятельствах нам необходима грамотная политика: гибкое регулирование, которое позволит пожинать плоды ИИ, держать риски под контролем и сохранять лидерство Америки в гонке вооружений в сфере ИИ. Это означает недопущение попадания критически важных технологий ИИ в руки противников Америки, сохранение надежных мер безопасности, стимулирование создания рабочих мест, защиту детей и требование реальной прозрачности от компаний, создающих самые мощные модели ИИ.
Мы не хотим оставаться в стороне, пока разрабатывается эта политика. По этой причине Anthropic вносит 20 миллионов долларов в фонд Public First Action — новой двухпартийной организации категории 501©(4), которая будет поддерживать просвещение общественности об ИИ, продвигать меры безопасности и обеспечивать лидерство Америки в гонке ИИ.
Согласно недавним опросам, 69% американцев считают, что правительство «делает недостаточно для регулирования использования ИИ». Мы согласны с этим. ИИ внедряется быстрее, чем любая технология в истории, и окно возможностей для правильного регулирования закрывается. Тем не менее, до сих пор нет официальных защитных механизмов и не предвидится никакой федеральной нормативно-правовой базы.
В настоящее время предпринимается лишь немного организованных усилий по мобилизации граждан и политиков, понимающих, что поставлено на карту в развитии ИИ. Напротив, огромные ресурсы направляются в политические организации, которые противодействуют этим усилиям.
Public First Action работает над тем, чтобы заполнить этот пробел. Основанная и возглавляемая стратегами как республиканской, так и демократической партий, она действует вне партийных разногласий в поддержку политики регулирования ИИ.
Организация будет сотрудничать с республиканцами, демократами и независимыми кандидатами, разделяющими общие приоритеты в политике:
- Настаивать на введении мер безопасности и прозрачности моделей ИИ, которые обеспечат обществу больший уровень информированности и, соответственно, большую уверенность в том, что ведущие ИИ-компании ответственно управляют рисками;
- Поддерживать надежную федеральную основу для управления ИИ и выступать против отмены законов штатов, если Конгресс не примет более строгие меры защиты;
- Поддерживать разумный экспортный контроль на чипы для ИИ, который позволит Америке опережать своих противников-автократов;
- Проводить целенаправленное регулирование, сосредоточенное на наиболее актуальных краткосрочных рисках: биологическом оружии и кибератаках с использованием ИИ.
Эта политика не носит партийный характер. Она также не направлена на выгоду Anthropic как разработчика ИИ — эффективное управление ИИ означает усиление контроля за такими компаниями, как наша, а не его ослабление. Это также не попытка сдержать меньших или менее обеспеченных ресурсами разработчиков: наша точка зрения заключается в том, что регулирование прозрачности, например, должно применяться только к компаниям, создающим самые мощные (и самые опасные) модели ИИ.
Компании, создающие ИИ, несут ответственность за то, чтобы технология служила общественному благу, а не только их собственным интересам. Наш вклад в Public First Action является частью нашего стремления к управлению, которое раскрывает преобразующий потенциал ИИ и помогает соразмерно управлять его рисками.
Полный текст статьи читайте на Anthropic
