ООН предупреждает: системы регулирования не успевают за развитием ИИ на фоне кратного роста возможностей моделей
Темпы развития искусственного интеллекта опережают возможности действующих систем регулирования, говорится в предварительном докладе независимой научной панели по ИИ при Организации Объединённых Наций (ООН). Документ стал первым отчётом нового международного экспертного органа, созданного для подготовки глобального диалога по управлению ИИ.
По данным панели, сложность задач, которые способны решать современные модели, увеличивается с интервалом в несколько месяцев, что делает традиционный цикл выработки законодательства недостаточно быстрым. При этом регуляторы, как правило, начинают разрабатывать нормы только после накопления достаточной научной базы, однако к этому моменту технологии уже уходят вперёд.
Эксперты подчёркивают, что искусственный интеллект приносит значительные преимущества, включая ускорение разработки лекарств и вакцин, исследования антибиотикорезистентности, а также раннюю диагностику заболеваний, таких как рак молочной железы. Также ИИ используется в системах раннего предупреждения о продовольственной нестабильности.
Изображение сгенерировано: Nano BananaВ то же время в докладе подробно описываются новые риски. Среди них — генерация и распространение дипфейков, включая материалы сексуализированного характера, созданные без согласия людей, а также использование ИИ для усиления кибератак и распространения убедительно выглядящей ложной информации. Отдельно отмечается, что в отдельных случаях взаимодействие с моделями может усиливать вредоносное поведение пользователей.
Панель также предупреждает о рисках роста автономности ИИ-систем, из-за чего становится сложнее отслеживать и контролировать их поведение. Дополнительным фактором давления названа инфраструктура: масштабное строительство дата-центров для ИИ может создавать нагрузку на энергосети и затрагивать местные сообщества.
По оценке авторов, ключевая проблема заключается в концентрации технологий: основные системы разрабатываются в США и Китае, а доступ к ним сосредоточен в развитых странах, тогда как многие развивающиеся государства не обладают необходимой инфраструктурой и компетенциями.
В связи с этим доклад призывает к усилению независимой оценки ИИ-систем, международному сотрудничеству и формированию общих стандартов безопасности и прозрачности. Без этого, отмечают эксперты, развитие ИИ может усиливать неравенство, распространять дезинформацию, угрожать правам человека и трансформировать рынок труда без достаточных механизмов адаптации.
Работа носит научно-аналитический характер и не предполагает прямого регулирования. Ожидается, что более полный доклад будет опубликован в следующем году, а обсуждение на уровне государств начнётся в Женеве 6 июля.
© iXBT
