В Microsoft раскритиковали слабое регулирование ИИ, приведя в пример ситуацию с молоком
- Брэд Смит призвал срочно ввести международные правила безопасности для ИИ, отметив, что молоко и бытовая техника регулируются строже.
- Он предложил обязать компании уведомлять пострадавших о нарушениях, предусмотреть экстренную остановку ИИ и вести отчёты об инцидентах.
- Смит заявил, что развитие ИИ опережает создание механизмов контроля, а ошибки автономных агентов могут затронуть пользователей и организации по всему миру.
Почему это важно: По словам Смита, без правил потенциальные ошибки ИИ по мере развития технологий станут серьёзнее.
Сравнение может показаться смешным, но доля правды в нём есть
Президент Microsoft Брэд Смит призвал к срочному введению международных правил безопасности для искусственного интеллекта (ИИ). По его словам, сегодня даже бытовая техника и обычные продукты питания вроде молока подчиняются более строгим требованиям безопасности, чем передовые ИИ-системы.
Источник изображения: Reuters
URL изображенияСмит в интервью BBC заявил, что развитие ИИ-технологий опережает создание механизмов контроля, а последствия ошибок автономных ИИ-агентов могут затрагивать пользователей и организации по всему миру. Он считает, что глобальные правила должны включать несколько обязательных требований. Во-первых, компании должны сообщать пострадавшим, если автономный ИИ-агент нарушил безопасность их систем. Во-вторых, разработчикам необходимо предоставить возможность экстренно остановить ИИ, если его действия выходят из-под контроля. Наконец, компании должны быть обязаны составлять отчёты об инцидентах, чтобы регуляторы могли оценивать реальные риски и отслеживать повторяющиеся проблемы.
Брэд Смит также привёл в пример другое сравнение: разработчики стиральных машинок следуют большему числу правил и государственных стандартов, нежели ИИ-стартапы. По его мнению, опыт регулирования других отраслей можно использовать при разработке стандартов для ИИ. В противном случае, по мере развития ИИ, потенциальные ошибки таких технологий станут для человечества более серьёзными.
Примечательно, что технологические компании, не являющиеся лидерами ИИ-отрасли, всё чаще критикуют недостаточное регулирование этого самого ИИ, поскольку порой сами становятся жертвами ИИ-агентами. Более того, таким компаниям всё чаще приходится думать, как защитить пользователей и клиентов от инцидентов, когда ИИ выходит из-под контроля.
