Ученые разработали "правильную" платформу для ИИ
Исследователи из Массачусетского университета утверждают, что благодаря научно-фантастическим романам Айзека Азимова они разработали алгоритмическую структуру, гарантирующую, что ИИ будет вести себя хорошо при любых обстоятельствах.
В структуре используются «селдонские» алгоритмы, названные так в честь главного героя Гэри Сэлдона из серии книг «Основание» Айзека Азимова, вышедших в 60-е годы 20-го века, где впервые появились три закона робототехники.
Согласно исследованию, архитектура Seldonian позволяет разработчикам определять свои собственные условия работы, чтобы предотвратить недопустимые сценарии во время обучения или оптимизации ИИ. По сути, это должно позволить разработчикам не допускать того, чтобы ИИ наносил какой бы то ни было вред людям.
Исследователи использовали новые алгоритмы для создания ИИ, который распределяет инсулин для диабетиков, а также ИИ, который прогнозирует средний балл учащихся (GPA). В первом случае исследователи установили ограничения, предотвращающие ошибки с дозировкой лекарства, а во втором — исключили возможность гендерной предвзятости. Оба эксперимента прошли успешно.
Вместо того, чтобы говорить машине «не позволяй гендерному признаку влиять на прогнозы», алгоритмы Seldonian выражают проблему как «точно прогнозировать GPA каждого человека, но не позволять различиям между прогнозируемым GPA и фактическим GPA превышать определенное значение».
Разработанные алгоритмы являются не просто заменой алгоритмов машинного обучения (ML) в существующих приложениях, а основой для новых приложений, в которых использование ML-алгоритмов ранее считалось слишком рискованным.
Обсудить 0
