FDA опубликовало принципы разработки ИИ-устройств
Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (Food and Drug Administration, FDA) вместе с Британским управлением по регулированию обращения лекарственных препаратов и медицинских товаров и Министерством здравоохранения Канады разработали и опубликовали принципы разработки ИИ-устройств. Предполагается, что производители будут использовать их для повышения качества медицинских приборов, работа которых основана на ИИ и машинном обучение.
FDA принимает от организаций предложения по совершенствованию составленных принципов. Вероятно, в будущем он может подвергнуться дополнению или редакции. На текущий момент список выглядит следующим образом:
весь цикл разработки системы должен основываться на междисциплинарном опыте;
проекты нужно реализовывать с использованием новейших методов разработки программного обеспечения и информационной защиты данных;
участники клинического исследования и наборы данных для обучения должны соответствовать популяции пациентов, для которой разрабатывается устройство;
наборы данных для обучения и тестирования выбираются и поддерживаются таким образом, чтобы они были независимы друг от друга;
методы разработки эталонных наборов данных должны быть сформированы из клинически значимых и хорошо охарактеризованных актуальных данных;
дизайн системы должен быть адаптирован к имеющимся данным и отражать предполагаемое использование устройства;
в ходе разработки должно быть уделено особое внимание взаимодействию «Человек-ИИ», а не просто производительности системы в изоляции от человека;
тестирование устройства должно проводиться в клинически значимых условиях, чтобы по итогу получить более корректные результаты о его работе вне зависимости от набора данных;
для конечного пользователя должна быть составлена чёткая и понятная информация об устройстве, такая как показания к применению, производительность, характеристики данных из обучающей базы и противопоказания;
работа развёрнутых моделей машинного обучения, в том числе во время последующего обучения нейросети, должна контролироваться в режиме реального времени с акцентом на поддержание и повышение безопасности и производительности.
Публикацией принципов FDA и другие подобные учреждения намерены заложить основу для единой системы контроля за производством медицинских приборов на ИИ и машинном обучении. Эта основа должна не только создать минимальную планку качества, но и стимулировать будущий рост в быстро развивающейся области. Для достижения этих целей ведомство также планирует сотрудничать с организациями здравоохранения за пределами США.
FDA всё чаще обращает внимание на ИИ при производстве медицинских устройств. В частности, в конце сентября регулятор разрешил использовать нейросети для диагностики рака простаты. Компания Pagie получила возможность официально рекламировать свой ИИ-инструмент под названием Paige Prostate. Стоит отметить, что окончательный диагноз ставит специалист-человек. Тем не менее, нейросети значительно облегчают нагрузку на людей и позволяют выявлять заболевания на очень ранней стадии.
