FDA опубликовало принципы разработки ИИ-устройств

Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (Food and Drug Administration,  FDA) вместе с Британским управлением по регулированию обращения лекарственных препаратов и медицинских товаров и Министерством здравоохранения Канады разработали и опубликовали принципы разработки ИИ-устройств. Предполагается, что производители будут использовать их для повышения качества медицинских приборов, работа которых основана на ИИ и машинном обучение.

93faed29834d622c8d7e054e461076f4.jpg

FDA принимает от организаций предложения по совершенствованию составленных принципов. Вероятно, в будущем он может подвергнуться дополнению или редакции. На текущий момент список выглядит следующим образом:

  1. весь цикл разработки системы должен основываться на междисциплинарном опыте;

  2. проекты нужно реализовывать с использованием новейших методов разработки программного обеспечения и информационной защиты данных;

  3. участники клинического исследования и наборы данных для обучения должны соответствовать популяции пациентов, для которой разрабатывается устройство;

  4. наборы данных для обучения и тестирования выбираются и поддерживаются таким образом, чтобы они были независимы друг от друга;

  5. методы разработки эталонных наборов данных должны быть сформированы из клинически значимых и хорошо охарактеризованных актуальных данных;

  6. дизайн системы должен быть адаптирован к имеющимся данным и отражать предполагаемое использование устройства;

  7. в ходе разработки должно быть уделено особое внимание взаимодействию «Человек-ИИ», а не просто производительности системы в изоляции от человека;

  8. тестирование устройства должно проводиться в клинически значимых условиях, чтобы по итогу получить более корректные результаты о его работе вне зависимости от набора данных;

  9. для конечного пользователя должна быть составлена чёткая и понятная информация об устройстве, такая как показания к применению, производительность, характеристики данных из обучающей базы и противопоказания;

  10. работа развёрнутых моделей машинного обучения, в том числе во время последующего обучения нейросети, должна контролироваться в режиме реального времени с акцентом на поддержание и повышение безопасности и производительности.

Публикацией принципов FDA и другие подобные учреждения намерены заложить основу для единой системы контроля за производством медицинских приборов на ИИ и машинном обучении. Эта основа должна не только создать минимальную планку качества, но и стимулировать будущий рост в быстро развивающейся области. Для достижения этих целей ведомство также планирует сотрудничать с организациями здравоохранения за пределами США.

FDA всё чаще обращает внимание на ИИ при производстве медицинских устройств. В частности, в конце сентября регулятор разрешил использовать нейросети для диагностики рака простаты. Компания Pagie получила возможность официально рекламировать свой ИИ-инструмент под названием Paige Prostate. Стоит отметить, что окончательный диагноз ставит специалист-человек. Тем не менее, нейросети значительно облегчают нагрузку на людей и позволяют выявлять заболевания на очень ранней стадии.

© Habrahabr.ru