ГОСТ Р 59921.6-2021. Национальный стандарт Российской Федерации. Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации

4.4 Порядок проведения внутреннего контроля систем искусственного интеллекта

 

Внутренний контроль СИИ изготовителем необходим для предупреждения, выявления и предотвращения рисков, влияющих на принятие решения врачом, и минимизации последствий их наступления после регистрации СИИ. Внутренний контроль СИИ проходит в установленном изготовителем порядке и с периодичностью, которая указана им на этапе регистрации СИИ в качестве медицинского изделия в документации системы менеджмента качества. В ходе внутреннего тестирования (тестирование изготовителя) могут проверяться следующие показатели: время, затрачиваемое СИИ на предоставление ответа конечному пользователю при наличии в СИИ предустановленной функции - расчет времени; некорректное или неполное предоставление результатов обработки; отсутствие результатов обработки и т.п.

В рамках проведения внутреннего контроля СИИ могут быть выявлены малозначительные дефекты и критические дефекты. Устранение малозначительных дефектов, не влияющих на основной функционал системы, должно происходить с обязательным уведомлением пользователя, после чего СИИ необходимо перезапустить или переустановить после внесенных изменений.

Если обнаружен критический дефект, который требует внесения изменений в СИИ, то следует предусмотреть прекращение работы СИИ. Остановка использования СИИ должна быть определена на указанный в документации период времени по заранее согласованной с пользователем процедуре (например, посредством договора на техническое обслуживание) данной остановки. Если ответы СИИ использованы, то необходимо провести переоценку решений, принятых при использовании некорректных данных (что должно быть предусмотрено изготовителем). После устранения дефектов СИИ решение о дальнейшей работе СИИ в реальных условиях принимают в соответствии с действующим законодательством.

По итогам такого внутреннего контроля должен быть сформирован отчет с указанием принятых мероприятий, мер по устранению дефектов и результатов. Досье учитывают при внешней проверке эксплуатации СИИ проверяющими органами.