ГОСТ Р 59921.4-2021. Национальный стандарт Российской Федерации. Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров

4 Эксплуатационные параметры систем искусственного интеллекта

 

Эксплуатационные параметры СИИ подразделяют на следующие категории:

- по точности;

- назначению;

- входным данным;

- принципу организации обучения;

- производительности;

- системной совместимости.

Необходимо отметить, что представлен перечень типовых эксплуатационных параметров СИИ, который может быть дополнен с учетом особенностей системы, в том числе с учетом ее назначения.

 

4.1 По точности

 

С точки зрения точности эксплуатационные параметры определены изготовителем и должны включать указанные ниже параметры, при этом могут быть включены дополнительные параметры в зависимости от назначения СИИ.

а) Доля ошибок 1-го (ложноположительный результат) и 2-го рода (ложноотрицательный результат) при принятии решений СИИ.

Данный параметр характеризует точность СИИ.

Доля ошибок 1-го рода подтверждает прогнозируемую вероятность ложноположительного результата анализа СИИ.

Доля ошибок 2-го рода подтверждает прогнозируемую вероятность ложноотрицательного результата анализа СИИ.

Значения данных параметров должны удовлетворять заявленным изготовителем в технической и эксплуатационной документациях.

б) Показатели эффективности СИИ (чувствительность, специфичность, прогностическая ценность и др.) [2].

Значение чувствительности предоставляет информацию о том, насколько четко СИИ обнаруживает заболевание.

Пример - тест, который положителен у 8 из 10 пациентов, при наличии заболевания имеет чувствительность 80%.

Значение специфичности предоставляет информацию о том, насколько СИИ правильно идентифицирует исследования пациентов при отсутствии заболевания.

Пример - тест, который отрицателен у 9 из 10 пациентов, при отсутствии заболевания имеет специфичность 0,9 (или 90%).

Положительная прогностическая ценность является долей пациентов с позитивным результатом, оцененным СИИ, у которых в действительности присутствует заболевание.

Пример - если 9 из 10 положительных результатов тестов верны (истинно положительные результаты), то значение положительной прогностической ценности составляет 90%.

Отрицательная прогностическая ценность является долей пациентов с отрицательным результатом, оцененным СИИ, у которых в действительности отсутствуют признаки наличия заболевания.

Пример - если 8 из 10 отрицательных результатов теста корректны (истинно отрицательные), тогда отрицательная прогностическая ценность составляет 80% [3].

Рабочие характеристики СИИ должны быть обеспечены изготовителем не ниже уровня, заявленного в технической документации, в течение всего срока эксплуатации СИИ (см. [4]).

 

4.2 По назначению

 

а) Тип принимаемого решения.

Данный параметр характеризует тип возвращаемого заключения от СИИ. Это может быть:

- бинарное заключение (например, о наличии/отсутствии патологии);

- вероятностное заключение (например, о вероятности наличия патологии);

- локализация (детектирование) (например, заключение о местонахождении целевой патологии во входных данных);

- классификация (например, отнесение находки к одному из классов);

- комбинация вышеперечисленных заключений.

Тип и формат возвращаемого СИИ заключения должны соответствовать назначению СИИ с точки зрения решаемых клинических задач.

б) Набор заключений СИИ.

Данный параметр характеризует количество заключений, формируемых СИИ по одному набору входных данных (исследованию). СИИ может формировать как одно заключение (бинарное, вероятностное, локализацию, результат классификации) или несколько заключений, представляющих собой комбинацию различных типов принимаемых решений, так и многофакторное заключение: локализацию, классификацию, вероятность патологии, а также дополнительные параметры, не характеризующие выявленную патологию, например объем легких.

Набор заключений СИИ должен соответствовать назначению СИИ с точки зрения решаемых клинических задач.

в) Виды СИИ как системы поддержки принятия врачебных решений определяет изготовитель исходя из назначения, они могут быть экспертные, прогнозные, диагностические, аналитические и другие.

 

4.3 По входным данным

 

а) Разнородность входных данных.

Данный параметр характеризует степень вариативности входных данных СИИ (например, количество разных типов аппаратов, информацию исследований с которых СИИ способна обработать, диапазон размеров/разрешений изображений [4]), а также способность СИИ обрабатывать зашумленные и искаженные данные (например, перевернутые снимки грудной клетки или наличие на снимке посторонних объектов). Типы аппаратов, данные с которых совместимы по параметрам с рассматриваемой СИИ, должны быть перечислены в технической и эксплуатационной документации.

б) Формат входных данных (данный параметр характеризует тип входных данных для СИИ):

- изображение (в том числе видео);

- текст;

- сигнал [последовательность данных с привязкой ко времени (график, аудиосигнал), в том числе в режиме реального времени];

- и другие.

Формат входных данных должен быть описан в технической и эксплуатационной документациях, соответствовать назначению СИИ с точки зрения решаемых клинических задач.

в) Тип анализируемого объекта.

Данный параметр характеризует объект исследования. Объектом исследования могут быть: статические и динамические медицинские изображения (фотографии, снимки компьютерной томографии, магнитно-резонансной томографии, ультразвукового исследования, рентгенографии) органов, костей, кожного покрова и т.д.; результаты инструментальных (в том числе электрофизиологических), лабораторных исследований; медицинские документы; а также представленные вербально объекты - речь пациента или пользователя (врача) и др.

Тип изучаемой анализируемой структуры должен соответствовать назначению СИИ с точки зрения решаемых клинических задач.

 

4.4 По принципу организации обучения систем искусственного интеллекта

 

а) Способ обучения СИИ в процессе эксплуатации.

Возможны следующие варианты параметра:

- повторное обучение (обновление обученной модели путем обучения на новых обучающих данных);

- непрерывное обучение (последовательное обучение СИИ, которое происходит на постоянной основе на всем этапе эксплуатации жизненного цикла СИИ).

б) По типу используемых во время обучения данных различают:

- обучение с учителем;

- обучение без учителя;

- полуконтролируемое машинное обучение.

в) Адаптируемость к новым типам данных.

Данный параметр характеризует способность СИИ расширять область применения путем обучения на выборках соответствующих типов данных (например, возможность изменения модальности оборудования для СИИ, применяемой в лучевой диагностике, или расширение перечня детектируемых патологий). Кроме того, адаптация СИИ на новые типы данных часто предполагает некоторые изменения в архитектуре искусственного интеллекта.

 

4.5 По производительности

 

а) Режим обработки данных.

Данный параметр характеризует способ передачи входных данных СИИ с точки зрения времени, прошедшего между формированием входных данных и их обработкой СИИ, указывается изготовителем в эксплуатационной и технической документациях. Возможны следующие варианты:

- условно реальное время. Обработка СИИ происходит с задержкой, обусловленной условиями передачи данных в СИИ с учетом необходимых предварительных преобразований;

- обработка с задержкой. Обработка СИИ происходит с задержкой или интервалом, установленными администратором СИИ;

- обработка по запросу. Обработка СИИ происходит по запросу пользователя.

Режим обработки данных должен соответствовать назначению СИИ с точки зрения решаемых клинических задач.

б) Производительность СИИ.

Данный параметр характеризует количество принимаемых СИИ решений в единицу времени при заданных вычислительных ресурсах. Производительность СИИ не зависит от свойств среды передачи данных и пропорциональна производительности вычислительных ресурсов. В технической и эксплуатационной документации декларируется производительность СИИ с учетом минимальных системных требований.

Рекомендуемая минимальная производительность СИИ должна быть такой, чтобы время, затраченное на обработку единицы данных, не превышало времени, регламентированного для принятия решения врачом.

в) Параметр вычислительных ресурсов.

Данный параметр характеризует рекомендуемые изготовителем СИИ системные требования. В технической и эксплуатационной документациях должны быть указаны минимальные системные требования, достаточные для достижения минимального заявленного показателя производительности СИИ.

г) Параметр сетевых ресурсов.

Данный параметр характеризует минимальные требования к сетевым ресурсам, устанавливаемые в технической и эксплуатационной документациях (необходимая ширина канала, количество каналов) с учетом допустимого времени задержки получения результата анализа СИИ конечным пользователем исходя из прогнозируемых размеров входных данных.

Рекомендуемые значения по пропускной способности следует выбирать с учетом того, чтобы суммарное время приема, анализа единицы данных и передачи результатов конечному пользователю не превосходило времени, регламентированного для принятия решения врачом (для единицы данных).

В технической и эксплуатационной документациях должны быть указаны используемые для функционирования СИИ сетевые протоколы. Должны быть определены требования по защищенности используемых каналов связи.

д) Масштабируемость системы.

Данный параметр характеризуется способностью или неспособностью СИИ оперативно увеличивать производительность за счет наращивания аппаратных мощностей и распределения нагрузки. Масштабируемость можно косвенно спрогнозировать исходя из параметров разнородности, адаптируемости и производительности.

Обоснованный прогноз масштабируемости рекомендуется указывать в технической и эксплуатационной документациях.

е) Вид сетевой архитектуры.

Данный параметр характеризует тип организации связи узлов СИИ. Возможны следующие варианты:

- распределенная архитектура предполагает размещение узлов СИИ на разных удаленных вычислительных ресурсах, которые могут взаимодействовать между собой по сетям связи для решения задачи аппаратного резервирования и распределения нагрузки;

- централизованная архитектура предполагает размещение СИИ на одном удаленном сервере;

- локальная архитектура предполагает функционирование СИИ в локальной среде (в локальной сети или на аппаратных ресурсах, которые формируют данные для обработки СИИ).

Вид сетевой архитектуры должен быть указан в технической и эксплуатационной документациях СИИ.

 

4.6 По системной совместимости

 

а) Требования к среде функционирования.

Данный параметр регламентирует условия, необходимые для функционирования СИИ в вычислительной системе (например, операционная система, программные компоненты).

Должен быть указан минимальный набор предустановленных программных компонентов, необходимых для функционирования СИИ.

б) Взаимодействие с техническими системами сбора данных.

Данный параметр отражает функционал СИИ, связанный с взаимодействием со сторонними информационными системами (например, наличие программного интерфейса для взаимодействия с оборудованием различных изготовителей).

В технической и эксплуатационной документациях должен быть указан список оборудования (соответствующий назначению СИИ), с которым СИИ совместима и может взаимодействовать.

в) Программная совместимость (например, интеграция со сторонними информационными системами).

Параметр регламентирует условия, при которых возможна интеграция со сторонним программным обеспечением в единую информационную систему. В технической и эксплуатационной документациях установлен перечень совместимого программного обеспечения (информационных систем, стороннего программного обеспечения), а также приведено описание программных интерфейсов, протоколов и стандартов сетевого взаимодействия, которые поддерживаются СИИ.