ГОСТ Р 70980-2023. Национальный стандарт Российской Федерации. Системы искусственного интеллекта на автомобильном транспорте. Системы управления интеллектуальной транспортной инфраструктурой. Общие требования

6 Общие требования к интеллектуализации системы управления интеллектуальной транспортной инфраструктурой

 

6.1 Требования к ИСУИТИ в целом

6.1.1 ИСУИТИ должна соответствовать требованиям ГОСТ 24.104.

6.1.2 Интеллектуализация функций СУИТИ должна соответствовать требованиям настоящего стандарта, требованиям технического задания на СУИТИ, а также требованиям нормативно-технических документов, действующих в ведомстве заказчика СУИТИ.

6.1.3 Ввод в действие ИСУИТИ должен приводить к полезным технико-экономическим, социальным или другим результатам, например, снижению численности управленческого персонала, повышению качества управления интеллектуальной транспортной инфраструктурой и др.

6.1.4 Необходимо, чтобы интеллектуализация СУИТИ обеспечивала достижение целей ее реализации, установленных в техническом задании на СУИТИ.

6.1.5 Надежность ИСУИТИ в целом и каждой ее автоматизированной функции должна быть достаточна для достижения установленных целей функционирования системы при заданных условиях применения.

6.1.6 Адаптируемость ИСУИТИ должна быть достаточной для достижения установленных целей ее функционирования в заданном диапазоне изменений условий применения.

6.1.7 В ИСУИТИ следует предусмотреть контроль правильности выполнения автоматизированных функций и диагностирование, с указанием места, вида и причины возникновения нарушений правильности функционирования ИСУИТИ.

6.1.8 В ИСУИТИ, имеющих измерительные каналы, предусматривают возможность контроля метрологических характеристик измерительных каналов.

6.1.9 В ИСУИТИ предусматривают меры защиты от неправильных действий персонала, приводящих к аварийному состоянию объекта или системы управления, от случайных изменений и разрушения информации и программ, а также от несанкционированного вмешательства.

6.1.10 Любую поступающую в ИСУИТИ информацию следует вводить в систему однократно с помощью одного входного канала, если это не приводит к невыполнению требований, установленных в техническом задании на СУИТИ (по надежности, достоверности, потребительским характеристикам и т.п.).

6.1.11 Выходная информация одного и того же смыслового содержания должна быть сформирована в ИСУИТИ однократно, независимо от числа адресатов.

6.1.12 Информация, содержащаяся в базах данных ИСУИТИ, должна быть актуализирована в соответствии с периодичностью ее использования при выполнении функций системы.

6.1.13 ИСУИТИ должна быть защищена от утечки информации, если это оговорено в техническом задании на СУИТИ.

6.1.14 Наименование СУИТИ должно включать наименования вида СУИТИ и объекта управления.

6.1.15 При разработке логической, функциональной и физической архитектур СУИТИ должны удовлетворяться требования ГОСТ Р 56294 и ГОСТ Р 70250.

6.2 Требования к функциям ИСУИТИ

6.2.1 ИСУИТИ в необходимых объемах автоматизировано выполняет:

- сбор, обработку и анализ информации (сигналов, сообщений, документов и т.п.) о состоянии транспортной инфраструктуры;

- выработку управляющих воздействий (программ, планов и т.п.);

- передачу управляющих воздействий (сигналов, указаний, документов) на исполнение и ее контроль;

- реализацию и контроль выполнения управляющих воздействий;

- обмен информацией (документами, сообщениями и т.п.) с взаимосвязанными автоматизированными системами.

6.2.2 Состав автоматизированных функций ИСУИТИ и степень их автоматизации должны быть технико-экономически и (или) социально обоснованы с учетом необходимости освобождения персонала от выполнения повторяющихся действий и создания условий для использования его творческих способностей в процессе работы.

6.3 Требования к видам обеспечения, надежности, информационной безопасности, персоналу, документации ИСУИТИ определяются в соответствии с ГОСТ Р 59793. Дополнительные требования к отдельным видам обеспечения ИСУИТИ определены в разделах 8, 9 и 10.

6.4 В случае присоединения организации-разработчика ИСУИТИ к Кодексу этики в сфере искусственного интеллекта разработка ИСУИТИ должна осуществляться с учетом положений и требований этого Кодекса. Кроме того, организация-разработчик может самостоятельно определить для себя правила этичной разработки систем с использованием методов и технологий искусственного интеллекта, следование которым при разработке ИСУИТИ становится обязательным.

6.5 Необходимо осуществить сертификацию на соответствие требованиям настоящего стандарта разработанной ИСУИТИ при ее внедрении.

6.6 Требования к применению методов и технологий искусственного интеллекта в ИСУИТИ

6.6.1 В ИСУИТИ используют методы и технологии искусственного интеллекта для повышения качества и эффективности управления транспортной инфраструктурой.

6.6.2 Использование методов и технологий искусственного интеллекта в ИСУИТИ должно соответствовать применимым законам и нормативным актам, касающимся использования методов и технологий искусственного интеллекта на транспорте.

6.6.3 Алгоритмы искусственного интеллекта в ИСУИТИ должны быть прозрачными, интерпретируемыми и понятными пользователям.

6.6.4 ИСУИТИ должна иметь механизмы для выявления и смягчения предвзятости и дискриминации при использовании алгоритмов искусственного интеллекта.

6.6.5 ИСУИТИ разрабатывают с учетом требований защиты конфиденциальности и безопасности персональных данных, собранных и обработанных алгоритмами искусственного интеллекта.

6.6.6 В составе ИСУИТИ должны быть предусмотрены механизмы мониторинга и аудита работы алгоритмов искусственного интеллекта, включая оценку их точности и надежности.

6.6.7 Модели искусственного интеллекта в ИСУИТИ должны обучаться на разнообразных и репрезентативных наборах данных для обеспечения эффективности и непредвзятости при принятии решений.

6.6.8 ИСУИТИ должна иметь механизмы обновления и перетренировки моделей искусственного интеллекта для обеспечения их точности и эффективности с течением времени.

6.6.9 ИСУИТИ должна иметь механизмы для объяснения пользователям решений, принимаемых алгоритмами искусственного интеллекта, с целью укрепления доверия и обеспечения подотчетности.

6.6.10 ИСУИТИ должна регулярно пересматриваться и оцениваться для обеспечения того, чтобы использование методов и технологий искусственного интеллекта продолжало быть оправданным и полезным для управления транспортной инфраструктурой.

6.6.11 Оценка рисков и распределение ответственности в сценариях функционирования ИСУИТИ с неприемлемым риском должно осуществляться в соответствии с Кодексом этики в сфере искусственного интеллекта.

6.6.12 Эксплуатация и функционирование ИСУИТИ должны осуществляться в соответствии с требованиями [1], [3], [4], [5], а также ратифицированными Российской Федерацией международными договорами и соглашениями, применимым к вопросам обеспечения прав и свобод граждан в контексте использования информационно-коммуникационных технологий.