ГОСТ Р 70889-2023 (ИСО/МЭК 8183:2023). Национальный стандарт Российской Федерации. Информационные технологии. Искусственный интеллект. Структура жизненного цикла данных

7 Стадии и процессы жизненного цикла данных

 

На рисунке 2 показаны процессы и сквозные аспекты, важные для жизненного цикла данных.

 

 

Рисунок 2 - Соотношение процессов

и стадий жизненного цикла данных

 

К ним относятся следующие процессы:

- валидация и верификация: два вопроса "Построили ли мы правильную систему?" и "Построили ли мы систему правильно?" постоянно проверяются путем тестирования выходных результатов системы ИИ на соответствие деловым требованиям;

- бизнес-анализ: взаимосвязь между требованиями организации и способностью системы ИИ и особенно используемых в ней данных соответствовать этим требованиям анализируется на различных стадиях жизненного цикла данных;

- обработка данных: под обработкой понимаются любые операции с данными, включая сбор, сохранение, передачу, удаление или иные действия. В связи с этим возросла важность защиты персональных данных и особенно специальных категорий персональных данных. Сведения о происхождении данных, используемых в системах ИИ, должны актуализироваться в соответствии с требованиями организации;

- безопасность данных: данные в системе ИИ должны быть конфиденциальными (т.е. защищенными от несанкционированного доступа), доступными (т.е. доступными для санкционированного доступа) и целостными (т.е. защищенными от несанкционированного изменения).

Примечание - Для обеспечения безопасности данных необходимо учитывать категории данных (особенно специальные категории персональных данных) и особые требования при работе с ними в отдельных сферах деятельности;

 

- неприкосновенность частной жизни: ПДн должны быть защищены, а их целостность и доступность должны поддерживаться на основе принципов конфиденциальности, целостности, доступности. Процессы должны включать защиту ПДн, а также предотвращать случайное или преднамеренное создание новых ПДн;

- безопасность: необходимо обеспечить эффективное и результативное оперирование данными системой ИИ для снижения потенциальных рисков или вреда, которые могут быть ею вызваны.

Пример 1 - Разметка данных: система ИИ, которая обучается для корректной разметки визуального контента для ограничения просмотра по возрасту. Если система ИИ не была обучена избегать неправильной идентификации элементов визуального контента по возрасту, то в процессе эксплуатации она подвергает будущую аудиторию риску.

Пример 2 - Мониторинг данных: непрерывный мониторинг данных, которые вводятся для анализа, необходим для выявления изменений в данных, которые не могут быть обработаны в процессе анализа. Если начальные условия неверны, то возможными исходами работы системы ИИ станут незавершенность или бессмысленные результаты. Анализ может быть ошибочным, потому что система ИИ оперирует данными, которые не удовлетворяют свойствам, которые она должна была учитывать.

Пример 3 - Нормативные правовые требования и обеспечение их исполнения: если данные могут использоваться в приложениях ИИ, на которые распространяются конкретные требования законодательства или требования общественной безопасности (например, в железнодорожной, авиационной, атомной, медицинской или нефтегазовой отраслях), то к данным могут возникнуть дополнительные требования.

Примечание - Исполнение требований к наборам данных согласовывается с регулирующим органом или оценивается им. Это может быть сделано как в рамках оценки функциональной безопасности, так и в более широком контексте. Требования могут применяться как для статических данных, так и для текущих или динамических данных;

 

- разработка системы ИИ: создание системы, которую можно использовать для выполнения деловых требований организации, включая их непрерывную валидацию и верификацию;

- управление рисками: идентификация и управление любыми рисками, связанными с системой ИИ, на основе склонности организации к риску. Сюда включены риски, связанные с защитой персональных данных и безопасностью системы и данных в ней;

- стратегическое управление: роль руководящего органа и менеджеров в эксплуатации и выводе из эксплуатации системы ИИ и данных, используемых в ней. Это включает рассмотрение этических проблем, соблюдение требований законодательства, стандартов и передовой практики, подотчетности, управления рисками и фидуциарных обязательств (см. [4]);

- социальная и экологическая устойчивость: учитываются социальные и экологические последствия разработки и использования системы ИИ, чтобы данные, обрабатываемые в системе, можно было обрабатывать максимально устойчивым образом. Это относится как к физическому функционированию системы ИИ (например, путем обеспечения возможности работы в периоды низкого энергопотребления или предотвращения ненужного использования системы), так и к результатам функционирования системы (таким, как соблюдение этических норм).