ИСО и МЭК: Опубликован технический отчёт ISO/IEC TR 5469:2024 «ИИ - Функциональная безопасность и системы искусственного интеллекта»

В январе 2024 года сайт Международной организации по стандартизации (ИСО) сообщил о публикации новой нового технического отчёта ISO/IEC TR 5469:2024 «Искусственный интеллект - Функциональная безопасность и системы искусственного интеллекта» (Artificial intelligence - Functional safety and AI systems) объёмом 82 страницы, см. см. https://www.iso.org/standard/81283.html и https://www.iso.org/obp/ui/en/#!iso:std:81283:en .

Документ подготовлен техническим подкомитетом по стандартизации ИСО/МЭК JTC1/SC42 «Искусственный интеллект» (Artificial Intelligence).

Напомню, что на основе финального проекта этого документа (ISO/IEC DTR 5469) был разработан российский предстандарт ПНСТ 836-2023 «Искусственный интеллект. Функциональная безопасность и системы искусственного интеллекта», о котором см. мой пост здесь: http://rusrim.blogspot.com/2024/01/836-2023.html

Во вводной части документа, в частности, отмечается:

«В настоящем документе описываются свойства, соответствующие факторы риска, существующие методы и процессы, имеющие отношение:

• к применению ИИ для реализации функциональной возможности, связанной с безопасностью;
  
  
• к применению связанных с безопасностью функциональных возможностей, реализованных без использования ИИ, - для обеспечения безопасности оборудования, управляемого ИИ;
  
  
• к применению ИИ-систем для проектирования и разработки связанных с безопасностью функциональных возможностей.»

Содержание технического отчёта следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Обзор вопросов функциональной безопасности
6. Использование технологий ИИ в электрических / электронных / программируемых электронных (E/E/PE) системах, связанных с безопасностью
7. Элементы ИИ технологий и принцип трёхэтапной реализации
8. Свойства ИИ-систем и связанные с ними факторы риска
9. Методы верификации и валидации
10. Меры контроля / управления и смягчения рисков
11. Процессы и методологии
Приложение А: Применимость стандарта IEC 61508-3 к элементам ИИ-технологий
Приложение В: Примеры применения принципа трёхэтапной реализации
Приложение С: Возможный процесс и полезная технология для верификации и валидации
Приложение D: Соответствие между ISO/IEC 5338 и стандартами серии IEC 61508
Библиография

Источник: сайт ИСО
https://www.iso.org/standard/81283.html
https://www.iso.org/obp/ui/en/#!iso:std:81283:en