Документ подготовлен техническим подкомитетом TC22/SC32 «Дорожный транспорт - Электрические и электронные компоненты и общие системные аспекты» (Road vehicles - Electrical and electronic components and general system aspects).
Мой комментарий: Для широкой аудитории в данном документе может представлять интерес обширный терминологический раздел, содержащий много любопытных терминов и определений, отсутствующих в базовом терминологическом стандарте для искусственного интеллекта ISO/IEC 22989.
«Настоящий документ применяется к связанным с безопасностью системам, включающим в свой состав одну или несколько электрических и/или электронных систем, использующих технологию искусственного интеллекта (ИИ); и которые устанавливаются на серийных дорожно-транспортных средствах (за исключением мопедов).
В документе не рассматриваются уникальные электрические/электронные системы в специальных транспортных средствах, такие, например, как системы, предназначенные для водителей с ограниченными возможностями.
В данном документе рассматривается смягчение риска нежелательного, влияющего на безопасность поведения на уровне транспортного средства, возникающего вследствие недостатков получаемых результатов, систематических ошибок и случайных аппаратных ошибок в ИИ-элементах транспортного средства. Сюда входит взаимодействие с ИИ-элементами, которые не являются частью самого транспортного средства, но которые могут оказывать прямое или косвенное влияние на безопасность транспортного средства.
Пример 1: Примерами ИИ-элементов транспортного средства являются обученную ИИ-модель и ИИ-система.
Пример 2: Непосредственное влияние на безопасность может оказывать обнаружение объектов внешними по отношению к транспортному средству элементами.
Пример 3: Косвенное влияние на безопасность может быть связано с мониторингом окружения, осуществляемым внешними по отношению к транспортному средству элементами.
В данном документе не рассматривается разработка ИИ-элементов, которые не являются частью транспортного средства. Такие элементы могут соответствовать специфическим для конкретной области требованиям руководств по безопасности. Данный документ можно использовать в качестве справочного материала, если отсутствуют такие специфические для конкретной области руководства.
В данном документе описываются имеющие отношение к безопасности свойства ИИ-систем, которые можно использовать для подготовки убедительного заявления в составе гарантий безопасности, касающегося отсутствия неразумного риска.
Данный документ не содержит конкретных рекомендаций для программных инструментов, использующих методы ИИ.
В данном документе основное внимание уделяется подклассу методов ИИ, известному как «машинное обучение» (МО). Хотя документ охватывает принципы устоявшихся и хорошо изученных классов МО, он не фокусирует внимание на деталях каких-либо конкретных методов ИИ, таких, например, как глубокие нейронные сети.»
Содержание документа следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Требования к соответствию
6. ИИ в контексте проектирования безопасности систем дорожного транспорта и базовые понятия
7. Менеджмент безопасности ИИ
8. Аргументы по обеспечению уверенности для ИИ-систем
9. Разработка требований безопасности в отношении ИИ
10. Выбор мер для ИИ-технологий, архитектуры и разработки
11. Соображения, связанные с данными
12. Верификация и валидация ИИ-системы
13. Анализ безопасности ИИ-систем
14. Меры в период эксплуатации
15. Уверенность в использовании концепций разработки ИИ и ы программных инструментах, используемых для разработки ИИ-моделей
Приложения
Библиография
Источники: сайт ИСО
https://www.iso.org/standard/83303.html
https://www.iso.org/obp/ui/en/#!iso:std:83303:en
Комментариев нет:
Отправить комментарий