Стандарт подготовлен техническим подкомитетом SC42 «Искусственный интеллект» (Artificial Intelligence) Объединённого технического комитета ИСО/МЭК JTC1. Одновременно в подкомитете ПК2 зеркального российского технического комитета по стандартизации ТК 164 идёт работа по адаптации данного стандарта в качестве ГОСТа.
О подготовке стандарта я уже рассказывала на блоге, см. http://rusrim.blogspot.com/2024/03/isoiec-dis-42005.html
Что представляет собой стандарт ISO/IEC 42005?
Стандарт ISO/IEC 42005 содержит рекомендации для организаций, проводящих оценки воздействия систем ИИ. Эти оценки направлены на понимание того, как системы ИИ - и их предполагаемые приложения - могут повлиять на отдельных лиц, группы лиц или общество в целом. Стандарт способствует прозрачности, подотчётности и доверию к ИИ, помогая организациям выявлять, оценивать и документировать потенциальное воздействие системы ИИ на протяжении всего её жизненного цикла.
В чём важность стандарта ISO/IEC 42005?
Технологии искусственного интеллекта быстро трансформируют отрасли, экономики и повседневную жизнь, предлагая огромные преимущества, но также вызывая этические, социальные и экологические проблемы. Стандарт ISO/IEC 42005 играет ключевую роль в обеспечении ответственного реагирования на эти воздействия. Стандарт, направляя организации в процессе проведения структурированных оценок воздействия, даёт им возможность согласовывать процесс разработки ИИ с такими ценностями, как справедливость, безопасность и ориентированное на человека проектирование. Стандарт также поддерживает более широкие практики и методы стратегического управления и управления рисками, укрепляя доверие и способствуя принятию систем ИИ обществом.
Польза от стандарта
Стандарт ISO/IEC 42005:
- Укрепляет доверие заинтересованных сторон посредством прозрачной документации о воздействии системы ИИ,
- Поддерживает ответственные инновации посредством устранения общественно-социальных и этических рисков,
- Улучшает согласованность с системами стратегического управления, управления рисками и обеспечения исполнения законодательно-нормативных требований,
- Улучшает внутренние процессы принятия решений и подотчётность на протяжении всего жизненного цикла системы ИИ,
- Поощряет последовательность и ясность в отчетности о воздействии, связанном с ИИ.
… Настоящий документ содержит рекомендации для организаций, выполняющих оценку воздействия систем ИИ на отдельных лиц и на сообщества, на которые может оказать влияние система ИИ и её целевые и прогнозируемые применения. Стандарт включает рекомендации о том, как и когда проводить такие оценки, и на каких стадиях жизненного цикла системы ИИ, а также даёт рекомендации по документированию оценки воздействия системы ИИ.
Кроме того, в рекомендациях описано, каким образом процесс оценки воздействия системы ИИ можно интегрировать в системы менеджмента ИИ и ИИ-рисков организации.
Данный документ предназначен для использования организациями, разрабатывающими, предоставляющими или использующими системы ИИ. Он применим в любой организации, вне зависимости от её размера, типа и характера.
Содержание документа следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Разработка и внедрение процесса оценки воздействия системы ИИ
6. Документирование оценки воздействия системы ИИ
Приложение A: Рекомендации по использованию стандарта совместно с ISO/IEC 42001
Приложение В: Рекомендации по использованию стандарта совместно с ISO/IEC 23894
Приложение C: Таксономия вреда и пользы
Приложение D: Согласование оценки воздействия системы ИИ с другими оценками
Приложение E: Пример шаблона оценки воздействия системы ИИ
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/44545.html
https://www.iso.org/obp/ui/en/#!iso:std:44545:en
Комментариев нет:
Отправить комментарий