Стандарт подготовлен подкомитетом SC42 «Искусственный интеллект» (Artificial intelligence) Объединённого технического комитета ИСО/МЭК JTC1.
«Искусственный интеллект (ИИ) всё чаще применяется во всех секторах, использующих информационные технологии, и, как ожидается, станет одним из основных движущих сил экономики. Следствием этой тенденции является то, что некоторые приложения могут привести к появлению в ближайшие годы общественно-социальных проблем.
Настоящий документ призван помочь организациям ответственно выполнять свою роль в отношении ИИ-систем (например, использовать, разрабатывать, контролировать или предоставлять продукты и услуги, использующие ИИ). При применении ИИ потенциально могут возникнуть следующие проблемные вопросы:
- Использование ИИ для автоматического принятия решений, иногда непрозрачным и неподдающимся объяснению образом, может потребовать особого менеджмента, выходящего за рамки менеджмента традиционными ИТ-системами;
- Использование при проектировании систем анализа данных, машинного обучения и выводимых из них знаний и представлений вместо закодированной человеком логики не только расширяет возможности применения ИИ-систем, но и меняет способы разработки, обоснования и развертывания таких систем.
- Осуществляющие непрерывное обучение ИИ-системы меняют свое поведение по ходу их использования. Такие системы требуют особого внимания, чтобы обеспечить их непрерывное ответственное использование при изменении поведения.
… В настоящем документе установлены требования и даны рекомендации по созданию, внедрению, поддержанию и постоянному совершенствованию системы менеджмента ИИ (искусственного интеллекта) в контексте организации.
Настоящий документ предназначен для применения организациями, предоставляющими или использующими продукты и услуги, использующие ИИ-системы. Данный документ призван помочь организации ответственным образом разрабатывать, предоставлять и использовать ИИ-системы при достижения своих целей, а также удовлетворять применимые требования, обязательства перед заинтересованными сторонами и их ожидания.
Данный документ может использоваться любыми организациями, вне зависимости от их размера, типа и характера, которые предоставляют или применяют использующие ИИ-системы продукты или услуги.»
Содержание стандарта следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Контекст (условия деятельности) организации
5. Лидерство
6. Планирование
7. Поддержка
8. Эксплуатация
9. Оценка эффективности
10. Совершенствование
Приложение A: Эталонные цели управления и меры и средства контроля и управления
Приложение B: Руководство по внедрению мер и средств контроля и управления ИИ
Приложение C: Цели организации и источники рисков, потенциально связанные с ИИ
Приложение D: Использование системы менеджмента ИИ в нескольких областях или секторах
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/81230.html
https://www.iso.org/obp/ui/en/#!iso:std:81230:en
Комментариев нет:
Отправить комментарий