Стандарт подготовлен техническим подкомитетом SC42 «Искусственный интеллект» (Artificial intelligence), входящим в состав Объединенного технического комитета JTC1 «Информационные технологии» Международной организации по стандартизации (ИСО) и Международной электротехнической комиссии (МЭК).
«Для обеспечения безопасной и контролируемой эксплуатации системы ИИ, человек, осуществляющий контроль и надзор над целевой системой ИИ, должен обладать достаточными возможностями для мониторинга и управления целевой системой ИИ, а также для обеспечения соответствия системы политикам организации, установленным рамочными структурами стратегического управления. Процесс достижения этой цели называется «человеческим надзором, надзором со стороны человека» (human oversight).
Осуществляемый человеком надзор является одной из отправных точек для максимизации возможностей систем ИИ и оптимизации показателей их производительности, сохраняя при этом автономию человека в принятии решений. В подходящей среде системы ИИ могут собирать гораздо больше данных, анализировать их гораздо быстрее и управлять другими системами более интеллектуальным образом, чем это могут делать эксперты-люди. В то же время, эксперты-люди, конечные пользователи и/или сторонние наблюдатели иногда могут лучше справляться со сбоями в работе системы ИИ, в зависимости от варианта использования. Все эти проблемы решаются в рамках соответствующего контроля и мониторинга целевой системы ИИ, называемого «надзором со стороны человека».
Ожидается, что уровень возможностей мониторинга и контроля/управления должен быть достаточным, но он не обязательно должен быть идеальным. Например, гроссмейстеры игры в го не достигли полного понимания принципов работы систем искусственного интеллекта, играющих в эту игру, но эти системы ИИ вносят свой вклад в развитие игры го. Это та же ситуация, что и с традиционными ИТ-системами.
… Настоящий документ содержит рекомендации по осуществляемому человеком контролю, управлению и мониторингу систем ИИ, известному как «человеческий надзор, надзор со стороны человека» (human oversight). Данный документ является расширением технических спецификаций ISO/IEC TS 8200:2024 «Информационные технологии - Искусственный интеллект - Управляемость автоматизированных систем искусственного интеллекта» (Information technology - Artificial intelligence - Controllability of automated artificial intelligence systems, см. https://www.iso.org/standard/83012.html и https://www.iso.org/obp/ui/en/#!iso:std:83012:en , а также мой пост http://rusrim.blogspot.com/2024/05/isoiec-ts-82002024.html - Н.Х.).
Данный документ применим в организациях любого типа, разрабатывающих и использующих системы ИИ на протяжении всего их жизненного цикла.»
Содержание стандарта следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Концепция человеческого контроля над системами ИИ и аспекты мониторинга, контроля и управления такими системами
6. Заинтересованные стороны и их роли
7. Конфигурация «система ИИ - человек»
8. Понимание систем
9. Интерфейс «человек-машина» для поддержки человеческого контроля
10. Вмешательство человека
11. Предвзятость
Приложение A: Варианты использования, основанные на мысленных экспериментах
Приложение B: Обоснование отказа от использования специфической терминологии в данном документе
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/86902.html
https://www.iso.org/obp/ui/en/#!iso:std:86902:en
Комментариев нет:
Отправить комментарий