Над стандартом работает подкомитет SC42 «Искусственный интеллект» (Artificial intelligence) Объединенного технического комитета ИСО/МЭК JTC1.
Во вводной части документа отмечается:
«Цели этого документа включают:
- Повышение доверия, улучшение подотчетности и информационного взаимодействия между различными заинтересованными в ИИ сторонами, включая партнеров по цепочке поставок, клиентов, пользователей, общество и регулирующие органы, посредством установления согласованной терминологии, касающейся прозрачности ИИ-систем;
- Предоставление заинтересованным сторонам информации о различных элементах прозрачности с указанием их актуальности и возможных ограничений при различных вариантах использования и для различной целевой аудитории;
- Использование в качестве основы для разработки стандартов прозрачности ИИ-систем для конкретных технологий, отраслей или регионов.
Применительно к ИИ-системам, прозрачность (transparency) - это свойство системы, означающее, что адекватная информация о системе предоставляется соответствующим заинтересованным сторонам. Адекватная информация для обеспечения прозрачности системы может включать такие аспекты, как признаки, показатели производительности, ограничения, компоненты, процедуры, меры, цели проектирования, проектные решения и допущения, источники данных и протоколы разметки (см. стандарт ISO/IEC 22989:2022 «Информационные технологии - Искусственный интеллект – Понятия и терминология в области искусственного интеллекта» (Information technology - Artificial intelligence - Artificial intelligence concepts and terminology)).
При большей прозрачности соответствующим заинтересованным сторонам предоставляется информация, позволяющая лучше понять, как разрабатывается и используется ИИ-система. Это позволяет, например, клиентам ИИ-системы (например, пользователям ИИ-системы) определить, ли она подходящей для их условий; а аудиторам - определить, соответствует ли ИИ-система установленным обязательным требованиям.
Стандартизированная таксономия прозрачности ИИ-систем помогает специалистам разных направлений деятельности лучше понимать друг друга, используя одни и те же термины. Данный стандарт обеспечивает основу для разработки совместимых и согласованных стандартов, относящихся к прозрачности.
Данный документ имеет следующую структуру:
- Раздел 5 содержит обзор документа и описывает концепцию прозрачности ИИ-систем, в особенности в отношении других показателей доверенности и надёжности.
- В разделе 6 обсуждается, как могут варьироваться потребности в прозрачности в зависимости от контекста ИИ-системы и от роли различных заинтересованных сторон. В нём также приводятся примеры того, как исполнители различных ролей заинтересованных сторон ИИ могут извлечь выгоду от различных элементов прозрачности или же сыграть роль в обеспечении этих элементов.
- В разделе 7 описаны элементы прозрачности, информирующие о контексте ИИ-системы (например, о её влиянии на занятость или окружающую среду).
- В разделе 8 рассматривается документирование того, как ИИ-система взаимодействует со своей средой (например, рекомендуемые и запрещенные варианты использования, документация на API-интерфейсы).
- Раздел 9 посвящен внутренним процессам у функционирования системы на уровне компонентов модели и алгоритмических процессов.
- Наконец, раздел 10 содержит рекомендации по документированию наборов данных как отдельных объектов.
… Настоящий документ описывает таксономию элементов информации, помогающую заинтересованным сторонам ИИ в выявлении и удовлетворении потребностей в прозрачности ИИ-систем. В документе описывается семантика элементов информации и их важность для различных целей различных заинтересованных сторон ИИ. В данном документе используется горизонтальный подход, и он применим в организациях любого рода и для любых приложений, связанным с ИИ.»
Содержание стандарта следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Обозначения и сокращения
5. Обзор
6. Потребности и цели заинтересованных сторон
7. Таксономия контекстного уровня
8. Таксономия системного уровня
9. Таксономия уровня модели
10. Таксономия уровня набора данных
Приложение А (справочное): Описание типов прозрачности
Приложение B (справочное); Примеры прозрачности ИИ-систем
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/84111.html
Комментариев нет:
Отправить комментарий