ИСО и МЭК: Опубликованы новые технические спецификации ISO/IEC TS 12791:2024 «Борьба с нежелательной предвзятостью при выполнении задач классификации и регрессии с использованием алгоритмов машинного обучения»

В октябре 2024 года сайт Международной организации по стандартизации (ИСО) сообщил о публикации новых технических спецификаций ISO/IEC TS 12791:2024 «Информационные технологии - Искусственный интеллект – Борьба с нежелательной предвзятостью / систематическими отклонениями при выполнении задач классификации и регрессии с использованием алгоритмов машинного обучения» (Information technology - Artificial intelligence - Treatment of unwanted bias in classification and regression machine learning tasks) объёмом 24 страницы основного текста, см. https://www.iso.org/standard/84110.html и https://www.iso.org/obp/ui/en/#!iso:std:84110:en .

Документ подготовлен техническим подкомитетом SC42 «Искусственный интеллект» (Artificial Intelligence) Объединённого технического комитета ИСО/МЭК JTC1. О работе над ним я уже рассказывала здесь: https://rusrim.blogspot.com/2024/05/isoiec-ts-127912024.html

Во вводной части документа, в частности, отмечается:

«В настоящем документе описываются шаги, которые могут быть предприняты для устранения нежелательной предвзятости / необъективности во время разработки или использования ИИ-систем.

Данный документ основан на техническом отчёте ISO/IEC TR 24027:2021 «Информационные технологии – Искусственный интеллект (ИИ) – Предвзятость и необъективность в ИИ-системах и при принятии решений с использованием ИИ» (Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making, см. https://www.iso.org/standard/77607.html ), и предлагает методы устранения предвзятости в соответствии с жизненным циклом ИИ-системы, как он описан в разделе 6 стандарта ISO/IEC 22989:2022 «Информационные технологии - Искусственный интеллект - Концепции и терминология искусственного интеллекта» (Information technology - Artificial intelligence - Artificial intelligence concepts and terminology, см. https://www.iso.org/standard/74296.html ), и в стандарте SO/IEC 5338:2023 «Информационные технологии – Искусственный интеллект – Процессы жизненного цикла систем искусственного интеллекта» (Information technology - Artificial intelligence - AI system life cycle processes, см. https://www.iso.org/standard/81118.html ).

Методы устранения предвзятости в данном документе не зависят от контекста.

Данный документ основан на типах предвзятости, описанных в техническом отчёте ISO/IEC TR 24027.

В настоящем документе описываются хорошие практики устранения нежелательной предвзятости, и он может помочь организации в устранении нежелательной предвзятости в системах машинного обучения (МО), которые выполняют задачи классификации и регрессии. Рассмотренные в этом документе методы применимы в отношении задач классификации и регрессии на основе машинного обучения. В данном документе не рассматривается применимость описанных методов за пределами указанных задач машинного обучения.

… В настоящем документе описывается, как устранять нежелательную предвзятость в ИИ-системах, которые используют машинное обучение для выполнения задач классификации и регрессии. В данном документе описаны методы смягчения, которые могут применяться на протяжении всего жизненного цикла ИИ-системы для устранения нежелательной предвзятости. Данный документ применим в организациях любого типа и размера.»

Содержание документа следующее:

Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Устранение предвзятости в ходе жизненного цикла ИИ-системы
6. Методы устранения нежелательной предвзятости
7. Устранение предвзятости в ходе жизненного цикла распределенной ИИ-системы
Приложение А (справочное): Карта процессов жизненного цикла
Приложение B (справочное): Потенциальное воздействие нежелательной предвзятости на различные типы конкретных пользователей
Библиография

Источник: сайт ИСО
https://www.iso.org/standard/84110.html
https://www.iso.org/obp/ui/en/#!iso:std:84110:en