ИСО и МЭК: Опубликован технический отчёт ISO/IEC TR 24027:2021 «Необъективность в ИИ-системах и при принятии решений с использованием искусственного интеллекта»

В начале ноября 2021 года сайт Международной организации по стандартизации (ИСО) сообщил о публикации нового технического отчёта ISO/IEC TR 24027:2021 «Информационные технологии – Искусственный интеллект (ИИ) – Предвзятость и необъективность в ИИ-системах и при принятии решений с использованием ИИ» (Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making) объёмом 46 страниц, см. https://www.iso.org/standard/77607.html и https://www.iso.org/obp/ui/#!iso:std:77607:en .

Документ подготовлен отвечающим за стандартизацию в области искусственного интеллекта техническим подкомитетом SC42 Объединённого технического комитета ИСО/МЭК JTC1.

Во вводной части документа, в частности, отмечается следующее:

«Предвзятость и необъективность (bias – в науке и технике этот термин часто переводится как «систематическая ошибка» - Н.Х.) в системах искусственного интеллекта (ИИ) может проявляться различным образом. Системы искусственного интеллекта, которые обучаются закономерностям на основе данных, потенциально могут отражать существующие в обществе предубеждения против определённых групп. Хотя некоторая предвзятость необходима для достижения целей ИИ-системы (т.н. желаемая предвзятость), может существовать и предвзятость, которая не предусмотрена целями ИИ-системы, и, таким образом, представляет собой нежелательную предвзятость в рамках ИИ-системы.

Предвзятость в системах искусственного интеллекта может появиться вследствие структурных недостатков в проекте системы, может возникать из-за присущей заинтересованным сторонам когнитивной предвзятости, или же быть внутренне присущей наборам данных, которые используются для обучения моделей. Это означает, что системы искусственного интеллекта способны закрепить или даже усилить существующие предубеждения и предвзятость, и создать новые.

Разработка систем искусственного интеллекта, дающих свободные от нежелательной предвзятости результаты, является сложной задачей. Поведение функций ИИ-системы является сложным и его может быть трудно понять, тем не менее, смягчать и устранять нежелательную предвзятость возможно. Многие направления деятельности, связанные с разработкой и развертыванием систем искусственного интеллекта, предоставляют возможности для выявления и устранения нежелательной предвзятости, тем самым давая возможность заинтересованным сторонам получать пользу от систем искусственного интеллекта в соответствии со своими целями и задачами.

Предвзятость в системах искусственного интеллекта – это активная область исследований. В настоящем документе описываются современные передовые методы выявления и устранения предвзятости в ИИ-системах или при принятии решений с помощью искусственного интеллекта, вне зависимости от источника предвзятости. Документ охватывает такие темы, как:

• обзор вопроса предвзятости и объективности;
  
  
• потенциальные источники нежелательной предвзятости и способы описания природы потенциальной предвзятости;
  
  
• оценка предвзятости и объективности с помощью метрик;
  
  
• борьба с нежелательной предвзятостью с помощью соответствующих стратегий.

… В настоящем документе рассматривается вопрос предвзятости и необъективности в связи с ИИ-системами, особенно в отношении принятия решений с помощью искусственного интеллекта. Описываются методы измерения и оценки предвзятости, с целью борьбы и устранения связанных с предвзятостью уязвимостей. Документ охватывает все этапы жизненного цикла ИИ-системы, включая (но не ограничиваясь ими) сбор данных, обучение, непрерывное обучение, проектирование, тестирование, оценку и использование.»

Содержание технического отчёта следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Обзор вопроса предвзятости и объективности
6. Источники нежелательной предвзятости в ИИ-системах
7. Оценка предвзятости и объективности в ИИ-системах
8. Обработка нежелательной предвзятости на протяжении жизненного цикла ИИ-системы
Приложение A: Примеры предвзятости
Приложение B: Соответствующие инструменты с открытым исходным кодом
Приложение C: Взаимосвязь со стандартом ISO 26000
Библиография

Мой комментарий: В Приложении С упоминается стандарт ISO 26000:2010 «Руководство по социальной ответственности» (Guidance on social responsibility), адаптированный в России как ГОСТ Р ИСО 26000-2012 «Руководство по социальной ответственности», http://protect.gost.ru/document.aspx?control=7&baseC=6&page=81&id=181382

Источник: сайт ИСО
https://www.iso.org/standard/77607.html
https://www.iso.org/obp/ui/#!iso:std:77607:en