Документ подготовлен Комитетом по стандартам инженерии программного обеспечения и систем C/S2ESC (Software & Systems Engineering Standards Committee). Документ свободно доступен при условии прохождения бесплатной регистрации на сайте IEEE.
Напомню, что в прошлом году были опубликованы спецификации ИСО/МЭК на ту же тему: ISO/IEC TS 12791:2024 «Информационные технологии - Искусственный интеллект – Борьба с нежелательной предвзятостью / систематическими отклонениями при выполнении задач классификации и регрессии с использованием алгоритмов машинного обучения» (Information technology - Artificial intelligence - Treatment of unwanted bias in classification and regression machine learning tasks, см. https://www.iso.org/standard/84110.html и https://www.iso.org/obp/ui/en/#!iso:std:84110:en , а также мой пост: http://rusrim.blogspot.com/2024/11/isoiec-ts-127912024.html ).
«Компьютерные алгоритмы и аналитика играют всё более влиятельную роль в государственном управлении, деловой деятельности и обществе. Они лежат в основе информационных сервисов и автономных интеллектуальных систем (АИС - autonomous intelligent systems, AIS), включая, помимо прочего, приложения искусственного интеллекта, в которых используются технологии символьного и субсимвольного ИИ технологии и их сочетания.
Данные технологии оказывают значительное непосредственное воздействие на жизнь людей в широком спектре социально-экономических, политических и культурных аспектов. Алгоритмы дают возможность эксплуатировать обширные и многообразные источники данных в государственном и частном секторах с целью поддержки принятия людьми решений и выполнения действий, служащих разнообразным интересам обществ и экономик, в которых они применяются. Однако, наряду с преимуществами, их использование связано с рисками, в том числе с рисками злонамеренных действий.
Настоящий стандарт описывает процессы и методологии, помогающие пользователям решать проблемы предвзятости при создании алгоритмов и моделей. Он включает, помимо прочего, следующие элементы:
- критерии отбора наборов данных;
- рекомендации по установлению границ областей применения, для которых АИС была разработана и проверена, и информированию о них, с целью защиты от нежелательных последствий, возникающих в результате применения АИС вне этой области применения;
- предложения по управлению ожиданиями пользователей, помогающие смягчить нежелательную предвзятость, связанную с некорректной интерпретацией пользователями выдаваемых системой результатов (например, смешение корреляции с причинно-следственной связью).
… Настоящий стандарт предназначен для того, чтобы предоставить создающим АИС лицам и организациям ориентированные на сертификацию процессы и методологии с целью обеспечения четко сформулированной подотчётности и ясности относительно того, как АИС нацеливается, оценивает и оказывает влияние на заинтересованные в ней стороны.
Данный стандарт позволяет создателям АИС определять, измерять и информировать пользователей и регулирующие органы о предвзятости в АИС, - и демонстрировать, что при проектировании, разработке, тестировании и оценке АИС использовались передовые методы и практики с целью избежать нежелательного дифференциального воздействия на заинтересованные стороны.»
Содержание стандарта следующее:
Введение
1. Обзор
2. Нормативные ссылки
3. Определения, аббревиатуры и сокращения
4. Требования в отношении принятия во внимание предвзятости
5. Профиль предвзятости
6. Выявление заинтересованных сторон
7. Представление данных
8. Оценка риска и воздействия
9. Проведение оценки
Приложение A (справочное): Концептуализация предвзятости
Приложение B (справочное): Выявление заинтересованных сторон
Приложение C (справочное): Рекомендации по оценке риска и воздействия
Приложение D (справочное): Измерение предвзятости
Приложение E (справочное): Культурные аспекты
Приложение F (справочное): Библиография
Источник: сайт IEEE
https://ieeexplore.ieee.org/document/10851955
https://standards.ieee.org/ieee/7003/11357/
Комментариев нет:
Отправить комментарий