Росстандарт: Начато публичное обсуждение проекта технического отчёта ГОСТ Р ИСО/МЭК ТО 24027 «Информационная технология. Искусственный интеллект. Смещённость в системах искусственного интеллекта»

Как я уже рассказывала на блоге (см. http://rusrim.blogspot.com/2021/11/isoiec-tr-240272021.html ), в ноябре 2021 года был опубликован совместно разработанный Международной организацией по стандартизации (ИСО) и Международной электротехнической комиссией (МЭК) технический отчёт ISO/IEC TR 24027:2021 «Информационные технологии – Искусственный интеллект (ИИ) – Предвзятость и необъективность в ИИ-системах и при принятии решений с использованием ИИ» (Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making) объёмом 46 страниц, см. https://www.iso.org/standard/77607.html и https://www.iso.org/obp/ui/#!iso:std:77607:en .

На сайте NORMACS ( https://www.normacs.info ) с 20 сентября 2022 года открыто публичное обсуждение проекта российской адаптации этого документа - ГОСТ Р ИСО/МЭК ТО 24027 «Информационная технология. Искусственный интеллект. Смещённость в системах искусственного интеллекта» объёмом 85 страниц, см. https://www.normacs.info/projects/10617 . Обсуждение продлится до 14 ноября 2022 года; для участия в обсуждении может потребоваться регистрация на сайте.

Текст проекта стандарта можно скачать по адресу https://www.normacs.info/project_files/11657 , а пояснительной записки к нему – по адресу https://www.normacs.info/project_files/11656 .

Документ разработан Национальным исследовательским университетом «Высшая школа экономики», представлен Техническим комитетом по стандартизации ТК 164 «Искусственный интеллект».

К сожалению, перевод ключевого термина bias, используемого в англоязычном документе в смысле «предвзятость, необъективность, несправедливость» с использованием технически-нейтрального термина «смещённость» с самого начала задаёт неверный тон и не способствует интересу к документу и его пониманию. При этом переводчики непоследовательны и по ходу документа нередко переводят данный термин по-иному.

Во вводной части документа отмечается:

«В настоящем стандарте рассматриваются вопросы смещённости в отношении систем ИИ, особенно в отношении принятия решений с помощью ИИ. Описаны методы измерения и методы оценки смещённости с целью устранения и обработки уязвимостей, связанных со смещённостью.

Рассматриваются все фазы жизненного цикла системы ИИ, включая, сбор данных, обучение, непрерывное обучение, проектирование, тестирование, оценку и использование, но обзор не ограничивается рассмотрением только этих процессов.»

Просто сравните этот текст с переведенной мною аннотацией из англоязычного документа (см. http://rusrim.blogspot.com/2021/11/isoiec-tr-240272021.html ) ...

Содержание документа следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Обзор смещённости и справедливости
6. Источники нежелательной смещённости в системах ИИ
7. Оценка смещённости и справедливости в системах искусственного интеллекта
8. Устранение нежелательной смещённости в течение всего жизненного цикла системы ИИ
Приложение А (справочное): Примеры смещённости
Приложение В (справочное): Инструменты с открытым исходным кодом
Приложение С (справочное): ISO 26000 – Пример карты соотношений
Библиография

Оставить свои замечания на проект стандарта можно здесь: https://www.normacs.info/discussions/8472#8472

Источник: сайт NORMACS
https://www.normacs.info/projects/10617
https://www.normacs.info/discussions/8472#8472