ИСО: Начата работа над стандартом менеджмента рисков, связанных с искусственным интеллектом

Как сообщил недавно сайт Международной организации по стандартизации, начата работа над проектом стандарта ISO/IEC 23894 «Информационные технологии – Искусственный интеллект – Менеджмент риска» (Information Technology - Artificial Intelligence - Risk Management), см. https://www.iso.org/standard/77304.html

Эта работа проводится в рамках подкомитета SC42 «Искусственный интеллект» Объединенного технического комитета ИСО/МЭК JTC1.

В свою очередь сайт Британского института стандартов, говоря об этом проекте, отмечает следующее:

«Настоящий документ содержит рекомендации по менеджменту рисков, с которыми сталкиваются организации при разработке и применении методов и систем искусственного интеллекта (ИИ), с тем, чтобы помочь организациям интегрировать менеджмент связанного с ИИ риска в существенные направления и виды деятельности. В стандарте также описывается процесс эффективного внедрения и интеграции менеджмента связанного с ИИ риска.

Настоящие рекомендации могут быть адаптированы с учётом особенностей организации и условий её деятельности.

В настоящем документе используются требования и рекомендации, содержащиеся в международном стандарте ISO 31000 «Менеджмент риска - Руководство» (Risk management – Guidelines, в России адаптирован как ГОСТ Р ИСО 31000-2010 «Менеджмент риска. Принципы и руководство», см. http://protect.gost.ru/v.aspx?control=8&baseC=6&id=171333 – Н.Х.). Кроме того, в нём содержатся дополнительные рекомендации по вопросам, которые возникают при применении ИИ в существующих процессах любой организации, или же тогда, когда организация предоставляет ИИ-систему для использования другим сторонам.

… Одной из главных проблем внедрения систем искусственного интеллекта является отсутствие доверия к таким системам. Возражения связаны с последствиями предвзятости данных и/или алгоритмов, с новыми угрозами безопасности, такими, как вброс данных враждебными сторонами, угрозы для неприкосновенности частной жизни ввиду утечки персональных данных, а также недостаточные прозрачность и подотчётность.

Менеджмент риска - это концепция, которая широко рассматривается в публикациях ИСО, начиная от специфики конкретной области или приложения, переходя к сектору/отрасли и заканчивая общими рекомендациями. Структурированный, воспроизводимый процесс менеджмента риска для ИИ-систем напрямую решает следующие проблемные вопросы:

• Наличие ошибок проектирования, вопрос оценки типичных соответствующих угроз и рисков для систем на основе искусственного интеллекта, а также способы смягчения этих рисков и методики, позволяющие выявлять, классифицировать и обрабатывать риски для (и связанные с использованием) ИИ-систем;


• Создание и укрепление доверия к ИИ-системам посредством прозрачности, проверяемости, объяснимости, управляемости и т.д., с использованием хорошо понятых и документированных процессов менеджмента риска;


• Устойчивость, живучесть, надежность, точность, безопасность, защищённость ИИ-систем, защита неприкосновенности частной жизни и т.д., посредством обеспечения прозрачности обработки рисков для выявленных заинтересованных сторон.»

Источник: сайт ИСО / сайт BSI
https://www.iso.org/standard/77304.html
https://standardsdevelopment.bsigroup.com/projects/9018-02222