США: Национальный институт стандартов и технологий опубликовал Концепцию менеджмента рисков, связанных с искусственным интеллектом

Данная новость была опубликована 26 января 2023 года на сайте американского Национального института стандартов и технологий (NIST).

26 января 2023 года Национальный институт стандартов и технологий (NIST) опубликовал (см. https://www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial ) «Концепцию менеджмента рисков, связанных с искусственным интеллектом» (AI Risk Management Framework, AI RMF 1.0) (см. https://doi.org/10.6028/NIST.AI.100-1 ) вместе с сопровождающими её «Методическим руководством» (AI RMF Playbook, см. https://pages.nist.gov/AIRMF/ ), объясняющим видеороликом (AI RMF Explainer Video, см. https://www.nist.gov/video/introduction-nist-ai-risk-management-framework-ai-rmf-10-explainer-video ), «Дорожной картой» (AI RMF Roadmap, см. https://www.nist.gov/itl/ai-risk-management-framework/roadmap-nist-artificial-intelligence-risk-management-framework-ai ), описанием совместимости с другими концепциями (AI RMF Crosswalk, см. https://www.nist.gov/itl/ai-risk-management-framework/crosswalks-nist-artificial-intelligence-risk-management-framework ), и отзывами о Концепции различных заинтересованных сторон (см. https://www.nist.gov/itl/ai-risk-management-framework/perspectives-about-nist-artificial-intelligence-risk-management ). Видеозапись официального представления Концепции доступна по адресу https://www.nist.gov/news-events/events/2023/01/nist-ai-risk-management-framework-ai-rmf-10-launch .

Мой комментарий: Основной 48-страничный документ доступен по адресу https://doi.org/10.6028/NIST.AI.100-1 . Содержание Концепции следующее:

Резюме для руководства

Часть I: Базовая информация
1. Представление о рисках
2. Аудитория
3. Связанные с ИИ риски и надёжность и доверенность ИИ-систем
4. Оценка эффективности концепции AI RMF

Часть II: Ядро и профили
5. Ядро концепции AI RMF
6. Профили (варианты применения) концепции AI RMF3
Приложение A: Описание задач, выполняемых действующими лицами, участвующими в создании и использовании ИИ-систем
Приложение B: Чем связанные с ИИ риски отличаются от традиционных рисков для программного обеспечения
Приложение C: Управление связанными с ИИ рисками и взаимодействие человека и ИИ
Приложение D: Принципы разработки концепции AI RMF

NIST разработал данную Концепцию в сотрудничестве с частным и государственным секторами, с целью лучшего управления рисками для отдельных лиц, организаций и общества, связанных с искусственным интеллектом (ИИ). «Концепция менеджмента рисков, связанных с искусственным интеллектом» (AI RMF, https://doi.org/10.6028/NIST.AI.100-1 ) предназначена для добровольного применения с целью повышения способности учитывать соображения, касающиеся надежности и доверия, при проектировании, разработке, использовании и оценка ИИ-продуктов, услуг и систем.

Представленная 26 января 2023 года Концепция была разработана в рамках основанного на консенсусе, открытого, прозрачного и коллективного процесса, который включал стадию запроса информации (Request for Information), подготовку нескольких предварительных версий для публичного обсуждения, проведение ряда семинаров (см. https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-workshops-events ) и предоставление иных возможностей для подачи своих замечаний и предложений. Предполагается, что Концепция будет развивать, согласовываться и поддерживать усилия по управлению связанными с ИИ рисками, предпринимаемые другими сторонами.

NIST планирует сотрудничать с ИИ-сообществом с тем, чтобы периодически обновлять Концепцию, и готов в любое время рассматривать предложения по внесению в Концепцию дополнений и улучшений. Замечания и предложения, полученные до конца февраля 2023 года, будут включены в обновленную версию «Методических рекомендаций», которая выйдет в свет весной 2023 года.

Кроме того, NIST планирует запустить «Центр надёжных и ответственных ИИ-ресурсов» (Trustworthy and Responsible AI Resource Center), чтобы помочь организациям внедрить Концепцию AI RMF 1.0 на практике. NIST призывает организации разрабатывать и делиться профилями, отражающими то, как они будут использовать Концепцию в своих конкретных условиях. Эти материалы предлагается направлять по адресу AIFramework@nist.gov .

Источник: сайт NIST
https://www.nist.gov/itl/ai-risk-management-framework  
https://www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial