США: Национальный институт стандартов и технологий NIST начал публичное обсуждение проектов руководств по использованию ИИ и объявил о новой программе по оценке технологий генеративного ИИ

Данная заметка Эбби Хоскин (Abigail (Abby) Novick Hoskin – на фото) была опубликована 30 апреля 2024 года на форуме сайта EffectiveAltruism.org .

Национальный институт стандартов и технологий (National Institute of Standards and Technology, NIST) при правительстве США предлагает заинтересованным лицам присылать свои замечания и предложения на 4 проектам рекомендаций по стратегическому управлению искусственным интеллектом (ИИ). NIST также объявил о своей новой программе по оценке и измерению технологий порождающего (генеративного) ИИ.

И то, и другое представляются отличными возможностями для людей, заинтересованных в стратегическом управлении ИИ и оценке ИИ-технологий!

Рекомендации по стратегическому управлению ИИ, на которые можно представить отзывы

Ниже перечислены проекты, упомянутые в опубликованном извещении (см. https://www.commerce.gov/news/press-releases/2024/04/department-commerce-announces-new-actions-implement-president-bidens ):

• Публикация NIST AI 600-1 «Концепция управления рисками искусственного интеллекта: Профиль порождающего (генеративного) искусственного интеллекта» (Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile) объёмом 79 страниц, см. https://airc.nist.gov/docs/NIST.AI.600-1.GenAI-Profile.ipd.pdf
  
  
• Специальная публикация NIST SP 800-218A «Практика безопасной разработки программного обеспечения для генеративного ИИ и базовых ИИ-моделей двойного назначения – Профиль для сообщества, следующего концепции разработки безопасного ПО (SSDF – от Secure Software Development Framework – Н.Х.)» (Secure Software Development Practices for Generative AI and Dual-Use Foundation Models - An SSDF Community Profile) объёмом 29 страниц, см. https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-218A.ipd.pdf
  
  
• Публикация NIST AI 100-4 «Снижение рисков, связанных с синтетическим контентом - Обзор технических подходов к прозрачности цифрового контента» (Reducing Risks Posed by Synthetic Content - An Overview of Technical Approaches to Digital Content Transparency) объёмом 95 страниц, см. https://airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf
  
  
• Публикация NIST AI 100-5 «План глобального взаимодействия по стандартам ИИ» (A Plan for Global Engagement on AI Standards) объёмом 29 страниц, см. https://airc.nist.gov/docs/NIST.AI.100-5.Global-Plan.ipd.pdf

Проекты публикаций NIST AI 600-1, NIST AI 100-5 и NIST AI 100-4 доступны для просмотра и комментирования на веб-сайте Центра ресурсов NIST по искусственному интеллекту (NIST Artificial Intelligence Resource Center, https://airc.nist.gov/AI_RMF_Knowledge_Base/Technical_And_Policy_Documents ); а проект специальной публикации NIST SP 800-218A доступен для просмотра и комментирования на веб-сайте Центра ресурсов NIST по компьютерной безопасности ( https://csrc.nist.gov/projects/ssdf ).

Публикации охватывают различные аспекты ИИ-технологии: первые две представляют собой руководства, призванные помочь с управлением рисками порождающего (генеративного) ИИ - технологии, которая лежит в основе чат-ботов и инструментов для создания изображений и видеоматериалов на основе текстовых указаний. Они также являются ресурсами, поддерживающими концепцию NIST по управлению рисками искусственного интеллекта (AI Risk Management Framework, AI RMF, https://www.nist.gov/itl/ai-risk-management-framework ) и концепцию разработки безопасного ПО (Secure Software Development Framework, SSDF,  https://csrc.nist.gov/pubs/sp/800/218/final ) соответственно. Третий документ предлагает подходы к обеспечению прозрачности цифрового контента, который ИИ может создавать или изменять; а четвертый - предлагает план организации глобального участия в разработке стандартов ИИ.

Конкурс по оценке ИИ-технологий: регистрация откроется в мае

В рамках программы NIST «GenAI» («генеративный ИИ») будет предложено решить ряд сложных задач, связанных с оценкой и измерением возможностей и ограничений технологий порождающего (генеративного) ИИ. Результаты будут использоваться для выбора стратегий, способствующих обеспечению целостности информации и направляющих безопасное и ответственное использование цифрового контента.

Одна из целей программы заключается в том, чтобы помочь людям определить, кем был создан тот или иной текст, изображение, видео или аудиозапись - человеком или искусственным интеллектом.

Регистрация на участие в пилотных оценках откроется в мае 2024 года. Целью этих усилий будет понимание того, чем созданный человеком контент отличается от синтетического. Более подробную информацию о данном конкурсе и о том, как зарегистрироваться на участие в нём, можно найти на веб-сайте программы GenAI по адресу https://ai-challenges.nist.gov/genai .

Эбби Хоскин (Abigail (Abby) Novick Hoskin)

Источник: форум сайта EffectiveAltruism.org
https://forum.effectivealtruism.org/posts/fhZcEGsxEjD5SapxE/nist-seeks-comments-on-draft-ai-guidance-documents-announces