Данный пост подготовлен на основе материалов, размещённых в марте-сентябре 2025 года в разделе сайта американского Национального института стандартов и технологий (NIST), посвященном искусственному интеллекту.
В рамках нового пилотного проекта Национального института стандартов и технологий (NIST) «Нулевые проекты стандартов ИИ» (AI Standards Zero Drafts) будет попробован процесс, направленный на расширение круга участников усилий по стандартизации и на ускорение создания стандартов, тем самым помогая разрабатываемым стандартам соответствовать потребностям сообщества ИИ и стимулируя инновации в этой области.
В рамках этого пилотного проекта NIST будет собирать от участников отзывы и предложения по темам, имеющим научное обоснование, и использовать их для подготовки «нулевых проектов» - разработанных на основе мнений заинтересованных сторон, в максимально возможной степени детальных предварительных проектов стандартов. Затем эти «нулевые проекты» будут переданы в качестве предложений в выполняемый под руководством частного сектора процесс стандартизации, для их дальнейшей разработки в качестве основанных на консенсусе добровольных стандартов.
Потребности стандартизации в сфере ИИОснованные на консенсусе добровольные стандарты обычно разрабатываются органами по стандартизации посредством строгих и порою длительных процессов достижения консенсуса среди заинтересованных экспертов. Когда NIST собирал информацию о потребностях в стандартизации в сфере ИИ, заинтересованные стороны неоднократно подчеркивали две проблемы, которые особенно сложно решить одновременно:
- Стандарты ИИ необходимо разрабатывать оперативно, чтобы удовлетворить неотложные потребности, предотвратить фрагментацию концепций стратегического управления и идти в ногу со стремительными темпами развития в данной области - при этом сохраняя строгость процесса и качество получаемых стандартов.
- Для разработки стандартов ИИ требуется привлечение широкого спектра экспертных знаний и точек зрения, многие из которых обычно не представлены в процессе разработки стандартов. Заинтересованные стороны стремятся удовлетворить множество своих потребностей с помощью стандартов ИИ. Ввиду этого важно, чтобы стандарты опирались на междисциплинарные точки зрения, в том числе на мнения многих типов организаций и заинтересованных сторон, которые разрабатывают, используют, изучают системы ИИ или же на которых эти системы оказывают влияние.
Решение, предлагаемое NIST: Разработка «нулевых проектов» с привлечением профессионального сообщества
Посредством публикации подробных, движимых интересами и мнениями заинтересованных стороны предложений об открытии разрабатывающими стандарты организациями новых проектов стандартов, NIST стремится расширить круг участников разработки стандартов ИИ и помочь разрабатывающим стандарты организациям (standards developing organizations, SDO) быстрее приходить к консенсусу. Для достижения этой цели NIST собирает предложения заинтересованных сторон и преобразует их в детализированные проекты, которые будут сопровождать предложения об открытии новых проектов, - следуя описанному ниже (и показанному на диаграмме – Н.Х.) процессу:
- NIST предлагает темы будущих стандартов и запрашивает мнение заинтересованных сторон относительно того, какие из них следует считать приоритетными, как определить область применения этих стандартов, и какое контент - для каждой приоритетной темы и области применения - NIST должен включить (или проработать) в такие стандарты.
Мой комментарий: Для сравнения, при открытии многих проектов ИСО/МЭК, CEN и иными органами по стандартизации, часто представляются обоснование проекта объёмом примерно в одну страницу (частью которого являются два-три параграфа, описывающие область определения) – план-проспект документа, который иногда включает лишь перечень разделов. Иными словами, проекты утверждаются в условиях, когда даже тема и область применения могут быть сформулированы очень широко и туманно, и нет чёткого представления о содержании будущего документа.
В стародавние времена этой проблемы не было, поскольку международные стандарты разрабатывались на основе уже зарекомендовавших себя национальных стандартов. NIST пытается, уже в иных условиях, вернуться тому, чтобы открывать проекты стандартов при наличии большого объёма идей и материалов – и такой подход действительно может привести к повышению качества стандартов и ускорению процесса их разработки.
- Для каждой отобранной NIST темы, на основе полученной обратной связи:
- NIST выпускает концептуальный документ, описывающий предлагаемую направленность стандарта;
- На основе концептуального документа и мнений широкого круга заинтересованных сторон, NIST предлагает первоначальный проект стандарта.
- NIST итеративно дорабатывает проекты в рамках последующих этапов сбора замечаний и предложений; и
- Итоговый документ представляется в орган по стандартизации (SDO) в соответствии с установленными процедурами как официальное предложение о разработке стандарта.
«Нулевые проекты» будут представлять собой подробные, высококачественные документы, отражающие мнения заинтересованных сторон, - но в конечном итоге они будут предложениями от NIST. Если эти предложения будут приняты органами по стандартизации, они, вероятно, продолжат изменяться в ходе официальной стандартизации.
Первоначальные темы и предлагаемые описания областей применения
Первые два «нулевых проекта» рассматриваются как пилотные. Обсуждаются следующие темы:
- «Тестирование, оценка, верификация и валидация ИИ» (AI testing, evaluation, verification, and validation, AI TEVV, https://www.nist.gov/document/outline-proposed-zero-draft-standard-ai-testing-evaluation-verification-and-validation )
Область применения: Данный нулевой проект стандарта предлагает организациям типовую концепцию проведения тестирования, оценки, верификации и валидации ИИ (TEVV) на основе четких понятий и концептуальных взаимосвязей, определенных организацией требований и целей, а также методологических ограничений. Проект не будет акцентировать внимание на конкретных методах TEVV.
- «Документация о характеристиках системы и данных для обеспечения прозрачности для действующих лиц ИИ» (Documentation about system and data characteristics for transparency among AI actors, https://www.nist.gov/document/extended-outline-proposed-zero-draft-standard-documentation-ai-datasets-and-ai-models , сентябрь 2025 г., 41 стр.)
Область применения: Данный нулевой проект стандарта будет содержать рекомендации по документированию моделей и наборов данных, предназначенных для публичного использования, включая списки полей, которые должны или могут быть включены в документируемый артефакт.
NIST выбрал эти темы из более обширного списка потенциальных тем и соответствующих областей применения на основе отзывов заинтересованных сторон. Полный список был составлен на основе приоритетов, указанных и представленных в NIST заинтересованными сторонами, и затем скорректирован для минимизации пересечения с существующими проектами по стандартизации.
В число других тем и потенциальных областей применения из этого списка, к которым можно будет вернуться в случае, если проект «Нулевые проекты» будет расширен за пределы пилотного этапа, входили, в частности, следующие:
- «Схемы соответствия понятий и терминологии, касающихся проектирования, архитектуры, процессов и действующих лиц систем ИИ» (Maps of concepts and terminology regarding AI system designs, architectures, processes, and actors).
Потенциальная область применения включает:
- Уточнение состава «стека ИИ» - слоёв технологий и ресурсов, используемых для создания приложений ИИ, включая роли, обязанности и процессы, задействованные на каждом слое на протяжении всего жизненного цикла ИИ.
- Эталонные архитектуры и/или шаблоны проектирования для систем ИИ для обеспечения единого понимания компонентов системы ИИ и их взаимосвязей.
- «Технические меры по снижению рисков, связанных с синтетическим контентом» (Technical measures for reducing risks posed by synthetic content).
Потенциальная область применения включает:
- Таксономия подходов и терминов, используемых для обозначения этих подходов (например, «прозрачность цифрового контента», «отслеживание происхождения данных», «подписанные метаданные», «водяные знаки»).
- Методы и метрики для оценки и подготовки отчетности об эффективности таких мер.
(Окончание следует)
Источник: сайт NIST
https://www.nist.gov/artificial-intelligence/ai-research/nists-ai-standards-zero-drafts-pilot-project-accelerate
