Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 26 ноября 2025 года в социальной сети Substack.
(Продолжение, предыдущую часть см. https://rusrim.blogspot.com/2026/01/2-2.html )
Почему флагманский закон Евросоюза об искусственном интеллекте (ИИ) опирается на документирование, параданные и долговечность доказательств.
Описывая Закон Евросоюза об ИИ, его часто называют первой всеобъемлющей попыткой нормативно-правового регулирования искусственного интеллекта - и в узком смысле, это верно. Закон устанавливает правила для систем ИИ высокого риска, вводит обязательства по обеспечению прозрачности, требует проведения оценки соответствия и устанавливает штрафные санкции. Однако изучив текст закона внимательно и прочитав его не как специалист по технологиям или разработчик политик, а как специалист по управлению документами, я увидел несколько иную картину.
Мой комментарий: Европейский «Закон об искусственном интеллекте» был официально опубликован 13 июля 2024 года. Его текст на всех официальных языках Евросоюза доступен на европейском правовом портале EUR-Lex по адресу https://eur-lex.europa.eu/eli/reg/2024/1689/oj . Версия закона на английском языке объёмом 144 страницы доступна по адресу https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689 в формате PDF.
Закон об ИИ - это не просто концепция стратегического управления. Это не просто режим управления рисками, не просто свод правил обеспечения прозрачности. Он представляет собой свод обязательных требований к управлению документами, только написанный языком регулирующих органов, а не архивистов.
Мой комментарий: Любая деятельность в сфере государственного управления, любая коммерческая и некоммерческая деятельность всегда строится на документах, которые устанавливают правила, выполняют роль инструментов деятельности и/или образуются в качестве побочных продуктов такой деятельности. Любой надзор и контроль всегда в первую очередь опирается на документальные доказательства, создавать и сохранять которые предписано законодательством. Именно поэтому любой сколько-нибудь существенный закон всегда прямо или косвенно влияет на управление документами – и, с моей точки зрения, принципиально новым в Законе Евросоюза об ИИ является лишь то, что, поскольку закон регулирует инновационную сферу деятельности, он упоминает новые виды и формы документов и информации, которыми теперь следует управлять.
Закон предполагает, что организации могут обратиться к оставленному системой ИИ «документальному следу» спустя месяцы или годы, для того, чтобы понять, что делала эта система. Он предполагает, что следователи будут иметь возможность реконструировать состояния системы в прошлом; а также то, что решения о рисках, проектные решения и выработанные в ходе оперативной работы знания будут захвачены / зафиксированы в долговечной форме. Закон исходит из предположения о том, что документы существуют и продолжат существовать и в дальнейшем.
Именно такой подтекст формирует все аспекты закона.
Документация как становой хребет
Первый «намёк» появляется в требованиях к технической документации. Прежде чем система ИИ высокого риска сможет попасть на рынок, её поставщик должен предоставить обширную документацию, описывающую архитектуру системы, аспекты стратегического управления данными, целевое назначение, ожидаемые показатели производительности, процессы управления рисками, меры безопасности, решения по управлению жизненным циклом и историю изменений.
В Европе схема метаданных или формат документации не предписываются. Приложение IV (устанавливающее минимальный состав сведений, включаемых в техническую документацию – Н.Х.) перечисляет раскрываемые вопросы, а не структуру. В результате возникает ситуация, в которой наличие определённого контента обязательно, но способ его хранения (контейнер) может быть различным. Некоторые организации создадут красивые, структурированные документы, в то время, как другие сгенерируют нечто такое, что соответствует их внутренней зрелости.
Но, вне зависимости от используемого стиля и изощрённости, само по себе требование является очевидным: необходимо документировать систему, и необходимо сохранять эти документы в течение десяти лет.
Мой комментарий: Это требование ст.18 Закона об ИИ, относящееся к документации, подлежащей представлению компетентным национальным органам, список которой приведен в ст.11. Фиксированный 10-летний срок хранения для научно-технической документации является весьма спорным, ведь традиционно для такой документации сроки хранения отсчитываются от момента окончательного прекращения использования продукта, и учитывают также соответствующие сроки исковой давности …
Это требование к управлению документами, а не к проектированию.
Пояснение: Почему на само деле речь идёт о параданных
Отсутствие схемы метаданных не ослабляет Закон об ИИ. Это просто говорит о том, что его акцент смещен в другую сторону.
Закон Евросоюза об ИИ фактически требует сохранения параданных в том смысле, в котором этот термин трактует Патриция Фрэнкс (Patricia C. Franks).
Параданные - это документы о действиях, решениях и процессах, которые формируют информацию. В контексте ИИ, они включают в себя сведения о том:
- как были подготовлены данные,
- как были спроектированы или настроены модели,
- как проводилась валидация,
- как оценивались риски,
- как осуществлялся надзор,
- как система менялась с течением времени.
Иными словами, параданные документируют то, как осуществляется определенная деятельность.
Мой комментарий: О термине «параданные» см. также посты на моём блоге в подборке http://rusrim.blogspot.com/search/label/параданные . В контексте ИИ – и в приведенной выше интерпретации - содержание понятия «параданные» практически ничем не отличается от содержания понятия «научно-техническая, опытно-конструкторская и эксплуатационная и т.п. документация» (НТД). Пока что термин «параданные» остаётся «широко известным в узких (академических) кругах»; и я пока не вижу в нём острой необходимости.
Закон об ИИ требует от организаций хранить именно такого рода процессно-ориентированные доказательства. Он не предписывает, каким образом их структурировать, - а лишь говорит, что они должны храниться достаточно долго, чтобы обеспечить возможность реконструкции, объяснения и расследования.
Мой комментарий: Черти кроятся в деталях, а в данном случае – в словах «достаточно долго». «Достаточно долго» - это сколько? Установление адекватного срока хранения документов, как известно, является «высшим пилотажем» для специалистов по управлению документами и архивистов…
Кстати говоря, не в самом законе, а в п.71 Преамбулы к нему сказано следующее: «Техническая документация должна поддерживаться в актуальном состоянии на протяжении всего срока службы системы ИИ. Кроме того, системы ИИ высокого риска должны технически поддерживать автоматическую регистрацию событий, посредством использования журналов аудита, в течение всего срока службы системы.».
Также не будем забывать о том, что указанные в Законе сроки – это сроки хранения документов в целях исполнения именно данного Закона, и не более того. Во исполнение требований иных законов и/или удовлетворения собственных потребностей организаций в документах в конечном итоге могут быть установлены более длительные сроки.
Параданные сохраняют историю поведения системы. Без них в будущем невозможно будет ничего понять. Закон опирается на этот принцип, прямо его не упоминая.
(Окончание следует)
Эндрю Поттер (Andrew Potter)
Источник: сайт Substack
https://metaarchivist.substack.com/p/bones-of-accountability-preserving-8f7
Комментариев нет:
Отправить комментарий