Становой хребет подотчётности: Обеспечение долговременной сохранности алгоритмов в автоматизированном обществе. Часть 2: Регуляторы создают архивы, не говоря об этом вслух (2)

(Окончание, предыдущую часть см. http://rusrim.blogspot.com/2026/01/2-1.html )

Глобальные закономерности: разные юрисдикции, одинаковые ожидания

Больше всего бросается в глаза то, насколько согласованными стали ожидания регуляторов в условиях очень разных правовых и административных культур.

В Евросоюзе Закон об искусственном интеллекте требует:

• обеспечения прослеживаемости на протяжении всего жизненного цикла,
  
  
• наличия всесторонней технической документации,
  
  
• наличия проектных решений и описаний обучающих данных,
  
  
• сохранения истории оценки рисков,
  
  
• сохранения журналов аудита для целей контроля и надзора,
  
  
• воспроизводимости результатов в течение длительного времени после развёртывания системы ИИ.

Это не что иное, как требования к обеспечению долговременной сохранности информации и документов, вне зависимости от используемой терминологии.

В Великобритании в руководящих указаниях подчеркивается необходимость обеспечить:

• объяснимость,
  
  
• права на оспаривание,
  
  
• знание происхождения системы,
  
  
• достаточную для поддержки проведения аудита документацию.

Всё это предполагает сохранение доказательств.

В США, где нет единого закона об ИИ, федеральные органы власти, тем не менее, требуют:

• обеспечивающие прозрачность документы,
  
  
• подробную документацию на модели,
  
  
• происхождение данных,
  
  
• сохранённые результаты тестирования и оценок,
  
  
• доступные для расследований журналы аудита. 

Используется разная терминология, однако при этом речь идёт об одних и тех же функциональных возможностях: для стратегического управления необходимы свидетельства / доказательства, наличие которых требует усилий по обеспечению долговременной сохранности.

Во всех юрисдикциях наблюдается очевидная закономерность: признание того, что невозможно осуществлять стратегическое управление автоматизированным принятием решений, если память о соответствующих решениях исчезает.

Невысказанная истина, лежащая в основе сегодняшней политики в области ИИ

Есть такой аспект, который ни один из этих нормативно-правовых актов не декларирует явно, но на который каждый из них опирается: подотчётность становится невозможной, если исчезают доказательства.

Регуляторы, возможно, и не используют архивный язык, но они ожидают «архивных» результатов, таких, как сохранение:

• журналов аудита,
  
  
• истории версий,
  
  
• параметров,
  
  
• документов о происхождении,
  
  
• документацию,
  
  
• дел о рисках,
  
  
• соответствующих утверждающих решений в контексте,
  
  
• «следов» деятельности по стратегическому управлению.

По сути, регуляторы призывают к созданию архивной инфраструктуры. Они создают архивы, просто не говорят об этом вслух.

Важность этой части для остальных постов серии

• Часть 2 - это фундамент, на котором строится остальная часть серии.
  
  
• В части 3 будет показано, как Закон Евросоюза об искусственном интеллекте (ИИ) устанавливает обязательные требования к архивированию.
  
  
• В части 4 объясняется, как финансовые рынки приняли на вооружение идею о воспроизводимости (реконструируемости) задолго до всех остальных.
  
  
• В части 5 рассматриваются компоненты доказательств, которые делают реконструкцию возможной.
  
  
• В части 6 экспертиза ценности позиционируется как «этический центр» работы.
  
  
• В части 7 объясняется, почему системы должны быть спроектированы так, чтобы помнить.

Но всё последующее зависит от этой центральной идеи: автоматизированный мир требует обеспечения сохранности свидетельств / доказательств.

Регуляторы знают это, пусть даже они пока ещё не научились выговаривать слово «архив».

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/bones-of-accountability-preserving-f55