О том, как глобальные дискуссии о политиках вращаются вокруг «архивных» понятий и концепций.
Поразительно наблюдать, как регулирующие органы пытаются описать алгоритмическую подотчётность, не используя «архивный» язык. Они знают, чего хотят, и понимают, чего не хватает. Они знают, какие пробелы им необходимо ликвидировать. Однако терминология, которую они используют, совсем не та, что терминология в сфере архивного дела и управления документами. Вместо термина «документы» (records) используется понятие «документация» (documentation); вместо «доказательств» (evidence) - «прослеживаемость» (traceability); «происхождения» (provenance) – иное англоязычное понятие, хотя и с тем же смыслом (lineage). Вместо «архивной ценности» (archival value) говорят о «правах на оспаривание» (rights of contestation). Регуляторы движутся к сути вопроса, используя иную «карту», и определяя контуры местности - пусть даже они и не используют «нашу» терминологию.
В течение последних нескольких лет я наблюдал за развитием этой тенденции с непреходящим изумлением. Регуляторы в Евросоюзе, Великобритании и США формировали концепции подотчётности для автоматизированных систем, непосредственным образом зависящие от сохранённых свидетельств / доказательств, - хотя редко говорили об этом прямо. Они требуют обеспечения воспроизводимости, объяснимости, защитимости принимаемых решений, возможности проведения аудита. Они требуют юридические обоснования, способные выдержать критику. Они хотят, чтобы у людей была возможность оспаривать влияющие на их жизнь решения.
Все эти ожидания опираются на одну и ту же незаменимой возможность: способность оглянуться назад. А оглядываться назад возможно только в том случае, когда обеспечивается сохранность документов.
Именно начинают сходится политика и управление документами, - и неважно, осознают ли это регулирующие органы или нет.
Требование в основе любого нормативно-правового регулирования: воспроизводимость (реконструируемость)
При внимательном изучении глобальной политики в области ИИ становится видно, как одно и то же ключевое требование повторяется в разных формах. Оно не всегда сформулировано прямо, но всегда присутствует:
- Воспроизведите решение,
- Реконструируйте систему,
- Реконструируйте логику,
- Реконструируйте происхождение,
- Воспроизведите оценки рисков,
- Воспроизведите этапы надзора,
- Воспроизведите, что было понято или не понято моделью,
- Реконструируйте, почему был причинён вред,
- Реконструируйте, почему система вела себя именно так в определённый момент в отношении конкретного человека.
Воспроизведение (реконструкция) - это фундамент, на котором зиждется всё остальное; при этом такая реконструкция представляет собой элемент архивной деятельности.
Задолго до того, как искусственный интеллект (ИИ) оказался в центре внимания политик, архивист Лючиана Дюранти (Luciana Duranti) описывала архивные документы как «следы действий», подчёркивая, что цель архивных систем заключается в том, чтобы обеспечить возможность реконструкции действий, в результате которых были созданы эти документы. По её словам, анализ, проводимый методами дипломатики (науки об изучении документов с целью подтверждения их целостности и аутентичности; дипломатика во многом лежит в основе архивной теории и практики – Н.Х.) - это метод воссоздания поведения органов управления по оставленным следам. По её определению, назвать что-либо «документом» - значит сказать, что этот артефакт поддерживает такое восстановление / реконструкцию.
Удивительно, насколько естественно всё это согласуется с тем, чего регуляторы сейчас ожидают от алгоритмических систем. Регуляторы хотят именно того, что, по мнению Дюранти, должны обеспечивать архивные документы: наличия свидетельств / доказательств, необходимых для воссоздания совершенных действий.
А это означает, что:
- Невозможно реконструировать то, что никогда не было захвачено / зафиксировано,
- Невозможно реконструировать то, что было перезаписано,
- Невозможно реконструировать то, что существовало только в памяти [человека или в оперативной памяти компьютера – Н.Х.] или в сиюминутном чате,
- Невозможно реконструировать модель, которая молча обновлялась без использования контроля версий,
- Невозможно реконструировать изменение параметра, если обоснование такого изменения никогда не было зафиксировано.
Регуляторы чувствуют, что нереально обеспечить прозрачность в отсутствие памяти. Они понимают, что степень справедливости невозможно оценить, если сведения о поведении системы испаряются. Они знают, что право на получение объяснений является пустым звуком, если не сохранилось никаких свидетельств / доказательств, позволяющих что-либо объяснить.
Вот почему воспроизводимость (реконструируемость) стала не упоминаемым вслух «якорем» стратегического управления ИИ - а в основе воспроизводимости лежит обеспечение сохранности алгоритмов.
Почему разработчики политик избегают архивного языка, даже если полагаются на архивные функции?
Я часто задаюсь вопросом, почему в нормативных документах регуляторов не используется «архивный» язык. Отчасти это связано с дистанцией между дисциплинами; отчасти - с историей практики нормативного регулирования, которое строится скорее вокруг документирования и представления отчётности, чем на основе долговременного курирования. Но отчасти это также связано с внезапностью возникновения проблемы. Автоматизированные системы создали шаблоны поведения, на выявление которых традиционные системы надзора никогда не были рассчитаны.
Системы быстро эволюционируют, происходит ротация журналов аудита, без лишнего шума обновляются модели, конвейеры изменяют свои собственные параметры. Критически важные решения принимаются в нестабильных, быстро меняющихся условиях. Обоснование проекта «живёт» больше в разговорах, чем в официальных документах. В результате возникает своего рода «цифровая эфемерность» (digital ephemerality), которую регулирующие органы инстинктивно ощущают, даже если они пока ещё не перешли на язык документов.
Поэтому регуляторы создают новые термины, такие, как:
- документация по рискам,
- свидетельства жизненного цикла,
- дела о техническом соответствии,
- системы обеспечения прослеживаемости,
- механизмы журналирования (протоколирования),
- репозитории управления моделями,
- документы о прозрачности.
Всё это не что иное, как замаскированные архивные функции.
Регуляторы не пытаются создавать документацию. Они пытаются обеспечить возможность.
(Окончание следует)
Эндрю Поттер (Andrew Potter)
Источник: сайт Substack
https://metaarchivist.substack.com/p/bones-of-accountability-preserving-f55
Комментариев нет:
Отправить комментарий