Это пост о том, как принципы архивных доказательств, экспертизы ценности, контроля/управления и подотчётности адаптируются - и остаются незыблемыми - в эпоху машинного обучения и автоматизации
Если стандарт ISO 15489-1:2016 «Информация и документация - Управление документами - Часть 1: Понятия и принципы» (Information and documentation - Records management - Part 1: Concepts and principles, см. https://www.iso.org/standard/62542.html и https://www.iso.org/obp/ui/en/#!iso:std:62542:en - стандарт адаптирован в России как ГОСТ Р ИСО 15489-1-2019 (ISO 15489-1:2016) «Система стандартов по информации, библиотечному и издательскому делу. Информация и документация. Управление документами. Часть 1. Понятия и принципы», см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&id=232615 – Н.Х.) дал специалистам по управлению документами компас для ориентирования в цифровую эпоху, то искусственный интеллект теперь сотрясает землю под нашими ногами.
Ответ, на удивление, положительный – но при условии, что мы будем понимать эти принципы не как жёсткие регламентированные процедуры, а как ценности, применимые в эволюционирующих контекстах.
Давайте вернёмся к четырём «столпам» управления документами, упомянутым в моих предыдущих постах, и рассмотрим их теперь с точки зрения искусственного интеллекта.
1. Документы как доказательства и как информация
От создаваемых человеком к генерируемым машинами
В мире ИИ документы больше не сводятся к материалам, созданным людьми. Теперь мы, например, имеем дело:
- с беседами чат-ботов с заинтересованными лицами,
- со сгенерированными ИИ резюме решений,
- с автоматизированной разметкой данных, выполняемой классификаторами на основе машинного обучения.
Однако сам принцип остаётся неизменным: документ - это свидетельство (а также, в ряде случаев, инструмент – Н.Х.) деловой деятельности. Проблема заключается в том, чтобы обеспечить сохранение доказательной силы сгенерированными машиной документами - их прослеживаемость, объяснимость и атрибуцию.
Это означает захват входных данных, правил и выходных результатов систем ИИ. Нам нужно знать, какие данные использовал алгоритм, какая модель принимала решение и при каких значениях параметров.
Вспомните идеи Дженкинсона, но в обновлённой формулировке: документ как нейтральный свидетель по-прежнему важен, - но теперь мы должны убедиться, что ИИ не нашёптывает свои собственные «редакционные комментарии».
Мой комментарий: Я считаю ошибочным распространенное дискриминационное отношение к ИИ-системам (по сравнению с отношением к людям, принимающим такие же решения). Люди часто даже менее надёжны и предсказуемы, чем ИИ – так зачем нам требовать от ИИ чего-то существенно большего, чем от людей? Не лучше ли будет предъявлять и к тем, и к другим одинаковые требования (что, кстати говоря, заодно позволит избежать ожидаемого жульничества и споров о том, «ИИ или не ИИ» принимал решения).
2. Экспертиза ценности и требования
От указаний по срокам хранения к предиктивному стратегическому управлению
Шелленберг учил нас проводить экспертизу ценности документов на основе их ценности и использования. В эпоху ИИ в число охватываемых экспертизой ценности документов, например, входят:
- обучающие наборы данных,
- журналы настройки системы (system tuning logs),
- отчёты, объясняющие принятые ИИ решения,
- оценки воздействия алгоритмов ИИ.
Эти документы не являются традиционными, но они совершенно необходимы для понимания, оспаривания или воспроизведения принятых в автоматическом режиме решений. Теперь при проведении экспертизы ценности от нас требуется предвидеть будущие варианты использования: и не только для целей правовой защиты, но и для аудита на предмет справедливости решений, для расследования случаев предвзятости и для обеспечения прозрачности алгоритмов.
Нам следует расширить наше понимание «ценности», включив в него ценность для обеспечения подотчётности систем, работающих по принципу «чёрного ящика».
3. Системы контроля и управления
От классификационных схем к управлению жизненным циклом моделей
Стандарт ISO 15489 предписывал нам использовать метаданные, правила доступа и меры и средства управления уничтожением документов либо их передачей на архивное хранение. ИИ требует того же, - но в новых формах:
- Контроль версий моделей,
- Метаданные о параметрах алгоритмов,
- Журналы аудита для изменений в обучающих данных,
- Ограниченные по времени разрешения на развертывание.
Эти системы контроля и управления теперь должны управлять жизненным циклом моделей, а не только потоками работ, связанных с документами. А какие есть хорошие новости? Специалисты по управлению документами обладают уникальными компетенциями, необходимыми для создания заслуживающих доверия систем, - если мы начнём встраивать наши принципы в архитектуру систем начиная с ранних этапов их проектирования и разработки.
Мы больше не команда уборщиков. Мы - архитекторы объяснимой автоматизации.
4. Обязанности и подотчётность
От размещения документов в дела к алгоритмическому курированию
Кто несёт ответственность за захват решений, принятых ИИ? За обеспечение сохранности обучающих данных? За документирование того, как прогноз модели был использован при принятии решений о найме или выплате пособий?
Стандарт ISO 15489 устанавливает совместно разделяемую ответственность в организации. Эта модель сохраняется, но теперь она должна охватывать:
- Специалистов по анализу данных и инженеров-разработчиков моделей,
- Юристов и специалистов по соблюдению законодательно-нормативных требований,
- Советы по этике,
- Специалистов по стратегическому управлению документами и информацией.
Именно здесь специалисты по управлению документами должны найти семе место в концептуальных структурах управления ИИ, обеспечивая, чтобы управление документами было изначально запроектировано в системе, а не добавлено впоследствии в качестве «заплатки».
Шелленберг хотел, чтобы документы поддерживали демократическую подотчётность. В контексте ИИ эта подотчётность зависит от нашей способности реконструировать и оспаривать решения системы и причины их принятия.
Почему всё по-прежнему начинается с документов
ИИ не является нейтральным. Его решения формируются на основе данных, структур, предположений и обучения. Это делает документы не просто побочным продуктом, а основным механизмом обеспечения прозрачности и надзора.
В отсутствие надёжных документов о поведении модели, о том, на какие решения она повлияла и как она обучалась, - вы не просто теряете необходимые для аудита сведения, но и утрачиваете свои этические ориентиры.
Именно почему стандарт ISO 15489 по-прежнему важен. Его принципы позволяют нам, например, задавать вопросы:
- Что является документами в этом процессе?
- Как обеспечивается аутентичность и надёжность документов?
- Какие системы контроля си управления используются?
- Кто несёт ответственность за создание и обеспечение сохранности документов?
От архивов к стратегическому управлению ИИ
Для нас как профессионалов в области управления документами настал поворотный момент. На следует не отступать перед сложностью ИИ, а применять наши принципы, - отточенные на опыте работы с бумажными документами, микрофильмами и базами данных, - к новейшим горизонтам автоматизации.
Мы не просто документируем прошлое - мы проектируем подотчётность для будущего.
Эндрю Поттер (Andrew Potter)
Мой комментарий: Чего мне недостаёт в данном посте, так это идей о том, как в новых условиях специалисты по управлению документами могут и должны поддерживать не только подотчётность, исполнение законодательно-нормативных требований и сохранение памяти, но и основную деловую деятельность своих организаций – выполнение миссии в государственных и некоммерческих организациях, получение прибыли и смягчение рисков в коммерческих организациях…
Источник: сайт Substack
https://metaarchivist.substack.com/p/from-registry-to-algorithm-reinterpreting
Комментариев нет:
Отправить комментарий