Сейчас всё чаще можно услышать предложения об использовании искусственного интеллекта (ИИ) в архивно-документационных процессах: говорят об автоматической классификации, описании документов, извлечении метаданных, идентификация серий документов, экспертизе ценности документов и даже о рекомендациях, касающихся окончательной судьбы документов – их уничтожения либо передаче на постоянное архивное хранение.
Уже не стоит вопрос о том, способен ли ИИ это сделать. Настоящий вопрос заключается теперь в том, сможем ли мы через двадцать лет продемонстрировать и объяснить, почему ИИ принял именно такое решение. Именно этому аспекту в дискуссиях часто уделяется недостаточное внимание.
Обычно обсуждаются два аспекта. Первый из них - объяснимость: почему система приняла то или иное решение? Второй аспект - алгоритмическая воспроизводимость: возможно ли повторно применить модель при тех же условиях, и получить тот же результат?
Оба эти аспекта важны, однако с точки зрения архивно-документационной науки существует третий аспект, который редко упоминается в дискуссиях.
Воспроизводимость на основе документальных доказательств
Недостаточно иметь возможность просто повторно запустить алгоритм - необходимо обеспечить возможность полной реконструкции доказательств, на основании которых было принято решение.
Это подразумевает сохранение гораздо большего, чем одной лишь модели искусственного интеллекта. Необходимо сохранить, среди прочего: точную версию использованной модели, входные данные, исходные документы, взаимосвязанные метаданные, текущие бизнес-правила, сведения о выполненных над информацией преобразованиях, административный контекст, дату выполнения, а также доказательства утверждения решения и выполнения последующих действий.
Если какой-либо из этих элементов исчезнет, решение всё ещё может быть технически воспроизводимым, но будет утрачена часть его способности пройти аудит и быть защитимым. И именно здесь лежат реальные риски.
Хорошим примером является проведение экспертизы ценности документов.
Представьте себе организацию, которая использует ИИ для поддержки экспертизы ценности документов. Предположим, что система ИИ рекомендует удалить серию документов (в западной терминологии «серия документов» примерно соответствует документам за ряд лет, подпадающим под одну статью номенклатуры дел или перечня – Н.Х.), - поскольку, согласно тому, как система была обучена, эти документы не имеют вторичной ценности (т.е. деловой, правовой, исторической и/или иной ценности по завершении их использования по прямому назначению – Н.Х.).
Спустя годы возникает судебный иск, и у организации появляется необходимость доказать, почему данное решение было правильным.
Будет ли достаточно просто повторно запустить модель ИИ? Скорее всего, нет. К этому времени модель уже обновилась, изменились обучающие данные, эволюционировали бизнес-правила; могла также измениться таксономия (система классификации – Н.Х.) документов. Даже применимые законодательно-нормативные требования могут уже отличаться.
На деле реконструировать придётся не только алгоритм, но и все обстоятельства принятия решения.
Юридическая фикция, которую мы сейчас создаём
Когда я опубликовал первую версию этих размышлений (см. https://www.linkedin.com/pulse/la-inteligencia-artificial-necesita-algo-m%25C3%25A1s-que-jhon-a-gonzalez-f--kqlye/ ), мой колумбийский друг Оскар Мендес Агирре (Oscar Méndez Aguirre) - главный инженер компании Tangelo Latam и профессор регионального университета им. Франсиско Хосе де Кальдаса (Universidad Distrital Francisco José de Caldas) - оставил комментарий, который со временем стал настоящей отправной точкой для данного поста. Он указал на то, что архивно-документационная наука не может позволить себе игнорировать:
«До тех пор, пока наличие сертифицированной технической воспроизводимости не станет обязательным требованием для систем высокого риска, мы будем создавать юридическую фикцию: мы будем исходить из предположения о возможности проведения аудита того, что на самом деле не в состоянии «пересчитать».»
Это утверждение вызывает дискомфорт, поскольку бьёт «не в бровь, а в глаз». Сертификация технической воспроизводимости - это не какое-то внутреннее упражнение в рамках обеспечения качества программного обеспечения; это необходимое условие, без которого любой последующий аудит является, в буквальном смысле слова, актом веры в организацию. Если система, классифицированная как система высокого риска, не способна продемонстрировать, что её вычисления воспроизводимы в контролируемых условиях, то всё, что мы на ней строим - прослеживаемость документов, цепочка ответственного хранения, доказательства утверждения решений - покоится на фундаменте, который никогда не был проверен.
Это предупреждение технического характера отражает, по своей сути, ту же проблему, которую дисциплина управления документами решает десятилетиями, подходя к этому вопросу с другой стороны: недостаточно, чтобы нечто было объяснимым; необходимо иметь возможность это нечто реконструировать со всеми подтверждающими доказательствами для любого, кто этого потребует и когда бы он этого ни потребовал.
(Окончание следует)
Джон Гонсалес (Jhon Alexander González Flórez)
Источник: LinkedIn
https://www.linkedin.com/pulse/la-auditabilidad-integral-el-requisito-olvidado-de-gonzalez-f--it0ce/
