Почему ИИ не спасёт Вашу программу управления документами – и что действительно сможет Вам помочь, часть 2

(Окончание, начало см. https://rusrim.blogspot.com/2026/09/1_0800855826.html )

Первостепенное внимание всегда должно уделяться архитектуре

Ответом профессионального сообщества на проблему фрагментации стали автоматическая классификация с помощью ИИ и управление документами и информацией «по месту их хранения» (in-place governance). Оба подхода являются реальными достижениями, и я ни в коем случае не преуменьшаю их значимость. Если, однако, внедрять их как законченные решения, а не как тщательно выверенные компоненты более широкой стратегии, они способны вместо решения проблемы обеспечения демократической подотчетности лишь усугубить её.

Проведенное Корнеллским университетом (Cornell University) исследование показало, что системы искусственного интеллекта порождают галлюцинации в 69–88% случаев при выполнении сложных задач, и до 50% случаев — при решении относительно простых задач. В контексте управления документацией это не просто неэффективность текущей деятельности. Искусственный интеллект, который неверно классифицирует документ - например, устанавливающий короткий срок хранения высокоценному документу или не распознающий то, что группа электронных писем представляет собой доказательную базу для принятия значимого решения, - фактически уничтожает те самые свидетельства / доказательства, которые в один прекрасный день могут потребоваться для обеспечения демократической подотчетности. Сам ИИ не осознаёт, что разрушает цепочку документальных свидетельств (аудиторский след), - но именно это он и делает.

Первопричина почти всегда одна и та же: ИИ начал применяться до того, как была выстроена информационная архитектура. Я непосредственно столкнулся с этим в своей работе, разрабатывая архитектуру для одного государственного ведомства. Мне тогда удалось убедить ведомство сформировать категории информации на основе реальных рабочих процессов сотрудников, а не использовать унаследованные схемы классификации документов, которые персонал не понимал и не применял.

В тот момент ИИ можно было бы обучить работать с учётом логики деловой деятельности и - что критически важно - отражать реальную структуру принимаемых организацией решений, за которые она должна быть подотчётна. Однако впоследствии ИТ-служба организации сочла этот подход «слишком сложным и устаревшим» и доверила ИИ классифицировать уже имеющийся неструктурированный контент. Никакого существенного прогресса в результате добиться не удалось.

«Правительство, которое заявляет, что управлением его документами занимается ИИ, но чья информационная архитектура никогда не анализировалась, - отнюдь не повысило уровень своей подотчётности. Оно лишь подменило реальный контроль его видимостью».

Те же провалы характерны и для более широкого подхода к управлению информацией «по месту ее нахождения» (in-place governance). Такие инструменты, как Microsoft Purview, обладают несомненными преимуществами: они масштабируемы, устраняют барьеры в работе и интегрируются с платформами, которые сотрудники реально используют. С другой стороны, они не были изначально рассчитаны на сохранение контекстной целостности, необходимой для высокоценных, имеющих ключевое значение для обеспечения подотчетности документов.

Речь идет о контексте агрегирования взаимосвязанных объектов из разных систем, о возможности защитить принятые решения об уничтожении / передаче, и о наличии полной доказательной базы для сложных решений. Глобальное исследование практики стратегического управления информацией показало, что уровень внедрения Purview для целей стратегического управления информацией фактически снизился (с 50 до 40% опрошенных организаций), причем 94% респондентов сообщили о серьезных трудностях.

Причина связана не с недостатком знаний. Специалисты-практики на собственном опыте приходят к тому же выводу: подход «управления по месту нахождения», используемый сам по себе, не является адекватным для обеспечения того уровня защитимого (в случае споров и расследований – Н.Х.) ведения документации, которого требуют стандарты публичной подотчётности.

Гибридное решение

Предлагаемое мною решение - это не модель централизованных специализированных EDRMS-систем управления документами и контентом, и не передача ответственности за управление документами деловым программным приложениям. Это также и не «управление по месту нахождения» в чистом виде. Это осознанно выбранное гибридное решение: выбор подходящей модели для конкретных документов, с учетом требований к подотчётности, касающихся этих документов. К такому выводу меня привели не одна только теория, но и многолетний опыт внедрения и изучения вопроса.

Высокоценные документы - те, что документируют решения, транзакции и факты использования властных полномочий, - собираются и централизованно управляются в специализированной EDRMS-системе, обеспечивающей защитимое управление жизненным циклом. 

В повторяющиеся транзакционные процессы управление документами может быть встроено непосредственно в момент создания документа. 

Рутинный контент с низким уровнем риска может управляться по месту его нахождения, при этом должны осознаваться и компенсироваться ограничения соответствующих инструментов.

Во всех случаях сначала должна выстраиваться информационная архитектура - не как работа, предваряющая разработку стратегии управления документами, а как сама суть этой стратегии. Этот момент я хочу особо подчеркнуть.

Если всё сделать правильно, то классификация с помощью ИИ станет мощным масштабируемым инструментом, позволяющим обеспечить стратегическое правление информацией в объемах, которые требуются для современных организаций. Если же допустить ошибку или пропустить этот этап, то ИИ лишь усугубит проблемы с управлением документами за счёт высокой скорости и больших масштабов, создавая при этом ложную иллюзию автоматизированного исполнения законодательно-нормативных требований. В таком случае пробел в плане обеспечения подотчётности не исчезает – наоборот, он незаметно увеличивается, скрываясь при этом за красивыми контрольными панелями (dashboard), которые рапортуют о том, что всё в порядке.

Почему я пишу об этом сейчас

Я размышляю над этим вопросом в тот момент, когда в мире плодятся государственные органы и учреждения, всё более склонные к непрозрачности. Их устраивает работа в условиях, когда недоступны, неполны или вовсе отсутствуют документы, свидетельствующие о том, как принимались решения. Искусственный интеллект, если мы этому не воспрепятствуем, лишь ускорит эту тенденцию. Сам по себе ИИ не сможет развернуть ситуацию в обратную сторону. 

В своем полном эссе я сформулировал шесть принципов для специалистов-практиков, а также - опираясь на свой сорокалетний опыт - обосновываю мысль о том, что управление документами является одной из важнейших сфер, в которые может инвестировать демократическое общество.

Эта работа не считается «гламурной» и редко оценивается по достоинству. Специалисты по управлению документами являются хранителями институциональной памяти, которая в свою очередь является «валютой» подотчётности. Без неё обещания того, что действия властей будут прозрачными, проверяемыми и подотчётными, останутся лишь пустыми словами.

Найджел Каррутерс-Тейлор (Nigel Carruthers-Taylor)

Источник: сайт издания IDM
https://idm.net.au/article/0015725-why-ai-wont-save-your-records-program-and-what-will