суббота, 9 марта 2024 г.

Проблема с авторитетностью наших документов, которую вскроет Copilot (и другие подобные инструменты)

Данный пост австралийского специалиста в области управления документами и информацией Карла Мелроуза (Karl Melrose – на фото) был опубликован 11 января 2024 года на его блоге Meta-IRM (Мета-управление информацией и документами).

Недавно я разговаривал с коллегой-консультантом, и он рассказал, как маркировал отчёты для организации цветами светофора (т. е. красным, желтым или зеленым) на основе качества имеющихся сведений о происхождении (в английском языке используются два примерно эквивалентных термина - lineage и provenance) поддерживающих отчеты данных.

Такой подход может быть довольно-таки конфронтационным - в одном случае он отмаркировал красным цветом все использовавшиеся организацией отчёты, потому что сведений о происхождении данных не имелось – и эти отчеты действительно ничего не стоили, потому что невозможно было понять, откуда берутся данные и как они были получены.

Проблема с основанным на ИИ-технологиях цифровым помощником Copilot (букв. «Второй пилот» - это торговая марка компании Майкрософт для инструмента, при помощи которой планируется повысить производительность конечных пользователей, сделав возможности порождающего (генерирующего) искусственного интеллекта доступными во всех продуктах компании, включая Microsoft 365 - Н.Х.) и другими подобными инструментами заключается в том, что они будут отвечать на вопросы, основываясь на массиве доступных пользователю документов.

Очевидно, что возникнут проблемы с безопасностью - потому что наличие дыр в безопасности большинства хранилищ документов (больших и многочисленных, как в швейцарском сыре) означает, что люди смогут задавать такие вопросы, как «сколько денег зарабатывает X» и «кто был привлечен к дисциплинарной ответственности» - и получать на них ответы.

Однако ещё более серьезной проблемой будет авторитетность (согласно международному определению, авторитетность подразумевает целостность, аутентичность, надёжность и пригодность к использованию - Н.Х.).

Как и в случае с происхождением, принятие решения о том, какой документ или контент является авторитетным, всегда требует процессного решения.

Здесь люди соглашаются использовать технический процесс, в контексте которого они соглашаются, что будут называть документ/контент xyz, если тот является авторитетным; или у них будет функция публикации, которую они будут фактически использовать; или у них будет какой-либо иной процесс, который, как известно всем сотрудникам организации, означает «это авторитетный документ, на который я должен опираться, принимая свои решения».

Проблема, с которой мы сталкиваемся, заключается в том, что большинству из нас большую часть времени приходится «помечать красным цветом» большинство наших хранилищ документов и информации, когда заходит речь о том, насколько авторитетны содержащиеся в них материалы, - потому что это свалки, и понять эти материалы смогут только сотрудники с глубокими процессными знаниями (о выполняемом деловом процессе) и/или те, кто знает организационную структуру (и, соответственно, понимающие, что означают и какие последствия влекут сделанные каким-либо конкретным должностным лицом редакционные изменения).

Мой комментарий: Хотелось бы обратить внимание на различие между авторитетностью как объективным качеством документа, и знанием сотрудников о том, какие документы являются авторитетными, всё-таки это несколько разные вещи.


Несколько недель тому назад я опубликовал пост, в котором обыгрывал мысль о том, что почтовые серверы обеспечивают наиболее полные сведения о происхождении. Основной «сухой остаток» этого мозгового штурма заключается в том, что если кто-то включает факт или указание в электронное письмо, то этот человек предполагает, что получатель письма должен использовать данный факт или действовать в соответствии с данным указанием, -  что, естественно, придаёт письму определённый уровень авторитетности. Факт / указание могут быть неполными и могут упускать из виду многое из того, что происходит в реальном мире, - но ожидается, что получатель будет действовать на их основе, потому они ему переданы в письменной форме, а люди не информируют о чём-либо в письменной форме, если не ожидают, что соответствующие сведения / указания будут использованы.

Большая часть того, что мы помещаем в наши хранилища документов и контента, не имеет данного качества. Половина их содержимого - это черновики и проекты документов, которые или не были доведены до конца, или существенно изменились на пути от черновика до готового продукта.

Мой комментарий: К сожалению, Карл делает здесь «ошибку новичка», считающего (что типично для многих государственных архивистов) настоящими документами только окончательно оформленные по всем правилам «официальные» документы (в российском контексте – это обычно организационно-распорядительная документация). Однако такие документы представляют собой лишь небольшую часть всех деловых документов, используемых как непосредственно в ходе деловой деятельности, так и при взаимодействии с государственными органами, с контрагентами, клиентами и иными заинтересованными сторонами.

Скажем, не так уж редко проект документа является для определенных сотрудников или окончательным продуктом их работы, или тем материалом, который подтверждает выполнение ими определённого этапа работ. Проект может быть послан контрагентам, и на его основе те могут предпринять определённые действия. В этом контексте проекты и черновики являются полноценными деловыми документами.

Уровень авторитетности в типичной EDRMS-системе управления документами и контентом ошеломляюще низок - по крайней мере, для документов, которые организация сама создала. Это может поставить нас в слегка ироничное положение, когда мы можем задавать хорошие вопросы по поводу деятельности других организаций, но только не нашей собственной.

Мой комментарий: Данное высказывание по сути означает, что, по мнению Карла, организации принимают деловые решения чисто по прихоти, а не на основе фактов; и что решения, обязанности и полномочия не документируются надлежащим образом. Однако, исходя из того, что эти же самые организации в массе своей более-менее успешно выполняют свои задачи и не разваливаются, думаю, можно утверждать, что Карл всё-таки не совсем прав
:)

И мы ещё не добрались до по-настоящему плохо организованных «хранилищ», таких как файловые серверы и личные хранилища - сервисов, в рамках которых у документов и контента, как правило, нет значимых сведений о происхождении.

Мой комментарий: С моей точки зрения, данное утверждение, когда оно сформулировано в столь общем виде, очень спорное. Файловые серверы и личные хранилища бывают очень разными, и мазать всех их чохом чёрной краской вряд ли корректно … С учётом сказанного выше о низком качестве информации о происхождении в EDRMS-системах т.е. в СЭД и ECM-системах, - возникает естественный вопрос о том, а где, в каких системах «жить хорошо»? Неужели в почтовых серверах, которые всегда были образцом информационной помойки?

В ближайшие годы ожидается так много всего интересного в плане того, как работают эти сервисы, что это всего лишь ещё одна проблема, которая будет способствовать восстановлению интереса организаций к базовому опыту и компетенциям в сфере управления документами и контентом (и, соответственно, к специалистам в этой области – Н.Х.).

Тем из нас, кто практикует управление документами как дисциплину, ориентированную на захват документов и контента, возможно, стоит стряхнуть пыль со своей фуражки специалиста по управлению контентом и начать обсуждать эту тему с теми людьми, которые имеют полномочия вводить процессы в масштабе организации.

Внутренние формы порождающего (генеративного) искусственного интеллекта, весьма вероятно, колоссально повысят производительность труда, но правда заключается в том, что большинство организаций не смогут ими воспользоваться, потому что они создадут проблемы безопасности, - в то время, как другие организации внедрят их и получат на выходе тарабарщину (поскольку массив документов будет иметь настолько низкий уровень авторитетности, что будет казаться, что порождающий ИИ «придумывает с потолка» результаты).

Лишь немногие избранные смогут внедрить порождающий ИИ получить от этого отдачу. И именно они решат проблему авторитетности – в большом масштабе.

Карл Мелроуз (Karl Melrose)

Источник: блог Meta-IRM
https://metairm.substack.com/p/the-authority-problem-that-copilot

Комментариев нет:

Отправить комментарий