четверг, 20 августа 2026 г.

Почему системы ИИ рушатся в отсутствие надлежащего управления документами

Данная заметка американского специалиста по стратегическому управлению информацией и ИИ д-ра Мойи Хилл (Dr. Moya Hill) была опубликована 5 июля 2026 года в социальной сети LinkedIn.

Большинство людей считает, что программисты и специалисты по управлению документами живут в совершенно разных мирах. Одни пишут программы, другие занимаются стратегическим управлением информацией. 

Но вот та правда, о которой почти никто не говорит: программисты не в состоянии построить успешные системы без управления документами; а управление документами в современных системах невозможно без программистов.

Они нужны друг другу больше, чем сами они думают.

Программисты уже знают, как писать код и проектировать функциональные возможности. Чего они не знают, так это как управлять документами.

Они не знают, что представляет собой документ, что означает «жизненный цикл», или что требуется для управления сроками хранения и для проведения уничтожения/передачи документов. Они не знают, какие метаданные необходимо захватить, какую документацию необходимо сохранять, и что именно должно быть доступным, обоснованным и способным пройти аудит.

Мой комментарий: Честно говоря, элита ИТ-специалистов многое из этого знает (иногда под другими названиями) – в чём я лично убедилась, сотрудничая с коллегами в рамках ряда отечественных и зарубежных проектов по стандартизации, разработки нормативно-методических документов и т.п. Это правда, что в массе своей ИТ-специалистам подобных знаний и компетенций недостаёт – но, честно говоря, их недостаёт и многим архивистам и специалистам по управлению документами! :)
 

Дисциплина управления документами определяет правила жизненного цикла. Программисты реализуют эти правила.

Мой комментарий: Эти слова справедливы в тех ситуациях, когда подход к управлению документами на основе традиционных представлений о жизненном цикле является адекватным (по большей части, это бумажная и бумагоподобная организационно-распорядительная и близкая по характеру документация). В то же время многие виды современных документов (например, электронная НТД, базы данных, электронная почта и т.п.) плохо «вписываются» в концепцию жизненного цикла – в связи с чем международное профессиональное сообщество разрабатывает альтернативные подходы. 

Специалисты по управлению документацией обучают тому, что должно быть задокументировано, сохранено, защищено, что и в течение каких сроков должно храниться и уничтожаться. Затем программисты транслируют эти требования в архитектуры систем, структуры данных, системы протоколирования / журналирования и в автоматизацию хранения.

Дисциплина управления документами также структурирует саму информацию. Она классифицирует её, стабилизирует и обеспечивает стратегическое управление ею.

Мой комментарий: Здесь есть одна «маленькая проблемка» - архивисты и специалисты по управлению информацией структурируют информацию так, как это им удобно для выполнения своих профессиональных обязанностей. Такая структуризация – особенно в современных системах – часто не соответствует потребностям деловой деятельности и отторгается пользователями. 


Такая структуризация обеспечивает точное понимание программистами и исследователями того, с какой информацией они работают, прежде чем она попадёт в какую-либо систему. В отсутствие такой этой структуры начинается хаос. При наличии этой структуры, информация поступает в организованном, управляемом и подотчётном состоянии.

Именно поэтому дисциплина управления документами приносит пользу программистам. Она обеспечивает ясность, границы, контекст, структуру жизненного цикла и ожидания в плане подотчётности. Она даёт план построения систем, способных выдержать проверку в любой отрасли.

Системы искусственного интеллекта создают подсказки, выходные данные, протоколы, обучающие файлы, файлы с результатами вывода, версии моделей и журналы аудита.

Всё это является документами. Если программисты не понимают принципов управления документами, то они не смогут обеспечить захват нужных артефактов, сохранность нужной информации, ведение журналов аудита, прозрачность и поддержание доверия к организации.

А вот в чём заключается настоящая польза: Управление документами стабилизирует информацию внутри системы. Когда информация не классифицирована, не проверена, является несогласованной и не управляется, - система начинает «дрейфовать». Она выдаёт нестабильные результаты на основе нестабильных входных данных. Она порождает галлюцинации, потому что отсутствуют доказательства, способные подкрепить её решения. Она сохраняет предвзятость, поскольку ничто не охватывается стратегическим управлением. Управление документацией останавливает такой дрейф, предотвращает галлюцинации, устраняет предвзятость и обеспечивает системе надёжную опору на доказательства.

В отсутствие управления документами система рушится в тот самый момент, когда кто-то запрашивает доказательства. С ним же она может защитить себя. В этом и заключается настоящая польза управления документами.

Мойя Хилл (Dr. Moya Hill)

Источник: сайт LinkedIn
https://www.linkedin.com/posts/dr-moya-hill-912837179_informationgovernance-drmoyahill-uigm-activity-7478402157000495104-2yDz  


Комментариев нет:

Отправить комментарий