Почему онтология является ключевым инструментом, поддерживающим хорошую практику управления документами и информацией, часть 1

В этом посте я продолжаю выкладывать перевод статьи бывшего Главного архивиста Новой Зеландии, ныне консультанта в сфере искусственного интеллекта, машинного обучения и управления информацией и данными Стивена Кларка (Stephen Clarke), которая была опубликована 18 июля 2025 года на сайте Subctack.

(Продолжение, предыдущую часть см. https://rusrim.blogspot.com/2025/10/3.html )

Мой комментарий по поводу терминов:

Онтология – дисциплина, которая пытается описать и систематизировать, что именно «существует» в определенной области реальности или мышления. В философии онтология изучает самые общие категории бытия (вещи, свойства, процессы, пространство, время). В информатике и других науках предмет онтологии - это структурированный словарь или схема понятий и их связей в конкретной предметной области, которые помогают четко определить смысл терминов, их взаимосвязи, и способствуют обмену относящейся к данной предметной области информацией без какой-либо путаницы. Онтология показывает, из каких «кирпичиков» состоит знание о мире или его части, и как они «складываются» вместе.

В стандарте ISO/IEC/IEEE 24765:2017, п. 3.2691, дано следующее определение (также приведенное в ПНСТ 837-2023, п.3.1): «Онтология (ontology): логическая структура терминов, используемых для описания области знаний, включая как определения применяемых терминов, так и отношения между ними.»

Согласно определению, данному в ГОСТ Р ИСО/МЭК 11179-5-2012, п. 3.14, «Семантика (semantics): Часть лингвистики, имеющая дело со смыслом слов».

В стандарте ГОСТ Р 54136-2010, п. 4.67, дано определение: «Семантика (semantics): Смысл заданного понятия».

При внедрении хороших практик этичного искусственного интеллекта (ИИ) крайне важно использовать основанный на онтологии подход к управлению документами и информацией, поскольку он создает структурированную семантическую основу, обеспечивающую согласованность, полноту и интерпретируемость в сложных системах. 
Основные аргументы в пользу такого подхода следующие:

Семантическая интероперабельность

Системы ИИ часто оперируют с многообразными наборами данных и источниками информации. Онтология предоставляет общий словарь и стандартизированную структуру для представления данных, обеспечивая беспроблемную интеграцию различных систем и доменов. Онтология обеспечивает согласованную и осмысленную интерпретацию искусственным интеллектом документов из разнородных источников, позволяя избежать неверного толкования и изолированности информации/данных.

Улучшенное понимание информации в соответствующем контексте

Онтологии определяют взаимосвязи между сущностями, атрибутами и процессами в документах, предоставляя системам ИИ обширную контекстную информацию, способствующую точному пониманию и анализу информации, а также применению систем классификации, политик и использованию дополнительных контекстных метаданных. Это расширяет возможности ИИ в плане принятия решений, поскольку система ИИ становится способной улавливать нюансы смысла и внутренне присущие документам взаимосвязи, - и может документировать эти контекстные взаимосвязи, а также создавать заслуживающие доверия свидетельства процессов принятия решений.

Улучшенное стратегическое управление данными и исполнение законодательно-нормативных требований

При управлении документами обычно требуется обеспечить соблюдение конкретных законодательно-нормативных требований и политик организации. Онтологии могут использоваться для кодирования правил и систем классификации, соответствующих этим требованиям, что упрощает для ИИ автоматическое выполнение процедур и политик обеспечения соответствия требованиям, таких как правил управления доступом, протоколов защиты персональных данных, а также действий по установлению и отслеживанию сроков хранению, уничтожению/передаче данных и установлению/снятию временных запретов на уничтожение (legal holds). Это особенно ценно в таких отраслях, как здравоохранение, финансы и юриспруденция, где соблюдение законодательно-нормативных требований имеет критически-важное значение.

Эффективные классификация, поиск и извлечение документов

Подходы, основанные на онтологиях, позволяют ИИ более эффективно классифицировать и отыскивать документы, используя как иерархическую, так и реляционную структуру информации, - и обеспечивают основу для автоматизации этих процессов. Тем самым обеспечивается, что релевантные документы будут выявляться на основе их смысла и контекста, а не просто на основе поиска по ключевым словам, - что повышает точность и эффективность поиска для пользователей, а также улучшает управление доступом, контроль версий, а также позволяет избежать дублирования.

Управление жизненным циклом и отслеживание происхождения

Управление жизненным циклом документов (включающим, например, создание, использование, хранение и уничтожение) является краеугольным камнем управления документами. Онтологии могут предоставлять чёткие определения и потоки работ для этих процессов, тем самым давая ИИ возможность автоматизировать и контролировать их. Концептуальные рамки на основе онтологий также облегчают отслеживание происхождения, обеспечивая прозрачность и подотчетность того, как документы используются системами ИИ модифицируются ими. Это крайне важно для внедрения практики управления записями и информацией в деловых системах ИИ. 

По мере того, как мы приближаемся к новой эре «континуального» мышления и выходим за рамки линейной однонаправленной модели жизненного цикла, возможность документирования происхождения в сложных многосущностных отношениях становится все более проблематичной - и ещё более важной для эффективного отслеживания и сбора метаданных о происхождении и их сохранения во времени как части контекста документов.

Содействие развитию объяснимого ИИ 

Объяснимость крайне важна для систем ИИ, особенно в приложениях высокой важности / риска. Основанный на онтологиях подход к управлению документами упрощает отслеживание и объяснение решений ИИ, увязывая их с хорошо структурированными, семантически насыщенными источниками данных. Это повышает доверие к системам ИИ и позволяет заинтересованным сторонам эффективно проводить аудит решений и сохранять заслуживающие доверия, точные, аутентичные и пригодные для использования документы об этих деловых процессах.

По сути дела, мы не можем обеспечить подотчётность, стратегическое управление, аудит или же этичный/объяснимый ИИ без возможности доступа к документированным входным и выходным данным, алгоритмам, обучающим данным, методам обучения, решениям и последующим действиям. Документы, касающиеся процесса обеспечения качества базовых данных, логики и производительности механизма логического вывода имеют решающее значение для понимания конечных результатов, выданных в ответ на запрос к ИИ или в ходе процесса, а также для выявления любых потенциальных предвзятостей и неточностей.

Масштабируемость и адаптивность

Системам ИИ часто приходится адаптироваться к новым областям применения, типам данных и нормативно-правовым средам. Онтологии могут быть расширены или модифицированы для включения новых знаний без нарушения существующих структур. Это делает концептуальную структуру управления документами масштабируемой и жизнеспособной в перспективе, способной адаптироваться к росту возможностей ИИ и сложности данных, - а также обеспечивает возможность расширения в глобальном масштабе, охватывая различные географии, языки и культурные концепции.

Решение этических проблем

Этичное использование ИИ требует прозрачности, подотчетности и минимизации предвзятости. Онтологии могут быть использованы для формулирования этических принципов и ограничений непосредственно в концептуальной структуре управления документами и в информационной архитектуре, предписывая системам ИИ функционировать в этих рамках и сохраняя документы для целей подотчетности и в качестве доказательств.

(Продолжение следует)

Стивен Кларк (Stephen Clarke)

Источник: сайт Substack
https://steffclarke.substack.com/p/the-convergence-of-ai-governance