Большинство людей считает, что искусственный интеллект (ИИ) создает документы только одного типа. Это выходные данные, тексты, ответы. Это артефакты, который покидает модель и попадают в процессы организации. Но это лишь половина истории.
Искусственный интеллект создает документы двух совершенно разных типов, и если Вы не понимаете их оба, то не сможете обеспечить стратегическое управление ИИ, не сможете его контролировать, не сможете исполнять законодательно-нормативные требования, касающиеся защиты персональных данных и прозрачности, требования Закона о свободе доступа к государственной информации (FOIA), требования управления документами, кибербезопасности и управления рисками. Именно эту часть стратегического управления ИИ отрасль пока что упускает из виду.
«Исходящие» документы, генерируемые ИИ (External Record)
О документах этого типа известно всем. Они являются человеко-читаемыми. Эти документы выходит за пределы модели и становятся частью процессов организации. К их числу принадлежат:
- Подсказки
- Выходные данные
- Протоколы и журналы аудита
- Обучающие данные
- Метаданные
- Свидетельства принятия решений
Они следуют жизненному циклу артефактов ИИ, включающему такие этапы, как:
- Создание
- Использование
- Трансформация
- Хранение
- Уничтожение либо передача на архивное хранение
Это сфера стратегического управления организацией, мир стратегического управления информацией, мир управления документами. Это мир запросов на основании Закона о свободе доступа к государственной информации и защиты персональных данных.
Но существует и другой мир.
Внутренние документы, связанные с функционированием ИИ (Internal Record)
Это документы, о которой никто не говорит. Они создаются внутри модели ИИ, и для них характерно то, что:
- Они основаны на математических вычислениях;
- Являются временными;
- Невидимы для организации;
- Никогда не становятся человеко-читаемыми артефактами.
Эти внутренние документы создаются в процессах логического вывода и преобразования. Это продукты математических вычислений, которые модель использует для мышления, для принятия решений и для генерации выходных данных - и они следуют своему собственному жизненному циклу.
Жизненный цикл документов, относящихся к управлению поведением ИИ, включает:
- Создание
- Захват
- Обработка
- Трансформация
- Доставка
- Хранение в течение установленных сроков
- Уничтожение
Все это происходит внутри модели. Эти документы не покидают модель - и они не упоминаются в традиционных указаниях (перечнях) по срокам хранения и действиям по их истечении. Они не охватываются Законом о свободе доступа к государственной информации (FOIA) и защитой персональных данных. Они не попадают в сферу ответственности управления документами.
Но ими всё равно необходимо управлять.
В моей готовящейся к выходу книге «Стратегическое управление ИИ: Как 10 правил исполнения требований и метаданные контролируют поведение ИИ» (Governing AI: How 10 Enforcement Rules and Metadata Control AI Behavior) я объясняю эти два инструмента стратегического управления простым языком:
- Метаданные - это информация, которая определяет идентичность, контекст и границы. Они сообщают искусственному интеллекту, что представляет собой тот или иной объект, какова степень его конфиденциальности и связанного с ним риска, как долго он должен существовать и какие правила к нему применимы;
- Правила исполнения - это инструкции по поведению, которые я разработала для управления действиями искусственного интеллекта. Они определяют допустимое поведение, запрещенное поведение, действия в случае появления проблем (эскалацию) и анализ и контроль со стороны человека.
Совместно метаданные и правила исполнения регламентируют жизненный цикл внутренних документов и контролируют поведение ИИ изнутри.
Эти два жизненных цикла работают вместе. Они обеспечивают управление внутренними документами ИИ, что, в свою очередь, обеспечивает управление поведением ИИ, - а также обеспечивают управление внешними документами ИИ, что, в свою очередь, обеспечивает управление артефактами, поступающими в организацию.
Мойя Хилл (Dr. Moya Hill)
Источник: сайт LinkedIn
https://www.linkedin.com/posts/dr-moya-hill-912837179_unifiedinformationgovernance-airecords-aigovernance-activity-7487099405804740608-GTWA
