Пять ключевых идей для специалистов по управлению документами относительно использования искусственного интеллекта в управлении информацией, часть 2

(Окончание, начало см. https://rusrim.blogspot.com/2024/08/1_27.html )

3. Применение ИИ в управлении информацией и документами

Возможности генеративного ИИ по извлечению, анализу, реферированию и классификации информации делают его отличным инструментом для многих процессов управления документами и информацией.

Приложения генеративного ИИ для управления документами и информацией включают:

• классификацию и маркировку документов и информации;
  
  
• улучшение процесса поиска и извлечения (посредством предоставления ответов на запросы, а также выдачи списков результатов);
  
  
• реферирование документов и информации (например, ответ на запрос «выдайте мне историю этого проекта»);
  
  
• рекомендации конечным пользователям относительно выбора названий дел и файлов, их размещения, маркировки (в т.ч. установления грифов – Н.Х.);
  
  
• выявление важнейших документов (т.е. тех, что необходимы для обеспечения непрерывности деловой деятельности в случае ЧП и для восстановления после катастроф – Н.Х.) и чувствительной (высококонфиденциальной) информации;
  
  
• анализ закономерностей создания и использования документов в организации.

Проблема внедрения генеративного ИИ в деятельность по управлению информацией и документами заключается в том, что для этого потребуются высококачественные входные данные – например, в форме контролируемых данных для тонкой настройки (fine tuning), дополнения подсказок (prompt stuffing – вставка дополнительного контента в подсказки, передаваемые на вход большой языковой модели – Н.Х.) или генерации, дополняемой поиском и извлечением (retrieval augmented generation – по сути, предоставление модели дополнительного контента, необходимого для ответа на конкретные вопросы – Н.Х.). Без такого рода настройки типовые предварительно обученные модели, скорее всего, будут выдавать неверные результаты. Организациям, внедрившим у себя хорошие меры и средства управления документами и информацией, будет проще воспользоваться преимуществами этой технологии.

4. Широкое применение ИИ за рамками управления документами

Конечно, потенциал генеративного ИИ выходит далеко за рамки управления документами. Он радикально изменяет способы создания и использования информации на рабочих местах и в обществе в целом. Инструменты генеративного ИИ, такие как Microsoft Copilot, уже используются на рабочих местах для составления черновиков контента (например, для подготовки проектов ответов на электронные письма или изображений для презентаций), для резюмирования/реферирования и расшифровки (например, для создания протоколов совещаний), для перевода, автоматизации рабочих процессов, выполнения анализа, взаимодействия с клиентами (онлайн-чатботы), для написания кода и даже мониторинга безопасности (Microsoft Copilot for Security).

5. Этические и документационные риски: роль специалистов по управлению документами

Хотя ИИ позволяет получить многообразную отдачу, он также порождает серьезные этические риски, риски для информационной безопасности и защиты персональных данных, а также проблемы в управлении документами. Так, например, ИИ-системы могут перенять и даже усилить предвзятость и необъективность, присутствующую в обучающих данных, что может приводить к несправедливым или дискриминационным результатам. Генерируемый ИИ-системами контент может содержать неточности и «галлюцинации». С ИИ-системами связан ряд новых рисков безопасности (например, «инъекций в подсказки» - prompt injection, и «отравления данных» - data poisoning), и при их использовании возможна утечка чувствительных (конфиденциальных) данных. Для управления этими рисками необходимы надёжное стратегическое управление и надзор со стороны человека над ИИ-процессами, и здесь специалисты по управлению документами входят в число ключевых по важности заинтересованных сторон.

Google в своем «Подходе к созданию концепции безопасного ИИ» (Secure AI Framework Approach, https://developers.google.com/machine-learning/resources/saif ) выделяет происхождение данных, метаданные и контроль над созданием и уничтожением данных как важные части того, что компания называет «стратегическим управлением ИИ-данными» (AI data governance), - и это как раз те вопросы, в которых специалисты по управлению документами хорошо разбираются. Специалистам по управлению документами также следует участвовать в обсуждении того, в каком порядке корпоративная информация предоставляется ИИ-системам; а также в стратегическом управлении тем, как идентифицируется и контролируется сгенерированный ИИ контент, и в принятии решений об интеграции ИИ в корпоративные процессы управления документами.

Использование возможности ИИ в своей деловой деятельности: освоение возможностей и управление рисками

Компания Recordkeeping Innovation предлагает комплексную услугу по стратегическому управления ИИ, призванную помочь организациям разобраться со сложностями интеграции ИИ в свои практики управления информацией. Наша услуга обеспечивает ответственное, этичное и соответствующее законодательно-нормативным требованиям внедрение технологий ИИ. Предоставляя экспертные рекомендации по стратегическому управлению данными, по обеспечению безопасности и защиты персональных данных, мы даём организациям возможность использовать весь потенциал ИИ, поддерживая при этом целостность своих документов и информационных систем и доверие к ним.

Ричард Лехейн (Richard Lehane)

Источник: блоге австралийской компании Recordkeeping Innovation
https://records.com.au/five-key-insights-on-ai-in-information-management-for-records-managers/