Штат Виктория, Австралия: Захват и управление документами, созданными с помощью технологий искусственного интеллекта, а также использование ИИ для управления документами, часть 1

Управление государственных документов австралийского штата Виктория (Public Record Office Victoria, PROV), о деятельности которого я регулярно рассказываю (см. http://rusrim.blogspot.com/search/label/PROV ), выложило 1 декабря 2023 года данный материал на своём веб-сайте на странице, специально посвящённой особенностям управления документами в связи с распространением технологий искусственного интеллекта.

Что такое искусственный интеллект?

«Искусственный интеллект (ИИ) - это собирательный термин для компьютерных и/или цифровых систем, которые используют предоставляемые машиной или человеком входные данные для выполнения сложных задач в интересах достижения поставленных человеком целей, таких как выработка предсказаний, советов, логических выводов, решений или же генерация контента» (определение из публикации Л. Соломона (Solomon, L.) и Н.Дэвиса (Davis, N.) «Состояние стратегического управления искусственным интеллектом в Австралии» (The State of AI Governance in Australia), Сиднейский технологический университет, 2023 год)

Мой комментарий: Для сравнения приведу соответствующие определения ИСО:

3.1.4. Система искусственного интеллекта; ИИ-система (artificial intelligence system, AI system): техническая система, которая порождает такие конечные результаты, как контент, прогнозы, рекомендации или решения для заданного набора определенных человеком целей.

Примечание 1: В технической системе могут применяться различные связанные с искусственным интеллектом методы и подходы для разработки модели для представления данных, знаний, процессов и т. д., которая может быть использована для решения задач.

Примечание 2: ИИ-системы проектируются для эксплуатации с различными уровнями автоматизации.

3.1.3. Искусственный интеллект, ИИ (artificial intelligence, AI): <дисциплина> исследование и разработка механизмов и приложений ИИ-систем (3.1.4)

Примечание: Исследования и разработки могут проводиться в одной или нескольких областях, таких как информатика, наука о данных, гуманитарные науки, математика и естественные науки

Источник: ISO/IEC 22989:2022 «Информационные технологии - Искусственный интеллект - Понятия и терминология в области искусственного интеллекта» (Information technology - Artificial intelligence - Artificial intelligence concepts and terminology, см. https://www.iso.org/standard/74296.html и https://www.iso.org/obp/ui/en/#!iso:std:74296:en

Технологии искусственного интеллекта (ИИ), при условии надлежащего стратегического управления ими, способны повысить эффективность и своевременность выполнения логических задач. Для ИИ-технологий нужны этические рамки их применения и осуществляемый человеком контроль, чтобы обеспечить:

• отсутствие предвзятости или причинения вреда;
  
  
• точность предоставляемого контента, который не должен вводить в заблуждение;
  
  
• чтобы следствием применения ИИ не становилась вредоносная деятельность;
  
  
• отсутствие нарушений основных права человека.

Разные типы ИИ имеют разное назначение. Например:

• Технологии автоматизации на основе ИИ выполняют действия в соответствии с конкретными параметрами и на основе доступных наборов данных;
  
  
• Машинное обучение и другие ИИ-технологии принятия решений принимают решения в соответствии с конкретными параметрами и на основе доступных наборов данных;
  
  
• Порождающий (генеративный) искусственный интеллект, включая большие языковые модели (Large Language Model, LLM), создаёт новый контент в соответствии с конкретными параметрами и на основе доступных наборов данных;
  
  
• Комбинированные ИИ-технологии могут делать всё вышеперечисленное: создавать контент, формировать решения на основе этого контента, а затем выполнять действия над этим контентом в соответствии с конкретными параметрами и на основе доступных наборов данных.

Почему важно захватывать документы, касающиеся ИИ-технологий?

Недостаточно иметь документы о деловой деятельности, действиях и решениях сами по себе. Наряду с этими деловыми документами, жизненно важно также иметь ассоциированные с ними документы об использовавшихся для их создания технологиях и процессах. Это связано с тем, что используемые процессы и технологии влияют на то, как формируется документ, какая информация захватывается и как документ будет храниться. Это, в свою очередь, оказывает влияние на ряд факторов, в числе которых порядок доступа к документу; контекст, в рамках которого документ следует интерпретировать; и целостность документа как доказательства.

Заинтересованные стороны всё больше осознают возможный вред и неточности, возникающие в результате использования ИИ-технологий. Соответственно, заинтересованные стороны могут быть заинтересованы в том, чтобы знать:

• Использовалась ли ИИ-технология для принятия решений/выполнения действий или создания контента?
  
  
• Был ли алгоритм и/или обрабатываемые данные предвзятыми?
  
  
• Был ли созданный с помощью ИИ-технологий контент точным и актуальным?
  
  
• Приняла ли организация или учреждение достаточные меры для смягчения негативных последствий?

Сбор/захват документов о применении ИИ

Основные типы ИИ

Множество факторов влияют на то, какие документы об ИИ необходимо будет сохранить и обеспечить управление ими. К числу таких факторов относятся тип используемого ИИ, возможный вред, который может быть причинен вследствие использования ИИ, и уровень соответствующего риска.

В приведенной ниже таблице описаны различные типы ИИ-технологий и то, на какие документы следует обратить внимание (приведенный список не является исчерпывающим).

Таблица 1 (начало)

Таблица 1 (окончание)

(Продолжение следует, см. http://rusrim.blogspot.com/2024/01/2.html )

Источник: сайт PROV
https://prov.vic.gov.au/recordkeeping-government/a-z-topics/AI