Штат Виктория, Австралия: Открыто обсуждение проекта политики применения искусственного интеллекта при управлении государственными документами

Данная новость была опубликована 30 ноября 2023 года на сайте Управления государственных документов австралийского штата Виктория (Public Record Office Victoria, PROV).

Управление государственных документов австралийского штата Виктория (Public Record Office Victoria, PROV) разработало проект политики применения искусственного интеллекта (ИИ) при управлении государственными документами.  Документ объёмом 2 страницы выложен для публичного обсуждения по адресу
https://prov.vic.gov.au/sites/default/files/files/Govt%20Services%20General/Artificial%20Intelligence%20Policy%20DRAFT%20v0.3%20XH%2020231127.docx

Версию текста этой политики в формате Word можно скачать и просмотреть на тематической странице «Политики» (Policies, https://prov.vic.gov.au/recordkeeping-government/a-z-topics/policies ) веб-сайта PROV. Мы были бы рады узнать Ваше мнение о том, как обеспечить удобочитаемость, полезность и практичность этой политики.

Пожалуйста, посылайте Ваши отзывы непосредственно Ксандер Хантер (Xander Hunter, xander.hunter@prov.vic.gov.au ) не позднее 12 января 2024 года.

Немного предыстории:

• Политика «Технологии искусственного интеллекта и управление документами» (Artificial Intelligence Technologies and Recordkeeping) была разработана с целью реагирования на сложности управления документами / данными, созданными ИИ-технологиями или посредством их использования. Сюда входит создание полных и точных документов / данных, а также надлежащее управление этими документами / данными в соответствии со стандартами управления документами PROV ( https://prov.vic.gov.au/recordkeeping-government/standards-framework ).
  
  
• В центре внимания политики находится способность дать понятное объяснение деловых операций, решений и иных действий. Документирование используемых процессов и технологий (включая то, как они использовались, а также мер сдерживания и противовесов, используемых для предотвращения вреда и исправления неверной информации) является ключевым по важности составным элементом возможности предоставить понятное объяснение. Документирование охватывает ситуации, в которых критерии принятия решений или выполнения действий определяются технологиями искусственного интеллекта.
  
  
• Данная политика дополняет политику в отношении процессов утверждения (Approval Processes Policy), которая охватывает решения и действия, относящиеся к процессу утверждения, в том числе осуществляемые с помощью машинного обучения и связанных с ним технологий. Государственным учреждениям следует применять положения данной политики к соответствующим решениям и практикам управления документами в соответствии с политикой PROV в отношении полезной отдачи и рисков (Value and Risk Policy - обе упомянутые политики доступны на тематической странице «Политики» веб-сайта PROV, см. https://prov.vic.gov.au/recordkeeping-government/a-z-topics/policies .

В дополнение к этой политике мы также создали новую тематическую веб-страницу, посвященную искусственному интеллекту, см. https://prov.vic.gov.au/recordkeeping-government/a-z-topics/AI .

Если у Вас есть какие-либо вопросы, или если Вы хотите обсудить что-либо, связанное с данной политикой, напишите по электронной почте Ксандер Хантер (старшему специалисту по стандартам и политике Управления государственных документов штата Виктория – на фото) по адресу xander.hunter@prov.vic.gov.au .

Мой комментарий: Замечательной отличительной чертой Управления государственных документов штата Виктория является то, что его специалисты не занимаются «размазыванием манной каши по тарелке» - они формулируют свои принципы и политики кратко и чётко. Ниже приведён полный перевод ключевого раздела из проекта новой политики:

2. Политика

Позиция Управления государственных документов штата Виктория Public Record Office Victoria, PROV) заключается в следующем:

1. Технологии, используемые при создании, захвате и управлении документами / данными, должны быть документированы наряду с процессами, используемыми для создания, сбора и управления этими документами / данными.

а) Документация включает сведения о том, какие технологии / программное обеспечение / приложения, с использованием какого процесса использовалось для создания определённых документов, и как именно они использовались.

b) Требуемый уровень детализации должен определяться в соответствии со стандартом PROS 19/05 «Стандарт создания, захвата и контроля» (Create, Capture and Control Standard, https://prov.vic.gov.au/sites/default/files/files/documents/1905v1.0.pdf ) и поддерживающими его спецификациями.

c) Собранная документация должна быть способна давать ответы на вопросы, касающиеся:

i. предвзятости / необъективности в используемых алгоритмах и наборах данных;

ii. прав интеллектуальной собственности;

iii. возможности появления некорректного контента вследствие использования ИИ-технологий - например, «ИИ-галлюцинаций».

2. Контент, созданный посредством или с использованием ИИ-технологий, включая базовые модели (foundation models), такие как Open AI, ChatGPT, большие языковые модели и иные виде порождающего (генеративного) ИИ, является государственными документами и должен захватываться, управляться и уничтожаться / передаваться на архивное хранение в соответствии со стандартами управления документами, выпущенными Хранителем государственных документов штата (Keeper of Public Records - руководитель архивно-документационной службы штата PROV – Н.Х.).

3. Окончательную ответственность за создание и управление полными и точными документами (включая контент, созданный посредством или с использованием ИИ-технологий), в соответствии с Законом о государственных документах штата 1973 года (Public Records Act 1973), несёт руководитель государственного органа или учреждения.

4. Должны быть реализованы процессы проверки и подтверждения точности документов / данных, генерируемых посредством или с использованием ИИ-технологий. Эти процессы должны контролироваться человеком с соответствующей квалификацией, имеющим адекватные полномочия и документированную подотчётность.

5. Уничтожение / передача государственных документов, в том числе созданных посредством или с использованием ИИ-технологий, должно контролироваться человеком, обладающим соответствующими компетенциями, знаниями, полномочиями и документированной подотчётностью.

a) Автоматические действия по уничтожению /передаче должны осуществляться в соответствии с политикой в отношении процессов утверждения PROV.

b) Все действия по уничтожению /передаче должны осуществляться в соответствии с положениями соответствующего нормативно-правового акта, регламентирующего сроки хранения и действия по их истечении.

Источник: сайт PROV
https://prov.vic.gov.au/about-us/our-blog/artificial-intelligence-recordkeeping-policy