Управление государственных документов австралийского штата Виктория (Public Record Office Victoria, PROV) разработало проект политики применения искусственного интеллекта (ИИ) при управлении государственными документами. Документ объёмом 2 страницы выложен для публичного обсуждения по адресу
https://prov.vic.gov.au/sites/default/files/files/Govt%20Services%20General/Artificial%20Intelligence%20Policy%20DRAFT%20v0.3%20XH%2020231127.docx
Пожалуйста, посылайте Ваши отзывы непосредственно Ксандер Хантер (Xander Hunter, xander.hunter@prov.vic.gov.au ) не позднее 12 января 2024 года.
Немного предыстории:
- Политика «Технологии искусственного интеллекта и управление документами» (Artificial Intelligence Technologies and Recordkeeping) была разработана с целью реагирования на сложности управления документами / данными, созданными ИИ-технологиями или посредством их использования. Сюда входит создание полных и точных документов / данных, а также надлежащее управление этими документами / данными в соответствии со стандартами управления документами PROV ( https://prov.vic.gov.au/recordkeeping-government/standards-framework ).
- В центре внимания политики находится способность дать понятное объяснение деловых операций, решений и иных действий. Документирование используемых процессов и технологий (включая то, как они использовались, а также мер сдерживания и противовесов, используемых для предотвращения вреда и исправления неверной информации) является ключевым по важности составным элементом возможности предоставить понятное объяснение. Документирование охватывает ситуации, в которых критерии принятия решений или выполнения действий определяются технологиями искусственного интеллекта.
- Данная политика дополняет политику в отношении процессов утверждения (Approval Processes Policy), которая охватывает решения и действия, относящиеся к процессу утверждения, в том числе осуществляемые с помощью машинного обучения и связанных с ним технологий. Государственным учреждениям следует применять положения данной политики к соответствующим решениям и практикам управления документами в соответствии с политикой PROV в отношении полезной отдачи и рисков (Value and Risk Policy - обе упомянутые политики доступны на тематической странице «Политики» веб-сайта PROV, см. https://prov.vic.gov.au/recordkeeping-government/a-z-topics/policies .
В дополнение к этой политике мы также создали новую тематическую веб-страницу, посвященную искусственному интеллекту, см. https://prov.vic.gov.au/recordkeeping-government/a-z-topics/AI .
Мой комментарий: Замечательной отличительной чертой Управления государственных документов штата Виктория является то, что его специалисты не занимаются «размазыванием манной каши по тарелке» - они формулируют свои принципы и политики кратко и чётко. Ниже приведён полный перевод ключевого раздела из проекта новой политики:
2. Политика
Позиция Управления государственных документов штата Виктория Public Record Office Victoria, PROV) заключается в следующем:
1. Технологии, используемые при создании, захвате и управлении документами / данными, должны быть документированы наряду с процессами, используемыми для создания, сбора и управления этими документами / данными.
а) Документация включает сведения о том, какие технологии / программное обеспечение / приложения, с использованием какого процесса использовалось для создания определённых документов, и как именно они использовались.
b) Требуемый уровень детализации должен определяться в соответствии со стандартом PROS 19/05 «Стандарт создания, захвата и контроля» (Create, Capture and Control Standard, https://prov.vic.gov.au/sites/default/files/files/documents/1905v1.0.pdf ) и поддерживающими его спецификациями.
c) Собранная документация должна быть способна давать ответы на вопросы, касающиеся:
i. предвзятости / необъективности в используемых алгоритмах и наборах данных;
ii. прав интеллектуальной собственности;
iii. возможности появления некорректного контента вследствие использования ИИ-технологий - например, «ИИ-галлюцинаций».
2. Контент, созданный посредством или с использованием ИИ-технологий, включая базовые модели (foundation models), такие как Open AI, ChatGPT, большие языковые модели и иные виде порождающего (генеративного) ИИ, является государственными документами и должен захватываться, управляться и уничтожаться / передаваться на архивное хранение в соответствии со стандартами управления документами, выпущенными Хранителем государственных документов штата (Keeper of Public Records - руководитель архивно-документационной службы штата PROV – Н.Х.).
3. Окончательную ответственность за создание и управление полными и точными документами (включая контент, созданный посредством или с использованием ИИ-технологий), в соответствии с Законом о государственных документах штата 1973 года (Public Records Act 1973), несёт руководитель государственного органа или учреждения.
4. Должны быть реализованы процессы проверки и подтверждения точности документов / данных, генерируемых посредством или с использованием ИИ-технологий. Эти процессы должны контролироваться человеком с соответствующей квалификацией, имеющим адекватные полномочия и документированную подотчётность.
5. Уничтожение / передача государственных документов, в том числе созданных посредством или с использованием ИИ-технологий, должно контролироваться человеком, обладающим соответствующими компетенциями, знаниями, полномочиями и документированной подотчётностью.
a) Автоматические действия по уничтожению /передаче должны осуществляться в соответствии с политикой в отношении процессов утверждения PROV.
b) Все действия по уничтожению /передаче должны осуществляться в соответствии с положениями соответствующего нормативно-правового акта, регламентирующего сроки хранения и действия по их истечении.
Источник: сайт PROV
https://prov.vic.gov.au/about-us/our-blog/artificial-intelligence-recordkeeping-policy
