Управление государственных документов австралийского штата Виктория (Public Record Office Victoria, PROV) радо сообщить о публикации подготовленной им «Политики использования искусственного интеллекта при управлении документами» (Artificial Intelligence Technologies and Recordkeeping Policy) объёмом 3 страницы, см. https://prov.vic.gov.au/recordkeeping-government/document-library/ai-technologies-policy-ai-technologies-and-recordkeeping , прямая ссылка на PDF-файл: https://prov.vic.gov.au/sites/default/files/files/documents/ai_tech_and_recordkeeping_policy_v1_2024.pdf .
Мой комментарий: О разработке данной политики я рассказывала здесь: http://rusrim.blogspot.com/2024/01/blog-post_02.html
Для выполнения руководителями государственных органов и учреждение штата требования Закона о государственных документах штата 1973 года (Public Records Act 1973, https://www.legislation.vic.gov.au/in-force/acts/public-records-act-1973/041 ), должны создаваться, храниться и надлежащим образом управляться полные и точные документы деловые деятельности. Данная политика содержит указания в отношении технологий искусственного интеллекта (ИИ), которые помогут государственным органам и учреждениям выполнить свои обязательства в соответствии с Законом о государственных документах.
«Политика использования искусственного интеллекта при управлении документами» была разработана в качестве реакции на озабоченность в отношении прозрачности и подотчётности в связи с внедрением и использованием ИИ, а также обеспечения объяснимого использования ИИ. Сюда входит создание полных и точных документов / данных, а также надлежащее управление этими документами / данными в соответствии со стандартами управления документами, публикуемыми Управлением PROV (см. https://prov.vic.gov.au/recordkeeping-government/standards-framework ).
Указания политики охватывают следующие вопросы:
- Требуемая документация на ИИ-технологии, включая уровень документирования, сведения о расположении исходных данных и указания о том, какая информация не должна быть доступна используемым ИИ-технологиям;
- Подтверждение того, что окончательная ответственность за создание и управление полными и точными документами (включая контент, созданный ИИ-технологиями или с их помощью) лежит на руководителе государственного органа или учреждения;
- Подтверждение того, что документы, созданные ИИ-технологиями или с их помощью, являются государственными документами и должны управляться в соответствии со стандартами Управления PROV;
- Процессы, необходимые для проверки и подтверждения точности документов / данных, созданных ИИ-технологиями или с их помощью, включая необходимость надзора человека над этими процессами;
- Осуществление человеком надзора над проведение уничтожения либо передачи на архивное хранение государственных документов.
Документация, необходимая для исполнения данной политики, продумана так, чтобы не быть обременительной. Пункты политики (такие, как 1a(1), 1a(iv) и 1(b)) предоставляют государственным учреждениям возможности для адаптации этой документации с учётом условий, в которых внедряются и используются ИИ-технологии, и уровня связанного с этим риска. (например, величины потенциального ущерба).
Данная политика дополняет политику в отношении процессов утверждения (Approval Processes Policy, см. https://prov.vic.gov.au/recordkeeping-government/document-library/approvalprocessespolicy-approval-processes-policy ), которая охватывает решения и действия, относящиеся к процессу утверждения (включая те, что осуществляются с помощью машинного обучения и связанных с ним технологий). Государственным органам и учреждениям следует применять положения данной политики в отношении соответствующих решений и практики управления документами в соответствии с политикой PROV в отношении полезной отдачи и рисков (Value and Risk Policy, https://prov.vic.gov.au/recordkeeping-government/document-library/value-risk-policy ) и стандартами управления документами.
Информацию о том, как документировать ИИ-технологии можно найти на странице нашего веб-сайта, посвящённой теме искусственного интеллекта, см. https://prov.vic.gov.au/recordkeeping-government/a-z-topics/AI .
Мой комментарий: Ниже приведён перевод ключевого раздела политики:
Политика
Позиция Управления государственных документов штата Виктория Public Record Office Victoria, PROV) заключается в следующем:
1. Технологии, используемые при создании, захвате и управлении документами / данными, должны быть, насколько это практически возможно, в максимальной степени документированы наряду с процессами, используемыми для создания, сбора и управления этими документами / данными.
а) Документация должна охватывать следующее:
i. какие технологии / программное обеспечение / приложения использовались, для выполнения каких процессов и функций, как и прочему они использовались, и какие типы документов были в результате созданы;
ii. к каким документам/данным технология / программное обеспечение / приложение искусственного интеллекта может получить доступ, использовать их и делать прогнозы (логические выводы); а также получены ли эти документы /данные только из государственных источников, или же включают в себя материалы из других источников;
iii. к каким документам/данным технология / программное обеспечение / приложение искусственного интеллекта не имеет доступа и не может их использовать и почему (например, из соображений конфиденциальности, защиты персональных данных, безопасности и т.д.);
iv. риски, связанные с использованием технологии / программного обеспечения / приложения искусственного интеллекта - например, связанные с использованием проприетарных моделей или моделей с открытым исходным кодом, интеллектуальной собственности или конфиденциальной информации, что может ограничить их использование, возможный уровень документирования или же привести к причинению вреда.
b) Требуемый уровень детализации должен определяться в соответствии со стандартом PROS 19/05 «Стандарт создания, захвата и контроля» (Create, Capture and Control Standard, https://prov.vic.gov.au/sites/default/files/files/documents/1905v1.0.pdf ) и поддерживающими его спецификациями, а также в соответствии с политикой PROV в отношении полезной отдачи и рисков (Value and Risk Policy).
c) Собранная документация, по возможности, должна быть способна давать ответы на вопросы, касающиеся:
i. предвзятости / необъективности в используемых алгоритмах и наборах данных;
ii. прав интеллектуальной собственности (включая авторские права);
iii. возможности появления некорректного контента вследствие использования ИИ-технологий - например, появления «ИИ-галлюцинаций».
2. Контент, созданный технологиями / программным обеспечением / приложениями искусственного интеллекта или с их помощью, является государственными документами и должен захватываться, управляться и уничтожаться / передаваться на архивное хранение в соответствии со стандартами управления документами, выпущенными Хранителем государственных документов штата (Keeper of Public Records - руководитель архивно-документационной службы штата PROV; публикуемые им стандарты являются обязательными для государственных органов и учреждений штата – Н.Х.).
3. Окончательную ответственность за создание и управление полными и точными документами (включая контент, созданный ИИ-технологиями или с их помощью), в соответствии с Законом о государственных документах штата 1973 года (Public Records Act 1973), несёт руководитель государственного органа или учреждения.
4. Должны быть реализованы процессы проверки и подтверждения точности документов / данных, генерируемых ИИ-технологиями или с их помощью. Эти процессы должны контролироваться человеком с соответствующей квалификацией, имеющим адекватные полномочия и документированную подотчётность.
5. Уничтожение / передача государственных документов, в том числе созданных ИИ-технологиями или с их помощью, должны контролироваться человеком, обладающим соответствующими компетенциями, знаниями, полномочиями и документированной подотчётностью.
a) Автоматические действия по уничтожению /передаче должны осуществляться в соответствии с политикой в отношении процессов утверждения PROV (Approval Processes Policy).
b) Все действия по уничтожению /передаче должны осуществляться в соответствии с положениями соответствующего нормативно-правового акта, регламентирующего сроки хранения и действия по их истечении.
Источник: сайт PROV
https://prov.vic.gov.au/about-us/our-blog/new-recordkeeping-policy-ai
https://prov.vic.gov.au/recordkeeping-government/document-library/ai-technologies-policy-ai-technologies-and-recordkeeping
Комментариев нет:
Отправить комментарий