(Окончание, начало см. https://rusrim.blogspot.com/2025/09/1_01208802100.html )
Суверенитет данных коренных народов и роль документов
Представление о суверенитете данных коренных народов (indigenous data sovereignty), под которым понимается право коренных народов определять порядок сбора, владения и применения своих данных, вносит крайне важный аспект в профессиональный дискурс. Оно заставляет нас переосмыслить не только то, как мы управляем данными, но и то, как мы определяем такие понятия, как курирование (stewardship), доступ и подотчетность.
В этом вопросе специалисты по управлению документами должны сыграть свою роль. Встраивание принципов управления документами в ИИ-системы помогает защищать права коренных народов, обеспечивая:
- Отслеживание происхождения: Откуда берутся данные, и как они используются;
- Контролируемый доступ: Уважение «культурных» (т.е. определяемых коренными народами – Н.Х.) протоколов и разрешений;
- Логика сроков хранения: Сохранение того, что важно, а не только того, что удобно или полезно;
- Проектирование, предусматривающее участие человека (human-in-the-loop design): Предоставление возможности коренным народам участвовать в определении того, как системы будут обрабатывать их информацию.
В одном государственном проекте напрямую исследовалось такое пересечение - проверялось, способно ли машинное обучение автоматизировать принятие решений по классификации (в т.ч. по степени конфиденциальности – Н.Х.) и срокам хранения в отношении унаследованных электронных документов. Главными проблемами были выявление и защита данных народа маори, обеспечивая, что они не будут непреднамеренно раскрыты, уничтожены или обработаны без учёта мнения коренных народов. Пилотный проект продемонстрировал потенциал такой автоматизации, однако он также показал, насколько срочно нам нужны для защиты такой информации более качественные метаданные, машиночитаемые указания по срокам хранения и действиям по их истечении, а также концепции «запроектированного управления документами».
Более широкая перспектива
Потребности ИИ, выявляемые при решении задачи обеспечения суверенитета данных коренных народов, существуют и в более широком контексте: документы важны, потому что важны люди. Подотчётность - это не просто простановка галочек в списке законодательно-нормативных требований; речь идёт об уважении взаимосвязей, прав и обязанностей. И в эпоху ИИ все такие усилия, как никогда, зависят от целостности документации.
Документы - это не какие-то реликвии; это используемый обществом способ, позволяющий помнить, объяснять и привлекать к ответственности. Поскольку ИИ начинает генерировать и обрабатывать документы в огромных масштабах – включая, например, данные студентов, медицинские решения, юридические советы, сообщения государственных органов - ставки растут экспоненциально. И когда в состав этих данных входят сведения о маргинализированных или исторически эксплуатируемых сообществах, риски умножаются.
Запроектированное управление документами
Если ИИ собирается играть роль в общественной жизни, то документирование и документы с самого начала должны быть заложены в его архитектуру. Это означает встраивание в саму архитектуру ИИ-системы процессов управления документами, таких как создание, классификация, экспертиза ценности, присвоение метаданных и уничтожение/передача на архивное хранение. Это означает оснащение инженеров ИИ инструментами и принципами хорошего документирования, - и это означает предоставление специалистам по управлению документами возможности быть на ведущих ролях в междисциплинарных командах.
Это не просто технический способ устранения проблемы, а культурный сдвиг. Речь идет о признании того, что информация не является нейтральной, и что наши подходы к её документированию, хранению и уничтожению влекут за собой глубокие этические последствия.
Заключение: Требуется обоснованное доверие
Нельзя просто потребовать верить ИИ, доверие нужно заслужить. И основой этого доверия является не только алгоритмическая точность, но и наличие структурированной, прозрачной, уважительной документация. Документы - не реликвии, они способ общества помнить, объяснять и привлекать к ответственности.
ИИ следует использовать с осторожностью, особенно при работе со знаниями, историями и идентичностями коренных народов. Документы, если мы решим их использовать, способствуют такой осторожности и предусмотрительности.
Эндрю Поттер (Andrew Potter)
Источник: сайт Substack
https://metaarchivist.substack.com/p/ai-needs-records-tooil
Комментариев нет:
Отправить комментарий