(Продолжение, предыдущую часть см. http://rusrim.blogspot.com/2025/10/2_01198152082.html )
8. Управление сроками хранения данных и результатов ИИ и их уничтожением в рамках процессов ИИ
Хорошая практика управления данными и информацией, включающая указания по срокам хранения и действиям по их истечении, имеет ключевое значение для этичного стратегического управления ИИ. Эти практики обеспечивают хранение данных лишь до тех пор, пока в них сохраняется потребность, и проведение их безопасного уничтожения, когда они уже больше не нужны. Это снижает риск утечки данных и обеспечивает соблюдение законодательно-нормативных требований. Управление документами - это сложившаяся дисциплина, в рамках которой подчеркивается важность этичного и ответственного управления процессами жизненного цикла данных. Также крайне важно сохранять документы об автоматизированном принятии решений, обучающие данные, алгоритмы и результаты обработки данных – до тех пор, пока доступ к ним будет необходим для целей подотчётности и воспроизводимости.
Таким образом:
- Этичное стратегическое управление ИИ: Требует наличия политик в отношении сроков хранения и этичного уничтожения данных, используемых в системах ИИ, с целью предотвращения неправомерного использования и обеспечения соответствия законодательно-нормативным требованиям. Эта потребность в настоящее время не удовлетворяется в полной мере.
- Управление документами и информацией: Включает использование на практике указаний по срокам хранения и политик уничтожения для управления жизненным циклом документов, обеспечивая их сохранение лишь до тех пор, пока в них сохраняется потребность, а также проведение их безопасного уничтожения. Масштабная автоматизация применения этих политик уничтожения требует использования инструментов ИИ, опирающихся на поддерживаемые онтологией модели, с целью автоматизации применения политик и проведения автоматической классификации при практической реализации указаний по срокам хранения и действий по их истечении.
9. Автоматизированное принятие решений и управление рисками
Автоматизированные системы принятия решений на основе ИИ вызывают серьёзные этические вопросы. Чтобы обеспечить отсутствие предвзятости и принятия несправедливых решений, эти системы должны быть прозрачными, объяснимыми и подотчётными. Этичное стратегическое управление ИИ включает в себя реализацию надежных механизмов надзора, таких как журналы аудита, журналы принятых решений и оценки воздействия; хорошее ведение документации и отслеживание происхождения данных (их «родословной»). Эти практики являются расширением устоявшихся принципов управления информацией, которые рассматривают в качестве приоритетного обеспечение подотчетности и прозрачности в процессах обработки данных.
Таким образом:
- Этичное стратегическое управление ИИ: Включает в себя выявление и смягчение связанных с системами ИИ рисков, в т.ч. рисков предвзятость, утечки данных и генерирования неэтичных результатов.
- Управление документами и информацией: Включает в себя оценку и управление рисками, связанными с документами, такими как риски утраты, несанкционированного доступа и несоблюдения законодательно-нормативных требований.
10. Обучение и повышение осведомлённости
Обучение способствует формированию культуры ответственного отношения среди специалистов, использующих ИИ на практике. Оно обеспечивает осознание участниками разработки и внедрения ИИ этических аспектов своей работы и их приверженность соблюдению этических принципов. Разработчики и проектировщики, прошедшие обученные этике ИИ, с большей вероятностью будут учитывать этические аспекты на этапах проектирования и внедрения систем ИИ, что будет приводить к более этичным результатам. Документирование процессов обучения и повышения осведомлённости сотрудников играет ключевую роль для подтверждения добросовестности, в то время, как осведомлённость об этичных практиках проектирования и обработки информации обычно уже обеспечивается в рамках проводимого организацией обучения по вопросам управления документами и информацией.
Таким образом:
- Этичное стратегическое управление ИИ: Требует проведения обучения заинтересованных сторон этичному использованию ИИ, обеспечивая понимание ими последствий и ответственности, связанных с системами ИИ.
- Управление документами и информацией: Организует обучение сотрудников надлежащим практикам управления документами, включая вопросы соблюдения законодательно-нормативных требований, неприкосновенности частной жизни (защиты персональных данных) и этические аспекты.
(Продолжение следует)
Стивен Кларк (Stephen Clarke)
Источник: сайт Substack
https://steffclarke.substack.com/p/the-convergence-of-ai-governance