Недавно представленная Китаем концепция обеспечения безопасности ИИ – это документ, который специалистам по стратегическому управлению ИИ обязательно следует изучить. Концепция предлагает надёжные и актуальные механизмы смягчения рисков, связанных с безопасностью искусственного интеллекта.
Данный документ, опубликованный одновременно на китайском и английском языках, учитывает новые тенденции в развитии ИИ и предлагает решения для новых проблем в сфере стратегического управления безопасностью ИИ.
В основе версии 3.0 данной Концепции лежит подход «классификация рисков → техническое реагирование → всестороннее стратегическое управление». Документ опирается на следующие принципы:
- Инклюзивность и осмотрительность с целью обеспечения безопасности,
- Риск-ориентированное и гибкое стратегическое управление,
- Интеграция технологий и процессов управления для координированного реагирования,
- Поощрение открытости и сотрудничества с целью совместного стратегического управления и получения отдачи для всех сторон,
- Обеспечение доверенного применения и предотвращение утраты контроля.
- Совершенствование высокоуровневой архитектуры стратегического управления безопасностью ИИ,
- Наращивание потенциала в области управления безопасностью ИИ,
- Создание гибкого, динамичного и контролируемого механизма «регуляторной песочницы» для ИИ,
- Усиление мер по оперативному управлению безопасностью ИИ,
- Углубление консенсуса по вопросам стратегического управления безопасностью ИИ.
Сейчас самое время проанализировать, обновить и усилить внутренние политики стратегического управления ИИ, оценки рисков и механизмы реагирования - особенно те, что касаются вопросов обеспечения безопасности.
Данная Концепция - одна из самых актуальных и всесторонних в данной области: она в комплексе рассматривает новые и нарождающиеся риски ИИ, вопросы стратегического управления и механизмы реагирования, а также включает в себя концепцию управления рисками агентного ИИ (не пропустите соответствующее Приложение 2).
В контексте других инициатив (см, например, материал агентства Reuters здесь: https://www.reuters.com/world/china/china-proposes-new-global-ai-cooperation-organisation-2025-07-26/ ), версия 3.0 данной Концепции свидетельствует о стремлении Китая позиционировать себя как мирового лидера в сфере безопасности ИИ (стратегическая позиция, которую также стремятся занять США).
Буду держать вас в курсе событий.
Скачайте Концепцию по адресу https://www.cac.gov.cn/rootimages/uploadimg/1791137114683961/1791137114683961.pdf и познакомьте с этим документом Ваших специалистов.
Луиза Жаровски (Luiza Jarovsky)
Мой комментарий: Содержание Концепции, разработанный национальным техническим комитетом TC 260 по стандартизации в области кибербезопасности под руководством Администрации киберпространства Китая (国家互联网信息办公室 - Cyberspace Administration of China, CAC), следующее:
Предисловие
1. Принципы стратегического управления безопасностью ИИ
2. Классификация рисков безопасности ИИ
3. Технологические меры противодействия рискам безопасности ИИ
4. Комплексные меры стратегического управления рисками безопасности ИИ
5. Руководящие принципы обеспечения безопасности ИИ
Приложение 1: Принципы оценки и категоризации рисков безопасности ИИ
Приложение 2: Концепция управления рисками агентного ИИ
Приложение 3: Фундаментальные принципы для заслуживающего доверия ИИ
Благодарности
Источник: сайт LinkedIn
https://www.linkedin.com/pulse/chinas-ai-safety-governance-framework-30-luiza-jarovsky-phd-urmxf/
Комментариев нет:
Отправить комментарий