Стратегическое управление данными и искусственным интеллектом: Эволюция традиционного стратегического управления данными в эпоху искусственного интеллекта, часть 2

(Продолжение, начало см. http://rusrim.blogspot.com/2024/01/1_0435354664.html )

Эволюция в сторону Единой модели стратегического управления ИИ и данными (Unified Data and AI Governance)

Для того, чтобы обеспечить стратегическое управление ИИ, требуется расширить традиционное стратегическое управление данными, чтобы охватить уникальные риски и требования ИИ.

В число ключевых аспектов такой Единой модели управления ИИ и данными входят:

• Всеохватывающий каталог данных и моделей: Всесторонний каталог всех данных и метаданных ИИ-моделей, обеспечивающий наглядность взаимосвязей, происхождения и смысла для повышения отслеживаемости.
  
  
• Непрерывная валидация (проверка) качества данных: Многоуровневая проверка качества данных с использованием статистического анализа, профилирования на основе правил и т.д. для обеспечения согласованности обучающих данных и входных данных модели.
  
  
• Аудит алгоритмов: Упреждающая оценка предвзятости / необъективности посредством тестирования результатов модели на различных наборах данных и для различных групп пользователей.
  
  
• Защита персональных данных: Внедрение минимизации данных, анонимизации, федеративного обучения и шифрования для снижения рисков для персональных данных.
  
  
• Менеджмент риска для моделей: Формальная оценка рисков на предшествующей развёртыванию стадии жизненного цикла ИИ-модели для обеспечения адекватности мер контроля и управления.
  
  
• Надзор, осуществляемый человеком: Поддержание значимого контроля человека над данными и моделями на протяжении всего жизненного цикла.
  
  
• Производимые ИИ знания, на основе которых можно действовать: Обеспечение видимости ключевых метрик точности модели, качества данных, степени предвзятости и соотношения количества решений, принимаемых ИИ и человеком.
  
  
• Исполнение законодательно-нормативных требований: Встраивание исполнения требований законодательства по защите персональных данных и требований к ИИ в процесс отбора источников данных, разработку моделей и оперативную деятельность.
  
  
• Группы из специалистов различных профессий: Создание смешанных команд, включающих инженеров по данным, ученых и экспертов по стратегическому управлению.
  
  
• Поддерживающие инструменты: Развертывание интегрированных инструментов, охватывающих метаданные, качество данных, выявление предвзятости и менеджмент рисков моделей.

Внедрение единого подхода делает возможными непрерывную оценку и совершенствование на протяжении всего жизненного цикла ИИ-данных и ИИ-моделей, одновременно обеспечивая прозрачность, объяснимость и смягчение рисков, которые имеют ключевое значение для ответственного масштабирования ИИ.

Аспекты Закона Евросоюза об искусственном интеллекте

Предложенный Закон Евросоюза об искусственном интеллекте (EU AI Act) направлен на создание всесторонней основы для стратегического управления разработкой и использованием заслуживающего доверия искусственного интеллекта в Евросоюзе. Это самый амбициозный и всеобъемлющий закон в мире, пытающийся регулировать ИИ.

В числе ключевых требований можно отметить следующие:

• Подход на основе рисков: Строгое стратегическое управление ИИ-системами с высоким уровнем риска, например, теми, что используются в критически-важной инфраструктуре или при принятии решений о приеме на работу, - в отличие от более мягкого надзора за ИИ-системами с минимальным риском.
  
  
• Прозрачность и объяснимость: От ИИ-систем высокого риска требуется быть прозрачными и объяснять пользователям своё функционирование и решения.
  
  
• Надзор, осуществляемый человеком: Для ИИ-систем высокого риска необходимо обеспечить соответствующий надзор со стороны человека и адекватные меры контроля и управления, чтобы предотвратить неприемлемый ущерб.
  
  
• Высококачественные обучающие данные: Необходимо использовать релевантные, репрезентативные, свободные от ошибок и полные обучающие данные. Обязательным является непрерывное стратегическое управление данными.
  
  
• Точность, безопасность и робастность: Достижение эталонных уровней точности, безопасности и робастности, пропорциональных рискам для ИИ-систем с высоким уровнем риска.
  
  
• Справедливость и отсутствие дискриминации: Упреждающее тестирование и предотвращение несправедливой предвзятости / необъективности в обучающих данных или решениях.
  
  
• Оценки соответствия: Проведение о обязательном порядке для ИИ-систем высокого риска оценок соответствия перед их развертыванием. Также обязателен постоянный мониторинг рисков.

«Встраивая» в упреждающем порядке подобные соображения в свои единые модели стратегического управления, организации могут обеспечить исполнение положений ожидаемого нового законодательства, такого как Закон Евросоюза об искусственном интеллекте ( https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf ) и ответственное масштабирование ИИ.

(Окончание следует, см. http://rusrim.blogspot.com/2024/01/3_01854580039.html )

Чарльз Смарт (Charles Smart)

Источник: сайт компании Factspan
https://www.factspan.com/blogs/data-and-ai-governance-evolving-traditional-data-governance-in-the-age-of-artificial-intelligence/