Стратегическое управление данными и искусственным интеллектом: Эволюция традиционного стратегического управления данными в эпоху искусственного интеллекта, часть 1

Данная статья американского специалиста Чарльза Смарта (Charles Smart, https://www.linkedin.com/in/charlessmart/ - на фото) была опубликована 13 октября 2023 года на сайте компании Factspan.

Познакомьтесь с эволюционирующим ландшафтом стратегического управления искусственным интеллектом (ИИ), с воздействием Закона Евросоюза об ИИ и с Единой концепцией стратегического управления ИИ и данными (Unified Data and AI Governance framework). Узнайте, как организации могут ответственно масштабировать ИИ, поддерживать прозрачность и укреплять доверие к ИИ-системам, способствуя справедливому ускорению развития в бизнесе и обществе на основе цифровых технологий.

Искусственный интеллект (ИИ) трансформирует способы, используемые организациями для стратегического оперативного управления данными. По мере того, как ИИ проникает во все отрасли, происходит коренной сдвиг от традиционного стратегического управления данными к более развитой концепции, объединяющей стратегическое управление как данными, так и искусственным интеллектом ( https://www.factspan.com/ ). Эта эволюция имеет критически-важное значение для использования потенциала ИИ и одновременного управления связанными с ним рисками и проблемами.

Основы традиционного стратегического управления данными

Стратегическое управление данными представляет собой всестороннюю концепцию управления, обеспечивающую доступность данных, их пригодность для использования, согласованность, защищённость и соответствие политикам в рамках всей экосистемы корпоративных данных. Она опирается на шесть ключевых столпов:

• Качество данных: Обеспечение точности, полноты, надёжности и достоверности данных при использовании в деловой деятельности, посредством процессов валидации (проверки), мониторинга и корректировки.
  
  
• Безопасность данных: Защита данных от несанкционированного доступа и утечек с помощью таких мер и средств, как шифрование и меры кибербезопасности.
  
  
• Управление метаданными: Каталогизация и документирование контекста данных, их смысла, структуры, взаимосвязей данных в различных системах и происхождения данных.
  
  
• Политики в отношении данных: Установление политик и стандартов, соответствующих требования законодательства в отношении сбора, порядка и сроков хранения, использования, защиты неприкосновенности частной жизни (персональных данных) и управления жизненным циклом данных.
  
  
• Доступ к данным: Обеспечение аутентифицированного доступа к корпоративным данным на основе политик различных лиц, представляющих различные направления деловой деятельности.
  
  
• Управление жизненным циклом данных: Управление данными по всей цепочке поставок данных, начиная от момента их создания, на протяжении периода их использования и вплоть до уничтожения.

Эта традиционная модель стратегического управления достаточно хорошо подходит для сценариев обработки структурированных данных, однако искусственный интеллект приводит к появлению новых проблем.

Трансформирующие изменения, вызванные искусственным интеллектом

ИИ-системы эффективны лишь настолько, насколько хороши данные, на которых они обучаются. Однако управление ИИ-данными сопряжено с рядом сложностей:

• Объёмы данных: Обучающие данные ИИ могут включать миллиарды точек из различных источников, что создаёт проблемы для традиционных методов управления.
  
  
• Низкое качество данных: Низкое качество, предвзятость / необъективность или противоречивость обучающих данных существенно влияют на производительность и справедливость ИИ-моделей. Обеспечивать стабильно высокое качество данных становится экспоненциально сложнее при больших объёмах ИИ-данных.
  
  
• Непрозрачность моделей: Внутренние механизмы работы сложных ИИ-моделей часто представляет собой «чёрные ящики», что делает процессы принятия конкретных решений непрозрачными и создаёт проблемы для стратегического управления.
  
  
• Алгоритмическая предвзятость: Обучающие данные, содержащие человеческие предубеждения, могут привести к тому, что ИИ-модели будут принимать предвзятые и неэтичные решения. Постоянное выявление и устранение предвзятости / необъективности имеет критически-важное значение.
  
  
• Повышенные риски для персональных данных: Глубина знаний и представлений, выявленных ИИ на основе анализа закономерностей в данных усиливает, усиливает обеспокоенность в отношении неприкосновенности частной жизни и защищённости персональных данных. Даже если осуществляется анонимизация данных, такая мера способна обеспечить лишь ограниченную защиту от повторной идентификации.
  
  
• Исполнение законодательно-нормативных требований: Расширяющееся использование потребительских данных ИИ-приложениями требует всё большего внимания к исполнению требований таких законов о защите персональных данных, как GDPR, CCPA и т.д.
  
  
• Нехватка знаний и компетенций: Для стратегического управления ИИ требуется сочетание знаний, навыков и компетенций в области стратегического управления данными и информатики, наличие которых обеспечить достаточно сложно, что затрудняет надзор над ИИ-системами.

(Продолжение следует, см. http://rusrim.blogspot.com/2024/01/2_02077082389.html )

Чарльз Смарт (Charles Smart)

Источник: сайт компании Factspan
https://www.factspan.com/blogs/data-and-ai-governance-evolving-traditional-data-governance-in-the-age-of-artificial-intelligence/