Заинтересованные стороны, объяснимость и неотложность освоения ИИ-технологий: Почему затягивание с введением стратегического управления ИИ больше не вариант (2)

(Окончание, начало см. http://rusrim.blogspot.com/2025/10/1_01482196190.html )

Объяснимость – многогранное понятие (и в этом суть)

В ходе слишком многих дискуссий «объяснимость» либо противопоставляют «интерпретируемости», или смешивают оба эти понятия с «прозрачностью». Технические спецификации ISO/IEC TS 6254 устраняют этот шум, рассматривая объяснимость как контекстно-зависимую и целевую:

• Цель: Чего мы пытаемся достичь (отладка, обеспечение уверенности, доверие пользователей, соответствие законодательно-нормативным требованиям)?
  
  
• Целевая аудитория: Кому необходимо понимание (разработчикам, конечным пользователям, аудиторам, разработчикам политик, лицам, на которых влияет ИИ)?
  
  
• Целевой этап жизненного цикла: На каком этапе мы находимся (проектирование, обучение модели ИИ, валидация, развертывание, мониторинг, вывод из эксплуатации)?
  
  
• Подход: Какие методы являются подходящими (внутренние ограничения модели, объяснения постфактум, гипотетические альтернативы, атрибуция признаков, основанные на примерах суррогатные модели, документирование или доказательства, основанные на процессах)? 

Такой подход позволяет группам стратегического управления подобрать адекватное объяснение для конкретной цели, а не гоняться за мифическим «идеальным объяснением на все случаи жизни».

О чём я буду рассказывать 29 октября 2025 года на конференции RIMPA Live 2025 в Мельбурне

Мой комментарий: Речь идёт о ежегодном конгрессе RIMPA Live, проводимом Ассоциацией специалистов Австралазии по управлению документами и информацией (Records and Information Management Professionals Australasia, RIMPA, http://rimpa.com.au/ ). Информация о конгрессе 2025 года доступна здесь: https://www.rimpa.com.au/events/rimpa-live-2025.html 

Сессия: Связанная с ИИ эволюция стандартов управления информацией и документами (Developments in Information and Documentation Standards Around AI)

Место: «Палладиум» (The Palladium)

Время: 12:45–13:10 по восточному поясному времени Австралии; 04:45 по московскому времени

В своём докладе на конференции RIMPA Live а буду говорить о том, как сближаются стандарты по ИИЮ разрабатываемые представителями различных дисциплин – начиная от концепций стратегического управления подкомитета ИСО/МЭК JTC1/SC42 до требований к управлению документами и к аутентичности технического подкомитета ИСО TC46/SC11 и работе в подкомитете ИСО TC171/SC2 по теме обеспечения целостности документов и контента.

Основные выводы в моём докладе следующие:

• ИИ трансформирует стратегическое управление информацией - автоматизируя процессы, улучшая классификацию и влияя на то, как документы создаются, используются и хранятся.
  
  
• Вместе с возможностями приходят риски — в отсутствие надзора и контроля на основе стандартов могут быть скомпрометированы происхождение, аутентичность и подотчётность.
  
  
• Портфель стандартов подкомитета SC42 «Искусственный интеллект», включающий, в частности, такие документы, как ISO/IEC 42001 (системы менеджмента ИИ), ISO/IEC 23894 (менеджмент риска), ISO/IEC 42105 (надзор и контроль) и ISO/IEC TS 6254 (объяснимость), закладывает основу для заслуживающего доверие ИИ.
  
  
• Специалисты по управлению документами играют ключевую роль в интеграции этих элементов управления, обеспечивая, что результаты ИИ, журналы аудита и данные о принятии решений рассматриваются как документы, хранятся в стандартизированных форматах и сохраняются для целей обеспечения прозрачности и доверия.
  
  
• Новый проект стандарта ISO/NP TS 25280 «Управление документами и ИИ - Принципы и соображения» расширяют эти принципы, используя реальные примеры из практики Китая, Нидерландов, США, Новой Зеландии и Австралии.

Мой комментарий: Подробнее об этом проекте см. мой пост http://rusrim.blogspot.com/2025/05/isots-25280.html . На момент подготовки данного поста проект ещё не был официально зарегистрирован в ИСО.

В конечном счёте, в докладе подчёркивается ключевая истина: Стратегическое управление ИИ нельзя оставлять на откуп одним лишь специалистам по технологиям, оно требует того же дисциплинированного, основанного на доказательствах менталитета, который всегда отстаивали архивисты, специалисты по управлению документами и по стратегическому управлению информацией.

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/stakeholders-explainability-and-the