Заинтересованные стороны, объяснимость и неотложность освоения ИИ-технологий: Почему затягивание с введением стратегического управления ИИ больше не вариант (1)

Точка зрения Энди Поттера и предварительный обзор его предстоящего доклада на конференции RIMPA в Мельбурне.

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 21 октября 2025 года в социальной сети Substack.

Искусственный интеллект (ИИ) и его широкое распространение – совсем не то явление, за которым можно просто пассивно наблюдать со стороны. Заинтересованные стороны из таких структур и служб, как высшее руководство, юридический отдел, архив, службы управления документами, исполнения законодательно-нормативных требований (комплайнса) и ИТ, должны активно влиять на то, каким образом ИИ выбирается, развёртывается, объясняется и проходит аудит. 

Работа технического подкомитета ИСО/МЭК JTC1/SC42 «Искусственный интеллект» - включая разработку технических спецификаций ISO/IEC TS 6254:2025 по объяснимости и интерпретируемости - предлагает прочную основу для такого вовлечения этих заинтересованных сторон. Выбор прост: проектировать уже сейчас с учётом необходимости обеспечения подотчётности, либо впоследствии проводить модернизации под давлением законодательно-нормативных требований и регуляторов.

Ставки: Документы, риски и последствия для реальных людей

Системы ИИ уже сейчас влияют на то, кто получает выгоду, какие документы создаются и уничтожаются, и как обосновываются (или не обосновываются) принимаемые решения. Мы в нашей сфере деятельности по стратегическому управлению документами и информацией уже сталкивалась с волнами автоматизации по принципу «черного ящика» - от непрозрачных указаний по срокам хранения до унаследованных систем управления графическими образами документов с загадочным поведением имеющихся в них метаданных. Приход ИИ повышает ставки: поведение ИИ-модели может меняться, входные данные могут быть искажены, а получаемые результаты могут сохранять и даже усиливать предвзятость в больших масштабах. Такие риски приводят к провалам в обеспечении подотчетности, к провалам при аудите и к репутационному ущербу - и, что самое главное, к реальным последствиям для людей.

От пассивного осознания к активному курированию

Сдвиг в оперативной работе, который нам необходим – это переход от осознания к способности использовать и курированию. Если Ваша роль как-то связана с информацией — например, включает работу с архивами и документами, обеспечение безопасности и защиту персональных данных, исполнение законодательно-нормативных требований, правовые вопросы — то Вы уже являетесь заинтересованной в плане ИИ. Это означает:

• Предугадывание применения (и возможного неправомерного использования) ИИ в деловых процессах и в управлении документами;
  
  
• Встраивание мер и средств контроля и управления, создающих надежные доказательства (включая захват сведений о происхождении («родословной») данных, управление версиями моделей, обоснование решений) и обеспечивающих их долговременную сохранность;
  
  
• Настаивание на объяснениях, соответствующих поставленной задаче: в расчёте на разработчиков – это задача отладки; на пользователей – задача обеспечения доверия; на регулирующие органы – задача подтверждения соответствия установленным требованиям; и на граждан – задача поддержания легитимности.

Почему деятельность подкомитета SC42 важна именно сейчас

Технический подкомитет ИСО/МЭК JTC1/SC42 координирует портфель международных стандартов в области ИИ. Для специалистов по управлению документами и стратегическому управлению информацией особенно актуальны три ключевых документа:

• Технические спецификации ISO/IEC TS 6254:2025 «Информационные технологии – Искусственный интеллект – Цели и методы обеспечения объяснимости и интерпретируемости моделей машинного обучения (МО) и систем искусственного интеллекта (ИИ)» (Information technology - Artificial intelligence - Objectives and approaches for explainability and interpretability of machine learning (ML) models and artificial intelligence (AI) systems), см. https://www.iso.org/standard/82148.html и https://www.iso.org/obp/ui/en/#!iso:std:82148:en (а также мой пост http://rusrim.blogspot.com/2025/10/isoiec-ts-62542025.html - Н.Х.).
  
  Это практичное руководство, объясняющее, почему объяснимость ИИ необходима, кому и какого рода объяснения нужны, и как выбирать подходы на протяжении всего жизненного цикла системы ИИ.
  
  
• Стандарт ISO/IEC 22989:2022 «Информационные технологии - Искусственный интеллект - Концепции и терминология искусственного интеллекта» (Information technology - Artificial intelligence - Artificial intelligence concepts and terminology, см. https://www.iso.org/standard/74296.html и https://www.iso.org/obp/ui/en/#iso:std:iso-iec:22989:ed-1:v1:en , а также мой пост https://rusrim.blogspot.com/2022/08/isoiec-229892022.html - Н.Х.). 
  
  Наличие общего языка снижает уровень «шума» в политиках и ускоряет обсуждение рисков.
  
  Мой комментарий: Стандарт адаптирован в России как ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022) «Искусственный интеллект. Концепции и терминология искусственного интеллекта», см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&id=263925 и мой пост http://rusrim.blogspot.com/2025/01/71476-2024.html 
  
  
• Стандарт ISO/IEC 42001:2023 «Информационные технологии – Искусственный интеллект - Система менеджмента» (Information technology - Artificial intelligence - Management system, см. https://www.iso.org/standard/81230.html и https://www.iso.org/obp/ui/en/#!iso:std:81230:en - а также мой пост https://rusrim.blogspot.com/2023/12/isoiec-420012023.html - Н.Х.). 
  
  Это концепция стратегического управления, которая заставляет организации операционализировать политику в виде процессов, ролей и постоянного совершенствования. 
  
  Мой комментарий: Данный стандарт в России адаптирован как ГОСТ Р ИСО/МЭК 42001-2024 «Искусственный интеллект. Система менеджмента», см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&id=263961 , а также мой пост https://rusrim.blogspot.com/2025/01/42001-2024.html 

В совокупности эти документы помогают нам перейти от высокоуровневых разговоров о «надёжном ИИ» к тиражируемой практике.

(Окончание следует)

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/stakeholders-explainability-and-the