Два наиболее важных закона об искусственном интеллекте штата Калифорния, США, часть 1

Данный пост израильского специалиста Луизы Жаровски (Luiza Jarovsky – на фото) был опубликован на её блоге 15 октября 2025 года.

В конце сентября 2025 года Калифорния, где располагаются 32 из 50 крупнейших мировых компаний в области ИИ, стала первым штатом США, законодательно регламентирующим безопасность наиболее мощных моделей ИИ. Два дня назад (т.е. 13 октября 2025 года – Н.Х.) она стала первым штатом США, установившим требования к ИИ-помощников (AI companions).

Это не единственные законы Калифорнии об искусственном интеллекте (ИИ), однако именно эти два закона являются ключевыми нормативно-правовыми актами, регламентирующими проблемные вопросы - и, в конечном итоге, они могут задать тон нормативно-правовому регулированию ИИ в США и во всем мире. Всем следует знать о них.

В этом посте я расскажу об этих двух законах об ИИ, а также о некоторых открытых вопросах, проблемах и нерешённых пока «серых зонах».

Закон SB 53: Передовые модели ИИ

Начнём с закона SB 53 (см. https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB53 , ссылка на PDF-файл: https://leginfo.legislature.ca.gov/faces/billPdf.xhtml?bill_id=202520260SB53&version=20250SB5390CHP ). Данный закон, также известный как «Закон о прозрачности в области передового искусственного интеллекта» (Transparency in Frontier Artificial Intelligence Act – так называется новый раздел, который закон, помимо прочего, вводит в Кодекс деловой и профессиональной деятельности штата (Business and Professions Code) – Н.Х.), был принят 29 сентября 2025 года и распространяется на крупных разработчиков передовых технологий (large frontier developers). Он вступает в силу 1 января 2026 года.

Закон охватывает следующие основные вопросы:

• Прозрачность: Закон обязывает крупных разработчиков передовых технологий выкладывать на своих веб-сайтах в публичном доступе концепцию, описывающую, каким образом компания внедрила национальные стандарты, международные стандарты и передовые практики, по которым достигнут отраслевой консенсус, в свою концептуальную структуру передового ИИ.
  
  
• Инновации: Закон учреждает новый консорциум в рамках Агентства государственных операций (Government Operations Agency) для разработки концептуальной структуры создания государственного вычислительного кластера.
  
  
• Безопасность: Закон создаёт новый механизм, позволяющий передовым ИИ-компаниям и общественности сообщать о потенциальных критических инцидентах безопасности в Управление по чрезвычайным ситуациям Калифорнии (California’s Office of Emergency Services).
  
  
• Подотчетность: Закон защищает информаторов (whistleblowers), раскрывающих существенные риски для здоровья и безопасности, связанные с передовыми моделями ИИ, и устанавливает гражданско-правовые санкции за неисполнение требований, которые могут быть применены Генеральной прокуратурой.
  
  
• Оперативность реагирования: Закон обязывает Министерство технологий Калифорнии (California Department of Technology) ежегодно рекомендовать соответствующие обновления закона, опирающиеся на мнения заинтересованных сторон, развитие технологий и на международные стандарты.

С глобальной точки зрения, пересечение требований закона SB 53 с Законом Евросоюза об искусственном интеллекте (EU AI Act) заставляет специалистов по стратегическому управлению искусственным интеллектом решать интересную головоломку по обеспечению соответствия требованиям, поскольку многие компании будут подпадать под действие обоих законов.

Например, при описании сферы применения в Законе Евросоюза об ИИ используется термин «универсальная модель ИИ» (general-purpose AI model), который определяется следующим образом (ст.3 п.63):

«Универсальная модель ИИ (general-purpose AI model) - модель ИИ (в том числе в случае, когда модель ИИ обучается на большом объеме данных с использованием масштабируемого самоконтроля (self-supervision)), демонстрирующая значительную общность и способная компетентно выполнять широкий спектр различных задач, независимо от способа вывода модели на рынок, - и которая может быть интегрирована в разнообразные системы или приложения «вниз по потоку», -за исключением моделей ИИ, используемых для исследований, разработок или создания прототипов до их вывода на рынок».

Универсальные модели ИИ могут быть классифицированы как представляющие системный риск в соответствии с установленными законом критериями.

Калифорнийский закон SB 53, со своей стороны, использует термин «базовая модель» (foundation model), который определяется следующим образом:

«Базовая модель (foundation model) - модель ИИ, которая обладает всеми следующими характеристиками:

• Обучена на наборе данных, охватывающем широкий круг вопросов,
  
  
• Разработана в расчёте на получение универсальных результатов,
  
  
• Способна адаптироваться к широкому спектру различных задач».

Также введен термин «передовая модель» (frontier model), которая определяется так:

«Передовая модель» (frontier model) - базовая модель, обученная с использованием вычислительной мощности, превышающей 10 в 26-й степени целочисленных операций или операций с плавающей запятой».

Эти определения перекрываются, но не совпадают.

Еврокомиссия опубликовала «Руководство по объему обязательств поставщиков универсальных моделей ИИ в соответствии с Законом об ИИ» (Guidelines on the scope of obligations for providers of general-purpose AI models under the AI Act, https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act , прямая ссылка на PDF-файл: https://ec.europa.eu/newsroom/dae/redirection/document/118340 ), в котором дано более четкое определение того, какие модели ИИ считаются «универсальными».

Властям Калифорнии также следует опубликовать более техническое руководство, разъясняющее, модели будут классифицироваться как «базовые», особенно с учётом продолжающегося развития в данной области.

(Окончание следует, см. https://rusrim.blogspot.com/2025/11/2.html )

Луиза Жаровски (Luiza Jarovsky)

Источник: блог Luiza’s Newsletter
https://www.luizasnewsletter.com/p/californias-two-most-important-ai 

США: Конференция Седона опубликовала «Комментарий о раскрытии данных на мобильных устройствах»

21 октября 2025 года сайт и новостная рассылка «Конференции Седона» (Sedona Conference ®) – очень авторитетного американского некоммерческого правового идейного центра, в основном занимающегося вопросами раскрытия в ходе судебных разбирательств и расследований сохраняемой в электронном виде информации (э-раскрытия), - сообщили о публикации «Комментария Конференции Седона о раскрытии данных на мобильных устройствах» (The Sedona Conference Commentary on Discovery of Mobile Device Data).

Документ объёмом 63 страницы можно скачать здесь: https://www.thesedonaconference.org/publication/Commentary_on_Discovery_of_Mobile_Device_Data 

В новости сообщается:

«Конференция Седона и её рабочая группа WG1 по хранению и представлению электронных документов (Electronic Document Retention and Production) рады сообщить о публикации «Комментария Конференции Седона о раскрытии данных на мобильных устройствах» (The Sedona Conference Commentary on Discovery of Mobile Device Data).

Настоящий Комментарий содержит как юридические, так и практические рекомендации для сторон, юристов и судов по соответствующим стандартам и факторам, влияющим на э-раскрытие данных на мобильных устройствах, а также освещает эволюционирующие технические аспекты, связанные с этим типом данных. В этой связи Комментарий содержит рекомендации по сбору, сохранению, обработке, обработке, поиску, анализу и предоставлению данных на мобильных устройствах. 

Каждая ситуация уникальна, и ничто в настоящем Комментарии не должно толковаться как одобрение какого-либо одного-единственного метода выполнения обязательств стороны по раскрытию информации в отношении данных на мобильных устройствах. Аналогичным образом, поскольку технологии мобильных устройств быстро эволюционируют, то настоящий Комментарий содержит рекомендации, применимые к данным мобильных устройств в общем случае, а не к какой-либо конкретной марке, модели или операционной системе мобильного устройства.

Наконец, в соответствии с основными принципами, лежащими в основе деятельности Конференции Седона, настоящий Комментарий поощряет сотрудничество между сторонами и их юридическими консультантами на каждом этапе процесса раскрытия информации.»

Содержание «Комментария» следующее:

Предисловие
I. Введение
II. Что такое мобильное устройство, и какие данные могут храниться на мобильном устройстве либо могут быть доступны с мобильного устройства
III. Сфера охвата процесса э-раскрытия информации в отношении данных на мобильном устройстве
IV. Рекомендации по выявлению соответствующих источников данных на мобильных устройствах
V. Рекомендации по определению того, как исполнять обязательств по обеспечению сохранности данных на мобильных устройствах
VI. Рекомендации по факторам, которые стороны и суды должны учитывать при сборе данных на мобильных устройствах для судебных разбирательств
VII. Рекомендации по выбору подходящей методологии поиска данных на мобильных устройствах
VIII. Рекомендации по определению формата представления данных на мобильных устройствах
IX. Влияние соображений стратегического управления информацией на управление данными на мобильных устройствах

Источник: сайт Конференции Седона
https://www.thesedonaconference.org/publication/Commentary_on_Discovery_of_Mobile_Device_Data

И почему же мы постоянно пытаемся взвалить на всех и каждого обязанности по управлению документами?

Данный пост австралийского специалиста в области управления документами и информацией Карла Мелроуза (Karl Melrose – на фото) был опубликован 17 сентября 2025 года на его блоге Meta-IRM (Мета-управление информацией и документами).

И почему же мы постоянно пытаемся взвалить на всех и каждого обязанности по управлению документами? Результаты, к которым это приводит, ужасны – такой подход просто не работает.

Возможно, подобное решение было разумным в те времена, когда существовали одно-единственное место для хранения документов и функциональная структура, которую пользователь не мог настраивать. Сейчас, однако, наша оперативная деятельность ведётся в совсем иных условиях. В настоящее время контекст (условия) оперативной деятельности характеризуются гибкостью информационных систем и огромным выбором мест хранения данных.

Сейчас нам не нужно, чтобы каждый сотрудник брал на себя ответственность. Нам нужно, чтобы конкретные специалисты регламентировали деловые процессы в плане того, где и как будут храниться документы, - и это было бы неотъемлемой частью регламентации каждого бизнес-процесса.

Организации не пытаются стать успешными успеху, заставляя для этого каждого своего сотрудника определять свой собственный процесс выполнения своей работы. Если бы мы оценивали зрелость организации, работающей подобным образом, мы бы сочли её процессы неуправляемыми, а всю её деятельность осуществляемой спонтанно и в каждом отдельном случае по-своему.

Управление важными вещами никогда не осуществляется посредством полностью спонтанных, не имеющих определённого владельца процессов. Всё важное поручается конкретным специалистам, которые несут ответственность за планирование, организацию, руководство и контроль над соответствующей деятельностью.

Звучит очень похоже на работу как раз для нас [специалистов по управлению документами – Н.Х.]. Загвоздка здесь в том, что в важных делах ответственные за эти вопросы люди также могут привлекать к ответственности других сотрудников – именно поэтому это не может быть нашей работой, и по этой же причина данная работа на может возлагаться на всех и каждого.

Карл Мелроуз (Karl Melrose)

Источник: блог Meta-IRM 
https://metairm.substack.com/p/why-do-we-keep-trying-to-make-records 

Анализ применения на практике стандартов обеспечения электронной сохранности

Специальный семинар на предстоящей 21-й Международной конференции по обеспечению долговременной сохранности электронных объектов iPRES 

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 21 октября 2025 года в социальной сети Substack.

Когда речь заходит об обеспечении долговременной сохранности электронной материалов (электронной сохранности - digital preservation), то здесь имеется солидная теоретическая основа. У нас есть свои ориентиры – это стандарты OAIS (ISO 14721), ISO 16363, PREMIS, а также расширяющаяся экосистема руководств, определяющих, как должно выглядеть надёжное и жизнеспособное курирование цифровых ресурсов. В повседневной практике, однако, путь от этих элегантных диаграмм к их реальному внедрению часто оказывается извилистым, страдающим от ограниченности ресурсов и порой обескураживающим.

На рис: Множество больших вопросов на маленьких стикерах…

Именно это противоречие — между принципами и практикой — мы будем обсуждать на моей предстоящей сессии «От принципов к практике: Круглый стол по внедрению и совершенствованию стандартов электронной сохранности» (From Principle to Practice: A Roundtable on Implementing and Improving Digital Preservation Standards), которая пройдёт во 4 ноября 2025 года на конференции iPRES 2025 в Веллингтоне.

Это будет не лекция, а интерактивный семинар - мозговой штурм с помощью стикеров, совместно переживаемые разочарования и проблески озарений. Мы будем разбираться, почему после двух десятилетий работы над стандартами их внедрение все ещё остаётся ускользающей целью для многих учреждений, и каким образом мы могли бы изменить сами стандарты, сделав их более гибкими, понятными и достижимыми.

Почему это важно

Для архивов, библиотек и научно-исследовательских учреждений по всему миру проблема заключается уже не в том, чтобы убедить руководство в важности электронной сохранности, - а в том, чтобы практически реализовать обеспечение электронной сохранности, дав ответ на вопрос «как». Стандарты выполняют для нас роль строительных лесов, но их интерпретация и масштабирование сильно различаются. Цель этой сессии – привлечь внимание к живому опыту: к импровизациям, делающим теорию работоспособной; к обходным путям решения проблем, «намекающим» на то, какие именно изменения нужны; и к вопросу о единой терминологии, которая поможет нам двигаться вперёд.

Форум, у которого есть цель

Данный круглый стол также напрямую связан с деятельностью Целевой группы по электронной сохранности (Ad Hoc Group on Digital Preservation) технического подкомитета ИСО TC46/SC11 «Управление документами», которая изучает степень актуальности и применимости наших основных стандартов в свете новых реалий - зависимости от облачных технологий, курирования с помощью ИИ, распределенных моделей доверия и задачи обеспечения устойчивого развития. Полученная в Веллингтоне обратная связь поможет сформировать эту дискуссию в международном масштабе.

Три темы

• Путь — Отслеживание того, как стандарты электронной сохранности из концептуальных моделей превращаются в реализуемые организацией процедуры;
  
  
• Препятствия — Выявление сохраняющихся барьеров, связанных с масштабами, финансированием, наличием экспертных знаний и со сложностью.
  
  
• Налаживание связей — Создание взаимосвязей между специалистами-практиками, разработчиками политик и разработчиками стандартов для честного обмена мнениями о том, какие подходы действительно работают.

Почему я с нетерпением жду этого семинара

Как человек, потративший годы как на написание стандартов, так и на попытки их внедрения, я понял, что наибольший прогресс достигается на таких форумах, где люди делятся своим опытом, а не только обсуждают теорию. Моменты озарения часто возникают не при чтении политик, а глядя на стикеры на стене.

Если Вы собираетесь посетить конференцию iPRES 2025, то, надеюсь, Вы присоединитесь к данному обсуждению в Веллингтоне. Вместе мы сможем преобразовать наш коллективный опыт в нечто, что укрепит как практику, так и принципы, - и обеспечит столь же быструю эволюцию наших стандартов, как и перемены в мире, память и знания которого мы сохраняем.

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/sticky-notes-big-questions-exploring 

Новое законодательство Китая о прозрачности ИИ устанавливает планку для остальных стран

Данная заметка ветерана ВМФ, аспиранта Университет Крэнфилда (Cranfield University) по специальности «военная инженерия» британца Питера Спейна (Peter Spayne – на фото), была опубликована 9 сентября 2025 года на сайте социальной сети LinkedIn.

1 сентября 2025 года Китай опубликовал нормативный документ «Меры по выявлению синтетического контента, сгенерированного искусственным интеллектом» (互联网信息服务深度合成管理规定), см. https://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm 

Мой комментарий: Данный документ был выпущен Администрация киберпространства Китая (国家互联网信息办公室), и вступил в силу 10 января 2023 года. Основное внимание в нём уделяется выявлению контента, созданного с использованием технологий глубокого синтеза (включая сгенерированный ИИ текст, изображения, аудио и видео), и управлению таким контентом с целью обеспечения безопасности и прозрачности информационных услуг, оказываемых через Интернет.

Это удивительно подробный и требовательный нормативный документ, который устанавливает новый мировой стандарт прозрачности ИИ. Пока многие страны мира продолжают спорить о том, как лучше всего организовать стратегическое управления результатами работы инструментов генеративного ИИ, Китай продвинулся вперёд, приняв акт, который в нескольких ключевых вопросах является более строгим и детализированным в зависимости от контекста, чем Закон Евросоюза об искусственном интеллекте.

По сути, данный нормативный документ требует, чтобы весь контент, созданный с помощью ИИ, был чётко маркирован с помощью видимых, контекстно-зависимых маркеров, встроенных непосредственно в пользовательский интерфейс.

К таким маркерам относятся:

• Текстовые подсказки в начале текстового контента;
  
  
• Звуковые или голосовые подсказки, встроенные в аудиозаписи;
  
  
• Видимые на экране предупреждающие знаки в видеозаписях и изображениях;
  
  
• Индикаторы виртуальной среды, показывающие, когда пользователь находится в сцене, сформированной с помощью ИИ; и
  
  
• Постоянные идентификаторы, встроенные в любой скачиваемый или экспортируемый контент.

Это не расплывчатое, основанное на принципах законодательство, а очень конкретные обязательные требования, с подробными указаниями о том, как платформы должны их исполнять. Магазины интернет-приложений в Китае теперь обязаны проверять, предлагают ли продаваемые ими приложения возможности генеративного ИИ, и соответствуют ли они в таком случае правилам маркировки контента. Поставщики услуг обязаны раскрывать подобные практики в пользовательских соглашениях, а платформы должны разрабатывать свои интерфейсы таким образом, чтобы пользователи видели и понимали предупреждения.

Сравните это с Законом Евросоюза об искусственном интеллекте (ИИ), который тоже требует раскрытия синтетического контента, однако допускает широкую интерпретацию того, как и где это должно быть сделано. Законодательство Китая решительно устраняет этот пробел. Такой подход - признание того, что в мире высокотехнологических фальшивок-дипфейков, синтетических «лидеров мнений» и генерируемых ИИ новостей, прозрачность должна быть и наглядной, и практически осуществимой.

Законодательство Китая демонстрирует модель централизованного стратегического управления в цифровой среде, которое недвусмысленно и может динамично изменяться. Правоприменение поддерживается Администрацией киберпространства Китая (国家互联网信息办公室 - Cyberspace Administration of China, CAC), а такие платформы, как WeChat, Douyin и другие уже начали принимать меры по обеспечению соответствия требованиям, встраивая идентификаторы ИИ в свои интерфейсы и внутренние системы.

Существуют, конечно же, геополитические и этические оговорки. Критики отмечают, что та же инфраструктура, которая используется для обеспечения прозрачности, может быть использована для слежки и цензуры (как, например, показывает практика Великобритании – Н.Х.). Но даже с учётом этих рисков, техническая продуманность и ясность китайского подхода подчёркивают одну неприятную для западных политиков истину: неопределённость выгодна недобросовестным игрокам. Без конкретных правил, поддерживаемых мерами, заставляющими эти правила исполнять, компании найдут способы соблюдать требования законодательства формально, но не по существу.

Урок для Запада

Другим юрисдикциям стоит взять этот опыт на заметку. Если законодательство о прозрачности слишком нечёткое, то оно создаёт лазейки, которыми легко воспользоваться. И необходима многоуровневая прозрачность: видимые человеку сигналы и подсказки, подкреплённые встроенными техническими идентификаторами, наличие которых обеспечивается самими платформами.

Китай, возможно, и не является тем образцом для подражания, которого хотел бы Запад, но в этом вопросе он, возможно, уже показал Западу необходимый тому пример.

Питер Спейн (Peter Spayne)

Источник: сайт LinkedIn
https://www.linkedin.com/pulse/chinas-new-ai-transparency-law-just-set-global-peter-vx2ge/ 

Выступление Натальи Мошковой на Первой тематической конференции по актуальным вопросам документоведения ПАО «Транснефть»

21-22 августа 2025 года прошла Первая тематическая конференция по актуальным вопросам документоведения ПАО «Транснефть», которая собрала более 70 представителей со всей страны и отраслевых экспертов. 

По приглашению организаторов ответственный секретарь технического подкомитета по стандартизации ПК6 «Жизненный цикл электронного документооборота» технического комитета ТК 459 «Информационная поддержка жизненного цикла изделий», ведущий эксперт по проектной деятельности компании «ЭОС» Наталья Александровна Мошкова выступила с докладом «Стандарты в области архивного дела и управления документами».

В своём докладе Наталья Александровна рассказала о стандартах в сфере управления документами и архивного дела, об их разработке и применении, а также о деятельности подкомитета ПК6». Она обратила внимание на то, что только в этом году были утверждены два стандарта, разработанные ПК6:  

• ГОСТ Р 24143-2025 «Информация и документация. Стратегическое управление информацией. Концепция и принципы» (о нём см. мой пост http://rusrim.blogspot.com/2025/08/24143-2025.html ), и 
  
  
• ГОСТ Р 13008-2025 «Процессы конверсии и миграции электронных документов» (о нём см. мой пост http://rusrim.blogspot.com/2025/07/13008-2025.html ). 

Видеозапись доклада выложена по адресу: https://rutube.ru/video/780bd08acadbd28214982324f776855d/ 

Источник: Rutube
https://rutube.ru/video/780bd08acadbd28214982324f776855d/ 

Начал работу Конгресс Международного совета архивов в Барселоне

28 октября 2025 года был первый по-настоящему рабочий день Конгресса, когда прошли, в том числе, пленарные доклады.

 

Ниже приведены фотографии, сделанные испанским коллегой, сотрудником Азиатского банка развития и вице-президентом Международного совета архивов (МСА) Густавом Кастаньером (Gustau Castañer) и выложенные в Твиттере и социальной сети LinkedIn.

Фотографии были сделаны на сессии «Новые профессионалы», проведенной под председательством Николя Лоран (Nicola Laurent) и Лауры Иоаны Луки (Laura Ioana Luca). В кадр попал доклад «Сложно, но абсолютно необходимо: Опыт архивистов в переосмыслении архивной практики» (Challenging, but absolutely necessary: Archivists' Experiences in Rethinking Archival Practices).

Если присмотреться, то по мнению «молодых профессионалов» (а их считают будущей элитой профессии), главными причинами пересмотра архивных практик являются ограниченные ресурсы, изменение климата (!), рост внимания к архивированию силами сообществ и представительству этих сообществ в архивных фондах, «растущее признание того, что архивная объективность является мифом», и – пусть и на самом последнем месте – изменение технологий. Изменениям в обществе, государственном управлении, праве и деловой деятельности в этом списке места, увы, не нашлось …

Источники: сайт LinkedIn / бывш. Твиттер
https://www.linkedin.com/posts/gustau-casta%C3%B1er-b713938_archival-newprofessionals-icabarcelona2025-activity-7388858959165595648-utkR 
https://x.com/ICABcn2025 
 

Заинтересованные стороны, объяснимость и неотложность освоения ИИ-технологий: Почему затягивание с введением стратегического управления ИИ больше не вариант (2)

(Окончание, начало см. http://rusrim.blogspot.com/2025/10/1_01482196190.html )

Объяснимость – многогранное понятие (и в этом суть)

В ходе слишком многих дискуссий «объяснимость» либо противопоставляют «интерпретируемости», или смешивают оба эти понятия с «прозрачностью». Технические спецификации ISO/IEC TS 6254 устраняют этот шум, рассматривая объяснимость как контекстно-зависимую и целевую:

• Цель: Чего мы пытаемся достичь (отладка, обеспечение уверенности, доверие пользователей, соответствие законодательно-нормативным требованиям)?
  
  
• Целевая аудитория: Кому необходимо понимание (разработчикам, конечным пользователям, аудиторам, разработчикам политик, лицам, на которых влияет ИИ)?
  
  
• Целевой этап жизненного цикла: На каком этапе мы находимся (проектирование, обучение модели ИИ, валидация, развертывание, мониторинг, вывод из эксплуатации)?
  
  
• Подход: Какие методы являются подходящими (внутренние ограничения модели, объяснения постфактум, гипотетические альтернативы, атрибуция признаков, основанные на примерах суррогатные модели, документирование или доказательства, основанные на процессах)? 

Такой подход позволяет группам стратегического управления подобрать адекватное объяснение для конкретной цели, а не гоняться за мифическим «идеальным объяснением на все случаи жизни».

О чём я буду рассказывать 29 октября 2025 года на конференции RIMPA Live 2025 в Мельбурне

Мой комментарий: Речь идёт о ежегодном конгрессе RIMPA Live, проводимом Ассоциацией специалистов Австралазии по управлению документами и информацией (Records and Information Management Professionals Australasia, RIMPA, http://rimpa.com.au/ ). Информация о конгрессе 2025 года доступна здесь: https://www.rimpa.com.au/events/rimpa-live-2025.html 

Сессия: Связанная с ИИ эволюция стандартов управления информацией и документами (Developments in Information and Documentation Standards Around AI)

Место: «Палладиум» (The Palladium)

Время: 12:45–13:10 по восточному поясному времени Австралии; 04:45 по московскому времени

В своём докладе на конференции RIMPA Live а буду говорить о том, как сближаются стандарты по ИИЮ разрабатываемые представителями различных дисциплин – начиная от концепций стратегического управления подкомитета ИСО/МЭК JTC1/SC42 до требований к управлению документами и к аутентичности технического подкомитета ИСО TC46/SC11 и работе в подкомитете ИСО TC171/SC2 по теме обеспечения целостности документов и контента.

Основные выводы в моём докладе следующие:

• ИИ трансформирует стратегическое управление информацией - автоматизируя процессы, улучшая классификацию и влияя на то, как документы создаются, используются и хранятся.
  
  
• Вместе с возможностями приходят риски — в отсутствие надзора и контроля на основе стандартов могут быть скомпрометированы происхождение, аутентичность и подотчётность.
  
  
• Портфель стандартов подкомитета SC42 «Искусственный интеллект», включающий, в частности, такие документы, как ISO/IEC 42001 (системы менеджмента ИИ), ISO/IEC 23894 (менеджмент риска), ISO/IEC 42105 (надзор и контроль) и ISO/IEC TS 6254 (объяснимость), закладывает основу для заслуживающего доверие ИИ.
  
  
• Специалисты по управлению документами играют ключевую роль в интеграции этих элементов управления, обеспечивая, что результаты ИИ, журналы аудита и данные о принятии решений рассматриваются как документы, хранятся в стандартизированных форматах и сохраняются для целей обеспечения прозрачности и доверия.
  
  
• Новый проект стандарта ISO/NP TS 25280 «Управление документами и ИИ - Принципы и соображения» расширяют эти принципы, используя реальные примеры из практики Китая, Нидерландов, США, Новой Зеландии и Австралии.

Мой комментарий: Подробнее об этом проекте см. мой пост http://rusrim.blogspot.com/2025/05/isots-25280.html . На момент подготовки данного поста проект ещё не был официально зарегистрирован в ИСО.

В конечном счёте, в докладе подчёркивается ключевая истина: Стратегическое управление ИИ нельзя оставлять на откуп одним лишь специалистам по технологиям, оно требует того же дисциплинированного, основанного на доказательствах менталитета, который всегда отстаивали архивисты, специалисты по управлению документами и по стратегическому управлению информацией.

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/stakeholders-explainability-and-the 

Изменена форма ежегодной отчётности некоммерческих организаций

Федеральный закон от 31 июля 2025 года №313-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации» внёс изменения в следующие законы, предусматривающие предоставления отчетов о своей деятельности в электронном виде.:

• Федеральный закон от 19 мая 1995 года №82-ФЗ «Об общественных объединениях», ст. 29; - Отчет о своей деятельности, о персональном составе высшего органа управления (в отношении унитарных и благотворительных организаций), иных органов и работников, об источниках, объемах формирования, о целях и об объемах использования денежных средств и иного имущества, в том числе полученных от иностранных источников; 
  
  
• Федеральный закон от 11 августа 1995 года №135-ФЗ «О благотворительной деятельности и добровольчестве (волонтёрстве)» - Отчет о своей деятельности, о персональном составе высшего органа управления (в отношении унитарных и благотворительных организаций), иных органов и работников, об источниках, объемах формирования, о целях и об объемах использования денежных средств и иного имущества, в том числе полученных от иностранных источников, а также сведения об использовании собранных благотворительных пожертвований;
  
  
• Федеральный закон от 12 января 1996 года №7-ФЗ «О некоммерческих организациях» - Отчет о своей деятельности, о персональном составе высшего органа управления (в отношении унитарных и благотворительных организаций), иных органов и работников, об источниках, объемах формирования, о целях и об объемах использования денежных средств и иного имущества, в том числе полученных от иностранных источников;
  
  
• Федеральный закон от 5 декабря 2005 года №154-ФЗ «О государственной службе российского казачества» - - Отчет о своей деятельности, о персональном составе высшего органа управления (в отношении унитарных и благотворительных организаций), иных органов и работников, об источниках, объемах формирования, о целях и об объемах использования денежных средств и иного имущества, в том числе полученных от иностранных источников сведения об общей численности членов казачьего общества, о фиксированной численности его членов, в установленном порядке принявших на себя обязательства по несению государственной или иной службы.

В пояснительной записке к законопроекту отмечалось, что в настоящее время некоммерческие организации представляют отчетность в Минюст России и в Росстат.

«В целях упрощения отчетности благотворительных, добровольческих (волонтерских) и социально ориентированных некоммерческих организаций, в том числе на основе автоматизации процессов ее представления, в настоящее время ведется работа по унификации отчетности некоммерческих организаций и оптимизации порядка ее представления путем разработки единой формы отчета некоммерческой организации (далее - единая форма) и специализированной информационной площадки для ее размещения (далее - информационный ресурс)».

Представлять единую форму некоммерческие организации будут в Минюст России в электронном виде путем размещения на информационном ресурсе, что, по мнению авторов законопроекта, исключит необходимость представления отдельного отчета в Росстат и снизит административную нагрузку на них. Необходимые Росстату сведения будут предоставлены в рамках межведомственного взаимодействия.

Федеральный закон от 19 мая 1995 года №82-ФЗ «Об общественных объединениях» 

Статья 29. Обязанности общественного объединения

Общественное объединение обязано:

- ежегодно в форме электронного документа представлять в федеральный орган государственной регистрации отчет …

… отчет размещается на официальном сайте федерального органа государственной регистрации в информационно-телекоммуникационной сети «Интернет». Порядок размещения указанного отчёта и объем сведений, подлежащих размещению, утверждаются федеральным органом государственной регистрации.

Федеральный закон вступил в силу с 1 сентября 2025 года.

Источник: Консультант Плюс
https://www.consultant.ru/cons/cgi/online.cgi?req=doc;base=LAW;n=511125
https://www.consultant.ru/cons/cgi/online.cgi?req=doc;base=PRJ;n=258086

Заинтересованные стороны, объяснимость и неотложность освоения ИИ-технологий: Почему затягивание с введением стратегического управления ИИ больше не вариант (1)

Точка зрения Энди Поттера и предварительный обзор его предстоящего доклада на конференции RIMPA в Мельбурне.

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 21 октября 2025 года в социальной сети Substack.

Искусственный интеллект (ИИ) и его широкое распространение – совсем не то явление, за которым можно просто пассивно наблюдать со стороны. Заинтересованные стороны из таких структур и служб, как высшее руководство, юридический отдел, архив, службы управления документами, исполнения законодательно-нормативных требований (комплайнса) и ИТ, должны активно влиять на то, каким образом ИИ выбирается, развёртывается, объясняется и проходит аудит. 

Работа технического подкомитета ИСО/МЭК JTC1/SC42 «Искусственный интеллект» - включая разработку технических спецификаций ISO/IEC TS 6254:2025 по объяснимости и интерпретируемости - предлагает прочную основу для такого вовлечения этих заинтересованных сторон. Выбор прост: проектировать уже сейчас с учётом необходимости обеспечения подотчётности, либо впоследствии проводить модернизации под давлением законодательно-нормативных требований и регуляторов.

Ставки: Документы, риски и последствия для реальных людей

Системы ИИ уже сейчас влияют на то, кто получает выгоду, какие документы создаются и уничтожаются, и как обосновываются (или не обосновываются) принимаемые решения. Мы в нашей сфере деятельности по стратегическому управлению документами и информацией уже сталкивалась с волнами автоматизации по принципу «черного ящика» - от непрозрачных указаний по срокам хранения до унаследованных систем управления графическими образами документов с загадочным поведением имеющихся в них метаданных. Приход ИИ повышает ставки: поведение ИИ-модели может меняться, входные данные могут быть искажены, а получаемые результаты могут сохранять и даже усиливать предвзятость в больших масштабах. Такие риски приводят к провалам в обеспечении подотчетности, к провалам при аудите и к репутационному ущербу - и, что самое главное, к реальным последствиям для людей.

От пассивного осознания к активному курированию

Сдвиг в оперативной работе, который нам необходим – это переход от осознания к способности использовать и курированию. Если Ваша роль как-то связана с информацией — например, включает работу с архивами и документами, обеспечение безопасности и защиту персональных данных, исполнение законодательно-нормативных требований, правовые вопросы — то Вы уже являетесь заинтересованной в плане ИИ. Это означает:

• Предугадывание применения (и возможного неправомерного использования) ИИ в деловых процессах и в управлении документами;
  
  
• Встраивание мер и средств контроля и управления, создающих надежные доказательства (включая захват сведений о происхождении («родословной») данных, управление версиями моделей, обоснование решений) и обеспечивающих их долговременную сохранность;
  
  
• Настаивание на объяснениях, соответствующих поставленной задаче: в расчёте на разработчиков – это задача отладки; на пользователей – задача обеспечения доверия; на регулирующие органы – задача подтверждения соответствия установленным требованиям; и на граждан – задача поддержания легитимности.

Почему деятельность подкомитета SC42 важна именно сейчас

Технический подкомитет ИСО/МЭК JTC1/SC42 координирует портфель международных стандартов в области ИИ. Для специалистов по управлению документами и стратегическому управлению информацией особенно актуальны три ключевых документа:

• Технические спецификации ISO/IEC TS 6254:2025 «Информационные технологии – Искусственный интеллект – Цели и методы обеспечения объяснимости и интерпретируемости моделей машинного обучения (МО) и систем искусственного интеллекта (ИИ)» (Information technology - Artificial intelligence - Objectives and approaches for explainability and interpretability of machine learning (ML) models and artificial intelligence (AI) systems), см. https://www.iso.org/standard/82148.html и https://www.iso.org/obp/ui/en/#!iso:std:82148:en (а также мой пост http://rusrim.blogspot.com/2025/10/isoiec-ts-62542025.html - Н.Х.).
  
  Это практичное руководство, объясняющее, почему объяснимость ИИ необходима, кому и какого рода объяснения нужны, и как выбирать подходы на протяжении всего жизненного цикла системы ИИ.
  
  
• Стандарт ISO/IEC 22989:2022 «Информационные технологии - Искусственный интеллект - Концепции и терминология искусственного интеллекта» (Information technology - Artificial intelligence - Artificial intelligence concepts and terminology, см. https://www.iso.org/standard/74296.html и https://www.iso.org/obp/ui/en/#iso:std:iso-iec:22989:ed-1:v1:en , а также мой пост https://rusrim.blogspot.com/2022/08/isoiec-229892022.html - Н.Х.). 
  
  Наличие общего языка снижает уровень «шума» в политиках и ускоряет обсуждение рисков.
  
  Мой комментарий: Стандарт адаптирован в России как ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022) «Искусственный интеллект. Концепции и терминология искусственного интеллекта», см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&id=263925 и мой пост http://rusrim.blogspot.com/2025/01/71476-2024.html 
  
  
• Стандарт ISO/IEC 42001:2023 «Информационные технологии – Искусственный интеллект - Система менеджмента» (Information technology - Artificial intelligence - Management system, см. https://www.iso.org/standard/81230.html и https://www.iso.org/obp/ui/en/#!iso:std:81230:en - а также мой пост https://rusrim.blogspot.com/2023/12/isoiec-420012023.html - Н.Х.). 
  
  Это концепция стратегического управления, которая заставляет организации операционализировать политику в виде процессов, ролей и постоянного совершенствования. 
  
  Мой комментарий: Данный стандарт в России адаптирован как ГОСТ Р ИСО/МЭК 42001-2024 «Искусственный интеллект. Система менеджмента», см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&id=263961 , а также мой пост https://rusrim.blogspot.com/2025/01/42001-2024.html 

В совокупности эти документы помогают нам перейти от высокоуровневых разговоров о «надёжном ИИ» к тиражируемой практике.

(Окончание следует, см. http://rusrim.blogspot.com/2025/10/2_0956175388.html )

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/stakeholders-explainability-and-the 

Моё выступление на Первой тематической конференции по актуальным вопросам документоведения ПАО «Транснефть»

21-22 августа 2025 года прошла Первая тематическая конференция по актуальным вопросам документоведения ПАО «Транснефть», которая собрала более 70 представителей со всей страны и отраслевых экспертов. 

По приглашению организаторов я выступила с докладом «Воздействие искусственного интеллекта и других трансформационных технологий на делопроизводство и архивное дело».

В организациях, которые занимаются реальным бизнесом (таких, как «Транснефть»), вопросы управления документацией и информацией приобретают особое значение, которое связано с обеспечением нормальной деловой деятельности в стратегических отраслях и критически важной инфраструктуре. В докладе был дан краткий обзор технологий и инструментов с элементами ИИ (как широко используемых и находящихся на стадии внедрения, так и пилотных, ожидаемых к внедрению в ближайшие годы).

ИИ вместе с другими революционными технологиями может заставить нас пересмотреть многие аспекты деловой деятельности и повседневной работы. Но не нужно бояться широкого распространения ИИ, не следует его игнорировать либо создавать препятствия. Сейчас специалистам по управлению документами и информацией важно определить своё место в этом процессе, и, прежде всего, необходимо способствовать юридически защитимому применению ИИ.

Видеозапись доклада выложена по адресу: https://rutube.ru/video/48152a737ca6a39c97689bd4bd61d7e9/ 

Презентация к докладу доступна по адресу: https://disk.yandex.ru/i/wplTN-Lw8izNIg 

Источник: Yandex Disk / Rutube
https://disk.yandex.ru/i/wplTN-Lw8izNIg
https://rutube.ru/video/48152a737ca6a39c97689bd4bd61d7e9/

ETSI: Готовится к публикации стандарт ETSI EN 304 223 «Базовые требования к кибербезопасности для моделей и систем ИИ»

Данная заметка итальянского юриста Федерико Маренго (Federico Marengo – на фото), специализирующегося на тематике ИИ и защиты персональных данных, была опубликована 13 октября 2025 года в социальной сети LinkedIn.

Европейский институт телекоммуникационных стандартов (European Telecommunications Standards Institute, ETSI, http://www.etsi.org/ ) представил на публичное обсуждение проект базовых требований к кибербезопасности для моделей и систем искусственного интеллекта (ИИ).

Мой комментарий: Речь идёт о поступившем уже на утверждение проекте стандарта ETSI EN 304 223 V2.0.0 (2025-09) «Обеспечение безопасность искусственного интеллекта (ИИ); Базовые требования к кибербезопасности для моделей и систем ИИ» (Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems) объёмом 16 страниц, см. https://portal.etsi.org/webapp/workprogram/Report_WorkItem.asp?WKI_ID=74952 , прямая ссылка на PDF-файл: https://www.etsi.org/deliver/etsi_en/304200_304299/304223/02.00.00_20/en_304223v020000a.pdf 

Данный стандарт предоставляет заинтересованным сторонам в цепочке поставок ИИ четкие базовые требования к безопасности, которые помогают защитить системы ИИ.

Хотя эти базовые требования к ИИ не являются обязательными для исполнения, они представляют собой критически важный аспект стратегического управления системами ИИ, поскольку обеспечивают соответствующим заинтересованным сторонам в цепочке поставок ИИ четкие ожидания относительно того, что будет требоваться и на соответствие чему будет проводиться оценка перед внедрением или интеграцией систем ИИ в их рабочие процессы.

Группам стратегического управления ИИ следует обратить внимание на следующие моменты:

• Данные базовые требования не являются исчерпывающими: они представляют собой отправную точку, к которой группы по стратегическому управлению ИИ должны стремиться и адаптироваться в соответствии с применимыми к деятельности организации законодательно-нормативными требованиями;
  
  
• Данные базовые требования перечисляют только «что» следует обеспечить (требования), но не «как» это сделать (методология или стандарт). В дальнейшем этим группам предстоит воплотить в жизнь данные требования, предоставив более подробную информацию о конкретной методологии или стандартах, которым должны следовать или которых должны придерживаться разработчики и операторы ИИ.
  
  
• Избегайте простого копирования этих требований в тендерную документацию. Группы по стратегическому управлению ИИ должны обеспечить согласованность требований со своими внутренними процессами стратегического управления и соответствующей документацией, в частности, с положениями договоров.

Федерико Маренго (Federico Marengo)

Источник: сайт LinkedIn
https://www.linkedin.com/feed/update/urn:li:activity:7383396207357837312/ 

Судебная практика: Отказано в признании недействительными информированного добровольного согласия и согласия на обработку персональных данных

Грязинский городской суд Липецкой области в январе 2024 года вынес решение по делу №2-18/2024 (48RS0010-01-2023-001660-97) по иску гражданки к Липецкой областной психиатрической больнице (ЛОПБ) о признании недействительными документов, содержащихся в медицинской карте стационарного больного.

Суть спора

Гражданка подала иск как ближайшая родственница пациента, поскольку считала, что имеет право оспорить добровольное информированное согласие на медицинское вмешательство, которое было подписано в состоянии тяжёлого психического расстройства и под влиянием сильнодействующих психотропных препаратов. Пор её мнению, наследники вправе обратиться в суд после смерти наследодателя с иском о признании недействительной совершенной им сделки, в том числе по составлению информированного добровольного согласия.

Истица просила признать недействительными документы, содержащиеся в медкарте стационарного больного, которые послужили основанием для госпитализации в психиатрический стационар, - а именно, информированное добровольное согласие на медицинское вмешательство и согласие на обработку персональных данных. 

Позиция гражданки

Гражданка является внучкой и наследницей по закону своей бабушки, которая в течение свыше семи месяцев, с 7 декабря 2022 года по 18 июля 2023 года, являлась пациенткой больницы, где впоследствии скончалась. Гражданка обращалась к больнице с устными и письменными требованиями о выписке бабушки, о предоставлении ей и адвокату личных свиданий, о предоставлении сведений о её лечении, истории болезни, и ставила вопрос о незаконности её нахождения в стационаре психиатрической больницы закрытого типа. 

В июне 2023 гола гражданкой было написано заявление на имя и.о. главного врача больницы, где она доводила до его сведения, что для защиты незаконно удерживаемой пациентки и для последующего оформления опекунства над ней подан в мае 2023 года в суд иск о признании её недееспособной. Также она обращалась в Управление здравоохранения Липецкой области, в прокуратуру Липецкой области, в Минздрав России, в Росздравнадзор, в администрацию Липецкой области. 

За подписью и.о. главного врача больницы был получен ответ со ссылкой на статьи об информированном добровольном согласии на медицинское вмешательство, содержащееся в медкарте стационарного больного. Было указано на то, что в согласии (ИДС) больной от 7.12.2023 г. (то есть согласие было дано в день её поступления в больницу - Н.Х.) ею был указан круг лиц, которым может быть передана информация о состоянии ее здоровья, в том числе после ее смерти, и что в данном согласии истица не фигурирует. Аналогичные ответы были даны больницей в письменном виде ещё дважды в июле 2023 года.

Истице данное согласие показывать отказались со ссылкой на медицинскую тайну. По информации Управления здравоохранения Липецкой области, в больницу пожилая женщина была доставлена внуком в связи с ухудшением психического состояния. В июне 2023 года в отношении больной была проведена судебно-психиатрическая экспертиза, которая установила, что та не в состоянии понимать значения своих действий, руководить ими. По мнению истицы, в момент подписания информированного добровольного согласия пациентка не могла отдавать отчёт в своих действиях, осознавать их значение и последствия. 

По мнению гражданки «беспомощному старому человеку подсунули бумагу, где заранее был вписан внук, который был заинтересован в ее недобровольной госпитализации. В нарушение требований закона не был разъяснен лечащим врачом в доступной и полной для ее понимания форме метод, цель лечения, назначаемые препараты и возможные побочные действия их на организм, последствия принимаемого лечения и процедур психиатрической больницы. Формальное проставление подписи на бланке согласия не означает, что она была ознакомлена со всем перечнем необходимой и требуемой информации, которая по закону должна была ей быть предоставлена». 

Кроме того, истица полагала, что подпись на согласии не является подписью пациента. Бабушка отрицала, что находится в больнице добровольно, всегда выражала намерение уйти домой, что и было зафиксировано экспертами при проведении в июне 2023 года психиатрической экспертизы. 

Позиция Грязинского городского суда Липецкой области

Проанализировав представленные доказательства и положения законодательства, суд пришёл к выводу о том, что доводы истицы основаны на ошибочном понимании норм материального права и являются голословными.

Имеющиеся в медицинской карте оспариваемые документы заполнены в полном соответствии с приказом Минздрава России от 12.11.2021 №1051н, - соответственно, у медицинских работников при принятии решения о госпитализации пациентки не имелось оснований ставить их под сомнение, а также ставить под сомнение достоверность её подписей.

Более того, на момент поступления в больницу и подписания оспариваемых согласий в декабре 2023 года, пенсионерка не была признана недееспособной и не принимала психотропные лекарства, которые бы не позволяли ей понимать значение своих действий. Доказательств обратного не представлено.

Суд также отметил, что нормами гражданского законодательства не предусмотрено, что информированное добровольное согласие и согласие на обработку персональных данных являются односторонними сделками и что они могут быть признаны недействительными.

Согласно приказу Минздрава РФ от 15.12.2014 №834н «Об утверждении унифицированных форм медицинской документации, используемых в медицинских организациях, оказывающих медицинскую помощь в амбулаторных условиях, и порядков по их заполнению» возможность внесения записей в карту пациента в ретроспективном порядке также не предусмотрена.

Отказывая в удовлетворении исковых требований, суд исходил из того, что действующим законодательством в качестве способа судебной защиты не предусмотрена возможность признания недействительной записи в медицинской карте стационарного больного и аннулировании этой записи. 

Суд отказал в удовлетворении заявления гражданки к Липецкой областной психиатрической больницы о признании информированного добровольного согласия и согласия на обработку персональных данных недействительными. 

Судебная коллегия по гражданским делам Липецкого областного суда в мае 2024 года (дело №33-1929/2024) оставила без изменения решение Грязинского городского суда Липецкой области, а апелляционную жалобу истицы - без удовлетворения.

Позиция Судебной коллегии по гражданским делам Первого кассационного суда общей юрисдикции 

Судебная коллегия по гражданским делам Первого кассационного суда общей юрисдикции отметила, что лишены оснований доводы кассационной жалобы истицы о нарушении её прав отобранным от её бабушки информированным добровольным согласием на медицинское вмешательство и согласием на обработку персональных данных, поскольку в силу части 3 статьи 20 Федерального закона от 21 ноября 2011 г. №323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» гражданин имеет право отказаться от медицинского вмешательства или потребовать его прекращения.

Судебная коллегия оставила без изменения решение Грязинского городского суда Липецкой области и апелляционное определение судебной коллегии по гражданским делам Липецкого областного суда, а кассационную жалобу гражданки - без удовлетворения.

Мой комментарий: Больница предоставила все необходимые документы, подтверждающие выполнение требований по оформлению добровольного информированного согласия. Больница продемонстрировала, что документы оформлены в полном соответствии с действующими приказами Минздрава. При отсутствии доказательств обратного, формальное соблюдение процедуры является для суда сильным аргументом в пользу медучреждения.

Суд указал на то, что действующее законодательство не предусматривает такого способа судебной защиты, как «признание записи в медицинской карте недействительной». Медицинская карта - это первичный медицинский документ, и ее содержание оспаривается не через признание записей недействительными, а через установление факта оказания медицинской помощи ненадлежащим образом или нарушения прав пациента в рамках других исков (например, о возмещении вреда).

Фактически иск был направлен не на установление нарушения прав пациентки при жизни, а на посмертное оспаривание документа, который, по мнению внучки, мог иметь значение для наследственных споров. Суды рассматривали дело по существу заявленных требований, и не нашли правовых оснований для их удовлетворения.

Источник: Консультант плюс / Судебные решения 
https://судебныерешения.рф/80853710/extended 
https://судебныерешения.рф/82925964/extended 
https://www.consultant.ru/cons/cgi/online.cgi?BASENODE=g4&req=doc;base=SOKI;n=413676

ИСО и МЭК: Опубликован новый технический отчёт ISO/IEC TR 21221:2025 «Полезные системы искусственного интеллекта»

В сентябре 2025 года сайт Международной организации по стандартизации (ИСО) сообщил о публикации нового технического отчёта ISO/IEC TR 21221:2025 «Информационные технологии – Искусственный интеллект – Полезные системы искусственного интеллекта» (Information technology — Artificial intelligence — Beneficial AI systems) объёмом 32 страницы, см. https://www.iso.org/standard/86690.html и https://www.iso.org/obp/ui/en/#!iso:std:86690:en .

Документ подготовлен подкомитетом SC 42 «Искусственный интеллект» (Artificial intelligence) Объединённого технического комитета ИСО/МЭК JTC1 «Информационные технологии».

Во вводной части документа отмечается:

«В настоящее время государственные, коммерческие и некоммерческие организации увеличивают свои инвестиции и расширяют внедрение технологий искусственного интеллекта (ИИ) в системы и приложения для деловых процессов, продуктов и услуг. Как и в случае других инноваций, внедрение ИИ сопряжено с рисками, потенциально способными привести к негативным последствиям. В некоторых случаях для снижения этих рисков уже введены правовые требования, регламентирующие использование данной технологии. Чтобы предотвратить неоправданно негативное отношение общества к ИИ, необходимо четко сформулировать преимущества ИИ для всех заинтересованных сторон, сопоставив их с соответствующими затратами и рисками. Это может способствовать прозрачности ИИ и доверию к нему, обеспечивая более эффективное стратегическое управление, доверие, понимание и признание ценности технологии ИИ.

В настоящем документе описываются концептуальные рамки для формулирования преимуществ ИИ как одной из нефункциональных характеристик систем ИИ. Эти концептуальные рамки учитывают точки зрения заинтересованных сторон на создание, использование и воздействие ИИ. Они могут помочь инициировать содержательное обсуждение между заинтересованными сторонами и сформулировать соответствующие бизнес-модели и ценностные предложения по всей цепочке создания стоимости для технологии ИИ.

В данном документе также показано, как Цели устойчивого развития ООН (United Nations Sustainable Goals, UN SDGs) могут включаться в компоненты преимуществ, определяющие ценность системы ИИ (Приложение D). Приведены примеры того, как система ИИ с соответствующими компонентами преимуществ в своем ценностном предложении может потенциально способствовать и ускорять достижение Цели устойчивого развития ООН, а также оказать поддержку Лондонской декларации ИСО.

… В настоящем документе описывается, как системы ИИ обеспечивают функциональные, экономические, экологические, социальные, общественные, культурные, интеллектуальные и личные преимущества с точки зрения заинтересованных сторон. В документе приведены иллюстративные примеры использования систем ИИ.»

Содержание документа следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Рамочная концептуальная основа полезной системы ИИ
5. Применение полезных систем ИИ
Приложение A: Варианты использования полезных систем ИИ
Приложение B: Построение модели ценности для клиента
Приложение C: Внешние заинтересованные стороны ИИ
Приложение D: Ценность системы ИИ и Цели устойчивого развития ООН
Библиография

Источник: сайт ИСО
https://www.iso.org/standard/86690.html 
https://www.iso.org/obp/ui/en/#!iso:std:86690:en 

ИСО и МЭК: Начата работа над стандартом ISO/IEC AWI 25589 «Искусственный интеллект – Концепция коллективной работы человека и машины»

Как сообщает сайт Международной организации по стандартизации (ИСО), в феврале 2025 года было одобрено открытие проекта разработки международного стандарта ISO/IEC AWI 25589 «Информационные технологии - Искусственный интеллект – Концепция коллективной работы человека и машины» (Information technology - Artificial intelligence - Framework for human-machine teaming), см. https://www.iso.org/standard/90831.html . 

В апреле 2025 года на пленарной встрече технического подкомитета SC42 «Искусственный интеллект» (Artificial intelligence) Объединенного технического комитета ИСО/МЭК JTC1 была принята резолюция, поручившая работу над данный проектом рабочей группе WG4 «Варианты использования и приложения» (Use cases and applications). Летом 2025 года эксперты начали работу над текстом документа.

В аннотации на стандарт, в частности, отмечается:

«В настоящем документе описывается концепция коллективной работы человека и машины (human-machine teaming, HMT). 

В документе представлены понятия, термины и определения, применимые для описания взаимоотношений между людьми и машинами в рамках их совместной работы, которая подразумевает интеграцию действий человека с возможностями машинного интеллекта с целью решения проблем и успешного выполнения задач. 

В документе также описан набор технических характеристик коллективной (совместной) работы человека и машины. 

В документе представлен набор принципов проектирования применительно к коллективной работе человека и машины. Представленные в документе рекомендации по разработке и применению приложений ИИ в рамках коллективной работы человека и машины основаны на стандарте ISO/IEC 5339.

Мой комментарий: Речь идёт о стандарте ISO/IEC 5339:2024 «Информационные технологии - Искусственный интеллект - Руководство по приложениям искусственного интеллекта» (Information technology - Artificial intelligence - Guidance for AI applications, см. https://www.iso.org/standard/81120.html и https://www.iso.org/obp/ui/en/#!iso:std:81120:en , а также мой пост https://rusrim.blogspot.com/2024/02/isoiec-53392024.html ). В России стандарт адаптирован в ноябре 2024 года как предстандарт ПНСТ 963-2024 (ИСО/МЭК 5339:2024) «Искусственный интеллект. Руководство для приложений на основе искусственного интеллекта» см. https://protect.gost.ru/document1.aspx?control=31&baseC=6&page=4&id=263492 – о нём также см. мой пост http://rusrim.blogspot.com/2024/12/963-2024.html .

… Настоящий стандарт может быть использован любыми заинтересованными лицами, которые разрабатывают, планируют использовать или фактически используют приложения на основе ИИ.

Стандарт содержит исключительно требования и рекомендации по реализации концепции коллективной работы человека и машины (HMT) в организации.»

Содержание стандарта следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Коллективная работа человека и машины (Human Machine Teaming, HMT)
5. Основы внедрения системы ИИ

5.1. Общие положения
5.2. Заинтересованные стороны
5.3. Этапы жизненного цикла системы ИИ
5.4. Доверие
5.5. Обзор человеческого фактора

6. Формирование соответствующего доверия во взаимоотношениях в рамках коллективной работы человека и машины (HMT)
7. Практическая реализация концепции коллективной работы человека и машины в организации
8. Обучение персонала для внедрения коллективной работы человека и машины (HMT)
9. Документирование
10. Библиография
Приложение A (справочное): Примеры инструкций по процедурам во взаимоотношениях в рамках HMT
Приложение B (справочное): Критерии закупки системы ИИ

Источник: сайт ИСО
https://www.iso.org/standard/90831.html 

«Открывая дорогу архивов в будущее»: Объявлены темы пленарных докладов на Конгрессе Международного совета архивов, который пройдёт в Барселоне (Испания) 27-30 октября 2025 года

Данная информация была выложена 30 сентября 2025 года на сайте Конгресса МСА в Барселоне и в социальной сети LinkedIn.

Мой комментарий: Ранее я уже писала о предварительной программе Конгресса, см. http://rusrim.blogspot.com/2025/08/27-30-2025.html 

Уже начался обратный отсчёт до начала Международного архивного конгресса МСА 2025 года в Барселоне, а вместе с ним - и представление мощных идей, которые лягут в основу наших дискуссий в Барселоне в период с 27 по 30 октября 2025 года.

Мы уже называли наших ключевых докладчиков и участников круглого стола по обсуждению пленарных докладов. Теперь мы рады сообщить названия и тезисы их докладов, давая возможность участникам Конгресса предварительно познакомиться с новаторскими темами, которые будут определять направление дискуссий в этом году: от искусственного интеллекта и деколонизации до репараций, прав человека и будущего архивной профессии.

Мой комментарий: Конечно, называть подобные темы «новаторскими» как-то странно – даже тему использования ИИ в архивах; да и выбор пленарных докладчиков, с моей точки зрения, оставляет желать лучшего…

Доклад Мерсе Кросас (Mercè Crosas) «Архивы, готовые к ИИ: Понимание прошлого с помощью инструментов будущего» (Understanding the past with the tools of the future)

28 октября 2025 года

«Сегодня много говорят об использовании ИИ для трансформации большинства секторов и научных областей. В частности, применение специализированных инструментов ИИ к материалам исторических архивов открывает огромный потенциальные возможности для их изучения, анализа и инновационного использования. 

Но что означает готовность архива к использованию ИИ? Как нам применять ценности открытой науки, включая прозрачность и возможность повторного использования, при подготовке архивов к использованию новых систем на основе моделей ИИ? В докладе будут представлены концепции, передовой опыт и стандарты, относящиеся к готовности к использованию ИИ, которые дают нам возможность подготовить архивы мира к взаимодействию, упростить доступ к их данным, а также разрабатывать и совместно использовать системы и рабочие процессы на основе моделей ИИ для дальнейшего изучения их возможностей.»

Доклад Алана Кобли (Alan Cobley) «Деколониальность, репарации, цифровизация и искусственный интеллект: Новые парадигмы и новые технологии, формирующие архивы стран Карибского региона в 21-м веке» (Decoloniality, Reparations, Digitisation and AI: the new paradigms and new technologies shaping Caribbean Archives in the twenty-first century)

29 октября 2025 года

«Колониализм и империализм глубоко повлияли на управление документами в Карибском регионе, одновременно пытаясь уничтожить формы документирования коренных народов. В докладе рассматриваются возникшие в связи с этим проблемы, с которыми сегодня борются архивы и архивисты региона, используя концепцию «деколониальности» (decoloniality). 

В докладе утверждается, что деколониальное мышление архивистов выходит за рамки простого переосмысления документов колониальной эпохи: оно включает в себя переоценку традиционных для коренных народов форм ведения документации и поиск новых подходов, способных запечатлеть ранее недооцененные аспекты памяти региона. 

В докладе также обсуждается тема «репараций» и их роль в обеспечении выживания и будущего развития уязвимых карибских архивов. Наконец, в докладе рассматриваются как потенциальные опасности, так и возможные преимущества новых технологий оцифровки и генеративного искусственного интеллекта. Каким образом можно их использовать для поддержки «деколониального поворота» в карибских архивах, чтобы и расширить возможности карибских народов, и обеспечить документировать современных карибских обществ во всем их богатстве и многообразии?»

Доклад Труди Хаскамп Петерсон (Trudy Huskamp Peterson) «Надежда как дисциплина: Архивы и права человека» (Hope as a Discipline: Archives and Human Rights)

30 октября 2025 года

«Времена настали мрачные: войны, эпидемии, наводнения и голод. Мир, похоже, действительно катится к катастрофе. Однако я утверждаю, что архивная профессия основана на надежде. Мы надеемся на сохранение значимости архивной профессии и архивных ассоциаций; мы надеемся на выделение ресурсов, которые позволят архивным учреждениям и архивистам процветать; и, самое главное, мы надеемся на то, что приобретаем и сохраняем материалы, которые будут использоваться и будит полезными в будущем. 

Надежда, в этом последнем смысле, это политическая надежда: мы достаточно мудры, чтобы сохранять материалы (всех видов и изо всех источников), которые позволят людям сейчас и в будущем сохранять и защищать свои права. Мы хотим жить в справедливом обществе, и архивы играют ключевую роль в поддержании справедливости.»

Круглый стол по обсуждению пленарных докладов «Будущее архивов: Архивы и архивисты в следующей четверти века» (Archival Futures: Archives and Archivists for the next Quarter Century)

30 октября 2025 года

Участники дискуссии:

• Эмма де Рамон Асеведо (Emma de Ramon Acevedo), бывший президент Ассоциации архивистов Латинской Америки (Association of Latin American Archivists, ALA) - регионального отделения Международного совета архивов
  
  
• Франсеск Хименес Мартин (Francesc Giménez Martín), президент Профессиональной ассоциации архивистов и специалистов по управлению документами Каталонии
  
  
• Эстель Обе (Estelle Obe), президент Ассоциации архивистов-лидеров (Archivistes Leaders Association)

Названные пленарные доклады и дискуссия на круглом столе побудят нас переосмыслить, каким образом архивы могут внедрять технологии, противостоять исторически сложившимся устаревшим подходам, защищать права человека - и помогут сформировать смелое видение будущее для нашей профессии. 

Международный архивный конгресс МСА 2025 года в Барселоне - это не только конгресс, но и глобальный форум для идей и действий. Не упустите возможность принять участие в этих дискуссиях, которые будут формировать будущее архивов в следующей четверти 21-го века.

Источник: сайт Конгресса МСА в Барселоне / сайт LinkedIn
https://icabarcelona2025.cat/unlocking-the-future-of-archives-keynote-themes-revealed-for-the-international-archives-congress-ica-barcelona-2025/ 
https://www.linkedin.com/posts/international-archives-congress-ica-barcelona-2025_keynote-theme-revealed-ugcPost-7379202379470151680-aBa2 

ИСО и МЭК: Начата работа над проектом стандарта ISO/IEC AWI 25985 «Доверенное использование данных»

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 25 сентября 2025 года в социальной сети LinkedIn в учётной записи технического подкомитета ИСО TC46/SC11 «Управление документами».

В подкомитете SC32 «Управление и обмен данными» (Data management and interchange) Объединенного технического комитета ИСО/МЭК JTC1 «Информационные технологии» (Information technology) недавно был зарегистрирован новый проект ISO/IEC AWI 25985 «Информационные технологии – Использование данных - Доверенное использование данных» (Information technology - Data usage - Trusted data usage), см. https://www.iso.org/standard/92214.html .

В аннотации на документ говорится:

«В настоящем документе специфицируются:

• методы оценки того, как могут быть использованы информационные продукты (data products);
  
  
• систематические ограничения и запреты на использование информационных продуктов;
  
  
• среды / условия для обеспечения соблюдения этих ограничений и запретов;
  
  
• систематические способы выявления случаев непредусмотренного манипулирования информационными продуктами.

Настоящий документ применим в любых организациях и в отношении любых типов систем, использующих данные.»

Целью стандарта является укрепление доверия и совершенствование стратегического управления в сфере использования данных.

Данный проект согласуется с идущей параллельно разработкой стандарта ISO/AWI TS 17955 «Информация и документация – Стратегическое управление информацией – Концепция внедрения» (Information and documentation — Information Governance — Implementation framework, см. https://www.iso.org/standard/85109.html , а также пост на блоге https://rusrim.blogspot.com/2023/10/wg13-tc46.html - Н.Х.) в рабочей группе WG13 технического комитета ИСО TC46 «Информация и документация». В совокупности эти инициативы укрепляют связь между концептуальными структурами стратегического управления на уровне организации и практическими механизмами, необходимыми для обеспечения доверенного использования данных в технологических средах.

В настоящее время работа над стандартом ISO/IEC 25985 находится на начальной стадии, подготовлен рабочий проект. 

Энди Поттер (Andy Potter)

Источник: сайт LinkedIn
https://www.linkedin.com/feed/update/urn:li:activity:7376999519349264384