CEN: Начато публичное обсуждение проекта нового европейского стандарта prEN 18229-3 «Концепция обеспечения надежности ИИ и доверия к нему – Часть 3: Надзор со стороны человека»

Сайт Европейского комитета по стандартизации CEN (от фр. Comité Européen de Normalisation) в конце июля 2026 года сообщил о начале публичного обсуждения проекта нового европейского стандарта prEN 18229-3 «Концепция обеспечения надежности ИИ и доверия к нему – Часть 3: Надзор со стороны человека» (AI trustworthiness framework - Part 3: Human oversight) объёмом 32 страницы, см. https://standards.cencenelec.eu/... .

Над стандартом работает объединённый технический комитет CEN-CENELEC JTC21 «Искусственный интеллект» (Artificial Intelligence). В целом же стандарт EN 18229 «Концепция обеспечения надежности ИИ и доверия к нему» (AI trustworthiness framework) будет содержать следующие части:

• Часть 1 «Ведение журналов аудита» (Logging) – идёт публичное обсуждение, см. также мой пост http://rusrim.blogspot.com/2026/07/cen-pren-18229-1-1.html ;
  
  
• Часть 2 «Прозрачность» (Transparency) – в разработке;
  
  
• Часть 3 «Надзор со стороны человека» (Human oversight) - идёт публичное обсуждение;
  
  
• Часть 4 «Точность» (Accuracy) – в разработке;
  
  
• Часть 5 «Робастность» (Robustness) – в разработке.

До 22 сентября 2026 года есть возможность индивидуально принять участие в публичном обсуждении данного стандарта на сайте Британского института стандартов (BSI) по адресу https://standardsdevelopment.bsigroup.com/projects/2026-02119 (при условии регистрации на сайте).

Страница обсуждения на сайте BSI

Документ также доступен на сайте немецкого органа по стандартизации DIN (при условии прохождения бесплатной регистрации) по адресу https://www.din.de/de/mitwirken/entwuerfe/ne-stellung/wdc-beuth:din21:404712503 .

Во вводной части документа отмечается:

«Настоящий документ содержит терминологию, концепции, требования и рекомендации надзору со стороны человека над системами искусственного интеллекта (ИИ). Он в первую очередь адресован организациям, выводящим системы ИИ на рынок или вводящих их в эксплуатацию, и не является специфическим для какого-либо конкретного сектора.»

Содержание документа следующее:

Европейское предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения 
4. Сокращения
5 Надзор со стороны человека

5.1. Цели
5.2. Интеграция с менеджментом риска
5.3. Категории мер надзора со стороны человека
5.4. Спецификация мер надзора и контроля, реализуемых развертывающей систему ИИ стороной
5.5. Необъективность при автоматизации и человеческий фактор
5.6. Интерпретация выходных результатов и инструменты интерпретации
5.7. Функциональные требования к функциональным возможностям, поддерживающим вмешательство уполномоченного лица
5.8. Системы удалённой биометрической идентификации (RBI) - требования к надзору со стороны человека

Мой комментарий: Термин «системы RBI» взят из п.41 ст.3 «Определения» европейского Закона об ИИ, где дано следующее определение: «Под «системой удалённой (дистанционной) биометрической идентификации» (remote biometric identification system) понимается система искусственного интеллекта, предназначенная для идентификации физических лиц без их активного участия, - как правило, дистанционно, - посредством сравнения биометрических данных человека с биометрическими данными, содержащимися в эталонной базе данных.»

6. Документация

6.1. Инструкция по применению
6.2. Техническая документация

Приложение ZA (справочное): Взаимосвязь между данным европейским стандартом и основными требованиями европейского Регламента 2024/1689 (это европейский Закон об искусственном интеллекте – Н.Х.), которые предполагается охватить
Библиография

Редактор проекта стандарта prEN 18229, испанский специалист по политике в области ИИ Лука Наннини (Luca Nannini - на фото) в своём посте в социальной сети LinkedIn о начале публичного обсуждения 3-й части стандарта, в частности, отметил следующее:

«Проект европейского стандарта prEN 18229-3, по вопросам надзора со стороны человека в рамках концепции обеспечения надёжности ИИ и доверия к нему, вышел на стадию публичного обсуждения.

Статья 14 «Надзор со стороны человека» (Human oversight) европейского Закона об ИИ цитируется гораздо чаще, чем конкретизируется: до тех пор, пока стандарт не определит, что необходимо уполномоченному лицу (designated person), как обеспечивается его способность вмешиваться, и в течение какого периода времени вмешательство должно оставаться возможным, «осмысленный надзор» ('meaningful oversight) остается лишь красивыми словами, а данный проект конкретизирует данное понятие и трансформирует его в требования. 

Ключевой посыл проекта - установить рамки надзора, а не его заявить о его необходимости: период времени, в течение которого должна обеспечиваться возможность вмешательства, определяется по итогам процесса управления рисками, предусмотренного проектом европейского стандарта prEN 18228 «Управление рисками, связанными с ИИ» (AI Risk Management, о нём см. мой пост http://rusrim.blogspot.com/2025/09/pren-18228.html - Н.Х.) - и привязываются к конкретным сценариям риска, что превращает обнадеживающие красивые слова в метрику действий, которую может оценить уполномоченный регулирующий орган.

Обращение к экспертам немецкого органа по стандартизации DIN

Исходя из этого ключевого положения, в стандарте определяются три категории мер надзора: 

• ретроспективный анализ,
  
  
• вмешательство при получении оповещения, и
  
  
• непрерывный мониторинг, 

- а также четыре функциональных возможности, доступные назначенному лицу:

• игнорирование (disregard), 
  
  
• принятие человеком иного решения (override), 
  
  
• возврат к прежнему состоянию (reverse), и 
  
  
• перевод системы в безопасное состояние. 

При этом документ исходит из того, что предвзятость при автоматизации (automation bias) должна проверяться, а не предполагаться, а также предусматривает специальные положения в отношении удаленной биометрической идентификации. 

Архитектура стандарта prEN 18229 в целом выстроена так, что она предусматривает взаимодействие с поставщиком, документирование информации об инструкциях по надзору для использования при обеспечении прозрачности (prEN 18229-2), определяет временные рамки на основе менеджмента риска (prEN 18228-3) и сохраняет соответствующие свидетельства / доказательства ыв интересах управления документами (prEN 18229-1).

С моей точки зрения, вопрос надзора являлся интересной частью работы над концепцией в целом, поскольку в этой области гораздо легче прийти к согласию по принципам, чем по методам, - и именно этот пробел стандарт призван заполнить. Именно поэтому аргументированные комментарии будут сейчас иметь больший вес в ходе публичного обсуждения (по итогам которого проект всё еще может быть изменён и, будем надеяться, улучшен...).»

Источник: сайт CEN / сайт BSI / сайт LinkedIn / сайт эстонского органа по стандартизации
https://standards.cencenelec.eu/ords/f?p=CEN:110:::::FSP_PROJECT,FSP_ORG_ID:83968,2916257&cs=1AE0E84FB77D7D3D0D502227093B42A42
https://standardsdevelopment.bsigroup.com/projects/2026-02119
https://www.linkedin.com/posts/luca-nannini_pren-18229-3-jt021056-the-human-oversight-share-7488480074355228672-R8Ai/ 
https://komport.evs.ee/Default.aspx?s=standardCommenting&doc=21119 

Франция: Информационный бюллетень FD Z42-028 «Рекомендации по реализации стандарта NF Z 42-026 с использованием мобильного оборудования»

В октябре 2024 года французский национальный орган по стандартизации AFNOR опубликовал информационный бюллетень FD Z42-028 «Рекомендации по реализации стандарта NF Z 42-026 с использованием мобильного оборудования» (Recommandations pour la mise en œuvre de la Norme NF Z 42-026 avec des équipements mobiles) объёмом 21 страница, см. https://norminfo.afnor.org/norme/fd-z42-028/recommandations-pour-la-mise-en-ouvre-de-la-norme-nf-z-42-026-avec-des-equipements-mobiles/209364 и https://www.boutique.afnor.org/fr-fr/norme/fd-z42028/recommandations-pour-la-mise-en-uvre-de-la-norme-nf-z-42026-avec-des-equipe/fa211143/425871 .

Данный документ был подготовлен техническим комитетом AFNOR CN 171 «Вопросы архивации и управления жизненным циклом документа» (Applications pour l'archivage et la gestion du cycle de vie du document). В нём шла речь о реализации на мобильном оборудовании положений национального стандарта создания верных копий NF Z42-026:2023 «Определение и спецификации услуг по надёжной оцифровке документов на бумажном носителе и контроль над оказанием этих услуг» (Définition et spécifications des prestations de numérisation fidèle de documents sur support papier et contrôle de ces prestations), см. https://www.boutique.afnor.org/fr-fr/norme/nf-z42026/definition-et-specifications-des-prestations-de-numerisation-fidele-de-docu/fa203212/343604  - см. также мой пост http://rusrim.blogspot.com/2023/04/nf-z-42-026-1.html .

Цель данного документа заключается в том, чтобы:

• Установить рамки использования мобильных сканеров и портативных устройств вне стационарных сканирующих центров;
  
  
• Обеспечить доказательную ценность цифровой копии, полученной в «полевых условиях»;
  
  
• Обеспечить соответствие законодательно-нормативным требованиям к надёжным (верным) копиям.

В числе ключевых аспектов, упоминаемых в документе, можно назвать следующие:

• Контроль окружающей среды: Управление яркостью, стабильностью и положением бумаги во время мобильной съемки;
  
  
• Контроль качества: Протоколы для немедленной проверки разборчивости, цветопередачи и геометрии полученного изображения;
  
  
• Обеспечение безопасности всей цепочки обработки: Использование методов обеспечения целостности (электронная идентификация, отметка времени) сразу после того, как скан-копия покидает мобильное устройство.

Источник: сайт AFNOR
https://norminfo.afnor.org/norme/fd-z42-028/recommandations-pour-la-mise-en-ouvre-de-la-norme-nf-z-42-026-avec-des-equipements-mobiles/209364 
https://www.boutique.afnor.org/fr-fr/norme/fd-z42028/recommandations-pour-la-mise-en-uvre-de-la-norme-nf-z-42026-avec-des-equipe/fa211143/425871 

Вступил в силу самый строгий в мире нормативно-правовой акт, регламентирующий использование антропоморфного ИИ (4)

(Окончание, предыдущую часть см. http://rusrim.blogspot.com/2026/08/3_088237386.html )

Глава 3: Надзор, инспекция и юридическая ответственность

Статья 26: Поставщики интерактивных антропоморфных услуг обязаны выполнять процедуры регистрации алгоритмов, их модификации и аннулирования регистрации в соответствии с «Правилами управлении рекомендательными алгоритмами для информационных услуг в интернете» (《互联网信息服务算法推荐管理规定》). Управление киберпространства будет проводить ежегодную верификацию представленных материалов.

Статья 27: Управления киберпространства провинциального уровня обязаны, в соответствии со своими обязанностями, ежегодно готовить письменный анализ отчетов об оценке и другой соответствующей информации, а также осуществлять проверку ситуации. Если будет установлено, что поставщик антропоморфных интерактивных услуг не провел оценку безопасности в соответствии с положениями настоящих Правил, соответствующее управление должно обязать поставщика провести повторную оценку в установленный срок; а в случае, если управление сочтёт это необходимым, оно может проводить проверки на месте.

Статья 28: Администрация киберпространства Китая совместно с соответствующими ведомствами должна руководить и содействовать созданию экспериментальной платформы безопасности сервисов искусственного интеллекта, поощрять поставщиков антропоморфных интерактивных услуг к использованию этой платформы для технологических инноваций и тестирования аспектов безопасности, - а также продвигать безопасное и упорядоченное развитие антропоморфных интерактивных услуг.

Статья 29: Когда при выполнении своих надзорных и управленческих функций такие ведомства, как Администрация киберпространства, Государственная комиссия по развитию и реформам, Министерство промышленности и информационных технологий и Министерство общественной безопасности, выявляют значительные риски безопасности или инциденты безопасности, связанные с антропоморфными интерактивными услугами, они вправе, в соответствии со своими полномочиями и процедурами, проводить собеседования с законным представителем или главным ответственным лицом поставщика антропоморфных интерактивных услуг. Поставщик интерактивных антропоморфных услуг обязан принять необходимые меры для исправления ситуации и устранения потенциальных угроз.

Поставщики интерактивных антропоморфных услуг обязаны сотрудничать с законно осуществляемым надзорно-проверочными мероприятиями, проводимыми Администрацией киберпространства и соответствующими ведомствами, а также оказывать им необходимую поддержку и помощь.

Статья 30: В случае нарушения поставщиком интерактивных антропоморфных услуг положений настоящих Правил, Администрация киберпространства, Министерство промышленности и информационных технологий, Министерство общественной безопасности и другие соответствующие министерства и ведомства обязаны принять меры и наказать за нарушение в соответствии с положениями соответствующих законов и нормативных актов. В случае отсутствия соответствующих положений в законах и нормативных актах, Администрация киберпространства, Министерство промышленности и информационных технологий, Министерство общественной безопасности и другие соответствующие министерства и ведомства должны, в соответствии со своими обязанностями, выносят предупреждения или опубликовать критические материалы, предписав исправить ситуацию в установленный срок; а также могут потребовать от поставщика принятия таких мер, как приостановка регистрации учетных записей пользователей или других взаимосвязанных услуг. Если поставщик услуг отказывается устранить нарушение или обстоятельства являются серьезными, провайдеру будет предписано прекратить предоставление соответствующих услуг, и он может быть оштрафован на сумму от 10 тысяч до 100 тысяч юаней. Если нарушение представляет угрозу для жизни, здоровья и безопасности граждан и влечет за собой вредные последствия, то налагается штраф в размере от 100 тысяч до 200 тысяч юаней.

Глава 4. Дополнительные положения.

Статья 31: Если предоставление антропоморфных интерактивных услуг включает предоставление медицинских, финансовых или иных услуг, оно также должно соответствовать нормативным требования, установленным соответствующими компетентными органами.

Статья 32: Настоящие Правила вступают в силу 15 июля 2026 года.

Луиза Жаровски (Luiza Jarovsky)

Источник: сайт LinkedIn
https://www.linkedin.com/pulse/worlds-strictest-law-human-like-ai-luiza-jarovsky-phd-jb3fe/  

Утверждены новые правила, определяющие порядок обращения за пенсией и рассмотрения этих обращений

Приказом Минтруда России от 03 июня 2026 года № 238н утверждены «Правила обращения за страховой пенсией, фиксированной выплатой к страховой пенсии (с учетом повышения фиксированной выплаты к страховой пенсии), накопительной пенсией (в том числе работодателей) и пенсией по государственному пенсионному обеспечению, их назначения (установления), перерасчета (корректировки) их размера, в том числе лицам, не имеющим постоянного места жительства на территории Российской Федерации, проведения проверок документов, необходимых для их установления, перевода с одного вида пенсии на другой».

Начало действия документа – 17 июля 2026 года (за исключением отдельных положений). Содержание документа следующее:

I. Общие положения

II. Порядок обращения за пенсией

III. Порядок рассмотрения заявления об установлении пенсии

IV. Порядок назначения пенсии и перевода с одной пенсии на другую

V. Порядок перерасчета и корректировки размера пенсии

VI. Правила проведения проверок документов, необходимых для установления пенсии

Новые правила отражают серьезный сдвиг в логике деятельности государства в сфере пенсионного обеспечения: гражданину больше не нужно будет «просить» о пенсии, заявляя о своем праве. Теперь государство станет назначать пенсионные выплаты автоматически, как только у Социального фонда появятся необходимые данные в информационных системах. В результате человек освобождается от сбора справок и личных визитов, бумажный документооборот уступает место цифровому взаимодействию ведомств, а подтверждением факта назначения пенсии в электронном виде теперь может служить QR-код.

В документе установлено два алгоритма действий:

• Для стандартных случаев (пенсии по старости, инвалидности, потере кормильца) предусмотрен автоматический режим назначения на основании сведений индивидуального (персонифицированного) учета, сведений, поступивших в порядке межведомственного информационного взаимодействия, а также из федеральных государственных информационных систем (п. 32, 34, 44). 
  
  Страховая пенсия по старости, пенсия по инвалидности, а также выплаты по потере кормильца для детей до 18 лет будут назначаться без заявлений, на основе данных, уже имеющихся в распоряжении СФР.
  
  Перерасчет также становится беззаявительным при наступлении ключевых событий, таких как достижение 80 лет, рождение ребенка, появление северного стажа или прекращение трудовой деятельности. 
  
  Теперь гражданин - пассивный получатель услуги, а работа по назначению и перерасчёту пенсии ложится на государственные информационные системы и межведомственное взаимодействие. В документе отмечается:
  
  «32. Страховая пенсия по старости в случае …назначается территориальным органом Фонда пенсионного и социального страхования Российской Федерации в автоматическом режиме на основании сведений индивидуального (персонифицированного) учета, сведений, поступивших в порядке межведомственного информационного взаимодействия, а также из федеральных государственных информационных систем … Сведения о назначении страховой пенсии по старости направляются в личный кабинет гражданина на Едином портале государственных и муниципальных услуг автоматически.»
  
  «34. Назначение страховой пенсии по инвалидности … социальной пенсии по инвалидности … пенсии по инвалидности … лицу, в отношении которого из государственной информационной системы «Единая централизованная цифровая платформа в социальной сфере» поступили сведения о признании его инвалидом, производится территориальным органом Фонда пенсионного и социального страхования Российской Федерации по месту жительства лица, признанного инвалидом, без истребования от него заявления о назначении … на основании данных, имеющихся в распоряжении территориального органа Фонда пенсионного и социального страхования Российской Федерации, в том числе сведений, содержащихся в государственной информационной системе «Единая централизованная цифровая платформа в социальной сфере».»
  
  «44. Назначение страховой пенсии по случаю потери кормильца …, социальной пенсии по случаю потери кормильца в случае, … детям, не достигшим возраста 18 лет (за исключением лиц, объявленных в соответствии с законодательством Российской Федерации полностью дееспособными), производится территориальным органом Фонда пенсионного и социального страхования Российской Федерации без истребования от не достигшего возраста 18 лет ребенка умершего кормильца либо его законного представителя заявления о назначении … на основании сведений, имеющихся в распоряжении территориального органа Фонда пенсионного и социального страхования Российской Федерации, в том числе сведений о смерти кормильца и о рождении ребенка (детей) умершего кормильца из единого федерального информационного регистра, содержащего сведения о населении Российской Федерации (федеральный регистр сведений о населении).»
  
  
• Для остальных случаев сохраняется традиционный документооборот (заявление - проверка документов и информации - Решение Фонда пенсионного и социального страхования РФ).

С точки зрения документирования это означает, что юридически значимым документом теперь становится не заявление гражданина, а электронные записи в государственных информационных системах (ГИС), причем сделанные не только на основании сведений индивидуального (персонифицированного) учета в системе обязательного пенсионного страхования, которые СФР формирует сам, (пп. «в» п. 17), но и включающие:

• Сведения о смерти/рождении, поступающие из Федерального регистра населения (ФРИ);
  
  
• Данные об инвалидности, поступающие из Единой цифровой платформы в социальной сфере (ЕЦПСС).

Регламент устанавливает 5 юридически равнозначных способов подачи заявления.

• Лично в СФР (п. 25),
  
  
• Почта России (п. 26),
  
  
• Многофункциональный центр предоставления государственных и муниципальных услуг днем (МФЦ) (п. 28),
  
  
• Единый портал Госуслуг ЕПГУ (п. 27),
  
  
• Через работодателя «с письменного согласия работника» (п. 10).

При приеме заявления СФР обязан создать «Уведомление о приеме и регистрации», которое должно содержать:

• Дату подачи,
  
  
• Перечень принятых документов,
  
  
• Перечень недостающих документов (раздельно: те, что должен принести гражданин, и те, что СФР запросит сам по межведомственным каналам). 

Мой комментарий: Гражданин перестает быть инициатором процесса (заявителем) и становится получателем услуги – что, как мне кажется, очень удобно.

Успех данного элемента пенсионной реформы – по крайней мере, первоначально -  зависит от качества данных в Федеральном регистре населения (ФРИ), Единой цифровой платформе в социальной сфере (ЕЦПСС), а также сведений индивидуального (персонифицированного) учета. Неточности и пробелы в сведениях, содержащихся в этих ГИС, могут привести к тому, что пенсия не будет назначена автоматически (или окажется меньше, чем гражданин заслужил), и гражданину придется добиваться корректировки сведений в базах. 

Источник: Консультант Плюс
https://www.consultant.ru/cons/cgi/online.cgi?req=doc&base=LAW&n=538745