ИСО и МЭК: Опубликован новый стандарт ISO/IEC 27090:2026 «Устранение угроз и нарушений безопасности для систем ИИ»

В октябре 2026 года сайт Международной организации по стандартизации (ИСО) сообщил о публикации нового стандарта ISO/IEC 27090:2026 «Кибербезопасность - Искусственный интеллект - Устранение угроз и нарушений безопасности для систем ИИ» (Cybersecurity - Artificial intelligence (AI) - Addressing security threats and compromises to AI systems) объёмом 65 страниц, см. https://www.iso.org/standard/27090 

Документ подготовлен техническим подкомитетом ISO/IEC JTC1/SC27 «Информационная безопасность, кибербезопасность и защита неприкосновенности частной жизни» (Information security, cybersecurity and privacy protection).

В аннотации на документ говорится следующее:

Что представляет собой стандарт ISO/IEC 27090?

Стандарт ISO/IEC 27090 содержит рекомендации в отношении понимания, выявления и смягчения угроз безопасности, специфических для систем искусственного интеллекта (ИИ) на протяжении их жизненного цикла. В стандарте объясняется, как могут быть использованы уязвимости, к каким последствиям это может привести и какие меры помогут противостоять таким угрозам.

Данный стандарт помогает разрабатывающим и/или использующим ИИ организациям выявить требующие защиты объекты, от обучающих данных до моделей ИИ. В нём рассматриваются такие угрозы, как «отравление» данных (data poisoning) и кража моделей, при этом подчеркивается, что традиционные методы обеспечения кибербезопасности остаются по-прежнему необходимыми.

Чем важен стандарт ISO/IEC 27090?

Вместе с внедрением ИИ появляются специфические проблемы безопасности, для устранения которых может быть недостаточно одних лишь традиционных мер кибербезопасности. Манипуляции с обучающими данными способны изменить поведение системы, а внешне безобидные запросы могут быть использованы для кражи модели. Подобные атаки, которые зачастую может быть трудно обнаружить, способны скомпрометировать системы даже в случае наличия традиционных мер защиты. 

По мере расширения использования ИИ организациями сбои в обеспечении безопасности могут иметь серьёзные последствия как для деловых организаций, так и для физических лиц - особенно в критически-важных в плане безопасности областях. Стандарт ISO/IEC 27090 помогает организациям оценить потенциальное воздействие таких угроз и принять обоснованные решения относительно их выявления и нейтрализации. Это способствует более безопасному развитию и использованию технологий ИИ в условиях эволюции как самих систем ИИ, так и угроз, с которыми они сталкиваются.

Преимущества стандарта ISO/IEC 27090 заключаются в том, что он поддерживает:

• Выявление специфических для ИИ уязвимостей и оценка их возможных последствий,
  
  
• Принятие обоснованных решений по выявлению и нейтрализации угроз,
  
  
• Усиление защиты обучающих данных, моделей ИИ и интеллектуальной собственности,
  
  
• Смягчение рисков безопасности на этапах разработки, эксплуатации и обновления моделей ИИ,
  
  
• Дополнение существующих практик обеспечения кибербезопасности мерами, специфическими для систем ИИ.

Содержание документа следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Аббревиатуры
5. Применение информационной безопасности
6. Виды потенциальных компрометаций систем ИИ
7. Меры смягчения рисков и их взаимосвязь с угрозами и другими применяемыми мерами
Приложение A: Соотнесение атак с этапами жизненного цикла систем ИИ и с активами
Приложение B: Специфические для систем ИИ варианты традиционных атак
Приложение C: Федеративное машинное обучение
Библиография

Источник: сайт ИСО
https://www.iso.org/standard/27090