Документ подготовлен техническим подкомитетом ISO/IEC JTC1/SC27 «Информационная безопасность, кибербезопасность и защита неприкосновенности частной жизни» (Information security, cybersecurity and privacy protection).
Что представляет собой стандарт ISO/IEC 27090?
Стандарт ISO/IEC 27090 содержит рекомендации в отношении понимания, выявления и смягчения угроз безопасности, специфических для систем искусственного интеллекта (ИИ) на протяжении их жизненного цикла. В стандарте объясняется, как могут быть использованы уязвимости, к каким последствиям это может привести и какие меры помогут противостоять таким угрозам.
Данный стандарт помогает разрабатывающим и/или использующим ИИ организациям выявить требующие защиты объекты, от обучающих данных до моделей ИИ. В нём рассматриваются такие угрозы, как «отравление» данных (data poisoning) и кража моделей, при этом подчеркивается, что традиционные методы обеспечения кибербезопасности остаются по-прежнему необходимыми.
Чем важен стандарт ISO/IEC 27090?
Вместе с внедрением ИИ появляются специфические проблемы безопасности, для устранения которых может быть недостаточно одних лишь традиционных мер кибербезопасности. Манипуляции с обучающими данными способны изменить поведение системы, а внешне безобидные запросы могут быть использованы для кражи модели. Подобные атаки, которые зачастую может быть трудно обнаружить, способны скомпрометировать системы даже в случае наличия традиционных мер защиты.
По мере расширения использования ИИ организациями сбои в обеспечении безопасности могут иметь серьёзные последствия как для деловых организаций, так и для физических лиц - особенно в критически-важных в плане безопасности областях. Стандарт ISO/IEC 27090 помогает организациям оценить потенциальное воздействие таких угроз и принять обоснованные решения относительно их выявления и нейтрализации. Это способствует более безопасному развитию и использованию технологий ИИ в условиях эволюции как самих систем ИИ, так и угроз, с которыми они сталкиваются.
Преимущества стандарта ISO/IEC 27090 заключаются в том, что он поддерживает:
- Выявление специфических для ИИ уязвимостей и оценка их возможных последствий,
- Принятие обоснованных решений по выявлению и нейтрализации угроз,
- Усиление защиты обучающих данных, моделей ИИ и интеллектуальной собственности,
- Смягчение рисков безопасности на этапах разработки, эксплуатации и обновления моделей ИИ,
- Дополнение существующих практик обеспечения кибербезопасности мерами, специфическими для систем ИИ.
Содержание документа следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Аббревиатуры
5. Применение информационной безопасности
6. Виды потенциальных компрометаций систем ИИ
7. Меры смягчения рисков и их взаимосвязь с угрозами и другими применяемыми мерами
Приложение A: Соотнесение атак с этапами жизненного цикла систем ИИ и с активами
Приложение B: Специфические для систем ИИ варианты традиционных атак
Приложение C: Федеративное машинное обучение
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/27090
Комментариев нет:
Отправить комментарий