Методический документ «Состав и содержание мероприятий и мер по защите информации, содержащейся в информационных системах» был утвержден ФСТЭК России 12 апреля 2026 года.
В раздел III «Мероприятия (процессы) по защите информации, содержащейся в информационных системах органов (организаций)» включён п.3.18 «Обеспечение защиты информации при использовании искусственного интеллекта (ИИ)».
Главная цель - исключение возможности несанкционированного доступа к информационным системам и информации при использовании систем искусственного интеллекта (систем ИИ).
Посредством проведения мероприятий по обеспечению защиты информации при использовании систем ИИ должна быть исключена возможность нарушения конфиденциальности, целостности и доступности информации, обрабатываемой в системе, за счет действий внешних и внутренних нарушителей.
При создании систем ИИ оператором (обладателем информации) должна быть проведена оценка угроз безопасности информации, связанных с разработкой и эксплуатацией системы. Сведения об угрозах безопасности информации систем ИИ содержатся в банке данных угроз безопасности информации ФСТЭК России.
По результатам оценки угроз безопасности информации должно быть разработано техническое задание, содержащее требования к реализации мер защиты информации в системе ИИ.
При разработке системы ИИ должна быть обеспечена защита следующих объектов:
- Объекты информационной инфраструктуры разработки системы ИИ;
- Программное обеспечение, обеспечивающее разработку системы ИИ (подготовка наборов обучающих данных, обучение и тестирование моделей ИИ), в том числе входящие в его состав фреймворки, библиотеки, иные инструменты;
- Программное обеспечение, обеспечивающее разработку API-интерфейсов, агентов, системы фильтрации входных и выходных данных;
- Входная модель ИИ, используемая для разработки (обучения) выходной модели ИИ (при наличии);
- Наборы обучающих данных;
- Выходная модель искусственного интеллекта и ее параметры (веса);
- Программное обеспечение, обеспечивающее реализацию технологий ИИ (модели ИИ), а также агентов ИИ, API-интерфейсов, систем фильтрации (контроля) входных и выходных данных.
В информационной инфраструктуре разработки системы ИИ должны быть реализованы меры по защите информации по классу защищенности не ниже класса защищенности информационной системы оператора (обладателя информации).
Дополнительно в информационной инфраструктуре разработки должны быть обеспечены:
- Выделение информационной инфраструктуры разработки системы ИИ от иной инфраструктуры разработчика, не связанной с разработкой данной системы, в отдельный изолированный сегмент;
- Отказ от использования небезопасных форматов обработки и хранения данных (например, pickle) и применение безопасных форматов данных (ONNX, protobuf и другие форматы);
- Целостность программного обеспечения, реализующего разработку системы ИИ.
В информационной инфраструктуре разработки системы ИИ не допускается решение задач, не связанных с разработкой системы ИИ.
В отношении наборов обучающих данных должны быть обеспечены:
- Применение в приоритетном порядке наборов обучающих данных из доверенных источников (например, информационные системы государственных органов, организаций и учреждений, значимые объекты критической информационной инфраструктуры Российской Федерации);
- Антивирусная проверка обучающих данных на предмет наличия в них вредоносного программного обеспечения;
- Хранение обучающих данных в обособленном хранилище;
- Целостность обучающих данных.
При использовании входной модели ИИ должен быть проведен анализ сведений об уязвимостях указанной модели, получаемых из внешних источников (базы данных известных уязвимостей, официальные ресурсы разработчиков программных средств, специализированные публикации, форумы, иные источники). В отношении выявленных уязвимостей разработчиков системы искусственного интеллекта должны быть приняты меры, направленные на нейтрализацию выявленных уязвимостей.
В отношении программного обеспечения, обеспечивающего разработку и эксплуатацию системы ИИ, должен быть проведен анализ уязвимостей программного обеспечения на основании данных, получаемых из внешних источников (базы данных известных уязвимостей, официальные ресурсы разработчиков программных средств, специализированные публикации, форумы, иные источники), и приняты меры по их устранению.
При эксплуатации системы ИИ в информационной системе должна быть обеспечена защита следующих объектов:
- Объекты информационной инфраструктуры, обеспечивающей эксплуатацию системы ИИ;
- Программное обеспечение, обеспечивающее реализацию технологий ИИ (модели ИИ), а также агентов искусственного интеллекта, API-интерфейсов, систем фильтрации (контроля) входных и выходных данных;
- Обученная и готовая к использованию модель ИИ, ее расширения (LoRA, RAG и другие расширения (при необходимости).
В случае если для эксплуатации системы ИИ используется инфраструктура, не входящая в информационную систему оператора, то в такой инфраструктуре должны быть реализованы меры по защите информации по классу защищенности не ниже класса защищенности информационной системы оператора (обладателя информации).
В случае применения технологии ИИ в составе информационной системы оператором (обладателем информации) должны быть приняты меры защиты информации, направленные на предотвращение несанкционированного доступа или воздействия на систему ИИ, в соответствии с требованиями по защите информации (обеспечению безопасности), в том числе меры по:
- Идентификации и аутентификации пользователей системы ИИ;
- Управлению доступом пользователей системы ИИ;
- Контролю (фильтрации) входных и выходных данных;
- Обеспечению изоляции системы ИИ;
- Защите данных системы ИИ;
- Защите от вредоносного программного обеспечения;
- Выявлению уязвимостей в системе ИИ;
- Ограничению и контролю функциональности системы ИИ.
В информационной системе при эксплуатации системы ИИ дополнительно должны быть реализованы следующие меры защиты информации:
- Обеспечение фильтрации (контроля) входных данных (запросов) системы ИИ;
- Обеспечение фильтрации (контроля) выходных данных (ответов) системы ИИ;
- Мониторинг и квотирование количества запросов к системе искусственного интеллекта;
- Обеспечение регистрации событий безопасности, связанных с запросами к системе ИИ и ее ответами;
- Обеспечение целостности параметров (весов) модели ИИ и конфигурации системы ИИ.
(Окончание следует)
Источник: Консультант Плюс
https://www.consultant.ru/cons/cgi/online.cgi?req=doc;base=LAW;n=531896




