США: Для публичного обсуждения выложен первоначальный проект специальной публикации NIST SP 800-226 «Руководство по оценке дифференцированных гарантий неприкосновенности частной жизни»

Данный пост консультанта Катарины Кернер (Katharina Koerner) был опубликован 12 декабря 2023 года в социальной сети LinkedIn.

11 декабря 2023 года американский Национальный институт стандартов и технологий (National Institute of Standards and Technology, NIST) опубликовал долгожданный первоначальный проект специальной публикации NIST SP 800-226 «Руководство по оценке дифференцированных гарантий неприкосновенности частной жизни» (Guidelines for Evaluating Differential Privacy Guarantees)! Срок подачи замечаний и предложений - до 25 января 2024 года, см.: https://csrc.nist.gov/pubs/sp/800/226/ipd .

Мой комментарий: Документ объёмом 64 страницы доступен по адресу https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-226.ipd.pdf

Дифференцированная защита неприкосновенности частной жизни (differential privacy, DP – также используется термин «дифференциальная приватность» - Н.Х.) - это технология повышения защищённости неприкосновенности частной жизни (персональных данных), которая помогает реализовать для ответственного искусственного интеллекта (ИИ) принцип неприкосновенности частной жизни посредством введения чёткого математического определения (а не процесса или метода) для количественной оценки риска для неприкосновенности частной жизни (персональных данных) физических лиц в ситуации, когда их данные попадают в наборы данных.

Дифференцированная гарантия неприкосновенности частной жизни (DP-гарантия) заключается в том, что когда данные анализируются или публикуются, результат будет похожим независимо от того, предоставит ли конкретное физическое лицо свои данные или нет.

Например, если Вы в прошлом месяце купили кофе-латте в своей любимой кофейне, результатом анализа данных о продажах в этой кофейне может оказаться то, что в прошлом месяце было продано 873 порции кофе-латте. DP-гарантия говорит о том, что этот результат мог быть с одинаковой вероятностью получен как с включением Ваших данных, так и без них.

Готовящаяся публикация NIST имеет огромное значение для анализа персональных данных средствами аналитики больших данных и искусственного интеллекта / машинного обучения без риска серьезного ущерба для неприкосновенности частной жизни (защищённости персональных данных) физического лица.

Цель данной публикации – помочь специалистам-практикам различать сильные и слабые DP-гарантии, а также заложить основу для разработки стандартов, которые позволят проводить оценку DP-гарантий и сертификацию систем. Публикация подготовлена во исполнение поручения, данного NIST в октябрьском 2023 года исполнительном приказе президента США об искусственном интеллекте.

Мой комментарий: Полное название упомянутого исполнительного приказа – «Исполнительный приказ 14110 о безопасном, надежном и заслуживающем доверия разработке и использовании искусственного интеллекта» (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, EO 14110) от 30 октября 2023 года. Документ объёмом 88 страниц был официально опубликован 1 ноября 2023 года и доступен по адресу https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/  

Публикация состоит из 3 частей:

Часть I даёт определение понятию «дифференцированная защита неприкосновенности частной жизни» (DP):

• В контексте DP объясняется величина «эпсилон» (ε), относящаяся к вероятности того, что механизм защиты персональных данных приведёт к получению аналогичных результатов как при включении ПДн физического лица в обработку, так и без них.
  
  
• Меньшее значение ε означает более сильную защиту персональных данных, но при этом более низкую точность результатов. Большее значение ε означает более слабую защиту персональных данных, но при этом более высокую точность результатов. Такая динамика называется компромиссом неприкосновенности частной жизни (защищённости ПДн) и полезности.
  
  
• Вопрос о том, как устанавливать значение ε, всё еще является предметом исследований.

Часть II описывает методы DP:

• «Строительные блоки», используемые в DP-алгоритмах;
  
  
• Отмечается, что определенные методы DP могут привнести или усилить системные и статистические отклонения / предвзятость в результатах;
  
  
• Сценарии, в которых могут использоваться DP-алгоритмы: аналитические запросы, регрессия, машинное обучение, генерация синтетических данных и анализ неструктурированных данных;
  
  
• Как и в криптографии, желательно по возможности использовать существующие библиотеки.

В части III рассматриваются проблемы, связанные с развёртыванием:

• Важно разработать модель угроз с предположениями о том, насколько надежными и заслуживающими доверия должны, как ожидается, быть компоненты системы;
  
  
• Сама по себе DP не обеспечивает защиту данных на этапах их сбора, хранения и анализа. Сбои в обеспечении безопасности данных могут привести к утечке данных, что сделает DP-гарантии бессмысленными;
  
  
• Неприкосновенность частной жизни (защищённость ПДн) можно повысить, объединив DP с криптографическими методами, такими как безопасные многосторонние вычисления (secure multi-party computation, MPC) и полностью гомоморфное шифрование (fully homomorphic encryption, FHE).

Авторами публикации являются Джозеф Нир (Joseph Near) и Дэвид Дарэ (David Darais),  с участием Наоми Лефковиц (Naomi Lefkovitz) и Гэри Ховарта (Gary Howarth), при поддержке Кристин Таск (Christine Task) и Дэмьена Дефонтена (Damien Desfontaines).

Катарина Кернер (Katharina Koerner)

Источник: сайт LinkedIn / сайт NIST
https://www.linkedin.com/posts/katharina-koerner-privacyengineering_nist-draft-guidelines-for-differential-privacy-activity-7140071119859957762-x8D4
https://csrc.nist.gov/pubs/sp/800/226/ipd
https://doi.org/10.6028/NIST.SP.800-226.ipd
https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-226.ipd.pdf