Отравление данных: Порча данных с целью саботажа работы искусственного интеллекта

Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 14 декабря 2021 года на блоге компании Formtek.

Это факт жизни, что крупные технологические компании и правительства собирают Ваши персональные данные, в том числе все детали истории Вашей жизни, Вашего взаимодействия с цифровыми технологиями и даже данные мониторинга ваших биологических функций.

Среди причин, по которым компании и правительства ценят Ваши данные, можно назвать следующие:

• Данные можно монетизировать. Вероятно, это основная причина важности Ваших данные для компаний. Эти данные могут быть проданы для рекламных целей и могут быть использованы для увеличения продаж. На основе Ваших данных можно организовывать целевые, персонализированные взаимодействия с Вами, позволяющие компаниям лучше продавать и легче убеждать Вас, что Вам следует покупать у них больше продуктов и услуг.
  
  
• Ваши данные могут использоваться в качестве обратной связи, помогающей компаниям совершенствовать свои продукты и удобство их использования, чтобы они лучше соответствовали не только Вашим потребностям, но и потребностям всех пользователей.
  
  
• Данные могут быть проанализированы для выявления факторов риска или типичных вариантов использования, которые могут быть связаны со взломом или мошенничеством. Эти данные могут помочь организациям минимизировать свои риски.

Но всё чаще пользователи испытывают дискомфорт от того, что за ними следят, не имея при этом чёткого понимания того, как их персональные данные могут быть использованы во благо или во вред. Что в этом случае можно сделать? Некоторые пользователи осваивают методы «отравления данных» (data poisoning), позволяющие им предоставлять о себе неточную информацию или приводящие к тому, что интерпретация их «цифрового профиля» будет отличаться от их истинного «я».

Старший преподаватель Мельбурнского университета (Австралия) Сара Эрфани (Sarah Erfani, https://findanexpert.unimelb.edu.au/profile/639922-sarah-monazam-erfani ) говорит, что отравление данных «может быть использовано физическим лицом в качестве ключа, позволяющего заблокировать свои данные. Это новая передовая линия защиты цифровых прав людей в эпоху искусственного интеллекта».

Что же делают пользователи? Распространенными методами отравления данных являются создание псевдонима пользователя с указанием вымышленных имен и адресов электронной почты, а также частая очистка куки-файлов, скопившихся в кеше браузера. Однако в последнее время также внедряются методы, способные помешать ИИ-инструментам, таким, как средствам распознавания лиц. Например, такие исследователи, как Эрфани, создали приложения, которые могут изменять изображения (например, селфи) таким образом, чтобы люди эти изменений не замечали, но чтобы при этом данные изображения могли вызывать проблемы и сбои в работе программного обеспечения на основе ИИ для распознавания лиц.

Дик Вейсингер (Dick Weisinger)

Источник: блог компании Formtek
https://formtek.com/blog/data-poisoning-corrupting-data-to-thwart-ai/