От нейтральности к подотчётности: Предвзятость в архивах, информатике и данных (библиография)

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 25 сентября 2025 года в социальной сети Substack.

Я всегда ценил качественную аннотированную библиографию. Она подобна вехам на длинной тропе - можно остановиться у каждой; посмотреть, где другие уже побывали; и получить представление о предстоящем пути. 

На протяжении многих лет я снова и снова возвращаюсь к литературе по вопросу предвзятости в архивах, в информатике и - в последнее время - в управлении данными. Я делаю это не в надежде когда-нибудь «охватить всё», а потому, что меня постоянно тянет назад одна и та же мысль: каждому поколению приходилось разбираться с тем фактом, что мы [архивисты – Н.Х.] не нейтральны в своей работе.

Предвзятость в управлении информацией - это не какая-то случайность, а то, что присутствует всегда. Настоящий вопрос заключается в том, признаём ли мы её наличие, делаем ли её видимой и выстраиваем ли вокруг неё систему подотчётности.

Ниже приведена составленная мной библиография по данному вопросу - не исчерпывающая, но включающая ключевые публикации, которые на протяжении десятилетий формировали мои взгляды на предвзятость и нейтральность.

Мой комментарий: Я не во всём согласна как с выбором публикаций, так и с их оценкой – но, полагаю, российским специалистам в любом случае было бы полезно познакомиться с этими работами (все они – на английском языке, и большинство из них доступно для бесплатного скачивания).

Архивоведение

• Мюллер (S. Muller), Фейт (J. A. Feith) и Фруин (R. Fruin), Голландия, «Руководство по упорядочиванию и описанию архивных документов» (Manual for the Arrangement and Description of Archives, 1898/1905), 284 стр., см. https://babel.hathitrust.org/cgi/pt?id=mdp.39015057022447  
  
  В данной работе введены принципы «первоначального порядка» и беспристрастности - принципы, звучащие нейтрально, но несущие в себе скрытые допущения.
  
  
• Хилари Дженкинсон (Hilary Jenkinson), «Руководство по управлению архивами» (A Manual of Archive Administration, 1922), 280 стр., см. https://archive.org/details/manualofarchivea00jenkuoft  
  
  Классическое представление об архивисте как пассивном хранителе, возводящее нейтралитет в ранг добродетели.
  
  
• Т. Р. Шелленберг (T. R. Schellenberg), «Современные архивные принципы и методы» (Modern Archives: Principles and Techniques, 1956), 268 стр., см. https://babel.hathitrust.org/cgi/pt?id=mdp.39015071452539&seq=5 
  
  С появлением экспертизы ценности, суждения архивистов стали видимыми - предвзятость уже невозможно было скрыть.
  
  
• Говард Зинн (Howard Zinn), «Секретность, архивы и общественный интерес» (Secrecy, Archives, and the Public Interest, 1977), 13 стр., см. https://www.iastatedigitalpress.com/archivalissues/article/id/7223/
  
  Радикальный поворот: Зинн утверждал, что архивы неизбежно отражают точку зрения власть имущих, и их достоверность следует оспаривать.
  
  
• Джоан Шварц (Joan Schwartz) и Терри Кук (Terry Cook), «Архивы, документы и власть» (Archives, Records, and Power, 2002), 20 стр., см. https://www.metaglyfix.com/jbs/pprs/SchwartzCook-Archives.pdf
  
  Здесь появилось ставшее каноническим утверждение: архивы - это инструменты власти, а не нейтральные хранилища.
  
  
• Мишель Касвелл (Michelle Caswell), «На пути к ориентированному на интересы уцелевших людей подходу к связанным с правами человека архивным документам: Уроки, извлеченные из опыта работы архивов сообществ» (Toward a Survivor-Centered Approach to Human Rights Archives: Lessons from Community-Based Archives, 2016), 26 стр., см. https://escholarship.org/uc/item/73f5s7sr
  
  В данной статье показано, как «нейтральные» практики могут заставить уцелевших жертв молчать и тем самым усугубить причинённый вред.

Информатика

• Сэнфорд Берман (Sanford Berman), «Предубеждения и антипатии» (Prejudices and Antipathies, 1971), 205 стр., см. https://www.sanfordberman.org/prejant/prejant.pdf
  
  Книга содержит жёсткую критику предметных рубрик Библиотеки Конгресса США, разоблачающую системные предрассудки.
  
  
• Хоуп Олсон (Hope Olson), «Сила именования» (The Power to Name, 1998/2002), см. https://link.springer.com/book/10.1007/978-94-017-3435-6
  
  Феминистская критика: Именование и представление субъекта никогда не бывают нейтральными актами.
  
  
• Джеффри Боукер (Geoffrey Bowker) и Сьюзан Ли Стар (Susan Leigh Star), «Сортируя  вещи: Классификация и её последствия» (Sorting Things Out - Classification and Its Consequences, 1999), 195 стр., см. https://pzwiki.wdka.nl/mw-mediadesign/images/a/ae/Sorting1999.pdf (полный текст) или https://ar264sweeney.files.wordpress.com/2015/09/9780262269070_introduction.pdf (только введение)
  
  Основополагающая работа в области науки и техники, показывающая, как классификация формирует мир, который она якобы описывает.

Управление данными и алгоритмами

• Дана Бойд (danah boyd) и Кейт Кроуфорд (Kate Crawford), «Критические вопросы в отношении больших данных» (Critical Questions for Big Data, 2012), 19 стр., см. https://people.cs.kuleuven.be/~bettina.berendt/teaching/ViennaDH15/boyd_crawford_2012.pdf 
  
  Новаторское эссе, подвергающее сомнению мифы о масштабе, объективности и необработанных данных.
  
  
• Сафия Нобл (Safiya Noble), «Алгоритмы угнетения: Как поисковые системы усиливают расизм» (Algorithms of Oppression: How Search Engines Reinforce Racism, 2018), 16 стр., см. https://safiyaunoble.com/wp-content/uploads/2020/09/Algorithms_Oppression_Introduction_Intro.pdf
  
  В статье показывается, как поисковые системы воспроизводят расизм и сексизм.
  
  
• Тимнит Гебру и др. (Timnit Gebru et al.), «Таблицы данных для наборов данных» (Datasheets for Datasets, 2018), 18 стр., https://arxiv.org/abs/1803.09010
  
  Предлагается концепция документирования происхождения данных и выявления скрытых предубеждений.
  
  
• Технический отчёт ISO/IEC TR 24027:2021 «Информационные технологии – Искусственный интеллект (ИИ) – Предвзятость и необъективность в ИИ-системах и при принятии решений с использованием ИИ» (Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making), см. https://www.iso.org/standard/77607.html и https://www.iso.org/obp/ui/en/#!iso:std:77607:en 
  
  Сейчас даже на уровне стандартов предвзятость признается проблемой стратегического управления.

Заключительные мысли

Оглядываясь на прошедшие десятилетия, я вижу не историю исправления ошибок, а историю возвращения к данному вопросу, снова и снова. Архивисты отказались от иллюзии своего нейтралитета. Библиотекари и специалисты по информатике раскрыли политики проведения классификации. Специалисты по аналитике данных и по искусственному интеллекту всё ещё находится в процессе осознания поступающих тревожных сигналов о предвзятости.

Мы никогда не сможем полностью устранить предвзятость из наших систем. Она является частью нашего выбора, языка, который мы используем, и структур, которые мы наследуем. Наша задача заключается не столько в искоренении предвзятости, сколько в ответственном сосуществовании с ней, - выявляя её, используя сбалансированные подходы и беря на себя ответственность за последствия предвзятости.

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/from-neutrality-to-accountability