Я всегда ценил качественную аннотированную библиографию. Она подобна вехам на длинной тропе - можно остановиться у каждой; посмотреть, где другие уже побывали; и получить представление о предстоящем пути.
Предвзятость в управлении информацией - это не какая-то случайность, а то, что присутствует всегда. Настоящий вопрос заключается в том, признаём ли мы её наличие, делаем ли её видимой и выстраиваем ли вокруг неё систему подотчётности.
Ниже приведена составленная мной библиография по данному вопросу - не исчерпывающая, но включающая ключевые публикации, которые на протяжении десятилетий формировали мои взгляды на предвзятость и нейтральность.
Мой комментарий: Я не во всём согласна как с выбором публикаций, так и с их оценкой – но, полагаю, российским специалистам в любом случае было бы полезно познакомиться с этими работами (все они – на английском языке, и большинство из них доступно для бесплатного скачивания).
- Мюллер (S. Muller), Фейт (J. A. Feith) и Фруин (R. Fruin), Голландия, «Руководство по упорядочиванию и описанию архивных документов» (Manual for the Arrangement and Description of Archives, 1898/1905), 284 стр., см. https://babel.hathitrust.org/cgi/pt?id=mdp.39015057022447
В данной работе введены принципы «первоначального порядка» и беспристрастности - принципы, звучащие нейтрально, но несущие в себе скрытые допущения. - Хилари Дженкинсон (Hilary Jenkinson), «Руководство по управлению архивами» (A Manual of Archive Administration, 1922), 280 стр., см. https://archive.org/details/manualofarchivea00jenkuoft
Классическое представление об архивисте как пассивном хранителе, возводящее нейтралитет в ранг добродетели. - Т. Р. Шелленберг (T. R. Schellenberg), «Современные архивные принципы и методы» (Modern Archives: Principles and Techniques, 1956), 268 стр., см. https://babel.hathitrust.org/cgi/pt?id=mdp.39015071452539&seq=5
С появлением экспертизы ценности, суждения архивистов стали видимыми - предвзятость уже невозможно было скрыть. - Говард Зинн (Howard Zinn), «Секретность, архивы и общественный интерес» (Secrecy, Archives, and the Public Interest, 1977), 13 стр., см. https://www.iastatedigitalpress.com/archivalissues/article/id/7223/
Радикальный поворот: Зинн утверждал, что архивы неизбежно отражают точку зрения власть имущих, и их достоверность следует оспаривать. - Джоан Шварц (Joan Schwartz) и Терри Кук (Terry Cook), «Архивы, документы и власть» (Archives, Records, and Power, 2002), 20 стр., см. https://www.metaglyfix.com/jbs/pprs/SchwartzCook-Archives.pdf
Здесь появилось ставшее каноническим утверждение: архивы - это инструменты власти, а не нейтральные хранилища. - Мишель Касвелл (Michelle Caswell), «На пути к ориентированному на интересы уцелевших людей подходу к связанным с правами человека архивным документам: Уроки, извлеченные из опыта работы архивов сообществ» (Toward a Survivor-Centered Approach to Human Rights Archives: Lessons from Community-Based Archives, 2016), 26 стр., см. https://escholarship.org/uc/item/73f5s7sr
В данной статье показано, как «нейтральные» практики могут заставить уцелевших жертв молчать и тем самым усугубить причинённый вред.
- Сэнфорд Берман (Sanford Berman), «Предубеждения и антипатии» (Prejudices and Antipathies, 1971), 205 стр., см. https://www.sanfordberman.org/prejant/prejant.pdf
Книга содержит жёсткую критику предметных рубрик Библиотеки Конгресса США, разоблачающую системные предрассудки. - Хоуп Олсон (Hope Olson), «Сила именования» (The Power to Name, 1998/2002), см. https://link.springer.com/book/10.1007/978-94-017-3435-6
Феминистская критика: Именование и представление субъекта никогда не бывают нейтральными актами. - Джеффри Боукер (Geoffrey Bowker) и Сьюзан Ли Стар (Susan Leigh Star), «Сортируя вещи: Классификация и её последствия» (Sorting Things Out - Classification and Its Consequences, 1999), 195 стр., см. https://pzwiki.wdka.nl/mw-mediadesign/images/a/ae/Sorting1999.pdf (полный текст) или https://ar264sweeney.files.wordpress.com/2015/09/9780262269070_introduction.pdf (только введение)
Основополагающая работа в области науки и техники, показывающая, как классификация формирует мир, который она якобы описывает.
- Дана Бойд (danah boyd) и Кейт Кроуфорд (Kate Crawford), «Критические вопросы в отношении больших данных» (Critical Questions for Big Data, 2012), 19 стр., см. https://people.cs.kuleuven.be/~bettina.berendt/teaching/ViennaDH15/boyd_crawford_2012.pdf
Новаторское эссе, подвергающее сомнению мифы о масштабе, объективности и необработанных данных. - Сафия Нобл (Safiya Noble), «Алгоритмы угнетения: Как поисковые системы усиливают расизм» (Algorithms of Oppression: How Search Engines Reinforce Racism, 2018), 16 стр., см. https://safiyaunoble.com/wp-content/uploads/2020/09/Algorithms_Oppression_Introduction_Intro.pdf
В статье показывается, как поисковые системы воспроизводят расизм и сексизм. - Тимнит Гебру и др. (Timnit Gebru et al.), «Таблицы данных для наборов данных» (Datasheets for Datasets, 2018), 18 стр., https://arxiv.org/abs/1803.09010
Предлагается концепция документирования происхождения данных и выявления скрытых предубеждений. - Технический отчёт ISO/IEC TR 24027:2021 «Информационные технологии – Искусственный интеллект (ИИ) – Предвзятость и необъективность в ИИ-системах и при принятии решений с использованием ИИ» (Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making), см. https://www.iso.org/standard/77607.html и https://www.iso.org/obp/ui/en/#!iso:std:77607:en
Сейчас даже на уровне стандартов предвзятость признается проблемой стратегического управления.
Оглядываясь на прошедшие десятилетия, я вижу не историю исправления ошибок, а историю возвращения к данному вопросу, снова и снова. Архивисты отказались от иллюзии своего нейтралитета. Библиотекари и специалисты по информатике раскрыли политики проведения классификации. Специалисты по аналитике данных и по искусственному интеллекту всё ещё находится в процессе осознания поступающих тревожных сигналов о предвзятости.
Мы никогда не сможем полностью устранить предвзятость из наших систем. Она является частью нашего выбора, языка, который мы используем, и структур, которые мы наследуем. Наша задача заключается не столько в искоренении предвзятости, сколько в ответственном сосуществовании с ней, - выявляя её, используя сбалансированные подходы и беря на себя ответственность за последствия предвзятости.
Эндрю Поттер (Andrew Potter)
Источник: сайт Substack
https://metaarchivist.substack.com/p/from-neutrality-to-accountability
