Введение: Переосмысление этичного ИИ сквозь призму управления документами и информацией
По мере распространения технологий искусственного интеллекта (ИИ) в государственном и частном секторах, одной из центральных проблем стало этичное стратегическое управление ИИ. Как организации, так и регулирующие органы стремятся разработать принципы ответственного ИИ, концепции обеспечения подотчётности и протоколы соответствия законодательно-нормативным требованиям. Однако многие из этих проблем не новы - фактически, специалисты по управлению документами и информацией уже давно сталкиваются с теми же вопросами этики, которые теперь заново поднимаются уже в контексте ИИ: как обеспечить качество данных, как поддерживать прозрачность, как защищать персональные и поддерживать доверие общественности.
В данной статье приводятся аргументы в пользу того, что этичное стратегическое управление ИИ может и должно опираться на устоявшиеся принципы и методы управления документами и информацией. Специалисты по управлению документами не только не остаются на обочине прогресса, но и, напротив, играют ключевую роль в управлении рисками и в реализации на практике преимуществ ИИ. Многие принципы ИИ отражают давно устоявшиеся ценности архивного дела, а такие инструменты, как средства управления онтологиями и метаданными, предлагают практические пути к обеспечению подотчётности, объяснимости и исполнения законодательно-нормативных требований.
Роль управления документами и информацией в обеспечении этичного стратегического управлении ИИ
Традиционно практика управления документами разрабатывалась для создания, поддержания и обеспечения доступности информации в рамках бумажной парадигмы. Теперь же организации создают и поддерживают колоссальные по объёму хранилища цифровой информации, от баз данных с миллионами содержащихся в них электронных писем до унаследованных систем и общих дисков, полных неструктурированного контента, - и сегодня нам необходимо проводить экспертизу ценности этой информации, классифицировать ее и устанавливать для неё сроки хранения и действия по их истечении. Однако люди уже не в состоянии сортировать всю эту информацию вручную, поэтому нам необходима автоматизация выполнения задач управления документами и информацией, а также нужен ИИ для масштабирования этих усилий, поддерживаемый разработкой моделей на основе онтологий.
Поскольку профессия управления документами начинает подвергаться кардинально трансформироваться под влиянием ИИ, оказывая в свою очередь воздействие на базовые для общества функции, от здравоохранения и образования до выполнения таких базовых операций, как разработка политик и предоставление услуг, - то потребность в надёжных этичных концепциях и механизмах стратегического управления становится всё более насущной. Мы наблюдаем появление (часто самопровозглашённых) новых ролей, таких как «специалисты по этике ИИ» и «эксперты по стратегическому управлению ИИ», а также новых сопутствующих отраслей. Однако по своей сути, этичный ИИ и этичное стратегическое управление представляют собой всего лишь расширения традиционной этики работы с информацией и стратегического управления документами. Рост популярности упомянутых «новых» ролей, на мой взгляд, отражает лишь то, насколько плохо мы внедряли эту основополагающую инфраструктурную практику управления информацией и данными на протяжении последних нескольких десятилетий.
В статье рассматривается, как и почему принципы стратегического управления данными, общественные ожидания, исполнение законодательно-нормативных требований (комплайнс) и другие ключевые факторы, лежащие в основе этичного управления системами ИИ, - это не более чем недоиспользуемые уже существующие возможности, предоставляемые системами управления документами и информацией. Также рассматривается важнейшая роль, которую основанные на онтологиях подходы могут сыграть в плане поддержки хорошей практики управления документами и информацией в деловых системах на основе ИИ.
Новая тема «этичного стратегического управления ИИ» и традиционные практики управления документами и информацией имеют общее «ядро», отражающее одну и ту же фундаментальную потребность в обеспечении стратегического управления, исполнения законодательно-нормативных требований и учёта этических соображений. Стандарт ISO 15489 по управлению документами описывает такие атрибуты информации, как надёжность, целостность, аутентичность и пригодность к использованию. Далее будет показано, как существующая практика управления информацией фактически стремится к получению тех же результатов, что и этичное применение и стратегическое управление ИИ.
1. Качество и целостность информации и данных
Высококачественная информация имеет решающее значение для успеха деловых ИИ-систем. Некачественная информация и данные могут привести к неточным моделям, предвзятым результатам и подрыву доверия. Управление качеством информации включает в себя строгие процессы проверки, очистки (в т.ч. хранение в течение установленных сроков и уничтожение по их истечении) и обогащения (управление метаданными), которые являются основополагающими аспектами стратегического управления ИИ. Кроме того, решение проблемы связанного с качеством информации «технического долга», т.е. затрат на отложенное обслуживание и потерь ввиду неоптимальности решений, имеет крайне важное значение для поддержания целостности и производительности деловых ИИ-систем. Это требует постоянных инвестиций в инфраструктуру данных, в политики управления документами и информацией, а также в методы стратегического управления, с тем, чтобы предотвратить накопление этой информации и технического долга, связанного с качеством данных.
Таким образом:
- Этичное стратегическое управление ИИ: Подчеркивает необходимость высококачественных, точных и объективных данных для обеспечения генерирования системами ИИ надёжных и справедливых результатов.
- Управление документами и информацией: Уделяет основное внимание поддержанию целостности и точности документов на протяжении всего их жизненного цикла с целью обеспечения надёжности информации и возможности ей доверять.
2. Исполнение законодательно-нормативных требований
Концепции этичного ИИ, такие как разработки Евросоюза, Организации экономического сотрудничества и развития (ОЭСР - Organization for Economic Co-operation and Development, OECD), международные стандарты ИСО серии ISO 42000 и концепции американского Национального института стандартов и технологий (NIST) и Международной ассоциации специалистов по электротехнике и радиоэлектронике (IEEE), продвигают такие принципы, как справедливость, подотчётность, прозрачность и объяснимость.
Положения законодательства эволюционируют, реагируя на связанные с ИИ проблемы. Такие нормативные акты, как Закон Евросоюза об ИИ (AI Act), устанавливают строгие требования к защите персональных данных (ПДн), прозрачности и подотчётности и опираются на существующие принципы стратегического управления данными, подчёркивая необходимость законной, справедливой и прозрачной обработки данных. Соблюдение этих законодательно-нормативных требований делает необходимым глубокое понимания вопросов этики и стратегического управления данными, поскольку организациям приходится ориентироваться в условиях сложного нормативно-правового ландшафта, чтобы обеспечить соответствие своих систем ИИ положениям законодательства.
Таким образом, обеспечения соответствия законодательно-нормативным требованиям - вопрос не новый. Например, первой связанной с требованиями законодательства проблемой в области управления информацией стало принятие в Швеции в 1766 году первого Закона о свободе доступа к государственной информации.
Таким образом:
- Этичное стратегическое управление ИИ: Требует исполнения положений законов и нормативных актов, касающихся защиты персональных данных, обеспечения неприкосновенности частной жизни и этичного использования ИИ, таких как законы Евросоюза о защите персональных данных (GDPR) и об ИИ.
- Управление документами и информацией: Включает решение задачи исполнения различных законодательно-нормативных требований, касающихся сроков хранения данных, защиты персональных данных и доступа к данным, обеспечивая управление документами в соответствии с действующим законодательством.
(Продолжение следует)
Стивен Кларк (Stephen Clarke)
Источник: сайт Substack
https://steffclarke.substack.com/p/the-convergence-of-ai-governance
Комментариев нет:
Отправить комментарий