(Продолжение, начало см. http://rusrim.blogspot.com/2024/01/1.html )
Управление документами как инструмент минимизации вреда
Заинтересованные стороны все больше осознают то влияние, которое использование ИИ-технологий оказывает на непосредственно затрагивающие их интересы решения и действия. Было продемонстрировано, что использование ИИ-технологий без учета их возможного воздействия на все заинтересованные стороны способно привести к причинению вреда. Документы обеспечивают документированные доказательства того, что произошло.
В таблице ниже описаны некоторые риски и виды вреда, связанные с использованием ИИ-технологий, а также способы, посредством которых хорошие практики управления документами могут помочь в их смягчении (список не является исчерпывающим).
Таблица 2
Создание и управление документами об ИИ-технологиях
Вопросы управления документами следует принимать во внимание на всех этапах жизненного цикла при разработке и внедрении ИИ-технологий.
Приведенный ниже перечень является отправной точкой для формирования списка аспектов, которые могут быть рассмотрены для обеспечения точности и прозрачности в рамках программы управления документами:
1. Выявление, описание и документирование всех используемых в организации ИИ-систем, включая следующие сведения:
- намеченная цель и результаты,
- ожидаемая отдача,
- тип используемого ИИ,
- контекст и сфера использования,
- стадия реализации,
- источники данных,
- выявленный возможный ущерб и риски,
- реализованные для смягчения рисков средства контроля и управления либо системы; и
- прочая полезная информация - например, сведения о том, что не может быть задокументировано (например, о «технологиях чёрного ящика», которые не раскрывают алгоритмы и/или иные элементы, используемые для принятия решений).
2. Документирование и подготовка отчётности о том, как система работала во времени (например, используя автоматическое протоколирование для документирования событий, сбор отчётов о проблемах и их распространении, сбор результатов программ оценки и мониторинга).
3. Определение и документирование того, какой контент может быть создан и захвачен с помощью ИИ-технологий, что должно быть создано и захвачено человеком, а для создаваемого ИИ контента - в какие моменты должен подключаться человек.
4. Определение и документирование того, какие действия могут быть предприняты ИИ и когда должен быть вовлечён человек для подтверждения или выполнения действия.
5. Обеспечение прозрачности и подотчётности в отношении прав собственности и ответственности в отношении всех типов используемого ИИ:
- обеспечение чёткого указания авторства (или прозрачное признание вопросов, связанных с установлением авторства) текста, изображений, аудио- и видеоматериалов, созданных с помощью порождающего (генеративного) ИИ;
- установление надлежащего надзора и определение ответственности (включая порядок делегирования полномочий и подотчетности) для каждой используемой ИИ-системы, с учётом сбоев ИИ-системы, чрезмерного и злонамеренного использования ИИ;
- определить правовых требований и/или обязательств, применимых к каждой системе, и тщательное установление правовой ответственности за ущерб или ошибки перед субъектами в цепочке создания добавленной стоимости ИИ, с размещением эффективных меры защиты в наиболее эффективных и подходящих точках.
6. Создание программы непрерывно проводимой оценки и мониторинга, которая оценивает надёжность ИИ-технологий и возможность им доверять:
- использование разработанной на основе набора этических принципов системы оценки для оценивания ИИ-технологий и систем, от этапа концептуализации / проектирования до этапов внедрения и эксплуатации;
- оценивание эффективности ИИ-технологий с точки зрения риска, предвзятости и возможного вреда, и принятие мер для их смягчения или устранения;
- документирование и подготовка отчётности о результатах в рамках непрерывно осуществляемой программы мониторинга и оценки.
(Окончание следует, см. http://rusrim.blogspot.com/2024/01/3.html )
Источник: сайт PROV
https://prov.vic.gov.au/recordkeeping-government/a-z-topics/AI
Комментариев нет:
Отправить комментарий