Во вводной части документа отмечается:
«Мотивация для создания качественной документации для систем основе ИИ стала очень высокой, поскольку эти системы начали широко использоваться, и было введено законодательно-нормативное регулирование с целью ограничения потенциальных рисков, которые могут возникнуть вследствие того, что такие системы разрабатываются и поставляются на рынок с ненадлежащими характеристиками. Одна из целей смягчения этих рисков - завоевать доверие лиц, вовлечённых и затронутых такими системами на основе ИИ.
… Документация систем ИИ служит для достижения нескольких критически важным целей, каждая из которых адаптируется с учётом особенностей различных заинтересованных сторон и нормативно-правовой среды. Документация главным образом необходима для обеспечения прозрачности, подотчетности и возможности доверять системам ИИ (более глубокий анализ рисков, связанных с недостаточно хорошо документированными системами ИИ, представлен в Приложении C). Документация систем ИИ может создаваться и использоваться в различных целях, от выполнения законодательно-нормативных требований и до предоставления знаний о технических основах системы - в зависимости от её целевой аудитории и назначения:
- Соблюдение законодательно-нормативных требований и стандартов. Одной из главных причин для документирования систем ИИ является исполнение законодательно-нормативных требований и соблюдение стандартов. Государственные и отраслевые органы устанавливают строгие правила для обеспечения справедливого, безопасного и непредвзятого функционирования систем ИИ. Надлежащая документация помогает организациям продемонстрировать соблюдение ими законов, таких как Закон Евросоюза об искусственном интеллекте и закон GDPR о защите персональных данных. Она подробно описывает, каким образом обрабатываются данные, как модели тестируются на справедливость и предвзятость, и каким образом решения, принимаемые системами ИИ, согласуются с этическими и правовыми стандартами. Организации могут эффективнее проходить аудиты и смягчать правовые риски благодаря ведению всесторонней документации,
- Источник сведений о результатах сравнительного анализа и о рейтинговых оценках. Помимо исполнения законодательно-нормативных требований, документация по системам ИИ также играет важную роль в сравнительном анализе и рейтинговых оценках. Системы ИИ часто оцениваются на основе их точности, надёжности и эффективности. Документация по сравнительному анализу содержит сведения об используемых для оценки наборах данных, об используемых методологиях, а также о сопоставлении результатов оценки с отраслевыми стандартами или предыдущими моделями. Такая прозрачность позволяет исследователям и разработчикам оценивать сильные и слабые стороны модели ИИ, обеспечивая постоянное совершенствование и способствуя инновациям.
- Прозрачность данных. Еще одним ключевым аспектом документации по системам ИИ является возможность получить представление об источниках данных, используемых для обучения и тестирования. Данные являются основой любой системы ИИ, и понимание их происхождения, состава и потенциальных предвзятостей имеет крайне важное значение. Документация должна описывать, каким образом наборы данных комплектовались, очищались и обрабатывались. Документация должна привлекать внимание к внутренне присущие данным ограничениям и предвзятостям, и описывать шаги, предпринимаемые для смягчения этих проблем. Такой уровень прозрачности помогает пользователям и регулирующим органам оценивать надежность и справедливость системы ИИ.
- Прозрачность процесса проектирования и разработки системы. Процесс разработки и внутренняя архитектура системы ИИ также требуют тщательного документирования. Сюда входят объяснения и описания решений, принятых при выборе архитектуры модели, процедур обучения, настройки гиперпараметров и модификаций алгоритмов. Для инженеров и исследователей такая документация служит «дорожной картой», облегчающей совместную работу, отладку и будущие итерации. Понимание того, как создавалась система ИИ, и обоснования выбранных проектных решений позволяет соответствующим группам совершенствовать свои подходы и со временем повышать производительность.
Все эти усилия по документированию способствуют достижению более широкой цели повышения доверия к системам ИИ. Идёт ли речь о контролирующих органах, обеспечивающих соответствие законодательно-нормативным требованиям; об исследователях, оценивающие производительность; или о конечных пользователях, желающих получить подтверждения справедливости и надежности системы ИИ, - хорошо документированные системы ИИ укрепляют уверенность и доверие. Прозрачность данных, проектирования и процессов принятия решений убеждает заинтересованные стороны в том, что система ИИ работает так, как задумано, и соответствует этическим и правовым ожиданиям. Ведение документации системы ИИ - это не просто административное требование, а фундамент для ответственной разработки ИИ. Документация устраняет разрыв между техническими инновациями и общественным доверием, обеспечивая, что системы ИИ не только эффективны, но и подотчетны, справедливы и надёжны.
… В настоящем документе содержатся указания и рекомендации по схемам документирования, которые поддерживают непрерывное и последовательное документирование качества и связанных с качеством атрибутов систем на основе ИИ.
Документ включает анализ существующих схем документирования и примеры использования. Он также описывает процесс документирования систем на основе ИИ.»
Содержание документа следующее:
Предисловие
Использование модальных глаголов
1. Область применения
2. Литература
3. Определение терминов, обозначения и сокращения
4. Цель документации
5. Мотивация для создания гармонизированной схемы документации
6. Подход к документированию систем на основе ИИ
7. Руководство по документации, соответствующей Закону Евросоюза об ИИ
Приложение A (справочное): Примеры сценариев документирования
Приложение B (справочное): заслуживающий доверия ИИ - определение и основные характеристики
Приложение C (справочное): Смягчение рисков посредством документирования
Приложение D (справочное): Схемы документирования и анализ имеющихся в них пробелов в плане исполнения требований Закона Евросоюза об ИИ
История версий
Источник: сайт ETSI
https://portal.etsi.org/webapp/WorkProgram/Report_WorkItem.asp?WKI_ID=69613
https://docbox.etsi.org/MTS/MTS/07-Drafts/0020187318/MTS-20187318v005.docx
Комментариев нет:
Отправить комментарий