Германия: Опубликован национальный стандарт по вопросам обеспечения качества искусственного интеллекта

Тема использования искусственного интеллекта привлекает большое внимание, и постепенно начинают появляться стандарты в этой области. В конце марта 2019 года немецкий национальный орган по стандартизации DIN опубликовал технические спецификации DIN SPEC 92001-1:2019-04 «Искусственный интеллект – Процессы жизненного цикла и требования к качеству – Часть 1: Метамодель качества» (Artificial Intelligence - Life Cycle Processes and Quality Requirements - Part 1: Quality Meta Model), объёмом 23 страницы, см. https://www.beuth.de/en/technical-rule/din-spec-92001-1/303650673 .

Язык документа – английский. Документ можно получить бесплатно; для этого нужно зарегистрироваться на сайте www.beuth.de , оформить покупку в онлайн магазине и дождаться, когда документ будет открыт для скачивания (что может занять несколько дней!).

1 апреля 2019 года – но отнюдь не в качестве первоапрельской шутки – этому документу посвятил редакционную статью немецкий сайт QZ-Online.de, перевод которой я и предлагаю читателям.

Целью данной спецификации является обеспечение качества искусственного интеллекта (ИИ) посредством применения последовательного подхода на протяжении всего его жизненного цикла. С этой целью в стандарте DIN SPEC 92001-1 определена метамодель качества, охватывающая все важные существенные аспекты качества ИИ и увязывающая их друг с другом.

Основное внимание уделяется отдельным фазам жизненного цикла ИИ, для которых могут быть установлены специфические требования к качеству. Например, особенно на этапе проектирования и разработки, важно позаботиться об отсутствии искажений и предвзятости при обработке информации.

Помимо этого, метамодель выделяет функциональные возможности / производительность, стабильность и прослеживаемость в качестве трех общих целей при обеспечении качества, а также определяет элементы ИИ-модуля, которые имеют отношение к его качеству, такие как программно-аппаратная среда и данные.

Обеспечивать качество ИИ сложно

«В отличие от обычного программного обеспечения, трудно или даже невозможно оценить правила принятия решений, глядя на исходный код алгоритмов ИИ, потому что ИИ работает с очень сложными математическими моделями», - говорит Стефан Хинце (Stephan Hinze), управляющий директор компании neurocat GmbH и инициатор разработки DIN SPEC 92001-1.

«Это может усложнить управление качеством искусственного интеллекта – этот аспект, разработчики и пользователи должны учитывать на протяжении всего жизненного цикла». Чтобы облегчить им решение данной задачи, спецификации DIN SPEC 92001-1 закладывают структурную основу для обеспечения качества ИИ, с учётом этических аспектов и обеспечения безопасности во всех возможных ситуациях применения.

Степень риска имеет решающее значение

Стандарт DIN SPEC 92001-1 проводит различие между ИИ-модулями с высоким и низким уровнями риска. Степень риска определяется в зависимости от того, насколько актуальными для модулей являются вопросы безопасности, защиты персональных данных и этические проблемы. Например, для модулей высокого риска являются неоправданными и недопустимыми отклонения от установленных спецификациями требований к качеству. Примером тому могут служить приложения искусственного интеллекта в ситуациях, где жизнь людей может подвергаться опасности.

Готовящаяся вторая часть стандарта DIN SPEC 92001-2 «Искусственный интеллект – Процессы жизненного цикла и требования к качеству – Часть 2: Требования к качеству» (Artificial Intelligence – Life Cycle Processes and Quality Requirements – Part 2: Quality Requirements) будет посвящена конкретным требования по качеству для искусственного интеллекта.

Мой комментарий: Содержание DIN SPEC 92001-1:2019 следующее:

Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Обозначения и сокращения
5. Метамодель качества
5.1. Введение
5.2. Взаимосвязь ИИ-модуля и программной системы
5.3. Оценка риска
5.4. Среда, платформа, данные, модель
5.5. Жизненный цикл
5.6. Столпы качества ИИ
Библиография

Бросается в глаза, что в данном документе ни разу не упоминаются документы и документирование (что довольно-таки необычно для сферы менеджмента качества!). В связи с этим хочу отметить следующее: как профессионалам, в чьи функции входит создание, хранение, обеспечение конфиденциальности, долговременной сохранности и своевременного законного уничтожения документов и информации; обеспечение исполнения законодательно-нормативных требований к прозрачности и подотчётности деловой деятельности; а также непосредственное взаимодействие с людьми, чьи права могут быть затронуты в результате принимаемых системами на основе искусственного интеллекта решениями, - нам, архивистам и специалистам по управлению документами, стоило бы позаботиться о том, чтобы в такого рода стандартах учитывались интересы нашей профессии и накопленный нами многогранный опыт. Само собой, это следует делать не только в отношении стандартов в сфере ИИ, но и в отношении всех прочих инновационных технологий.

Источник: сайт издательства Beuth Verlag GmbH / сайт QZ-Online.de
https://www.beuth.de/en/technical-rule/din-spec-92001-1/303650673
https://www.qz-online.de/news/normen-richtlinien/artikel/8329071