Документ подготовлен подкомитетом SC42 «Искусственный интеллект» (Artificial intelligence), входящим в состав Объединенного технического комитета JTC1 «Информационные технологии» Международной организации по стандартизации (ИСО) и Международной электротехнической комиссии (МЭК).
«Искусственный интеллект (ИИ) всё больше становится ключевым компонентом в различных секторах, стимулируя инновации и повышая эффективность. В то же время внедрение ИИ порождает множество вопросов, связанных с обеспокоенностью общественности и этическими аспектами, которые требуют тщательного анализа и управления.
Этические аспекты могут быть явными или неявными в зависимости от того, насколько чётко они сформулированы и поняты в конкретном контексте, в рамках конкретных культурных норм и политик организаций.
Настоящий документ содержит рекомендации по учёту обеспокоенности общественности и этических аспектов (не предлагая каких-либо оценочных суждений) при разработке и внедрении систем ИИ.
Системы ИИ потенциально способны оказать существенное влияние на отдельных людей и на общество в целом, которое может быть как положительным, так и негативным. В документе подчеркивается важность интеграции учёта обеспокоенности общественности и этических аспектов в процессы и механизмы принятия решений организации, тем самым способствуя укреплению доверия и обеспечению подотчётности. Кроме того, документ стремится помочь организациям ответственно управлять системами ИИ, предлагая концепцию выявления и принятия во внимание обеспокоенности общественности и этических аспектов на всех этапах жизненного цикла таких систем.
Уникальные особенности систем ИИ могут вызывать дополнительную обеспокоенность по сравнению с традиционными системами. Сюда входят проблемы обеспечения прозрачности и справедливости, а также вопросы потенциального социального воздействия систем ИИ. Принимая эти факторы во внимание, организации могут добиться того, чтобы их системы ИИ не только отвечали техническим и эксплуатационным требованиям, но и соответствовали более широким общественным интересам и этическим нормам.
Таким образом, настоящий документ выполняет роль всестороннего руководства для организаций, стремящихся ориентироваться в сложном этическом ландшафте искусственного интеллекта, - предлагая им стратегии и практики, обеспечивающие положительный вклад систем ИИ в развитие общества при одновременной минимизации возможных негативных последствий.
… В настоящем документе содержатся рекомендации о том, каким образом организация может выявлять и учитывать озабоченность общественности и этические аспекты на протяжении жизненного цикла систем ИИ, потенциально способных нанести вред отдельным людям и обществу в целом.
Документ дополняет существующие стандарты по вопросам стратегического управления ИИ, системы менеджмента ИИ и оценки воздействия ИИ. Он применим в разрабатывающих или использующих системы ИИ организациях любого типа, вне зависимости от их размера, типа или характера деятельности.»
Содержание документа следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Стратегии выявления общественных опасений и этических аспектов, связанных с системами ИИ
5. Практические подходы к учету общественных опасений и этических аспектов, связанных с системами ИИ
6. Жизненный цикл системы ИИ
Приложение A (справочное): Варианты применения (для сведения)
Приложение B (справочное): Рекомендации по учету общественных опасений и этических аспектов на каждом этапе жизненного цикла системы ИИ
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/87119.html
https://standards.iteh.ai/catalog/standards/iso/79baf995-46df-4f29-a958-a6df6feef7dd/iso-iec-dts-22443
