Документ подготовлен подкомитетом SC42 «Искусственный интеллект» (Artificial intelligence) Объединенного технического комитета ИСО/МЭК JTC1.
«Искусственный интеллект (ИИ) способен революционизировать мир и принести большую пользу обществу, организациям и отдельным людям. Однако ИИ может также создавать значительные риски и неопределенности. Специалистам, исследователям, регулирующим органам и отдельным лицам следует знать об этических и социальных проблемах, связанных с системами и приложениями ИИ.
Связанные с ИИ потенциальные этические проблемы весьма разнообразны. Примеры связанных с ИИ этических и социальных проблем включают нарушение неприкосновенности частной жизни и безопасности, дискриминационные результаты и воздействие на автономию человека. В число источников этических и социальных проблем входят (не ограничиваясь ими):
- несанкционированные средства или меры сбора, обработки или раскрытия персональных данных;
- приобретение и использование необъективных, неточных или иным образом нерепрезентативных обучающих данных;
- непрозрачность принятия решений при использовании машинного обучения (machine learning, ML) или их недостаточная документированность, также известная как отсутствие объяснимости;
- отсутствие прослеживаемости;
- недостаточное понимание социальных последствий внедрения технологий после их развёртывания.
ИИ может работать несправедливо и необъективно, особенно если он обучен на предвзятых или неподходящих данных, или же если модель или алгоритм не соответствуют решаемой задаче. Заложенные в алгоритмы ценности, а также выбор проблем, для решения которых используются системы и приложения ИИ, могут преднамеренно или непреднамеренно формироваться под влиянием собственных взглядов и когнитивных предубеждений разработчиков и заинтересованных сторон.
Дальнейшее развитие искусственного интеллекта может привести к расширению сферы использования существующих систем и приложений, к распространению их на новые области и к повышению уровня автоматизации в этих системах. Решение этических и социальных проблем до сих пор не поспевало за быстрой эволюцией ИИ. Соответственно, те, кто проектирует, разрабатывает, развёртывает ИИ, а также пользователи ИИ могут получить отдачу из гибкого применения этических концепций, принципов, инструментов и методов ИИ в плане снижения рисков, оценки этических факторов, передовых методов тестирования, оценки воздействия и анализа этичности. Данная задача может решаться с помощью инклюзивного, междисциплинарного, многопланового и межсекторального подхода, с вовлечением всех заинтересованных в ИИ сторон и с помощью международных стандартов, в которых рассматриваются вопросы, возникающие в связи с этическими и социальными проблемами ИИ, включая результаты деятельности технического подкомитета SC42 Объединенного технического комитета ИСО/МЭК JTC1.
… В настоящем документе представлен высокоуровневый обзор этических и социальных проблем, связанных с ИИ.
Кроме того, данный документ:
- содержит информацию о принципах, процессах и методах в этой области;
- предназначен для технологов, регуляторов, заинтересованных групп и для общества в целом;
- не предназначен для продвижения каких-либо конкретных ценностей (систем ценностей).
Данный документ включает обзор международных стандартов, в которых рассматриваются вопросы, возникающих в связи с этическими и социальными проблемами ИИ.»
Содержание стандарта следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Обзор
5. Практика в области прав человека
6. Темы и принципы
7. Примеры практик создания и использования этичного и социально приемлемого ИИ
8. Соображения по созданию и использованию этичного и социально приемлемого ИИ
Приложение A: Документы по принципам искусственного интеллекта
Приложение B: Примеры использования
Библиография
Источник: сайт ИСО
https://www.iso.org/standard/78507.html
https://www.iso.org/obp/ui/#!iso:std:78507:en
Комментариев нет:
Отправить комментарий