О работе над этим документом я уже упоминала на блоге, см. http://rusrim.blogspot.com/2019/08/blog-post_31.html и http://rusrim.blogspot.com/2019/12/blog-post_20.html .
Во вводной части документа сказано:
«Цель настоящего документа - проанализировать факторы, способные повлиять на степень доверия (trustworthiness) к системам, предоставляющим или использующим искусственный интеллект (далее – системы искусственного интеллекта, ИИ-системы). В документе дан краткий обзор существующих подходов, которые могут обеспечить или укрепить доверие к техническим системам, и обсуждается их потенциальное применение в системах искусственного интеллекта. В документе обсуждаются возможные подходы к смягчению уязвимостей ИИ-систем, которые связаны с возможностью им доверять. В документе также обсуждаются подходы к повышению доверия к системам искусственного интеллекта.Основные термины определены следующим образом:
… В настоящем документе рассматриваются вопросы, связанные с доверием к системам искусственного интеллекта, включая следующие:
Спецификация уровней доверия для систем искусственного интеллекта выходит за рамки настоящего документа.»
- Подходы к установлению доверия к ИИ-системам посредством обеспечения прозрачности, объяснимости, контролируемости и т.д.;
- Ошибки проектирования и связанные с ними типичные угрозы и риски для систем искусственного интеллекта, а также возможные способы и методы смягчения их последствий; а также
- Подходы к оценке и обеспечению доступности, отказоустойчивости, надёжности, точности, безопасности, защищенности и защиты неприкосновенности частной жизни в ИИ-системах.
3.4 Искусственный интеллект, ИИ (artificial intelligence, AI) - способность инженерной системы приобретать, обрабатывать и применять знания и навыкиСодержание документа следующее:
Примечание: Знания включают факты, информацию и навыки, приобретенные в результате опыта или обучения.
3.23 Машинное обучение (machine learning, ML) - процесс, с помощью которого функциональное устройство совершенствует результаты своей деятельности путём приобретения новых знаний и навыков, или путём реорганизации существующих знаний и навыков.
[Источник: ISO/IEC 2382:2015, 2123789]
3.41 Доверие (trust) - степень уверенности пользователя или другого заинтересованного лица в том, что продукт или система будут выполнять свои функции так, как это предполагалось.
[Источник: ISO/IEC 25010:2011, 4.1.3.2, перевод в редакции ГОСТ Р ИСО/МЭК 25010-2015]
3.42 Благонадёжность (trustworthiness) - способность удовлетворять ожидания заинтересованных сторон проверяемым способом
Примечание: В зависимости от условий, сектора, а также от конкретного продукта или услуги, используемых данных и технологий, для обеспечения соответствия ожиданиям заинтересованных сторон принимаются во внимание и требуют проверки различные качества.
Примечание 2: В число качеств, которые подразумевает благонадёжность, входят, например, надежность, доступность, жизнестойкость, защищённость, неприкосновенность частной жизни, безопасность, подотчётность, прозрачность, целостность, аутентичность, качество, удобство использования.
Примечание 3: Благонадёжность - это свойство, применимое к услугам, продуктам, технологиям, данным и информации, а также, в контексте стратегического управления, к организациям.
ПредисловиеИсточник: сайт ИСО
Введение
1. Область определения
2. Нормативные ссылки
3. Термины и определения
4. Обзор
5. Существующие концепции, связанные с благонадёжностью (trustworthiness)
6. Заинтересованные стороны
7. Высокоуровневые проблемы
8. Уязвимости, угрозы и вызовы
9. Меры по смягчению рисков
10. Выводы
Приложение A: Взаимосвязанные работы по социальным проблемам
Библиография
https://www.iso.org/standard/77608.html
https://www.iso.org/obp/ui/#!iso:std:77608:en
Комментариев нет:
Отправить комментарий