Стандарт разработан Всероссийским научно-исследовательским институтом сертификации (АО «ВНИИС») и обществом ООО «ТВпортал», внесён Техническим комитетом по стандартизации ТК 164 «Искусственный интеллект».
«Доверие к системам искусственного интеллекта является важнейшим условием, определяющим возможность применения этих систем при решении ответственных задач обработки данных. Примерами таких задач являются поддержка принятия врачебных решений, беспилотное управление транспортными средствами и некоторые другие, ошибки при решении которых могут привести к тяжким последствиям, связанным с угрозой для жизни и здоровья людей, серьезным экономическим и экологическим ущербом.
В настоящем стандарте:
- определено понятие доверия к системам искусственного интеллекта;
- приведена классификация факторов, влияющих на качество и способность систем искусственного интеллекта вызывать доверие на стадиях жизненного цикла;
- формализована взаимосвязь качества и способности систем искусственного интеллекта вызывать доверие;
- приведена классификация основных способов обеспечения доверия к системам искусственного интеллекта.
… В настоящем стандарте рассматриваются вопросы обеспечения доверия к системам искусственного интеллекта со стороны потребителей результатов работы этих систем и, при необходимости, со стороны организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, на основе подтверждения их качества, включая:
- виды существенных характеристик систем искусственного интеллекта, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам:
- виды факторов, приводящих к снижению качества систем искусственного интеллекта;
- особенности соотношения понятий «качество систем искусственного интеллекта» и доверия к этим системам.
- особенности обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта. включая стадии создания и эксплуатации этих систем;
- вопросы обеспечения доверия на различных уровнях архитектуры систем искусственного интеллекта.
Стандарт распространяется на системы искусственного интеллекта, обеспечивающие решение конкретных практически значимых задач, и не может быть использован для систем «сильного» или «общего» искусственного интеллекта.»
Из терминологического раздела следует отметить определения, показывающие, что понимается под доверием к системам искусственного интеллекта:
3.3. Доверие к системе искусственного интеллекта: Уверенность потребителя, и при необходимости, организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, и иных заинтересованных сторон в том, что система способна выполнять возложенные на неё задачи с требуемым качеством
3.4. Доверенная система искусственного интеллекта: Система искусственного интеллекта, в отношении которой потребитель и, при необходимости, организации, ответственные за регулирование вопросов создания и применения систем искусственного интеллекта, проявляют доверие.
Содержание стандарта следующее:
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Существенные характеристики систем искусственного интеллекта
6. Факторы снижения качества на стадиях жизненного цикла систем искусственного интеллекта
7. Доверие и качество систем искусственного интеллекта
8. Способы обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта
9. Доверие и уровни архитектуры в системах искусственного интеллекта
Источник: сайт Росстандарта
http://protect.gost.ru/document1.aspx?control=31&baseC=6&id=239557
Наталья, скажите, кто-то в госархивах использует уже технологии ИИ ?
ОтветитьУдалитьВ некоторых зарубежных государственных архивах есть серьёзные проекты с неплохим финансированием. У нас, думаю, тоже кое-где пробуют, своими силами. Спектр возможностей широк, от машинного обучения с целью классификации и установления степени сркретности до распознавания лиц, объектов, рукописного текста, голоса и т.п. Даже чат-бот на телефонной линии тоже сюда попадает :)
ОтветитьУдалить