Мой комментарий: здесь упоминается международный стандарт ISO 14971:2019 «Медицинские устройства – Применение менеджмента риска в отношении медицинских устройств» (Medical devices - Application of risk management to medical devices), см. https://www.iso.org/standard/72704.html и https://www.iso.org/obp/ui/#!iso:std:72704:en . Этот стандарт адаптирован в России как ГОСТ ISO 14971-2011 «Изделия медицинские. Применение менеджмента риска к медицинским изделиям», см. http://protect.gost.ru/v.aspx?control=8&baseC=6&id=174250 .
Опубликованный Британским институтом стандартов (BSI) документ BS AAMI 34971 «Рекомендации по применению ISO 14971 к искусственному интеллекту и машинному обучению» (см. https://shop.bsigroup.com/ProductDetail?pid=000000000030428107 ) - это руководство по применению процесса менеджмента риска при оценке медицинских технологий, использующих искусственный интеллект (artificial intelligence, AI) и машинное обучение (machine learning, ML). Он предназначен для использования совместно с международным стандартом ISO 14971. Данный документ не изменяет процесс менеджмента риска, но содержит рекомендации по применению ISO 14971 в отношении систем на основе искусственного интеллекта и машинного обучения. В этом документе внимание уделяется также типам риска, что уже рассмотрены в ISO 14971, однако он сфокусирован на тех рисках, которые являются повышенными или уникальными для медицинских устройств на основе искусственного интеллекта.
Понятие «искусственный интеллект» отражает способность компьютера выполнять задачи или функции, которые обычно связаны с человеческим интеллектом. Машинное обучение - это тип искусственного интеллекта, когда система способна обучаться на новых данных, а не следовать строгому набору правил. Искусственный интеллект и машинное обучение могут принести в здравоохранении большую пользу, включая более раннее выявление заболеваний, более персонализированные подходы к лечению и более совершенные способы оказания медицинской помощи и ухода. В то же время внедрение этих инновационных технологий также связано с рядом повышенных рисков для безопасности пациентов и для управления рабочими процессами.
В течение последних трёх лет Британский институт стандартов (BSI) и Ассоциация по совершенствованию медицинского оборудования (Association for Advancement of Medical Instrumentation, AAMI) совместно изучали безопасность и эффективность применения искусственного интеллекта и машинного обучения в медицинских технологиях. Был сделан вывод о том, что управляемые данными медицинские устройства на основе искусственного интеллекта отличаются от традиционного программного обеспечения на основе правил, в связи со следующим:
- Уровень автономии, который эти системы могут привнести в клиническую и управленческую практики,
- Способность этих устройств адаптироваться и изменять с течением времени свой отклик в качестве реакции на новые данные,
- Сложная вычислительная природа искусственного интеллекта затрудняет объяснение или понимание того, как был получен выданный искусственным интеллектом результат.
BSI AAMI 34971 - первый стандарт, разработанный в рамках этих совместных усилий по изучению использования искусственного интеллекта в медицинских технологиях. Проект документа в настоящее время выложен для публичного обсуждения.
Страница проекта на сайте BSI
Мой комментарий: Содержание документа следующее:
Предисловие
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Общие требования к системе менеджмента риска
5. Анализ риска
6. Оценка риска
7. Контроль над риском
8. Оценка общего остаточного риска
9. Анализ эффективности менеджмента риска
10. Усилия в ходе и после производства
Приложение A (справочное): Краткое описание процесса менеджмента риска
Приложение B (справочное): Примеры менеджмента риска
Приложение C (справочное): Соображения в отношении автономных систем
Данный документ следует процессу менеджмента риска, описанному в ISO 14971. В нём рассматриваются вопросы, которые могут быть приняты во внимание в отношении решений на основе искусственного интеллекта и машинного обучения, в связи с общими требованиями к системе менеджмента риска, анализу риска, оценке рисков, управлению рисками, оценке общего остаточного риска, анализу эффективности менеджмента риска и усилий в ходе и после производства. В руководстве рассматриваются конкретные проблемы, связанные с безопасностью искусственного интеллекта и машинного обучения, такие, как качество и безопасность данных, предвзятость, чрезмерное доверие и системы адаптивного обучения.
Документ BSI AAMI 34971 также предлагает пользователям, в качестве справочной информации, обзор процесса менеджмента риска согласно ISO 14971. В нем также приведен ряд примеров опасностей, связанных с искусственным интеллектом и машинным обучением, и даны некоторые дополнительные соображения в отношении автономных систем.
Общественное обсуждение проекта BSI AAMI 34971 продлится до 8 августа 2021 года, и к документу можно получить доступ через портал разработки стандартов BSI (BSI Standards Development portal - требуется пройти бесплатную регистрацию на сайте) по адресу https://standardsdevelopment.bsigroup.com/projects/2020-02770#/section . Ожидается, что окончательная версия BSI AAMI 34971 будет опубликована в конце 2021 года. Предполагается, что в будущем этот стандарт будет использоваться в качестве основы для дальнейшей глобальной стандартизации, осуществляемой в рамках Международной организации по стандартизации (ИСО) - либо посредством включения в существующие стандарты и руководства, либо как отдельный документ.
Роб Тёрпин (Rob Turpin)
Источник: сайт BSI
https://compliancenavigator.bsigroup.com/en/medicaldeviceblog/consultation-on-new-guidelines-for-the-application-of-iso-14971-to-artificial-intelligence-and-machine-learning
https://shop.bsigroup.com/ProductDetail?pid=000000000030428107
Комментариев нет:
Отправить комментарий