Искусственный интеллект получает широкое распространение, но что при этом делается для предотвращения потенциальных злоупотреблений этой технологией? Как США, так и Китай разрабатывают и внедряют очень продвинутые алгоритмы и приложения ИИ. Обе страны недавно детализировали свои точки зрения на то, что требуется для этичного создания и использования ИИ.
Пять принципов этичной разработки ИИ Министерства обороны США
Разработанные Министерством обороны США (см. https://www.defense.gov/News/News-Stories/Article/Article/2094085/dod-adopts-5-principles-of-artificial-intelligence-ethics/ ) пять принципов этичного ИИ следующие:
- Ответственность – ИИ-возможности будут разрабатываться и внедряться ответственно;
- Справедливость - ИИ будет осознанно разрабатываться так, чтобы предотвратить непреднамеренную предвзятость;
- Отслеживаемость - ИИ будет разрабатываться с использованием прозрачных и поддающихся аудиту методологий, источников данных и проектных решений;
- Надёжность - для ИИ будут чётко сформулированы варианты использования, и ИИ будет тестироваться с целью обеспечения безопасности и защищённости на протяжении всего жизненного цикла;
- Управляемость - после развертывания поведение ИИ будет контролироваться, и ИИ будет деактивирован, если система продемонстрирует непредусмотренное, отклоняющееся поведение.
Китай также ввёл шесть высокоуровневых принципов (см. https://techbeacon.com/enterprise-it/what-you-need-know-about-chinas-ai-ethics-rules ) стратегического управления этичностью ИИ в документе «Спецификации этики искусственного интеллекта нового поколения» (New Generation Artificial Intelligence Ethics Specifications – «新一代人工智能伦理规范», https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html ):
- Повышение благосостояния людей - ИИ должен уважать права человека и интересы человечества, уважать региональные и национальные нормы морали;
- Справедливость и равноправие - ИИ должен быть инклюзивным и защищать права всех людей;
- Контролируемость и надёжность - Люди должны иметь возможность подписаться на ИИ-сервисы или отказаться от них;
- Неприкосновенность частной жизни и безопасность – У людей должна быть возможность давать согласие на использование своих персональных данных, и должна быть защищена неприкосновенность их частной жизни;
- Этическая грамотность - необходимо продвигать и преподавать знания об этике ИИ.
Мой комментарий: Здесь перечислены лишь самые общие принципы, сформулированные в одной из статей раздела «Общие положения» китайского документа. В самом же документе этические требования рассматриваются более детально для различных вариантов управления и применения ИИ (управление, исследования и разработка, поставки, использование).
Дик Вейсингер (Dick Weisinger)
Источник: блог компании Formtek
https://formtek.com/blog/ethics-and-artificial-intelligence-china-and-us-release-governance-principles/
Комментариев нет:
Отправить комментарий