Для чего Счётная палата провела это исследование
Говоря об «искусственном интеллекте» (ИИ), обычно подразумевает выполнение машинами задач, ранее считавшихся требующими человеческого интеллекта. В последние годы возросли масштабы использования ИИ в сфере финансовых услуг, что обусловлено более совершенными алгоритмами, возросшей доступностью данных и рядом других факторов. Федеральные финансовые регуляторы также начали использовать инструменты ИИ для надзора за подконтрольными им организациями и финансовыми рынками.
Закон Додда-Фрэнка о реформировании Уолл-стрит и защите прав потребителей (Dodd-Frank Wall Street Reform and Consumer Protection Act) включает положение о том, что Счётная палата США должна ежегодно отчитываться о регулировании финансовых услуг. В данном отчёте анализируются
- преимущества и риски использования ИИ в сфере финансовых услуг,
- надзор федеральных финансовых регуляторов над использованием ИИ в сфере финансовых услуг, и
- использование ИИ самими регуляторами в их надзорной деятельности и контроле над рынками.
Мой комментарий: Согласно Википедии, Закон о реформировании Уолл-стрит и защите потребителей Додда- Франка (англ. The Dodd-Frank Act) - законодательный акт США, принятый 21 июля 2010 г. в целях снижения рисков американской финансовой системы. Считается наиболее масштабным изменением в финансовом регулировании США со времен Великой депрессии. Закон существенно изменил деятельность федеральных органов власти, регулирующих порядок оказания финансовых услуг, а также создал дополнительный орган финансового регулирования - Совет по надзору за финансовой стабильностью (Financial Stability Oversight Council, FSOC) (см. https://ru.wikipedia.org/wiki/Закон_Додда_—_Франка ).
Счётная палата проанализировала результаты исследований, проведенных федеральными органами исполнительной власти, учеными, отраслевыми и иными группами; изучила документацию и руководства, выпущенные федеральными финансовыми регуляторами; и провела собеседования с представителями регуляторов, потребительских и отраслевых групп, с исследователями, с представителями финансовых учреждений и поставщиков технологических решений.
Что Счётная палата обнаружила
Использование искусственного интеллекта (ИИ) финансовыми учреждениями влечёт за собой как преимущества, так и риски. ИИ применяется в таких областях, как автоматизированная (алгоритмическая) торговля, принятие решений о выдаче кредитов и обслуживание клиентов (см. рисунок). Преимущества могут включать повышение эффективности, снижение затрат и повышения качества обслуживания клиентов – примером может служить доступные персонализированные инвестиционные консультации. Однако ИИ также несёт с собой риски, включая принятие потенциально предвзятых решений о кредитовании, проблемы с качеством данных, проблемы с обеспечением неприкосновенности частной жизни (защиты персональных данных) и новые угрозы в сфере кибербезопасности.
Примеры видов деятельности, в которых финансовые учреждения используют искусственный интеллект
Федеральные финансовые регуляторы в первую очередь контролируют применение ИИ, используя существующие законы, нормативные акты, руководства и проверки на основе анализа рисков. В то же время некоторые регуляторы выпустили специальные руководства по вопросам применения ИИ - например, по использованию ИИ в кредитовании, или же провели проверки, в центре внимания которых было применение ИИ. Регуляторы сообщили Счётной палате о том, что они продолжают оценивать связанные с ИИ риски и могут доработать руководства и обновить нормативное регулирования для устранения возникающих уязвимостей.
В отличие от других банковских регуляторов, Национальное управление кредитных союзов (National Credit Union Administration, NCUA) не имеет двух ключевых инструментов, которые могли бы помочь ему в надзоре над использованием ИИ кредитными союзами. Во-первых, руководство NCUA по управлению типичными рисками ограничено по сфере охвата и детализации, и не предоставляет ни его сотрудникам, ни кредитным союзам достаточно подробной информации о том, как кредитным союзам следует управлять типичными рисками, включая риски, связанные с моделями применения ИИ. Разработка более детальных руководств, охватывающих большее количество моделей деятельности, усилит способность NCUA реагировать на риски кредитных союзов, связанные с ИИ.
Во-вторых, NCUA не имеет полномочий проверять поставщиков технологических услуг, несмотря на то, что кредитные союзы всё больше полагаются на них в отношении услуг на основе ИИ. Ранее Счётная палата уже рекомендовала Конгрессу США рассмотреть вопрос о предоставлении NCUA таких полномочий (см. отчёт GAO-15-509 «Кибербезопасность: Банковские и другие депозитарные регуляторы нуждаются в более качественной аналитике данных, а депозитарные учреждения хотят получать больше полезной информации об угрозах» (Cybersecurity: Bank and Other Depository Regulators Need Better Data Analytics and Depository Institutions Want More Usable Threat Information) от 2 июля 2015 года, см. https://www.gao.gov/products/gao-15-509 ), но по состоянию на февраль 2025 года Конгресс этого ещё не сделал. Такие полномочия укрепят способность NCUA вести мониторинг и смягчать риски третьих сторон, включая риски, связанные с поставщиками услуг ИИ.
Федеральные финансовые регуляторы все чаще интегрируют ИИ в свою оперативную деятельность в целом, в том числе в деятельность по надзору и контролю над рынками, причем характер и масштабы использования ИИ варьируются в зависимости от конкретного учреждения. Регуляторы используют ИИ для выявления рисков, поддержки исследований и детектирования потенциальных нарушений законодательства, для информирования об ошибках или выбросах. Большинство регуляторов сообщили Счётной палате о том, что полученные с помощью ИИ результаты учитываются их персоналом при принятии решений, но не используются в качестве единственного источника для принятия решений.
Рекомендации
Счётная палата повторяет свою рекомендацию 2015 года о том, чтобы Конгресс США рассмотрел вопрос о предоставлении NCUA полномочий проверять поставщиков технологических услуг для кредитных союзов. Счётная палата также рекомендует NCUA обновить свое руководство по управлению типичными рисками, чтобы охватить более широкий спектр используемых кредитными союзами моделей. NCUA в целом согласилось с этой рекомендацией.
Содержание документа следующее:
- Основные моменты
- Сопроводительное письмо
- Предыстория
- ИИ может принести пользу потребителям, учреждениям и финансовым рынкам, но также несет с собой риски
- Регуляторы используют существующие структуры для надзора над ИИ, однако у NCUA основные инструменты надзора за ИИ ограничены
- Регуляторы используют ИИ для улучшения своей надзорной деятельности и реализуют различные подходы для расширения использования ИИ
- Выводы
- Рекомендации для руководства
- Комментарии регуляторов и наша оценка
- Приложение I: Цели, сфера применения и методология
- Приложение II: Риски ИИ и избранные законы, положения и руководящие принципы, которые могут помочь с их устранением
- Приложение III: Комментарии, полученные от Национального управления кредитных союзов
- Приложение IV: Контактная информация Счётной палаты и благодарности её сотрудникам
Источник: Сайт счётной палаты США
https://www.gao.gov/products/gao-25-107197
Комментариев нет:
Отправить комментарий