Данная новость была опубликована 28 марта 2024 года на сайте американского Белого Дома.
Мой комментарий: Речь идёт об опубликованным Административно-бюджетным управлением президентской администрации (Office of management and budget, OMB) меморандуме M-24-10 «Совершенствование стратегического управления, инноваций и управления рисками при использовании искусственного интеллекта федеральными органами исполнительной власти» (Advancing Governance, Innovation, and Risk Management for Agency Use of Artificial Intelligence) объёмом 34 страницы, см. https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf
В то время, как применение искусственного интеллекта (ИИ) улучшает оперативную деятельность и оказание услуг в масштабах всего федерального правительства США, федеральным органам исполнительной власти (агентствам) необходимо эффективно управлять его использованием.
Данный меморандум устанавливает новые требования и рекомендации для федеральных органов исполнительной власти по управлению ИИ, инновациям и управлению рисками, в том числе посредством применения специфических практик управления с минимальным риском в ситуациях, когда использование ИИ может повлиять на права и безопасность граждан.
Укрепление стратегического управления искусственным интеллектом. Управление рисками ИИ и продвижение связанных с ИИ инноваций требует эффективного стратегического управления ИИ.
В соответствии с требованиями Исполнительного приказа Президента США №14110 о безопасных, надежных и заслуживающих доверия разработке и использовании искусственного интеллекта (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, EO 14110) от 30 октября 2023 года (о нём см. мой пост https://rusrim.blogspot.com/2023/11/blog-post_449.html - Н.Х.), в течение 60 дней с даты издания настоящего меморандума каждое ведомство должно назначить уполномоченного по искусственному интеллекту (Chief AI Officer, CAIO).
В данном меморандуме описаны роли, обязанности, старшинство, должностное положение и структура подотчетности для уполномоченных по ИИ (CAIO) федеральных органов исполнительной власти, включая расширенную отчетность посредством ведения реестра вариантов использования ИИ ведомством (AI use case inventory).
Поскольку ИИ глубоко взаимосвязан с другими техническими областями и политиками, касающимися данных, информационных технологий (ИТ), безопасности, защиты персональных данных, гражданских прав и свобод, качества обслуживания клиентов и управления кадрами, уполномоченные по ИИ должны работать в тесной координации с существующими в их ведомствах ответственными должностными лицами и организациями.
Мой комментарий: У нас в России, когда непонятно, что делать – мы создаём какой-нибудь комитет (а лучше несколько). В США в таких случаях назначают уполномоченного или директора по соответствующему вопросу, что часто оказывается даже более неудачным вариантом – если, как это часто делается, вводится новая должность, то возникает новая бюрократическая «прокладка», пытающаяся присвоить себе все полномочия и заслуги, и мешающая оперативному взаимодействию заинтересованных сторон (в первую очередь с высшим руководством ведомства). К тому же за последние годы уполномоченных развелось столько, что теперь они редко получают какой-то особый статус в своём ведомстве.
Продвижение ответственных инноваций в области ИИ. При наличии соответствующих защитных мер, ИИ может быть полезным инструментом модернизации деятельности федеральных органов исполнительной власти и улучшения обслуживания населения органами федерального правительства. С этой целью федеральные органы исполнительной власти должны повысить свои возможности по ответственному внедрению ИИ, включая порождающий (генеративный) ИИ, и предпринять шаги, создающие условия для совместного использования и повторного использования ИИ-моделей, кода и данных.
Данный меморандум требует, чтобы каждый федеральный орган исполнительной власти, названный в Законе о финансовых директорах (Chief Financial Officers Act, CFO Act), разработал корпоративную стратегию того, как он будет продвигать ответственное использование ИИ. В данном меморандуме также содержатся рекомендации о том, как федеральным органам следует снижать препятствия на пути ответственного использования ИИ, включая те, что связаны с ИТ-инфраструктурой, данными, кибербезопасностью, рабочей силой и специфическими проблемами порождающего ИИ.
Управление рисками, связанными с использованием ИИ. Хотя федеральные органы исполнительной власти получат значительные выгоды от ИИ, им также придётся управлять целым рядом рисков, связанных с использованием ИИ. На федеральные органы распространяются существующие требования по управлению связанными с ИИ рисками, и настоящий меморандум не заменяет и не отменяет эти требования. Вместо этого меморандум устанавливает новые требования и рекомендации, которые независимо и коллективно смягчают конкретные риски, связанные с использованием ИИ для обоснования или выполнения принимаемых ведомством решений и действий, особенно когда такое применение ИИ влияет на права и безопасность граждан.
Для устранения этих рисков настоящий меморандум требует от федеральных органов исполнительной власти следовать определённым минимальным практикам при таких видах использования ИИ, которые способны повлиять на безопасность и права граждан, - а также перечисляет конкретные категории ИИ, которые предположительно влияют на права и безопасность. Наконец, данный меморандум также даёт ряд рекомендаций по управлению рисками ИИ в контексте федеральных закупок.
Источник: сайт Белого Дома США
https://www.whitehouse.gov/omb/information-for-agencies/memoranda/
https://www.fedweek.com/federal-managers-daily-report/omb-issues-guidance-on-use-risk-management-and-other-ai-issues/
https://www.whitehouse.gov/wp-content/uploads/2024/03/M-24-10-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-Artificial-Intelligence.pdf
Комментариев нет:
Отправить комментарий