21 апреля 2021 года Европейская комиссия представила свой законопроект об искусственном интеллекте (Artificial Intelligence Act, https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence ).
Полное название соответствующего 108-страничного документа - COM(2021) 206 final «Проект нормативно-правового акта Европейского парламента и Совета Европы, устанавливающего согласованные правила в отношении искусственного интеллекта (Закон об искусственном интеллекте) и вносящего изменения в некоторые законодательные акты Европейского Союза» (Proposal for a regulation of the European parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts), с ним можно познакомиться здесь: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788
Первое впечатление от его чтения у меня сложилось такое: исходя из самых благородных намерений, европейские законодатели придумали столько бюрократии, «рогаток» и ограничений, потенциально мешающих внедрению решений на основе искусственного интеллекта и делающих их разработку и внедрение более затратными и забюрокраченными, - что по сравнению с этим меркнет «слава» хорошо всем известного европейского законодательства о защите персональных данных. При этом ограничения устанавливаются не только для будущих продуктов, но и для уже существующих технологий – например, для систем видеонаблюдения в общественных местах для целей охраны правопорядка, если в них присутствуют элементы ИИ.
Обязательным для поставщиков услуг с использованием ИИ-систем высокого риска является создание системы менеджмента качества, включающую менеджмент риска (ст.17). Это, само собой, означает наличие отдельного большого «пласта» документов.
Преамбулу законопроекта почитать очень интересно и полезно, в ней неплохо схвачены известные проблемы, связанные с решениями на основе искусственного интеллекта, и с их применением в государственном управлении и деловой деятельности.
Несколько статей законопроекта непосредственно связаны с документированием и протоколирование. К сожалению, их уровень «не дотягивает» до уровня понимания проблем, который виден в преамбуле. Видно, кстати говоря, что европейский законодатель ничуть не лучше российского, и глупостей и несуразностей в тексте положений хватает.
Статья 11 «Техническая документация» (Technical documentation) вместе со взаимосвязанной с ней статьёй 18 «Обязанность разработать техническую документацию» (Obligation to draw up technical documentation), открывает нам глаза на то, что для ИИ-систем высокого риска (а это будут почти все сколько-нибудь интересные решения) техническая документация должна создаваться до предоставления ИИ-системы в качестве услуги или ввода в эксплуатацию. Ну кто бы мог подумать! При этом европейский законодатель, похоже, считает допустимым использовать системы низкого риска вообще без техдокументации :)
Интересно, что техническая документация систем высокого риска обязана содержать все необходимые сведения, позволяющие убедиться в соответствии систем требованиям данного закона.
Минимальный состав сведений, раскрываемых технической документацией, приведен в Приложении 4, входящем в состав отдельного документа, который доступен здесь: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75789
Статья 12 «Документирование» (Record-keeping) на самом деле содержит требования к протоколированию операций и ведению журналов аудита (логов).
Статья 50 «Сроки хранения документов» (Document retention) наглядно демонстрирует, что могут понапридумывать некомпетентные люди, дай им волю:
Переведу её текст полностью:
«Поставщик обязан в течение периода, заканчивающегося через 10 лет после того, как ИИ-система будет выведена на рынок или введена в эксплуатацию, сохранять и предоставлять в распоряжение национальных компетентных органов:
(а) Техническую документацию, указанную в статье 11;
(b) Документацию, относящуюся к системе менеджмента качества, упомянутой в статье 17;
(c) документацию об изменениях, одобренных органами оценки соответствия (notified bodies - под этим понимаются надлежащим образом аккредитованные органы по оценке соответствия, см. ст.3(22) – Н.Х.), где это уместно;
(d) решения и иные документы, выпущенные органами оценки соответствия где это уместно;
(e) Европейскую декларацию о соответствии, о которой говорится в статье 48.»
Профессионалы понимают, что техническую документацию необходимо сохранять в течение всего срока эксплуатации ИИ-системы, который вполне может превысить 10 лет (особенно если, как это иногда бывает, под маркой «модернизации» система целиком заменяется на новую), - а после этого ещё в течение максимального из применимых сроков исковой давности (если, скажем, ИИ-система использовалась для принятия решений, вследствие которых был причинён вред здоровью, то срок исковой давности вообще может отсутствовать – так что владельцу ИИ-системы придётся считать риски). При этом, естественно, должны быть завершены все судебные дела и расследования, к которым документация может иметь отношение.
Разочаровывает отсутствие статей о создании и сохранении документов, объясняющих принятые ИИ-системой решения – хотя в преамбуле соответствующая проблема упомянута в пункте 38.
На более легкой ноте отмечу, что выход Великобритании из Евросоюза уже понемногу сказывается на качестве английского языка. Так, в п.5.2.3 на стр.13 появился вновь изобретенный термин «recording keeping» (вместо правильного recordkeeping).
Источник: сайт Еврокомиссии
https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence
https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75788
https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=75789
Комментариев нет:
Отправить комментарий