Репортажи из Берлина: ИИ, электронные документы и нормативно-правовое регулирование

Данный пост эксперта в области управления электронными документами, эксперта ИСО от США Энди Поттера (Andy Potter - на фото) был опубликован 15 сентября 2025 года в социальной сети Substack.

Я обещал читателям присылать репортажи из Берлина, и этот расскажет о пленарном докладе на конференции «Европейские дни PDF 2025 года» (PDF Days Europe 2025), состоявшемся 15 сентября 2025 года (см. также сайт конференции https://pdfa.org/event/pdf-days-europe-2025/ ). 

Для тех, кто ещё не знает об этой конференции, поясню: «Дни PDF» - это ежегодная встреча разработчиков стандартов PDF, специалистов по внедрению и пользователей формата, пёстрая смесь разработчиков, поставщиков и всех тех, кто пришёл, чтобы увидеть, в какую сторону движутся технологии работы с контентом и документами. 

Параллельно идёт работа трёх сессий, темы которых варьируются от глубоких технических исследований до вариантов использования и политик. Во многом это встреча специалистам по стандартам формата PDF, но на ней также есть возможность почувствовать, как PDF-форматы и смежные технологии адаптируются к новым задачам и проблемам.

С пленарным докладом, открывшим дискуссию по вопросам политик, выступил профессор д-р Филипп Хакер (Philipp Hacker, https://europeannewschool.eu/philipp-hacker.html ) - учёный-правовед, одновременно принимающий участие в разработке европейской политики и в деятельности ИИ-сообщества. Хакер глубоко разбирается в тонкостях Закона Еврросоюза об ИИ (EU AI Act, см. также https://artificialintelligenceact.eu/ ) и в его последствиях для тех из нас, кто работает с электронными доказательствами, документами, контентом, а также занимается курированием информации в долгосрочной перспективе.

Я пришёл на пленарный доклад в надежде услышать что-то большее, чем обычная шумиха вокруг ИИ, - и именно это и предложил слушателям Хакер.

От собак и кошек к контрактам и исполнению законодательно-нормативных требований

Хакер начал с основ, представив ИИ как системы, которые обучаются, а не работают лишь на основе жёстко закодированных нами правил. Он показал, как генеративные модели эффективно используют вероятности и случайности, что делает их мощными, но ненадёжными. Далее он перешёл к тому вопросу, который интересует нас [по управлению документами и архивистов – Н.Х.]: к потокам процессов работы с контентом и документами.

• Ожидания: ИИ сможет обрабатывать неструктурированные данные, распределять контракты по категориям, выявлять проблемы с исполнением законодательно-нормативных требований и случаи мошенничества.
  
  
• Реальность: Сотрудники юридических фирм тестируют большие языковые модели, однако после первоначального ажиотажа им часто приходится переделывать работу вручную, поскольку они пока что не могут полностью доверять машине. 
  
  В сфере программирования одно контролируемое исследование показало, что при использовании ИИ задачи на самом деле выполнялись дольше, поскольку накладные расходы на анализ и проверку кода сводили на нет любой выигрыш в эффективности.

Отсюда следует вполне ясное предупреждение для специалистов по управлению документами: проводите пилотные проекты с осторожностью и оценивайте, действительно ли ИИ экономит время [специалистов-людей – Н.Х.], или же просто приводит к смещению фокуса прилагаемых усилий на проведение анализа и проверки.

Человеческий фактор

Мне показалось важным предостережение Хакера о том, что ИИ не просто меняет рабочие процессы, - ИИ также способен привести к утрате людьми чувства удовлетворенности своей работой. Если эксперты почувствуют, что уже не являются создателями и аналитиками, и что их роль сводится к функции «контролеров результатов, выдаваемых ИИ», то организации могут столкнуться с падением морального духа и качества работы, даже если численность персонала останется прежней. Это риск, который каждая архивная программа и каждая служба по работе с информацией должна принять во внимание, прежде чем приступить к внедрению ИИ.

Закон Евросоюза об ИИ касается всех

Затем Хакер перешёл к теме политик и нормативно-правового регулирования, и познакомил нас с положениями Закона Евросоюза об ИИ. Ключевыми были следующие моменты:

• К четырём уровням риска (недопустимый, высокий, ограниченный, минимальный) теперь добавлена пятая категория для универсального ИИ, такого, например, как ChatGPT.
  
  
• Различие между поставщиками (providers) и теми, кто внедряет и развёртывает ИИ системы (deployers): если Вы предоставляете инструмент ИИ под своим именем, то Вы «на крючке» (у регуляторов – Н.Х.) как поставщик - с полной юридической ответственностью. Если Вы просто используете такой инструмент, то Вы - внедряющая организация.
  
  
• Правило «тонкой настройки»: если Вы осуществляете менее трети исходных вычислений, то лишь тогда Вы в безопасности, поскольку считаетесь «внедряющей организацией». Хуже того, Вы можете стать «поставщиком», даже не осознавая этого.

Для архивистов главное заключается в том, что законодательство Евросоюза действует глобально: если Ваши системы или поставщики выходят на европейский рынок, то необходимо исполнять требования этого законодательства.

Высокотехнологические подделки (дипфейки) и вопрос происхождения 

Наконец, Хакер напомнил нам о том, что контент, подвергнутый обработке с использованием ИИ, теперь должен быть соответствующим образом маркирован. Цифровые «водяные знаки» теперь уже не сводятся к большим красным штампам, и реализуются с помощью криптографии в виде сигналов, встроенных в пиксели.

Для тех из нас, кто беспокоится об аутентичности, происхождении и достоверности доказательств, именно здесь политика и архивные принципы пересекаются: вскоре каждый документ может быть снабжён невидимыми «сигналами», указывающими на его происхождение и позволяющими контролировать его целостность.

Почему эти вопросы важны для нашего профессионального сообщества

• Аутентичность: Маркировка, указывающая на использование ИИ при создании контента, скоро будет уже не просто передовой практикой сохранения, а станет нормативным требованием;
  
  
• Исполнение законодательно-нормативных требований: Службы управления документами не могут оставлять решение о классификации организации в качестве «поставщика» или «внедряющей организации» на усмотрение ИТ-службы или юридического отдела - наша работа находится на переднем крае управления рисками.
  
  
• Перепроектирование служебных обязанностей: С внедрением ИИ в наши рабочие процессы, сохранение качества архивной работы может быть столь же важно, как и оценка эффективности.

В заключение Хакер назвал будущее «захватывающим, так или иначе». Уходя, я подумал о том, что для архивистов и специалистов по управлению документами реализация на практике этого «так или иначе» будет зависеть от того, насколько хорошо мы сумеем сбалансировать притягательность эффективности [которую обещает внедрение ИИ - Н.Х.] с дисциплиной, включающей исполнение законодательно-нормативных требований и знание происхождения.

Эндрю Поттер (Andrew Potter)

Источник: сайт Substack
https://metaarchivist.substack.com/p/dispatch-from-berlin-78a