Метод «больших корзин» отжил своё (2)

(Продолжение, начало см. http://rusrim.blogspot.com/2026/10/1_01452768397.html )

Проблема с «большими корзинами»

Система «больших корзин» имела смысл, когда всю работу выполняли люди. Каждая дополнительная категория увеличивала объёмы работ: её нужно было маркировать, управлять ею, обучать сотрудников работе с документами такого типа. Объединение 400 серий документов в 80 обоснованно сформированных и юридически защитимых «больших корзин» уменьшало количество головной боли.

Однако данный подход не решал главной проблемы: объемы данных увеличивались слишком быстро. Когда методология «больших корзин» только появилась, объем данных составлял 132 эксабайта (10^18 байт). Сегодня он достигает 274 зеттабайт (10^21 байт) - это примерно в 2000 раз больше. И ситуация усугубляется: объемы данных ежегодно увеличиваются примерно на 27%. 

Данных и документов стало в 2000 раз больше. Даже подход с использованием «больших корзин» уже не спасает положение.

Мой комментарий: Кислое смешивается с солёным. Объёмы данных сами по себе не имеют никакого отношения к сравнительной эффективности метода установления сроков хранения – которые никогда и не обещал стать панацеей от всех проблем. Метод больших корзин - которые легче автоматизировать, чем другие подходы – вполне может эффективно применяться машинами.

Но это еще не всё. Нам (кому именно? и зачем? – Н.Х.) необходима высокая степень детализации при разметке (тегировании) - не только для определения сроков хранения, но и для управления правами доступа и для обеспечения кибербезопасности. Это признают даже Национальные Архивы США в своём документе 2020 года о внедрении метода «больших корзин».

Мой комментарий: При правильном применении метода «больших корзин», в одну корзину, вообще говоря, не должны попадать документы с различными требованиями в отношении защиты и доступа. Избыточно высокая степень детализации давно уже неподъёмна для людей, а при машинной обработке может привести в многочисленным ошибкам.

Поэтому Национальные Архивы США сменили курс. Единственный способ справиться с растущими объемами данных - это расширение использования новых технологий и автоматизация. Теперь Национальные Архивы публикуют свои Типовые перечни (GRS – разработанные, вот ведь незадача, именно по методу «больших корзин»! – Н.Х.) в машиночитаемом формате, специально предназначенном для автоматизации процессов уничтожения документов либо их передачи на архивное хранение. Ознакомиться с версией 2025 года машиночитаемых перечней (точнее, с ответами на часто задаваемые вопросы по их поводу – Н.Х.) можно по ссылке https://www.archives.gov/records-mgmt/grs/machine-implementable-faq .

Путь вперед

Мы живём в иное время. Да, данных стало в 2000 раз больше, чем в 2004 году, но и вычислительные мощности подешевели в 5600 раз. Кроме того, существует такая волшебная технология, как искусственный интеллект (ИИ). Пришло время, когда мы можем получить всё и сразу.

Группа исследователей из Лейденского университета (Leiden University) решила проверить, возможно ли это. В своей статье «Могут ли большие языковые модели послужить эффективными инструментами классификации» (Can Large Language Models Serve as Effective Classifiers) они проанализировали, что произойдет, если ИИ будет использовать подход с использованием детализированных категорий – «маленьких корзин» («small buckets»).

Использованная ими таксономия включала 2778 конечных категорий и 477 родительских категорий, а глубина иерархии достигала 9 уровней. Система была динамической: категории можно было добавлять, удалять и объединять.

Результаты оказались впечатляющими: точность классификации при использовании детализированных категорий в связке с ИИ составила 94,3%, тогда как при подходе с укрупненными категориями этот показатель был равен 61,5%. 

Мой комментарий: Исходя их разумных соображений, точность детальной классификации (определяемая по количеству ошибок классификации) должна быть всегда ниже, чем точность укрупнённой классификации – и раз это не так, то либо исследователи где-то не по-детски «накосячили», либо автор неверно изложил их результаты (как оно и оказалось).

Я не поленилась прочитать упомянутую статью Сейеда Амина Табатабаи (Seyed Amin Tabatabaei), Сары Фанчер (Sarah Fancher), Майкла Парсонса (Michael Parsons) и Ариана Аскари (Arian Askari), точное название которой – «Могут ли большие языковые модели послужить эффективными инструментами классификации для иерархической много-теговой классификации научных документов в промышленных масштабах?» (Can Large Language Models Serve as Effective Classifiers for Hierarchical Multi-Label Classification of Scientific Documents at Industrial Scale?), см. https://arxiv.org/pdf/2412.05137 (прямая ссылка на PDF-файл: https://arxiv.org/pdf/2412.05137 ). Никакого отношения к детальным либо укрупнённым категориям эта публикация не имеет, она о другом – и цифра 61,5% также взята из неподходящего места.

Метод на основе детализированных категорий превзошел даже результаты специалистов-людей: точность ручной классификации (в статье эти цифры названы, но в контексте куда более сложной и динамичной классификации научных документов, где нет готовых юридически-значимых перечней – Н.Х.) варьировалась от 65 до 90%, а стоимость обработки одного документа составляла 3,50 доллара против примерно 0,20 доллара при использовании ИИ и детализированных категорий.

Мой комментарий: Автор, видимо, не знает, что в управлении документами и архивном деле установление сроков хранения на уровне отдельных документов – редкое исключение. Обычно речь идёт о массиве традиционных дел, а в электронной среде – о сотнях и тысячах документов. Соответственно, и затраты будут иными.

Компьютеры не устают, независимо от того, содержит ли классификатор 400 или 4000 категорий. При этом более детальная таксономия предоставляет ИИ больше информации (однако «делать приятное» ИИ не является задачей управления документами – Н.Х.). Счет-фактура не просто попадает в общую категорию «финансовые документы». Он может быть классифицирован как документ кредиторской задолженности, как выставленный клиенту, как инвойс по капитальному проекту, налоговый счёт или счёт от поставщика (в управлении документами такая классификация обычно осуществляется на этапе создания/получения документов прямо в ходе деловых процессов, а не отдельно с целью назначения сроков хранения – Н.Х.).

Мой комментарий: Бесспорно, что большая детальность при установлении сроков хранения возможна (ведь раньше многие годы мы так и работали) – но зачем она нужна, если и без неё задача установления надлежащих сроков хранения успешно решается, при этом с меньшими рисками неверной классификации, и с меньшими рисками раскрытия конфиденциальных сведений?

(Окончание следует)

Каан Волькан (Kaan Volkan)

Источник: сайт LinkedIn
https://www.linkedin.com/pulse/big-bucket-approach-dead-kaan-volkan-nzk7f/