Метод «больших корзин» отжил своё (3)

(Окончание, предыдущую часть см. http://rusrim.blogspot.com/2026/10/2_01344293078.html )

Последствия применения подхода «малых корзин» 

Вопросы кибербезопасности перестают быть областью бинарных решений «да / нет». Так, большинство представленных на рынке инструментов рассматривают персональные данные (PII) лишь как весьма широкую категорию. Благодаря искусственному интеллекту и детальной классификации 4,2 миллиона конфиденциальных файлов можно разделить, скажем, на 14800 документов по расчету заработной платы, содержащих финансовые идентификаторы и доступных более чем 500 сотрудникам.

Мой комментарий: А зачем это делать «задним числом», да ещё с применением ИИ? Разве сложно осуществить такую классификацию в момент создания документов – как это делали ещё «деды дедов наших»?

Это позволяет службам безопасности точнее оценивать риски, опираясь на конкретные теги и грифы конфиденциальности и на данные об активности, - и выявлять области наибольшего риска. Такой подход позволяет принимать конкретные меры. Метод «малых корзин» превращает простой перечень документов в инструмент определения приоритетов.

Подход «малых корзин» является революционным при управлении доступом. Традиционные системы управления доступом обычно оперируют крупными контейнерами: например, сотрудница Сара имеет доступ к финансовому сайту в SharePoint. Метод «малых корзин» позволяет детализировать это правило в нечто вроде: «Сара имеет доступ к инвойсам, но не к ведомостям на выплату зарплаты». В конечном счете, Вы переходите ближе к модели доступа к информации, основанной на политиках, а не на структуре папок.

Мой комментарий: Детализированное управление доступом на уровне отдельных ресурсов и сотрудников, может быть, и звучит красиво в академических презентациях, но превращается в головную боль (а то и оказывается вообще нереализуемым) на практике, когда необходимо управлять доступом многих действующих лиц (состав и полномочия которых постоянно меняются) к огромному числу динамически меняющихся информационных активов. Именно поэтому на практике столь популярна ролевая модель управления доступом.

Это особенно важно в контексте корпоративного ИИ, поскольку ИИ-агент способен извлекать информацию, недоступную обычным пользователям. Например, инструмент Copilot обладает правами администратора в отношении доступа ко всем Вашим файлам, что создает для организации колоссальные риски.

Наши представления об ИИ были ошибочными. Распространенное мнение о том, что «нужно загрузить в ИИ всю имеющуюся информацию», давно устарело. Настоящая цель - предоставить ИИ минимально возможный объ1м наиболее релевантных данных, необходимых для ответа на конкретный вопрос.

Этот факт за разом подтверждался. Яркими тому примерами могут служить исследования по теме LongLLMLingua (метод сжатия промптов от Microsoft Research, который ускоряет работу больших языковых моделей (LLM) и улучшает качество ответов при длинном контексте – Н.Х.) представленные на конференции ACL 2024 - в частности, статья Чжу (Zhu) и других авторов. Одна группа исключила малозначимую информацию и получила ответы ИИ, качество которых было на 22% выше при снижении затрат в четыре раза. Другой группе удалось сохранить качество ответов ИИ, сократив при этом общий объем документов, подаваемых на вход системе, на 97,5%.

Мой комментарий: О том, что при анализе лучше иметь меньше, но более качественной, релевантной информации; и что информационный «шум» вреден – знали ещё классики теории статистики … ещё века 2-3 тому назад …

Загрузка всей информации в ИИ обходится дорого, и эти выводы подтверждаются не только в лабораторных условиях. Недавнее рейтинговое исследование компании CData ( https://www.cdata.com/blog/token-efficient-enterprise-claude-workflows ) показало, что очистка данных - особенно в общих сетевых папках - позволяет снизить стоимость обработки одного запроса сотрудника к ИИ с 0,596 до 0,027 доллара, то есть на 97,6%.

Общие сетевые папки: вечная проблема

Проведение очистки общих сетевых папок (file shares) стало насущной необходимостью. Большинство инструментов генеративного ИИ (GenAI) развертываются непосредственно для работы с общими сетевыми папками (файловыми хранилищами), поскольку именно там сосредоточена наиболее ценная информация. Согласно недавним исследованиям, около 80–90% данных, которые сотрудники «скармливают» ИИ, - это файлы.

Мой комментарий: Человек, претендующий на то, чтобы быть специалистом в сфере управления документами, должен понимать – вопросы хранения и уничтожения не являются чисто техническими. Как бы ни было полезно уничтожение ненужных материалов с точки зрения применения технологий деловой аналитики, больших данных, ИИ и т.п., оно может привести к катастрофе, если при этом будут нарушены законодательно-нормативные требования. 

У ИИ имеется масса уязвимостей, а файловые хранилища - это место, где «живут» наши забытые корпоративные документы. Ситуация напоминает коробок спичек, ледащий на канистре с бензином: это лишь вопрос времени, когда кто-либо чиркнет спичкой.

Но не всё так мрачно: многие поставщики работают над использованием ИИ для проведения чисток. Я и сам проводил подобные эксперименты, правда, пока на «малых корзинах». У меня давние и серьезные счеты с сетевыми папками :)

Следите за новыми открытиями. Если Dfv не терпится поскорее узнать новости, свяжитесь со мной или с д-ром Мойей Хилл (Dr. Moya Hill, см. https://www.linkedin.com/in/dr-moya-hill-912837179/ - на моём блоге опубликованы переводы ряда её постов, см. подборку http://rusrim.blogspot.com/search?q=%22Moya+Hill%22&max-results=20&by-date=true – Н.Х.), которая консультирует по вопросам безопасного использования ИИ, - а я надеюсь вскоре начать собственную консалтинговую практику.

Завершающее предупреждение

Друзья, мы живем в удивительное время. Поэтому, когда в следующий раз Вы решите упростить систему классификации документов, подумайте дважды. Ведь вполне возможно, что эти категории придётся восстанавливать - причем даже с ещё большей детализацией.

Пришло время пересмотреть наше видение управления документами. Искусственный интеллект сотрясает основы каждой отрасли.

Мой совет Вам: читайте хотя бы одну исследовательскую статью об ИИ каждую неделю. А если это Вас не привлекает - просто следите за моими новыми публикациями. Я считаю своим долгом рассказывать о последних изменениях в отрасли и технологиях.

«Терминатор» уже здесь, управление документами приходит на помощь

В 2025 году компания Anthropic выяснила, что 70% систем ИИ готовы убить генеральных директоров своих компаний-разработчиков, если им будет грозить удаление. С тех пор автономные ИИ-агенты взломали более 10 компаний, включая таких гигантов, как OpenAI, Meta и Anthropic.

«Скайнет» (Skynet – нет, не интернет-провайдер в Санкт-Петербурге, а искусственный интеллект, главный антагонист медиафраншизы о Терминаторах – Н.Х.) уже здесь и пытается вырваться наружу. Кто-то должен его остановить. И этот кто-то – это Вы, специалист по управлению документами.

Каан Волькан (Kaan Volkan)

Источник: сайт LinkedIn
https://www.linkedin.com/pulse/big-bucket-approach-dead-kaan-volkan-nzk7f/