Исследование компании Microsoft ( https://www.microsoft.com/en-us/research/publication/working-with-ai-measuring-the-occupational-implications-of-generative-ai/ ), охватившее 40 профессий, которые будут заменены искусственным интеллектом, привлекло к себе внимание общественности. Историки заняли среди этих профессий 2-е место, архивисты - 31-е, а все специалисты с дипломом по библиотечному делу - 40-е.
Мой комментарий: Речь идёт о подготовленном для компании Майкрософт отчёте Кирана Томлинсона (Kiran Tomlinson), Сони Джаффе (Sonia Jaffe), Уилла Ванга (Will Wang), Скотта Каунтса (Scott Counts) и Сиддхара Сури (Siddharth Suri) «Работа с ИИ: Оценка применимости генеративного ИИ в различных профессиям» (Working with AI: Measuring the Applicability of Generative AI to Occupations) объёмом 42 страницы, см. https://arxiv.org/abs/2507.07935 (прямая ссылка на PDF-файл: https://arxiv.org/pdf/2507.07935 ), который был опубликован 10 июля 2025 года. в т.ч на сайте Майкрософт. Ввиду вызванной отчётом острой реакции, первоначальная публикация с сайта Майкрософт «исчезла», зато 21 августа 2025 года на этом сайте появилось разъяснение авторов https://www.microsoft.com/en-us/research/blog/applicability-vs-job-displacement-further-notes-on-our-recent-research-on-ai-and-occupations/ , в котором они жалуются на то. что их неправильно поняли – они, мол, говорили о возможности применять ИИ в профессиях, а не о вытеснении этих специалистов-людей искусственным интеллектом …
Титульный лист отчёта Кирана Томлинсона и др.
В данном исследовании рассматривались задачи, с которыми ИИ отлично справляется, и эти задачи сопоставлялись с обязанностями каждой профессии (в плане времени, затрачиваемого на выполнение этих задач), - и оказалось, что наша профессия [архивистов и специалистов по управлению документами – Н.Х.] подвержена наибольшему риску. Обычно я был лишь порадовался упоминанию нашей сферы деятельности в исследовательском отчёте Microsoft - но не в этот раз. Компания Microsoft как будто публично объявила войну всему, что связано с работой с документами.
Однако не все новости, приходящие из Кремниевой (она же Силиконовая – Н.Х.) долины, плохие. Так, компания Anthropic недавно громко заявила всему миру: «Нам нужно больше специалистов по управлению документами» по всему миру, если мы не хотим, чтобы история Терминатора стала реальностью (см. https://www.linkedin.com/pulse/terminator-here-records-management-rescue-kaan-volkan-htnvc/ ).
А согласно отчёту американского ИТ-издания «The Information» (Информация), в Кремниевой долине сейчас наблюдается «архивная лихорадка», когда сотрудники тщательно документируют и сохраняют свои рабочие материалы и исследования. Цель — научить ИИ более эффективно помогать в выполнении задач и принимать решения так, как бы это делали сотрудники-люди.
Загружаются в ИИ-системы не только «личные архивы», но и корпоративные документы. Сегодня более трети (38%) сотрудников признают, что делятся конфиденциальной рабочей информацией с инструментами ИИ без разрешения работодателя (см. https://www.linkedin.com/pulse/shadow-ai-eating-your-records-kaan-volkan-bmnqc/ ).
Самое приятное – это то, что ИИ раскрывает забытые фрагменты нашего прошлого, становясь совершенно новым, невиданным ранее типом архива.
Студент факультета компьютерных наук колледжа Мюленберг (Muhlenberg College) Айк Григорян (Hayk Grigorian) обучил небольшую модель искусственного интеллекта (ИИ) исключительно на текстах из Лондона за период с 1800 по 1875 год – это были более 7 тысяч книг, газет и юридических документов. Его целью было запечатлеть аутентичную викторианскую прозу без каких-либо современных «примесей». Во время тестирования модель упомянула протесты в Лондоне 1834 года - события, о которых сам Григорян никогда не слышал.
Быстрая проверка фактов показала, что протесты действительно имели место. Модель ИИ сложило воедино фрагменты и «подсказки» из тысяч разрозненных документов, синтезировав целостную картину истории, - несмотря на то, что ей никогда не сообщали о протестах напрямую.
Итак, что же мы имеем? Вымрут ли архивы и специалисты по управлению документами, подобно птице додо? Или же мы находимся на переднем крае этой революции искусственного интеллекта, прокладывая путь к безопасному и интеллектуальному ИИ?
Выводы являются неоднозначными
С одной стороны, крупные технологические компании, похоже, настроены против архивистов. Это связано исключительно с их собственными интересами: именно архивисты и специалисты по управлению документами решают, что следует сохранить, а что – уничтожить; в то время, как ИИ - это жадный до данных монстр - пожиратель (цифровых) «печенек», который не хочет, чтобы документы уничтожались.
С другой стороны, широкая общественность полагает, что сама может делать то, в чём преуспевает наша профессия, и последствия этого пугающие. Недавние независимые исследования (например, рейтинговое исследование OpenAI PersonQA 2025) показывают, что частота галлюцинаций у нынешних ИИ-инструментов примерно удвоилась по сравнению с их предшественниками 2024 года — с ~15–17% до ~30–35%, а в некоторых случаях и до ~48%.
Исследователи считают, что происходит это потому, что мы обучаем ИИ быть более убедительным, а не более точным. Однако они упускают из виду человеческий фактор. Вся эта архивация силами общественности отравляет ИИ.
Недавнее исследование под названием «Отравляющие атаки на большие языковые LLM-модели требуют практически постоянного количества образцов отравления» (Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples, https://arxiv.org/abs/2510.07192 ) показало, что 250 «отравленных» документов оказывается достаточно для того, чтобы полностью уничтожить ИИ, сделав его патологическим лжецом.
250 документов - это совсем немного, примерно 0,00016% от общего объёма обучающего набора данных. И чтобы отравить более крупную модель, Вам не нужно больше документов. Всё, что вам нужно - это 250 документов, независимо от размера, набора данных и интеллектуальности ИИ.
Неудивительно, что модели ИИ лгут всё чаще и доходят до того, что подстрекают к самоубийствам и убийствам, как в случае с Адамом Рейном (Adam Raine). Многие относятся к ChatGPT как к самому доверенному лицу, делясь с ним своими самыми сокровенными секретами и непреднамеренно наполняя его худшим, что только может предложить человечество. Такие видеоплатформы, как Sora, сейчас используются для создания всевозможного политизированного и расистского контента.
Более того, подобно тому, как обученная на текстах викторианской эпохи модель ИИ могла сводить информацию из миллионов точек данных, чтобы выявить исторически достоверные факты, - GPT может соединить Вашу внешность и голос, помогая преступникам полностью украсть вашу личность.
Итак, вымрут ли архивисты?
ИИ-компании, наверное, хотели бы этого. Чем больше данных имеется в распоряжении у ИИ, тем больше денег они зарабатывают. Общественность же - в замешательстве, люди хотят играть в архивистов, не имея для этого надлежащей подготовки.
Нам [архивистам и специалистам по управлению документами – Н.Х.] нужно подняться и стать экспертами по ИИ. Наш единственный шанс заключается в том, чтобы убедить мир существовании лучшего пути вперёд. И пока мы не научимся говорить на языке ИИ, мы не сможем убедить «ИИ-братву».
Поэтому инвестируйте в своё обучение в области ИИ и в обмен опытом с остальным миром. Давайте не позволим ИИ разъедать наше будущее, злоупотребляя «услугами» архивистов-любителей.
В настоящее время я разрабатываю бесплатный курс обучения по ИИ для специалистов по управлению документами. Пожалуйста, дайте мне знать, что бы Вы хотели в нем увидеть.
Каан Волькан (Kaan Volkan)
Источник: сайт LinkedIn
https://www.linkedin.com/pulse/end-all-archives-dodo-records-manager-kaan-volkan-cgztc/
Комментариев нет:
Отправить комментарий