Национальные Архивы США вводят в эксплуатацию чат-бот для общественности на основе искусственного интеллекта под названием «Арчи» (Archie – имя, перекликающееся со словом «архивы» - Н.Х.). У сотрудников Национальных Архивов в связи с этим есть опасения.
В июне Национальные Архивы США (NARA) провели для своих сотрудников презентацию и техническую демонстрацию под названием «ИИ-зумительная технология» (AI-mazing Tech-venture), в которой ИИ-чатбот Gemini компании Google был представлен как инструмент, который сотрудники архивов смогут использовать для «повышения производительности». По ходу демонстрации, - согласно копии презентации ( https://cdn.muckrock.com/foia_files/2024/09/19/2024_Information_Services_Town_Hall_Presentation_Redacted.pdf ), истребованной сайтом «404 Media» на основании Закона о свободе доступа к государственной информации, - чатботу задавались, в частности, вопросы об убийстве президента Джона Ф. Кеннеди.
Как стало известно «404 Media», в декабре 2024 года Национальные Архивы планируют запустить ИИ-чатбот для общественности под названием «Archie AI». «У Национальных Архивов имеются большие планы, связанные с использованием искусственного интеллекта», - сообщил нашему изданию представитель NARA. «ИИ существенным образом повлияет на то, как мы выполняем нашу работу, как мы масштабируем наши услуги для американцев, которые хотят иметь доступ к нашим документам из любого места и в любое время, - и на то, и как мы обеспечиваем свою готовность надлежащим образом позаботиться о документах, создаваемых сегодня и в будущем».
Протокол общения в чате сотрудников Национальных Архивов по ходу презентации ( https://cdn.muckrock.com/foia_files/2024/09/19/EVT506703_Chat_Log.docx_Redacted.pdf ) показывает, что архивисты обеспокоены идеей использования ИИ-инструментов в практической архивной работе, которая по своей сути нацелена на точное документирование истории.
Один из присутствовавших на презентации сотрудников сказал «404 Media»: «Я подозреваю, что они собираются внедрить этот инструмент на рабочих местах. Я там работаю, и я ненавижу всякую ерунду, производимую ИИ».
Презентация была проведена примерно через месяц после того, как Национальные Архивы запретили своим сотрудникам использовать популярный чатбот ChatGPT ( https://www.404media.co/national-archives-bans-employee-use-of-chatgpt/ ) на том основании, что он якобы представляет «неприемлемый риск для безопасности данных Национальных Архивов», и предупредили их о том, что им «не следует полагаться на большие языковые LLM-модели для получения фактической информации». Но вот Google Gemini, как отмечается на одном из слайдов, «это гибкий многоцелевой инструмент, способный помочь пользователям сэкономить время, повысить производительность труда и достичь лучших результатов в своей работе. Думайте о Gemini как о коллеге, который поможет генерировать идеи и анализировать контент, который Вы уже создали».
Слайд с содержанием презентации (часть информации отцензурирована)
Те части слайдов, где предлагались конкретные варианты использования, были вымараны, но в целом в презентации рекомендуется использовать ИИ для «помощи в написании текстов, для визуализации данных, для подведения итогов совещаний и для генерации идей».
«Генерируйте тексты, переводите с одних языков на другие и резюмируйте документы, чтобы помочь пользователям общаться более эффективно», - отмечается на одном из слайдов.
Во время презентации, которая проводилась в системе Zoom, сотрудники подняли в чате немало тревожащих их вопросов в связи с данной технологией. Национальные Архивы отказался предоставить видеозапись чата, сославшись на необходимость защиты персональных данных, поэтому неясно, ответил ли докладчик на какие-либо вопросы и каким образом. Все имена задававших вопросы сотрудников были вымараны Национальными Архивами (см. рис. ниже).
Протокол общения в чате, предоставленный Национальными Архивами США
«Каким образом представители общественности узнают, что получают ответ от настоящего живого архивиста, а не от генеративного (порождающего) ИИ?» — спросил один из сотрудников. «Раскроют ли Национальные Архивы, какие аспекты предоставляемой справочной информации генерируются с помощью ИИ?». Тему продолжили двое других сотрудников, отметив, что они также обеспокоены этим, а один из них сказал: «Меня беспокоит то, что если такая информация не будет должным образом раскрыта, то в результате может упасть доверие к Национальным Архивам».
(Окончание следует, см. http://rusrim.blogspot.com/2024/11/google-gemini-2.html )
Джейсон Коблер (Jason Koebler)
Источник: сайт «404 Media»
https://www.404media.co/ai-mazing-tech-venture-national-archives-pushes-google-gemini-ai-on-employees/
Комментариев нет:
Отправить комментарий