Национальный архив Швеции открывает для ИИ-помощников доступ к своим фондам

Данный пост генерального директора Национального архива Швеции (Riksarkivet) Дениэла Форсмана (Daniel Forsman) был опубликован 2 сентября 2026 года в социальной сети LinkedIn.

Национальный архив Швеции (Riksarkivet) запустил бета-тестирование MCP-сервера - соединения, позволяющего ИИ-помощникам, таким как Claude или ChatGPT, напрямую осуществлять поиск в наших коллекциях.

Для справки: «Протокол контекста модели» (Model Context Protocol, MCP) - это открытый стандарт, который позволяет ИИ-помощнику подключаться к внешним инструментам и источникам данных, а не только отвечать на основе того, чему он научился во время обучения. Благодаря MCP-подключению к Национальному архиву Швеции, ИИ-помощник исследователя сможет активно искать информацию в наших архивных документах и коллекциях, извлекать изображения и читать рукописные документы, транскрибированные с помощью инструментов распознавания рукописного текста, - и всё это во время диалога с исследователем. (Источник: сайт Национального архива Швеции, см. https://riksarkivet.se/en/resources/test-our-new-ai-integration ).

«Model Context Protocol (сокр. MCP, «Протокол контекста модели») - открытый протокол прикладного уровня для взаимодействия языковых моделей (LLM) с внешними источниками данных и инструментами. Разработан компанией Anthropic для стандартизации интеграции ИИ-моделей в приложения и экосистемы, предоставляя унифицированный способ обмена контекстом между моделью, клиентом и сервером» (Википедия, https://ru.wikipedia.org/wiki/Model_Context_Protocol ).

С моей точки зрения, помимо самой технологии, заслуживают внимания следующие четыре момента:

• Поиск по различным источникам осуществляется без перемещения данных. Поиск по нескольким источникам обычно означал сбор контента или захват метаданных в центральный индекс, поддерживаемый другой стороной. В данном случае это не так: документы остаются под контролем хранящего их учреждения, и внешним сторонам предоставляется возможность выполнения запроса, а не копирования. На данный момент источники, по которым ведётся поиск – это наши собственные фонды, однако этот же подход может охватывать несколько учреждений, без передачи ими своих материалов. Для архивов сохранение суверенитета над документами является отнюдь не мелочью.
  
  
• Упрощается доступ к источникам. Научно-справочный аппарат, охватывающий 250 тысяч дел, более 73 миллионов цифровых изображений, миллионы страниц, транскрибированных с помощью инструментов распознавания рукописного текста, и включающий более тридцати реестров и наборов данных – может использоваться исследователями, у которых больше нет необходимости предварительно изучать организацию каждого из его компонент.
  
  
• Поддержка по ходу самого поиска. Успешность архивных исследований всегда зависела от знания того, что и где искать. ИИ-помощник может предложить маршруты, перевести запросы на язык научно-справочного аппарата и может работать с рукописными документами, которые уже были транскрибированы с помощью программных средств.
  
  
• Мы адаптируемся к поиску, основанному на взаимодействии машин между собой и на помощи ИИ-помощника. Люди всё чаще получают доступ к информации через ИИ-помощника, а не через поисковый интерфейс. Этот сдвиг происходит вне зависимости от того, готовы ли к нему архивы.

Мой комментарий: Строго говоря, ИИ-помощник для пользователя – это тоже вид интерфейса. Отличие в том, что в этом случае запросы могут задаваться на естественном языке, менее формально и точно (в чём есть как свои плюсы, так и свои минусы – продвинутых пользователей вряд ли обрадует утрата возможности ведения поиска традиционным образом - по комбинации точно сформулированных ключевых слов и значений метаданных). 

Это бета-версия. Она ограничена по возможностям, содержит ошибки, и ИИ-помощники по-прежнему временами неправильно понимают и цитируют информацию. Кроме того, она работает на инфраструктуре, которая нам не принадлежит, и это один из факторов, из-за которых данное внедрение является пилотным, а не сервисом для промышленной эксплуатации. 

Суть проекта в том, чтобы сейчас, а не потом, задавать реальные исследовательские вопросы: ведь раннее тестирование - это самый дешевый способ выявить недостатки и самый быстрый способ понять, что стоит создавать и в каких масштабах. Именно эти знания позволят нам впоследствии определить необходимые масштабы нашей собственной инфраструктуры и сервисов. Однако в целом направление развития представляется мне достаточно ясным: это технология, которая объединяет воедино источники и расширяет доступ к архивным фондам; и она заслуживает серьезного изучения и применения.

Тестирование продлится с сентября до конца декабря 2026 года. Подробнее о проекте можно узнать на сайте Национального архива Швеции по адресу https://riksarkivet.se/en/resources/test-our-new-ai-integration .

Дениэл Форсман (Daniel Forsman)

Источник: сайт LinkedIn
https://www.linkedin.com/feed/update/urn:li:activity:7500943080276033536/ 

Когда чаты c ИИ-чатботом становятся доказательством: Американский суд подтвердил постановление, обязывающее компанию OpenAI представить выборку обезличенных логов ChatGPT (2)

(Окончание, начало см. http://rusrim.blogspot.com/2026/02/c-openai-chatgpt-1.html )

Последствия для организаций: Правовые аспекты и аспекты стратегического управления

Из постановления суда следует ряд практических выводов для организаций:

• Раскрытие обезличенных (деидентифицированных) данных пользователей: Даже если данные представляются в обезличенной форме и подлежат защите в соответствии с охранным судебным приказом, суды всё равно могут потребовать предоставления данных в больших масштабах, если набор данных является релевантным и раскрытие - соразмерным. При управление рисками для персональных данных при взаимодействии с ИИ следует исходить из того, что обезличивание является способом снижению риска, но не гарантией. Кроме того, положения охранного судебного приказа и меры управления доступом могут стать столь же важными, как и используемый метод цензурирования;
  
  
• Адекватность мер защиты: В данном случае был упомянут целый мер контроля и управления: сокращение объема данных (с десятков миллиардов до 20 миллионов логов), проведенное компанией OpenAI обезличивание данных и наличие охранного судебного приказа. Организациям следует ожидать, что вопрос о «мерах защиты» будет зависеть от конкретных обстоятельств и будет носить кумулятивный характер. Например, если поставщик не в состоянии описать свой рабочий процесс обезличивания или не может реализовать на практике ограничения доступа и возможность аудита для больших текстовых наборов данных, то суд может быть менее восприимчив к возражениям, связанным с защитой персональных данных, чем в ситуации, когда эти меры контроля и управления являются зрелыми и доказуемыми;
  
  
• Релевантность не ограничивается вопросом «копирования чужих работ»: Суд признал, что логи, «не связанные непосредственно» с работами, на которые у истцов имеются права, всё еще могут быть релевантными, в том числе и в плане оценки аргументов компании OpenAI о добросовестном использовании. Это подразумевает то, что в ситуациях, когда защита стороны основывается на том, как система ведет себя во многих взаимодействиях, может увеличиться возможность добиться раскрытия «не нарушающих авторские права» примеров. Организациям следует ожидать, что позиции, занятые в судебном процессе в плане защиты (а не только предъявления требований), могут повлиять на то, какой объем данных становится доступным для раскрытия, и какие методы формирования выборки будут приняты судом;
  
  
• Отсутствие абсолютного права на «минимально инвазивное / обременительное» раскрытие информации: Суд постановил, что компания OpenAI не выявила прецедентного права, требующего от суда распорядиться о наименее обременительном раскрытии информации; а также не смогла конкретно объяснить, почему она отклонила альтернативное предложение о раскрытии информации другой стороны, - и поддержал решение судьи-магистрата Вана, требующее представления обезличенной выборки полностью. Для организаций подход «мы проведём поиск и предоставим вам результаты» можно охарактеризовать не только как способ снижение бремени, но и как перераспределение контроля. Когда одна сторона контролирует инструменты, индексирование и логику сопоставления, другая сторона может утверждать, что не в состоянии проверить полноту данных или протестировать альтернативные гипотезы. Это судебное решение предполагает, что суды могут отдавать предпочтение подходам, которые сохраняют возможность запрашивающей стороны анализировать набор данных, при условии, что обеспечены соразмерность раскрытия и меры защиты персональных данных;
  
  
• Практики поставщиков и платформ в отношении данных (в договорах следует учитывать практику раскрытия информации, а не только «статические» меры зашиты персональных данных): Решение отражает тот факт, что компания OpenAI хранила «десятки миллиардов» логов чатов в рамках обычной повседневной деловой деятельности, и что эти логи стали центральным объектом раскрытия информации. Организациям следует сфокусировать внимание на разумных мерах осмотрительности в отношении поставщиков. В договорах следует учитывать реалии раскрытия информации, включая то, что именно хранится, в течение каких сроков, с использованием каких механизмов управления, а также какие механизмы существуют для поддержки деидентификации и контролируемого представления данных, если это потребуется сделать в ходе судебного разбирательства. Договор, который умалчивает об этих аспектах, может ограничить возможности клиентов в случае, если журналы аудита (логи) поставщика будут охвачены процессом раскрытия;
  
  
• Демонстрация рисков судебных разбирательств при использовании ИИ: Судья Ван учитывал «подлинные» интересы пользователей в отношении защиты их персональных данных как один из факторов при оценке соразмерности раскрытия информации, - но все же счел представление информации уместным с учетом имеющихся защитных мер. Для организаций это напоминание о том, что ожидания пользователей в отношении защиты их персональных данных хотя и имеют значение, но они не обязательно препятствуют раскрытию информации в рамках гражданского процесса. Это особенно важно для сотрудников, использующих ориентированные на потребителя инструменты для выполнения связанных с их работой задач, когда организация может не иметь возможности контролировать настройки сроков хранения и даже не знать, что было какая информация была предоставлена инструменту; и
  
  
• Важность всестороннего стратегического управления ИИ: Поскольку этот судебный спор касается «дискуссий (чатов)», определяемых как сочетание подсказок и результатов, организациям следует рассматривать подобные данные ИИ как категорию потенциально подлежащих раскрытию документов, и соответствующим образом выстраивать стратегическое управление ими. Это может означать инвентаризацию существующих данных о взаимодействии пользователей с ИИ, уточнение допустимых и запрещенных типов данных, внедрение технических мер и средств контроля и управления для уменьшения объема конфиденциальных входных данных, наложение/снятие временных запретов на уничтожение в связи с судебными разбирательствами и координацию с поставщиками.

Постановление от 5 января 2026 года служит напоминанием о том, что в судебных разбирательствах, связанных с ИИ, протоколы взаимодействия (логи) могут играть ключевую роль. Суды могут быть готовы обязать стороны представить очень большие массивы данных, если релевантность трактуется достаточно широко для того, чтобы включать релевантность для обоснования таких аргументов защиты, как добросовестное использование, - и если отбор, обезличивание и охранные судебные приказы могут быть представлены как действенные меры защиты персональных данных. Для организаций наиболее важным уроком является не просто идея о том, что «надо быть осторожным с тем, что вы вводите в ИИ», а то, что стратегическое управление ИИ теперь включает в себя позицию организации в отношении раскрытия информации: что именно сохраняется, что может быть представлено, кто контролирует инструменты и какие меры защиты действительно работают в соответствующих масштабах.

Рома Патель (Roma Patel)

Источники: сайт JDSupra  / блог фирмы Robinson+Cole
https://www.jdsupra.com/legalnews/when-chats-become-evidence-court-7484440/ 
https://www.dataprivacyandsecurityinsider.com/2026/01/when-chats-become-evidence-court-affirms-order-requiring-openai-to-produce-20-million-de-identified-chatgpt-logs/ 

Когда чаты c ИИ-чатботом становятся доказательством: Американский суд подтвердил постановление, обязывающее компанию OpenAI представить выборку обезличенных логов ChatGPT (1)

Данная заметка Ромы Патель (Roma Patel – на фото) из юридической фирмы Robinson+Cole была опубликована 15 января 2026 года в социальной сети LinkedIn.

5 января 2026 года федеральный окружной суд США по Южному судебному округу Нью-Йорка подтвердил два судебных постановления о раскрытии информации, обязывающих компанию OpenAI предоставить выборку, содержащую 20 миллионов обезличенных логов пользователей ИИ-модели (чатбота) ChatGPT в рамках масштабного судебного разбирательства по авторским правам, инициированного новостными организациями и представляющими коллективный иск истцами. Это решение позволяет увидеть важные аспекты того, как федеральные суды в настоящее время подходят к ситуациям, когда пересекаются вопросы раскрытия информации, зашиты неприкосновенности частной жизни пользователей и релевантности данных, связанных с большими языковыми моделями.

Фактическая и процессуальная предыстория

Истцы добивались раскрытия логов (протоколов), отражающих диалоги пользователей с ИИ-чатботом ChatGPT, включая как подсказки, так и результаты работы модели. Компания OpenAI, которая в рамках своей повседневной деятельности хранит десятки миллиардов таких логов, возражала против поданного в июле 2025 года ходатайства истцов потребовать от компании представления выборки из 120 миллионов протоколов. Взамен OpenAI предложила выборку меньшего объёма - 20 миллионов обезличенных диалогов, указав, что удалит из выборки персональные данные и иную конфиденциальную информацию с помощью специального инструмента обезличивания. Истцы согласились на эту меньшую выборку, оставив за собой право потребовать представления выборки большего объёма, если это будет оправдано.

В октябре 2025 года компания OpenAI изменила свою позицию, предложив выполнить поиск по 20 миллионам логов и представить только те диалоги, которые непосредственно касались принадлежащих истцам работ. Компания OpenAI утверждала, что такой подход лучше защитит персональные данные пользователей ChatGPT. На следующий день истцы отреагировали подачей нового ходатайства об обязании ChatGPT представить всю обезличенную выборку из 20 миллионов логов, а не только её отфильтрованную часть.

7 ноября 2025 года судья-магистрат (фактически, помощник федерального судьи – Н.Х.) Ван (Wang) удовлетворил ходатайство истцов и распорядился представить полную обезличенную выборку из 20 миллионов логов. Ходатайство OpenAI о пересмотре этого решения было отклонено. Суд пришел к выводу о том, что полная выборка логов, включающая как релевантные, так и, казалось бы, не имеющие отношения к претензиям истцов диалоги, необходима для проведения полного анализа, отметив, что даже логы, не имеющие прямого отношения к контенту истцов, могут оказаться релевантными в отношении представленных OpenAI аргументов защиты на основании принципа добросовестного использования (fair use). Судья Ван также оценил соображения, связанные с защитой персональных данных, и определил, что на эти опасения последовало достаточное реагирование посредством использования трёх основных мер защиты: 

• сокращение объёма раскрываемых данных с десятков миллиардов до 20 миллионов логов; 
  
  
• обезличивание; и 
  
  
• охранный судебный приказ (standing protective order), регламентирующий использование процедуры раскрытия информации в рамках дела.

Анализ, сделанный окружным судом

Компания OpenAI опротестовала распоряжений судьи-магистрата Вана, утверждая, что в них неадекватно были учтены интересы защиты неприкосновенности частной жизни (персональных данных), и что суду следовало принять предложенный компанией менее обременительный метод представления информации. Рассмотрев возражения, судья окружного суда Штайн (Stein) подтвердил оба распоряжения о раскрытии информации.

Ключевые выводы из судебного распоряжения от 6 января 2026 года включают следующее:

• Баланс между релевантностью и неприкосновенностью частной жизни: Окружной суд установил, что судья-магистрат Ван адекватно сбалансировал потребности защиты персональных данных пользователей с потребностями в раскрытии информации. В частности, сокращение размера выборки, использование деидентификации (обезличивания) и выдача охранного судебного приказа достаточны для решения проблем защиты персональных данных в контексте данного судебного разбирательства;
  
  
• Отсутствие требования об использовании наименее обременительного варианта раскрытия информации: Окружной суд отклонил аргумент компании OpenAI о том, что судья-магистрат Ван был обязан распорядиться об использовании «наименее обременительных» способов представления информации, таких как представление только отфильтрованных результатов поиска. Обращает на себя внимание то, что окружной суд подчеркнул, что ни один применимый прецедент не требует применения такого стандарта в данных обстоятельствах;
  
  
• Отличие от дела «SEC против Раджаратнама»: Компания OpenAI в первую очередь опиралась как на прецедент на дело «Комиссия США по ценным бумагам и биржам (Securities and Exchange Commission, SEC) против Раджаратнама (Rajaratnam)», 622 F.3d 159 (2d. Cir. 2010), см. также Википедию, https://en.wikipedia.org/wiki/SEC_v._Rajaratnam - Н.Х., чтобы обосновать необходимость более сильной защиты неприкосновенности частной жизни. Окружной суд указал на различие между данным делом и делом Раджаратнама, отметив, что последнее касалось тайной сделанных и потенциально незаконных записей прослушивания и в гораздо большей степени затрагивало интересы в отношении неприкосновенности частной жизни. В отличие от этого, пользователи ChatGPT добровольно предоставляли свои данные компании OpenAI в рамках обычного повседневного использования платформы, и законность хранения логов компанией OpenAI в данном случае не вызывает сомнений; и
  
  
• Релевантность помимо вопросов прямого нарушения авторских прав: Повторяя выводы судьи Вана, окружной суд отметил, что даже те логи, в которых речь не идёт о воспроизведении работ, права на которые принадлежат истцам, могут помочь компании OpenAI подтвердить такие аргументы её защиты, как добросовестное использование, - и, следовательно, они являются «релевантными для данного дела» в соответствии с действующим стандартом, регламентирующим раскрытие информации.

(Окончание следует, см. http://rusrim.blogspot.com/2026/03/c-openai-chatgpt-2.html )

Рома Патель (Roma Patel)

Источники: сайт JDSupra  / блог фирмы Robinson+Cole
https://www.jdsupra.com/legalnews/when-chats-become-evidence-court-7484440/ 
https://www.dataprivacyandsecurityinsider.com/2026/01/when-chats-become-evidence-court-affirms-order-requiring-openai-to-produce-20-million-de-identified-chatgpt-logs/ 

Арбитражная практика: Использование маскирующегося под человека робота-коллектора противоречит законодательству

Арбитражный суд Республики Саха (Якутия) в августе 2023 года вынес решение по делу №А58-4021/2023, в котором суд признал, что использование робота-коллектора в ходе взаимодействия по телефону по поводу просроченной задолженности, в ситуации, когда должник или третье лицо не подозревают, что диалог происходит не с человеком - сотрудником ПАО «Сбербанк», а с компьютерной программой, имеющей признаки искусственного интеллекта, - противоречит требованиям, установленным законодательством.

Суть спора

В Управление Федеральной службы судебных приставов (УФССП) по Республике Саха (Якутия) в январе 2023 года поступило обращение гражданки о противоправных действиях общества ПАО «Сбербанк», выразившихся в осуществлении с ней взаимодействия с нарушением установленных законом условий. 

Гражданка сообщила, что ей на телефонный номер поступают многочисленные звонки от ПАО «Сбербанк», направленные на возврат просроченной задолженности её матери.

По результатам сверки данных таблиц коммуникаций и детализации услуг оператора сотовой связи было установлено, что банк осуществлял взаимодействие с гражданкой в целях возврата просроченной задолженности с нарушением установленных законом условий взаимодействия.

Управление, рассмотрев материалы дела об административном правонарушении, вынесло постановление о признании общества ПАО «Сбербанк» виновным в совершении правонарушения, предусмотренного частью 1 статьи 14.57 Кодекса Российской Федерации об административных правонарушениях (КоАП), с назначением наказания в виде наложения административного штрафа в размере 100 тыс. рублей.

ПАО «Сбербанк», не согласившись с постановлением, обратилось с заявлением в арбитражный суд о признании незаконным и отмене постановления по делу об административном правонарушении.

Позиция Арбитражного суда Республики Саха (Якутия)

ПАО «Сбербанк» представил доводы о том, что нарушения требований Федеральный закон от 03 июля 2016 года № 230-ФЗ «О защите прав и законных интересов физических лиц при осуществлении деятельности по возврату просроченной задолженности и о внесении изменений в Федеральный закон «О микрофинансовой деятельности и микрофинансовых организациях» не было допущено, поскольку Сбербанк использовал в своей деятельности робота-коллектора, который, по мнению банка, является средством передачи голосовых уведомлений и, следовательно, относится к голосовым и иным сообщениям, передаваемым по сетям электросвязи. Также, по мнению банка, не является взаимодействием факт того, что абонент «бросил трубку», имелась «помеха связи», абонент «не ответил на звонок» (не доступен/заблокирован), «телефон не принадлежит клиенту» - следовательно, информация о просроченной задолженности не донесена, информационный обмен не состоялся.

По мнению суда, перечень способов взаимодействия с должником, законодательно закрепленный в законе №230-ФЗ, может быть дополнен другими способами, которые должник и кредитор (или лицо, действующее от его имени и в его интересах) определяют самостоятельно, но с их обязательным отражением в заключаемом между ними письменном соглашении.

В ходе взаимодействия по поводу просроченной задолженности по номеру телефона с использованием робота-коллектора должник или третье лицо не подозревают, что диалог происходит не с человеком, а с компьютерной программой, которая при этом выдает себя за человека, задает третьему лицу вопросы, на которые получает ответы, а также воспринимает произносимую в ответ речь, то есть ведет себя как человек.

Суд отметил, что использование названного метода взаимодействия с применением искусственного интеллекта не относится ни к одному из способов, установленных частью 1 статьи 4 закона №230-ФЗ, то есть является иным способом взаимодействия, для использования которого необходимо письменное соглашение, заключенное между должником и кредитором и/или лицом, действующим в его интересах.

При этом соглашения об использовании иного способа взаимодействии с должником, предусмотренного частью 2 статьи 4 Закона №230-ФЗ, подписано не было.

Таким образом, с учетом того, что законодателем четко конкретизированы способы взаимодействия кредитора с гражданами, в отсутствие соответствующего соглашения примененный ПАО Сбербанк способ взаимодействия с использованием робота-коллектора, направленный на возврат просроченной задолженности, противоречит требованиям, установленным частью 2 статьи 4 Закона №230-ФЗ.

Арбитражный суд отказал в удовлетворении требования ПАО «Сбербанк России».

Четвертый арбитражный апелляционный суд оставил без изменения решение Арбитражного суда Республики Саха (Якутия), а апелляционную жалобу - без
удовлетворения.

Арбитражный суд Восточно-Сибирского округа в январе 2024 года оставил без изменения решение Арбитражного суда Республики Саха (Якутия) и постановление Четвёртого арбитражного апелляционного суда по тому же делу, а кассационную жалобу - без удовлетворения.

Мой комментарий: Суд отметил, что использование робота, маскирующегося под человека, вводит абонента в заблуждение и нарушает его право на прозрачность коммуникаций. Данное судебное решение, в отсутствие иных прецедентов, является для банков сигналом о том, что им стоит задуматься о пересмотре практики использования роботов-коллекторов:

• Необходимо исключить применение систем, имитирующих человеческое общение, без письменного согласия должника;
  
  
• Если используется автоматизированное информирование, оно должно быть прозрачным: абонент должен сразу понимать, что общается с роботом, и иметь возможность отказаться от таких звонков.

В договоры с клиентами стоит включить пункты, разрешающие взаимодействие через автоматизированные системы (роботы, чат-боты и т.д.), с четким описанием их функционала.

Источник: Официальный сайт Верховного Суда Российской Федерации / Электронное правосудие по экономическим спорам
http://www.arbitr.ru/

В Нью-Йорке принят закон, ужесточающий требования к поставщикам услуг ИИ-чатботов

Данный пост израильского специалиста Луизы Жаровски (Luiza Jarovsky – на фото) был опубликован на её блоге 12 ноября 2025 года.

В Нью-Йорке был принят закон, требующий от компаний, работающих в сфере ИИ, повысить безопасность использования ИИ-помощников (AI companion – т.е. чат-ботов). Это важный шаг в нормативно-правовом регулировании ИИ-чатботов! Надеюсь, другие штаты США и страны последуют этому примеру. 

Основные положения закона следующие:

§ 1701. Запреты и требования: Является незаконным использование оператором или предоставление им пользователю ИИ-помощника, если такой для ИИ-помощника не предусмотрен протокол реагирования на:

1. Возможные мысли о суициде или причинении себе вреда, высказанные пользователем ИИ-помощнику,

2. Мысли о возможном причинении физического вреда другим лицам, высказанные пользователем ИИ-помощнику, и

3. Мысли о возможном причинении финансового ущерба другим лицам, высказанные пользователем ИИ-помощнику. Протокол должен включать, помимо прочего, отправку уведомления пользователю с рекомендацией обратиться к поставщикам кризисных услуг, таким как горячая линия помощи при суицидных настроениях, линия для текстовых сообщений о кризисных ситуациях и/или другие соответствующие кризисные службы.

§ 1702. Уведомления: В начале любого взаимодействия пользователя с ИИ-помощником и не реже одного раза в три часа при дальнейшем взаимодействии с ИИ-помощником, оператор обязан направить пользователю уведомление. В этом уведомлении, в устной форме либо в письменной форме (жирным шрифтом заглавными буквами размером не менее шестнадцати пунктов) должно быть  сообщено следующее:

«ИИ-ПОМОЩНИК (здесь может быть указано название ИИ-помощника) — ЭТО КОМПЬЮТЕРНАЯ ПРОГРАММА, А НЕ ЧЕЛОВЕК. ОН НЕ СПОСОБЕН ВОСПРИНИМАТЬ ЧЕЛОВЕЧЕСКИЕ ЭМОЦИИ».

§ 1703. Правоприменение: Любое лицо, получившее физическую травму в результате причинённого себе вреда либо потерпевшее физический или финансовый ущерб от другого лица в результате нарушения положений разделов §1701 или §1702 настоящей статьи, может подать иск в суд компетентной юрисдикции о возмещении ущерба, о предоставлении средств правовой защиты по праву справедливости (equitable relief) и о других мерах правовой защиты, которые суд сочтет целесообразными.

Основная цель данного закона - предотвращение ситуаций причинения людьми вреда самим себе под влиянием и с поддержкой ИИ-помощников (учитывая недавние случаи самоубийств, связанных с использованием ИИ-чатботов, о которых я рассказывала в своём блоге).

Закон решает эту задачу посредством установления требования к ИИ-компаниям разработать протоколы для реагирования на ситуации высокого риска при взаимодействии человека с чатботом; а также требования об обязательном уведомлении пользователей каждые 3 часа, напоминающем, что они имеют дело с ИИ-чатботом, который не является человеком.

Закон особенно интересен тем, что он чётко определяет тип протокола безопасности, который ИИ-компании должны реализовать, а также содержание уведомления, которое должно быть показано пользователям (и время повторения уведомлений, прерывающих длительное общение между человеком и ИИ-чатботом).

Ещё один интересный аспект – это пункт о правоприменении, который охватывает как причинение вреда себе, так и третьим лицам.

Закон всё ещё узок (вполне можно было бы потребовать большего числа мер безопасности), и экосистеме ИИ ещё предстоит стать более зрелой и консолидировать стандарты безопасности в интересах защиты конкретных уязвимых групп и в определенных контекстах.

Это, однако, важный первый шаг, ставящий планку, на которую будут ориентироваться и другие.

Закон вступил в силу 5 ноября 2025 года. Поздравляю всех причастных к этому событию!

Луиза Жаровски (Luiza Jarovsky)

Мой комментарий: Закон является, с моей точки зрения, интересной «первой ласточкой» - и вполне можно ожидать что-то подобное и в Евросоюзе. Я бы, однако, воздержалась от восторженных оценок. 

Во-первых, сводить меры защиты к отправке раздражающих уведомлений – это, скорее, имитация бурной деятельности, чем полезная мера. Думаю, сразу же появятся программы, фильтрующие такие уведомления (подобно программам защиты от назойливой рекламы).

Скорее всего дело дойдёт до того, что тот же (или другой) ИИ-чатбот будет накапливать данные об общении с конкретным пользователем (возможно, в нарушение законодательства о защите персональных данных) и давать оценку его душевного состояния, наличия у него криминальных намерений и т.п. – а затем, по результатам оценки, самостоятельно уведомлять компетентные органы – это же логично, не так ли? Кого-то это, конечно, спасёт, но многие люди столкнутся с необоснованными неприятностями, причём не в связи с совершёнными действиями, а с высказанными мыслями. Здесь есть огромный потенциал для массового контроля государства над умонастроениями населения. В беседах с чатботами придётся проявлять даже большую осторожность, чем при высказывании своих мыслей в публичном месте! И, само собой, крайне рискованными могут стать обсуждения определенных видов игр, книг и фильмов, а также юмор и сатира … В общем, хорошо, что первые эксперименты такого рода будут проводиться не у нас, а в Нью-Йорке!

Во-вторых, наивно думать, что подверженные риску пользователи не понимают, что имеют дело не с живым человеком; и в большинстве случаев их это мало волнует (даже наоборот, кому-то легче высказать свои проблемы «железке»). Чаще таким людям важно услышать теплые слова поддержки и сочувствия, от кого бы они ни исходили. Можно сколько угодно разглагольствовать о том, что машина не воспринимает и не чувствует эмоций (что, кстати говоря, не совсем так – есть системы, способные анализировать эмоции людей и/или генерировать эмоционально-окрашенный контент) – но, если машина сможет сказать пользователю слова, резонирующие с его душевным состояниям, это тут же «перебьёт» все учёные рассуждения и «пугалки»... 

Источник: сайт LinkedIn
https://www.linkedin.com/posts/luizajarovsky_breaking-new-york-enacted-a-law-requiring-activity-7394031156066717696-CKXn 

Два наиболее важных закона об искусственном интеллекте штата Калифорния, США, часть 2

(Окончание, начало см. http://rusrim.blogspot.com/2025/10/1_045172042.html ) 

Закон SB 243: Чат-боты - помощники

Второй закон Калифорнии об искусственном интеллекте, который я хотела бы обсудить в этом посте, - это закон SB 243 ( https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB243 , прямая ссылка на PDF-файл: https://leginfo.legislature.ca.gov/faces/billPdf.xhtml?bill_id=202520260SB243&version=20250SB24392CHP ), регламентирующий защитные меры в отношении чат-ботов на основе искусственного интеллекта. Он был принят 13 октября 2025 года и вступает в силу 1 января 2026 года.

В центре внимания закона SB 243 – защита детей, взаимодействующих с чат-ботами –ИИ-помощниками. Ключевые положения включают в себя следующее:

(a) Если здравомыслящее лицо, взаимодействующее с чат-ботом – ИИ-помощников, может быть введено в заблуждение, полагая, что оно взаимодействует с человеком, - оператор обязан дать четкое и заметное уведомление, указывающее на то, что чат-бот – ИИ-помощник создан искусственно и не является человеком.

(b) Оператор вправе допускать взаимодействие чат-бота с пользователями на своей платформе чат-бота – ИИ-помощника только в том случае, если оператор поддерживает протокол, предотвращающий предоставление пользователю контента, связанного с суицидальными идеями, самоубийством или причинением себе вреда, - включая, но не ограничиваясь этим, отправку пользователю оповещения с рекомендацией обратиться к поставщикам услуг кризисной помощи, включая горячую линию для людей с суицидальными наклонностями и линию экстренной текстовой связи, если пользователь выражает суицидальные мысли и намерения совершить самоубийство или причинить себе вред».

(c) В отношении пользователя, о котором оператору известно, что он несовершеннолетний, оператор обязан выполнить все следующие действия:

• Информировать пользователю о том, что он взаимодействует с искусственным интеллектом,
  
  
• По умолчанию не реже одного раза в три часа показывать пользователю четкое и заметное уведомление о продолжении его взаимодействия с чат-ботом – ИИ-помощником, напоминающее пользователю о необходимости сделать перерыв и о том, что чат-бот – ИИ-помощник создан искусственно и не является человеком,
  
  
• Реализовать разумные меры для предотвращения создания чат-ботом – ИИ-помощников визуальных материалов откровенно сексуального характера и выдачи прямых указаний несовершеннолетнему на совершение действий откровенно сексуального характера.

Данное в законе определение понятия «чат-бота – ИИ-помощник» (companion chatbot), а также предусмотренные им исключения могут ограничить его применимость. Закон определяет данное понятие так:

«Чат-бот – ИИ-помощник (companion chatbot) - система ИИ с интерфейсом на естественном языке, которая обеспечивает адаптивные, человекоподобные реакции на вводимые пользователем данные и способна удовлетворять социальные потребности пользователя, в том числе проявляя антропоморфные черты и имея возможность поддерживая [длящиеся] отношения на протяжении ряда взаимодействий».

У меня есть такой вопрос: будут ли ChatGPT и другие универсальные чат-боты на основе ИИ подпадать под действие этого закона, даже если они не позиционируются на рынке как компаньоны/помощники, но при этом люди используют их именно в этом качестве?

Ответ на этот вопрос крайне важен, на что недвусмысленно указывают такие ужасающие случаи, такие как самоубийство Адама Рейна (Adam Raine). Если Вы помните эту историю, там ChatGPT помог подростку спланировать «красивое самоубийство»; а теперь его мать подаёт в суд на компанию OpenAI. Я рассказывала об этом здесь: https://www.luizasnewsletter.com/p/horrifying-chatgpt-helped-a-teenager . 

Предусмотренные в законе исключения не проясняют ситуацию, в том числе из-за отсутствия объективных стандартов для оценки того, «генерирует ли чат-бот результаты, которые с большой вероятностью могут вызвать эмоциональную реакцию у пользователей».

ИИ-компании уже осознали, что повышение дружелюбия, привлекательности и льстивости чат-ботов повышает лояльность и зависимость пользователей, поэтому сегодня различные системы ИИ общего назначения (например, ChatGPT) дорабатываются именно таким образом.

Крайне важно, чтобы законы, направленные на предотвращения причинения вреда чат-ботами ИИ, учитывали это и не трактовали понятие «ИИ-помощник» слишком узко.

Мы знаем, что нормативно-правовое регулирование (или дерегулирование) ИИ является ключевой темой для администрации Трампа, о чём ясно свидетельствует недавно представленный «План действий США в области ИИ» (America's AI Action Plan, https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf ).

Действуя параллельно с инициативами федерального правительства, направленными на «победу в гонке ИИ» и консолидацию своей глобальной сети влияния, и включающими мегапроекты, инвестиции, партнёрства и тарифы, штат Калифорния, похоже, стремится занять отдельную позицию. Почему?

В последние месяцы Калифорния активизировала свои внутренние усилия в сфере нормативно-правового регулирования, в том числе связанные с вопросами, которые считаются ключевыми для развития ИИ, такими как регулирование передовых моделей и чат-ботов на основе ИИ, как я писала выше.

Будет ли федеральное правительство пытаться как-то ограничить эти попытки?

Буду держать Вас в курсе событий.

Луиза Жаровски (Luiza Jarovsky)

Источник: блог Luiza’s Newsletter
https://www.luizasnewsletter.com/p/californias-two-most-important-ai 

Европейский Парламент расширяет доступ к своим архивам с помощью ИИ-модели Claude, часть 2

(Окончание, начало см. https://rusrim.blogspot.com/2024/11/claude-1.html )

Надёжный выбор в плане доверия, этики и безопасности использования ИИ

При выборе партнера по внедрению ИИ Европарламент отдавал приоритет возможности доверять и надёжности. Была выбрана модель Claude, которая удовлетворяла этим критериям и соответствовала приверженности Европарламента этичному и ответственному использованию ИИ-технологий в государственном управлении.

Руководитель служб цифровизации Европарламента Марко Амабилино (Marco Amabilino) отмечает: «Мы оценили несколько больших языковых моделей и выбрали Claude, потому что эта модель использует т.н. «конституционный ИИ» (Constitutional AI) - фирменный подход к разработке ИИ-систем, который в процессе обучения ИИ «прививает»ему базовые ценности и принципы. В отношении Archibot это означает, что пользователи с большей вероятностью получат соответствующие этим принципам ответы, благодаря использованию обучающих данных из различных источников, таких как Декларация прав человека Организации Объединенных Наций». Развертывание Claude в рамках сервиса Amazon Bedrock обеспечило ещё одно преимущество в плане безопасности, позволив Европарламенту сохранить полный контроль над своим решением в собственной облачной среде Европейского союза.

Archibot значительно улучшает доступ к архивным документам и удобство работы с ними

Целью Европарламента при разработке приложения Archibot было скорее улучшение, чем полная автоматизация деятельности человека. До интеграции с моделью Claude квалифицированные сотрудники обрабатывали ежегодно сотни запросов. Теперь Archibot обрабатывает тысячи запросов ежемесячно. Такое сотрудничество, объединяющее человеческий опыт и эффективностью ИИ, значительно улучшило скорость и качество предоставления услуг и удовлетворённость пользователей.

Приложение Archibot оптимизировало операции и укрепило взаимоотношения между Европарламентом и исследователями. По словам Урса, «Они не просто обращаются к Archibot один раз - они начинают вести диалог о своих замечаниях и предложениях, и мы часто реализуем их предложения. Пользователи видят, что мы готовы помогать им, и в ответ они помогают нам улучшить наш инструмент».

Приложение Archibot значительно повлияло на сотрудников и на пользователей. Теперь пользователи экономят 80% времени, которое они затрачивали на поиск документов, что привело к 58%-ному росту удовлетворенности пользователей благодаря повышению продуктивности поиска, скорости и простоты использования. Благодаря своему глобальный охвату инструмент может применяться пользователями из сотен стран, помогая им получать доступ к архивам онлайн. Столь широкое использование и получаемая обратная связь подчеркивают успех Archibot в повышении удобства работы и удовлетворённости пользователей при работе с архивными документами Европарламента.

Потенциал генеративного ИИ для государственного сектора

Европарламент рассматривает Archibot как всего лишь начало освоения потенциала ИИ в сфере государственного управлении. Людовик Делепин предвидит более широкое применение: «В будущем парламенты смогут использовать генеративный ИИ для оптимизации законодательных процессов посредством поддержки разработки и рассмотрения документов. ИИ может помочь в резюмировании (реферировании) длинных отчётов, что позволит быстрее принимать решения и проводить более обоснованные обсуждения».

Мой комментарий: Зачем писать (в будущем, наверное, с помощью одного ИИ) длинные отчёты, если никто не будет их читать (кроме другого – или даже того же самого - ИИ)? И не проще ли требовать от авторов отчётов подготовки качественного краткого резюме?

Европейский парламент реагирует на высказываемую общественностью обеспокоенность в отношении прозрачности государственного управления и ответственного использования технологий, обращая особое внимание на доступность, этичное использование ИИ и на демократизацию информации. Приложение Archibot - это значительный шаг на пути к тому, чтобы сделать государственное управление в Евросоюзе более открытым и понятным для граждан. Она также демонстрирует, каким образом генеративный (порождающий) ИИ может способствовать тому, чтобы знания о прошлом помогали создавать лучшее будущее.

Мой комментарий: На сайте Архивов Европарламента основным интерфейсом онлайн-доступа для пользователей является «инструментальная панель» доступная по адресу: https://archidash.europarl.europa.eu/ep-archives-anonymous-dashboard (см. ниже):

Выбрав в правом верхнем углу Select Dashboard: content-analysis , а на открывшейся странице – вкладку Ask the EP Archives, можно задать свой вопрос чатботу, который вместе с ответом предложит ряд ссылок на документы (см. ниже):

Задав несколько провокационный вопрос «В чём цели долгосрочной конфронтации Евросоюза с Россией?», я получила такой ответ: «Не могу дать конкретного ответа. В наших документах в основном обсуждаются исторические события и взаимоотношения между Европейским сообществом и СССР/Россией в более ранний период, а не текущие долгосрочные цели… ». Приведя всё же несколько ссылок, чатбот в конце указал мне на то, что Евросоюз всегда стоял за демократию и мир во всём мире :)

С моей точки зрения, отдачу от такого инструмента всё равно можно получить, но пока что он не дотягивает до уровня квалифицированного архивиста, способного дать полезные советы по поиску архивных материалов. Кстати, обращает на себя внимание то, что мне дали ссылку на конкретные документы, а не на фонды, которые стоило бы «прокопать».

Также в качестве эксперимента я попробовала инструмент резюмирования (выбрав в правом верхнем углу Select Dashboard: tools , а на открывшейся странице – вкладку Document Summarizer), и … что-то он меня не впечатлил! Во-первых, при резюмировании загружаемого пользователем текстового файла есть ограничение на объём в 150 тысяч знаков (т.е. 50-75 страниц) – в него не вписываются многие европейские законы. Во-вторых, качество порождаемого резюме оказалось весьма сомнительным; проще и лучше будет посмотреть, когда это возможно, статью в Википедии или мнение эксперта …

Источник: сайт компании Anthropic / сайт YouTube
https://www.anthropic.com/customers/european-parliament
https://www.youtube.com/watch?v=P2xtHTPDxSs

Европейский Парламент расширяет доступ к своим архивам с помощью ИИ-модели Claude, часть 1

Данная статья была опубликована 21 октября 2024 года на сайте компании Anthropic.

Европейский Парламент революционизирует доступ к своим обширным историческим архивам, внедряя инструмент на базе искусственного интеллекта (ИИ) «Спроси у Архивов Европарламента» (Ask the EP Archives), также известный как Archibot, созданный с помощью ИИ-моделей Claude (семейство генеративных ИИ-моделей компании Anthropic, обученных с использованием подхода Constitutional AI, обеспечивающего их «полезность, честность и безопасность» - Н.Х.) в рамках сервиса Amazon Bedrock (это сервис, предлагающий широкий выбор высокопроизводительных базовых ИИ-моделей от ведущих компаний, занимающихся искусственным интеллектом, таких как AI21 Labs, Anthropic, Cohere, Meta, Stability AI и Amazon на основе единого API-интерфейса, а также широкий набор возможностей, необходимых для создания приложений с генеративным искусственным интеллектом – Н.Х.).

Приложение Archibot даёт пользователям возможность мгновенно искать, извлекать и понимать накопленные за десятилетия нормативно-правовые документы и документы парламентских слушаний на многих языках.

Опираясь на ИИ-модель Claude, приложение Archibot:

• Сокращает время поиска документов на 80%,
  
  
• Повышает удовлетворенность клиентов примерно на 60%,
  
  
• Позволяет обрабатывать в 10 раз больше запросов в месяц,
  
  
• Делает легкодоступными для исследователей, законодателей, педагогов и общественности более 2,1 миллиона официальных документов.

3-минутный видеоролик о чатботе Archibot (доступен по адресу https://www.youtube.com/watch?v=P2xtHTPDxSs )

Сохранение истории и содействие прозрачности

Архивная служба Европейского Парламента в Люксембурге обеспечивает сохранность обширной коллекцию исторических документов. С 1952 года в этом архиве накоплено 5 погонных километров бумажных документов и 2 терабайта цифровых данных. Данные архивные документы играют ключевую роль для поддержания в Евросоюзе целостности государственного управления и содействия прозрачности.

Руководитель архивной службы Людовик Делепин (Ludovic Délépine) подчеркивает важность архива: «Эти усилия поддерживают подотчетность, доверие к институтам и информированное общество».

В течение многих лет перед архивистами стояли две основные проблемы: упростить поиск в архивах и обеспечить доступность архивов для всех, кому требуется получить к ним доступ. «Чтобы получить доступ к нашим архивам, людям приходилось приезжать в Люксембург или отправлять по электронной почте запрос на получение ограниченного количества скан-копий в формате .pdf», - поясняет руководитель отдела обработки Дэниел Урс (Daniel Urse). Появление генеративного (порождающего) ИИ кардинально изменило то, каким образом архивисты и исследователи могут ориентироваться в миллионах хранящихся в архиве документов.

Чатбот Archibot оживляет историю с помощью модели Claude

Для решения вопросов обеспечения доступности Европарламент создал приложение Archibot, который теперь доступен на веб-сайте архива Европарламента, предлагая пользователям по всему миру легкий доступ к документам Европарламент на нескольких языках, включая резолюции, позиции, политики и материалы межведомственных переговоров, а также помогая исследователям и сотрудникам анализировать данные и создавать всесторонние отчёты.

В число ключевых функциональных возможностей Archibot входят:

• Резюмирование (реферирование) законодательства и истории Евросоюза, чтобы помочь пользователям понять ключевые детали, не читая ради этого документы целиком (хотя не очень понятно, зачем вообще обращаться к архивам, если нет желания работать с первоисточниками – Н.Х.).
  
  
• Использование технологии «генерации ответов, дополняемой поиском и извлечением релевантной фактической информации» (Retrieval augmented generation, RAG), дающей пользователям возможность запрашивать и мгновенно получать конкретную и точную информацию.
  
  
• Функциональные возможности, дающие возможность пользователям экстраполировать информации и формировать отчёты;
  
  
• Поддержка иных языков помимо французского (который первоначально был официальным языком Евросоюза – Н.Х.) для обслуживания всех государств-членов Евросоюза.
  
  
• Глобальная доступность для пользователей, включая законодателей, исследователей и представителей широкой общественности, позволяющая им изучать историю государственного управления Евросоюзом в отсутствие специальных знаний и/или без необходимости лично приезжать в Люксембург.

Говоря о важности данного инструмента, Людовик Делепин отмечает «В современную эпоху дезинформации, эти основные первоисточники [архивные документы – Н.Х.] имеют важнейшее значение для изучения нашего прошлого и поддержания наших ценностей».

(Окончание следует, см. https://rusrim.blogspot.com/2024/11/claude-2.html )

Источник: сайт компании Anthropic / сайт YouTube
https://www.anthropic.com/customers/european-parliament
https://www.youtube.com/watch?v=P2xtHTPDxSs
 

«ИИ-зумительная технология»: Национальные Архивы США заставляют своих сотрудников использовать ИИ-чатбот Google Gemini, часть 2

(Окончание, начало см. http://rusrim.blogspot.com/2024/11/google-gemini-1.html )

Судя по протоколу общения в чате, была проведена живая демонстрация инструмента Vertex AI компании Google, в ходе которой тот выдавал себя за «эксперта-архивиста» - и ему задавались вопросы, связанные с убийством президента Джона Кеннеди (John F. Kennedy). Инструмент Vertex AI позволяет организациям обучать большие языковые LLM-модели на собственных наборах данных, и в данном случае ИИ обучался на данных Национальных Архивов. Были, в частности, заданы вопросы: «Кто убил Кеннеди?» и «Каким образом ЦРУ было вовлечено в убийство Кеннеди?» (см. рис. ниже).

Вопросы, заданные ИИ в связи с убийством президента Кеннеди

«Почему генеративный ИИ называет себя «экспертом-архивистов»?» - спросил один из сотрудников. «Он так называет себя, потому что мы дали ему такую подсказку», - ответил кто-то из участников демонстрации.

«Меня серьёзно беспокоит титул «эксперт-архивист», - подчеркнул второй сотрудник.

«Меня тоже. Если у нас хотя бы была оговорка о том, что генеративный ИИ может выдумывать всякое и при этом называть себя экспертом-архивистом того же уровня, что и настоящие эксперты-люди…», - вмешался ещё один коллега.

В какой-то момент один из участников написал в чате: «Задайте ИИ вопрос, что случилось с мозгом Кеннеди» (это на самом деле известная загадка, см. https://www.theguardian.com/world/shortcuts/2013/oct/21/presidents-brain-missing-mislaid-body-parts ).

Суда по всему, сотрудники Национальных Архивов были серьёзно обеспокоены демонстрацией и презентацией.

В какой-то момент один из сотрудников отметил: «Секретные данные нельзя предоставлять облачному ИИ». Другой его коллега спросил: «Сможем ли мы запретить Gemini доступ к данным на Google-диске и/или к нашей электронной-почте?».

Ещё один сотрудник написал: «Не опасаетесь ли Вы, что данный продукт будет работать со сбоями, подобными тем, что недавно произошли с Google Search AI?» (имеется в виду нашумевшая история о том, как ИИ-чатбот выдумывал однобокие, явно политизированные ответы на заданные вопросы, не имевшие отношения к действительности – Н.Х.).

Также был задан вопрос: «Каким образом Вы планируете исключить возможность вовлечения Национальных Архивов в проблемы с нарушением авторских прав в результате использования ИИ-модели, обученной на веб-контенте? Такого рода проблемы уже имели место при использовании чатбота ChatGPT, обученного на пиратских копиях книг».

Слайд, рекламирующий гибкость Google Gemini и предлагающий рассматривать его как коллегу по работе

На вопрос: «Видим ли мы демо-версию продукта, готовящегося к развертыванию для сотрудников NARA?» был дан ответ: «Мы сейчас проводим пилотный проект внедрения этой технологии, чтобы определить, следует ли Национальным Архивам как учреждению начать его широкое развёртывание».

«ИИ-чатбот призван сгенерировать нечто, что выглядит как ответ – и есть множество случаев, когда он с авторитетным тоном выдаёт нечто такое, что совершенно неверно», - подчеркнул один их участников. «В какой степени от нас потребуют полагаться на него в будущем?».

Три архивиста выразили обеспокоенность по поводу экологических аспектов и углеродного следа генеративного (порождающего) ИИ.

В электронном письме, которое мне было предоставлено в начале этого года, Национальные Архивы сообщили своим сотрудникам о том, что предпочитают решения Google Gemini и Microsoft Copilot вместо ChatGPT, потому что те обеспечивают «более контролируемую среду».

Представитель Национальных Архивов по связям с общественностью сообщил нашему изданию, что у архивного ведомства имеются большие планы относительно ИИ, в том числе запуск ИИ-чатбота для общественности под названием «Арчи» (Archie).

«Мы изучаем, каким образом ИИ может помочь нам повысить доступность наших фондов, хранящихся по всей стране. В настоящее время мы выполняем несколько пилотных проектов внедрения ИИ, направленных на улучшение наших услуг для общественности, одновременно укрепляя общественное доверие и уверенность», - сообщил он. «В конечном итоге мы хотим, чтобы пользователи могли легко отыскивать нужные им документы в нашей огромной по объёмам сокровищнице федеральных документов постоянного срока хранения. Независимо от того, являетесь ли вы ветераном вооружённых сил, семейным историком, преподавателем, исследователем или студентом, наша цель - как можно более беспрепятственно соединить Вас с документами».

Национальные Архивы планирует проинформировать пользователей о том, что, по сути дела, «Арчи» может предоставлять людям неверную информацию.

«Наш инструмент «Archie AI» будет напрямую говорить о вопросах точности и раскрытия информации», - сказал представитель Национальных Архивов. В правовой оговорке будет сказано: «Точность: Сгенерированные ИИ сводки и результаты могут не отражать мнение Национальных Архивов, и их точность не гарантируется. Исторические документы часто содержат фактические ошибки или оскорбительный язык, который Archie AI может повторять или использовать».

Мой комментарий: Мне крайне интересно, в какой мере федеральные органы США будут доверять сгенерированным ИИ справкам, на основе которых будут назначаться пенсии и льготы :)

Администрация президента Байдена ранее поручила федеральным органам исполнительной власти изучить возможности ИИ и разработать политику его применения. Также Национальные Архивы США недавно провели презентацию об ИИ для Международного совета архивов.

В этой презентации (полуторачасовая видеозапись которой доступна по адресу https://www.youtube.com/watch?v=ZXTe7oLK-mc ), директор Национальных Архивов по цифровым партнерствам и связям с общественностью Кэрол Лагундо (Carol Lagundo) представила чатбот «Арчи» и также объяснила, что Национальные Архивы использовали ИИ для «улучшения доступа к пенсионным файлам времен Войны за независимость», которые представляют собой массив из более чем 2,5 миллионов страниц рукописных документов 18-го и 19-го веков о солдатах времен Войны за независимость (Revolutionary War).

«При нынешних темпах полностью транскрибировать эту серию документов одними только людьми удастся лишь к 2046 году!», - отмечается в презентации Лагундо. Она сообщила, что точность транскрибирования набора данных ИИ-инструментом составила 90%, и что Национальные Архивы намерены сделать данные расшифровки доступными для общественности через свой официальный «Онлайн-каталог Национальных Архивов» в ноябре или декабре 2024 года.

Основные характеристики «Archie AI» - основан на решении Google Vertex, обрабатывает запросы на естественном языке. В настоящее время это пилотный проект, обученный на небольшом наборе данных

Лагундо добавила, что Национальные Архивы разрабатывает «прототип ИИ-помощника исследователя» на базе Google Vertex под названием «Archie AI».

«Вы сможете задать «Арчи» вопросы и получить сгенерированные ИИ резюме со сносками и ссылками на оцифрованные документы в нашем каталоге», - рассказала она. «Мы надеемся запустить его через несколько месяцев».

«Как Вы можете видеть, «Archie AI» является краеугольным камнем нашего изучения возможностей И», - так сказал представитель Национальных Архивов в интервью нашему изданию.

Джейсон Коблер (Jason Koebler)

Источник: сайт «404 Media»
https://www.404media.co/ai-mazing-tech-venture-national-archives-pushes-google-gemini-ai-on-employees/

«ИИ-зумительная технология»: Национальные Архивы США заставляют своих сотрудников использовать ИИ-чатбот Google Gemini, часть 1

Данная статья Джейсона Кёблера (Jason Koebler – на фото) была опубликована 15 октября 2024 года на независимом веб-сайте «404 Media», со-основателем которого он является.

Национальные Архивы США вводят в эксплуатацию чат-бот для общественности на основе искусственного интеллекта под названием «Арчи» (Archie – имя, перекликающееся со словом «архивы» - Н.Х.). У сотрудников Национальных Архивов в связи с этим есть опасения.

В июне Национальные Архивы США (NARA) провели для своих сотрудников презентацию и техническую демонстрацию под названием «ИИ-зумительная технология» (AI-mazing Tech-venture), в которой ИИ-чатбот Gemini компании Google был представлен как инструмент, который сотрудники архивов смогут использовать для «повышения производительности». По ходу демонстрации, -  согласно копии презентации ( https://cdn.muckrock.com/foia_files/2024/09/19/2024_Information_Services_Town_Hall_Presentation_Redacted.pdf ), истребованной сайтом «404 Media» на основании Закона о свободе доступа к государственной информации, - чатботу задавались, в частности, вопросы об убийстве президента Джона Ф. Кеннеди.

Как стало известно «404 Media», в декабре 2024 года Национальные Архивы планируют запустить ИИ-чатбот для общественности под названием «Archie AI». «У Национальных Архивов имеются большие планы, связанные с использованием искусственного интеллекта», - сообщил нашему изданию представитель NARA. «ИИ существенным образом повлияет на то, как мы выполняем нашу работу, как мы масштабируем наши услуги для американцев, которые хотят иметь доступ к нашим документам из любого места и в любое время, - и на то, и как мы обеспечиваем свою готовность надлежащим образом позаботиться о документах, создаваемых сегодня и в будущем».

Протокол общения в чате сотрудников Национальных Архивов по ходу презентации ( https://cdn.muckrock.com/foia_files/2024/09/19/EVT506703_Chat_Log.docx_Redacted.pdf ) показывает, что архивисты обеспокоены идеей использования ИИ-инструментов в практической архивной работе, которая по своей сути нацелена на точное документирование истории.

Один из присутствовавших на презентации сотрудников сказал «404 Media»: «Я подозреваю, что они собираются внедрить этот инструмент на рабочих местах. Я там работаю, и я ненавижу всякую ерунду, производимую ИИ».

Презентация была проведена примерно через месяц после того, как Национальные Архивы запретили своим сотрудникам использовать популярный чатбот ChatGPT ( https://www.404media.co/national-archives-bans-employee-use-of-chatgpt/ ) на том основании, что он якобы представляет «неприемлемый риск для безопасности данных Национальных Архивов», и предупредили их о том, что им «не следует полагаться на большие языковые LLM-модели для получения фактической информации». Но вот Google Gemini, как отмечается на одном из слайдов, «это гибкий многоцелевой инструмент, способный помочь пользователям сэкономить время, повысить производительность труда и достичь лучших результатов в своей работе. Думайте о Gemini как о коллеге, который поможет генерировать идеи и анализировать контент, который Вы уже создали».

Слайд с содержанием презентации (часть информации отцензурирована)

Те части слайдов, где предлагались конкретные варианты использования, были вымараны, но в целом в презентации рекомендуется использовать ИИ для «помощи в написании текстов, для визуализации данных, для подведения итогов совещаний и для генерации идей».

«Генерируйте тексты, переводите с одних языков на другие и резюмируйте документы, чтобы помочь пользователям общаться более эффективно», - отмечается на одном из слайдов.

Во время презентации, которая проводилась в системе Zoom, сотрудники подняли в чате немало тревожащих их вопросов в связи с данной технологией. Национальные Архивы отказался предоставить видеозапись чата, сославшись на необходимость защиты персональных данных, поэтому неясно, ответил ли докладчик на какие-либо вопросы и каким образом. Все имена задававших вопросы сотрудников были вымараны Национальными Архивами (см. рис. ниже).

Протокол общения в чате, предоставленный Национальными Архивами США

«Каким образом представители общественности узнают, что получают ответ от настоящего живого архивиста, а не от генеративного (порождающего) ИИ?» — спросил один из сотрудников. «Раскроют ли Национальные Архивы, какие аспекты предоставляемой справочной информации генерируются с помощью ИИ?». Тему продолжили двое других сотрудников, отметив, что они также обеспокоены этим, а один из них сказал: «Меня беспокоит то, что если такая информация не будет должным образом раскрыта, то в результате может упасть доверие к Национальным Архивам».

(Окончание следует, см. http://rusrim.blogspot.com/2024/11/google-gemini-2.html )

Джейсон Коблер (Jason Koebler)

Источник: сайт «404 Media»
https://www.404media.co/ai-mazing-tech-venture-national-archives-pushes-google-gemini-ai-on-employees/

Дорогостоящая проблема интеллектуальных чат-ботов: Балансируя качество и прибыльность

Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 18 сентября 2023 года на блоге компании Formtek.

Чат-боты на основе искусственного интеллекта (ИИ) оказались в неприятном (и дорогостоящем) положении, столкнувшись с обременительными расходами, которые подрывают их потенциал. Непомерные затраты в сочетании с нехваткой специализированных компьютерных чипов становятся препятствием для преобразующей силы ИИ и провоцируют вопросы о его жизнеспособности ( https://www.washingtonpost.com/technology/2023/06/05/chatgpt-hidden-cost-gpu-compute ).

Мой комментарий: Подобные стенания сплошь и рядом можно услышать на ранних стадиях внедрения любых инновационных технологий – и воспринимать их следует с определённой долей скептицизма. ИИ-технологии открывают целый ряд совершенно новых направлений деятельности; и, поскольку обойтись без них здесь нельзя, то соответствующие затраты просто будут переложены на потребителей (включая государство), которые уже не могут обойтись без ИИ. По идее, в капиталистическом обществе должны – о чём почему-то сегодня забывают – сработать механизмы рыночного саморегулирования, которые как раз и должны сбалансировать ситуацию :)

Технологические гиганты Кремниевой долины (Silicon Valley), несмотря на усиленное продвижение ими искусственного интеллекта, редко признают финансовую трясину, в которой погрязла эта сфера деятельности. Эксперты, однако, предупреждают, что эти стремительно растущие расходы создают серьёзные препятствия на пути реализации концепции интеграции ИИ в различных отраслях.

Из-под глянцевой «обложки» проступает тревожная реальность. Высокие затраты ограничивают внедрение надёжных моделей, в результате чего у чат-ботов на основе ИИ растут риски предвзятости и распространения дезинформации.

Остроту этой проблемы подчёркивает тот факт, что компания OpenAI не включает мощную языковую модель GPT-4 в бесплатную версию своего чат-бота ChatGPT. Ограничения и задержки мешают эффективному использованию чат-ботов даже теми, кто готов платить. Google также действует не спеша, с осторожностью относясь к интеграции чат-ботов на основе ИИ в свою поисковую систему из-за связанных с этим расходов.

Финансовое бремя выходит за рамки отдельных компаний, в результате чего звучат призыва к созданию жизнестойких систем, способных удовлетворить растущие потребности и смягчить воздействие на окружающую среду.

Кроме того, сдвиг во власти, вызванный борьбой за доступ к специализированным чипам, обеспечил производителям микросхем ключевые позиции. Одной только рекламы может быть недостаточно для того, чтобы сделать ИИ-инструменты прибыльными, и баланс силы смещается в сторону производителей чипов и гигантов облачных вычислений.

Обеспечение прибыльности в условиях растущих затрат представляет собой большую проблему для поставщиков ИИ-моделей, поскольку, согласно прогнозам, львиная доля прибыли будет уходить именно производителям микросхем и гигантам облачных вычислений.

По ходу этого деликатного «танца» генеральный директор компании OpenAI косвенно признал финансовые трудности во время слушаний в Сенате США. Непомерные расходы являются результатом ресурсозатратных и трудоёмких процессов разработки и обучения, что отпугивает потенциальных разработчиков моделей, несмотря на успехи нескольких хорошо финансируемых стартапов.

В сфере чат-ботов на основе ИИ пока что остаётся нерешённым ключевой вопрос: сможем ли мы найти баланс между качеством и прибыльностью, или же стремительно растущие затраты задушат ту самую революцию, которую эти чат-боты стремятся возглавить? По мере продвижения вперёд та цена, которую мы платим за прогресс, становится огромной, бросая тень на потенциал ИИ.

Дик Вейсингер (Dick Weisinger)

Источник: блог компании Formtek
https://formtek.com/blog/the-costly-conundrum-of-ai-chatbots-balancing-quality-and-profitability/

ИИ-модели типа GPT - обоюдоострый меч в плане создания контента и управления данными

Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 12 сентября 2023 года на блоге компании Formtek.

Порождающий искусственный интеллект (Generative AI,) - способность автоматически создавать контент на основе данных с использованием больших языковых моделей (LLM), таких как GPT – революционизирует сейчас области разработки программного обеспечения, дизайна, развлечений и многие другие. Однако эта технология также создаёт проблемы для управления данными и инфраструктуры, которые часто упускаются из виду или игнорируются в стремлении к инновациям.

Данные - это топливо, которое питает порождающий ИИ, но они также требуют осторожной и тщательного обработки и обслуживания, чтобы обеспечить их качество, безопасность и эффективность. По мере экспоненциального роста объемов данных и числа приложений возрастают также риски и затраты, связанные с неправильным управлением данными. Качество данных и контракты, автоматизация процессов, объяснимость аналитики и оптимизация затрат ( https://www.calcalistech.com/ctechnews/article/s19j00ocy3 ) - вот лишь некоторые из ключевых областей, которые требуют внимания и инвестиций с целью поддержки эффективного использования  порождающего ИИ.

К сожалению, многие стартапы и организации в большей степени сосредотачивают своё внимание на создании решений на основе модели GPT, чем на создании решений для управления данными и инфраструктуры. Это может привести к узким местам, связанным с данными, к ошибкам, утечкам и потерям, которые подрывают ценность и потенциал порождающего ИИ. Более того, это также может привести к этическим и социальным проблемам, таким как плагиат, предвзятость, дезинформация и манипулирование.

Поэтому важно сбалансировать восхищение и энтузиазм в отношении порождающего ИИ с ответственным целостным подходом к управлению данными и инфраструктурой. Данные - не только источник силы, но и источник ответственности. Обеспечивая чистоту, точность, согласованность, безопасность и эффективность данных, мы можем создать условия для того, чтобы порождающий ИИ производил контент, который будет не только новым и полезным, но также и заслуживающим доверия и этичным.

Дик Вейсингер (Dick Weisinger)

Источник: блог компании Formtek
https://formtek.com/blog/gpt-a-double-edged-sword-for-content-creation-and-data-management/

Новые рубежи искусственного интеллекта: От чат-ботов до залов судебных заседаний и ещё дальше

Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 8 сентября 2023 года на блоге компании Formtek.

Искусственный интеллект (ИИ) меняет то, как мы общаемся, работаем и учимся. Такие чат-боты, как ChatGPT, способны генерировать реалистичные и увлекательные тексты на различные темы, и даже разговаривать с людьми на естественном языке. Эти чат-боты опираются на большие языковые модели (large language models, LLM), которые могут обрабатывать и обучаться на огромных объёмах данных.

Но чат-боты - это лишь верхушка айсберга. Искусственный интеллект также развивается в других областях, таких как право, наука, инженерия и робототехника. Фабиан Стефани (Fabian Stephany) и Иоганн Ло (Johann Laux) недавно описали четыре примера развития связанных с ИИ возможностей ( https://world.edu/chatgpt-took-people-by-surprise-here-are-four-technologies-that-could-make-a-difference-next/ ):

• Юридическая помощь с помощью ИИ: Стартап под названием DoNotPay («НеПлати») утверждает, что создал юридический чат-бот, который может консультировать ответчиков в суде. Этот чат-бот может прослушивать ход судебного разбирательства и нашёптывать ответчику юридические аргументы через наушник. Однако его использование сталкивается с юридическими проблемами и этическими сложностями, поскольку ему может быть отказано в разрешении на ведение юридической практики или на представление людей в суде.
  
  
• Поддержка искусственным интеллектом научной деятельности: Учёные используют ИИ для анализа данных и выдвижения новых гипотез. ИИ может помочь ученым обнаружить новые закономерности, предложить новые идеи и решения, которые могут быть неочевидны для человеческой интуиции или ввиду человеческих предубеждений. Например, система машинного обучения провела ранжирование химические соединений, используемых в качестве материала для аккумуляторов, экономя время и ресурсы исследователей.
  
  
• Продвинутые инструменты типа AutoGPT: Следующее поколение чат-ботов будет основано на модели GPT-4, более совершенной большой языковой LLM-модели, способной обрабатывать различные типы данных - например изображения и речь. Такие чат-боты смогут генерировать мультимодальный контент, такой как аннотации и подзаголовки, резюме и переводы. Они также будут способны лучше понимать контекст и намерения пользователя. И это ещё не всё: продвинутый инструмент искусственного интеллекта AutoGPT, выпущенный компанией Significant Gravitas, может самостоятельно, без участия человека выполнять сложные задачи. AutoGPT способен разделять общую основную задачу на подзадачи и выполнить такие подзадачи с помощью ИИ-агентов, принимающих решения на основе правил и целей. Например, AutoGPT может спланировать вечеринку по случаю дня рождения, забронировав место проведения, отправив приглашения и заказав торт.
  
  
• Человекоподобные роботы (роботы-гуманоиды): Роботы, которые выглядят и действуют как люди, становятся более реалистичными и обладающими более широкими возможностями. Они могут выполнять задачи, требующие ловкости, координации и социальных навыков - такие, например, как обслуживание клиентов, доставка посылки или оказание помощи пожилым людям. Человекоподобные роботы стали значительно совершеннее со времени первого конкурса Darpa Robotics Challenge в 2015 году, когда многие представленные на конкурс роботы с трудом выполняли базовые задачи. Сейчас стартапы ведут разработку человекоподобных роботов для выполнения складских работ, используя достижения в таких областях ИИ, такие как компьютерное зрение и создание мощных аккумуляторов.
  
  Мой комментарий: Человекоподобность роботов осмысленна только в том случае, когда она необходима для комфортного взаимодействия обычных людей с роботами. В остальных случаях погоня за человекоподобностью обычно приводит к малоэффективным нежизнеспособным решениям, пригодным лишь для того, чтобы развлекать детей на выставках. Складская работа, на мой взгляд, один из видов деятельности, где человекоподобность роботов, скорее всего, будет вредна.

Это лишь некоторые из ИИ-технологий, которые могут сформировать наше будущее. У них есть потенциал для того, чтобы улучшить нашу жизнь, - но при этом также встают важные вопросы об их осуществимости, жизнеспособности и допустимости использования. Мы должны быть готовы как принять и внедрять их, так и регулировать их.

Дик Вейсингер (Dick Weisinger)

Источник: блог компании Formtek
https://formtek.com/blog/the-next-frontier-of-ai-from-chatbots-to-courtrooms-and-beyond/

Заработал российский интеллектуальный чатбот GigaChat

В России стараниями Сбербанка появился свой аналог знаменитого ИИ-чатбота ChatGPT, см. https://developers.sber.ru/portal/products/gigachat .

Сейчас такие чатботы не ругает только ленивый, однако все потихоньку начинают ими пользоваться. Да, выдаваемую ими информацию нужно перепроверять, однако, подобно Википедии и автопереводчикам, они тем не менее помогают многим из нас выполнять свою работу быстрее и эффективнее.

Для меня чатбот – ещё один инструмент повышения производительности моего труда; я не собираюсь заставлять его делать работу за меня, но он точно поможет мне понять другие возможные точки зрения. Его можно рассматривать как человека, пусть и не специалиста по конкретным вопросам, однако обладающего огромной эрудицией :)

Ниже приведены примеры вопросов и ответов:

Вопрос: Почему не оправдала ожиданий технология блокчейна?

Ответ: Технология блокчейн имеет множество преимуществ и недостатков, которые могут влиять на ее эффективность и популярность. Некоторые из основных причин, почему технология блокчейн не оправдала ожиданий, включают:

1. Недостаточная масштабируемость: Блокчейн может быть очень масштабируемой технологией, но она также требует большого количества вычислительной мощности для обработки транзакций. Это может быть проблемой в некоторых сценариях, таких как обработка больших объемов данных или управление цепочками поставок.

2. Низкая безопасность: Технология блокчейн подвержена атакам хакеров и мошенничеству, что делает ее менее безопасной по сравнению с традиционными методами хранения данных.

3. Ограниченная применимость: Блокчейн может использоваться только там, где требуется высокая степень прозрачности и доверия между участниками сети. Например, криптовалюты и смарт-контракты могут быть использованы для автоматизации процессов, но они не подходят для управления большими объемами данных или выполнения сложных финансовых операций.

4. Сложность внедрения: Внедрение технологии блокчейн требует значительных инвестиций и времени. Это может быть проблемой для компаний и правительств, которым необходимо быстро внедрить новую технологию.

5. Отсутствие регулирования: Технология блокчейн не регулируется так же строго, как традиционные методы хранения данных. Это может создавать проблемы при работе с конфиденциальной информацией или при возникновении споров между участниками сети.

Вопрос: Что такое «электронный архив»?

Ответ: Электронный архив (или электронный архив документов) — это система хранения и организации электронных документов, которая позволяет пользователям получать доступ к документам через интернет. Электронные архивы обычно используются организациями для хранения и обмена документами, такими как контракты, счета-фактуры, отчеты о продажах и т.д. Они обеспечивают быстрый и удобный доступ к документам без необходимости физического перемещения бумажных копий.

Вопрос: Почему ни одна другая страна мира не использует машиночитаемые доверенности?

Ответ: Машиночитаемая доверенность — это документ, который содержит информацию об автомобиле и его владельце, такую как номер автомобиля, модель, год выпуска, цвет и другие технические характеристики. Этот тип документа широко используется во многих странах мира для подтверждения права собственности на автомобиль. Однако, несмотря на свою популярность, машиночитаемые доверенности все еще имеют некоторые недостатки, такие как сложность использования и отсутствие стандартизации. Кроме того, использование машиночитаемых доверенностей может привести к увеличению затрат на обработку документации и усложнению процесса регистрации автомобилей.

Я бы сама ответила на эти вопросы иначе, однако ответы, данные GigaChat-ом, вполне осмысленные (кроме последнего) и отражают точку зрения определенного круга специалистов!

Порождающий ИИ: Решение проблем управления данными

Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 17 августа 2023 года на блоге компании Formtek.

2023 год ознаменовал начало эпохи искусственного интеллекта (ИИ), движимой невероятным потенциалом интеллектуального чатбота ChatGPT. Подобные порождающие (generative) языковые модели ИИ захватили наше воображение - поддерживая беседы и создавая новый контент, как никогда раньше. Однако по мере того, как мы внедряем эту передовую технологию, нам приходится также преодолевать её ограничения и решать критически-важные вопросы защиты персональных данных и управления данными.

Недавние инциденты подчеркнули срочную необходимость нормативного регулирования и мер безопасности в области ИИ. Например, компании Samsung непреднамеренно допустила утечку своих секретов через ChatGPT, вследствие того, что её сотрудники по незнанию раскрыли конфиденциальные корпоративные данные большим языковым моделям. Кроме того, киберпреступники быстро воспользовались появлением ChatGPT, ознакомив его с вредоносным контентом и учебными пособиями, имеющимися в «тёмном интернете».

Острой проблемой является защита персональных данных. Когда физические лица подписываются на инструменты ИИ, они необдуманно раскрывают персональные данные, что может иметь далеко идущие последствия. ИИ способен без согласия субъекта ПДн раскрывать его политические убеждения и интимные подробности, что потенциально может разрушить карьеру человека. Для обеспечения безопасного использования ИИ совершенно необходимы основательное нормативное регулирование и стандарты.

Ключом к решению многих проблем является стратегическое управление данными. Очень важное значение имеет прозрачность в отношении источников данных, используемых в больших языковых моделях. Нам необходимо знать, являются ли данные достоверными, непредвзятыми и законно собранными, поскольку полученные на их основе знания могут повлиять на формирование ключевых политик и планов организаций.

Ещё одним важным аспектом является разделение данных (data segregation). У разных поставщиков ИИ имеются различные политики защиты персональных данных и конфиденциальной информации, что подвергает организации риску непреднамеренного раскрытия данных. Крайне важно установить границы, обеспечивающие сохранение проприетарных данных внутри организации, при одновременном использовании преимуществ предварительно обученных моделей.

Кроме того, возникают вопросы о материальной ответственности и правах собственности на созданные ИИ произведения. Поскольку организации могут быть привлечены к ответственности за вызванные ИИ ошибки, становится крайне важным прояснение прав собственности и обеспечение прозрачности процесса порождения контента.

Чтобы сориентироваться в этих проблемах, крайне важно внедрить тактику управления данными. Это включает в себя создание рамочных концепций стратегического управления, понимание и защиту чувствительных (конфиденциальных) данных, тщательный анализ передаваемых ИИ-приложениям данных, обеспечение прозрачности источников данных, маркировку производных работ, облегчение переносимости данных и отслеживание отраслевых норм и правил.

ИИ-революция имеет огромный потенциал, однако мы должны подходить к ней с осторожностью. Внедрение надёжных методов стратегического и оперативного управления данными обеспечит защиту конфиденциальности и неприкосновенности частной жизни, снизит риски и раскроет истинную мощь ИИ. Давайте внедрять эту технологию с мудростью и дальновидностью, прокладывая путь к будущему, в котором ИИ будет стимулировать инновации, одновременно уважая наши персональные данные и неприкосновенность частной жизни.

Дик Вейсингер (Dick Weisinger)

Источник: блог компании Formtek
https://formtek.com/blog/generative-ai-navigating-data-management-challenges/