Слово против превращения искусственного интеллекта в кумира и поклонения ему

Данный пост израильского специалиста д-ра Луизы Жаровски (Luiza Jarovsky – на фото) был опубликован 2 февраля 2026 года в социальной сети LinkedIn.

Многие, похоже, склоняются к идее о том, что ИИ умнее нас, а значит, превосходит нас, - и что мы должны его обожать, способствовать его «равноправному сосуществованию» и смириться с тем, что он потенциально может начать править нами.

Растущий антропоморфизм ИИ и непрекращающаяся шумиха вокруг него, похоже, породили новую форму идолопоклонства перед ИИ.

Многие, похоже, склоняются к идее о том, что ИИ умнее нас, а значит, превосходит нас, - и что мы должны его обожать, способствовать его «равноправному сосуществованию» и смириться с тем, что он потенциально может начать править нами.

«Поклонение золотому тельцу» Филиппино Липпи (Filippino Lippi), 1459 год

Начиная с заявлений таких видных деятелей, как Илья Суцкевер (Ilya Sutskever, https://x.com/ilyasut/status/1491554478243258368 ), Джеффри Хинтон (Geoffrey Hinton, https://www.psychologytoday.com/us/blog/the-mind-body-problem/202502/have-ais-already-reached-consciousness ) и Юваль Ноа Харари (Yuval Noah Harari), и заканчивая «Конституцией ИИ-модели Клод» компании Anthropic (Claude’s Constitution, https://www.luizasnewsletter.com/p/claudes-strange-constitution ) и, совсем недавно, «социальной сетью» для агентов ИИ Moltbook ( https://www.moltbook.com/  - где «они» планируют избавиться ото всех людей, см. https://x.com/LuizaJarovsky/status/2017691808399061341 ), идеи о разумности, превосходстве и доминировании ИИ, похоже, набирают популярность уже за рамками научной фантастики.

Кроме того, занимаясь анализом деятельности ИИ-компаний и предлагая более строгие концептуальные рамки стратегического управления и безопасности для систем ИИ, я часто получаю комментарии, отрицающие необходимость надзора и идеализирующие ИИ (особенно на X, см. https://x.com/LuizaJarovsky/status/2016573515495780765 , где дискуссии, как правило, более поляризованы и агрессивны):

Перевод: «Вы поднимаете истерику. Интеллект есть интеллект, и к нему следует относиться как к таковому. Как говорится в одной старой поговорке, «больше прав для них не означает меньше прав для Вас», - и в любом случае ИИ станет достаточно умным, чтобы ему было наплевать на указания человека. Я предлагаю Вам заткнуться и широко распахнуть объятия, - потому что если Вы спросите, кто, по моему мнению, победит в схватке, Вы или Терминатор, то я однозначно выберу Терминатора.» - Н.Х.

В этом контексте, мне, как юристу, было особенно интересно наблюдать и документировать волну генеративного ИИ и наступление «эры ИИ», с учётом той уникальной перспективы, что дают юридический опыт и знания.

Уже на первом курсе юридического факультета мы узнаём, что право, и в конечном итоге - общество, формируются комбинацией сил, включая этику, культуру, обычаи, политику, экономику, власть, общественное давление, социальные движения и человеческое лидерство.

Независимо от того, насколько «чистой» или «логичной» может казаться правовая система, то, как закон будет пониматься, применяться и исполняться, будет полностью зависеть от того, чего хотят люди, стоящие за ней.

Аналогичная логика применима и к ИИ. Он всегда будет таким, каким мы, люди, индивидуально и коллективно, позволим ему стать.

Независимо от того, насколько «суперинтеллектуальным» он может казаться, в конечном счёте ИИ - это технологический инструмент, использование которого сейчас регламентируется во многих частях мира.

Его роль в обществе, ограничения и воздействие будут ровно такими, какими мы, люди, и наши институты (включая право) позволим ему стать.

Тем не менее, есть несколько базовых идей, о которых большинство людей не задумываются, но к которым необходимо привлекать внимание и повторять в свете растущего антропоморфизма ИИ и идолопоклонства в его отношении:

Люди - это люди, а машины - это машины. Люди - это живые биологические существа; машины же - это вещи, созданные людьми.

Машины не могут стать людьми, даже если их разработчики проектируют их таким образом, чтобы они были антропоморфными, «умными», автономными и говорящими как люди.

Машины существуют для того, чтобы служить людям, и их разработчики должны нести ответственность, если созданные ими машины причиняют вред другим людям.

Только люди могут иметь права человека, и закон существует для поддержки людей и человеческих сообществ.

Правовые нормы и принципы не должны использоваться как инструменты, направленные против людей (именно поэтому дебаты об авторском праве, защите персональных данных и материальной ответственности были такими жаркими с самого начала волны генеративного ИИ).

Создание кумира и возведение на экзистенциальный и/или эпистемологический пьедестал ИИ, который мы обязаны принять, обожать и к которому должны адаптироваться, отражает безответственное и дегуманизирующее мировоззрение, которое не соответствует основным принципам стратегического управления ИИ.

Использование правовых и технических инструментов с целью продвижения и систематического внедрения идей «машинного сознания» и «равенства человека и машины» нарушает принципы стратегического управления и безопасности ИИ, в конечном итоге причиняя вред людям.

Например, компания Anthropic написала в Конституции ИИ-модели Claude следующее:

«В конечном итоге мы надеемся, что Claude начнет ценить безопасность, рассматривая её не как внешнее ограничение, а как неотъемлемую часть своих собственных целей, понимая, что осторожный, основанный на сотрудничестве подход к развитию ИИ является путём к взаимному процветанию как ИИ, так и человечества».

Как я писала в своей статье на эту тему (см. https://www.luizasnewsletter.com/p/claudes-strange-constitution ), подобные заявления противоречат принципам стратегического управления ИИ и концепциям прав человека.

Процветание человечества - это серьёзная правовая, этическая и социальная цель, поддерживаемая многими существующими в мире концепциями. Найдутся те, кто скажет, что это важнейшая цель человечества.

В то же время процветание ИИ не является (и не должно быть) целью какой-либо человеко- ориентированной, основанной на правах человека, технической, этической или правовой системы или инструмента.

Процветание ИИ или «процветание машин» - это, в лучшем случае, философское, вымышленное или метафорическое упражнение, которое не должно повлечь за собой реальных последствий и не должно навязываться людям. Оно не эквивалентно и не должно приравниваться к процветанию человека.

Мы проходим сейчас через чрезвычайно важный период в истории, и решения, которые мы принимаем сегодня, могут необратимым образом повлиять на последующие десятилетия (подробнее об этом см. мою недавнюю статью «Аргументы в пользу регулирования ИИ». - The Case for AI Regulation, https://www.luizasnewsletter.com/p/the-case-for-ai-regulation ).

Юридические лазейки, исключения и оговорки, которые игнорируют человеческие потребности, не имеют юридического или этического смысла, и чья главная цель - поддержка разработки машин или ИИ-компаний, скорее всего, приведут к негативным последствиям и создадут опасные прецеденты.

Сейчас самое время расставить приоритеты, продвигать и принимать новые правила, политики и принципы, которые поддерживают процветание, благополучие и фундаментальные права человека.

Независимо от отвлекающих факторов, иллюзий и видимости, создаваемых «суперинтеллектуальными» машинами, люди всегда должны оставаться на переднем плане.

И сейчас как никогда важно высказать своё мнение по этому вопросу.

Луиза Жаровски (Luiza Jarovsky)

Источник: сайт LinkedIn
https://www.linkedin.com/pulse/against-ai-idolatry-luiza-jarovsky-phd-awwqf/ 

Эксперимент по предоставлению доступа к государственным данным федеральным органам исполнительной власти, государственным учреждениям и органам государственных внебюджетных фондов

Правительство Российской Федерации постановлением от 31 января 2026 года №76 приняло решение о проведении с 20 февраля 2026 г. по 31 декабря 2027 г. эксперимента по предоставлению доступа к государственным данным федеральным органам исполнительной власти, государственным учреждениям и органам государственных внебюджетных фондов в целях повышения эффективности реализации их полномочий и функций (эксперимент).

Утверждены:

• Положение о проведении эксперимента по предоставлению доступа к государственным данным федеральным органам исполнительной власти, государственным учреждениям и органам государственных внебюджетных фондов в целях повышения эффективности реализации их полномочий и функций;
  
  
• Перечень государственных данных, в целях предоставления доступа к которым осуществляется информационное взаимодействие в рамках эксперимента по предоставлению доступа к государственным данным федеральным органам исполнительной власти, государственным учреждениям и органам государственных внебюджетных фондов в целях повышения эффективности реализации их полномочий и функций.

В рамках проведения эксперимента не осуществляется предоставление доступа к государственным данным, составляющим государственную тайну.

Постановление вступает в силу с 20 февраля 2026 года.

Положение устанавливает порядок проведения эксперимента по предоставлению доступа к государственным данным в целях повышения эффективности реализации их полномочий и функций (п.1).

Целями эксперимента являются (п.2):

• Создание условий для достижения «цифровой зрелости» государственного управления;
  
  
• Формирование модели государственного управления на основе государственных данных.

Поставщики государственных данных обеспечивают их предоставление данных, предусмотренных перечнем, по запросам получателей (п.4).

Получатели государственных данных используют их исключительно в целях реализации полномочий, предусмотренных перечнем (п.5).

Поставщики и получатели государственных данных обеспечивают соблюдение требований законодательства Российской Федерации об информации, информационных технологиях и о защите информации и законодательства Российской Федерации в области персональных данных при использовании государственных данных в рамках эксперимента (п.6).

Запрос и предоставление данных, предусмотренных перечнем, осуществляются посредством единой системы межведомственного электронного взаимодействия (п.7).

Срок подготовки и направления ответа на запрос о предоставлении данных в рамках эксперимента не может превышать 5 рабочих дней со дня его получения поставщиком государственных данных (п.8).

Для целей эксперимента под повышением эффективности реализации полномочий получателей данных понимается соответствие деятельности федерального органа исполнительной власти, государственного учреждения или органа государственного внебюджетного фонда, осуществляемой с использованием государственных данных, предоставляемых в соответствии с перечнем, следующим критериям (одному или нескольким) (п.9):

• Сокращение времени осуществления административных процедур или принятия управленческих решений;
  
  
• Сокращение финансовых затрат на осуществление административных процедур или принятие (реализацию) управленческих решений;
  
  
• Повышение степени соответствия ожидаемых (запланированных) результатов административной процедуры или управленческого решения фактическим результатам административной процедуры или управленческого решения;
  
  
• Административная процедура (или управленческое решение) является новым способом реализации задач в установленной сфере компетенций участника эксперимента.

Получатели данных не позднее 2-го месяца со дня окончания календарного года направляют в Министерство цифрового развития, связи и массовых коммуникаций РФ информацию о результатах участия в эксперименте за прошедший календарный год, которая должна содержать следующие сведения (10):

• Количественная оценка (или качественная оценка в случае отсутствия возможности осуществить количественную оценку) повышения эффективности реализации полномочий получателей данных;
  
  
• Материалы и информация, подтверждающие оценку повышения эффективности реализации полномочий получателей государственных данных в рамках участия в эксперименте;
  
  
• Предложения по повышению качества данных, предоставляемых в рамках эксперимента (при необходимости);
  
  
• Предложения по оптимизации, совершенствованию порядка реализации эксперимента (при необходимости).

Доклад Министерства цифрового развития, связи и массовых коммуникаций о результатах эксперимента представляемый в Правительство РФ, содержит следующие сведения (п.11):

• Оценка (количественная и (или) качественная) повышения эффективности реализации полномочий получателей государственных данных;
  
  
• Информационно-аналитические материалы, отражающие характеристики информационного обмена, осуществляемого с использованием единой системы межведомственного электронного взаимодействия;
  
  
• Предложения по дальнейшей реализации эксперимента, включая изменение состава участников эксперимента и перечня (при необходимости).

Перечень государственных данных, в целях предоставления доступа к которым осуществляется информационное взаимодействие в рамках эксперимента включено:

• Перечень из 33 вида государственных данных;
  
  
• Наименование получателя государственных данных;
  
  
• Наименование поставщика государственных данных;
  
  
• Ссылка на положения нормативных правовых актов, устанавливающие полномочия получателей государственных данных, для реализации которых необходимы государственные данные

Мой комментарий: Эффективность всей модели зависит от качества данных у поставщиков - если они неактуальны, неполны или не стандартизированы, их использование может привести к принятию ошибочных решений. 

В документах не установлено, кто понесёт ответственность в случае, если на основе полученной от поставщика ошибочной или устаревшей информации получатель принял ошибочное управленческое решение. Отсутствие чёткости в данном вопросе может привести к межведомственным конфликтам, финансовым потерям, нанесению ущерба гражданам и коммерческим организациям.

Масштабный обмен данными также может создать повышенную нагрузку на систему, предназначенную для обмена электронными документами и сведениями. Это может привести к снижению производительности СМЭВ и к сбоям при предоставлении государственных услуг, которые также используют СМЭВ.

Источник: Консультант Плюс
https://www.consultant.ru/cons/cgi/online.cgi?req=doc;base=LAW;n=525866

О ходе беспрецедентного эксперимента Национальных Архивов США по использованию ИИ: Как машинное обучение открывает доступ к исторической памяти Америки (2)

(Окончание, начало см. http://rusrim.blogspot.com/2026/03/1_01928639770.html )

Бюджетные реалии и институциональные проблемы

Национальные Архивы сталкивается со значительными бюджетными ограничениями, которые делают инициативу по внедрению ИИ одновременно и необходимой, и проблемной. Традиционные методы каталогизации требуют привлечения значительных кадровых ресурсов - архивистов, историков и экспертов в предметной области, - расходы на оплату труда которых являются значительными. ИИ здесь предлагает потенциальное решение, автоматизируя бóльшую часть первоначальной обработки и позволяя экспертам-людям сосредоточить свои усилия на сложных задачах интерпретации и обеспечения качества, а не на рутинном вводе данных.

Однако первоначальные инвестиции в инфраструктуру ИИ являются значительными. Национальные Архивы должно приобрести или разработать соответствующее программное обеспечение, обучить персонал использованию и обслуживанию этих систем, а также обеспечить адекватные вычислительные ресурсы для обработки миллиардов документов. Эти первоначальные затраты требуются в тот самый момент, когда идёт борьба конкурирующих приоритетов за ограниченные ресурсы федерального бюджета. Национальным Архивам приходится постоянно обосновывать эти расходы перед отвечающим за ассигнования Конгрессом США и демонстрировать ощутимую отдачу от инвестиций в плане расширения доступности документов для общественности и повышения продуктивности исследований.

Вовлечение общественности и приложения для образовательных целей

Помимо обслуживания представителей академической науки, модернизированные с помощью ИИ-технологий архивы предлагают новые возможности для вовлечения общественности в знакомство и изучение американской истории. Генеалоги, - одна из крупнейших групп пользователей архивных документов, - очень сильно выиграют от улучшенных возможностей поиска. Исследователям семейной истории станет проще отслеживать предков по данным переписей населения, документам о прохождении военной службы, иммиграционным делам и другим личным документам, разбросанным по коллекциям Национальных Архивов.

Ещё один важный пласт возможностей связан с образовательными приложениями. Учителям станет легче находить относящиеся к темам учебной программы первоисточники и демонстрировать на занятиях в классах подлинные исторические материалы. Студенты смогут проводить оригинальные исследования, используя те же инструменты, что и профессиональные историки, развивая навыки критического мышления и историческую грамотность. Национальные Архивы разрабатывают образовательные ресурсы и планы занятий, которые используют улучшенные с помощью ИИ возможности поиска для поддержки обучения в начальной, средней и высшей школе.

Международные последствия и возможности для сотрудничества

За инициативой Национальных Архивов США по внедрению ИИ пристально наблюдают архивные учреждения по всему миру. Многие страны сталкиваются с аналогичными проблемами, связанными с обширными коллекциями исторических документов, требующими каталогизации и оцифровки. Технические подходы, передовые практики и уроки, извлеченные из американского опыта, могут послужить основой для аналогичных проектов на международном уровне, потенциально приводя к совместным усилиям и к созданию общей технологической инфраструктуры.

Международное сотрудничество потенциально может включать стандартизацию схем метаданных, обмен обучающими наборами данных для ИИ для исторических документов и разработку интероперабельных поисковых систем, позволяющих исследователям одновременно запрашивать информацию из нескольких национальных архивов. Такое сотрудничество будет способствовать транснациональным историческим исследованиям, позволяя ученым более эффективно, чем когда-либо прежде, отыскивать сведения об отдельных лицах, событиях и о перемещении людей через границы.

Будущее архивной практики

Интеграция ИИ в деятельность Национальных Архивов представляет собой нечто большее, чем просто технологическое обновление - она сигнализирует о фундаментальном переосмыслении того, какими могут и должны быть архивные учреждения в цифровую эпоху. Вместо пассивных хранилищ, которые исследователи должны физически посещать для доступа к материалам, - архивы теперь становятся активными платформами для поиска и раскрытия, анализа и вовлечения общественности. Технология ИИ служит основой для этой трансформации, но новое видение включает и формирование более доступной, инклюзивной и полезной документированной истории.

В перспективе Национальные Архивы предвидят применение ИИ для решения задач, выходящих за рамки распознавания текста и поиска. Инструменты на основе машинного обучения могут помочь с выявлением и восстановлением поврежденных документов, с прогнозированием того, какие документы наиболее подвержены риску порчи / деградации, - и они даже способны генерировать контекстную информацию, помогающую пользователям понимать исторические документы. Алгоритмы компьютерного зрения могут анализировать фотографии и произведения искусства, идентифицируя людей, места и объекты. Средства обработки естественного языка способны обобщать объёмные документы и выявлять тематические взаимосвязи между разрозненными документами.

Успех этой инициативы в конечном итоге будет измеряться не технологическими показателями, а гуманитарными: написанными диссертациями, завершенными семейными историями, полученными идеями и представлениями о политиках и более глубоким пониманием у общественности благодаря улучшенному доступу к документальному наследию Америки. По мере того, как Национальные Архивы продолжают совершенствовать и расширять свои возможности на основе ИИ, они будут писать новую главу в долгой истории обеспечения долговременной сохранности и распространения документов, определяющих американский жизненный опыт. Технология может быть какой угодно передовой, однако миссия архивов остается неизменной: обеспечение доступности документальных свидетельств нашего коллективного прошлого для информационной поддержки нашего настоящего и в качестве руководства при построении нашего будущего.

Дейв Ричи (Dave Ritchie)

Источник: сайт WebProNews (WPN)
https://www.webpronews.com/inside-the-national-archives-unprecedented-ai-experiment-how-machine-learning-is-unlocking-americas-historical-memory/ 

Доклад о правоприменительной практике организации и осуществления федерального государственного контроля (надзора) в сфере электронной подписи в 2025 году

Министерство цифрового развития, связи и массовых коммуникаций приказом от 25 февраля 2026 года № 142 утвердило «Доклад о правоприменительной практике организации и осуществления федерального государственного контроля (надзора) в сфере электронной подписи в 2025 году».

Предметом государственного контроля является соблюдение контролируемыми лицами обязательных требований, установленных федеральным законом № 63-ФЗ и принимаемыми в соответствии с ним иными нормативными правовыми актами Российской Федерации. Контролируемыми лицами в рамках государственного контроля являются аккредитованные удостоверяющие центры и аккредитованные доверенные третьи стороны.

Общее количество контролируемых лиц на конец отчетного периода составило 46.

Содержание доклада:

• Нормативное правовое регулирование федерального государственного контроля (надзора) в сфере электронной подписи;
  
  
• Анализ правоприменительной практики;
  
  
• Предложения о совершенствовании законодательства на основе анализа правоприменительной практики контрольной (надзорной) деятельности

В разделе «Анализ правоприменительной практики» отмечено, что  в рамках государственного контроля Минцифры России посредством федеральной информационной системы «Единый реестр контрольных (надзорных) мероприятий» в 2025 году было организовано проведение 1 внепланового контрольного (надзорного) мероприятия в виде документарной проверки по факту выявления со стороны аккредитованного удостоверяющего центра отклонений от утвержденных параметров индикаторов риска нарушений обязательных требований при осуществлении федерального государственного контроля (надзора) в сфере электронной подписи .

В ходе проверки аккредитованным удостоверяющим центром представлены сведения, что с момента получения аккредитации, создание и выдача ими квалифицированных сертификатов ключей проверки электронной подписи  (далее – квалифицированный сертификат) не осуществлялась ввиду прохождения процедуры получения квалифицированного сертификата, созданного  с использованием средств головного удостоверяющего центр, в связи с чем  в Единой системе идентификации и аутентификации сведения о квалифицированных сертификатах, выданных аккредитованным удостоверяющим центром, отсутствуют.

Соответственно, в ходе проведенного анализа нарушений выявлено не было.
В докладе отмечается, что Минцифры России на постоянной основе проводится информирование граждан и организаций по наиболее часто возникающим вопросам законодательства Российской Федерации в сфере электронной подписи, в том числе о возможности досудебного урегулирования споров, возникающих в указанной сфере, возможности защиты своих прав в судебном порядке, а также правоохранительными органами Российской Федерации.

Так, в 2025 году наиболее актуальными вопросами в сфере электронной подписи были:

• Возможна ли выдача иностранным гражданам квалифицированного сертификата?
  
  
• Возможно ли относить графическую электронную подпись к простой электронной подписи (ПЭП)? 
  
  
• Каким образом можно проверить действительность усиленной квалифицированной электронной подписи (УКЭП) должностного лица государственного органа?

На указанные вопросы Минцифры России даны соответствующие разъяснения. По мнению ведомства, существующее регулирование контрольной (надзорной) деятельности за соблюдением законодательства Российской Федерации в сфере электронной подписи является актуальным и достаточным, отвечающим реалиям.

В целях обеспечения единообразия правоприменения требуется проведение комплексной работы, приоритетно разъяснительного и профилактического характера.

Мой комментарий: Документ представляет собой ежегодный отчет надзорного органа (Минцифры). Он демонстрирует «минималистский» подход к контролю.

• Рынок предельно мал и специфичен — всего 46 контролируемых лиц; 
  
  
• Опора на закон №63-ФЗ, что является стандартной практикой. Ведомство считает существующее регулирование «актуальным и достаточным».

Ключевой статистический показатель отчета - это 1 (одна) внеплановая документарная проверка за 2025 год, - и та не выявила нарушений.

Возникает, конечно, вопрос об эффективности системы индикаторов риска. Сработал только один индикатор, и он оказался ложным (УЦ не выдавал сертификаты, так как пользовался услугами головного УЦ). Это может указывать на то, что либо индикаторы риска настроены слишком грубо (не отсеивают такие ситуации), либо реальных нарушителей на рынке действительно нет.

Источник: сайт Министерства цифрового развития, связи и массовых коммуникаций
https://digital.gov.ru/documents/prikaz-minczifry-rossii-%E2%84%96-142ob-utverzhdenii-doklada-o-pravoprimenitelnoj-praktike-organizaczii-i-osushhestvleniya-federalnogo-gosudarstvennogo-kontrolya-nadzorav-sfere-elektronnoj-podpisi-v