Публичное обсуждение готовящихся стандартов в области искусственного интеллекта

В последнее время заметно выросла активность деятельности по стандартизации в области искусственного интеллекта. В ноябре 2020 года на сайте NormaCS открыто публичное обсуждение нескольких таких документов, из которых я хочу отметить три.

Разработчиками этих стандартов являются Национальный исследовательский университет «Высшая школа экономики» и Технический комитет по стандартизации 164 «Искусственный интеллект».

В каждом случае на сайте выложены текст проекта и пояснительная записка к нему (для доступа к ним нужно зарегистрироваться на сайте). Есть также возможность оставлять свои замечания и предложения.

ГОСТ Р (проект, первая редакция) «Информационные технологии. Искусственный интеллект. Понятия и терминология», см. https://www.normacs.info/projects/8948

Публичное обсуждение начато 23 ноября 2020 года и завершится 20 января 2021 года.

Стандарт разработан с учетом положений готовящегося международного стандарта ISO 22989 «Искусственный интеллект - Понятия и терминология» (Artificial intelligence -  Concepts and terminology, см. https://www.iso.org/standard/74296.html )

Стандарт устанавливает основные термины и определения в области искусственного интеллекта, в том числе в области машинного обучения и нейронных сетей, включая термины и определения, относящиеся к отдельным свойствам и задачам систем искусственного интеллекта.

Термины, установленные стандартом, рекомендуется использовать в нормативных документах, правовой, технической и организационно-распорядительной документации, научной, учебной и справочной литературе.

Ключевое понятие «искусственный интеллект» определено следующим образом – с моей точки зрения, неуклюже:

2.1.2. Искусственный интеллект (ИИ) (artificial intelligence, AI): Способность приобретать, обрабатывать, создавать и применять знания, определенные в форме модели (?!), для выполнения одной или нескольких (?) поставленных задач.

Данное определение существенно отличается от уже устоявшихся определений ИСО, и, не зная внутренней «кухни», трудно понять, в чём тут причина – то ли в «самодеятельности» разрабатывающей документ рабочей группы ИСО, то ли в «трудностях перевода».  Существующие определения следующие:

Искусственный интеллект (artificial intelligence) - способность функционального блока (functional unit) выполнять функции, которые обычно ассоциируются с человеческим интеллектом, такие как логические рассуждения (reasoning) и обучение.

Источник: ISO/IEC 2382:2015, 2123770, а также ГОСТ 33707-2016 «Информационные технологии. Словарь», п.4.464

Искусственный интеллект (artificial intelligence), ИИ (AI) - способность сконструированной системы приобретать, обрабатывать и применять знания и навыки.

Источники: ISO/IEC TR 29119-11:2020, 3.1.13; ISO/IEC 19944-1:2020, 3.5.2; ISO/IEC TR 24028:2020, 3.4

Искусственный интеллект (artificial intelligence), ИИ (AI) - раздел информатики (computer science), изучающий вопросы разработки систем обработки данных, которые выполняют функции, обычно ассоциируемые с человеческим интеллектом, такие, как логические рассуждения (reasoning), обучение и самосовершенствование.

Источники: ISO/IEC 2382:2015, 2121393; ISO/IEC/IEEE 24765:2017, 3.234; ISO/IEC TS 29140:2020, 3.2

Определение термина «знания» у меня тоже не вызвало восторга – хотя, честно говоря, по-настоящему хороших определение нет ни в нашем законодательстве, ни в наших ГОСТах, ни в стандартах ИСО. Итак:

2.1.5 Знания (knowledge): Информация об объектах, событиях, понятиях и правилах, их отношениях и свойствах, систематизированная (?) для целевого (?) регулярного (?) использования.

Примечания:

1. Данный термин приведен в контексте системы ИИ.

2. Информация может быть представлена в числовой или символьной форме.

3. Информация – это данные, определены в контексте и поэтому являются интерпретируемыми. Данные создаются путем моделирования или измерений объектов реального мира.

Для сравнения приведу весь спектр определений ИСО:

Знания (knowledge) – факты, информация, истины, принципы и истолкования (understanding), приобретенные посредством опыта или обучения

Источники: ISO/IEC TS 17027:2014, 2.56; ISO/IEC 19896-1:2018, 3.7

Знания (knowledge) - факты, информация, принципы и истолкования (understanding), приобретенные посредством опыта, исследований или обучения

Источник: ISO 21001:2018, 3.42

Знания (knowledge) – совокупность фактов, событий, убеждений и правил, упорядоченная для систематического использования

Источники: ISO/IEC 2382:2015, 2123771; ISO/IEC 30145-2:2020, 3.3

Знания (knowledge) - сохранённая, обработанная и интерпретированная информация

Источники: ISO 5127:2017, 3.1.1.17; ISO/IEC 20547-3:2020, 3.5

Знания (knowledge) – понимание (cognizance), основанное на логических рассуждениях (reasoning),

Источник: ISO/TS 19150-1:2012, 4.8;

Знание (knowledge) - Человеческий актив или актив организации, позволяющий принимать эффективные решения и действовать в соответствии с контекстом [лучше было сказать – «обстоятельствами» - Н.Х.].

Примечание 1: Знания могут быть персональными, коллективными или организационными.

Примечание 2: Существуют различные представления относительно области применения знаний, которые могут зависеть от контекста и намеченных целей. Вышеприведенное определение знания является обобщенным со всех точек зрения. Примерами знаний могут служить идеи и ноу-хау.

Примечание 3: Знания могут приобретаться в результате обучения или накопления опыта.

Источники: ISO 30401:2018, 3.25; ISO 10015:2019, 3.4 – в переводе ГОСТ Р ИСО 30401:2020, п.3.25

Знания (knowledge) – результат усвоения посредством обучения (теоретического и/или практического) информации, совокупности фактов, принципов, теорий и практик, относящихся к сфере деятельности,

[Адаптировано из Рекомендаций Совета Европы 2017/C 189/03, Приложение I, (f)]

Источник: ISO 14731:2019, 3.6

Знания (knowledge) – результат усвоения информации посредством обучения

Примечание 1: Знания можно получить посредством исследований, опыта или обучения.

Примечание 2: Знания включают информацию, факты, принципы, теории и практики, относящиеся к области работы или учебы.

Примечание 3: Знания могут быть индивидуальными или коллективными. Коллективные знания получают от людей, которые сотрудничают и раскрывают свои неявные и подсознательные знания.

Источник: ISO 56000:2020, 3.4.1

Ещё мне не понравился перевод термина «data mining» как «извлечение данных» (п.2.1.13) вместо устоявшегося перевода «интеллектуальный анализ данных». Также мне не по душе перевод privacy как «приватность» (2.4.10) - я предпочитаю «неприкосновенность частной жизни», пусть даже в таком переводе слишком много слов.

Любопытным является определение не очень пока распространённого термина «когнитивные вычисления»:

2.1.14. Когнитивные вычисления (cognitive computing): Класс технологий ИИ, предназначенных для обеспечения более естественного (?) взаимодействия между людьми и машинами.

Примечание: Технологии когнитивных вычислений включают машинное обучение, обработку речи, обработку естественного языка, зрение и человеко-машинный интерфейс.

ГОСТ Р (проект, первая редакция) «Технологии искусственного интеллекта в образовании. Общие положения и терминология», см. https://www.normacs.info/projects/8957

Публичное обсуждение начато 30 ноября 2020 и завершится 20 января 2021 года.

Стандарт распространяется на технологии искусственного интеллекта в образовании и устанавливает общие положения и терминологию в этой области.

Оказывается, в образовании смысл понятия «искусственный интеллект» иной по сравнению с предыдущим проектом, а именно, следующий:

2.1.3 Искусственный интеллект, ИИ: Способность технической системы имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

С моей точки зрения, это по сути второе из приведённых выше определений ИСО, которое было творчески ухудшено . Кроме того, многие ИИ-системы ничего не имитируют и решают задачи просто по-другому (например, путём полного перебора огромного числа вариантов). Соответственно, результаты ИИ-решений не всегда легко сопоставить с интеллектуальной деятельностью человека…  Как говорил один из корифеев науки, «если робот имитирует человека – это плохой робот» :)

ГОСТ Р (проект, первая редакция) «Оценка качества систем искусственного интеллекта. Общие положения», см. https://www.normacs.info/projects/8962 .

Публичное обсуждение начато 30 ноября 2020 года и завершится 20 января 2021 года.

Стандарт устанавливает общие требования к оценке качества систем искусственного интеллекта (СИИ), включая:

• виды существенных характеристик систем искусственного интеллекта, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам;
  
  
• порядок выбора и оценки метрик качества на основании представленного набора существенных характеристик;
  
  
• требования к набору входных и выходных данных для тестирования СИИ;
  
  
• вопросы планирования, разработки программы и контроля процедуры оценки качества СИИ, позволяющих провести надлежащую валидацию и верификацию продукта в целях подтверждения его надежности, безопасности и функциональности.

Принципы, установленные в стандарте, применимы к системам искусственного интеллекта в различных отраслях, и их следует придерживаться, насколько это возможно, с учетом региональных и национальных регулирующих требований.

Стандарт распространяется на все системы, использующие различные методы искусственного интеллекта, включая программное обеспечение на основе машинного обучения (обучение по прецедентам) и экспертные системы (на основе дедуктивного обучения).

Источник: сайт NormaCS
https://www.normacs.info/projects/8948
https://www.normacs.info/projects/8957
https://www.normacs.info/projects/8962