пятница, 10 июля 2020 г.

Алгор-этика: Создание этичных алгоритмов


Данная заметка Дика Вейсингера (Dick Weisinger – на фото) была опубликована 18 июня 2020 года на блоге компании Formtek.

Доверие, этика, стратегическое управление. Технологиям необходимо встроить эти качества в алгоритмы и их программные реализации. Неспособность сделать это - не только вопрос репутационного риска технологических компаний, но и удар по справедливости и порядочности в обществе.

Но что нужно изменить для того, чтобы создавать этичные алгоритмы?

Профессор Университета Пенсильвании Аарон Рот (Aaron Roth, https://www.cis.upenn.edu/~aaroth/ ) считает, что для того, чтобы при создании алгоритмов решались вопросы обеспечения справедливости и защиты неприкосновенности частной жизни, «Вы с самого начала должны разрабатывать их, помня об этих проблемных вопросах. Это не просто вопросы политики, но также и технические вопросы. Очень важно с самых ранних стадий вовлекать в разработку людей, которые понимают науку и технологии».

Тема этичного искусственного интеллекта и алгоритмов привлекла большое внимание, и технологические компании начали работать над решением проблем.

Например, компании IBM и Microsoft, среди других технологических компаний, недавно подписались под принципами, изложенными в документе под названием «Римский призыв обеспечивать этичность искусственного интеллекта» (Rome Call for AI Ethics, новостную заметку об этом  см. здесь:  https://www.cmswire.com/information-management/ibm-and-microsoft-sign-rome-call-for-ai-ethics-what-happens-next/ , сам документ доступен здесь: http://www.academyforlife.va/content/dam/pav/documenti%20pdf/2020/CALL%2028%20febbraio/AI%20Rome%20Call%20x%20firma_DEF_DEF_.pdf  . – Интересно отметить, что данная декларация была подготовлена Ватиканом – Н.Х.), который включает следующие принципы:
  • Прозрачность - алгоритмы должны быть объяснимыми;

  • Инклюзивность - алгоритмы должны учитывать интересы всех людей;

  • Ответственность - разработчики алгоритмов должны быть привержены этичности и прозрачности;

  • Беспристрастность - разработчики алгоритмов должны действовать таким образом; чтобы избежать пристрастности и необъективности;

  • Надежность – ИИ-система должна работать надежно;

  • Безопасность и неприкосновенность частной жизни - безопасность и неприкосновенность частной жизни следует уважать.
Дик Вейсингер (Dick Weisinger)

Мой комментарий: Ватиканские священнослужители сейчас уже не те, что раньше –они теперь куда менее эрудированные :) Они явно не читали знаменитые в своё время и глубокие по смыслу три закона роботехники Айзека Азимова, см. https://ru.wikipedia.org/wiki/Три_закона_роботехники . Вот эти законы, как мне кажется, действительно можно было бы (ну хотя бы попытаться!) реализовать при разработке алгоритмов ИИ. А перечисленные выше «добрые намерения» вряд ли что дадут – этика, как красота, «в глазах смотрящего», и на всех не угодишь…

Источник: блог компании Formtek
http://formtek.com/blog/algor-ethics-building-ethical-algorithms/

Комментариев нет:

Отправка комментария