Алгоритмы искусственного интеллекта (ИИ) подвергались критике за то, что их разработчики или преднамеренно, или, что более вероятно, непреднамеренно «встраивают» предрассудки и предубеждения (biases) в архитектуру и функционирование ИИ.
В отчете научно-исследовательского института AI Now («Искусственный интеллект сегодня», https://ainowinstitute.org/ - институт находится в структуре университета Нью-Йорка и изучает социальные последствия ИИ – Н.Х.) говорится, что встроенные предубеждения «влияют на то, как работают компании, занимающиеся искусственным интеллектом, какие продукты создаются, для кого они предназначены и кто получит отдачу от их разработки.» (см. https://ainowinstitute.org/discriminatingsystems.pdf ).
Есть ли решение этой проблемы? Некоторые утверждают, что разработка алгоритмов не людьми, а программным кодом может устранить или уменьшить встроенные предрассудки. Некоторые думают, что это мог бы сделать метод, известный как AutoML. AutoML (от Automated machine learning – «автоматизированное машинное обучение», см. также Википедию: https://ru.wikipedia.org/wiki/Автоматическое_машинное_обучение - Н.Х.) - это машинное обучение, в котором используются алгоритмы ИИ одного поколения для разработки и написания кода ИИ нового поколения.
В то же время специалисты компания Google Research (см. https://arxiv.org/abs/2003.03384 ) пришли к выводу, что «созданные человеком компоненты систематически смещают результаты поиска в пользу разработанных человеком алгоритмов, возможно, снижая тем самым инновационный потенциал AutoML. Инновации также ограничиваются меньшим количеством вариантов: Вы не можете найти то, что не можете запросить при поиске».
Надежда заключается в том, что созданные AutoML алгоритмы могут оказаться способными преодолеть предвзятость, и с этого момент ИИ сможет пойти гораздо дальше, чем мы можем себе представить.
Директор по технологиям компании Techspert Харан Джексон (Haran Jackson) полагает, что «существует ощущение, разделяемое многими членами сообщества, что самые впечатляющие достижения в области искусственного интеллекта будут достигнуты только при изобретении новых алгоритмов, которые принципиально отличаются от те, которые мы, как биологический вид, уже разработали».
Дик Вейсингер (Dick Weisinger)
Мой комментарий: Живые люди и организации всегда так или иначе предвзяты, часто даже не осознавая этого – и несмотря на усилия некоторых их них быть 100% объективными. И для любого продукта человеческой деятельности всегда найдётся какое-нибудь меньшинство, которое его обвинит – справедливо или нет – в предвзятости и многих других, ещё менее приятных вещах. Ровно то же можно сказать и об алгоритмах, и всегда найдутся те, для кого даже 2+2=4 – воплощение нетолерантности :)
Однако давным-давно изобретен эффективный способ борьбы с предвзятостью, по крайне мере тогда, когда она реально мешает достигать своих целей тем, кто облечен властью «подкручивать» алгоритмы, будь то человек или машина. Этот способ называется «обратная связь». Для его использования нужны соответствующие объективные измеримые данные и метрики, оценивающие качество работы алгоритма, и механизмы подстройки алгоритма на основе этой информации. Разработать всё это порой непросто, но это куда более эффективный путь, чем бесконечное нытьё о несправедливости алгоритмов.
Ожидать, что автоматизация разработки алгоритмов в этом вопросе что-либо изменит – верх наивности. Всем сразу угодить всё равно невозможно!
Источник: блог компании Formtek
http://formtek.com/blog/artificial-intelligence-automl-self-evolving-algorithms/
Комментариев нет:
Отправить комментарий