Достижения искусственного интеллекта вызвали и продолжают вызывать непрерывные восторженные воздыхания. Искусственный интеллект сегодня - это мастер игры в шахматы и в сёги (японская логическая игра, напоминающая шахматы – Н.Х.), способный самостоятельно управлять автомобилем и разрабатывать чипы, а также выполнять роль постоянного голосового помощника.
Однако существуют также опасения, что мы не до конца понимаем ИИ, и что есть не лежащие на виду проблемы с теми серьезными последствиями, к которым в конечном счёте приведёт широкое распространение ИИ. Технологии ИИ являются скорее «нарождающимися», чем полностью «разработанными». Благодаря гениальности ученых-компьютерщиков, занимавшихся разработкой алгоритмов искусственного интеллекта, результаты оказались на удивление хорошими и даже превосходящими ожидания. Результаты ИИ обычно настраиваются экспериментально, с использованием метода проб и ошибок для того, чтобы выяснить, что работает лучше всего, - и мы не всегда можем заранее предсказать, как алгоритмы себя поведут.
Аспирант Стэнфордского университета по направлению компьютерных наук Риши Боммасани (Rishi Bommasani, https://rishibommasani.github.io/ ) в интервью журналу Discovery Magazine отметил, что «коммерческие стимулы могут привести к тому, что компании будут игнорировать социальные последствия, такие как сокращение рабочих мест и изменение потребностей в рабочей силе из-за внедрения технологий, необходимое для демократического общества «здоровье» информационной экосистемы, экологические издержки, связанные с вычислительными ресурсами и ориентированная на прибыль продажа технологий недемократическим режимам» ( https://www.discovermagazine.com/technology/the-coming-identity-crisis-for-ai ).
Мой комментарий: Если кто не в курсе, то «демократическими» в США считают любые страны, добросовестно следующие политике Вашингтона. К политическому термину «демократия» эта классификация никакого отношения не имеет :)
Боммасани и другие сотрудники факультета компьютерных наук в Стэнфорде считают, что академические круги более беспристрастны, чем деловые и правительственные, и что они лучше подходят для проведения анализа, оценки и рекомендования ИИ-алгоритмов на основе этичности, непредвзятости, справедливости и аналогичных критериев.
«Мы считаем, что академические круги играют ключевую роль в разработке базовых моделей (foundation models) таким образом, чтобы поощрять их социальную полезность и смягчать их социальный вред. Университеты и колледжи также могут внести свой вклад в установление стандартов посредством проведения аудита существующих базовых моделей и публикации свои выводов, посредством учреждения советов по этике и разработки собственных базовых моделей».
Дик Вейсингер (Dick Weisinger)
Источник: блог компании Formtek
https://formtek.com/blog/artificial-intelligence-avoiding-unintended-consequences-of-emerging-technology/
Комментариев нет:
Отправить комментарий