«Мастер-модели» (foundational model) в сфере искусственного интеллекта - это обобщенные модели, которые были предварительно обучены на колоссальных объёмах данных, имеющие миллионы или даже миллиарды настраиваемых параметров. Впоследствии такие модели адаптируются и настраиваются для решения конкретных задач.
Свежим примером мастер-модели является алгоритм GPT-3 американской компании OpenAI (см. https://ru.wikipedia.org/wiki/GPT-3 ). Алгоритм GPT-3 умеет отвечать на запросы. Он был сконфигурирован и настроен таким образом, чтобы уметь переводить с одного языка на другой и даже писать программный код.
Мастер-модели являются движущей силой значительной части текущих проектов в области искусственного интеллекта. Во многих отношениях результаты, которых смогли достичь ИИ-алгоритмы, были поразительными в плане точности и изощрённости. Но есть и опасения по поводу использования этих алгоритмов. До сих пор нет полного понимания того, как именно работают эти алгоритмы, и многие люди указывают на тот факт, что данные, используемые для обучения моделей, часто являются предвзятыми, в результате чего эти модели лишь усиливают предвзятость и необъективность. Поднимаются также и другие вопросы, связанные с безопасностью, справедливостью и надёжностью.
Недавно Центр исследования мастер-моделей (Center for Research on Foundation Models, CRFM) при Стэнфордском центре ориентированного на человека искусственного интеллекта (Stanford Human-Centered Artificial Intelligence, HAI, https://hai.stanford.edu/news/introducing-center-research-foundation-models-crfm ) опубликовал проект предложения по исследованию мастер-моделей. Предлагается собрать междисциплинарную группу из числа студентов, преподавателей и исследователей Стэнфордского сообщества с целью проанализировать правовые, этические и экономические вопросы, которые поднимаются в связи с мастер-моделями искусственного интеллекта.
Некоторые, однако, возражают против использования термина «мастер-модель» и считают проблематичной идею о существенных инвестициях в то, чтобы строить на основе чего-то, что ещё не созрело и/или не до конца осознано.
Профессор Калифорнийского университета в Беркли Джитендра Малик (Jitendra Malik, https://people.eecs.berkeley.edu/~malik/ ) говорит: «я считаю использование в данном термине слова foundational (фундаментальный, основополагающий) ужасно неправильным. На деле эти модели являются «воздушными замками»; по ними нет совершенно никакого основания. Язык, который мы используем в этих моделях, не обоснован, здесь есть фальшь и нет настоящего понимания» (см. https://www.wired.com/story/stanford-proposal-ai-foundations-ignites-debate/ ).
Дик Вейсингер (Dick Weisinger)
Источник: блог компании Formtek
https://formtek.com/blog/artificial-intelligence-foundational-models-come-under-fire/
Комментариев нет:
Отправить комментарий