За последнее десятилетие искусственный интеллект в целом и алгоритмы глубокого обучения в особенности добились огромного прогресса, взяв на вооружение графические процессоры (GPU), которые изначально были созданы для повышения производительности при обработке компьютерной графики. В последние пару лет наблюдается всплеск интереса к разработке чипов, специально предназначенных для использования в ИИ-вычислениях ( https://www.vyrian.com/what-is-an-ai-chip/ ).
Исследователи изучают, каким образом можно было бы улучшить производительность и возможности, а также снизить энергопотребление нынешних реализаций методов глубокого обучения, которые являются цифровыми и используют графические процессоры. Одной из многих исследуемых областей являются аналоговые вычисления.
Научный сотрудник компании NTT Research Логан Райт (Logan Wright, https://www.linkedin.com/in/logan-wright-77680856/ ) в интервью изданию VentureBeat сказал, что «в начале истории ИИ люди не пытались думать о том, как производить цифровые компьютеры. Они пытались думать о том, как мы могли бы эмулировать работу мозга, который, конечно же, не является цифровым. У меня в голове работает аналоговая система, и она намного эффективнее справляется с теми типами вычислений, которые выполняются в глубоких нейронных сетях, чем современные цифровые логические схемы» (см. https://venturebeat.com/business/how-analog-ai-hardware-may-one-day-reduce-costs-and-carbon-emissions/ ).
Старший вице-президент компании Mythic, Тим Велинг (Tim Vehling, https://www.linkedin.com/in/vehling/ ) в беседе с представителем издания Digital Trends отметил, что «есть множество способов решать проблему вычислений в области искусственного интеллекта. Нет неправильного пути. Однако есть фундаментальное понимание того, что подход на основе принципа «продолжим использовать всё больше и больше транзисторов, продолжим уменьшать размеры вычислительных модулей» - в сущности, подход закона Мура - уже нежизнеспособен. Это уже начинает проявляться. Так что независимо от того, используете Вы аналоговые компьютеры или нет, компаниям придётся найти другой подход к созданию продуктов следующего поколения, требующих больших вычислительных мощностей при малом энергопотреблении, и т.д.» ( https://www.digitaltrends.com/computing/mythic-ai-analog-artificial-intelligence/ ).
Исследователи из Массачусетского технологического института (MIT) создали искусственные «аналоговые синапсы», которые реагируют в миллион раз быстрее, чем синапсы в человеческом мозгу ( https://www.sciencetimes.com/articles/39118/20220801/analog-deep-learning-new-ai-branch-employed-more-efficient-self.htm ).
Научный сотрудник Массачусетского технологического института Мурат Онен (Murat Onen, https://www.linkedin.com/in/muratonen/ ) говорит, что «как только у Вас появится аналоговый процессор, Вы уже не будете обучать те сети, с которыми работают все остальные. Вы будете обучать сети беспрецедентной сложности, которые никто другой не может себе позволить, и поэтому значительно превзойдёте их всех. Другими словами, это будет уже не более быстрая машина, а космический корабль» ( https://interestingengineering.com/innovation/mit-researchers-have-pushed-the-speed-limits-of-analog-deep-learning ).
Дик Вейсингер (Dick Weisinger)
Источник: блог компании Formtek
https://formtek.com/blog/deep-learning-researchers-pursue-advantages-of-analog-computing/
Комментариев нет:
Отправить комментарий