Мы должны притормозить гонку за богоподобным искусственным интеллектом, часть 1

Данная статья Айана Хогарта (Ian Hogarth - на фото) была опубликована 13 апреля 2023 года на сайте издания «Файнэншл Таймс» (Financial Times). Автор — инвестор в ИИ-статапы и соавтор ежегодного отчета «Состояние ИИ» (State of AI, https://www.stateof.ai/ ). Статья получила довольно заметный резонанс и обсуждалась как в традиционных СМИ, так и в социальных сетях.

Холодным февральским вечером я присутствовал на званом ужине в Лондоне в доме ученого, занимающегося исследованиями искусственного интеллекта, вместе с небольшой группой экспертов в этой области. Этот человек живет в пентхаусе на вершине современного многоквартирного дома, с окнами от пола до потолка, из которых видны городские небоскребы и железнодорожный вокзал 19 века. Несмотря на элитность этого места, хозяин живет просто, а квартира даже несколько аскетична.

Во время ужина собравшиеся обсудили важные новые прорывные достижения, такие как ChatGPT от компании OpenAI и Gato от DeepMind ( https://www.deepmind.com/publications/a-generalist-agent ), а также темпы, с которыми миллиарды долларов недавно стали вливаться в ИИ. Одному из гостей, внесшему важный вклад в развитие отрасли, я задал вопрос, который часто поднимается на такого рода встречах: насколько мы далеки от «универсальный (или «общего») искусственного интеллекта» (Artificial General Intelligence, AGI)? Универсальный искусственный интеллект (УИИ) можно определить по-разному (см.  https://www.technologyreview.com/2020/10/15/1010461/artificial-general-intelligence-robots-ai-agi-deepmind-google-openai/ ), однако обычно под ним понимается компьютерная система, способная производить новые научные знания и выполнять любые задачи, которые способны выполнить люди.

Большинство экспертов рассматривают приход УИИ как поворотный момент в истории и технологиях, сродни расщеплению атома или изобретению печатного станка. Важный вопрос всегда заключался в том, насколько далеко в будущем отстоит от нас это событие. Наш исследователь ИИ долго не раздумывал, и ответил: «С этого момента и впредь это возможно».

Такой точки зрения придерживаются не все. Оценки времени прихода УИИ варьируются от десятилетия до полувека и более. Несомненно, однако, то, что создание УИИ является явной целью ведущих ИИ-компаний (см. https://www.vox.com/future-perfect/23619354/openai-chatgpt-sam-altman-artificial-intelligence-regulation-sydney-microsoft-ai-safety ), и они продвигаются к ней гораздо быстрее, чем кто-либо ожидал. Все присутствующие на ужине осознавали, что такое развитие событий повлечет за собой значительные риски для будущего человечества. «Если Вы считаете, что мы можем быть близки к чему-то настолько потенциально опасному», - сказал я исследователю, - «разве Вы не должны предупредить людей о том, что происходит?». Ему явно было непросто осознать всю меру ответственности, которая ложилась на ИИ-специалистов, и, судя по всему, он, как и многие другие в этой области, «плыл по течению» быстрого прогресса в данном направлении.

Вернувшись домой, я подумал о своём четырехлетнем ребенке, который должен был проснуться через несколько часов. Размышляя о мире, в котором он может вырасти, мои эмоции постепенно сменились с шока на гнев. Казалось глубоко неправильным то, что важные решения, потенциально затрагивающие каждое живое существо на Земле, могут приниматься небольшой группой частных компаний без демократического надзора. Есть ли у людей, стремящихся создать первый настоящий УИИ, план притормозить и позволить остальному миру сказать своё слово при принятии решений, касающихся всего того, что «они» делают? И когда я говорю «они», я на самом деле имею в виду нас, потому что я тоже часть этого сообщества.

Мой интерес к машинному обучению возник в 2002 году, когда я построил своего первого робота где-то в «кроличьей норе», которой является инженерный факультета Кембриджского университета. Это было стандартное занятие для студентов-инженеров, но я был очарован мыслью о том, что можно научить машину ориентироваться в окружающей среде и учиться на ошибках. Я решил специализироваться на компьютерном зрении, создавая программы, которые могут анализировать и понимать изображения, и в 2005 году я создал систему, которая могла обучаться выполнению точной разметки изображений, полученных при биопсии рака груди. Сделав это, я заглянул в будущее, в котором ИИ сделает мир лучше и даже будет спасать жизни. После окончания университета я стал соучредителем стартапа в области музыкальных технологий, который был продан в 2017 году.

С 2014 года я поддержал более 50 ИИ-стартапов в Европе и США, а в 2021 году запустил новый венчурный фонд Plural. Я являюсь «ангел-инвестором» (инвестором, готовым вкладывать средства в компанию на начальном этапе её функционирования – Н.Х.) ряда компаний, являющихся пионерами в данной области, включая Anthropic - один лучше всего финансируемых в мире стартапов в области порождающего ИИ (generative AI), и Helsing - ведущую европейскую компанию по использованию ИИ в сфере обороны. Пять лет назад вместе с другим инвестором, Натаном Бенаичем (Nathan Benaich), я начал проводить исследования и выпускать ежегодный отчет «Состояние ИИ» (State of AI), который теперь широко читается. На упомянутом февральском ужине те серьезные опасения, которые возникали в ходе моей работы в течение последних нескольких лет, вдруг превратились в нечто неожиданное: глубокий страх.

Трёхбуквенная аббревиатура неспособна отразить всю грандиозность того, что представляет собой УИИ, поэтому я буду называть его тем, чем он на самом деле является: богоподобным искусственным интеллектом. Это супер-интеллектуальный компьютер, который обучается и развивается автономно, понимает окружающую среду без необходимости в кураторе - и способен трансформировать мир вокруг себя. Конечно, мы ещё его не создали. В то же время природа этой технологии такова, что чрезвычайно сложно точно предсказать, когда мы доберёмся до неё. Богоподобный ИИ может оказаться силой, находящейся вне нашего контроля и понимания, такой, которая может привести к ненужности или даже уничтожению человечества.

В последнее время гонка с участием нескольких компаний с целью создания богоподобного ИИ резко ускорилась. Они пока ещё не знают, как им безопасным образом идти к этой цели, и над ними нет адекватного надзора. Они бегут к финишной черте, не понимая, что находится по ту сторону.

Как мы оказались в подобном положении? Очевидный ответ заключается в том, что компьютеры стали более мощными. В приведенной ниже таблице показано, как выросли за последнее десятилетие объемы данных и «вычислений» - вычислительных мощностей, используемых для обучения ИИ-систем; а также возможности, к которым всё это привело («операции с плавающей запятой в секунду», или флопс (flops), это единица измерения, используемая для измерения мощности суперкомпьютера). Нынешнее поколение ИИ очень эффективно в плане поглощения данных и выполнения вычислений, - и чем больше данных и вычислений ИИ получает, тем сильнее он становится.

Используемые для обучения ИИ-моделей вычислительные мощности за последние 10 лет увеличились в сто миллионов раз. Мы перешли от обучения на сравнительно небольших наборах данных к «скармливанию» ИИ всего контента интернета (см. https://arxiv.org/abs/2302.13971 ). Модели искусственного интеллекта эволюционировали от уровня новичков, способных распознавать повседневные образы, до сверхчеловеческих способностей при выполнении огромного числа задач. Они могут сдать экзамен на адвоката и написать 40% кода для инженера-программиста, могут создать реалистичные фотографии папы в пуховике и рассказать Вам, как спроектировать биохимическое оружие.

(Продолжение следует, см. http://rusrim.blogspot.com/2023/07/2_0879044972.html )

Айан Хогарт (Ian Hogarth)

Источник: сайт издания Financial Times
https://www.ft.com/content/03895dc4-a3b7-481e-95cc-336a524f2ac2
https://longreads.com/2023/04/14/we-must-slow-down-the-race-to-god-like-ai/