Новые технологии могут быть опасными, угрожая самому выживанию человечества. Является ли экономический рост изначально рискованным, и как нам максимизировать шансы на процветающее будущее?
С момента создания атомной бомбы человечество получило средства для собственного уничтожения. Конечно, всегда существовали естественные риски вымирания человечества: падение астероида или извержение супервулкана могли сделать планету непригодной для жизни. Но с того рокового первого ядерного испытания в пустыне Нью-Мексико главная угроза выживанию человеческой цивилизации исходила от самого человека.
За прошедшие десятилетия риски, связанные с деятельностью человека, многократно возросли. Хотя средний сценарий изменения климата будет просто неприятным, существует вероятность сценариев с хвостовой частью , которые могут положить конец цивилизации, какой мы ее знаем. Достижения в области биотехнологий могут позволить нам создать новый патоген, который будет бесшумно распространяться, прежде чем убьет не только миллионы, но и все человечество. Некоторые, как Илон Маск, опасаются, что вскоре мы можем разработать искусственный интеллект, который может выйти из-под контроля.
Философы, такие как Ник Бостром , Дерек Парфит и Тоби Орд, все больше беспокоятся о так называемых «экзистенциальных рисках». Необратимый крах цивилизации был бы не просто трагедией для миллиардов, которые пострадают и умрут. Возможно, величайшей трагедией было бы исключение всего потенциала человечества. Человечество могло бы процветать миллиарды лет и обеспечить триллионы счастливых человеческих жизней — если только мы не уничтожим себя заранее.
Такой ход мыслей заставил некоторых усомниться в том, что «прогресс» — в частности, технический прогресс — так прямолинейно выгоден, как принято считать. Ник Бостром представляет процесс технологического развития как « вытаскивание шаров из гигантской урны ». До сих пор нам везло, мы вытаскивали множество «белых» шаров, которые в целом полезны. Но когда-нибудь мы можем вытащить «черный» шар: новую технологию, которая уничтожит человечество. До того первого ядерного испытания некоторые физики беспокоились, что ядерная бомба подожжет атмосферу и положит конец миру . В конечном итоге их расчеты сочли это «крайне маловероятным», и поэтому они провели испытание, которое, как оказалось, не привело к концу света. Возможно, в следующий раз нам не так повезет.
Тот же технологический прогресс, который создает эти риски, также является движущей силой экономического роста. Означает ли это, что экономический рост по своей сути рискован? Экономический рост привел к необычайному процветанию. Но ради потомков, должны ли мы вместо этого выбрать безопасную стагнацию? Эта точка зрения, возможно, становится все более популярной, особенно среди тех, кто обеспокоен изменением климата; Грета Тунберг недавно осудила « сказки о вечном экономическом росте » в Организации Объединенных Наций.
Я утверждаю, что все наоборот. Мы должны выбирать не между безопасной стагнацией и рискованным ростом; скорее, стагнация рискованна, а рост ведет к безопасности.
Мы действительно можем оказаться в «времени опасностей»: мы можем быть достаточно развиты, чтобы разработать средства для нашего уничтожения, но недостаточно развиты, чтобы в достаточной степени заботиться о безопасности. Но стагнация не решает проблему: мы просто застоимся на этом высоком уровне риска. В конце концов, ядерная война или экологическая катастрофа все равно обрекут человечество.
Более быстрый экономический рост может изначально увеличить риск, как и опасались. Но он также поможет нам быстрее пережить это время опасностей. Когда люди бедны, они не могут сосредоточиться ни на чем, кроме обеспечения собственных средств к существованию. Но по мере того, как люди становятся богаче, они начинают больше заботиться о таких вещах, как окружающая среда и защита от рисков для жизни. И поэтому, поскольку экономический рост делает людей богаче, они будут больше инвестировать в безопасность, защищая от экзистенциальных катастроф. Поскольку технологические инновации и наше растущее богатство позволили нам победить прошлые угрозы человеческой жизни, такие как оспа, более быстрый экономический рост в долгосрочной перспективе может увеличить общие шансы человечества на выживание.
Этот аргумент основан на моей недавней статье , в которой я использую инструменты экономической теории, в частности стандартные модели, которые экономисты используют для анализа экономического роста, чтобы изучить взаимодействие между экономическим ростом и рисками, порождаемыми человеческой деятельностью.
В этой модели общество должно выбирать, сколько своих ресурсов направить на потребление, а сколько на усилия по обеспечению безопасности. Потребление делает нас счастливыми, но также создает риски катастрофы. Инвестиции в безопасность могут, в свою очередь, помочь смягчить этот риск.
Например, потребление ископаемого топлива может привести к большому процветанию, но также увеличивает риск климатических изменений в конце. Мы можем потратить деньги на сокращение выбросов углерода, чтобы снизить этот риск. Или рассмотреть авиаперелеты. Это тоже очень полезно, но также способствует распространению инфекционных заболеваний, включая потенциальную пандемию, которая может уничтожить человечество. Мы можем потратить деньги на готовность к пандемии, чтобы снизить этот риск.
Главное, общество нетерпеливо; оно не принимает во внимание будущее. Люди, как правило, больше всего заботятся о своем более непосредственном благополучии. Хотя они могут заботиться о своих детях и внуках, их, безусловно, не особенно волнуют триллионы потенциальных жизней через миллиарды лет в будущем, к которым апеллируют вышеупомянутые философы.
Однако нетерпеливое общество заботится о том, чтобы не быть уничтоженным. Поэтому то, какую долю своих ресурсов это нетерпеливое общество выделит на безопасность, зависит от того, насколько люди в этом обществе ценят свою собственную жизнь.
Как выясняется, в соответствии со стандартными предпочтениями, используемыми в экономической теории, люди ценят жизнь все больше и больше по мере того, как они становятся богаче. Это происходит из-за убывающей предельной доходности потребления. По мере того, как вы становитесь богаче, использование дополнительного доллара для покупки большего количества потребительских товаров дает вам все меньше и меньше дополнительной полезности; между тем, по мере того, как ваша жизнь становится все лучше и лучше, вы рискуете потерять все больше и больше, если умрете. В результате, чем богаче люди, тем большую долю своего дохода они готовы пожертвовать, чтобы защитить свою жизнь.
Сравнение нынешней пандемии с пандемией 1918 года иллюстрирует этот феномен. Сегодня мы ставим большую часть жизни на паузу, чтобы минимизировать смертность. Напротив, в 1918 году нефармацевтические вмешательства были более мягкими и продолжались в среднем только месяц в США, хотя испанский грипп был, возможно, более смертоносным и унес более молодые жизни. Сегодня мы готовы пожертвовать гораздо большим, чем сто лет назад, чтобы предотвратить смерть, потому что мы богаче и, следовательно, ценим жизнь гораздо больше.
Что это значит для нашей модели? Изначально бедное общество начнет с того, что будет выделять почти все свои ресурсы на потребление. И так, по мере роста экономики, растет и риск.
Однако, по мере того, как люди становятся богаче, они начинают больше ценить жизнь. Они начинают инвестировать в безопасность, чтобы снизить риск, переводя все больше ресурсов из потребления в безопасность. В этот момент, по мере роста экономики, риск начинает падать.
Риск экзистенциальной катастрофы с течением времени выглядит как перевернутая буква U:
Точка показывает, где мы можем быть прямо сейчас. За последние столетия, по мере того как мы вырастали из нищеты, мы в подавляющем большинстве сосредоточились на потреблении. В результате риск растет.
Но по мере того, как мы становимся богаче, мы начинаем больше ценить жизнь и постепенно вкладываем больше средств в безопасность. В конце концов, мы переместим достаточно ресурсов в безопасность, так что риск начнет падать — падать экспоненциально до нуля, фактически, так что есть положительная вероятность того, что человечество выживет и достигнет великого будущего. И все это происходит, несмотря на нетерпение нашего общества.
Аналог этого есть в экономике окружающей среды, называемой « экологической кривой Кузнеца ». Была выдвинута теория, что загрязнение изначально растет по мере развития стран, но по мере того, как люди становятся богаче и начинают больше ценить чистую окружающую среду, они снова будут работать над снижением загрязнения. Эта теория, возможно, была подтверждена путем, который западные страны выбрали в отношении загрязнения воды и воздуха, например, за последнее столетие.
Идея о том, что мы находимся в уникальном периоде истории, когда мы сталкиваемся с повышенным риском экзистенциальной катастрофы, также не нова. Карл Саган был тем, кто придумал термин «время опасностей». Дерек Парфит назвал его «шарниром истории». Они утверждают , что открытия последних столетий наделили человечество огромной силой, и поэтому мы находимся в самом «опасном и решающем» периоде. Но если нам удастся выжить, наши потомки смогут распространиться по всей галактике, сделав нас гораздо менее уязвимыми. Они освоят новые технологии, которые сделают нас невосприимчивыми к биоинженерным патогенам, нейтрализуют угрозу атомных бомб, обеспечат обильную энергию, не разрушая окружающую среду, и будут держать искусственный интеллект под контролем, чтобы он добросовестно служил нуждам человека. С их технологиями и мудростью наши потомки смогут обеспечить себе долгое и безопасное будущее. Таким образом, наша задача — пережить этот уникальный опасный период.
Видя растущие уровни экзистенциального риска за последние столетия, некоторые могут призвать к прекращению экономического роста. Они могут утверждать, и справедливо, что экономический рост в прошлом приводил только к росту риска.
Действительно, период ускоренного экономического роста изначально также ускорил бы рост риска. Уровень риска может выглядеть примерно так, где более светлая линия — это путь с ускоренным ростом:
Даже несколько сотен лет спустя критики роста, похоже, были оправданы! Более быстрый рост просто увеличил риск!
За исключением того, что они упускают из виду всю картину:
Ускоренный экономический рост также ускорил наш путь по перевернутой U-образной кривой риска. Более быстрый рост означает, что люди быстрее становятся богаче, поэтому они быстрее ценят жизнь, поэтому общество быстрее переключает ресурсы на безопасность — и в конечном итоге мы начнем снижение риска раньше. В результате общая вероятность экзистенциальной катастрофы — площадь под кривой риска — уменьшается!
Более быстрый рост означает, что мы быстрее пройдем через «время опасностей». Действительно, стагнация была бы самым опасным выбором из всех: мы застряли бы на повышенном уровне риска, что означало бы неизбежную экзистенциальную катастрофу.
Это как если бы мы находились в опасном путешествии, чтобы пересечь штормовой океан. Если мы останемся на месте, то это лишь вопрос времени, когда достаточно сильный порыв ветра или достаточно большая волна опрокинут наш корабль. Вместо этого мы должны плыть как можно быстрее, проводя как можно меньше времени во власти опасных морей, прежде чем достигнем безопасных берегов.
Теперь есть еще один критический параметр: насколько эффективны наши усилия по обеспечению безопасности в снижении рисков по сравнению с тем, насколько наша потребительская активность увеличивает их? Мы могли бы думать об этом как о «хрупкости» человечества.
Я сосредоточился на случае, когда человечество умеренно хрупко. Это потому, что это сценарий, в котором наше будущее находится под вопросом.
Есть два других сценария. С одной стороны, человечество не очень хрупкое. Меры по обеспечению безопасности легко смягчают любой риск. Возможно, даже небольшая готовность к пандемии снизит риск авиаперелетов; возможно, всего несколько человек , работающих над безопасностью ИИ, смогут гарантировать, что ИИ не выйдет из-под контроля. В таком мире мы никогда не увидим первоначального роста риска, что не согласуется с опытом прошлых столетий. Более того, в этом сценарии экономический рост естественным образом снижает риск, поэтому даже если окажется, что мы живем в этом мире, минимизация риска потребует как можно более быстрого роста.
С другой стороны, человечество чрезвычайно хрупко. Неважно, какую долю наших ресурсов мы направим на безопасность, мы не сможем предотвратить непоправимую катастрофу. Возможно, оружие массового поражения просто слишком легко создать, и никакие даже тоталитарные усилия по обеспечению безопасности не смогут помешать какому-нибудь сумасшедшему в конечном итоге вызвать ядерное уничтожение. Мы действительно можем жить в этом мире; это была бы модельная версия « гипотезы уязвимого мира » Бострома, « Великого фильтра » Хансона или « Аргумента о Судном дне ». Более того, риск естественным образом увеличится с ростом в этом мире, настолько, что даже нетерпеливое общество может выбрать стагнацию. Однако с точки зрения потомков мы ничего не можем сделать независимо от этого. Экзистенциальная катастрофа неизбежна, и мы не сможем выжить, чтобы достичь великого будущего. Поэтому, даже если есть некоторая вероятность того, что мы живем в этом мире, чтобы максимизировать моральную ценность будущего, мы должны действовать так, как будто мы живем в других сценариях, где возможно долгое и процветающее будущее.
Чтобы было ясно, это всего лишь одна несовершенная теоретическая модель. Например, модель рассматривает оптимальное распределение. Но инвестиции в безопасность для защиты от экзистенциальной катастрофы являются глобальным общественным благом, и, как показывает пример изменения климата, предоставление глобальных общественных благ может быть сложным. Или мы могли бы смоделировать источник риска по-другому, например, как исходящий непосредственно из самого процесса технологического развития, а не из человеческой деятельности, для которой используются технологии.
В этом смысле вам не следует воспринимать эту модель как какой-либо окончательный ответ. Но, действительно, окончательный ответ не является целью экономической теории. Все, что может сделать математический аппарат экономической теории , — это раскрыть интуитивные идеи, которые мы в противном случае могли бы не рассмотреть. И интуитивная история — что мы хотим пережить время опасностей как можно быстрее — кажется в высшей степени правдоподобной.
Модель также предполагает более широкое понимание. Делая людей богаче, мы не просто улучшаем их благосостояние, но и можем изменить то, что они ценят. В этом случае люди больше ценят жизнь по мере того, как они становятся богаче, а большая ценность жизни заставляет их больше заботиться о снижении экзистенциального риска.
В этом смысле, делая людей богаче — будь то посредством роста или другими способами — можно достичь тех же целей, что и попытки убедить людей принять другие ценности. Например, некоторые в сообществе «Эффективного альтруизма» занялись интеллектуальным проектом под названием « лонгтермизм », чтобы заставить людей больше заботиться о долгосрочной перспективе — по сути, заставить их снизить свою ставку дисконтирования. С точки зрения того, чтобы заставить людей больше заботиться о предотвращении экзистенциального риска, я подсчитал, что удвоение потребления людей может иметь такой же эффект, как, скажем, снижение ставки дисконтирования людей с 2% до 1,4%. Возможно, если мы доведем этот аргумент до конца, мы придем к контринтуитивному выводу, что самое эффективное, что мы можем сделать для снижения риска экзистенциальной катастрофы, — это не инвестировать в безопасность напрямую или пытаться убедить людей быть более ориентированными на долгосрочную перспективу, а тратить деньги на борьбу с бедностью, чтобы больше людей были достаточно обеспечены, чтобы заботиться о безопасности.
Модель также предполагает потенциальный недостаток некоторых благонамеренных усилий, направленных на прямое увеличение беспокойства людей о катастрофах. Нетерпеливое общество может на самом деле предпочесть более медленный рост ради безопасности. Вспомните, как более быстрый рост изначально увеличивал риск в краткосрочной перспективе, и как потребовалось несколько сотен лет, прежде чем мы увидели общее снижение риска. Если люди в основном обеспокоены более непосредственными рисками для себя, они могут сознательно решить замедлить рост, снижая риск для своего нынешнего поколения за счет большего риска для будущих поколений.
Конечно, это не то, за что выступают те, кто обеспокоен экзистенциальными катастрофами. Но нам следует беспокоиться о культуре, которую они будут продвигать, если их идеи о рисках технологического прогресса продолжат становиться все более распространенными. Мы можем в конечном итоге прийти к еще большей бюрократии безопасности и еще большему неприятию риска, не способствуя напрямую снижению экзистенциального риска, но препятствуя инновациям и замедляя рост — в конечном итоге уменьшая шансы человечества на выживание.
Вероятно, именно это мы и делаем в Соединенных Штатах. В духе «избыточной осторожности» мы чрезмерно рьяно применяем принцип предосторожности . Это уже означает, что мы менее способны справляться с катастрофами. Регулирующая бюрократия в FDA привела к тому, что США не смогли обнаружить коронавирус, поразивший наши берега в феврале, и задерживает разработку эффективных терапевтических средств и вакцин. Сторонники утверждают, что принцип предосторожности ставит безопасность на первое место, но в долгосрочной перспективе он может на самом деле сделать нас менее защищенными.
Поскольку мы находимся на перепутье между непрерывным ростом с потенциально рискованными инновациями, с одной стороны, и застойным упадком во имя комфорта и безопасности, с другой стороны, те, кто заботится о потомках, должны ответить единым голосом: мы выбираем рост.
