Lichtenstein S., Fischhoff B. and Phillips L. D. 1982. Calibration of probabilities: The state of the art to 1980. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press: 306–334.
Lichtenstein S., Slovic P., Fischhoff B., Layman M. and Combs B. 1978. Judged Frequency of Lethal Events. Journal of Experimental Psychology: Human Learning and Memory, 4(6), November: 551-78.
McFadden D. and Leonard G. 1995. Issues in the contingent valuation of environmental goods: methodologies for data collection and analysis. Contingent valuation: A critical assessment. Amsterdam: North Holland.
Newby-Clark I. R., Ross M., Buehler R., Koehler D. J. and Griffin D. 2000. People focus on optimistic and disregard pessimistic scenarios while predicting their task completion times. Journal of Experimental Psychology: Applied, 6: 171—182
Quattrone G.A., Lawrence C.P., Finkel S.E. and Andrus D.C. 1981. Explorations in anchoring: The effects of prior range, anchor extremity, and suggestive hints. Manuscript, Stanford University.
Rasmussen N. C. 1975. Reactor Safety Study: An Assessment of Accident Risks in U.S. Commercial Nuclear Power Plants. NUREG-75/014, WASH-1400 (U.S. Nuclear Regulatory Commission, Washington, D.C.)
Rogers W. et al. 1986. Report of the Presidential Commission on the Space Shuttle Challenger Accident. Presidential Commission on the Space Shuttle Challenger Accident. Washington, DC.
Sanchiro C. 2003. Finding Error. Mich. St. L. Rev. 1189.
Schneier B. 2005. Security lessons of the response to hurricane Katrina. http://www.schneier.com/blog/archives/2005/09/security_lesson.html
Sides A., Osherson D., Bonini N. and Viale R. 2002. On the reality of the conjunction fallacy. Memory & Cognition, 30(2): 191-8. http://www.princeton.edu/%7Eosherson/papers/confal.pdf
Slovic P., Finucane M., Peters E. and MacGregor D. 2002. Rational Actors or Rational Fools: Implications of the Affect Heuristic for Behavioral Economics. Journal of Socio-Economics, 31: 329–342. http://www.decisionresearch.org/pdf/dr498v2.pdf
Slovic P., Fischoff B. and Lichtenstein S. 1982. Facts Versus Fears: Understanding Perceived Risk. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press: 463–492.
Strack F. and Mussweiler T. 1997. Explaining the enigmatic anchoring effect: Mechanisms of selective accessibility. Journal of Personality and Social Psychology, 73: 437—446.
Taber C.S. and Lodge M. 2000. Motivated skepticism in the evaluation of political beliefs. Presented at the 2000 meeting of the American Political Science Association. http://www.sunysb.edu/polsci/mlodge/lodgemotivated.pdf
Taleb N. 2001. Fooled by Randomness: The Hidden Role of Chance in Life and in the Markets. Pp. 81—85. New York: Textre.
Taleb N. 2005. The Black Swan: Why Don't We Learn that We Don't Learn? New York: Random House. http://www.fooledbyrandomness.com/blackswan.pdf
Tversky A. and Kahneman D. 1973. Availability: A heuristic for judging frequency and probability. Cognitive Psychology, 4: 207—232.
Tversky A. and Kahneman D. 1974. Judgment under uncertainty: Heuristics and biases. Science, 185: 251—284.
Tversky A. and Kahneman D. 1982. Judgments of and by representativeness. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press: 84—98.
Tversky A. and Kahneman D. 1983. Extensional versus intuitive reasoning: The conjunction fallacy in probability judgment. Psychological Review, 90: 293—315.
Wansink B., Kent R.J. and Hoch S.J. 1998. An Anchoring and Adjustment Model of Purchase Quantity Decisions. Journal of Marketing Research, 35(February): 71—81.
Wason P.C. 1960. On the failure to eliminate hypotheses in a conceptual task. Quarterly Journal of Experimental Psychology, 12: 129—140.
Wilson T.D., Houston C., Etling K.M. and Brekke N. 1996. A new look at anchoring effects: Basic anchoring and its antecedents. Journal of Experimental Psychology: General. 4: 387—402.
Н. Бостром
факультет философии, Оксфордский университет
www.nickbostrom.com
Nick Bostrom, Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.
(Published in the Journal of Evolution and Technology 9. First version: 2001)
Перевод на русский язык: А. В. Турчин (avturchin@mail.ru)
Благодаря ускорению технологического прогресса, человечество, возможно, быстро приближается к критической точке в своем развитии. В дополнение к хорошо известным угрозам, вроде ядерного холокоста, перспективы быстро развивающихся технологий, таких как наносистемы и машинный интеллект, преподносят нам беспрецедентные возможности и риски. Наше будущее и то, будет ли у нас вообще будущее, зависит от того, как мы справимся с этими вызовами. В связи с быстро развивающимися технологиями нам нужно лучшее понимание динамики перехода от человеческого к «пост-человеческому» обществу. Особенно важно знать, где расположены ловушки: пути, на которых все может пойти смертельно неправильно.
Хотя мы имеем большой опыт подверженности различным личным, местным или переносимым всемирным опасностям, эта статья анализирует недавно появившуюся категорию: угрозы существованию. Так мы называем риски событий, которые могут привести к нашему вымиранию или кардинальным образом повредить потенциал развившейся на Земле разумной жизни. Некоторые из этих опасностей относительно известны, тогда как другие совершенно не замечаются. Угрозы существованию имеют ряд черт, которые делают обычное управление рисками в данном случае неэффективным. Последняя глава этой статьи обсуждает некоторые этические и политические приложения данной проблемы. Более ясное понимание картины угроз позволит нам сформулировать лучшие стратегии.
Жить опасно, и опасность находится повсюду. К счастью, не все риски одинаково серьезны. Для наших целей мы можем использовать три измерения для описания рисков: масштаб, интенсивность и вероятность. Под «масштабом» я имею в виду размер группы людей, подверженных риску. Под «интенсивностью» я имею в виду то, насколько большой вред будет причинен каждому индивидууму из группы. И под «вероятностью» я имею в виду наилучшую текущую субъективную оценку вероятности негативного исхода.[§§§§§§§§§§§§§§§§§§§]
Мы можем различить шесть качественно различных групп рисков в зависимости от их масштаба и интенсивности (таб. 1). Третье измерение, вероятность, может быть наложено на эти два измерения. При прочих равных, риск является более серьезным, если он имеет значительную вероятность и если наши действия могут увеличить ее или уменьшить.
Таблица 1. Шесть категорий риска.
| Масштаб / интенсивность: | Переносимая интенсивность | Смертельная интенсивность |
| глобальный | Уменьшение озонового слоя | Х |
| местный | Экономический спад в стране | Геноцид |
| личный | Кража машины | Смерть |
«Личный», «местный» или «глобальный» относится к размеру популяции, которая непосредственно подвергается воздействию; глобальный риск воздействует на все человечество (и на наших потомков). «Переносимая интенсивность риска» и «смертельная интенсивность» означает, насколько сильно пострадает подверженная риску популяция. Переносимый риск тоже может привести к большим разрушениям, но остается возможность восстановиться от повреждений или найти пути преодолеть негативные последствия. В противоположность ему, окончательный риск это тот риск, когда подверженные ему объекты или гибнут, или необратимо повреждаются таким образом, что радикально уменьшают свой потенциал жить той жизнью, которой они стремятся жить. В случае личных рисков окончательным исходом может быть, например, смерть, необратимое серьезное повреждение мозга, или пожизненное тюремное заключение. Примером локального смертельного риска может быть геноцид, приводящий к уничтожению всего народа (что случилось с несколькими индейскими народностями). Другой пример — обращение в вечное рабство.
В этой статье мы обсудим риски шестой категории, которая отмечена в таблице как Х. Это категория глобальных смертельных рисков. Я буду называть их угрозами существованию.
Угрозы существованию отличаются от глобальных переносимых рисков. Примерами последних являются: угрозы биоразнообразию земной экосферы, умеренное глобальное потепление (и даже большое), и, возможно, удушающие культурные и религиозные эры, такие как «темные века», даже если они охватывают все общество, если они рано или поздно закончатся (хотя см. главу о «Визге» ниже). Сказать, что некий глобальный риск является переносимым, очевидно не означает сказать, что он является приемлемым или не очень серьезным. Мировая война с применением обычных вооружений или десятилетие рейха в нацистском духе будут чрезвычайно жуткими событиями, несмотря на то, что они попадают в категорию переносимых глобальных рисков, поскольку человечество может, в конце концов, восстановиться. (С другой стороны, эти события будут местным смертельным риском для многих индивидуумов и для преследуемых этнических групп.)
Я буду использовать следующее определение риска существованию:
Угроза существованию — это такой риск, в котором негативный результат или уничтожает возникшую на Земле разумную жизнь, или необратимо и значительно сокращает ее потенциал.
Угроза существованию — это такой риск, в котором человечество как целое находится под угрозой. Такие катастрофы имеют огромные негативные последствия для всего будущего земной цивилизации.
Риски этой шестой категории появились недавно. Это одна из причин, по которой полезно выделить их в отдельную категорию. Мы не развили механизмов, ни природных, ни культурных, чтобы справляться с такими рисками. Наши учреждения и защитные стратегии сформировались под влиянием столкновения с такими рисками как опасные животные, враждебные люди или племена, отравленная еда, автомобильные аварии, Чернобыль, Бхопал, извержения вулканов, землетрясения, засухи, Первая мировая война, Вторая мировая война, эпидемии гриппа, оспы, черной чумы и СПИДа. Катастрофы этого типа случались многократно, и наше культурное отношение к риску сформировалось посредством метода проб и ошибок в управлении такими угрозами. Но будучи трагедией непосредственно для участников этих событий, с широкой точки зрения — с точки зрения всего человечества — даже самые страшные из этих катастроф были только рябью на поверхности великого моря жизни. Они не повлияли значительно на полное число счастливых и страдающих людей и не определили долгосрочную судьбу нашего вида.
За исключением истребляющих целые виды комет и столкновений с астероидами (случающихся исключительно редко), вероятно, не было значительных угроз существованию до середины XX века, и определенно ни с одной из них мы не могли ничего сделать.
Первой созданной человеком угрозой существованию была первая атомная бомба. В то время было некоторое беспокойство по поводу того, что взрыв запустит цепную реакцию посредством «поджигания» атмосферы. Хотя теперь мы знаем, что такой итог был физически невозможен, в то время это предположение соответствовало определению угрозы существованию. Чтобы нечто было риском, исходя из доступных знания и понимания, достаточно, чтобы была субъективная вероятность неблагоприятного исхода, даже если потом выясняется, что объективно не было ни одного шанса на то, чтобы случилось нечто плохое. Если мы не знаем, является ли что-то объективно рискованным, это является рискованным для нас лично, то есть в субъективном смысле. Но именно на субъективном смысле нам приходится основывать наши решения.[********************] В любой момент мы должны использовать нашу наилучшую субъективную оценку того, каковы объективные факторы риска.[††††††††††††††††††††]