Existentielles Risiko

Künstlerische Darstellung eines großen Asteroideneinschlags. Ein Asteroid mit gewaltiger Einschlagskraft könnte für das Aussterben der Dinosaurier verantwortlich sein.

Ein existentielles Risiko für die Menschheit ist ein Ereignis, welches in der Lage ist, auf der Erde entstandenes, intelligentes Leben auszulöschen, oder dessen gewünschte Entwicklung drastisch und permanent einzuschränken. Sie unterscheiden sich von anderen Formen von Risiken sowohl durch ihren umfassenden Wirkungsbereich, als auch ihr enormes Schadensausmaß. Naturkatastrophen wie Supervulkane und Asteroiden können, falls ausreichend mächtig, existentielle Risiken darstellen, wenngleich Ereignisse menschlichen Ursprungs wie beispielsweise Atomkrieg, Bioterrorismus, Künstliche Intelligenz oder katastrophaler Klimawandel ebenfalls das Fortbestehen intelligenten Lebens auf der Erde bedrohen können.

Während einzelne Bedrohungen wie Atomkrieg oder Klimawandel intensiv untersucht werden, hat die systematische Analyse existentieller Risiken ungeachtet ihrer enormen Bedeutung erst im Jahre 2002 begonnen. Dies mag auch daran liegen, dass hochgradig interdisziplinäres Wissen zum Erforschen existentieller Risiken notwendig ist.

Ein unerwartetes oder sehr unwahrscheinliches Ereignis mit hohem existenziellen Risiko wird als Wild Card bezeichnet.

Mögliche Szenarien

Verschiedene Ereignisse stellen ein existentielles Risiko für die Menschheit oder gar alles Leben auf der Erde dar:

Ausbruch eines Supervulkans

→ Hauptartikel: Supervulkan

Der Ausbruch eines ganzen Vulkankomplexes könnte Effekte, die mit einem Nuklearen Winter vergleichbar sind, verursachen und so den Fortbestand der Menschheit gefährden.

Impakt eines Himmelskörpers

→ Hauptartikel: Impakt

Ein Objekt mit einem Durchmesser von mehr als 500 m, das mit hinreichender Geschwindigkeit die Erde trifft, könnte das Ende der Menschheit verursachen.

Gammablitze

Gammablitze (englisch gamma-ray bursts, abgekürzt GRB) sind Wellen intensiver Strahlung, die bei gewissen astronomischen Ereignissen entstehen und die sich mit Lichtgeschwindigkeit durch den Kosmos begeben. Sollte ein derartiger Blitz mit hinreichender Intensität die Erde treffen, würde die intensive Strahlung nicht tief in die Atmosphäre eindringen. Stickstoff und Sauerstoff in den Schichten der oberen Atmosphäre würden jedoch zu Stickstoffmonoxid verschmolzen werden, das auf Ozon einen ähnlichen Effekt wie FCKWs hat, als Folge würde die Ozonschicht wahrscheinlich unrettbar vernichtet.

Das UV-Licht der Sonne, das dann ungebremst die Erdoberfläche erreichen könnte, würde wahrscheinlich vor allem das Phytoplankton, das dicht unter der Wasseroberfläche lebt, ausrotten, was einen Kollaps des gesamten globalen Ökosystems zur Folge haben könnte.

Das Ordovizische Massenaussterben wurde möglicherweise durch einen Gammablitz in Erdnähe verursacht. Der Wolf-Rayet-Stern WR 104 könnte bei seinem Tod einen GRB zur Erde senden und sie so sterilisieren.

Massive Sonneneruptionen

Sonneneruptionen sind gewaltige Protuberanzen auf der Sonnenoberfläche, in deren Folge die Erde mit Subatomaren Teilchen bombardiert wird, die jedoch durch das Erdmagnetfeld abgelenkt werden können. Allerdings wurden Hauptreihensterne, zu denen auch die Sonne gehört, bereits dabei beobachtet, wie sie bisweilen ihre Leuchtkraft um den Faktor 20 erhöhen. Einige Forscher meinen, dass dies ein Zeichen für außergewöhnliche „Super-Protuberanzen“ sein könnte. Es ist nicht auszuschließen, dass die Sonne derartige Strahlungsausbrüche ebenfalls zur Erde senden könnte. Diese hätten möglicherweise ähnliche Effekte auf das irdische Leben wie ein Gammablitz.

Autoritäre Weltregierung

Eine totalitär dominierte Weltregierung könnte durch einen globalen Genozid (Omnizid) den Fortbestand der gesamten Menschheit bedrohen, oder zumindest einen Großteil der Weltbevölkerung ausrotten, während Widerstand durch massive Überwachung und die Einschränkung von Bürgerrechten gefährdet wäre. Große und mächtige Staaten stellen dabei wahrscheinlich eine größere Bedrohung dar als kleine Schurkenstaaten, die den Fortbestand der Menschheit nur mit Massenvernichtungswaffen ernsthaft gefährden können, während eine Weltregierung zu einem schleichenden Omnizid in der Lage wäre.

Derartige Szenarien werden oft in Alternativweltgeschichten diskutiert. Aldous Huxleys Schöne Neue Welt und George Orwells 1984 sind die bekanntesten Vertreter des Genres. In Philip K. Dicks Roman Das Orakel vom Berge werden von den siegreichen Nationalsozialisten im Jahr 1962 alle Schwarzafrikaner ermordet und zu Schmierfett verarbeitet.

Siehe auch: Weltregierung, Demozid und Dystopie

Nuklearer Holocaust

→ Hauptartikel: Nuklearer Holocaust

Schon einzelne Atomsprengköpfe können Städte zerstören und tausende Menschenleben vernichten. Bereits die Verwendung eines Bruchteils der weltweiten Arsenale könnte also durch die direkte Wirkung Millionen oder gar Milliarden Menschen töten, während die Nachwirkung der Explosionen die Menschheit endgültig ausrotten könnte:

Vernichtete Infrastruktur, vergiftetes Wasser, Keimbahnmutationen, ansteigende Krebsrate, ein kollabierendes Ökosystem, der Zusammenbruch sozialer Institutionen sowie ein Nuklearer Winter könnten die Überlebenden der Explosionen bis zur Ausrottung dezimieren.

Umweltkatastrophen

Der Verlust von Biodiversität unter anderem durch Bejagung, Neobiota und Umweltverschmutzung könnte durch gewisse Schlüsselereignisse das Ende der Menschheit in Form eines globalen Ökozids zur Folge haben.

Siehe auch: Umweltkatastrophe

Pandemien

Eine globale Pandemie, die HIV, das neuartige Coronavirus, den Schwarzen Tod oder die Spanische Grippe an Virulenz und Letalität übertrifft, könnte die Menschheit drastisch verkleinern. Eine komplette Auslöschung gilt jedoch als höchst unwahrscheinlich, da es für einen Erreger schwieriger wird, eine große Zahl an Menschen zu infizieren, je tödlicher er ist. Die Quartäre Aussterbewelle könnte von einer derartigen globalen Seuche ausgelöst worden sein, ein Erklärungsansatz, der als „Hyperkrankheitshypothese“ bekannt ist. Diese wurde durch Ross MacPhee (Mitarbeiter des American Museum of Natural History) und Preston Marx (Aaron Diamond AIDS Research Center und Tulane University) entwickelt, die argumentieren, dass eine hochinfektiöse und tödliche Krankheit eine Schlüsselrolle bei der Dezimierung der Megafauna in Nordamerika gespielt haben könnte. Derartige Krankheiten sind jedoch durch paläontologische Hinweise schwer zu belegen. Das Aussterben der indigenen Rattenspezies auf den Weihnachtsinseln könnte direkt durch Flohkrankheiten verursacht worden sein, die von eingeschleppten Ratten verbreitet worden waren. DNA-Analysen bekräftigten diese Vermutung.

Bioterrorismus

Entwicklungen in der Biotechnologie, der Genetik und der Genomik haben nachhaltige Einflüsse auf die globale Sicherheit. Der Erreger einer Hyperkrankheit in der Hand von Terroristen könnte das Ende der Menschheit bedeuten. Die folgenden Krankheitserreger stellen sogenannte Klasse-A-Pathogene dar und können bereits in ihrer natürlichen Form als Biowaffen verwendet werden.

1. Bacillus anthracis (Anthrax)
2. Clostridium botulinum toxin (Botulismus)
3. Yersinia pestis (Pest)
4. Variola major (Pocken) und verwandte Pockenviren
5. Francisella tularensis (Tularämie)
6. Virales Hämorrhagisches Fieber
7. Arenaviren: Junin, Machupo, Guanarito, Chapare Lassa, Lujo
8. Bunyaviren
9. Hantaviren
10. Flaviren
11. Dengue
12. Filoviren
13. Ebola
14. Marburgvirus

Genetisch modifizierte Pathogene in Biowaffen (z. B. Ebolapocken) sind sicherlich besonders geeignet, eine finale Pandemie zu verursachen.

Siehe auch: Bioterrorismus

Graue Schmiere

→ Hauptartikel: Graue Schmiere

Molekulare Nanotechnologie kann durchaus zu der Konstruktion von bakteriengroßen Robotern führen, die sich selbst replizieren und anorganische oder organische Verbindungen für ihre Replikation benötigen. Indem sie bei diesem exponentiell beschleunigenden Prozess die Biosphäre vertilgen, vergiften oder das Sonnenlicht blockieren, könnten sie den Fortbestand der Menschheit und allen Lebens auf der Erde gefährden. Sicherheitsvorkehrungen wie abgeschirmte Aufbewahrung, die Beschränkung der „Nahrung“ der Roboter auf seltene Elemente oder einprogrammierte Sperren könnten die Gefahr einer derartigen Katastrophe hypothetisch verringern. Ein Auslegungsstörfall oder der Missbrauch der Nanoroboter als Waffe könnte diese Sperren jedoch umgehen.

Eskalierende globale Erwärmung

Es besteht die Möglichkeit, dass die Freisetzung von Treibhausgasen in die Atmosphäre sich als stark selbst verstärkender Rückkopplungsprozess erweisen könnte, in den ab einem gewissen Point of no Return weder durch Vermeidungsstrategien noch durch Geoengineering interveniert werden kann. Die Erdatmosphäre könnte sich dann der Atmosphäre der Venus angleichen und Leben wäre unmöglich.

2022 empfahlen Wissenschaftler um Luke Kemp, Kristie Ebi, Johan Rockström, Marten Scheffer, Hans Joachim Schellnhuber und andere den verstärkten wissenschaftlichen und öffentlichen Fokus auf katastrophale und existenzbedrohende Klimaszenarien, die bisher in Wahrnehmung und Quantität stark unterrepräsentiert seien. Die Kategorisierung der Klimakrise als existentielles Risiko war zuvor innerhalb der Community immer wieder umstritten, da man auch in Worst-Case-Szenarien von vereinzelten Überlebenden der Menschheit ausgehen könne. Neuere Beiträge stellen auch dies in Frage.

Siehe auch: Globale Erwärmung

Neues Eiszeitalter / Zweite Schneeball Erde

Die Theorie vom „Schneeball Erde“ besagt, dass die gesamte Erde mehrmals in der Erdgeschichte eingefroren war, was möglicherweise zu einigen der schwersten Krisen und Massenaussterben in der Geschichte des Lebens auf der Erde geführt haben soll.

Sollte die momentane Warmzeit abrupt enden, könnten die Temperaturstürze und ihr Einfluss auf die Lebensmittelversorgung das Fortbestehen der Menschheit gefährden.

Siehe auch: Eiszeitalter

Vernichtung der Menschheit durch eine künstliche Superintelligenz

Künstlich generierte Intelligenz wäre möglicherweise dazu in der Lage, menschliches Leben auf der Erde vernichten. Zu den Wissenschaftlern, die diese Ansicht vertreten, zählte auch Stephen Hawking. Bereits 2014 konnte sich der Physiker vorstellen, dass die bereits vorhandenen Formen künstlicher Intelligenz so weiter entwickelt werden könnten, dass eine Superintelligenz entsteht, die der des Menschen überlegen wäre. Die eigene Reproduktion, entsprechend den eigenen Bedürfnissen zu gestalten wäre problemlos möglich und nicht durch biologische Evolution beschränkt, wie beim Menschen. Ein lernfähiges System würde sich in seiner Selbstoptimierung regelmäßig verbessern und wäre somit in der Lage Upgrades von sich selbst zu erschaffen.

Gemeinsam mit Stuart Jonathan Russell und Max Tegmark veröffentlichte Hawking 2014 eine Stellungnahme, in der auch potenzielle Risiken im Umgang mit einer künstlich geschaffenen Superintelligenz thematisiert werden. Die Erschaffung einer Superintelligenz wäre nach Ansicht der Wissenschaftler die größte Zäsur in der Geschichte der Menschheit, könnte aber auch das letzte Kapitel der Menschheitsgeschichte mit sich bringen. Folgende Risiken werden benannt:

• Bereits 1965 erkannte Irving Good, dass eine künstliche Superintelligenz zu Selbstoptimierung in der Lage wäre und somit die Finanzmärkte manipulieren könnte und selbstständig Waffen erfinden würde, die sich menschlichen Kontrollmechanismen entziehen würden. Während es bei KI kurzfristig darum geht, durch wen sie kontrolliert werden kann, sollten langfristige Betrachtungen die Frage, ob man sie überhaupt kontrollieren kann mit einbeziehen.

• Gesicherte Kontrolle tödlicher, autonomer Waffensysteme, die ihre Ziele selbst bestimmen. Aufgrund der potenziellen Risiken, u. a. im Kriegseinsatz, setzt sich Human Rights Watch für ein Verbot ein. Auch die Vereinten Nationen sehen in diesem Bereich dringenden Handlungsbedarf.

• Veränderungen unserer Wirtschaftssysteme durch technologischen Fortschritt, sowie daraus resultierende Massenarbeitslosigkeit haben das Potenzial die Gesellschaft weiter zu spalten und soziale Unruhen auszulösen. (siehe hierzu auch "The Second Machine Age" von Erik Brynjolfsson und Andrew McAfee, Wirtschaftsbuch des Jahres 2015)

• Die Dringlichkeit des Problems wird unterschätzt, was u. a. daran erkennbar ist, dass sich lediglich folgende universitäre Einrichtungen und Non-Profit-Organisationen mit zukünftigen Risiken für die Menschheit beschäftigen, die auch technologische Bedrohungen mit thematisieren: das Future of Humanity Institute, das Cambridge Center for Existential Risk, das Machine Intelligence Research Institute (MIRI) sowie das Future of Life Institute

Das eigentliche Gefahrenpotenzial besteht also nach Ansicht von Hawkins und Kollegen in einem Kontrollverlust über eine künstliche Superintelligenz, die durch mangelnde Sicherheitsvorkehrungen und Unterschätzung der Fähigkeiten, die ein solches System entwickeln könnte begünstigt wird.

Siehe auch: Künstliche Intelligenz und Superintelligenz

Aussterben durch den Einfluss von Außerirdischen

Sollte es zum Kontakt zwischen Menschen und extraterrestrischen Zivilisationen kommen, könnten diese die Menschheit ausrotten, entweder durch einen gezielten, wie auch immer begründeten Genozid, durch das Einführen fremder Pathogenen, durch Räuber, durch den Raub aller irdischen Rohstoffe oder durch die Ausrottung von Schlüsseltierarten.

Siehe auch: Außerirdisches Leben

Falsifizierte Szenarien

Polywasser

In den 1960er Jahren gaben sich sowjetische Wissenschaftler der Vorstellung hin, mit Polywasser würde eine besonders stabile Variante des Normalen Wassers bestehen. Diese könnte normales Wasser umwandeln, das dann aufgrund veränderter Eigenschaften lebensfeindlich wäre und so das gesamte Ökosystem vernichten würde. Später stellte sich diese Forschung als Pathologische Wissenschaft heraus.

Wahrscheinlichkeit existentieller Risiken

Die Eintrittswahrscheinlichkeiten mancher Gefahren sind mit beträchtlicher Genauigkeit berechnet worden. So beträgt beispielsweise die Wahrscheinlichkeit eines Asteroideneinschlags, welcher das Aussterben der Menschheit zur Folge hätte, 0,000001 (eins zu einer Million) in den nächsten einhundert Jahren (obwohl spätere Forschung eine weit höhere Wahrscheinlichkeit nahelegte). Damit vergleichbar sind Vulkanausbrüche, die schwerwiegend genug sind um katastrophalen Klimawandel zu verursachen, ähnlich dem Toba-Vulkanausbruch, der fast das Aussterben der menschlichen Spezies verursacht hat, Die Häufigkeit von derartigen Vulkanausbrüchen wird auf etwa einmal alle 50,000 Jahre geschätzt. Die Wahrscheinlichkeiten anderer Bedrohungen sind jedoch viel schwieriger zu berechnen. Obwohl Experten der Global Catastrophic Risk Conference die Wahrscheinlichkeit für das Aussterben der menschlichen Spezies innerhalb der nächsten 100 Jahre auf 19 % schätzten, gab es beträchtliche Meinungsverschiedenheiten bezüglich der relativen Bedeutung der jeweiligen Gefahren.

Es gibt erhebliche methodische Schwierigkeiten beim Abschätzen dieser Risiken. Die meiste Aufmerksamkeit wurde Risiken gewidmet, die die menschliche Zivilisation in den nächsten hundert Jahren bedrohen, aber das Vorhersagen über diesen Zeitraum gestaltet sich als sehr schwierig. Alle Bedrohungen, deren Ursprung in der Natur liegt, verhalten sich relativ konstant, obwohl neue Risiken entdeckt werden könnten. Anthropogene Bedrohungen jedoch werden sich wahrscheinlich mit der Entwicklung neuer Technologien dramatisch verändern; während Vulkane über die gesamte Geschichte hinweg eine Bedrohung darstellten, spielen nukleare Waffen erst seit dem 20. Jahrhundert eine Rolle. Die Geschichte zeigt, dass die Fähigkeit die Zukunft vorherzusagen bei früheren Experten sehr eingeschränkt war, gleichwohl könnten moderne probabilistische Vorhersage-Methoden, wie beispielsweise Prognosemärkte oder traditionellere Vorgehensweisen wie Peer-Review die Genauigkeit von Vorhersagen erhöhen.

Bedrohungen menschlichen Ursprungs wie z. B. nuklearer Krieg oder Nanotechnologie sind noch schwerer vorherzusagen, aufgrund der inhärenten methodologischen Probleme in den Sozialwissenschaften. Während der Kubakrise, schätzte John F. Kennedy die Wahrscheinlichkeit eines nuklearen Krieges auf 33 % bis 50 %. Ungeachtet dessen gilt, dass es im Allgemeinen sehr schwer ist die Größenordnung eines dieser Risiken richtig einzuschätzen, da sich internationale Beziehungen und technologischer Fortschritt rapide ändern können.

Aufgrund von Selektionseffekten durch bloße Beobachtung (englisch: observation selection effects) stellen existentielle Risiken eine einzigartige Herausforderung für Vorhersagen dar, sogar mehr als andere weit in der Zukunft liegende Ereignisse. Anders als bei den meisten anderen Ereignissen ist das Ausbleiben von existentiellen Risiken in der Vergangenheit kein Beleg dafür, dass die Wahrscheinlichkeit von in der Zukunft liegenden existentiellen Risiken gering ist. Denn hätte sich ein existentielles Risiko in unserer Vergangenheit ereignet, gäbe es keine Menschen mehr, die dies beobachten könnten.

„Bei existentiellen Risiken kann unsere Vorgehensweise nicht praktisches Herumprobieren sein. Es gibt keine Möglichkeit aus Fehlern zu lernen. Die reaktive Herangehensweise – einfach sehen was passiert, Gefahren begrenzen und aus Erfahrung lernen – ist unausführbar. Nein, wir müssen eine proaktive Vorgehensweise wählen. Das erfordert den Weitblick neue Arten von Bedrohungen zu antizipieren und die Bereitschaft entschiedene Präventionsmaßnahmen durchzuführen und deren (moralische oder ökonomische) Kosten zu tragen.“

– Nick Bostrom, Milan Cirkovic

Siehe auch: Doomsday-Argument

Fermi-Paradoxon

→ Hauptartikel: Fermi-Paradoxon

Es wurden bereits viele Planeten außerhalb unseres Sonnensystems entdeckt, und es gibt wahrscheinlich noch viel mehr unentdeckte, erdähnliche Planeten, auf denen Leben entstehen könnte. Angesichts der relativen Schnelligkeit, mit der sich Leben auf der Erde entwickelt hat, und angesichts der enormen Größe des beobachtbaren Universums scheint es a priori und a posteriori wahrscheinlich, dass sich intelligentes Leben auch auf anderen Planeten entwickelt hat.

Somit scheint das Ausbleiben jeglicher Anzeichen von intelligentem Leben außerhalb der Erde ein Paradoxon darzustellen. Besonders relevant ist das Ausbleiben von großflächigen, von der Erde aus sichtbaren, künstlichen Konstruktionen im All, was nahelegt, dass wenige bis keine Zivilisationen lange genug überleben, um den Weltraum kolonisieren zu können.

Es gibt eine Reihe von Erklärungen für das Fermi-Paradoxon, wie beispielsweise die Hypothese, dass die Erde Teil eines galaktischen Zoos sei, oder dass die Entstehung von Leben einfach extrem unwahrscheinlich ist. Eine weitere Erklärung ist jedoch, dass ein Großer Filter (englisch: Great Filter) existiert; der Große Filter ist diejenige Eigenschaft unseres Universums, welche tote Materie davon abhält innerhalb eines genügend großen Zeitraums in intelligentes Leben zu evolvieren und anschließend das Universum zu besiedeln. Falls dieser Filter nun vor uns liegt – vielleicht zerstören sich die meisten Zivilisationen in nuklearen Kriegen – wird er die Menschheit, es sei denn, sie ist sehr ungewöhnlich im Vergleich zu außerirdischen Zivilisationen, davon abhalten den Weltraum zu besiedeln.

Kognitive Verzerrungen

Die Erforschung von kognitiven Verzerrungen offenbart eine Reihe von Tendenzen und Neigungen im Wahrnehmen, Urteilen und Denken von Menschen, welche nicht den Standards unvoreingenommener Rationalität entsprechen. Viele dieser Verzerrungen beeinflussen die Vorhersage von existentiellen Risiken. Die Verfügbarkeitsheuristik beispielsweise könnte Menschen dazu veranlassen die Gefahr existentieller Risiken zu unterschätzen, da offensichtlich noch niemand eines beobachtet hat. In ähnlicher Weise bewirkt der Rückschaufehler, dass vergangene Ereignisse vorhersehbarer erscheinen als sie tatsächlich waren, was zu übermäßigem Vertrauen in die Fähigkeit die Zukunft vorherzusagen führt.

Der Konjunktions-Fehlschluss (englisch: Conjunction fallacy) tritt auf, wenn Menschen die Wahrscheinlichkeit von Konjunktionen überschätzen; z. B. wenn man glaubt, dass eine politische Aktivistin mit größerer Wahrscheinlichkeit eine feministische Bankangestellte als eine Bankangestellte ist. In gleicher Weise unterschätzen Menschen die Wahrscheinlichkeit disjunktiver Ereignisse. Die Bedrohung existentieller Risiken ist hochgradig disjunktiv, denn die Ursache kann nuklearer Krieg oder Klimawandel oder Künstliche Intelligenz oder Bioterrorismus oder ein Asteroideneinschlag sein, was dazu führt, dass die Plausibilität existentieller Risiken unterschätzt wird.

Potentielle Bedeutung existentieller Risiken

Einige Wissenschaftler setzen sich eindringlich für das Verringern existentieller Risiken ein, da zukünftige Generationen davon außerordentlich profitieren würden. Derek Parfit behauptet, dass das Aussterben der Menschheit ein immenser Verlust wäre, da unsere Nachkommen möglicherweise für Milliarden Jahre überleben könnten, bevor die ansteigende Hitze der Sonne die Erde unbewohnbar machen würde. Nick Bostrom argumentiert, dass der Menschheit mit der Besiedlung des Weltalls sogar noch großartigere Möglichkeiten offenstehen. Falls unsere Nachfahren das All besiedeln, könnten sie in der Lage sein, eine sehr große Anzahl von Menschen zu ernähren, und dies möglicherweise für mehrere Billionen Jahre. Deshalb würde selbst eine nur geringfügige Reduzierung der Wahrscheinlichkeit existentieller Risiken einen höchst bedeutsamen Einfluss auf die erwartete Anzahl von in der Zukunft existierenden Menschen haben.

Manche Wissenschaftler stimmen mit den genannten Argumenten nicht überein. Exponentielle Diskontierung könnte diese in der Zukunft liegenden Vorteile viel weniger bedeutsam erscheinen lassen, und manche Philosophen bezweifeln, dass das Sichern der Existenz zukünftiger Generationen von Wert sei.

Manche Wirtschaftswissenschaftler haben ebenfalls die Bedeutung existentieller Risiken diskutiert, obwohl in den meisten dieser Diskussionen der Name „katastrophale Risiken“ (englisch: catastrophic risk) verwendet wird. Martin Weitzman argumentiert, dass möglicherweise die meisten der durch den Klimawandel erwarteten wirtschaftlichen Kosten von der geringen Wahrscheinlichkeit herrühren, dass die globale Erwärmung unsere Berechnungen bei weitem übertrifft und dies katastrophale Schäden zur Folge hat. Richard Posner hat argumentiert, dass wir im Allgemeinen viel zu wenig gegen Gefahren von riesigem Schadensausmaß, jedoch gering erscheinender, schwer abzuschätzender Wahrscheinlichkeit unternehmen.

Literatur

• Nick Bostrom, Milan Cirkovic: Global Catastrophic Risks. Oxford University Press, 2008.
• Joel Garreau: Radical Evolution. 2005.
• Toby Ord: The Precipice - Existential Risk and the Future of Humanity. Bloomsbury Publishing, 2020. ISBN 978-1-5266-0021-9
• Richard A. Posner: Catastrophe. Oxford University Press, 2004.
• Martin Rees: Our Final Hour (UK title: „Our Final Century“). 2003, ISBN 0-465-06862-6.
• Phil Torres mit Martin Rees (Vorwort): Morality, Foresight & Human Flourishing. An Introduction to Existential Risks. Pitchstone, Durham 2017. ISBN 978-1-63431-142-7.
• Alexei Turchin: Structure of the global catastrophe. Risks of human extinction in the XXI century. 2010, ISBN 978-1-4457-5658-5.
• Nick Bostrom, Superintelligenz: Szenarien einer kommenden Revolution. 2014, ISBN 3-518-58612-2.
• Umfangreiches Interview mit Bostrom. In: The Atlantic (englisch)
• Shahar Avin, et al.: Classifying global catastrophic risks, Futures 2018, online.

Weblinks

• Eine Website von Nick Bostrom über existentielle Risiken.
• Nick Bostrom: Existential Risks: Analyzing Human Extinction Scenarios. – Der ursprüngliche Artikel
• Nick Bostrom: Astronomical Waste: The Opportunity Cost of Delayed Human Development. – Aufsatz über die ethische Bedeutung von existentiellen Risiken
• Global Catastrophic Risks. Ein Überblick von GiveWell, einer Organisation die forscht wie man mit seinen Spenden am meisten Gutes tun kann
• Eliezer Yudkowsky: Cognitive biases potentially affecting judgment of global risks. (PDF; 411 kB) Aufsatz über mehrere kognitive Verzerrungen, welche unsere Beurteilung von existentiellen Risiken beeinträchtigen.
• Bill Joy: Why the future doesn’t need us. Wired.com.