Ein existenzielles Risiko ist eine Katastrophe, die so groß ist, dass sie entweder die gesamte Menschheit auslöscht oder uns dauerhaft lähmt. Dies können Naturkatastrophen oder von Menschen verursachte Katastrophen absichtlicher oder zufälliger Natur sein. Ein existenzielles Risiko kann schon lange bestehen, oder nur wenige Jahrzehnte, oder vielleicht liegt es in unserer Zukunft. Beispiele für existenzielle Risiken sind große Asteroideneinschläge, Atomkriege und abtrünnige Künstliche Intelligenz.
Das Konzept des existenziellen Risikos wurde erstmals in seiner heutigen Form von Dr. Nick Bostrom, einem Oxford-Philosophen, artikuliert. Er verwendet eine Risikotabelle ähnlich der folgenden, um existenzielle Risiken zu erklären:
RisikoumfangGlobalEl NiñoEntwaldungexistenzielles RisikoLokalesGewitterWirtschaftlicher AbschwungHurrikanPersönlicher PapierschnittVerstauchter KnöchelSie werden angeschossenRisikointensitätVernachlässigbarÜberschaubarTerminal
Existenzielle Risiken sind global und endständig oder vielleicht fast endständig. Ein extrem ansteckendes Virus mit einer Letalitätsrate von 99.9 %, gegen das niemand immun ist, ist ein Beispiel für ein existenzielles Risiko.
Bostrom weist darauf hin, dass unser Verstand und unsere Institutionen schlecht gerüstet sind, um über existenzielle Risiken nachzudenken, weil wir noch nie zuvor eines erlebt haben – wenn wir es hätten, wären wir nicht hier, um darüber nachzudenken. Wie ein Kind, das nicht weiß, dass ein Herd heiß ist, bis es ihn berührt, haben wir mit Katastrophen auf dieser Ebene wenig Erfahrung. Die Beulenpest des mittelalterlichen Europas und die Spanische Grippe des Ersten Weltkriegs geben uns einen Vorgeschmack auf eine existenzielle Katastrophe. Dutzende Millionen gesunder Menschen starben innerhalb weniger Stunden an beiden Krankheiten.
In seinem kanonischen Paper zu diesem Thema listet Bostrom etwa ein Dutzend existenzielle Risiken auf und kategorisiert sie nach Schweregrad und Behebbarkeit. Einige der plausibelsten sind hier aufgelistet:
gentechnisch veränderte Viren
Nanotechnologische Wettrüsten
katastrophaler Atomkrieg
außer Kontrolle geratene selbstreplizierende Robotik
superintelligente KI gleichgültig gegenüber Menschen
Physikkatastrophe in einem Teilchenbeschleuniger
Supervulkanexplosion blockiert die Sonne
Aufgrund der extremen Schwere und Irreversibilität existenzieller Risiken lohnt es sich, über mögliche Gegenmaßnahmen nachzudenken und umzusetzen. Auch wenn die Chance, dass eine gegebene existenzielle Bedrohung Wirklichkeit wird, gering ist, verlangen die immensen Einsätze nach einem ernsthaften Vermeidungsprogramm. Gegen vom Menschen verursachte Bedrohungen umfassen ausgeklügelte Beobachtungs- und Warnsysteme und die Regulierung bestimmter Technologien, um sicherzustellen, dass sie nicht zur Massenvernichtung verwendet werden. Länder, die des Besitzes von Massenvernichtungswaffen verdächtigt werden, werden manchmal von anderen Ländern überfallen, die sich über die langfristigen Folgen Sorgen machen, wie der Krieg im Irak anschaulich zeigt.