Un rischio esistenziale è un disastro così grande che o spazza via tutta l’umanità o ci paralizza permanentemente. Questi possono essere disastri naturali o disastri causati dall’uomo di natura intenzionale o accidentale. Un rischio esistenziale può esistere da molto tempo, o solo da pochi decenni, o forse risiede nel nostro futuro. Esempi di rischio esistenziale includono grandi attacchi di asteroidi, guerra nucleare e intelligenza artificiale canaglia.
Il concetto di rischio esistenziale è stato articolato per la prima volta nella sua forma attuale dal Dr. Nick Bostrom, un filosofo di Oxford. Usa una tabella dei rischi simile alla seguente per spiegare i rischi esistenziali:
Ambito di rischioGlobaleEl Niñodeforestazionerischio esistenzialeLocaletemporaneacrisi economicauraganoPersonale tagli di cartacaviglia slogatati sparanoIntensità di rischioTrascurabileGestibileTerminale
I rischi esistenziali sono globali e terminali, o forse quasi terminali. Un virus estremamente contagioso con un tasso di letalità del 99.9% a cui nessuno è immune è un esempio di rischio esistenziale.
Bostrom sottolinea che le nostre menti e le nostre istituzioni sono mal equipaggiate per affrontare il pensiero sul rischio esistenziale, perché non ne abbiamo mai sperimentato uno prima: se lo avessimo fatto, non saremmo qui a pensarci. Come un bambino che non sa che una stufa è calda finché non la tocca, abbiamo poca esperienza con le catastrofi a questo livello. La peste bubbonica dell’Europa medievale e l’influenza spagnola della prima guerra mondiale ci offrono un assaggio di come sarebbe un disastro esistenziale. Decine di milioni di persone sane sono state colpite a morte in poche ore da entrambe le malattie.
Nel suo articolo canonico sull’argomento, Bostrom elenca una dozzina di rischi esistenziali e li classifica in base alla loro gravità e recuperabilità. Alcuni dei più plausibili sono elencati qui:
virus geneticamente modificati
corsa agli armamenti nanotecnologici
catastrofica guerra nucleare
robotica autoreplicante fuori controllo
IA superintelligente indifferente agli umani
disastro fisico in un acceleratore di particelle
l’esplosione di un supervulcano blocca il sole
A causa dell’estrema gravità e irreversibilità del rischio esistenziale, vale la pena riflettere e attuare possibili contromisure. Anche se la possibilità che una data minaccia esistenziale diventi realtà è piccola, l’immensa posta in gioco implica un serio programma di evitamento. Per le minacce di origine umana, le contromisure includono sofisticati sistemi di osservazione e allerta e la regolamentazione di determinate tecnologie per garantire che non vengano utilizzate per la distruzione di massa. I paesi sospettati di possedere armi di distruzione di massa sono talvolta invasi da altri paesi preoccupati per le conseguenze a lungo termine, come dimostra vividamente la guerra in Iraq.