Πώς η τεχνολογική πρόοδος καθιστά πιο πιθανό από ποτέ ότι οι άνθρωποι θα καταστρέψουν τον εαυτό μας

Besykje Ús Ynstrumint Foar It Eliminearjen Fan Problemen

Η υπόθεση του ευάλωτου κόσμου, εξηγείται.

Το σύννεφο μανιταριών από μια πυρηνική έκρηξη.

Ρομόλο Ταβάνι /Shutterstock

Αυτή η ιστορία είναι μέρος μιας ομάδας ιστοριών που ονομάζεται Συντελεσμενος μελλοντας

Βρίσκοντας τους καλύτερους τρόπους για να κάνετε καλό.

Η τεχνολογική πρόοδος έχει εξαλείψει τις ασθένειες, βοήθησε διπλάσιο προσδόκιμο ζωής, μειωμένη πείνα και ακραία φτώχεια, επέτρεψαν τη φυγή και τις παγκόσμιες επικοινωνίες και έκαναν αυτή τη γενιά την πλουσιότερη στην ιστορία.

Έχει επίσης καταστήσει ευκολότερο από ποτέ την πρόκληση καταστροφής σε μαζική κλίμακα. Και επειδή είναι πιο εύκολο για λίγους καταστροφικούς παράγοντες να χρησιμοποιήσουν την τεχνολογία για να προκαλέσουν καταστροφικές ζημιές, η ανθρωπότητα μπορεί να βρεθεί σε μπελάδες.

Αυτό είναι το επιχείρημα του καθηγητή της Οξφόρδης Nick Bostrom, διευθυντή του Ινστιτούτου Future of Humanity, σε ένα νέο έγγραφο εργασίας, The Vulnerable World Hypothesis . Το έγγραφο διερευνά εάν είναι δυνατόν οι πραγματικά καταστροφικές τεχνολογίες να είναι φθηνές και απλές — και επομένως εξαιρετικά δύσκολο να ελεγχθούν. Ο Bostrom εξετάζει τις ιστορικές εξελίξεις για να φανταστεί πώς ο πολλαπλασιασμός ορισμένων από αυτές τις τεχνολογίες θα μπορούσε να είχε εξελιχθεί διαφορετικά εάν ήταν λιγότερο δαπανηρές και περιγράφει μερικούς λόγους για να πιστεύουμε ότι τέτοιες επικίνδυνες μελλοντικές τεχνολογίες μπορεί να είναι μπροστά.

Γενικά, η πρόοδος έχει επιφέρει άνευ προηγουμένου ευημερία, ενώ παράλληλα διευκολύνει το κακό. Αλλά μεταξύ δύο ειδών αποτελεσμάτων - κέρδη στην ευημερία και κέρδη σε καταστροφική ικανότητα - τα ευεργετικά έχουν σε μεγάλο βαθμό κερδίσει. Έχουμε πολύ καλύτερα όπλα από ό,τι είχαμε το 1700, αλλά εκτιμάται ότι έχουμε πολύ χαμηλότερο ποσοστό ανθρωποκτονιών , επειδή η ευημερία, οι πολιτιστικές αλλαγές και οι καλύτεροι θεσμοί έχουν συνδυαστεί για να μειώσουν τη βία περισσότερο από ό,τι οι βελτιώσεις στην τεχνολογία την αύξησαν.

Αλλά τι γίνεται αν υπάρχει μια εφεύρεση εκεί έξω - κάτι που κανένας επιστήμονας δεν έχει σκεφτεί ακόμα - που έχει καταστροφική καταστροφική δύναμη, στην κλίμακα της ατομικής βόμβας, αλλά πιο απλή και λιγότερο δαπανηρή; Τι κι αν είναι κάτι που θα μπορούσε να γίνει σε κάποιον υπόγειο? Εάν υπάρχουν τέτοιες εφευρέσεις στο μέλλον της ανθρώπινης προόδου, τότε είμαστε όλοι σε μεγάλο πρόβλημα - γιατί θα χρειαζόταν μόνο λίγοι άνθρωποι και πόροι για να προκαλέσουν καταστροφικές ζημιές.

Αυτό είναι το πρόβλημα με το οποίο παλεύει ο Bostrom στη νέα του εφημερίδα. Ένας ευάλωτος κόσμος, υποστηρίζει, είναι ένας κόσμος όπου υπάρχει κάποιο επίπεδο τεχνολογικής ανάπτυξης στο οποίο ο πολιτισμός σχεδόν σίγουρα καταστρέφεται από προεπιλογή. Το έγγραφο δεν αποδεικνύει (και δεν προσπαθεί να αποδείξει) ότι ζούμε σε έναν τόσο ευάλωτο κόσμο, αλλά κάνει μια πειστική υπόθεση ότι αξίζει να εξεταστεί η πιθανότητα.

Η πρόοδος ήταν σε μεγάλο βαθμό πολύ επωφελής. Θα μείνει έτσι;

Ο Bostrom είναι ένας από τους πιο εξέχοντες φιλοσόφους και ερευνητές στον τομέα των παγκόσμιων καταστροφικών κινδύνων και του μέλλοντος του ανθρώπινου πολιτισμού. Συνίδρυσε το Ινστιτούτο Future of Humanity στην Οξφόρδη και έγραψε Υπερευφυΐα , ένα βιβλίο για τους κινδύνους και τις δυνατότητες της προηγμένης τεχνητής νοημοσύνης. Η έρευνά του συνήθως ασχολείται με το πώς η ανθρωπότητα μπορεί να λύσει τα προβλήματα που δημιουργούμε για τον εαυτό μας και να δούμε το δρόμο μας προς ένα σταθερό μέλλον.

Όταν εφευρίσκουμε μια νέα τεχνολογία, το κάνουμε συχνά αγνοώντας όλες τις παρενέργειές της. Αρχικά καθορίζουμε αν λειτουργεί και μαθαίνουμε αργότερα, μερικές φορές πολύ αργότερα, ποια άλλα αποτελέσματα έχει. Οι CFC, για παράδειγμα, έκαναν την ψύξη φθηνότερη, κάτι που ήταν εξαιρετικά νέα για τους καταναλωτές — μέχρι που συνειδητοποιήσαμε ότι οι CFC ήταν καταστρέφοντας το στρώμα του όζοντος, και η παγκόσμια κοινότητα ενώθηκε για να τα απαγορεύσει.

Σε άλλες περιπτώσεις, οι ανησυχίες για παρενέργειες δεν επιβεβαιώνονται. Οι ΓΤΟ ακούγονταν σε πολλούς καταναλωτές ότι θα μπορούσαν να εγκυμονούν κινδύνους για την υγεία, αλλά τώρα υπάρχει α σημαντικός όγκος ερευνών υποδηλώνοντας ότι είναι ασφαλή.

Ο Bostrom προτείνει μια απλοποιημένη αναλογία για νέες εφευρέσεις:

Ένας τρόπος για να δούμε την ανθρώπινη δημιουργικότητα είναι η διαδικασία του τραβήγματος μπάλες από μια γιγάντια λάρνακα. Οι μπάλες αντιπροσωπεύουν πιθανές ιδέες, ανακαλύψεις, τεχνολογικές εφευρέσεις. Κατά τη διάρκεια της ιστορίας, έχουμε βγάλει πάρα πολλές μπάλες—κυρίως λευκές (ευεργετικές) αλλά και διάφορες αποχρώσεις του γκρι (μετρίως επιβλαβείς και μικτές ευλογίες). Η σωρευτική επίδραση στην ανθρώπινη κατάσταση ήταν μέχρι στιγμής συντριπτικά θετική και μπορεί να είναι πολύ καλύτερη ακόμα στο μέλλον. Ο παγκόσμιος πληθυσμός έχει αυξηθεί περίπου τρεις τάξεις μεγέθους τα τελευταία δέκα χιλιάδες χρόνια, και τους τελευταίους δύο αιώνες το κατά κεφαλήν εισόδημα, το βιοτικό επίπεδο και το προσδόκιμο ζωής έχουν επίσης αυξηθεί.

Αυτό που δεν έχουμε βγάλει, μέχρι στιγμής, είναι μια μαύρη μπάλα — μια τεχνολογία που πάντα ή από προεπιλογή καταστρέφει τον πολιτισμό που την εφευρίσκει. Ο λόγος δεν είναι ότι ήμασταν ιδιαίτερα προσεκτικοί ή σοφοί στην τεχνολογική πολιτική μας. Απλώς σταθήκαμε τυχεροί.

Αυτός ο τρομακτικός τελικός ισχυρισμός είναι το επίκεντρο της υπόλοιπης εφημερίδας.

Μια σκληρή ματιά στην ιστορία της ανάπτυξης πυρηνικών όπλων

Κάποιος μπορεί να θεωρήσει άδικο να πούμε ότι ήμασταν τυχεροί που καμία τεχνολογία που εφεύραμε δεν είχε καταστροφικές συνέπειες που δεν περιμέναμε. Εξάλλου, ήμασταν επίσης προσεκτικοί και προσπαθήσαμε να υπολογίσουμε τους πιθανούς κινδύνους πραγμάτων όπως οι πυρηνικές δοκιμές πριν τις πραγματοποιήσουμε.

Ο Bostrom, εξετάζοντας την ιστορία της ανάπτυξης πυρηνικών όπλων, συμπεραίνει ότι δεν ήμασταν αρκετά προσεκτικοί.

Το 1942, ο Έντουαρντ Τέλερ, ένας από τους επιστήμονες του Μανχάταν, σκέφτηκε ότι μια πυρηνική έκρηξη θα δημιουργούσε μια θερμοκρασία άνευ προηγουμένου στην ιστορία της Γης, δημιουργώντας συνθήκες παρόμοιες με αυτές στο κέντρο του ήλιου, και ότι αυτό θα μπορούσε να προκαλέσει μια αυτοσυντηρούμενη θερμοπυρηνική αντίδραση στον περιβάλλοντα αέρα ή νερό. Η σημασία της ανησυχίας του Teller αναγνωρίστηκε αμέσως από τον Robert Oppenheimer, επικεφαλής του εργαστηρίου του Los Alamos. Ο Οπενχάιμερ ειδοποίησε τον προϊστάμενό του και διέταξε περαιτέρω υπολογισμούς για να διερευνηθεί η πιθανότητα. Αυτοί οι υπολογισμοί έδειξαν ότι δεν θα συμβεί ατμοσφαιρική ανάφλεξη. Αυτή η πρόβλεψη επιβεβαιώθηκε το 1945 από τη δοκιμή Trinity, η οποία αφορούσε την έκρηξη της πρώτης πυρηνικής εκρηκτικής ύλης στον κόσμο.

Αυτό μπορεί να ακούγεται σαν μια καθησυχαστική ιστορία - εξετάσαμε την πιθανότητα, κάναμε έναν υπολογισμό, καταλήξαμε στο συμπέρασμα ότι δεν χρειάζεται να ανησυχούμε και προχωρήσαμε.

Η αναφορά που παρήγγειλε ο Ρόμπερτ Οπενχάιμερ, ωστόσο, ακούγεται αρκετά τρανταχτή, για κάτι που χρησιμοποιήθηκε ως λόγος για να προχωρήσουμε σε ένα επικίνδυνο νέο πείραμα. Τελειώνει: Μπορεί κανείς να συμπεράνει ότι τα επιχειρήματα αυτής της εργασίας καθιστούν παράλογη την αναμονή ότι η αντίδραση N + N θα μπορούσε να διαδοθεί. Ένας απεριόριστος πολλαπλασιασμός είναι ακόμη λιγότερο πιθανός. Ωστόσο, η πολυπλοκότητα του επιχειρήματος και η απουσία ικανοποιητικής πειραματικής βάσης καθιστά ιδιαίτερα επιθυμητή την περαιτέρω εργασία στο θέμα. Αυτή ήταν η κατάσταση κατανόησης του κινδύνου ατμοσφαιρικής ανάφλεξης όταν προχωρήσαμε στην πρώτη πυρηνική δοκιμή.

Λίγα χρόνια αργότερα, υπολογίσαμε άσχημα σε μια διαφορετική εκτίμηση κινδύνου σχετικά με τα πυρηνικά όπλα. Ο Bostrom γράφει:

Το 1954, οι ΗΠΑ πραγματοποίησαν μια άλλη πυρηνική δοκιμή, τη δοκιμή Castle Bravo, η οποία σχεδιάστηκε ως μυστικό πείραμα με ένα πρώιμο σχέδιο θερμοπυρηνικής βόμβας με βάση το λίθιο. Το λίθιο, όπως και το ουράνιο, έχει δύο σημαντικά ισότοπα: το λίθιο-6 και το λίθιο-7. Πριν από τη δοκιμή, οι πυρηνικοί επιστήμονες υπολόγισαν την απόδοση σε 6 μεγατόνους (με εύρος αβεβαιότητας 4-8 μεγατόνων). Υπέθεσαν ότι μόνο το λίθιο-6 θα συνεισέφερε στην αντίδραση, αλλά έκαναν λάθος. Το λίθιο-7 συνεισέφερε περισσότερη ενέργεια από το λίθιο-6 και η βόμβα εξερράγη με απόδοση 15 μεγατόνων - υπερδιπλάσια από αυτή που είχαν υπολογίσει (και ισοδυναμεί με περίπου 1.000 Χιροσίμα). Η απροσδόκητα ισχυρή έκρηξη κατέστρεψε μεγάλο μέρος του εξοπλισμού δοκιμής. Ραδιενεργές κρούσεις δηλητηρίασαν τους κατοίκους των νησιών με αντίθετο αέρα και το πλήρωμα ενός ιαπωνικού αλιευτικού σκάφους, προκαλώντας διεθνές επεισόδιο.

Ο Μπόστρομ καταλήγει στο συμπέρασμα ότι μπορεί να θεωρήσουμε τυχερό το ότι ο υπολογισμός του Castle Bravo ήταν λανθασμένος και όχι ο υπολογισμός του αν η δοκιμή Trinity θα ανάφλεξε την ατμόσφαιρα.

Οι πυρηνικές αντιδράσεις συμβαίνει να μην αναφλέγουν την ατμόσφαιρα. Αλλά ο Bostrom πιστεύει ότι δεν ήμασταν αρκετά προσεκτικοί, πριν από τις πρώτες δοκιμές, για να είμαστε απολύτως σίγουροι για αυτό. Υπήρχαν μεγάλες τρύπες στην κατανόησή μας για το πώς λειτουργούσαν τα πυρηνικά όπλα όταν βιάσαμε να τα δοκιμάσουμε για πρώτη φορά. Ίσως την επόμενη φορά που θα αναπτύξουμε μια νέα, ισχυρή τεχνολογία, με μεγάλες τρύπες στην κατανόηση του τρόπου λειτουργίας της, δεν θα είμαστε τόσο τυχεροί.

Οι καταστροφικές τεχνολογίες μέχρι αυτό το σημείο ήταν εξαιρετικά περίπλοκες. Τα μελλοντικά θα μπορούσαν να είναι απλά.

Δεν έχουμε κάνει καλή δουλειά στη διαχείριση πυρηνική μη διάδοση . Ωστόσο, οι περισσότερες χώρες εξακολουθούν να μην έχουν πυρηνικά όπλα - και κανένα άτομο δεν έχει - λόγω του τρόπου με τον οποίο πρέπει να αναπτυχθούν πυρηνικά όπλα. Η κατασκευή πυρηνικών όπλων διαρκεί χρόνια, κοστίζει δισεκατομμύρια δολάρια και απαιτεί την τεχνογνωσία κορυφαίων επιστημόνων. Ως αποτέλεσμα, είναι δυνατό να πούμε πότε μια χώρα επιδιώκει πυρηνικά όπλα.

Ο Bostrom μας καλεί να φανταστούμε πώς θα είχαν πάει τα πράγματα αν τα πυρηνικά όπλα απαιτούσαν άφθονα στοιχεία, αντί για σπάνια.

Οι έρευνες έδειξαν ότι η κατασκευή ενός ατομικού όπλου απαιτεί αρκετά κιλά πλουτωνίου ή ουρανίου υψηλού εμπλουτισμού, τα οποία είναι πολύ δύσκολο και δαπανηρό να παραχθούν. Ωστόσο, ας υποθέσουμε ότι είχε αποδειχθεί διαφορετικά: ότι υπήρχε κάποιος πραγματικά εύκολος τρόπος για να απελευθερωθεί η ενέργεια του ατόμου - ας πούμε, στέλνοντας ένα ηλεκτρικό ρεύμα μέσω ενός μεταλλικού αντικειμένου τοποθετημένου ανάμεσα σε δύο φύλλα γυαλιού.

Σε αυτή την περίπτωση, το όπλο θα πολλαπλασιαζόταν όσο πιο γρήγορα γνωρίζαμε ότι ήταν δυνατό. Μπορεί να αντιδράσουμε προσπαθώντας να απαγορεύσουμε τη μελέτη της πυρηνικής φυσικής, αλλά είναι δύσκολο να απαγορεύσουμε ένα ολόκληρο πεδίο γνώσης και δεν είναι σαφές ότι η πολιτική βούληση θα υλοποιηθεί. Θα ήταν ακόμη πιο δύσκολο να προσπαθήσουμε να απαγορεύσουμε το γυαλί ή το ηλεκτρικό κύκλωμα - πιθανώς αδύνατο.

Από ορισμένες απόψεις, ήμασταν εξαιρετικά τυχεροί με τα πυρηνικά όπλα. Το γεγονός ότι βασίζονται σε εξαιρετικά σπάνια υλικά και είναι τόσο περίπλοκα και δαπανηρά στην κατασκευή τους καθιστά πολύ πιο εύκολο να τα αποτρέψουμε από τη χρήση τους απ' ό,τι θα ήταν αν τα υλικά για αυτά ήταν άφθονα.

Εάν οι μελλοντικές τεχνολογικές ανακαλύψεις —όχι στην πυρηνική φυσική, που τώρα καταλαβαίνουμε πολύ καλά, αλλά σε άλλα λιγότερο κατανοητά, κερδοσκοπικά πεδία— είναι πιο εύκολο να κατασκευαστούν, προειδοποιεί ο Bostrom, μπορεί να πολλαπλασιαστούν ευρέως.

Θα χρησιμοποιούσαν κάποιοι όπλα μαζικής καταστροφής, αν μπορούσαν;

Μπορεί να πιστεύουμε ότι η ύπαρξη απλών καταστροφικών όπλων δεν θα έπρεπε, από μόνη της, να είναι αρκετή για να μας ανησυχήσει. Οι περισσότεροι άνθρωποι δεν εμπλέκονται σε πράξεις τρομοκρατικής βίας, παρόλο που τεχνικά δεν θα ήταν πολύ δύσκολο. Ομοίως, οι περισσότεροι άνθρωποι δεν θα χρησιμοποιούσαν ποτέ επικίνδυνες τεχνολογίες ακόμα κι αν μπορούσαν να συναρμολογηθούν στο γκαράζ τους.

Ο Bostrom παρατηρεί, ωστόσο, ότι δεν χρειάζονται πολλοί άνθρωποι που θα ενεργούσαν καταστροφικά. Ακόμα κι αν μόνο ένας στους εκατομμύριο ανθρώπους ενδιαφερόταν να χρησιμοποιήσει μια εφεύρεση βίαια, αυτό θα μπορούσε να οδηγήσει σε καταστροφή. Και υποστηρίζει ότι θα υπάρχουν τουλάχιστον μερικοί τέτοιοι άνθρωποι: Δεδομένης της ποικιλομορφίας του ανθρώπινου χαρακτήρα και των περιστάσεων, για οποιαδήποτε τόσο ασύνετη, ανήθικη ή αυτοκαταστροφική ενέργεια, υπάρχει κάποιο υπόλοιπο κλάσμα ανθρώπων που θα επέλεγε να κάνει αυτή τη δράση .

Αυτό σημαίνει, υποστηρίζει, ότι οτιδήποτε τόσο καταστροφικό όσο ένα πυρηνικό όπλο, και αρκετά απλό που οι περισσότεροι άνθρωποι μπορούν να το κατασκευάσουν με ευρέως διαθέσιμη τεχνολογία, σχεδόν σίγουρα θα χρησιμοποιηθεί επανειλημμένα, οπουδήποτε στον κόσμο.

Αυτά δεν είναι τα μόνα σενάρια ενδιαφέροντος. Ο Bostrom εξετάζει επίσης τεχνολογίες που θα οδηγούσαν τα έθνη-κράτη σε πόλεμο. Μια τεχνολογία που «εκδημοκρατίζει» τη μαζική καταστροφή δεν είναι το μόνο είδος μαύρης μπάλας που θα μπορούσε να σηκωθεί έξω από το δοχείο. Ένα άλλο είδος θα ήταν μια τεχνολογία που δίνει ισχυρά κίνητρα σε ισχυρούς ηθοποιούς να χρησιμοποιήσουν τις δυνάμεις τους για να προκαλέσουν μαζική καταστροφή, γράφει.

Και πάλι, εξετάζει την ιστορία του πυρηνικού πολέμου για παραδείγματα. Υποστηρίζει ότι η πιο επικίνδυνη περίοδος στην ιστορία ήταν η περίοδος μεταξύ της έναρξης της κούρσας των πυρηνικών εξοπλισμών και της εφεύρεσης των δυνατοτήτων δεύτερου χτυπήματος, όπως τα πυρηνικά υποβρύχια. Με την εισαγωγή των δυνατοτήτων δεύτερου χτυπήματος, ο πυρηνικός κίνδυνος μπορεί να έχει μειωθεί.

Πιστεύεται ευρέως μεταξύ των πυρηνικών στρατηγικών ότι η ανάπτυξη μιας εύλογα ασφαλούς ικανότητας δεύτερου χτυπήματος και από τις δύο υπερδυνάμεις μέχρι τα μέσα της δεκαετίας του 1960 δημιούργησε τις προϋποθέσεις για στρατηγική σταθερότητα. Πριν από αυτήν την περίοδο, τα αμερικανικά πολεμικά σχέδια αντικατόπτριζαν μια πολύ μεγαλύτερη τάση, σε οποιαδήποτε κατάσταση κρίσης, να εξαπολύσουν ένα προληπτικό πυρηνικό χτύπημα κατά του πυρηνικού οπλοστασίου της Σοβιετικής Ένωσης. Η εισαγωγή πυρηνικών υποβρυχίων ICBM θεωρήθηκε ότι ήταν ιδιαίτερα χρήσιμη για τη διασφάλιση δυνατοτήτων δεύτερου χτυπήματος (και επομένως αμοιβαία εξασφαλισμένης καταστροφής), καθώς πιστεύεται ευρέως ότι ήταν πρακτικά αδύνατο για έναν επιτιθέμενο να εξαλείψει τον στόλο του αντιπάλου. αρχική επίθεση.

Σε αυτήν την περίπτωση, μια τεχνολογία μας έφερε σε μια επικίνδυνη κατάσταση με μεγάλες δυνάμεις με υψηλά κίνητρα να χρησιμοποιήσουν τα όπλα τους. Μια άλλη τεχνολογία - η ικανότητα να ανταποκρινόμαστε - μας έφερε έξω από αυτή την τρομερή κατάσταση και σε μια πιο σταθερή κατάσταση. Αν δεν είχαν αναπτυχθεί πυρηνικά υποβρύχια, τα πυρηνικά όπλα θα μπορούσαν να είχαν χρησιμοποιηθεί τον τελευταίο μισό αιώνα περίπου.

Οι λύσεις για έναν ευάλωτο κόσμο δεν είναι ελκυστικές — και ίσως αναποτελεσματικές

Η Bostrom αφιερώνει το δεύτερο μισό της εργασίας στην εξέταση των επιλογών μας για τη διατήρηση της σταθερότητας, εάν αποδειχθεί ότι υπάρχουν επικίνδυνες τεχνολογίες μπροστά μας.

Κανένα από αυτά δεν είναι ελκυστικό.

Η ανάσχεση της προόδου της τεχνολογίας θα μπορούσε να μας σώσει από το να αντιμετωπίσουμε οποιοδήποτε από αυτά τα προβλήματα. Ο Bostrom το θεωρεί και το απορρίπτει ως αδύνατο - ορισμένες χώρες ή παράγοντες θα συνέχιζαν την έρευνά τους, με μυστικότητα, εάν χρειαζόταν, και η οργή και η αντίδραση που συνδέονται με την απαγόρευση ενός επιστημονικού πεδίου μπορεί να τραβήξουν περισσότερη προσοχή στην απαγόρευση.

Μια περιορισμένη παραλλαγή, την οποία ο Bostrom ονομάζει διαφορική τεχνολογική ανάπτυξη, μπορεί να είναι πιο εφαρμόσιμη: Επιβράδυνση της ανάπτυξης επικίνδυνων και επιβλαβών τεχνολογιών, ειδικά τεχνολογιών που αυξάνουν το επίπεδο του υπαρξιακού κινδύνου. και να επιταχύνουν την ανάπτυξη ωφέλιμων τεχνολογιών, ιδίως εκείνων που μειώνουν τους υπαρξιακούς κινδύνους που θέτει η φύση ή άλλες τεχνολογίες.

Στο βαθμό που μπορούμε να προσδιορίσουμε ποιες τεχνολογίες θα είναι σταθεροποιητικές (όπως τα πυρηνικά υποβρύχια) και να εργαστούμε για την κατασκευή τους πιο γρήγορα από την κατασκευή επικίνδυνων τεχνολογιών (όπως τα πυρηνικά όπλα), μπορούμε να διαχειριστούμε ορισμένους κινδύνους με αυτόν τον τρόπο. Παρά τον τρομακτικό τόνο και τις επιπτώσεις της εφημερίδας, ο Bostrom γράφει ότι [η υπόθεση του ευάλωτου κόσμου] δεν υπονοεί ότι ο πολιτισμός είναι καταδικασμένος. Αλλά η διαφορική τεχνολογική ανάπτυξη δεν θα διαχειριστεί κάθε κίνδυνο και μπορεί να αποτύχει να είναι επαρκής για πολλές κατηγορίες κινδύνου.

Οι άλλες επιλογές που προτείνει η Bostrom είναι λιγότερο ελκυστικές.

Εάν η εγκληματική χρήση μιας καταστροφικής τεχνολογίας μπορεί να σκοτώσει εκατομμύρια ανθρώπους, τότε η πρόληψη του εγκλήματος είναι απαραίτητη - και η πλήρης πρόληψη του εγκλήματος θα απαιτούσε ένα κράτος μαζικής επιτήρησης. Εάν οι διεθνείς κούρσες εξοπλισμών είναι πιθανό να είναι ακόμη πιο επικίνδυνοι από τον πυρηνικό βραχίονα του Ψυχρού Πολέμου, ο Bostrom υποστηρίζει ότι μπορεί να χρειαστούμε μια ενιαία παγκόσμια κυβέρνηση με την εξουσία να επιβάλλει τις απαιτήσεις στα κράτη μέλη.

Για ορισμένα τρωτά σημεία, υποστηρίζει περαιτέρω, μπορεί να χρειαζόμαστε και τα δύο:

Θα απαιτηθεί εξαιρετικά αποτελεσματική προληπτική αστυνόμευση, επειδή τα άτομα μπορούν να συμμετέχουν σε δραστηριότητες που είναι δύσκολο να ρυθμιστούν, οι οποίες ωστόσο πρέπει να ρυθμιστούν αποτελεσματικά και θα απαιτηθεί ισχυρή παγκόσμια διακυβέρνηση επειδή τα κράτη μπορεί να έχουν κίνητρα δεν να ρυθμίζουν αποτελεσματικά αυτές τις δραστηριότητες ακόμη κι αν έχουν τη δυνατότητα να το κάνουν. Σε συνδυασμό, ωστόσο, η πανταχού παρούσα προληπτική αστυνόμευση και η αποτελεσματική παγκόσμια διακυβέρνηση θα ήταν επαρκής για να σταθεροποιήσουν τα περισσότερα τρωτά σημεία, καθιστώντας ασφαλή τη συνέχιση της επιστημονικής και τεχνολογικής ανάπτυξης ακόμα κι αν [η υπόθεση του ευάλωτου κόσμου] είναι αληθινή.

Εδώ, όπου η συζήτηση στρέφεται από τη φιλοσοφία στην πολιτική, μου φαίνεται ότι το επιχείρημα του Μπόστρομ γίνεται πιο αδύναμο.

Ενώ έχει επίγνωση των καταχρήσεων εξουσίας που θα έκανε δυνατή ένα τέτοιο κράτος καθολικής επιτήρησης, η συνολική του άποψη είναι πιο αισιόδοξη από ό,τι φαίνεται δικαιολογημένη. Γράφει, για παράδειγμα, εάν το σύστημα λειτουργεί όπως διαφημίζεται, πολλές μορφές εγκληματικότητας θα μπορούσαν σχεδόν να εξαλειφθούν, με συνακόλουθες μειώσεις στο κόστος της αστυνόμευσης, των δικαστηρίων, των φυλακών και άλλων συστημάτων ασφαλείας. Μπορεί επίσης να δημιουργήσει ανάπτυξη σε πολλές ευεργετικές πολιτιστικές πρακτικές που επί του παρόντος εμποδίζονται από την έλλειψη κοινωνικής εμπιστοσύνης.

Αλλά είναι δύσκολο να φανταστεί κανείς ότι η καθολική επιτήρηση θα παρήγαγε στην πραγματικότητα καθολική και ομοιόμορφη επιβολή του νόμου, ειδικά σε μια χώρα όπως οι ΗΠΑ. Η επιτήρηση δεν θα έλυνε τη διακριτική ευχέρεια της εισαγγελίας ή την ποινικοποίηση πραγμάτων που δεν θα έπρεπε να είναι παράνομα εξαρχής. Το μεγαλύτερο μέρος του παγκόσμιου πληθυσμού ζει υπό κυβερνήσεις χωρίς ισχυρή προστασία για πολιτική ή θρησκευτική ελευθερία. Η αισιοδοξία του Μπόστρομ εδώ δεν ακούγεται.

Επιπλέον, οι περισσότερες χώρες στον κόσμο απλά δεν έχουν την ικανότητα διακυβέρνησης να διοικούν ένα κράτος επιτήρησης και δεν είναι σαφές ότι οι ΗΠΑ ή άλλη υπερδύναμη έχει τη δυνατότητα να επιβάλει τέτοια ικανότητα εξωτερικά (για να μην πω τίποτα για το αν θα ήταν επιθυμητό).

Εάν η συνεχιζόμενη επιβίωση της ανθρωπότητας εξαρτιόταν από την επιτυχή επιβολή της παγκόσμιας επιτήρησης, θα περίμενα η προσπάθεια να οδηγήσει σε καταστροφικές ακούσιες συνέπειες – όπως έχουν ιστορικά οι προσπάθειες για την οικοδόμηση του έθνους. Ακόμη και στα μέρη όπου επιβλήθηκε επιτυχώς ένα τέτοιο σύστημα, θα περίμενα έναν υπερφορολογημένο μηχανισμό επιβολής του νόμου που να ασχολείται εξίσου, ή περισσότερο, σε επιλεκτική επιβολή με αυτήν που δραστηριοποιείται σήμερα.

Ο οικονομολόγος Robin Hanson, απαντώντας στην εφημερίδα , τόνισε την αισιοδοξία του Bostrom για την παγκόσμια διακυβέρνηση ως αδύναμο σημείο, προκαλώντας μια σειρά αντιρρήσεων. Πρώτον, είναι καλό για τον Bostrom να αναζητά ανοδικά που δεν έχουν ακόμη εκτιμηθεί [περισσότερης διακυβέρνησης], αλλά θα πρέπει επίσης να αναζητήσουμε αρνητικά που δεν έχουν ακόμη εκτιμηθεί — μειονεκτήματα όπως η εισαγωγή ενός μόνο σημείου αποτυχίας και η μείωση του υγιούς ανταγωνισμού μεταξύ πολιτικών συστημάτων και ιδεών.

Δεύτερον, γράφει ο Hanson, ανησυχώ ότι «οι κακές περιπτώσεις κάνουν κακό νόμο.» Οι νομικοί ειδικοί λένε ότι είναι κακό να επικεντρωνόμαστε σε ακραίες περιπτώσεις όταν αλλάζουμε νόμο, και παρομοίως μπορεί πάει άσχημα να επικεντρωθεί σε πολύ απίθανα αλλά ακραία σενάρια κατά το σκεπτικό σχετικά με την πολιτική που σχετίζεται με το μέλλον.

Τέλος, οι υφιστάμενοι μηχανισμοί διακυβέρνησης τα καταφέρνουν ιδιαίτερα με ακραία σενάρια. Η ιστορία του πώς απάντησε ο κόσμος της πολιτικής κακώς σε ακραία σενάρια νανοτεχνολογίας είναι μια περίπτωση που αξίζει να εξεταστεί.

Το έγγραφο του Bostrom είναι ισχυρότερο όταν επικεντρώνεται στο ζήτημα της διαχείρισης καταστροφικών κινδύνων παρά όταν επιχειρεί να ασχοληθεί με αυτά τα ζητήματα. Τα ερωτήματα πολιτικής σχετικά με τη διαχείριση κινδύνων είναι τέτοιας πολυπλοκότητας που είναι αδύνατο για την εφημερίδα να κάνει κάτι περισσότερο από το να περιγράψει το θέμα.

Όμως, παρόλο που το χαρτί αμφιταλαντεύεται, είναι γενικά μια συναρπαστική - και τρομακτική - περίπτωση ότι η τεχνολογική πρόοδος μπορεί να κάνει έναν πολιτισμό τρομακτικά ευάλωτο και ότι θα ήταν ένα εξαιρετικά δύσκολο έργο να γίνει ένας τέτοιος κόσμος ασφαλής.


Εγγραφείτε στο ενημερωτικό δελτίο Future Perfect. Δύο φορές την εβδομάδα, θα λαμβάνετε μια συλλογή ιδεών και λύσεων για την αντιμετώπιση των μεγαλύτερων προκλήσεών μας: βελτίωση της δημόσιας υγείας, μείωση της ταλαιπωρίας των ανθρώπων και των ζώων, μείωση των καταστροφικών κινδύνων και —για να το θέσω απλά— βελτίωση στο να κάνουμε καλό