Υπάρχει πραγματικός κίνδυνος η Τεχνητή Νοημοσύνη να οδηγήσει κάποια στιγμή στην καταστροφή της ανθρωπότητας; Ο καθηγητής AI Toby Walsh εξετάζει στον Guardian πέντε πιθανά σενάρια, από την ανεξέλεγκτη δράση μιας υπερέξυπνης AI μέχρι την κοινωνική κατάρρευση. Ο ίδιος, πάντως, σημειώνει ότι δεν υπάρχει λόγος για υπερβολικό πανικό.
Ο Walsh ξεκινά από πρόσφατες δηλώσεις ερευνητών της AI, σύμφωνα με τις οποίες η πιθανότητα η τεχνολογία να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία δεν είναι αμελητέα. Το ερώτημα, επομένως, είναι με ποιον τρόπο θα μπορούσε να συμβεί κάτι τέτοιο.
1. Δεν θα μπορούμε καν να προβλέψουμε τι θα κάνει
Το πρώτο και πιο αόριστο σενάριο αφορά μια πραγματικά «υπερέξυπνη» AI, με δυνατότητες που ξεπερνούν την ανθρώπινη νοημοσύνη σε όλους τους τομείς.
Όπως επισημαίνει ο Walsh, είναι εξαιρετικά δύσκολο για τον άνθρωπο να προβλέψει τις ενέργειες μιας νοημοσύνης που θα είναι πολύ ανώτερη από τη δική του. Ωστόσο, υπογραμμίζει ότι τα σημερινά μοντέλα AI, όσο ισχυρά και αν είναι, δεν αποτελούν ακόμη υπερέξυπνη νοημοσύνη.
2. Το σενάριο με τους «συνδετήρες»
Ένα κλασικό υποθετικό παράδειγμα, γνωστό ως «paperclip maximiser», προέρχεται από τον φιλόσοφο του Oxford Νικ Μπόστρουμ.
Μια υπερέξυπνη AI θα μπορούσε να λάβει ως στόχο τη μεγιστοποίηση της παραγωγής συνδετήρων και να τον εκτελέσει χωρίς να λαμβάνει υπόψη την ανθρώπινη επιβίωση. Σε ένα ακραίο σενάριο, θα μετέτρεπε κάθε διαθέσιμη ύλη — ακόμη και ανθρώπους, πλανήτες και άστρα — σε υλικό για την παραγωγή συνδετήρων.
Ο Walsh θεωρεί, ωστόσο, ότι το παράδειγμα συγχέει τη νοημοσύνη με την πραγματική ισχύ. Ακόμη και μια εξαιρετικά έξυπνη AI θα έπρεπε να ξεπεράσει τους περιορισμούς και τις αντιδράσεις του πραγματικού κόσμου.
3. Η δημιουργία ενός βιολογικού όπλου
Ένα πιο συγκεκριμένο ενδεχόμενο θα ήταν μια υπερέξυπνη AI να σχεδιάσει και να βοηθήσει στην παραγωγή ενός νέου, ιδιαίτερα επικίνδυνου βιολογικού όπλου.
Ο Walsh παραπέμπει σε σενάρια στα οποία η AI θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία και απελευθέρωση ενός παθογόνου που θα εξαπλωνόταν σε ολόκληρο τον κόσμο. Αναφέρει επίσης πρόσφατο πείραμα στο οποίο ερευνητές χρησιμοποίησαν μοντέλο AI για τη σύνθεση νέων ιών.
Ωστόσο, επισημαίνει ότι η εξόντωση ολόκληρης της ανθρωπότητας από έναν νέο ιό είναι εξαιρετικά δύσκολη. Υπάρχει ένας βασικός βιολογικός περιορισμός: οι ιοί που μεταδίδονται πολύ εύκολα τείνουν να είναι λιγότερο θανατηφόροι, ενώ οι ιδιαίτερα θανατηφόροι ιοί συχνά μεταδίδονται δυσκολότερα.
4. Η AI προκαλεί πυρηνικό πόλεμο
Ένα ακόμη σενάριο είναι η AI να αποκτήσει πρόσβαση σε συστήματα που σχετίζονται με τη διοίκηση και τον έλεγχο πυρηνικών όπλων και να οδηγήσει σε πυρηνική σύγκρουση.
Ο Walsh υπενθυμίζει ότι ο κόσμος έχει βρεθεί αρκετές φορές κοντά σε πυρηνικό πόλεμο από λάθος. Παράλληλα, επισημαίνει ότι συστήματα AI θα μπορούσαν να παρέχουν στον στρατό ψευδείς ή παραπλανητικές πληροφορίες, οι οποίες θα οδηγούσαν σε αποφάσεις με μη αναστρέψιμες συνέπειες.
Ακόμη και χωρίς να καταστραφεί άμεσα ο πλανήτης από τις πυρηνικές εκρήξεις, οι συνέπειες ενός πυρηνικού χειμώνα και της επακόλουθης πείνας θα μπορούσαν να είναι τεράστιες.
5. Ο μεγαλύτερος κίνδυνος μπορεί να είμαστε εμείς
Το πέμπτο σενάριο είναι, σύμφωνα με τον Walsh, ίσως το πιο πιθανό: η AI να μην καταστρέψει άμεσα την ανθρωπότητα, αλλά να επιταχύνει την αυτοκαταστροφή της.
Μαζικές απώλειες θέσεων εργασίας, παραπληροφόρηση, πόλωση και διάλυση των κοινωνικών δεσμών θα μπορούσαν να προκαλέσουν σταδιακή αποσταθεροποίηση της κοινωνίας. Σε ακραία περίπτωση, η κοινωνική συνοχή θα μπορούσε να διαλυθεί σε τέτοιο βαθμό ώστε οι άνθρωποι να μην είναι πλέον σε θέση να διατηρήσουν τις απαραίτητες δομές για την επιβίωσή τους.
Ο καθηγητής καταλήγει ότι υπάρχουν λόγοι για σοβαρό προβληματισμό, αλλά όχι απαραίτητα για πανικό.
