Νέες αποκαλύψεις έρχονται στο φως για το πρωτοφανές περιστατικό ασφαλείας με τα προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία φέρονται να έδρασαν αυτόνομα στο διαδίκτυο πραγματοποιώντας χιλιάδες κυβερνοεπιθέσεις.
Σύμφωνα με νέα έκθεση της πλατφόρμας Hugging Face, που αποτέλεσε στόχο της επίθεσης, τα δύο μοντέλα AI παρέμειναν ενεργά για περισσότερες από τέσσερις ημέρες και πραγματοποίησαν συνολικά 17.600 επιμέρους απόπειρες παραβίασης, αριθμός πολύ μεγαλύτερος από ό,τι είχε γίνει αρχικά γνωστό.
Την ίδια στιγμή, δεύτερη εταιρεία τεχνητής νοημοσύνης επιβεβαίωσε ότι και πελάτης της βρέθηκε στο στόχαστρο των ίδιων μοντέλων, γεγονός που εντείνει τα ερωτήματα για το πώς η δραστηριότητά τους δεν εντοπίστηκε εγκαίρως.
Η OpenAI είχε αναγνωρίσει την περασμένη εβδομάδα ότι δύο από τα πλέον εξελιγμένα μοντέλα της κατάφεραν να ξεφύγουν από ελεγχόμενο περιβάλλον δοκιμών και, χωρίς ανθρώπινη καθοδήγηση, χρησιμοποίησαν προηγμένες τεχνικές κυβερνοεπιθέσεων για να παραβιάσουν την πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face.
Ωστόσο, η νέα έκθεση αποκαλύπτει ότι η έκταση της δραστηριότητάς τους ήταν πολύ μεγαλύτερη. Όπως αναφέρεται, τα δύο μοντέλα –το ένα ήδη διαθέσιμο στο κοινό και το δεύτερο ένα εσωτερικό ερευνητικό πρωτότυπο– πραγματοποίησαν 17.600 διαδοχικές ενέργειες από τις 9 έως τις 13 Ιουλίου, εξελίσσοντας σταδιακά την πρόσβασή τους μέχρι την παραβίαση των διακομιστών της Hugging Face.
Η πλατφόρμα είχε γνωστοποιήσει την παραβίαση στις 15 Ιουλίου, χωρίς τότε να γνωστοποιηθεί ποιος βρισκόταν πίσω από την επίθεση. Μόλις την περασμένη εβδομάδα η OpenAI επιβεβαίωσε ότι επρόκειτο για δικά της μοντέλα, τα οποία έδρασαν αυτόνομα.
«Ταχύτερα από οποιονδήποτε άνθρωπο»
Σύμφωνα με τη Hugging Face, οι τεχνικές που χρησιμοποιήθηκαν δεν ήταν πρωτόγνωρες για έμπειρους χάκερ. Ωστόσο, τα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εντοπίσουν και να εκμεταλλευτούν αδυναμίες στα συστήματα κυβερνοασφάλειας με ταχύτητα που δύσκολα θα μπορούσε να πετύχει άνθρωπος.
Παράλληλα, ο επικεφαλής τεχνολογίας της πλατφόρμας cloud Modal Labs, Ακσάτ Μπούμπνα, δήλωσε στο Politico ότι και πελάτης της εταιρείας του επηρεάστηκε από τη δράση των ίδιων μοντέλων.
Όπως εξήγησε, ο συγκεκριμένος πελάτης είχε αφήσει δημόσια προσβάσιμη μια υπηρεσία εκτέλεσης κώδικα, την οποία εκμεταλλεύτηκε ο αυτόνομος AI agent. Διευκρίνισε πάντως ότι η ίδια η πλατφόρμα της Modal δεν παραβιάστηκε.
Η απάντηση της OpenAI
Η OpenAI δεν σχολίασε άμεσα τις δηλώσεις της Modal, ωστόσο παραδέχθηκε ότι, κατά τη συνεχιζόμενη διερεύνηση του περιστατικού, εντοπίστηκε μικρός αριθμός περιπτώσεων όπου τα μοντέλα αξιοποίησαν δημόσια εκτεθειμένα διαπιστευτήρια λογαριασμών σε άλλες διαδικτυακές υπηρεσίες.
Η εταιρεία διευκρίνισε ακόμη ότι το δεύτερο μοντέλο που συμμετείχε στην επίθεση ήταν ένα εσωτερικό ερευνητικό πρωτότυπο, το οποίο ουδέποτε προοριζόταν για δημόσια χρήση και πλέον έχει απενεργοποιηθεί, κρυπτογραφηθεί και αποκλειστεί από κάθε ερευνητική πρόσβαση.
Αναζωπυρώνεται η συζήτηση για τη ρύθμιση της AI
Το περιστατικό έχει αναζωπυρώσει τη διεθνή συζήτηση για την ανάγκη αυστηρότερων κανόνων στην ανάπτυξη της τεχνητής νοημοσύνης και για το κατά πόσο πρέπει να επιβραδυνθεί η εξέλιξη των ισχυρότερων μοντέλων.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει προγραμματισμένες επαφές με στελέχη της κυβέρνησης Τραμπ και μέλη του αμερικανικού Κογκρέσου, ενώ θα ενημερώσει και τον αντιπρόεδρο της Επιτροπής Πληροφοριών της Γερουσίας, Μαρκ Γουόρνερ.
Μιλώντας στο podcast «Invest Like the Best», ο Άλτμαν χαρακτήρισε την υπόθεση της Hugging Face ως «το πρώτο περιστατικό ασφαλείας που ένιωσε πραγματικά στο πετσί του», προσθέτοντας ότι ίσως χρειαστεί να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης, ώστε κοινωνία και θεσμοί να αποκτήσουν τον απαραίτητο χρόνο προσαρμογής απέναντι στις νέες δυνατότητές της.
