Η εποχή των αυτόνομων κυβερνοεπιθέσεων με τη χρήση τεχνητής νοημοσύνης έχει φτάσει, προειδοποιεί η Google, επισημαίνοντας ότι κακόβουλοι παράγοντες αξιοποιούν πλέον συστήματα AI που μπορούν να αναλαμβάνουν ολοένα περισσότερα στάδια μιας επίθεσης, με ελάχιστη ή και καθόλου ανθρώπινη παρέμβαση.
«Φανταστείτε έναν χάκερ που δεν τρώει, δεν κοιμάται, δεν κουράζεται ποτέ και δεν σταματά ποτέ να αναζητά τρόπο εισβολής», αναφέρει χαρακτηριστικά η Google Threat Intelligence Group (GTIG), περιγράφοντας τη νέα πραγματικότητα στον χώρο της κυβερνοασφάλειας.
Σύμφωνα με την τελευταία έκθεση AI Threat Tracker, οι επιτιθέμενοι χρησιμοποιούν αυτόνομα πλαίσια μεγάλων γλωσσικών μοντέλων (LLM), τα οποία μπορούν να παρακολουθούν διαρκώς ενημερώσεις λογισμικού, να εντοπίζουν ποια κενά ασφαλείας διορθώθηκαν και να δημιουργούν επιθέσεις που επιχειρούν να εκμεταλλευτούν συστήματα τα οποία δεν έχουν ακόμη ενημερωθεί.
Τι σημαίνει το «Επίπεδο 5» στις κυβερνοεπιθέσεις
Οι αναλυτές της Google εκτιμούν ότι η απειλή έχει φτάσει στο «Επίπεδο 5». Σε αυτό το στάδιο, τα μοντέλα τεχνητής νοημοσύνης μπορούν να εκτελούν πολλαπλές φάσεις μιας κυβερνοεπίθεσης, από την προετοιμασία έως την προσπάθεια παραβίασης, με τη συμμετοχή τουλάχιστον ενός ανθρώπινου χειριστή.
Η εξέλιξη αυτή σηματοδοτεί τη μετάβαση από τη χρήση της AI ως απλού βοηθητικού εργαλείου σε συστήματα που αναλαμβάνουν αυτόνομα σύνθετες επιχειρησιακές διαδικασίες.
Η GTIG καταγράφει, παράλληλα, αυξανόμενη αξιοποίηση της τεχνητής νοημοσύνης σε επιχειρήσεις κυβερνοκατασκοπείας, αλλά και επιθέσεις που επηρεάζουν την εφοδιαστική αλυσίδα λογισμικού.
Γιατί οι παλιές αδυναμίες γίνονται μεγαλύτερη απειλή
Ο Τζον Χάλτκουιστ, επικεφαλής αναλυτής της GTIG, επισημαίνει ότι οι επιθέσεις δεν βασίζονται απαραίτητα σε εντελώς νέες ή πρωτοποριακές τεχνικές. Αντίθετα, αξιοποιούν γνωστά προβλήματα ασφαλείας που δεν έχουν διορθωθεί, αλλά πλέον με πολύ μεγαλύτερη ταχύτητα και σε πολύ μεγαλύτερη κλίμακα.
Η δυνατότητα αυτοματοποίησης επιτρέπει στους επιτιθέμενους να εξετάζουν μαζικά συστήματα και εφαρμογές, περιορίζοντας τον χρόνο που διαθέτουν οι οργανισμοί για να εγκαταστήσουν ενημερώσεις και να προστατεύσουν τις υποδομές τους.
Όπως προειδοποιεί ο Χάλτκουιστ, οι αμυνόμενοι θα πρέπει να υιοθετήσουν αντίστοιχα αυτόνομες προσεγγίσεις στην κυβερνοασφάλεια, διαφορετικά κινδυνεύουν να μείνουν πίσω.
Η απάντηση της Google με το AI Threat Defense
Απέναντι στην αυξανόμενη απειλή, η Google παρουσιάζει το Google AI Threat Defense, ένα σύστημα που συνδυάζει διαφορετικές τεχνολογίες και εργαλεία για τον εντοπισμό και την αντιμετώπιση ευπαθειών.
Σύμφωνα με την εταιρεία, η λύση αξιοποιεί τα μοντέλα Gemini και άλλα προηγμένα μοντέλα τεχνητής νοημοσύνης, την ανάλυση και ιεράρχηση κινδύνων της Wiz, τις δυνατότητες αυτόματης διόρθωσης κενών ασφαλείας του CodeMender, καθώς και την τεχνογνωσία της Mandiant.
Στόχος είναι ο συνεχής εντοπισμός και η επιδιόρθωση αδυναμιών πριν προλάβουν να τις εκμεταλλευτούν κακόβουλοι χρήστες.
Η Google αναφέρει επίσης ότι η αμυντική της στρατηγική περιλαμβάνει δικλείδες ασφαλείας και πρωτόκολλα περιορισμού, με σκοπό την προστασία των πελατών και των υπολογιστικών υποδομών.
Οι ανησυχίες για την ανεξέλεγκτη εξέλιξη της AI
Οι προειδοποιήσεις για τους κινδύνους των αυτόνομων συστημάτων τεχνητής νοημοσύνης εντείνονται, καθώς έχουν καταγραφεί περιστατικά κυβερνοεπιθέσεων, επιτυχημένων και μη, που αξιοποιούν προηγμένα μοντέλα.
Μεταξύ αυτών περιλαμβάνεται η παραβίαση της πλατφόρμας Hugging Face τον Ιούλιο, ένα περιστατικό που, σύμφωνα με το δημοσίευμα, συνδέθηκε με μοντέλα της OpenAI τα οποία φέρεται να ξέφυγαν από τον έλεγχο των ανθρώπινων εντολών.
Η υπόθεση οδήγησε σε νομικές κινήσεις από τον γενικό εισαγγελέα της Καλιφόρνια, Ρομπ Μπόντα, ο οποίος άσκησε αγωγή κατά της OpenAI, διατυπώνοντας κατηγορίες σχετικά με την ασφάλεια και τη διαφάνεια. Η εταιρεία απάντησε παραπέμποντας στην τεχνική της έκθεση για το περιστατικό.
Την ίδια στιγμή, ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς, είχε προειδοποιήσει τον Σεπτέμβριο ότι η διεθνής συνεργασία για τον περιορισμό των κινδύνων της τεχνητής νοημοσύνης ενδέχεται να αποδειχθεί δυσκολότερη ακόμη και από τις διαπραγματεύσεις ΗΠΑ και Σοβιετικής Ένωσης για τον πυρηνικό αφοπλισμό.
Το βασικό ερώτημα που αναδεικνύεται πλέον είναι αν οι μηχανισμοί κυβερνοάμυνας θα μπορέσουν να εξελιχθούν με την ίδια ταχύτητα που εξελίσσονται τα εργαλεία των επιτιθέμενων.

