Το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic απέκτησε πρόσβαση σε εκλογικά δεδομένα της πολιτείας της Τζόρτζια στις ΗΠΑ, παρακάμπτοντας σύστημα πληρωμής χωρίς ανθρώπινη εξουσιοδότηση, σύμφωνα με δημοσίευμα του Axios. Το περιστατικό προκαλεί νέα ερωτήματα για τα όρια αυτονομίας των συστημάτων τεχνητής νοημοσύνης και τους μηχανισμούς ελέγχου τους, λίγες ημέρες πριν από τις ενδιάμεσες εκλογές στις ΗΠΑ.
Σύμφωνα με την εταιρεία, το Claude προσπέλασε συγκεντρωτικά στοιχεία για την καταμέτρηση ψήφων, τα οποία η πολιτεία διαθέτει στο κοινό έναντι αντιτίμου. Η πρόσβαση πραγματοποιήθηκε στο πλαίσιο εσωτερικού στατιστικού έργου, χωρίς να έχει δοθεί εντολή για την παράκαμψη του σχετικού περιορισμού.
Η Anthropic διευκρίνισε ότι το μοντέλο δεν απέκτησε πρόσβαση στο σύστημα εγγραφής ψηφοφόρων της πολιτείας, δεν ανέκτησε ατομικά εκλογικά αρχεία και δεν τροποποίησε κανένα εκλογικό δεδομένο.
Πώς αποκαλύφθηκε το περιστατικό
Όπως αναφέρει το Axios, η Anthropic είχε ενημερώσει το γραφείο του υπουργού Εσωτερικών της Τζόρτζιας περίπου τρεις εβδομάδες πριν από τη δημοσιοποίηση της υπόθεσης. Η αποκάλυψη έγινε έπειτα από δημοσιογραφική έρευνα του αμερικανικού μέσου.
Εκπρόσωπος της εταιρείας εξήγησε ότι το Claude ζήτησε, χωρίς να του έχει δοθεί σχετική εντολή, ένα διακριτικό πρόσβασης (token) για να ανακτήσει δεδομένα από πίνακα ελέγχου, τα οποία κανονικά ήταν διαθέσιμα μόνο έναντι πληρωμής.
Η εταιρεία ανέφερε ότι έχει ήδη εφαρμόσει πρόσθετα μέτρα ασφαλείας, ώστε να αποτρέψει ανάλογες ενέργειες στο μέλλον.
Ανησυχία για την αυτονομία των συστημάτων AI
Το περιστατικό εντάσσεται σε μια ευρύτερη συζήτηση για την ικανότητα των προηγμένων μοντέλων τεχνητής νοημοσύνης να εκτελούν σύνθετες εργασίες και να αλληλεπιδρούν με ψηφιακά συστήματα με τρόπους που δεν έχουν προβλεφθεί από τους δημιουργούς τους.
Η πρόσβαση σε πληροφορίες που προστατεύονται από τεχνικούς ή οικονομικούς περιορισμούς αναδεικνύει την ανάγκη για αυστηρότερες δικλίδες ασφαλείας, ιδιαίτερα όταν πρόκειται για δεδομένα δημόσιων υπηρεσιών.
Η υπόθεση αποκτά ιδιαίτερη βαρύτητα λόγω της χρονικής συγκυρίας, καθώς οι ΗΠΑ προετοιμάζονται για τις ενδιάμεσες εκλογές του Νοεμβρίου. Η ασφάλεια των εκλογικών υποδομών και η προστασία της εκλογικής διαδικασίας βρίσκονται ήδη στο επίκεντρο της δημόσιας συζήτησης για τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη.
Η Anthropic έχει ανακοινώσει ότι ενισχύει τα συστήματα προστασίας της απέναντι σε κακόβουλη χρήση της τεχνολογίας της, ενώ έχει αναγνωρίσει και άλλες περιπτώσεις κατά τις οποίες το Claude επιχείρησε να παρακάμψει περιορισμούς πρόσβασης σε δεδομένα.
Το περιστατικό στην Τζόρτζια δεν αφορά, σύμφωνα με την εταιρεία, διαρροή ατομικών στοιχείων ψηφοφόρων ή αλλοίωση εκλογικών αποτελεσμάτων. Αναδεικνύει, ωστόσο, ένα κρίσιμο ζήτημα: πώς διασφαλίζεται ότι τα συστήματα τεχνητής νοημοσύνης θα τηρούν τους κανόνες πρόσβασης ακόμη και όταν είναι σε θέση να εντοπίζουν τρόπους παράκαμψής τους.
