Μια σαφή διαφοροποίηση από την προσέγγιση της Anthropic για τη ρύθμιση της τεχνητής νοημοσύνης εξέφρασε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, υποστηρίζοντας ότι η κοινωνία θα πρέπει να αποδεχθεί ορισμένους κινδύνους προκειμένου να αξιοποιήσει τα οφέλη της τεχνολογίας.
Σε αποκλειστική συνέντευξή του στο ψηφιακό newsletter του Politico, Decoded, ο Άλτμαν μίλησε για τη «θεμελιώδη διαφορά» στην προσέγγιση της OpenAI και της ανταγωνίστριας Anthropic όσον αφορά το ρυθμιστικό πλαίσιο της τεχνητής νοημοσύνης.
Όπως ανέφερε, η OpenAI θεωρεί ότι η AI θα πρέπει να παραμείνει ευρέως προσβάσιμη, ακόμη και αν αυτό σημαίνει ότι θα υπάρξουν ορισμένες αρνητικές συνέπειες.
«Πιστεύω ότι υπάρχει μεγάλη απόσταση μεταξύ των δύο προσεγγίσεων», ανέφερε χαρακτηριστικά.
«Θα συμβούν και ορισμένα δυσάρεστα γεγονότα»
Ερωτηθείς για τις διαφορές του με τον διευθύνοντα σύμβουλο της Anthropic, Ντάριο Αμοντέι, ο Άλτμαν υποστήριξε ότι η κοινωνία θα πρέπει να αποδεχθεί πως ορισμένοι κίνδυνοι είναι αναπόφευκτοι.
«Πιστεύουμε ότι ο κόσμος πρέπει να αποδεχθεί ότι θα συμβούν και ορισμένα δυσάρεστα γεγονότα, προκειμένου να καρπωθεί τα οφέλη αυτής της τεχνολογίας και να διατηρήσει ο κόσμος τον έλεγχο των επιλογών του», δήλωσε.
Η Anthropic θεωρείται εδώ και χρόνια μία από τις εταιρείες του κλάδου που υποστηρίζουν πιο ενεργά την επιβολή αυστηρότερων κανόνων για τα προηγμένα μοντέλα τεχνητής νοημοσύνης.
Ωστόσο, οι διαφορές μεταξύ των δύο εταιρειών έχουν περιοριστεί τους τελευταίους μήνες, καθώς η OpenAI έχει επίσης ταχθεί υπέρ αυστηρότερων μέτρων ασφαλείας, ενώ βρίσκεται αντιμέτωπη με περιστατικά κυβερνοεπιθέσεων και απρόβλεπτες συμπεριφορές μοντέλων.
Ο Άλτμαν, μάλιστα, συμφώνησε με την πρόσφατη έκκληση του Αμοντέι για επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων AI.
Η στροφή της OpenAI προς αυστηρότερους κανόνες
Παράλληλα, η OpenAI έχει υποστηρίξει νέες νομοθετικές πρωτοβουλίες σε πολιτειακό επίπεδο στις ΗΠΑ, οι οποίες προβλέπουν αυστηρότερες απαιτήσεις ασφαλείας σε σχέση με τη στάση που τηρούσε στο παρελθόν.
Εκπρόσωποι της εταιρείας έχουν επίσης εκφράσει τη στήριξή τους σε διακομματική πρόταση στη Βουλή των Αντιπροσώπων, η οποία προβλέπει τη συμμετοχή εξωτερικών αξιολογητών ασφαλείας στις διαδικασίες των κορυφαίων εταιρειών τεχνητής νοημοσύνης.
Παρά τη σύγκλιση σε ορισμένα ζητήματα, ο Άλτμαν εξακολουθεί να διαφοροποιεί τη θέση της OpenAI από εκείνη της Anthropic, ειδικά σε ό,τι αφορά τον κίνδυνο της λεγόμενης «ρυθμιστικής αιχμαλωσίας» (regulatory capture).
Ο ίδιος αναφέρθηκε στην άποψη σύμφωνα με την οποία η τεχνολογία είναι τόσο ισχυρή και επικίνδυνη, ώστε θα έπρεπε να ελέγχεται από ένα και μόνο εργαστήριο που θα αποφασίζει πώς θα αναπτύσσεται και πώς θα διανέμονται τα οφέλη της.
«Διαφωνώ, αλλά κατανοώ την οπτική όσων υποστηρίζουν» αυτή την προσέγγιση, είπε.
«Τα θετικά αποτελέσματα θα είναι πολύ περισσότερα»
Ο επικεφαλής της OpenAI απέρριψε την ιδέα μιας συμφωνίας που θα προϋπέθετε την πλήρη εξάλειψη όλων των αρνητικών συνεπειών από τη χρήση της τεχνητής νοημοσύνης.
«Δεν θα δεχόμουν μια συμφωνία του τύπου: “Θα διασφαλίσουμε ότι δεν θα υπάρξουν μεγάλες κυβερνοεπιθέσεις, ούτε κακή χρήση αυτής της τεχνολογίας, ούτε απάτες, ούτε κανένα από τα άλλα αρνητικά φαινόμενα που ενδέχεται να προκύψουν”», ανέφερε.
Σύμφωνα με τον Άλτμαν, η αποδοχή ορισμένων κινδύνων συνδέεται με την εκτίμησή του ότι η τεχνητή νοημοσύνη θα δημιουργήσει πολύ περισσότερα θετικά αποτελέσματα.
«Πιστεύω ότι οι άνθρωποι θα παράγουν τεράστιο όγκο θετικών αποτελεσμάτων —κατά πολλές τάξεις μεγέθους μεγαλύτερο από τα αρνητικά», υποστήριξε.
Παράλληλα, ξεκαθάρισε ότι υπάρχουν κίνδυνοι τους οποίους δεν είναι διατεθειμένος να αποδεχθεί.
«Δεν αποδέχομαι τους πραγματικά καταστροφικούς κινδύνους», είπε, αναφερόμενος μεταξύ άλλων στην πιθανότητα «σοβαρής απώλειας ελέγχου έναντι της τεχνητής νοημοσύνης».
Η απάντηση της Anthropic
Από την πλευρά της, εκπρόσωπος της Anthropic δήλωσε ότι οι προτάσεις της εταιρείας για τη ρύθμιση της AI αφορούν αποκλειστικά τα μοντέλα αιχμής (frontier models).
Η εταιρεία παρέπεμψε επίσης σε πρόσφατη τοποθέτηση του Ντάριο Αμοντέι σχετικά με τις επικρίσεις για «ρυθμιστική αιχμαλωσία» και τις πιθανές επιπτώσεις των ρυθμίσεων στις μικρότερες εταιρείες.
Ο Αμοντέι έχει υποστηρίξει ότι η Anthropic διαμορφώνει τις προτάσεις πολιτικής της με στόχο να περιορίζονται οι κίνδυνοι από τα πιο προηγμένα μοντέλα, χωρίς παράλληλα να δημιουργούνται εμπόδια για τους μικρότερους ανταγωνιστές.
Η αντιπαράθεση μεταξύ OpenAI και Anthropic αναδεικνύει έτσι μια ευρύτερη συζήτηση στον χώρο της τεχνητής νοημοσύνης: πόσο αυστηροί πρέπει να είναι οι κανόνες ασφαλείας και πόσο ρίσκο είναι διατεθειμένη να αποδεχθεί η κοινωνία προκειμένου να αξιοποιήσει τις δυνατότητες της AI.
