Η Meta δοκίμαζε μια λειτουργία κατά την οποία εξωτερικοί συνεργάτες αναλάμβαναν τηλεφωνικές κλήσεις για λογαριασμό του Muse, του νέου προσωπικού βοηθού Τεχνητής Νοημοσύνης της εταιρείας, σύμφωνα με εσωτερικές αναρτήσεις που είδε το Reuters.
Το Muse έχει ξεπεράσει τα 2,5 εκατομμύρια downloads και έχει σχεδιαστεί ώστε να εκτελεί καθημερινές εργασίες για λογαριασμό των χρηστών. Μεταξύ άλλων, μπορεί να στέλνει email, να πραγματοποιεί αγορές, να οργανώνει ταξίδια και να τηλεφωνεί σε επιχειρήσεις για κρατήσεις, έλεγχο διαθεσιμότητας προϊόντων ή πληροφορίες για υπηρεσίες.
Ωστόσο, σε ορισμένες από αυτές τις κλήσεις δεν επικοινωνούσε αποκλειστικά η Τεχνητή Νοημοσύνη. Άνθρωποι συνεργάτες αναλάμβαναν τις τηλεφωνικές συνομιλίες, χωρίς οι χρήστες να γνωρίζουν απαραίτητα ότι στην άλλη άκρη της γραμμής βρισκόταν άνθρωπος.
Ανησυχίες για τα προσωπικά δεδομένα
Η πρακτική προκάλεσε αντιδράσεις μεταξύ εργαζομένων της Meta, οι οποίοι εξέφρασαν ανησυχίες για το ενδεχόμενο ευαίσθητες πληροφορίες των χρηστών να κοινοποιούνται σε προσωπικό τηλεφωνικών κέντρων.
«Είναι ακατανόητο για μένα γιατί θεωρούμε ότι αυτή η λειτουργία αξίζει το ρίσκο», έγραψε ένας εργαζόμενος, προειδοποιώντας ότι ένα τεχνικό σφάλμα θα μπορούσε να οδηγήσει σε διαρροή πληροφοριών σε ανθρώπους που πραγματοποιούν τις κλήσεις.
Ένας άλλος εργαζόμενος ανέφερε ότι ζήτησε από το Muse να διαπραγματευτεί τον λογαριασμό του με πάροχο Ίντερνετ και καλωδιακής τηλεόρασης. Από την απομαγνητοφώνηση της κλήσης διαπίστωσε ότι ο άνθρωπος που είχε αναλάβει τη συνομιλία είχε κάνει ρατσιστική αναφορά.
«Ήταν αστοχία» λέει η Meta
Σύμφωνα με το Reuters, στέλεχος της Meta αναγνώρισε ότι «ήταν αστοχία» να ξεκινήσουν οι δοκιμές χωρίς την κατάλληλη ενημέρωση και ανέφερε ότι η συγκεκριμένη λειτουργία αποσύρθηκε προσωρινά.
Παράλληλα, η εταιρεία υποστήριξε ότι οι ανθρώπινες κλήσεις είχαν ποσοστό επιτυχίας 95%-98%, υψηλότερο από εκείνο των κλήσεων που πραγματοποιούσε αποκλειστικά η AI.
Εκπρόσωπος της Meta δήλωσε ότι οι δοκιμές έχουν στόχο να συγκεντρωθεί ανατροφοδότηση, ώστε η εταιρεία να εφαρμόσει μέτρα ασφάλειας και προστασίας της ιδιωτικότητας και να βελτιώσει τις λειτουργίες πριν αυτές διατεθούν ευρύτερα.
Το περιστατικό αναδεικνύει ένα ευρύτερο ζήτημα γύρω από τις υπηρεσίες AI: πόσο «αυτόνομες» είναι στην πραγματικότητα οι εφαρμογές που παρουσιάζονται ως ψηφιακοί βοηθοί, όταν πίσω από ορισμένες λειτουργίες τους μπορεί να υπάρχει ανθρώπινη εργασία.
Η Meta είχε χρησιμοποιήσει παρόμοια πρακτική περίπου πριν από μία δεκαετία με τον ψηφιακό βοηθό «M» στο Messenger, ο οποίος επίσης βασιζόταν σε ανθρώπους για την εκτέλεση ορισμένων εργασιών.
