Ο αλγόριθμος του TikTok προτείνει πορνογραφικό και σεξουαλικά φορτισμένο περιεχόμενο σε λογαριασμούς παιδιών, σύμφωνα με νέα αναφορά από ομάδα ακτιβιστών ανθρωπίνων δικαιωμάτων.
Οι ερευνητές δημιούργησαν ψεύτικους παιδικούς λογαριασμούς, ενεργοποίησαν τις ρυθμίσεις ασφαλείας, αλλά παρόλα αυτά έλαβαν σεξουαλικά προκλητικές προτάσεις αναζήτησης.
Οι προτεινόμενοι όροι αναζήτησης οδηγούσαν σε υλικό με έντονο σεξουαλικό περιεχόμενο, συμπεριλαμβανομένων βίντεο με σκηνές διεισδυτικού σεξ.
Η πλατφόρμα αναφέρει ότι παραμένει δεσμευμένη στην παροχή ασφαλών και κατάλληλων για την ηλικία εμπειριών και ότι έλαβε άμεσα μέτρα μόλις ενημερώθηκε για το πρόβλημα.
Ψεύτικοι λογαριασμοί 13χρονων
Στα τέλη Ιουλίου και στις αρχές Αυγούστου φέτος, ερευνητές της ομάδας Global Witness έστησαν τέσσερις λογαριασμούς στο TikTok προσποιούμενοι ότι ήταν 13χρονοι.
Χρησιμοποίησαν ψευδείς ημερομηνίες γέννησης και δεν τους ζητήθηκε κανένα άλλο στοιχείο για να επιβεβαιώσουν την ταυτότητά τους.
Παράλληλα, ενεργοποίησαν τη λειτουργία «περιορισμένης λειτουργίας» (restricted mode), την οποία το TikTok υποστηρίζει ότι αποτρέπει την εμφάνιση «ώριμων ή σύνθετων θεμάτων, όπως… σεξουαλικά υπονοούμενο περιεχόμενο».
Χωρίς να κάνουν οι ίδιοι αναζητήσεις, οι ερευνητές βρήκαν υπερβολικά σεξουαλικούς όρους αναζήτησης να τους προτείνονται στην ενότητα «ίσως σας αρέσει».
Αυτοί οι όροι οδηγούσαν σε περιεχόμενο όπου γυναίκες προσομοίωναν αυνανισμό. Άλλα βίντεο έδειχναν γυναίκες να σηκώνουν τα εσώρουχά τους σε δημόσιους χώρους ή να εκθέτουν το στήθος τους.
Στις πιο ακραίες περιπτώσεις, το περιεχόμενο περιελάμβανε καθαρά πορνογραφικές ταινίες με διεισδυτικό σεξ.
Τα βίντεο αυτά ήταν «κρυμμένα» μέσα σε φαινομενικά αθώο περιεχόμενο, σε μια επιτυχημένη προσπάθεια να παρακάμψουν τη διαδικασία εποπτείας της πλατφόρμας.
Η Άβα Λι από τη Global Witness δήλωσε ότι τα ευρήματα αποτέλεσαν «τεράστιο σοκ» για τους ερευνητές.
«Το TikTok δεν αποτυγχάνει απλώς να αποτρέψει τα παιδιά από το να δουν ακατάλληλο περιεχόμενο — το προτείνει το ίδιο αμέσως μόλις δημιουργηθεί ο λογαριασμός», ανέφερε χαρακτηριστικά.
Η Global Witness είναι μια ακτιβιστική ομάδα που συνήθως ερευνά πώς οι μεγάλες τεχνολογικές εταιρείες επηρεάζουν τον δημόσιο διάλογο για τα ανθρώπινα δικαιώματα, τη δημοκρατία και την κλιματική αλλαγή. Οι ερευνητές «έπεσαν» πάνω στο συγκεκριμένο ζήτημα κατά τη διάρκεια άλλης έρευνας τον Απρίλιο φέτος.
Η αντίδραση του TikTok
Οι ερευνητές ενημέρωσαν το TikTok, το οποίο ανέφερε ότι έλαβε άμεσα μέτρα για να λύσει το πρόβλημα.
Ωστόσο, στα τέλη Ιουλίου και τον Αύγουστο, η ομάδα επανέλαβε το πείραμα και διαπίστωσε και πάλι ότι η εφαρμογή πρότεινε σεξουαλικό περιεχόμενο.
Το TikTok υποστηρίζει ότι διαθέτει περισσότερες από 50 λειτουργίες που έχουν σχεδιαστεί για την ασφάλεια των εφήβων: «Είμαστε πλήρως δεσμευμένοι να παρέχουμε ασφαλείς και κατάλληλες για την ηλικία εμπειρίες».
Η εφαρμογή αναφέρει ότι αποσύρει 9 στα 10 βίντεο που παραβιάζουν τις οδηγίες της προτού καν προβληθούν.
Μετά την ενημέρωση από τη Global Witness, το TikTok είπε ότι προχώρησε σε «αφαίρεση περιεχομένου που παραβίαζε τις πολιτικές μας και σε βελτιώσεις στη λειτουργία προτάσεων αναζήτησης».
Οι νέοι κανόνες «Children’s Codes»
Στις 25 Ιουλίου φέτος τέθηκαν σε ισχύ οι «Children’s Codes» του Νόμου για την Ασφάλεια στο Διαδίκτυο, οι οποίοι επιβάλλουν νομική υποχρέωση στις πλατφόρμες να προστατεύουν τα παιδιά στο διαδίκτυο.
Πλέον, οι πλατφόρμες πρέπει να χρησιμοποιούν «εξαιρετικά αποτελεσματικούς μηχανισμούς επιβεβαίωσης ηλικίας» για να αποτρέψουν τα παιδιά από την πρόσβαση σε πορνογραφία. Οφείλουν επίσης να προσαρμόζουν τους αλγόριθμους τους ώστε να μπλοκάρουν περιεχόμενο που ενθαρρύνει την αυτοκτονία, τον αυτοτραυματισμό ή τις διατροφικές διαταραχές.
Η Global Witness πραγματοποίησε τη δεύτερη έρευνά της μετά την εφαρμογή των Children’s Codes.
Η Άβα Λι από τη Global Witness δήλωσε: «Όλοι συμφωνούμε ότι πρέπει να κρατήσουμε τα παιδιά ασφαλή στο διαδίκτυο… Τώρα είναι ώρα να παρέμβουν οι ρυθμιστικές αρχές».
«Τι συμβαίνει με αυτό το app;»
Κατά τη διάρκεια της έρευνας, οι ερευνητές παρατήρησαν και τις αντιδράσεις άλλων χρηστών στους σεξουαλικούς όρους αναζήτησης που τους προτείνονταν.
Ένας σχολίασε: «Μπορεί κάποιος να μου εξηγήσει τι συμβαίνει με τις προτάσεις αναζήτησής μου;»
Άλλος ρώτησε: «Τι δεν πάει καλά με αυτήν την εφαρμογή;»
Πηγή: BBC
