Οι νεοναζί και οι υποστηρικτές της λευκής υπεροχής μοιράζονται προπαγάνδα που σχετίζεται με τον Χίτλερ και προσπαθούν να στρατολογήσουν νέα μέλη στο TikTok, σύμφωνα με νέα έκθεση του Ινστιτούτου Στρατηγικού Διαλόγου (ISD) που κοινοποιήθηκε αποκλειστικά στο WIRED.

Ο αλγόριθμος του TikTok προωθεί επίσης αυτό το περιεχόμενο σε νέους χρήστες, διαπίστωσαν οι ερευνητές, καθώς οι εξτρεμιστικές κοινότητες εκμεταλλεύονται την τεράστια δημοτικότητα του TikTok μεταξύ των νεότερων ακροατηρίων για να διαδώσουν το μήνυμά τους.

Η έκθεση του ISD περιγράφει λεπτομερώς πώς εκατοντάδες εξτρεμιστικοί λογαριασμοί στο TikTok δημοσιεύουν ανοιχτά βίντεο που προωθούν την άρνηση του Ολοκαυτώματος και την εξύμνηση του Χίτλερ και της Γερμανίας της ναζιστικής εποχής, υπονοώντας ότι η ναζιστική ιδεολογία αποτελεί λύση για σύγχρονα ζητήματα, όπως η μετανάστευση στις δυτικές χώρες.

Οι λογαριασμοί δείχνουν επίσης υποστήριξη σε υπέρμαχους της λευκής υπεροχής που προχωρούν σε ομαδικούς πυροβολισμούς, είτε με ζωντανές μεταδόσεις, είτε με αναπαραγωγή του οπτικού υλικού από το κάθε μακελειό.

Πολλοί από τους λογαριασμούς χρησιμοποιούν ναζιστικά σύμβολα στις φωτογραφίες του προφίλ τους ή περιλαμβάνουν κωδικούς της λευκής υπεροχής στα ονόματα χρηστών τους.

Ο Nathan Doctor, ερευνητής του ISD που συνέταξε την έκθεση, λέει ότι ξεκίνησε την έρευνά του νωρίτερα φέτος, όταν συνάντησε έναν νεοναζιστικό λογαριασμό στο TikTok, ενώ διεξήγαγε έρευνα για ένα άλλο project.

Γρήγορα κατάφερε να ξεσκεπάσει ένα πολύ ευρύτερο δίκτυο λογαριασμών που φαινόταν να βοηθούν ενεργά ο ένας τον άλλον, κάνοντας like, κοινοποιώντας και σχολιάζοντας ο ένας τους λογαριασμούς του άλλου, προκειμένου να αυξήσουν την απήχηση και την εμβέλειά τους.

Οι ομάδες που προωθούν νεοναζιστικές αφηγήσεις είναι συνήθως απομονωμένες σε πιο περιθωριακές πλατφόρμες, όπως το Telegram, η κρυπτογραφημένη εφαρμογή ανταλλαγής μηνυμάτων. Αλλά το Telegram έχει γίνει ένας τόπος όπου συζητούνται τεχνικές στρατολόγησης ειδικά για το TikTok: Οι ομάδες λευκής υπεροχής εκεί μοιράζονται βίντεο, εικόνες και ηχητικά κομμάτια που μπορούν να χρησιμοποιήσουν τα μέλη, λέγοντας ρητά σε άλλα μέλη να διασταυρώσουν το περιεχόμενο στο TikTok.

«Δημοσιεύσαμε πράγματα στον ολοκαίνουργιο λογαριασμό μας στο tiktok με 0 followers, αλλά είχαμε περισσότερες προβολές από όσες θα μπορούσατε ποτέ να έχετε στο bitchute ή στο twitter», ανέφερε ένας λογαριασμός σε μια ομάδα νεοναζί στο Telegram σχετικά με την προβολή τους στο TikTok. «Απλά φτάνει σε πολύ περισσότερους ανθρώπους».

Άλλοι ακολούθησαν το παράδειγμά τους. Ένας γνωστός νεοναζί ζητούσε συχνά από τους χιλιάδες οπαδούς του στο Telegram να ενισχύσουν αλγοριθμικά τα βίντεο του στο TikTok για να αυξήσουν το δυναμικό τους ως viral.

Ένα εξτρεμιστικό κανάλι Telegram με 12.000 οπαδούς παρότρυνε τα μέλη του να προωθήσουν το νεοναζιστικό ντοκιμαντέρ Europa: The Last Battle, καλύπτοντας το TikTok με reaction videos σε μια προσπάθεια να γίνει η ταινία viral. Οι ερευνητές του ISD βρήκαν δεκάδες βίντεο στο TikTok με αποσπάσματα από την ταινία, ορισμένα με πάνω από 100.000 προβολές. «Ένας λογαριασμός που δημοσιεύει τέτοια αποσπάσματα έχει λάβει σχεδόν 900.000 προβολές στα βίντεό του, τα οποία περιλαμβάνουν ισχυρισμούς ότι η οικογένεια Ρότσιλντ ελέγχει τα μέσα ενημέρωσης και επιλέγει τους προέδρους, καθώς και άλλους ψευδείς ή αντισημιτικούς ισχυρισμούς», έγραψαν οι ερευνητές.

Αυτή δεν είναι η πρώτη φορά που αποκαλύπτεται ο ρόλος που παίζει ο αλγόριθμος του TikTok στην προώθηση εξτρεμιστικού περιεχομένου. Νωρίτερα αυτό το μήνα, το Παγκόσμιο Δίκτυο για τον Εξτρεμισμό και την Τεχνολογία ανέφερε ότι ο αλγόριθμος του TikTok προωθούσε τη «λατρεία μικρών φασιστικών ιδεολόγων». Οι ίδιοι ερευνητές διαπίστωσαν πέρυσι ότι προωθούσε ευρωκεντρικές υπεροπτικές αφηγήσεις στη Νοτιοανατολική Ασία. Νωρίτερα αυτό το μήνα, το WIRED ανέφερε πώς οι προτάσεις αναζήτησης του TikTok ωθούσαν τους νέους ψηφοφόρους στη Γερμανία προς το ακροδεξιό κόμμα Εναλλακτική για τη Γερμανία πριν από τις ευρωεκλογές του περασμένου μήνα.

«Η εχθρική συμπεριφορά, οι οργανώσεις και οι ιδεολογίες τους δεν έχουν θέση στο TikTok και αφαιρούμε πάνω από το 98% αυτού του περιεχομένου πριν μας αναφερθεί», λέει στο WIRED ο Jamie Favazza, εκπρόσωπος του TikTok. «Συνεργαζόμαστε με εμπειρογνώμονες για να είμαστε μπροστά στις εξελισσόμενες τάσεις και να ενισχύουμε συνεχώς τις δικλείδες ασφαλείας μας ενάντια σε ιδεολογίες και ομάδες μίσους».

Μέρος του λόγου για τον οποίο πλατφόρμες όπως το TikTok δεν μπόρεσαν στο παρελθόν να πατάξουν αποτελεσματικά το εξτρεμιστικό περιεχόμενο οφείλεται στη χρήση κωδικοποιημένης γλώσσας, emojis, ακρωνυμίων και αριθμών από αυτές τις ομάδες. Για παράδειγμα, πολλοί από τους νεοναζιστικούς λογαριασμούς χρησιμοποιούσαν ένα emoji με κουτί χυμού για να αναφέρονται στους Εβραίους.

«Προς το παρόν, οι αυτοπροσδιοριζόμενοι ναζιστές χρησιμοποιούν το TikTok ως πρόσφορη πλατφόρμα για τη διάδοση της ιδεολογίας τους, ειδικά όταν χρησιμοποιούν μια σειρά από αντίμετρα για να αποφύγουν τη μετριοπάθεια και να ενισχύσουν το περιεχόμενο ως δίκτυο», γράφουν οι ερευνητές στην έκθεση.

Αλλά ο Doctor επισημαίνει ότι ακόμη και κατά την προβολή μη αγγλόφωνου περιεχομένου, ο εντοπισμός αυτών των μοτίβων θα πρέπει να είναι εφικτός. «Παρά το γεγονός ότι βλέπετε περιεχόμενο σε άλλες γλώσσες, μπορείτε να αναγνωρίσετε πολύ γρήγορα τι σημαίνει», λέει ο Doctor. «Η κωδικοποιημένη φύση του δεν αποτελεί δικαιολογία, διότι αν είναι αρκετά εύκολα αναγνωρίσιμο σε κάποιον σε άλλη γλώσσα, θα πρέπει να είναι αναγνωρίσιμο και στο TikTok».

Το TikTok λέει ότι έχει περισσότερους από «40.000 επαγγελματίες αξιοπιστίας και ασφάλειας» που εργάζονται για τη διαχείριση σε όλο τον κόσμο, και η εταιρεία λέει ότι η Ομάδα Αξιοπιστίας και Ασφάλειας έχει ειδικούς στον βίαιο εξτρεμισμό που παρακολουθούν συνεχώς τις εξελίξεις σε αυτές τις κοινότητες, συμπεριλαμβανομένης της χρήσης νέας κωδικοποιημένης γλώσσας.

Ενώ πολλοί από τους λογαριασμούς που εντοπίστηκαν έχουν έδρα τις ΗΠΑ, ο Doctor διαπίστωσε ότι το δίκτυο ήταν επίσης διεθνές.

«Είναι σίγουρα παγκόσμιο, δεν είναι καν μόνο η αγγλική γλώσσα», λέει ο Doctor στο WIRED. «Βρήκαμε πράγματα στα γαλλικά, στα ουγγρικά, στα γερμανικά. Μερικά από αυτά βρίσκονται σε χώρες όπου ο ναζισμός είναι παράνομος. Αλλά βρήκαμε ακόμη και πράγματα που μας εξέπληξαν λίγο, όπως ομάδες Μεξικανών ναζιστών, ή σε όλη τη Λατινική Αμερική. Οπότε, ναι, σίγουρα πρόκειται για ένα παγκόσμιο φαινόμενο».

Ο Doctor δεν βρήκε αποδείξεις ότι οι διεθνείς ομάδες συντονίζονταν ενεργά μεταξύ τους, αλλά σίγουρα γνώριζαν η μία την παρουσία της άλλης στο TikTok: «Αυτοί οι λογαριασμοί σίγουρα εμπλέκονται με το περιεχόμενο μεταξύ τους. Μπορείτε να δείτε, με βάση τις ενότητες σχολίων, ότι οι αγγλόφωνοι φιλοναζιστικοί λογαριασμοί της Ευρώπης αντιδρούν με επαίνους προς το ρωσόφωνο φιλοναζιστικό περιεχόμενο».

Οι ερευνητές διαπίστωσαν επίσης ότι πέρα από μεμονωμένους λογαριασμούς και ομάδες που προωθούσαν εξτρεμιστικό περιεχόμενο, ορισμένες πραγματικές φασιστικές ή ακροδεξιές οργανώσεις στρατολογούσαν ανοιχτά στην πλατφόρμα.

Οι Ουκρανοί πρόσφυγες που διέφυγαν από την εισβολή της Ρωσίας αποτέλεσαν σημαντικό μέρος των μεταναστευτικών ροών της ΕΕ

Λογαριασμοί από αυτές τις ομάδες δημοσίευαν συνδέσμους στα βίντεο TikTok τους προς έναν ιστότοπο που περιείχε αντισημιτικά φυλλάδια και οδηγίες για το πώς να τα εκτυπώσουν και να τα διανείμουν. Ενίσχυσαν επίσης τα κανάλια Telegram που περιείχαν πιο βίαιο και ρητά εξτρεμιστικό λόγο.

Σε ένα παράδειγμα που αναφέρεται από το ISD, ένας λογαριασμός του οποίου το όνομα χρήστη περιέχει αντισημιτική προσβολή και το βιογραφικό του καλεί σε ένοπλη επανάσταση και πλήρη εξόντωση των Εβραίων, μοιράστηκε ελλιπείς οδηγίες για την κατασκευή αυτοσχέδιων εκρηκτικών μηχανισμών, όπλων που εκτυπώνονται σε 3D και «ναπάλμ με χαμηλό προϋπολογισμό».

Για να λάβουν τις πλήρεις οδηγίες, ο κάτοχος του λογαριασμού προέτρεψε τους οπαδούς να συμμετάσχουν σε μια «ασφαλή ομαδική συνομιλία» στις κρυπτογραφημένες πλατφόρμες ανταλλαγής μηνυμάτων Element και Tox. Ο Doctor λέει ότι τα σχόλια κάτω από τα βίντεο του κατόχου του λογαριασμού δείχνουν ότι αρκετοί από τους followers του είχαν ενταχθεί σε αυτές τις ομάδες συνομιλίας.

Το ISD κατήγγειλε αυτόν τον λογαριασμό, μαζί με άλλους 49 λογαριασμούς, τον Ιούνιο για παραβίαση των πολιτικών του TikTok σχετικά με τη ρητορική μίσους, την ενθάρρυνση της βίας κατά προστατευόμενων ομάδων, την προώθηση ιδεολογιών μίσους, τον χαιρετισμό βίαιων εξτρεμιστών και την άρνηση του Ολοκαυτώματος. Σε όλες τις περιπτώσεις, το TikTok δεν διαπίστωσε καμία παραβίαση και σε όλους τους λογαριασμούς επετράπη αρχικά να παραμείνουν ενεργοί.

Ένα μήνα αργότερα, 23 από τους λογαριασμούς είχαν απαγορευτεί από το TikTok, γεγονός που υποδηλώνει ότι η πλατφόρμα αφαιρεί τουλάχιστον κάποιο παραβατικό περιεχόμενο και κανάλια με την πάροδο του χρόνου. Πριν από την κατάργηση, οι 23 απαγορευμένοι λογαριασμοί είχαν συγκεντρώσει τουλάχιστον 2 εκατομμύρια προβολές.

Οι ερευνητές δημιούργησαν επίσης νέους λογαριασμούς TikTok για να κατανοήσουν πώς το ναζιστικό περιεχόμενο προωθείται σε νέους χρήστες από τον ισχυρό αλγόριθμο του TikTok.

Χρησιμοποιώντας έναν λογαριασμό που δημιουργήθηκε στα τέλη Μαΐου, οι ερευνητές παρακολούθησαν 10 βίντεο από το δίκτυο των φιλοναζιστών χρηστών, κάνοντας περιστασιακά κλικ στις ενότητες σχολίων, αλλά σταματώντας σε οποιαδήποτε μορφή πραγματικής εμπλοκής, όπως το να κάνουν like, να σχολιάζουν ή να κάνουν bookmarking.

Οι ερευνητές είδαν επίσης 10 φιλοναζιστικούς λογαριασμούς. Όταν στη συνέχεια οι ερευνητές μεταπήδησαν στην ροή For You εντός της εφαρμογής, χρειάστηκαν μόλις τρία βίντεο για να προτείνει ο αλγόριθμος ένα βίντεο με έναν ναζιστή στρατιώτη της εποχής του Β’ Παγκοσμίου Πολέμου, επικαλυμμένο με ένα διάγραμμα με τα ποσοστά δολοφονιών στις ΗΠΑ, με τους δράστες κατανεμημένους ανά φυλή.

Αργότερα, εμφανίστηκε ένα βίντεο με μια μεταφρασμένη από την AI ομιλία του Χίτλερ που επικαλύφθηκε με μια αφίσα στρατολόγησης για μια ομάδα λευκών εθνικιστών.

Ένας άλλος λογαριασμός που δημιουργήθηκε από ερευνητές του ISD είδε ακόμη περισσότερο εξτρεμιστικό περιεχόμενο να προωθείται στην κύρια ροή του, με το 70% των βίντεο να προέρχονται από ναζιστές που αυτοπροσδιορίζονται ή παρουσιάζουν ναζιστική προπαγάνδα. Αφού ο λογαριασμός ακολούθησε έναν αριθμό φιλοναζιστικών λογαριασμών προκειμένου να αποκτήσει πρόσβαση σε περιεχόμενο σε κανάλια που είχαν οριστεί ως ιδιωτικά, ο αλγόριθμος του TikTok προώθησε επίσης άλλους ναζιστικούς λογαριασμούς προς παρακολούθηση.

Και οι 10 πρώτοι λογαριασμοί που συνέστησε το TikTok σε αυτόν τον λογαριασμό χρησιμοποιούσαν ναζιστικούς συμβολισμούς ή λέξεις-κλειδιά στα ονόματα χρήστη ή στις φωτογραφίες προφίλ τους ή παρουσίαζαν ναζιστική προπαγάνδα στα βίντεό τους.

«Σε καμία περίπτωση αυτό δεν αποτελεί ιδιαίτερη έκπληξη», λέει η Abbie Richards, μια ερευνήτρια παραπληροφόρησης που ειδικεύεται στο TikTok. «Αυτά είναι πράγματα που βρήκαμε ξανά και ξανά. Σίγουρα τα έχω βρει και εγώ στην έρευνά μου».

Η Richards έγραψε για το περιεχόμενο της λευκής υπεροχής στην πλατφόρμα το 2022, συμπεριλαμβανομένης της περίπτωσης του νεοναζί Paul Miller, ο οποίος, ενώ εξέτιε ποινή 41 μηνών με κατηγορίες για πυροβόλα όπλα, εμφανίστηκε σε ένα βίντεο του TikTok που συγκέντρωσε περισσότερες από 5 εκατομμύρια προβολές και 700.000 likes κατά τη διάρκεια των τριών μηνών που ήταν στην πλατφόρμα πριν αφαιρεθεί.

Ο Marcus Bösch, ερευνητής με έδρα το Πανεπιστήμιο του Αμβούργου που παρακολουθεί το TikTok, δηλώνει στο WIRED ότι τα ευρήματα της έκθεσης «δεν αποτελούν μεγάλη έκπληξη» και δεν ελπίζει ότι υπάρχει κάτι που μπορεί να κάνει το TikTok για να διορθώσει το πρόβλημα.

«Δεν είμαι σίγουρος πού ακριβώς βρίσκεται το πρόβλημα», λέει ο Bösch. « To TikTok λέει ότι έχει περίπου 40.000 συντονιστές περιεχομένου και θα έπρεπε να είναι εύκολο να κατανοηθούν τέτοιες προφανείς παραβιάσεις της πολιτικής. Ωστόσο, λόγω του τεράστιου όγκου [του περιεχομένου] και της ικανότητας των κακών παραγόντων να προσαρμόζονται γρήγορα, είμαι πεπεισμένος ότι ολόκληρο το πρόβλημα της παραπληροφόρησης δεν μπορεί να επιλυθεί οριστικά, ούτε με Τεχνητή Νοημοσύνη ούτε με περισσότερους συντονιστές».

Το TikTok αναφέρει ότι έχει ολοκληρώσει ένα πρόγραμμα καθοδήγησης με την Tech Against Terrorism, μια ομάδα που επιδιώκει να διαταράξει τη διαδικτυακή δραστηριότητα των τρομοκρατών και βοηθά το TikTok να εντοπίσει διαδικτυακές απειλές.

Φωτογραφία της Άννας Φρανκ από το 1941 που δημοσιεύτηκε από το Anne Frank Fonds στη Φρανκφούρτη της Γερμανίας

«Παρά τα προληπτικά μέτρα που έχουν ληφθεί, το TikTok παραμένει στόχος εκμετάλλευσης από εξτρεμιστικές ομάδες, καθώς η δημοτικότητά του αυξάνεται», λέει στο WIRED ο Adam Hadley, εκτελεστικός διευθυντής της Tech Against Terrorism.

«Η μελέτη του ISD δείχνει ότι ένας μικρός αριθμός βίαιων εξτρεμιστών μπορεί να προκαλέσει χάος σε μεγάλες πλατφόρμες λόγω της ασυμμετρίας των αντιπάλων. Επομένως, η έκθεση αυτή υπογραμμίζει την ανάγκη για πληροφορίες σχετικά με τις απειλές σε πολλαπλές πλατφόρμες, οι οποίες υποστηρίζονται από βελτιωμένη διαχείριση περιεχομένου με Τεχνητή Νοημοσύνη. Η έκθεση μας υπενθυμίζει ακόμα ότι η Telegram θα πρέπει επίσης να λογοδοτήσει για τον ρόλο της στο διαδικτυακό εξτρεμιστικό οικοσύστημα».

Όπως περιγράφει ο Hadley, τα ευρήματα της έκθεσης δείχνουν ότι υπάρχουν σημαντικά κενά στις τρέχουσες πολιτικές της εταιρείας.

«Πάντα περιέγραφα το TikTok, όταν πρόκειται για χρήση από την ακροδεξιά, ως μια πλατφόρμα ανταλλαγής μηνυμάτων», δήλωσε η Richards. «Περισσότερο από οτιδήποτε άλλο, πρόκειται απλώς για επανάληψη. Πρόκειται για την έκθεση στο ίδιο αφήγημα μίσους ξανά και ξανά και ξανά, επειδή από ένα σημείο και μετά αρχίζεις να πιστεύεις πράγματα αφού τα βλέπεις αρκετά και αρχίζουν να επηρεάζουν πραγματικά την κοσμοθεωρία σου».

Με πληροφορίες από WIRED

Tags