Τον Σεπτέμβριο του 2023 ένα μικρό χωριό στο Almendralejo (πόλη στην επαρχία Badajoz στην Extremadura της Ισπανίας) έγινε παγκοσμίως γνωστό εξαιτίας μίας υπόθεσης με deepfake γυμνές φωτογραφίες ανήλικων κοριτσιών, οι οποίες είχαν υποστεί επεξεργασία με τη χρήση Τεχνητής Νοημοσύνης και διακινούνταν στα κινητά των κατοίκων της περιοχής.

Σύντομα η αστυνομία ξεκίνησε έρευνα, ανακαλύπτοντας ότι οι συμμαθητές των κοριτσιών είχαν «κατεβάσει» φωτογραφίες τους από τα social media και στη συνέχεια είχαν χρησιμοποιήσει εφαρμογές AI για να τις «γδύσουν». Η υπόθεση των ανήλικων κοριτσιών από μία επαρχία της Ισπανίας, ήταν μόλις μία σταγόνα στον ωκεανό των deepfakes που έχουν κατακλύσει το Διαδίκτυο τα τελευταία χρόνια.

Αν και πλέον χιλιάδες γυναίκες – και όχι μόνο – πέφτουν θύματα deepfake, δεν υπάρχει νομοθεσία για την αντιμετώπιση τέτοιων εγκλημάτων που διαπράττονται με τη χρήση Τεχνητής Νοημοσύνης. Ωστόσο, αρκετοί φορείς που επιχειρούν να βάλουν ένα τέλος στο deepfake, άρχισαν σταδιακά να ανακαλύπτουν πως πίσω από όλο αυτό το φαινόμενο, κρύβεται ένα τεράστιο δίκτυο εφαρμογών, μαύρου χρήματος και μυστικών λογαριασμών.

Πώς λειτουργεί το δίκτυο

Πίσω στην υπόθεση της Ισπανίας, η εφαρμογή που χρησιμοποίησαν οι μαθητές ονομάζεται Clothoff και είναι ένα από τα πιο γνωστά app για deepfake πορνό στον κόσμο. Το Clothoff αποτελεί μέρος ενός τεράστιου δικτύου εφαρμογών Τεχνητής Νοημοσύνης που χρησιμοποιείται για τη δημιουργία deepfake, με θύματα εκατομμύρια ανυποψίαστους πολίτες.

Ο χρήστης για να μπορέσει να χρησιμοποιήσει τα εργαλεία της εφαρμογής, θα πρέπει πρώτα να αγοράσει εικονικά νομίσματα, τα οποία στη συνέχεια εξαργυρώνει μέσα στην πλατφόρμα. Το Clothoff δεν είναι η μόνη εφαρμογή που λειτουργεί με αυτόν τον τρόπο.

Άλλες εφαρμογές όπως το DrawNudes, το Nudify και το Undress επιτρέπουν στους χρήστες να «γδύσουν» φωτογραφίες οποιασδήποτε γυναίκας χρησιμοποιώντας Τεχνητή Νοημοσύνη. Στις δεκάδες ομάδες στο Telegram, όπου διακινείται το deepfake υλικό, οι ακόλουθοι φτάνουν μέχρι και τους 800.000.

Τα τελευταία τέσσερα χρόνια η deepfake πορνογραφία εξαπλασιάστηκε

Την ίδια στιγμή, apps όπως το Clothoff και το DrawNudes, πληρώνονται μέσα από τρίτες πλατφόρμες, αποκρύπτοντας την πραγματική φύση των συναλλαγών. Συγκεκριμένα, χρησιμοποίησαν διάφορους μηχανισμούς που σχετίζονται με τυχερά παιχνίδια, όπως είναι το Skinsback.

Σε αυτές τις περιπτώσεις, φαίνεται πως η συναλλαγή γίνεται για κάτι σχετικό με βιντεοπαιχνίδια, αλλά στην πραγματικότητα, γινόταν πληρωμή εικονικών νομισμάτων τα οποία μπορούν να εξαργυρωθούν για τη δημιουργία AI πορνογραφικών deepfakes.

Μάλιστα, το Clothoff προσφέρει τη δυνατότητα πληρωμής μέσω της παγκοσμίως διαδεδομένης πλατφόρμας βιντεοπαιχνιδιών Steam. Όταν οι χρήστες κάνουν κλικ στον σύνδεσμο για την πληρωμή, ανακατευθύνονται στο Skinsback, όπου ζητείται το URL από τον λογαριασμό του Steam, καθώς η πλατφόρμα θεωρεί ότι γίνεται αγορά παιχνιδιού.

Ωστόσο, μετά την υπόθεση με την Ισπανία, τόσο το Skinsback όσο και το Steam ανακοίνωσαν πως διακόπτουν την συνεργασία τους με το Clothoff, ανακοινώνοντας μάλιστα τη διεξαγωγή έρευνας.

Διαβασε ακομα

Μετά την Τέιλορ Σουίφτ, τo deepfake έγδυσε και την ανήλικη Τζένα Ορτέγκα

Το Clothoff όμως συνεργάζεται και με άλλες πλατφόρμες πληρωμών, όπως είναι το G2A. Ενώ οι συναλλαγές στο Steam που διευκόλυνε το Skinsback αφορούσαν την εμπορία περιεχομένου παιχνιδιών, οι συναλλαγές στο G2A αφορούν πραγματικά χρήματα.

Το Clothoff απασχολεί τους λεγόμενους «dealers» ή πωλητές που είναι διαθέσιμοι 24 ώρες το 24ωρο για τα άτομα που επιθυμούν να αγοράσουν νομίσματα ώστε να δημιουργήσουν πορνογραφικά deepfakes. Μάλιστα, έχουν επανειλημμένα δώσει οδηγίες στους αγοραστές να τους πληρώνουν κρυφά μέσω του G2A.

Οι dealers αυτοί συμβούλευαν τους χρήστες να αγοράσουν συγκεκριμένα κλειδιά παιχνιδιών από έναν λογαριασμό μεταπωλητή στο G2A εξηγώντας ότι μετά θα έδιναν στον αγοραστή τα νομίσματα που αναλογούσαν στον λογαριασμό του Clothoff.

Όταν τελικά αποκαλύφθηκε η υπόθεση με τις ανήλικες στην Ισπανία, το G2A δήλωσε πως διέκοψε τη συνεργασία με το Clothoff, εξηγώντας ότι κατάγγειλε την υπόθεση στις αρμόδιες αρχές. Όσον αφορά στους προτεινόμενους μεταπωλητές, η G2A υποστήριξε πως οι διευθύνσεις τους βρίσκονταν στη Νέα Ζηλανδία.

Το μαύρο χρήμα

Δεν είναι ωστόσο μόνο οι ιστοσελίδες βιντεοπαιχνιδιών. Το δίκτυο που περιλαμβάνει τις ιστοσελίδες Clothoff, Nudify, Undress και Drawnudes χρησιμοποιεί επίσης, ή έχει προσπαθήσει να χρησιμοποιήσει, πάνω από δώδεκα παρόχους πληρωμών για τη συλλογή κρυφού χρήματος που αφορά στην πώληση «νομισμάτων», με σκοπό τη δημιουργία μη συναινετικών πορνογραφικών deepfakes.

Σημειώνεται πως οι περισσότεροι πάροχοι πληρωμών απαγορεύουν την πώληση υπηρεσιών που επιτρέπουν τη δημιουργία μη συναινετικών πορνογραφικών deepfakes, ενω πολλοί από αυτούς δεν επιτρέπουν γενικά την πώληση υλικού και υπηρεσιών για ενήλικες.

Το κλειδί για την αποφυγή των απαγορεύσεων είναι οι προαναφερθέντες dealers με τους οποίους μπορεί κανείς να επικοινωνήσει 24 ώρες το 24ωρο, καθώς διευκολύνουν τις μυστικές συναλλαγές παρέχοντας συνδέσμους σε λογαριασμούς που δεν διαφημίζονται δημόσια.

Η διαδικασία είναι αρκετά εξελιγμένη, με μία ποικιλία διαφορετικών επιλογών πληρωμής ανάλογα με τη διεύθυνση IP και τη χώρα προέλευσης του επισκέπτη στην ιστοσελίδα. Οι έμποροι μπορούν να παρέχουν στους αγοραστές πολλαπλούς τρόπους πληρωμής μέσω ενός μεγάλου αριθμού δημοφιλών και συμβατικών παρόχων.

Ένα ανεξέλεγκτο δίκτυο

Έρευνες του Bellingcat και του Guardian έδειξαν πως το δίκτυο των συναλλαγών και των εφαρμογών deepfake απλώνεται σε όλον τον πλανήτη. Η Λευκορωσία, η Ρωσία, η Ισπανία, οι ΗΠΑ και η Αυστραλία είναι μόλις μερικές από τις χώρες. Σύμφωνα με τη βρετανική εφημερίδα, με μόλις 30 στερλίνες, ένας χρήστης μπορεί να δημιουργήσει 25 deepfake φωτογραφίες. Την ίδια στιγμή, το Clothoff αναζητά κι άλλους dealers για να ανταποκριθούν στην αυξανόμενη ζήτηση.

News Deepfake πορνό: Όταν οι γυναίκες κακοποιούνται με ένα ψέμα που γίνεται πραγματικότητα

Η αύξηση αυτή δεν είναι καθόλου αμελητέα. Σύμφωνα με την περσινή έκθεση του State of Deepfakes, τα τελευταία τέσσερα χρόνια η deepfake πορνογραφία εξαπλασιάστηκε.

Πλέον, χάρη στα εργαλεία της Τεχνητής Νοημοσύνης, με ελάχιστα χρήματα και κόπο μπορεί κανείς να δημιουργήσει deepfake υλικό. Το δίκτυο των Clothoff, DrawNudes, Nudify και Undress είναι απλώς η κορυφή του παγόβουνου. Όπως αναφέρει έκθεση του State of Deepfakes, υπάρχουν πάνω από 40 παρόμοια εργαλεία που απευθύνονται σε ένα ευρύ φάσμα χρηστών. Αυτά τα εργαλεία συγκεντρώνουν συνολικά 10 εκατομμύρια μηνιαίες αναζητήσεις, αναδεικνύοντας το εκτεταμένο ενδιαφέρον και τη ζήτηση για deepfake.

Όπως χαρακτηριστικά αναφέρει η έκθεση «στις δέκα κορυφαίες ιστοσελίδες που παρέχουν αποκλειστικά deepfake πορνογραφία, οι μηνιαίες προβολές βίντεο ανέρχονται σε 34.836.914. Αυτός ο σημαντικός αριθμός παρέχει μία ξεκάθαρη εικόνα για την εκτεταμένη κατανάλωση και τη διάδοση πορνογραφικού υλικού που δημιουργείται από deepfake».

Με πληροφορίες από Bellingcat