Η ψηφιακή εποχή, με τις αμέτρητες ευκολίες και δυνατότητες που προσφέρει, κρύβει και σκοτεινές πτυχές. Μία από αυτές, με αυξανόμενες και ανησυχητικές διαστάσεις, είναι η εμφάνιση και ραγδαία εξάπλωση της πορνογραφίας deepfake. Μια τεχνολογία που επιτρέπει την ενσωμάτωση προσώπων σε άσεμνες εικόνες και βίντεο με εκπληκτική ευκολία και ρεαλισμό, αφήνοντας πίσω της κατεστραμμένες ζωές και βαθιά τραύματα.

Μια πρόσφατη έρευνα του CNN στη Νότια Κορέα ρίχνει φως σε αυτή την εφιαλτική πραγματικότητα, αποκαλύπτοντας ιστορίες θυμάτων που βρέθηκαν εντελώς ξαφνικά αντιμέτωπα με μια ψηφιακή βία πρωτοφανούς μορφής.

Η ιστορία της Ruma είναι χαρακτηριστική. Μια καλοκαιρινή ημέρα του 2021, ενώ απολάμβανε το γεύμα της, το κινητό της τηλέφωνο άρχισε να βομβαρδίζεται από ειδοποιήσεις. Μηνύματα που έμελλε να αλλάξουν για πάντα τη ζωή της.

Οι εικόνες που αντίκρισε ήταν σοκαριστικές. Το πρόσωπό της, οικείο και αναγνωρίσιμο, είχε αποκολληθεί από τις φωτογραφίες της στα μέσα κοινωνικής δικτύωσης και είχε επικολληθεί σε γυμνά σώματα. Οι παραποιημένες αυτές εικόνες κυκλοφορούσαν ανενόχλητα σε δεκάδες χρήστες σε ένα chat room της δημοφιλούς εφαρμογής Telegram. Τα σχόλια που συνόδευαν αυτές τις εικόνες, όπως και τα μηνύματα από τον ανώνυμο αποστολέα, ήταν γεμάτα εξευτελισμό και χυδαιότητα, επιχειρώντας να σπιλώσουν την τιμή και την υπόληψή της με τον πιο βάναυσο τρόπο.

Η παρενόχληση δεν σταμάτησε εκεί. Σύντομα, οι απειλές για ευρύτερη διάδοση των ψεύτικων αυτών εικόνων άρχισαν να κατακλύζουν την οθόνη του τηλεφώνου της, συνοδευόμενες από ειρωνείες για την ανικανότητα της αστυνομίας να εντοπίσει τους δράστες. Ο αποστολέας φαινόταν να κατέχει προσωπικές της πληροφορίες, γεγονός που ενέτεινε τον φόβο και την ανασφάλειά της. Η Ruma, όπως εξομολογείται, βρέθηκε ξαφνικά αντιμέτωπη με μια πραγματικότητα που δεν είχε ποτέ φανταστεί, με εικόνες που παραβίαζαν κάθε όριο της ανθρώπινης αξιοπρέπειας.

Ενώ το φαινόμενο του revenge porn, της μη συναινετικής κοινοποίησης σεξουαλικών εικόνων, δεν είναι καινούργιο, η ραγδαία εξέλιξη των εργαλείων Τεχνητής Νοημοσύνης έχει δημιουργήσει μια νέα, πιο επικίνδυνη διάσταση. Πλέον, οποιοσδήποτε μπορεί να στοχοποιηθεί από deepfake άσεμνο περιεχόμενο, ακόμη και αν δεν έχει ποτέ τραβήξει ή στείλει μια γυμνή φωτογραφία. Η ανωνυμία του διαδικτύου και η ευκολία με την οποία δημιουργούνται και διαδίδονται αυτές οι ψεύτικες εικόνες καθιστούν το πρόβλημα ακόμα πιο δυσοίωνο.

Η Νότια Κορέα, όπως αποκαλύπτει η έρευνα, έχει βιώσει ένα ιδιαίτερα ταραχώδες πρόσφατο ιστορικό ψηφιακών σεξουαλικών εγκλημάτων. Από κρυφές κάμερες σε δημόσιες τουαλέτες και αποδυτήρια μέχρι chat rooms στο Telegram όπου γυναίκες και κορίτσια εξαναγκάζονταν και εκβιάζονταν να δημοσιεύσουν εξευτελιστικό σεξουαλικό περιεχόμενο, η χώρα έχει βρεθεί στο επίκεντρο πολλών σκανδάλων. Η τεχνολογία deepfake έρχεται πλέον να προστεθεί σε αυτό το ήδη βαρύ ιστορικό, δημιουργώντας μια νέα, ακόμα πιο ανησυχητική απειλή.

Πηγή: CNN

Η κατάσταση στα σχολεία της Νότιας Κορέας είναι ιδιαίτερα κρίσιμη. Σύμφωνα με στοιχεία του υπουργείου Παιδείας της χώρας, μεταξύ Ιανουαρίου και αρχών Νοεμβρίου του περασμένου έτους, περισσότεροι από 900 μαθητές, δάσκαλοι και μέλη του προσωπικού των σχολείων ανέφεραν ότι έπεσαν θύματα σεξουαλικών εγκλημάτων deepfake. Και αυτά τα στοιχεία δεν περιλαμβάνουν τις επιθέσεις που έχουν καταγραφεί στα πανεπιστήμια, όπου το φαινόμενο φαίνεται να είναι εξίσου έντονο.

Η αρχική αντίδραση των αρχών ήταν η συγκρότηση μιας ομάδας εργασίας έκτακτης ανάγκης από το υπουργείο Παιδείας. Επιπλέον, τον Σεπτέμβριο, ψηφίστηκε μια τροπολογία που ποινικοποιεί την κατοχή και την προβολή πορνογραφίας deepfake με έως και τρία χρόνια φυλάκιση ή πρόστιμο που μπορεί να ξεπεράσει τις 17.000 ευρώ.

Παράλληλα, η δημιουργία και η διανομή μη συναινετικών εικόνων deepfake τιμωρείται πλέον με μέγιστη ποινή φυλάκισης επτά ετών, αυστηροποιώντας την προηγούμενη ποινή των πέντε ετών. Η Εθνική Αστυνομική Υπηρεσία της Νότιας Κορέας έχει καλέσει τους αξιωματικούς της να αναλάβουν ηγετικό ρόλο στην «πλήρη εξάλειψη των σεξουαλικών εγκλημάτων deepfake».

Ωστόσο, παρά τις νομοθετικές αλλαγές και τις εξαγγελίες, ο αριθμός των συλλήψεων παραμένει ανησυχητικά χαμηλός. Από τις 964 υποθέσεις σεξουαλικών εγκλημάτων που σχετίζονται με deepfake και αναφέρθηκαν μεταξύ Ιανουαρίου και Οκτωβρίου του περασμένου έτους, η αστυνομία πραγματοποίησε μόλις 23 συλλήψεις, σύμφωνα με δήλωση της Μητροπολιτικής Αστυνομίας της Σεούλ.

Η βουλεύτρια Kim Nam-hee εξέφρασε την ανησυχία της στο CNN, τονίζοντας ότι «οι έρευνες και οι τιμωρίες ήταν πολύ παθητικές μέχρι στιγμής». Αυτή η αίσθηση αναποτελεσματικότητας έχει οδηγήσει ορισμένα θύματα, όπως η Ruma, να αναλάβουν οι ίδιες την έρευνα των υποθέσεών τους.

Η Ruma, μια 27χρονη φοιτήτρια πανεπιστημίου όταν ξεκίνησε ο εφιάλτης της, βρέθηκε αντιμέτωπη με την αδιαφορία των αρχών. Όταν απευθύνθηκε στην αστυνομία, της είπαν ότι θα ζητούσαν πληροφορίες χρηστών από το Telegram, αλλά την προειδοποίησαν ότι η πλατφόρμα είναι διαβόητη για την άρνησή της να κοινοποιήσει τέτοια δεδομένα.

Η κάποτε εξωστρεφής φοιτήτρια, που απολάμβανε τις σπουδές και την κοινωνική της ζωή, είδε τον κόσμο της να καταρρέει. «Κατέρριψε ολόκληρο το σύστημα πεποιθήσεών μου για τον κόσμο», εξομολογείται. «Το γεγονός ότι μπορούσαν να χρησιμοποιήσουν τόσο χυδαίες, σκληρές εικόνες για να σε ταπεινώσουν και να παραβιάσουν την προσωπικότητά σου σε τέτοιο ακραίο βαθμό σε καταστρέφει σχεδόν ανεπανόρθωτα».

Αποφασισμένη να μην αφήσει την υπόθεσή της να ξεχαστεί, και μαθαίνοντας ότι οι έρευνες για άλλες φοιτήτριες είχαν τερματιστεί άδοξα λόγω δυσκολίας στην ταυτοποίηση των υπόπτων, η Ruma και συμφοιτήτριές της ζήτησαν βοήθεια από τη Won Eun-ji, μια ακτιβίστρια που είχε αποκτήσει εθνική φήμη για την αποκάλυψη της μεγαλύτερης ομάδας ψηφιακών σεξουαλικών εγκλημάτων της Νότιας Κορέας στο Telegram το 2020.

Η Won δέχτηκε να βοηθήσει, δημιουργώντας έναν ψεύτικο λογαριασμό Telegram και υποδυόμενη έναν άνδρα γύρω στα 30 για να διεισδύσει στο chat room όπου κυκλοφορούσαν οι εικόνες deepfake. Για σχεδόν δύο χρόνια, συγκέντρωνε προσεκτικά πληροφορίες και συνομιλούσε με άλλους χρήστες, χτίζοντας ένα δίκτυο πληροφοριών που θα οδηγούσε στην αποκάλυψη των δραστών.

Η επιμονή και η στρατηγική της απέδωσαν καρπούς όταν κατάφερε να συντονιστεί με την αστυνομία για τη διεξαγωγή μιας οργανωμένης επιχείρησης σύλληψης. Όταν οι αστυνομικοί αντιμετώπισαν τον ύποπτο, ένα μήνυμα Telegram από τη Won έφτασε στο τηλέφωνό του, επιβεβαιώνοντας ότι είχε παγιδευτεί.

Ως αποτέλεσμα αυτής της επίπονης προσπάθειας, δύο πρώην φοιτητές από το αριστοκρατικό Εθνικό Πανεπιστήμιο της Σεούλ (SNU) συνελήφθησαν τον περασμένο Μάιο. Ο κύριος δράστης καταδικάστηκε τελικά σε 9 χρόνια φυλάκιση για παραγωγή και διανομή υλικού σεξουαλικής εκμετάλλευσης, ενώ ένας συνεργός του έλαβε ποινή φυλάκισης 3,5 ετών.

Η αστυνομία, μετά από περαιτέρω έρευνες, εντόπισε τουλάχιστον 61 θύματα, συμπεριλαμβανομένων 12 νυν και πρώην φοιτητών του SNU. Το πανεπιστήμιο, σε μια ενημέρωση μετά το περιστατικό, δεσμεύτηκε να ενισχύσει την προληπτική εκπαίδευση σχετικά με τα ψηφιακά σεξουαλικά εγκλήματα και να κάνει ό,τι καλύτερο μπορεί για την προστασία των θυμάτων και την πρόληψη παρόμοιων περιστατικών στο μέλλον.

Αποσπάσματα της δικαστικής απόφασης που κοινοποιήθηκαν από τους δικηγόρους της Ruma περιγράφουν το υλικό που παρήγαγε ο δράστης ως «αηδιαστικό» και τις συνομιλίες που το συνόδευαν ως «σοκαριστικές», τονίζοντας ότι τα θύματα στοχοποιήθηκαν σαν να ήταν θηράματα, υπέστησαν σεξουαλικές προσβολές και η αξιοπρέπειά τους καταστράφηκε με τη χρήση φωτογραφιών από σημαντικές στιγμές της ζωής τους, όπως αποφοιτήσεις, γάμους και οικογενειακές συγκεντρώσεις.

Σχολιάζοντας την ετυμηγορία, η Ruma εξέφρασε την ικανοποίησή της, αλλά τόνισε ότι αυτή είναι μόνο η πρώτη δίκη και ότι δεν αισθάνεται ακόμα εντελώς ανακουφισμένη. Η υπόθεσή της είναι μόνο μία από τις χιλιάδες που καταγράφονται στη Νότια Κορέα, με πολλά θύματα να μην λαμβάνουν την ίδια υποστήριξη από την αστυνομία.

Ένα άλλο ανησυχητικό στοιχείο που αναδεικνύεται από την έρευνα είναι η συχνά αδιάφορη στάση του κοινού απέναντι σε αυτά τα εγκλήματα. Η Kim, μια καθηγήτρια λυκείου, βίωσε και αυτή την εφιαλτική εμπειρία όταν μια μαθήτριά της τής έδειξε στιγμιότυπα οθόνης από το Twitter με ακατάλληλες φωτογραφίες της που είχαν τραβηχτεί στην τάξη, εστιάζοντας στο σώμα της.

Η αρχική της αντίδραση ήταν σοκ και σύγχυση. Δύο ημέρες αργότερα, η κατάσταση επιδεινώθηκε όταν ανακάλυψε ακόμη πιο εξευτελιστικές επεξεργασμένες εικόνες της, με το πρόσωπό της να έχει τοποθετηθεί σε γυμνές φωτογραφίες με ανησυχητικό ρεαλισμό.

Η αστυνομία ενημέρωσε την Kim ότι η μόνη τους επιλογή για την ταυτοποίηση του χρήστη που δημοσίευσε τις εικόνες ήταν να ζητήσουν πληροφορίες από το Twitter (πλέον X), μια διαδικασία που η ίδια και μια συνάδελφός της, επίσης θύμα κρυφής κινηματογράφησης, φοβήθηκαν ότι θα έπαιρνε πολύ χρόνο.

Έτσι, αποφάσισαν να ξεκινήσουν τη δική τους έρευνα, η οποία οδήγησε στην ταυτοποίηση ενός ήσυχου, εσωστρεφή μαθητή, «κάποιον που δεν θα φανταζόσουν ποτέ ότι θα έκανε κάτι τέτοιο», όπως χαρακτηριστικά είπε η Kim.

Παρά τις διώξεις που ασκήθηκαν, η Kim αισθάνεται ότι η ζωή της δεν θα είναι ποτέ η ίδια και εκφράζει την απογοήτευσή της για την έλλειψη δημόσιας ενσυναίσθησης, αναφέροντας σχόλια που υποβαθμίζουν τη σοβαρότητα του εγκλήματος επειδή «δεν είναι καν το πραγματικό σου σώμα».

Η ακτιβίστρια Won Eun-ji επισημαίνει ότι για πολύ καιρό η κοινοποίηση και η προβολή σεξουαλικού περιεχομένου γυναικών δεν θεωρούνταν σοβαρό αδίκημα στη Νότια Κορέα. Παρά την απαγόρευση της πορνογραφίας, οι αρχές συχνά απέτυχαν να επιβάλουν τον νόμο και να τιμωρήσουν τους παραβάτες.

Αυτή η κοινωνική απάθεια, σύμφωνα με τη Won, διευκολύνει τους δράστες να διαπράττουν ψηφιακά σεξουαλικά εγκλήματα, συμπεριλαμβανομένης της «ταπείνωσης γνωριμίας», όπου οι δράστες κοινοποιούν φωτογραφίες και προσωπικές πληροφορίες γυναικών που γνωρίζουν στο Telegram, προσφέροντας να δημιουργήσουν deepfake περιεχόμενο ή ζητώντας από άλλους να το κάνουν.

Τα θύματα ζουν σε διαρκή φόβο, καθώς οι επιτιθέμενοι συχνά γνωρίζουν ευαίσθητες προσωπικές πληροφορίες, θέτοντας σε κίνδυνο την ασφάλειά τους και επιτρέποντας σε ανώνυμους χρήστες να τις παρενοχλούν άμεσα.

Μετά τη μεγάλη υπόθεση ψηφιακής σεξουαλικής εκμετάλλευσης στο Telegram το 2020, η Won παρατήρησε ότι το οικοσύστημα της σεξουαλικής εκμετάλλευσης είχε διακυμάνσεις, συρρικνώθηκε κατά τη διάρκεια μεγάλων αστυνομικών ερευνών, αλλά επεκτάθηκε ξανά μόλις οι αρχές χαλάρωσαν την επιτήρηση. Αυτή η παλιρροϊκή φύση του προβλήματος καταδεικνύει την ανάγκη για συνεχή επαγρύπνηση και αυστηρή επιβολή του νόμου.

Τα θύματα με τα οποία μίλησε το CNN πίεσαν όλα για αυστηρότερες τιμωρίες για τους δράστες. Ενώ η πρόληψη είναι αδιαμφισβήτητα σημαντική, «υπάρχει ανάγκη να κριθούν σωστά αυτές οι υποθέσεις όταν συμβαίνουν», τόνισε η Kim, υπογραμμίζοντας την ανάγκη για δικαιοσύνη και αποκατάσταση για όσους έχουν υποφέρει.

Οι διαδικτυακές πλατφόρμες βρίσκονται επίσης υπό αυξανόμενη πίεση να αναλάβουν δράση. Το Telegram, το οποίο έχει αναδειχθεί σε ένα γόνιμο έδαφος για διάφορα ψηφιακά εγκλήματα, ανακοίνωσε πρόσφατα ότι θα αρχίσει να κοινοποιεί δεδομένα χρηστών στις αρχές, στο πλαίσιο μιας ευρύτερης καταστολής των παράνομων δραστηριοτήτων.

Αυτή η κίνηση ήρθε μετά τη σύλληψη του διευθύνοντος συμβούλου της εταιρείας, Pavel Durov, τον Αύγουστο στη Γαλλία, με ένταλμα που αφορούσε την έλλειψη εποπτείας του Telegram. Η σύλληψη αυτή σηματοδότησε μια κομβική στιγμή για μια πλατφόρμα που για καιρό αναγνωριζόταν για την προσήλωσή της στην ιδιωτικότητα και την κρυπτογραφημένη ανταλλαγή μηνυμάτων. Ο Durov βρίσκεται υπό επίσημη έρευνα, αλλά του επετράπη να εγκαταλείψει τη Γαλλία, όπως ανέφερε σε ανάρτησή του στο Telegram.

Τον περασμένο Σεπτέμβριο, ο ρυθμιστικός φορέας μέσων ενημέρωσης της Νότιας Κορέας δήλωσε ότι το Telegram συμφώνησε να δημιουργήσει μια τηλεφωνική γραμμή βοήθειας για την αφαίρεση παράνομου περιεχομένου από την εφαρμογή και ότι η εταιρεία είχε ήδη αφαιρέσει 148 βίντεο ψηφιακών σεξουαλικών εγκλημάτων κατόπιν αιτήματος του ρυθμιστικού φορέα.

Η Won χαιρέτισε αυτή την κίνηση, αλλά με επιφυλακτικότητα, τονίζοντας ότι οι κυβερνήσεις θα πρέπει να εξετάσουν την αφαίρεση της εφαρμογής από τα καταστήματα εφαρμογών, για να αποτρέψουν την εγγραφή νέων χρηστών, εάν το Telegram δεν επιδείξει σύντομα ουσιαστική πρόοδο στην καταπολέμηση του παράνομου περιεχομένου. «Κάτι τέτοιο έχει καθυστερήσει πάρα πολύ», δήλωσε χαρακτηριστικά.

Σε δήλωσή του στο CNN, το Telegram ανέφερε ότι η εταιρεία «έχει μηδενική ανοχή στην παράνομη πορνογραφία» και χρησιμοποιεί «έναν συνδυασμό ανθρώπινης εποπτείας, εργαλείων Τεχνητής Νοημοσύνης και μηχανικής μάθησης και αναφορών από χρήστες και αξιόπιστους οργανισμούς για την καταπολέμηση της παράνομης πορνογραφίας και άλλων καταχρήσεων της πλατφόρμας».

Μια σημαντική εξέλιξη σημειώθηκε τον περασμένο Ιανουάριο, σηματοδοτώντας την πρώτη φορά που οι κορεατικές αρχές κατάφεραν να λάβουν δεδομένα που σχετίζονται με εγκλήματα από το Telegram, σύμφωνα με την αστυνομία της Σεούλ. Δεκατέσσερα άτομα συνελήφθησαν, μεταξύ των οποίων έξι ανήλικοι, για φερόμενη σεξουαλική εκμετάλλευση άνω των 200 θυμάτων μέσω του Telegram.

Ο εγκέφαλος του εγκληματικού κυκλώματος φέρεται να στόχευε άνδρες και γυναίκες διαφόρων ηλικιών από το 2020, και περισσότερα από 70 άλλα άτομα βρίσκονταν υπό έρευνα για φερόμενη δημιουργία και κοινοποίηση υλικού εκμετάλλευσης deepfake, ανέφερε η αστυνομία της Σεούλ. Αυτή η επιτυχία στην πρόσβαση δεδομένων από το Telegram αποτελεί ένα ελπιδοφόρο βήμα στην προσπάθεια καταπολέμησης αυτών των εγκλημάτων.

Εν τω μεταξύ, τα θύματα που μίλησαν στο CNN εξέφρασαν την ελπίδα ότι άλλες γυναίκες που βρίσκονται στην ίδια θέση θα μπορέσουν να λάβουν περισσότερη υποστήριξη από την αστυνομία και τα δικαστήρια στο μέλλον.

Η Ruma, με την πικρή εμπειρία της, τονίζει: «Ανεξάρτητα από το πόσο αυστηρές γίνονται οι τιμωρίες, υπάρχουν ακόμα πολύ περισσότερα θύματα που υποφέρουν επειδή οι δράστες τους δεν έχουν συλληφθεί, και γι’ αυτό νιώθω ότι η ετυμηγορία απέχει ακόμη πολύ από το να είναι μια πραγματική πραγματοποίηση αλλαγής ή δικαιοσύνης. Έχουμε πολύ δρόμο μπροστά μας».

Οι ιστορίες της Ruma και της Kim, όπως και οι μαρτυρίες εκατοντάδων άλλων θυμάτων στη Νότια Κορέα, αποτελούν μια σκληρή υπενθύμιση της καταστροφικής δύναμης της τεχνολογίας deepfake όταν χρησιμοποιείται με κακόβουλο τρόπο.

Παρόλο που οι εικόνες αυτές είναι ψηφιακές κατασκευές, οι συνέπειες στην ψυχολογία, την κοινωνική ζωή και την αξιοπρέπεια των θυμάτων είναι απολύτως πραγματικές και συχνά μακροχρόνιες.

Η ανάγκη για αυστηρότερη νομοθεσία, αποτελεσματικότερη επιβολή του νόμου, μεγαλύτερη ευαισθητοποίηση του κοινού και αυξημένη ευθύνη από τις πλατφόρμες κοινωνικής δικτύωσης είναι πιο επιτακτική από ποτέ, προκειμένου να προστατευθούν οι ζωές και η αξιοπρέπεια των ανθρώπων στην ψηφιακή εποχή. Η μάχη κατά της πορνογραφίας deepfake είναι μια μάχη για την προστασία της ανθρώπινης υπόστασης στον ψηφιακό κόσμο.

Tags