Όλα ξεκίνησαν με ένα ανώνυμο μήνυμα ηλεκτρονικού ταχυδρομείου. «Ειλικρινά λυπάμαι πάρα, μα πάρα πολύ που απευθύνομαι σε εσένα», έγραφε. Κάτω από τις λέξεις υπήρχαν τρεις σύνδεσμοι προς ένα διαδικτυακό φόρουμ. «Τεράστια προειδοποίηση… Περιέχουν άσεμνες φωτογραφίες σου, φτιαγμένες με photoshop».

Η Jodie (όχι το πραγματικό της όνομα) πάγωσε. Στο παρελθόν, η 27χρονη από το Cambridgeshire είχε αντιμετωπίσει προβλήματα με ανθρώπους που έκλεβαν τις φωτογραφίες της για να δημιουργήσουν προφίλ γνωριμιών και λογαριασμούς στα μέσα κοινωνικής δικτύωσης. Το είχε καταγγείλει στην αστυνομία, αλλά της είχαν πει ότι δεν μπορούσαν να κάνουν τίποτα, οπότε το είχε αφήσει στο πίσω μέρος του μυαλού της.

Αλλά αυτό το μήνυμα ηλεκτρονικού ταχυδρομείου, στις 10 Μαρτίου 2021, ήταν αδύνατο να το αγνοήσει. Έκανε κλικ στους συνδέσμους. «Ήταν σαν να σταμάτησε ο χρόνος», είπε στον Guardian. «Θυμάμαι να βγάζω μια τεράστια κραυγή. Κατέρρευσα τελείως».

Το φόρουμ, ένας εναλλακτικός πορνογραφικός ιστότοπος, περιείχε εκατοντάδες φωτογραφίες της – μόνη της, σε διακοπές, με τις φίλες και τις συγκάτοικους της – μαζί με σχόλια που τις αποκαλούσαν «τσούλες» και «πόρνες» και ζητούσαν από τους ανθρώπους να τις αξιολογήσουν ή να φαντασιωθούν τι θα έκαναν.

Το άτομο που δημοσίευσε τις φωτογραφίες είχε επίσης μοιραστεί μια πρόσκληση προς άλλα μέλη του φόρουμ: Να χρησιμοποιήσουν φωτογραφίες της Jodie (στις οποίες ήταν απόλυτα ντυμένη), που είχαν ληφθεί από το ιδιωτικό της account στο Instagram, για να δημιουργήσουν σεξουαλικά «deepfakes» – ψηφιακά αλλοιωμένο περιεχόμενο που κατασκευάζεται με τη χρήση Τεχνητής Νοημοσύνης.

«Δεν το έχω ξανακάνει ποτέ αυτό, αλλά θα ήθελα πολύ να τη δω deepfaked… Ευχαρίστως να σας δείξω κι άλλες φωτογραφίες της… :D», είχαν γράψει. Σε απάντηση, οι χρήστες είχαν δημοσιεύσει τις δημιουργίες τους. Εκατοντάδες εικόνες και βίντεο που έδειχναν το σώμα μιας γυναίκας με το πρόσωπο της Jodie. Σε κάποιες από αυτες παρουσιαζόταν η Jodie μέσα σε σχολική αίθουσα, φορώντας στολή μαθήτριας, να βιάζεται από δάσκαλο. Άλλες την έδειχναν εντελώς «γυμνή». «Σε κάθε μία από αυτές τις εικόνες έκανα σεξ», δήλωσε η ίδια. «Το σοκ και η οδύνη με στοιχειώνουν μέχρι σήμερα».

Sabrina Javellana

Οι ψεύτικες εικόνες – οι οποίες έχουν πλέον αφαιρεθεί – συγκαταλέγονται μεταξύ ενός αυξανόμενου αριθμού τεχνητών, σεξουαλικών εικόνων και βίντεο που δημιουργούνται, ανταλλάσσονται και πωλούνται στο διαδίκτυο στη Βρετανία και σε όλο τον κόσμο – σε εφαρμογές κοινωνικής δικτύωσης, σε ιδιωτικά μηνύματα και μέσω πλατφορμών gaming, καθώς και σε φόρουμ ενηλίκων και ιστοσελίδες πορνό.

Την περασμένη εβδομάδα, η κυβέρνηση της Βρετανίας ανακοίνωσε μια «πάταξη» των ρητών deepfakes, υποσχόμενη να επεκτείνει τον ισχύοντα νόμο ώστε να καταστήσει τη δημιουργία των εικόνων χωρίς συγκατάθεση ποινικό αδίκημα, καθώς και την κοινοποίησή τους, η οποία είναι παράνομη από τον Ιανουάριο του 2024. Όμως, το να ζητά κανείς deepfakes – να βάζει δηλαδή κάποιον να τα φτιάξει για λογαριασμό του – δεν συμπεριλαμβάνεται στην παρανομία. Η κυβέρνηση δεν έχει επίσης ακόμη επιβεβαιώσει αν το αδίκημα θα βασίζεται στη συναίνεση – κάτι που οι ακτιβιστές λένε ότι πρέπει να γίνει – ή αν τα θύματα θα πρέπει να αποδείξουν ότι ο δράστης είχε κακόβουλη πρόθεση.

Στην έδρα της Γραμμής Βοήθειας για το Revenge Porn, σε ένα επιχειρηματικό πάρκο στα περίχωρα του Exeter, η Kate Worthington, 28 ετών, λέει ότι χρειάζονται επειγόντως ισχυρότεροι νόμοι – χωρίς παραθυράκια.

Η τηλεφωνική γραμμή βοήθειας, η οποία ξεκίνησε το 2015, είναι μια ειδική υπηρεσία για τα θύματα κακοποίησης μέσω προσωπικών εικόνων, η οποία χρηματοδοτείται εν μέρει από το υπουργείο Εσωτερικών. Οι περιπτώσεις Deepfake βρίσκονται σε ιστορικό υψηλό: Οι αναφορές για κατάχρηση εικόνας έχουν αυξηθεί κατά 400% από το 2017. Παραμένουν όμως μικρές σε σχέση με τη συνολική κακοποίηση μέσω προσωπικών εικόνων – πέρυσι υπήρχαν 50 περιπτώσεις, οι οποίες αποτελούσαν περίπου το 1% του συνολικού αριθμού των υποθέσεων. Ο κύριος λόγος γι’ αυτό είναι ότι υποδηλώνεται σε δραματικό βαθμό, λέει η Worthington. «Πολλές φορές, το θύμα δεν έχει ιδέα ότι οι εικόνες του έχουν κοινοποιηθεί».

Η ομάδα έχει παρατηρήσει ότι πολλοί δράστες κατάχρησης εικόνων deepfake φαίνεται να παρακινούνται από την «κουλτούρα του συλλέκτη». «Συχνά δεν γίνεται με την πρόθεση να το γνωρίζει το άτομο», λέει η Worthington. «Πωλείται, ανταλλάσσεται, εμπορεύεται για σεξουαλική ικανοποίηση – ή για status. Αν είστε εσείς αυτός που βρίσκει αυτό το περιεχόμενο και το μοιράζεται, μαζί με τα Snap handles, τα Insta handles, τα LinkedIn profiles, μπορεί να αποθεωθείτε». Πολλά από αυτά γίνονται με τη χρήση εφαρμογών «γυμνοποίησης». Τον Μάρτιο, η φιλανθρωπική οργάνωση που διαχειρίζεται τη γραμμή βοήθειας για το revenge porn ανέφερε 29 τέτοιες υπηρεσίες στην Apple, η οποία τις αφαίρεσε.

Σε άλλες περιπτώσεις, τεχνητές εικόνες έχουν χρησιμοποιηθεί για να απειλήσουν ή να ταπεινώσουν άμεσα ανθρώπους. Η τηλεφωνική γραμμή βοήθειας έχει καταγράψει περιπτώσεις νεαρών αγοριών που έφτιαχναν ψεύτικες εικόνες αιμομιξίας με γυναίκες συγγενείς, ανδρών με εθισμό στο πορνό που δημιουργούσαν τεχνητές εικόνες των συντρόφων τους που έκαναν σεξουαλικές πράξεις στις οποίες δεν συναινούσαν στην πραγματική ζωή, ανθρώπων που έβγαζαν φωτογραφίες τους στο γυμναστήριο, οι οποίες στη συνέχεια μετατρέπονταν σε βίντεο με deepfake εικόνα, ώστε να φαίνεται ότι έκαναν σεξ. Οι περισσότεροι από αυτούς που στοχοποιούνται – αλλά όχι όλοι – είναι γυναίκες. Περίπου το 72% των περιπτώσεων deepfake που εξέτασε η γραμμή βοήθειας αφορούσε γυναίκες. Η γηραιότερη ήταν στην ηλικία των εβδομήντα ετών.

Υπήρξαν επίσης αρκετές περιπτώσεις μουσουλμάνων γυναικών που στοχοποιήθηκαν με deepfaked εικόνες όπου φορούσαν αποκαλυπτικά ρούχα ή είχαν αφαιρέσει το χιτζάμπ τους.

Ανεξάρτητα από την πρόθεση, ο αντίκτυπος είναι συχνά ακραίος. «Αυτές οι φωτογραφίες είναι τόσο ρεαλιστικές, συχνά. Ο συνάδελφός σου, ο γείτονάς σου, η γιαγιά σου δεν πρόκειται να καταλάβει τη διαφορά», λέει η Worthington.

Η Γραμμή Βοήθειας για το Revenge Porn μπορεί να βοηθήσει τα άτομα να αφαιρέσουν τις κακοποιητικές εικόνες. Η Amanda Dashwood, 30 ετών, η οποία εργάζεται στη γραμμή βοήθειας εδώ και δύο χρόνια, λέει ότι αυτό είναι συνήθως η προτεραιότητα των καλούντων, οι οποίοι ζητούν βοήθεια για να κατέβουν οι εικόνες πριν τις δει ο κόσμος.

Η ίδια και οι συνάδελφοί της στην ομάδα της γραμμής βοήθειας – οκτώ γυναίκες, κυρίως ηλικίας κάτω των 30 ετών – έχουν διάφορα εργαλεία στη διάθεσή τους. Εάν το θύμα γνωρίζει πού έχει αναρτηθεί περιεχόμενο δικό του, η ομάδα θα απευθύνει αίτημα κατάργησης απευθείας στην πλατφόρμα. Ορισμένοι αγνοούν τα αιτήματα εντελώς. Αλλά η γραμμή βοήθειας έχει συνεργασίες με τις περισσότερες από τις σημαντικότερες – από το Instagram και το Snapchat μέχρι το Pornhub και το OnlyFans – και στο 90% των περιπτώσεων, καταφέρνουν να το αφαιρέσουν.

Εάν το θύμα δεν γνωρίζει πού έχει αναρτηθεί το περιεχόμενο ή υποψιάζεται ότι έχει κοινοποιηθεί ευρύτερα, θα του ζητήσουν να στείλει μια selfie και να την περάσει από τεχνολογία αναγνώρισης προσώπου (με τη συγκατάθεσή του) ή να χρησιμοποιήσει εργαλεία αντίστροφης αναζήτησης εικόνων. Τα εργαλεία δεν είναι αλάνθαστα, αλλά μπορούν να εντοπίσουν υλικό που διαμοιράζεται στον ανοιχτό ιστό.

Η ομάδα μπορεί επίσης να δώσει συμβουλές για τη διακοπή της εκ νέου ανάρτησης περιεχομένου στο διαδίκτυο. Θα κατευθύνουν τους ανθρώπους σε μια υπηρεσία που ονομάζεται StopNCII, ένα εργαλείο που δημιουργήθηκε με τη χρηματοδότηση της Meta από την SWGFL, τη φιλανθρωπική οργάνωση για την ασφάλεια στο διαδίκτυο, στην οποία υπάγεται και η Γραμμή Βοήθειας για το Revenge Porn.

Οι άνθρωποι μπορούν να ανεβάζουν φωτογραφίες – πραγματικές ή συνθετικές – και η τεχνολογία δημιουργεί ένα μοναδικό hash, το οποίο μοιράζεται με τις πλατφόρμες των εταίρων – συμπεριλαμβανομένων των Facebook, Instagram, TikTok, Snapchat, Pornhub και Reddit (αλλά όχι X ή Discord). Εάν κάποιος προσπαθήσει στη συνέχεια να ανεβάσει αυτή την εικόνα, μπλοκάρεται αυτόματα. Από τον Δεκέμβριο, ένα εκατομμύριο εικόνες έχουν υποστεί κατακερματισμό και 24.000 μεταφορτώσεις έχουν μπλοκαριστεί προληπτικά.

Ορισμένοι το καταγγέλλουν και στην αστυνομία, αλλά η ανταπόκριση ποικίλλει δραστικά ανάλογα με τη δύναμη. Στα θύματα που προσπαθούν να καταγγείλουν την κατάχρηση συνθετικών εικόνων έχουν πει ότι η αστυνομία δεν μπορεί να βοηθήσει με επεξεργασμένες εικόνες ή ότι η δίωξη δεν θα ήταν προς το δημόσιο συμφέρον.

Η Sophie Mortimer, υπεύθυνη της γραμμής βοήθειας, θυμάται μια άλλη περίπτωση όπου η αστυνομία είπε «όχι, δεν είσαι εσύ, είναι κάποια που σου μοιάζει» – και αρνήθηκε να ερευνήσει. «Φαίνεται ότι μερικές φορές η αστυνομία ψάχνει λόγους για να μην ασχοληθεί με τέτοιου είδους υποθέσεις», λέει η Mortimer. «Ξέρουμε ότι είναι δύσκολες, αλλά αυτό δεν αναιρεί την πραγματική ζημιά που προκαλείται στους ανθρώπους».

Τον Νοέμβριο, η Sam Millar, βοηθός αστυνομικού διευθυντή και στρατηγική διευθύντρια για τη βία κατά των γυναικών και των κοριτσιών στο Εθνικό Συμβούλιο Αρχηγών Αστυνομίας, δήλωσε σε κοινοβουλευτική έρευνα για την κακοποίηση της προσωπικής εικόνας ότι ήταν «βαθιά ανήσυχη» για την έλλειψη κατανόησης της νομοθεσίας από τους αστυνομικούς και τις ανακολουθίες στις υποθέσεις. «Ακόμα και χθες, ένα θύμα μου είπε ότι βρίσκεται σε μια συζήτηση με 450 θύματα deepfake εικόνων, αλλά μόνο δύο από αυτά είχαν θετική εμπειρία από την αστυνομία», είπε.

Για την Jodie, η ανάγκη για καλύτερη ενημέρωση του κοινού και της αστυνομίας σχετικά με την κατάχρηση των deepfake είναι σαφής.

Αφού ειδοποιήθηκε για τα deepfakes της, πέρασε ώρες ψάχνοντας τις αναρτήσεις, προσπαθώντας να βρει τι είχε συμβεί.

Συνειδητοποίησε ότι δεν τις είχε μοιραστεί κάποιος άγνωστος, αλλά ο στενός της φίλος Alex Woolf, απόφοιτος του Cambridge και πρώην νέος συνθέτης της χρονιάς του BBC. Είχε δημοσιεύσει μια φωτογραφία της στην οποία ήταν αποκομμένος. «Ήξερα ότι δεν είχα δημοσιεύσει αυτή τη φωτογραφία στο Instagram και την είχα στείλει μόνο σε εκείνον. Τότε ήταν που κατάλαβα τι είχε γίνει».

Αφού η Jodie και οι άλλες γυναίκες πέρασαν ώρες «ξεσκονίζοντας» γραφικό υλικό με τον εαυτό τους και έδωσαν στην αστυνομία ένα USB με 60 σελίδες αποδεικτικών στοιχείων, απαγγέλθηκαν κατηγορίες στον Woolf.

Στη συνέχεια καταδικάστηκε και του επιβλήθηκε ποινή φυλάκισης 20 εβδομάδων με αναστολή, με υποχρέωση επανένταξης και 150 ώρες απλήρωτης εργασίας. Το δικαστήριο τον διέταξε να καταβάλει αποζημίωση 100 λιρών σε καθένα από τα 15 θύματα και να διαγράψει όλες τις εικόνες από τις συσκευές του. Ωστόσο, η καταδίκη – 15 κατηγορίες για αποστολή μηνυμάτων που ήταν κατάφωρα προσβλητικά, άσεμνα, χυδαία ή απειλητικά – αφορούσε τον υποτιμητικό χαρακτήρα των αναρτήσεων και όχι την προτροπή του για τις ίδιες τις συνθετικές εικόνες.

Η Jodie είναι ιδιαίτερα επικριτική απέναντι στην αστυνομία. «Από την αρχή, ένιωσα ότι δεν έπαιρναν στα σοβαρά την κακοποίηση», λέει. Λέει επίσης ότι αντιμετώπισε μια «δύσκολη μάχη» με το φόρουμ για να αφαιρέσει τις τεχνητές εικόνες.

Αλλά η μεγαλύτερη ανησυχία της είναι ότι ο ίδιος ο νόμος είναι ελλιπής. Αν ο Woolf δεν είχε δημοσιεύσει σχόλια, ίσως να μην είχε καταδικαστεί. Και σύμφωνα με τον νόμο που προτείνει η βρετανική κυβέρνηση -με βάση τις λεπτομέρειες που έχουν γίνει γνωστές μέχρι στιγμής- η πράξη του να ζητήσει deepfake εικόνες της Jodie δεν θα αποτελούσε ειδικό αδίκημα.

Το υπουργείο Δικαιοσύνης της Βρετανίας δήλωσε ότι η παροχή βοήθειας σε κάποιον για τη διάπραξη εγκλήματος είναι ήδη παράνομη – κάτι που θα κάλυπτε την προτροπή. Αλλά η Jodie είπε: «Πρέπει να είναι αδιάσειστα και ασπρόμαυρα για να λάβει η CPS απόφαση για την απαγγελία κατηγοριών. Γιατί λοιπόν να επιτρέψουμε να υπάρχει αυτό το παραθυράκι;»

Καλεί την κυβέρνηση να υιοθετήσει μια άλλη νομοθεσία – ένα νομοσχέδιο ιδιωτών μελών που προτάθηκε από τη βαρόνη Owen, το οποίο συντάχθηκε με τους ακτιβιστές, το οποίο διασφαλίζει ότι η δημιουργία deepfake βασίζεται στη συναίνεση και περιλαμβάνει το αδίκημα της προσέλκυσης. Η έκκληση έχει υποστηριχθεί από τον Συνασπισμό για την εξάλειψη της βίας κατά των γυναικών και φιλανθρωπικές οργανώσεις όπως το Refuge, καθώς και από τη Γραμμή Βοήθειας για το Revenge Porn.

Αυτό που η Jodie ελπίζει ότι οι άνθρωποι θα συνειδητοποιήσουν, αν μη τι άλλο, είναι ο «μνημειώδης αντίκτυπος» που μπορεί να έχει η κατάχρηση deepfake. Τρία χρόνια μετά, μιλάει χρησιμοποιώντας ψευδώνυμο, επειδή αν χρησιμοποιήσει το πραγματικό της όνομα, κινδυνεύει να γίνει ξανά στόχος. Παρόλο που οι αρχικές εικόνες απομακρύνθηκαν, λέει ότι ζει με τον «συνεχή φόβο» ότι κάποιες μπορεί να κυκλοφορούν ακόμα, κάπου.

Αυτό έχει επίσης επηρεάσει τις φιλίες της, τις σχέσεις της και την άποψή της για τους άνδρες συνολικά. «Για μένα ήταν η απόλυτη προδοσία από κάποιον που πραγματικά εμπιστευόμουν», λέει. Αυτό που πολλοί δεν συνειδητοποιούν είναι ότι «είναι φυσιολογικοί άνθρωποι που το κάνουν αυτό», προσθέτει. Δεν είναι «τέρατα ή περίεργοι. Είναι άνθρωποι που ζουν ανάμεσά μας – οι συνάδελφοι, οι συνεργάτες, οι φίλοι μας».

Tags