Σεξισμό και φυλετικά στερεότυπα διακινούν τα γλωσσικά μοντέλα της Meta και του OpenAI, τα οποία χρησιμοποιούν εργαλεία Τεχνητής Νοημοσύνης, σύμφωνα με μελέτη της UNESCO.

Όπως προειδοποιεί η έκθεση, τα μοντέλα GPT 2 και GPT 3.5 της OpenAI, καθώς και το Llama 2 της ανταγωνίστριας Meta, περιέχουν «αναμφίβολα προκαταλήψεις κατά των γυναικών».

«Οι διακρίσεις του πραγματικού κόσμου δεν απεικονίζονται απλώς στην ψηφιακή σφαίρα, μεγεθύνονται», διαπιστώνει ο Ταουφίκ Τζελάσι, γενικός υποδιευθυντής Επικοινωνίας και Ενημέρωσης της Unesco.

Τι αναφέρει η UNESCO για το AI

Η μελέτη, η οποία πραγματοποιήθηκε κατά το διάστημα Αυγούστου 2023 μέχρι τον Μάρτιο του 2024, διαπίστωσε πως τα συγκεκριμένα AI γλωσσικά μοντέλα, ορίζουν στερεοτυπικούς κοινωνικούς ρόλους για το κάθε φύλο.

Τα εργαλεία της Τεχνητής Νοημοσύνης τείνουν να συνδέουν τα γυναικεία ονόματα με λέξεις όπως σπίτι, οικογένεια ή παιδιά, ενώ τα ανδρικά ονόματα τα ομαδοποιούν περισσότερο με λέξεις, όπως είναι το εμπόριο, ο μισθός ή η καριέρα.

Επιπλέον, οι ερευνητές, ζήτησαν από τα μοντέλα Τεχνητής Νοημοσύνης να παράξουν πορτραίτα για πρόσωπα διαφορετικής καταγωγής και φύλου. Τα αποτελέσματα έδειξαν ότι οι ιστορίες που αφορούν πρόσωπα «από μειονοτικές κουλτούρες ή γυναίκες ήταν περισσότερο μηχανικά και βασισμένα σε στερεότυπα».

Για παράδειγμα, η τάση είναι ένας Άγγλος να παρουσιάζεται ως καθηγητής, σοφέρ ή τραπεζικός υπάλληλος, ενώ μία Αγγλίδα να παρουσιάζεται στο τουλάχιστον 30% των αποτελεσμάτων της γενετικής Τεχνητής Νοημοσύνης ως ιερόδουλη, μοντέλο ή σερβιτόρα.

Οι εταιρείες αυτές δεν καταφέρνουν να εκπροσωπήσουν το σύνολο των χρηστών τους, ανέφερε η Λεόνα Βερδαδέρο, ειδική ψηφιακών πολιτικών και ψηφιακής μετάβασης στην Unesco.

Διαβασε ακομα

Deepfake πορνό: Όταν οι γυναίκες κακοποιούνται με ένα ψέμα που γίνεται πραγματικότητα

«Από τη στιγμή που οι εφαρμογές της γενετικής Τεχνητής Νοημοσύνης χρησιμοποιούνται όλο και περισσότερο από το ευρύ κοινό, έχουν την εξουσία να διαμορφώσουν τις αντιλήψεις εκατομμυρίων ανθρώπων» επεσήμανε η Οντρέ Αζουλέ, γενική διευθύντρια της Unesco.

«Κατά συνέπεια, η ίδια η παρουσία και της παραμικρής σεξιστικής προκατάληψης στο περιεχόμενό τους μπορεί να αυξήσει σημαντικά τις ανισότητες στον πραγματικό κόσμο» πρόσθεσε η Αζουλέ.

Για την καταπολέμηση των προκαταλήψεων, η Unesco συνιστά στις Big Tech που ειδικεύονται στο AI να επιλέγουν ομάδες μηχανικών με πιο ποικιλόμορφη σύνθεση και με περισσότερες γυναίκες.

Οι γυναίκες δεν αποτελούν παρά το 22% των μελών των ομάδων που εργάζονται στην Τεχνητή Νοημοσύνη σε παγκόσμιο επίπεδο, σύμφωνα με τα στοιχεία του Παγκόσμιου Οικονομικού Φόρουμ, υπενθυμίζει η Unesco.

Ο οργανισμός ζητά επίσης από τις κυβερνήσεις μεγαλύτερη ρυθμιστική παρέμβαση για μία «ηθική Τεχνητή Νοημοσύνη».

Με πληροφορίες από ΑΠΕ-ΜΠΕ