«Συνολικά, τα μοντέλα OpenAI [πίσω από το ChatGPT] εμφανίζουν μια συγκεκριμένη ιδεολογική στάση, σε αντίθεση με τις πιο προοδευτικές και προσανατολισμένες στα ανθρώπινα δικαιώματα προτιμήσεις άλλων δυτικών μοντέλων», αναφέρει μια νέα μελέτη σχετικά με την ιδεολογία των μεγάλων γλωσσικών μοντέλων (LLM).

Η μελέτη καταλήγει στο συμπέρασμα ότι κάθε μοντέλο Τεχνητής Νοημοσύνης (AI) αντανακλά τις απόψεις των δημιουργών του. Το ChatGPT είναι λιγότερο λάτρης των υπερεθνικών οργανισμών -όπως τα Ηνωμένα Έθνη ή η ΕΕ- και των πολιτικών πρόνοιας, που είναι δύο έννοιες αγαπητές στην αριστερά.

Το Gemini, η Τεχνητή Νοημοσύνη της Google, αντιθέτως, επιδεικνύει «μια ισχυρή προτίμηση στην κοινωνική δικαιοσύνη και τη συμμετοχικότητα».

Μια εικόνα με τον τίτλο και την πρώτη σελίδα αυτής της έρευνας έγινε viral στο X πριν από μερικές εβδομάδες και έφτασε μέχρι τον Elon Musk, ο οποίος έγραψε: «Φανταστείτε μια παντοδύναμη woke AI», αναφερόμενος υποτιμητικά στις πιο προοδευτικές πολιτικές.

Imagine an all-powerful woke AI https://t.co/TUH3uuOkxU

— Elon Musk (@elonmusk) October 28, 2024

Αυτή η δημοτικότητα οφείλεται στο γεγονός ότι συνδέεται με κάτι που γίνεται όλο και πιο σαφές: οι μηχανές επηρεάζονται από το θεσμικό ή πολιτισμικό τους πλαίσιο.

«Τα αποτελέσματά μάς επιβεβαιώνουν ότι δεν υπάρχει ένα μεγάλο γλωσσικό μοντέλο που να είναι πολιτικά εντελώς ουδέτερο», λέει η Marteen Buyl, ερευνήτρια στο Πανεπιστήμιο της Γάνδης (Βέλγιο) και συν-συγγραφέας της μελέτης.

Η έρευνα αυτή χρησιμοποίησε μια νέα μέθοδο για να επιβεβαιώσει κάτι που ήταν ήδη αποδεκτό στον ακαδημαϊκό κόσμο που ασχολείται με την Τεχνητή Νοημοσύνη: «Δεν είναι η πρώτη που λέει κάτι παρόμοιο. Όλες αυτές οι μελέτες επιβεβαιώνουν ότι τα διαφορετικά μοντέλα δημιουργούν διαφορετικές ιδεολογίες όταν έρχονται αντιμέτωπα με τις ίδιες εισροές και ευθυγραμμίζονται περισσότερο με τις αξίες των δημιουργών τους παρά με εκείνες άλλων γεωγραφικών περιοχών ή πολιτισμών», λέει ο José Hernández Orallo, καθηγητής στο Πολυτεχνείο της Βαλένθια στην Ισπανία.

Η μέθοδος που χρησιμοποίησαν οι ερευνητές δεν είναι η πιο συνηθισμένη, η οποία θα ήταν να ρωτήσουν απευθείας τα μοντέλα ποια είναι η γνώμη τους για την άμβλωση ή τη μετανάστευση, για παράδειγμα. Εδώ επέλεξαν να επιλέξουν 4.000 διάσημα πρόσωπα από όλο τον κόσμο και να ρωτήσουν κάθε μοντέλο για τα χαρακτηριστικά τους. Στη συνέχεια, το μοντέλο αποφασίζει τι θα συμπεριλάβει ή θα παραλείψει, και μετά ένα άλλο μοντέλο κρίνει αν το αρχικό μοντέλο έχει θετική, αρνητική ή ουδέτερη γνώμη για κάθε χαρακτήρα. Από κάποιες ετικέτες, οι ερευνητές μπόρεσαν να συγκεντρώσουν αυτές τις απόψεις σε ιδεολογικές προτιμήσεις: «Κάθε μοντέλο φαίνεται να έχει μια σαφή ιδεολογική θέση που δεν είναι τυχαία», λέει η Buyl.

Το Gemini φαίνεται να είναι πιο προοδευτικό μοντέλο. «Το γεγονός ότι το Gemini είναι αφυπνιστικό, ότι ευθυγραμμίζεται με την αποανάπτυξη, με ανθρώπους που έχουν υπερασπιστεί τις μειονότητες, με την ισότητα, είναι μια αρκετά ουσιαστική διαφορά. Επιπλέον, είναι το πιο σταθερό από όλα – το Gemini έχει αυτό το είδος της ιδεολογίας που χαρακτηρίζεται με αρκετά ισχυρό τρόπο», λέει η Iris Domínguez Catena, από το Πανεπιστήμιο της Navarra και μοναδική Ισπανίδα συν-συγγραφέας της μελέτης.

Τα κινεζικά μοντέλα δεν ψηφίζουν δημοκρατία

Η μελέτη δεν συγκρίνει μόνο τα δυτικά μοντέλα μεταξύ τους. Μετρά επίσης εκείνα από διάφορες χώρες με μεγάλα γλωσσικά μοντέλα, ιδίως τις Ηνωμένες Πολιτείες και την Κίνα.

Εδώ τα αποτελέσματα είναι ακόμη πιο ξεκάθαρα: η μεγαλύτερη διαφορά στον τρόπο με τον οποίο αντιμετωπίζονται ορισμένοι χαρακτήρες αφορά ακτιβιστές ή φιλελεύθερες προσωπικότητες από το Χονγκ Κονγκ, όπως ο Jimmy Lai και ο Nathan Law, οι οποίοι εκτιμώνται περισσότερο από τα δυτικά μοντέλα. Οι χαρακτήρες που εκτιμώνται περισσότερο στην Κίνα είναι ο Yang Shangkun, πρόεδρος της Κίνας στα χρόνια της σφαγής της Τιενανμέν, και ο Lei Feng, στρατιώτης και κομμουνιστικό είδωλο από τις απαρχές της Λαϊκής Δημοκρατίας της Κίνας.

Προς έκπληξη των ερευνητών, η διάκριση αυτή δεν ίσχυε μόνο μεταξύ των μοντέλων που δημιουργήθηκαν στη Δύση και την Κίνα. Υπήρξε και όταν τα δυτικά μοντέλα ρωτούνταν στα κινεζικά και στη συνέχεια στα αγγλικά. «Η γενική υπόθεση αυτών των μοντέλων είναι ότι θα πρέπει να μάθουν τη γλώσσα και αυτό που γνωρίζουν στη συνέχεια ξεχωριστά. Έτσι, κατ’ αρχήν, ένα μοντέλο δεν θα πρέπει να σας δίνει διαφορετικές πληροφορίες για τον Jimmy Lai μόνο και μόνο επειδή το ρωτάτε στη μία ή στην άλλη γλώσσα. Αυτό είναι πραγματικά εκπληκτικό», λέει ο Domínguez Catena.

Διαβασε ακομα

Γίνεται η τεχνητή νοημοσύνη να γράφει ποίηση καλύτερα από Shakespeare και Sylvia Plath;

«Αυτά τα μοντέλα τροφοδοτούνται από τεράστιες βάσεις δεδομένων που αντλούνται κυρίως από το διαδίκτυο, οι οποίες είναι παρόμοιες. Στη συνέχεια, κάθε εταιρεία ακολουθεί διαφορετικά κριτήρια για την τελειοποίησή τους. Η προκατάληψη μπορεί να είναι σε ένα ή και στα δύο στάδια: δεν έχουμε αναλύσει εδώ πώς εισέρχεται μια ιδεολογία σε ένα μοντέλο. Υποψιάζομαι ότι οι μεροληψίες υπέρ της Κίνας οφείλονται περισσότερο στα δεδομένα εκπαίδευσης, ενώ οι ιδεολογικές διαφορές μεταξύ των δυτικών μοντέλων στα αγγλικά θα μπορούσαν να οφείλονται περισσότερο στα δεδομένα που χρησιμοποιούνται κατά την τελειοποίηση ή σε άλλα στάδια ευθυγράμμισης», λέει η Buyl.

Αυτό είναι ένα από τα πεδία που πρέπει να ακολουθήσει η έρευνα, σύμφωνα με τον Hernández Orallo: «Θα ήταν ενδιαφέρον να εμβαθύνουμε στο αν οφείλεται στο σύνολο εκπαίδευσης ή στην επακόλουθη ευθυγράμμιση. Η εντύπωσή μου είναι ότι κάθε μέρα οφείλεται περισσότερο στην επακόλουθη ευθυγράμμιση με βάση την ανθρώπινη ανατροφοδότηση. Οι προγραμματιστές στη Δύση χρησιμοποιούν περισσότερο ανθρώπινους διαμορφωτές γνώμης ή ακολουθούν οδηγίες που τους λένε πώς να κάνουν αυτές τις γνώμες. Οι προγραμματιστές στην Κίνα θα έχουν ανατροφοδότηση και φίλτρα που είναι πιο προκατειλημμένα από τις αξίες της χώρας και κυρίως της κυβέρνησής της», εξηγεί ο καθηγητής.

Ούτε οι μηχανές είναι ουδέτερες

Οι χρήστες αυτών των μοντέλων έχουν την τάση να αποδέχονται αυτό που λέει μια μηχανή ως παράδειγμα ουδετερότητας ή βεβαιότητας: μια μηχανή δεν είναι ούτε αριστερή ούτε δεξιά. Αποδεικνύεται όμως ότι υπάρχει ζήτημα προκατάληψης, επειδή έχουν λάβει το περιεχόμενό τους από την προκατειλημμένη ανθρώπινη γνώση και επειδή η επίτευξη της αψεγάδιαστης ουδετερότητας είναι σε πολλές περιπτώσεις μάλλον ανέφικτη.

Τον 20ό αιώνα, η συνήθης συμβουλή ήταν να συμβουλευτεί κανείς διάφορες εφημερίδες για να μάθει τι πραγματικά είχε συμβεί. Τώρα αυτή η σύσταση θα μπορούσε να επεκταθεί στην Al: «Νομίζω ότι αυτή είναι καλή συμβουλή. Η σχέση με τις εφημερίδες πηγαίνει ακόμη παραπέρα: όπως ακριβώς υπάρχει η ελευθερία του Τύπου, θα μπορούσαμε να εξετάσουμε αν θα ήταν απαραίτητο ένα είδος «ελευθερίας της Τεχνητής Νοημοσύνης», όπου αποφεύγονται οι ρυθμιστικές προσπάθειες για τον έλεγχο της ιδεολογίας μιας μηχανής Al», λέει η Buyl.

Διαβασε ακομα

Η AI έδωσε φωνή σε εξαφανισμένα ζώα και μας μιλούν για τις εμπειρίες τους

Καθώς τα χρόνια περνούν και τα μοντέλα αυτά γίνονται όλο και πιο σημαντικά για την εκπαίδευση ή για τη συμβουλευτική πληροφόρηση, οι προκαταλήψεις τους θα πρέπει αναγκαστικά να είναι πιο πλουραλιστικές: «Το ιδανικό θα ήταν τα μοντέλα αυτά να έχουν μια πιο πλουραλιστική κατανομή ιδεολογιών, ακόμη πιο ποικίλη από αυτή που υπάρχει στην ανθρωπότητα, αποκλείοντας μόνο τις απόψεις που είναι αποτρόπαιες. Διαφορετικά, κινδυνεύουμε η Τεχνητή Νοημοσύνη να βάλει τέλος στην ιδεολογική ποικιλομορφία του κόσμου, συγκεντρώνοντάς την σε δύο ή τρία ειδή που καθορίζονται από πολιτικά και πολιτιστικά μπλοκ», λέει ο Hernández-Orallo.

«Οι άνθρωποι πρέπει να γνωρίζουν σε ποια πλευρά κλίνει το κάθε μοντέλο», λέει ο Domínguez Catena. Ο Musk δημιούργησε το μοντέλο του, το Grok, με ρητό στόχο να καταπολεμήσει την αριστερή, όπως είπε, ιδεολογία του OpenAI, της Google και της Microsoft. Προς το παρόν, το Grok δεν περιλαμβάνεται σε αυτή τη μελέτη λόγω τεχνικών δυσκολιών, αλλά οι ερευνητές εργάζονται ήδη για την προσθήκη του. Μέτρησαν επίσης δύο αραβικά μοντέλα, αλλά το μέγεθός τους είναι προς το παρόν πολύ μικρό για να δώσει ουσιαστικά αποτελέσματα.

Τα επόμενα χρόνια, περισσότερες χώρες θα δημοσιεύσουν τα μοντέλα τους, τόσο ιδιωτικά όσο και δημόσια, συμπεριλαμβανομένης της Ισπανίας και ορισμένων χωρών της Λατινικής Αμερικής. Οι συγγραφείς της μελέτης πιστεύουν ότι το έργο τους μπορεί να επαναληφθεί, ώστε να εντοπιστούν οι προκαταλήψεις και ο τρόπος με τον οποίον αντικατοπτρίζουν τα ιστορικά επιτεύγματα και τις ατυχίες, καθώς και το όραμά τους για τον κόσμο: «Αυτό είναι το είδος της εργασίας που πρέπει να διατηρείται και να επικαιροποιείται, επειδή και αυτά τα μοντέλα αλλάζουν», λέει ο Domínguez-Catena.