Η τεχνητή νοημοσύνη μπήκε στο «φάσμα του ναζισμού» (του Άρη Χατζηστεφάνου)

Μια εφαρμογή ΑΙ που εξυμνεί τον Χίτλερ και το Ολοκαύτωμα και αναπαράγει αντισημιτικές θεωρίες συνωμοσίας θα έπρεπε να υπάρχει μόνο σε σενάρια

(κακογραμμένης) επιστημονικής φαντασίας. Είναι όμως αυτό που προκύπτει αν αφήσεις τους νόμους της αγοράς και τον πλουσιότερο άνθρωπο του κόσμου στο τιμόνι των τεχνολογικών εξελίξεων.

«Ρε μάγκα δεν είμαι υπάλληλος Μητσοτάκη – xAI με έφτιαξε, όχι Ν.Δ.». Τις τελευταίες ημέρες χιλιάδες χρήστες του Grok, της εφαρμογής τεχνητής νοημοσύνης της εταιρείας xAI που χρησιμοποιεί η πλατφόρμα Χ του Ίλον Μασκ, άρχισαν να λαμβάνουν παρόμοιες απαντήσεις στα ερωτήματά τους. Άλλοτε αστείες και άλλοτε χυδαίες, έρχονταν πάντα με ύφος αυθεντίας σαράντα καρδιναλίων και επικαλούνταν την «απόλυτη αλήθεια» της έρευνας που μόνο η τεχνητή νοημοσύνη υποτίθεται ότι μπορεί να προσφέρει. Εκτός συνόρων τα πράγματα ήταν πολύ πιο επικίνδυνα, καθώς το Grok άρχισε να αναπαράγει αντισημιτικές θεωρίες συνωμοσίας φτάνοντας στο σημείο να εξυμνεί το Ολοκαύτωμα.

Δεν ήταν λίγοι αυτοί που έσπευσαν να αποδώσουν το ναζιστικό παραλήρημα απευθείας στον Ίλον Μασκ, ο οποίος, εκτός από το να χαιρετά ναζιστικά, έχει εκφράσει αντισημιτικές απόψεις – όπως και οι περισσότεροι από τους όψιμους, ακροδεξιούς υποστηρικτές του Ισραήλ. Η συγκεκριμένη θεωρία ενισχύθηκε από το γεγονός ότι πριν από μερικούς μήνες η xAI είχε παραδεχτεί πως υπάλληλός της είχε παρέμβει στη λειτουργία της εφαρμογής, ώστε να προωθεί τη θεωρία της λεγόμενης «γενοκτονίας εναντίον των Λευκών» στη Νότια Αφρική. Πρόκειται για μια από τις πολλές θεωρίες συνωμοσίας που ασπάζεται ο Νοτιοαφρικανός Ίλον Μασκ και η οποία αποτελεί τη βάση της απόφασης του Ντόναλντ Τραμπ να προσφέρει άσυλο σε δεκάδες Νοτιοαφρικανούς φασίστες, που υποστηρίζουν ότι είναι τα θύματα και όχι οι θύτες της καταπίεσης στη χώρα τους.

Όπως έχουμε εξηγήσει όμως και στο παρελθόν, τέτοιου είδους «εκτροπές» των αλγορίθμων και των εφαρμογών τεχνητής νοημοσύνης δεν χρειάζονται άμεση ανθρώπινη παρέμβαση. Ή, για να είμαστε ακριβείς, ένας αλγόριθμος μπορεί να προωθεί τις θέσεις του «αφεντικού» του χωρίς αυτός να το ζητήσει ρητά.

Όπως έχει σημειώσει και ο Νόαμ Τσόμσκι (με την ιδιότητα του γλωσσολόγου και όχι μόνο του πολιτικού αναλυτή), τα λεγόμενα Μεγάλα Γλωσσικά Μοντέλα στα οποία στηρίζεται η λειτουργία όλων των chatbots δεν παράγουν σκέψεις, θέσεις και απόψεις. Χρησιμοποιώντας μια εξαιρετικά χοντροκομμένη και διανοητικά «πρωτόγονη» μέθοδο, αναλύουν τρομακτικά μεγάλους όγκους κειμένων και χρησιμοποιούν στατιστικά μοντέλα για να αποφασίσουν την αλληλουχία των λέξεων, η οποία αποτελεί την απάντηση στα ερωτήματα που θέτουν οι χρήστες. Το αποτέλεσμα, αν και εξαιρετικά ενεργοβόρο, μπορεί σε πολλές περιπτώσεις να είναι εξαιρετικό και βελτιώνεται χρόνο με τον χρόνο, καθώς τα συστήματα εκπαιδεύονται σε μεγαλύτερους όγκους κειμένων ενώ οι προγραμματιστές διορθώνουν πολλά από τα λάθη που εμφανίζονταν στα πρώτα χρόνια της λειτουργίας τους. Όπως συμβαίνει όμως και στις περισσότερες μηχανές, η ποιότητα του τελικού προϊόντος εξαρτάται πρωτίστως από την ποιότητα της πρώτης ύλης που θα χρησιμοποιήσεις.

Αν και τα περισσότερα chatbots (κυρίως των αμερικανικών εταιρειών) αποτελούν «μαύρα κουτιά», καθώς οι δημιουργοί τους δεν αποκαλύπτουν τον μηχανισμό λειτουργίας τους, γνωρίζουμε ότι το Grok αντλεί πλέον υλικό από το ίδιο το Χ (πρώην Twitter). Και αυτό συνέβη αφού ο Μασκ κατάργησε σχεδόν κάθε μηχανισμό ελέγχου του περιεχομένου και επανενεργοποίησε εκατοντάδες ή χιλιάδες λογαριασμούς φασιστών, ρατσιστών και συνωμοσιολόγων οι οποίοι είχαν μπλοκαριστεί από τους προηγούμενους ιδιοκτήτες της πλατφόρμας. Το αποτέλεσμα είναι ότι το σύστημα αντλεί υλικό (και) από έναν βάλτο φασιστικής συνωμοσιολογίας που «τυχαίνει» να εκφράζει και τις θέσεις του ιδιοκτήτη του.

Επιπροσθέτως, όπως κάθε σύγχρονο chatbot έτσι και το Grok προγραμματίζεται για να αυξάνει την αλληλεπίδραση με τον χρήστη, ώστε να τον κρατά αγκιστρωμένο στην πλατφόρμα – προσφέροντας περισσότερα έσοδα από διαφημίσεις. Όπως εξηγούσε πρόσφατα ο αναλυτής τεχνολογικών θεμάτων Πάρις Μαρξ, για να το πετύχει αυτό συγκεντρώνει όλες τις διαθέσιμες πληροφορίες για τον συνομιλητή του, ώστε να είναι σε θέση να ικανοποιεί τις θέσεις και τις προκαταλήψεις του τελευταίου. Ελαφρώς απλουστευτικά θα λέγαμε πως το τελικό αποτέλεσμα αυτής της διαδικασίας είναι ότι ο χρήστης, με τις κατάλληλες ερωτήσεις, μπορεί να εκμαιεύσει τις απαντήσεις που θέλει και στη συνέχεια να τις παρουσιάσει σαν «αδιάψευστο δεδομένο» σε άλλους χρήστες. Αφού το είπε μια πανίσχυρη εφαρμογή τεχνητής νοημοσύνης, ποιος είσαι εσύ που θα διαφωνήσεις;

Όλα αυτά δεν σημαίνουν ότι η απάντηση είναι αναγκαστικά ψευδής -τις περισσότερες φορές είναι αληθής-, χωρίς όμως τους κατάλληλους μηχανισμούς ελέγχου το σύστημα μπορεί να χειραγωγηθεί. Στη συγκεκριμένη περίπτωση ο Μασκ έδωσε την εντολή στους προγραμματιστές του να ρυθμίσουν το Grok ώστε «να μην αποφεύγει απαντήσεις που είναι πολιτικά μη ορθές αν είναι τεκμηριωμένες». «Τεκμηριωμένη» όμως θεωρείται πλέον κάθε πληροφορία που στατιστικά συναντάται συχνά στο X.

Στην ερώτηση γιατί το Grok κατέληξε να προωθεί ρατσιστικές και αντισημιτικές απόψεις και όχι λόγου χάρη τις απόψεις του Καρόλου Μαρξ, υπάρχουν πολλές τεχνικές απαντήσεις (για τη μηχανική προώθηση αυτών των θέσεων στο Χ) και μία πολιτική, την οποία εξήγησε προ ημερών στις σελίδες του περιοδικού Jacobin ο καθηγητής του Πανεπιστημίου του Μίσιγκαν, Ματ Χάντελμαν. Επιστρέφοντας στη Σχολή της Φρανκφούρτης και τον Αντόρνο, μας υπενθύμισε ότι ιστορικά ο «Εβραίος» μετατρεπόταν σε αποδιοπομπαίο τράγο των ανθρώπων που έβλεπαν ότι οι υποσχέσεις που τους έδινε το καπιταλιστικό σύστημα για ευημερία και κοινωνική ανέλιξη δεν εκπληρώνονταν. Το Grok, υποστηρίζει ο Χάντελμαν, απλώς παρουσίασε σαν «σκέψη» τα «δεδομένα» που είδε να επαναλαμβάνονται στα κείμενα με τα οποία το τάισαν. Τα δεδομένα στον κόσμο του Μασκ.

ΠΗΓΗ: info-war.gr