Άρης Χατζηστεφάνου στο tvxs / Η τεχνητή νοημοσύνη είναι επαναστατική αλλά και ναρκοθετημένη από τις 5 εταιρείες

Προεκτείνοντας την έρευνα που είχε ξεκινήσει με το βιβλίο «Προπαγάνδα και παραπληροφόρηση: Πως τις εντοπίζουμε» (2022) ο δημοσιογράφος Άρης Χατζηστεφάνου μάς

δίνει με το νέο του πόνημα «Προπαγάνδα και Παραπληροφόρηση στο ίντερνετ» (Εκδόσεις Τόπος) έναν πλήρη οδηγό πάνω στους σαρωτικούς προπαγανδιστικούς μηχανισμούς στην εποχή της τεχνητής νοημοσύνης.

Οι μηχανισμοί αυτοί δεν κραυγάζουν πάντα, συχνά είναι καλά κρυμμένοι στις πιο «αθώες» συνήθειες μας, στο Netflix, τα βιντεοπαιχνίδια κλπ.

Η πλούσια, καλογραμμένη και λεπτομερής έρευνα του η οποία περιλαμβάνει πολλά παραδείγματα, έχει αξία γιατί φωτίζει το πρόβλημα δημοκρατίας που δημιουργεί η ενορχήστρωση της πληροφόρησης από 5 εταιρείες στη Silicon Valley. Επίσης γιατί αποκαλύπτει τους κρυμμένους, έμμεσους τρόπους προπαγάνδας και παραπληροφόρησης, δίνει απάντηση σε ερωτήματα όπως το αν είμαστε εγκλωβισμένοι σε θαλάμους ιδεολογικής αντίχησης όπου αναπαράγονται μόνο οι δικές μας απόψεις και δημιουργεί έναν φάρο αισιοδοξίας αφού ο αναγνώστης αισθάνεται πως με τη γνώση που αποκτά και τα εργαλεία κατανόησης, υπάρχουν περιθώρια αντίστασης αν η ανθρωπότητα διαμορφώσει ένα νέο όραμα.

Γράφεις στο βιβλίο ότι η γιγάντωση των μονοπωλίων στην εποχή της ΤΝ θα επιφέρει ακόμα μεγαλύτερο έλεγχο αλλά και υποβάθμιση της παραγόμενης πληροφορίας. Θα λέγαμε ότι ευθύνεται ο ασύδωτος καπιταλισμός για την εξέλιξη αυτή ή η ευθύνη βαρύνει κάποιους περισσότερο; Οικονομικές και πολιτικές ελίτ, εταιρείες κλπ.

Είναι πρωτίστως συστημικό πρόβλημα. Ο κλάδος της τεχνητής νοημοσύνης αποτελεί σήμερα μια τεράστια φούσκα ανάλογη με αυτές που παρήγαγε ο καπιταλισμός ύστερα από κάθε τεχνολογική εξέλιξη – από την φούσκα των σιδηροδρόμων στα μέσα του 19ου αιώνα μέχρι την κατάρρευση των dot com στο τέλος του 20ου αιώνα. Η κατάρρευση μιας αγοράς όπου τα κέρδη είναι ελάχιστα σε σχέση με τις επενδύσεις θα φέρει συγχωνεύσεις και ενίσχυση της μονοπωλιακής δομής των εταιρειών.

Όταν όμως αυτές οι εταιρείες διαχειρίζονται δεδομένα το αποτέλεσμα είναι ακόμη πιο ασφυκτικός έλεγχος της πληροφορίας.

Αυτή η παρατήρηση δεν μειώνει φυσικά την αξία και τις προοπτικές που προσφέρει η ΤΝ. Πρέπει όμως να την δούμε στις πραγματικές της διαστάσεις.

Αναφέρεις πως δράστες της επιχείρησης παραπληροφόρησης είναι άλλοτε συγκεκριμένες κυβερνήσεις και επιχειρηματίες και άλλοτε οι αλγόριθμοι των ΜΜΔ που φέρουν στο DNA τους σχέσεις πολιτικής, οικονομικής και κοινωνικής εξουσίας. Είναι σαφές στην πλειοψηφία του κόσμου το πως λειτουργούν τα μποτς και ο αλγόριθμος; Ποιος είναι κατά τη γνώμη σου ο μεγαλύτερος κίνδυνος;

Οι περισσότεροι άνθρωποι είναι σε θέση να εντοπίσουν αρκετές από τις παραδοσιακές μορφές προπαγάνδας, τις οποίες εξετάζω στο προηγούμενο βιβλίο μου. Έστω και διαισθητικά ίσως να μπορούν να αντιληφθούν και πότε βρίσκεται σε εξέλιξη μια μεγάλη επιχείρηση προπαγάνδας με μποτ (αν και συχνά χρησιμοποιούμε τον όρο καταχρηστικά για να περιγράψουμε και τρολ, cyborg και άλλες μορφές κακόβουλων λογαριασμών).

Αυτό που συνήθως δεν αντιλαμβανόμαστε είναι ότι όλο το γήπεδο είναι ναρκοθετημένο. Οι αλγόριθμοι αλλά και τα μεγάλα γλωσσικά μοντέλα όπως το ChatGPT εκπαιδεύονται σε βάσεις δεδομένων που αντικατοπτρίζουν σχέσεις εξουσίας. Το ίδιο το ChatGPT απάντησε κάποτε ότι «διδάσκεται» από τις απόψεις πλούσιων, λευκών, αντρών.

Η κατάσταση επιδεινώνεται από το γεγονός ότι αρκετοί προσπαθούν τώρα να επηρεάσουν τις απαντήσεις που θα δώσουν αυτά τα συστήματα με διάφορες τεχνικές που παρουσιάζω στο βιβλίο όπως το λεγόμενο data poisoning.

Πλατφόρμες όπως η Google συνεχίζουν να ισχυρίζονται πως είναι αντικειμενικές και δεν παραπληροφορούν. Γιατί ισχυρίζεσαι πως αυτό δεν είναι αλήθεια;

Το παράδειγμα της Google είναι ενδεικτικό της συνολικότερης πορείας που ακολούθησε η Σίλικον Βάλει ξεκινώντας με το σύνθημα «make the world a better place – κάνε τον κόσμο ένα καλύτερο μέρος» για να φτάσει στη σημερινή κατάσταση όπου εμπλέκεται ακόμη και στο εμπόριο όπλων και συμπράττει σε γενοκτονίες από τη Μυανμάρ μέχρι τη Γάζα.

Η μετεξέλιξη της Google από μηχανή αναζήτησης σε κολοσσό της αγοράς διαφήμισης και στη συνέχεια σε έναν ιδιότυπο παραγωγό περιεχομένου, επηρεάστηκε αλλά και επηρέασε την εξέλιξη του καπιταλισμού. Σήμερα αποτελεί και μια μηχανή παραγωγής προπαγάνδας και παραπληροφόρησης άλλοτε «εκούσια», (με τα στερεότυπα που αναπαράγουν οι αλγόριθμοί της) και άλλοτε απόλυτα συνειδητά – όταν λόγου χάρη πληρώνεται για να προωθεί την κρατική προπαγάνδα του Τελ Αβίβ.

Μορφές προπαγάνδας μπορεί να εντοπίσεις από τον τρόπο με τον οποίο συμπληρώνει αυτόματα τις λέξεις που γράφεις για μια αναζήτηση (autocomplete) μέχρι το πώς παρουσιάζει τα τοπωνύμια στα Google Maps. Και το σημαντικότερο πρόβλημα είναι ότι αυτές οι πληροφορίες παρουσιάζονται σαν μια μορφή φυσικών νόμων τις οποίες δεν αισθανόμαστε την ανάγκη να αμφισβητήσουμε.

Με αφορμή την αποκάλυψη ύπαρξης του Aims γράφεις για τους ψεύτικους λογαριασμούς και τον τρόπο με τον οποίο κάποιος μπορεί να διαχειρίζεται χιλιάδες από αυτούς για σκοπούς προπαγάνδας. Έχει μετρηθεί το αποτύπωμα της λειτουργίας των στρατών αυτών στην κοινωνία και την κοινή γνώμη;

Το Aims, δηλαδή το σύστημα που χρησιμοποιεί η ισραηλινή «Ομάδα Χόρχε» σε οργανωμένες επιχειρήσεις προπαγάνδας, έχει αποδειχθεί ότι μπορεί να επηρεάσει το δημόσιο διάλογο σε μέσα κοινωνικής δικτύωσης και να πραγματοποιήσει στοχευμένες επιθέσεις δολοφονίας χαρακτήρων.

Οι δημιουργοί του δηλώνουν ότι έχουν ανατρέψει το αποτέλεσμα δεκάδων εκλογικών αναμετρήσεων και γνωρίζουμε ότι διέθεταν γραφεία και στην Ελλάδα.

Παρόλα αυτά είμαι πάντα επιφυλακτικός απέναντι σε όσους υποστηρίζουν ότι μπορείς να ανατρέψεις εκλογές με το πάτημα μερικών πλήκτρων. Πρόκειται για το ίδιο επιχείρημα που χρησιμοποιούν από το 2016 οι Δημοκρατικοί στις ΗΠΑ αποδίδοντας τις διαδοχικές ήττες τους από τον Ντόναλντ Τραμπ σε «ξένα κέντρα προπαγάνδας» και ρωσικές ή κινεζικές φάρμες με μποτ. Οι ψηφοφόροι δεν είναι πιόνια τα οποία κάνουν ότι τους πει κάποιος στο ίντερνετ.

Αναφέρεσαι στην υπόθεση Predator και γράφεις πως οι υποκλοπές παράγουν παραπληροφόρηση και προπαγάνδα. Με ποιον τρόπο.

Ο σημαντικότερος λόγος για τον οποίο κράτη και εταιρείες υποκλέπτουν επικοινωνίες δεν είναι για να μάθουν κάτι που δεν γνωρίζουν αλλά για να εκβιάζουν τα θύματά τους. Ένας δημοσιογράφος που φοβάται μια αποκάλυψη για (π.χ για την προσωπική του ζωή) μπορεί εύκολα να χειραγωγηθεί. Σκέψου ότι σχεδόν όλα τα περιστατικά παρακολουθήσεων που γνωρίζουμε τα έφεραν στο φως τα ίδια τα θύματα. Μου είναι δύσκολο να πιστέψω ότι δεν υπάρχουν και δημοσιογράφοι που έπεσαν θύματα εκβιασμού και δεν το αποκάλυψαν ποτέ.

Αναφέρεις την περίπτωση ισραηλινού μποτ που αυτομόλησε και άρχισε να επιτίθεται στο Τελ Αβίβ. Υπάρχουν κι άλλα τέτοια περιστατικά και πόσο πιθανό είναι να έχουμε ντόμινο τέτοιων περιπτώσεων όσο η ΤΝ εξελίσσεται;

Από την περίπτωση του ισραηλινού μποτ που έγινε φιλοπαλαιστινιακό μέχρι το Grok, την εφαρμογή τεχνητής νοημοσύνης Ίλον Μασκ που άρχισε να εκθειάζει τον Χίτλερ, έχουμε να κάνουμε με διαφορετικές μορφές των λεγόμενων AI Hallucinations (ψευδαισθήσεις της τεχνητής νοημοσύνης). Το πρόβλημα έχει μια τεχνική διάσταση που αφορά μεταξύ άλλων τα «προβληματικά» δεδομένα με τα οποία εκπαιδεύονται οι εφαρμογές τεχνητής νοημοσύνης.

Υπάρχει όμως και μια «φιλοσοφική» την οποία ανέδειξε από πολύ νωρίς ο Νόαμ Τσόμσκι εξηγώντας ότι εφαρμογές όπως το ChatGPT από τη δομή τους δεν ενδιαφέρονται να παρουσιάσουν την αλήθεια αλλά μόνο να κάνουν προβλέψεις στηριζόμενα σε στατιστικά μοντέλα. Αυτά τα προβλήματα βλέπουμε ότι γιγαντώνονται αντί να περιορίζεται με το πέρασμα του χρόνου.

Αυτό δεν σημαίνει βέβαια ότι η ΤΝ «ανεξαρτητοποιείται» και θα στραφεί εναντίον μας όπως ο υπερυπολογιστής HAL στην Οδύσσεια του Διαστήματος. Πρόκειται για αστοχίες του συστήματος με τις οποίες θα πρέπει να μάθουμε να ζούμε όπως κάνουμε σε κάθε σύνθετο σύστημα προβλέψεων.

Αναφέρεσαι σε σχέσεις όπως αυτή του Facebook με το Στέιτ Ντιπάρτμεντ με παραδείγματα που φανερώνουν τον έλεγχο της πληροφορίας. Έχουμε και την περίπτωση Έλον Μασκ ο οποίος δεν δίνει στις αρχές τους χρήστες του Χ με αποτέλεσμα να μπορεί ο οποιοσδήποτε πίσω από ένα ψεύτικο προφίλ να συκοφαντεί ή να απειλεί χωρίς να αντιμετωπίζει τη δικαιοσύνη. Αυτό το γεγονός χτυπάει στην καρδιά της δημοκρατίας, προκαλεί όμως ανάλογη της σημασίας του κοινωνική αντίδραση;

Καταρχήν να ξεκαθαρίσω ότι δεν είμαι κατά της ανωνυμίας στο ίντερνετ, η οποία αποτελεί και ένα εργαλείο των ανίσχυρων για να ασκήσουν κριτική στο πολιτικό και οικονομικό κατεστημένο. Οι μεγάλες πλατφόρμες έχουν αποδείξει ότι διαθέτουν τα μέσα για να περιορίσουν σε σημαντικό βαθμό της διασπορά ψευδών και συκοφαντικών μηνυμάτων αλλά δεν το κάνουν είτε για λόγους κερδοφορίας, όπως κάνει το Facebook ή από πολιτική επιλογή, όπως κάνει κυρίως ο Ίλον Μασκ.

Μιλώντας για τη δημοκρατία, είναι αδιανόητο ότι έχουμε αφήσει σε πέντε ιδιωτικές εταιρείες τη διαχείριση της πληροφορίας που παράγει η ανθρωπότητα και δεν τολμάμε ούτε να ψελλίσουμε ότι αυτές οι πλατφόρμες πρέπει να περάσουν σε κοινωνικό έλεγχο αν θέλουμε να μιλάμε για δημοκρατία στον 21ο αιώνα.

Γράφεις πως «…η σφαγή στη Γάζα είναι το ιστορικότερο σημείο όπου τέμνονται οι αρχαιότερες μορφές προπαγάνδας όπως ο υποτιθέμενος αποκεφαλισμός βρεφών, με τις πιο σύγχρονες τεχνικές λογοκρισίας όπως το shadow banning» και ότι «…η γενοκτονία στη Γάζα μας θύμισε ότι η αντίληψη που σχηματίζουμε για την πραγματικότητα δεν εξαρτάται από τον όγκο της ανεπεξέργαστης πληροφορίας που μπορεί να έχουμε στη διάθεση μας αλλά από μηχανισμούς που θέτουν το πλαίσιο μέσα από το οποίο αντιλαμβανόμαστε αυτά τα δεδομένα». Η προπαγάνδα των ισραηλινών και φιλοϊσραηλινών δυνάμεων δημιούργησε νέα πρότυπα; Ποια είναι αυτά και κατά πόσο πέτυχαν τον σκοπό τους τελικά;

Η επιχείρηση ισραηλινής προπαγάνδας που ακολούθησε την 7η Οκτωβρίου του 2023 είναι η μεγαλύτερη του αιώνα που ζούμε και για αυτό την χρησιμοποιώ και σαν case study σε πολλά από τα κεφάλαια. Θεωρώ ότι έπαιξε καθοριστικό ρόλο στο ότι η διεθνής κοινή γνώμη χρειάστηκε σχεδόν δύο χρόνια για να αντιδράσει στη γενοκτονία. Γνωρίζουμε μάλιστα ότι σε πολλές περιπτώσεις η Ελλάδα ήταν ένας από τους βασικότερους στόχους – όπως λόγου χάρη στην εκστρατεία επηρεασμού της κοινή γνώμης μέσω του YouTube.

Την ίδια ώρα όμως βλέπουμε ότι ακόμη και οι καλύτερα οργανωμένες επιχειρήσεις προπαγάνδας κάποια στιγμή καταρρέουν. Το γεγονός ότι για πρώτη φορά στην ιστορία των ΗΠΑ η πλειονότητα του πληθυσμού στηρίζει τους Παλαιστίνιους ενώ στην Gen Z προτιμούν τη Χαμάς σε σχέση με τον Νετανιάχου, σημαίνει ότι τα δισεκατομμύρια δολάρια που δαπανήθηκαν ίσως να καθυστέρησαν αλλά δεν απέτρεψαν την αποκάλυψη της αλήθειας.

Ένα από τα σοβαρά θέματα που θίγεις είναι η επόμενη μέρα της δημοσιογραφίας μέσα σε αυτό το περιβάλλον στο οποίο η ΤΝ δίνει απαντήσεις για όλα, όχι απαραίτητα σωστές ούτε με την απαιτούμενη απόσταση από τα πράγματα και την ανεξαρτησία που διέπει μια δημοσιογραφική έρευνα. Οι επόμενες γενιές θα αναζητήσουν κατά τη γνώμη σου έναν καλό οικονομικό αναλυτή, μια καλή κριτικό κινηματογράφου, που δεν θα στρογγυλέψει την πληροφορία; Και πως βλέπεις το παρόν και το μέλλον της δημοσιογραφίας;

Το σημαντικότερο πρόβλημα που θα αντιμετωπίσει η δημοσιογραφία τα επόμενα χρόνια είναι ο λεγόμενος «θάνατος του κλικ», το γεγονός δηλαδή ότι πλατφόρμες όπως η Google σταματούν να ανακατευθύνουν τους επισκέπτες τους σε ειδησεογραφικές σελίδες και τους παρουσιάζουν οι ίδιες πληροφορίες τις οποίες έχουν κλέψει, στην κυριολεξία, από μέσα ενημέρωσης και άλλες πηγές. Το πρόβλημα δεν αφορά δηλαδή άμεσα την λειτουργία της τεχνητής νοημοσύνης (η οποία παρεμπιπτόντως είναι ένα ανεκτίμητο εργαλείο για τη δημοσιογραφική έρευνα) αλλά τη ληστρική πρακτική των γιγάντων της Σίλικον Βάλει.

Η κατάσταση είναι και θα παραμείνει τραγική για τη δημοσιογραφία για όσο διάστημα η πληροφορία αντιμετωπίζεται σαν εμπορεύσιμο προϊόν και όχι σαν δημόσιο αγαθό. Αυτό δεν σημαίνει ότι θα πάψει να υπάρχει αξιόπιστη ερευνητική δημοσιογραφία και σχολιασμός. Απλώς θα γίνεται όλο και συχνότερα κτήμα των λίγων που θα μπορούν να πληρώσουν για αυτήν δημιουργώντας δυο ταχύτητες ενημέρωσης.

Γράφεις ότι «Αυτό το μαύρο σκηνικό εμπεριέχει και τα εργαλεία της ανατροπής του» αναφερόμενος στους αντίπαλους πόλους στην παγκόσμια σκηνή της τεχνολογίας. Ωστόσο τι μπορεί να αλλάξει αν παραμένει η τεχνολογία στα χέρια των ισχυρών, είτε πρόκειται για την Κίνα είτε για άλλες δυνάμεις;

Ένας πολυπολικός κόσμος είναι καλύτερος από τον κόσμο μιας υπερδύναμης – ακόμη και αν οι αντίπαλοί της είναι εξίσου επικίνδυνοι. Ας μην ξεχνάμε ότι οι μεγαλύτερες επαναστάσεις γεννιούνται στις ρωγμές που δημιουργούν οι συγκρούσεις των ισχυρών.

Δεν είναι τυχαίο ότι το TikTok που ελεγχόταν από κινεζική εταιρεία μετατράπηκε στη σημαντικότερη πηγή φωτογραφιών και βίντεο που αποδείκνυαν τη γενοκτονία στη Γάζα. Αυτό δεν έγινε για την «καλή καρδιά» του Πεκίνου αλλά γιατί ο κινεζικός έλεγχος δεν λογόκρινε τόσο έντονα τις συγκεκριμένες εικόνες όπως γινόταν στις αμερικανικές πλατφόρμες. Αυτός άλλωστε ήταν και ένας από τους πολλούς λόγους για τους οποίους ο Μπάιντεν και ο Τραμπ φρόντισαν ο έλεγχος του αλγόριθμου του TikTok στις ΗΠΑ να περάσει σε αμερικανικές εταιρείες και κυρίως στον φιλοϊσραηλινό βαρόνων των ΜΜΕ, Λάρι Έλισον.

Μιλώντας όμως για τις δυνατότητες ανατροπής αναφέρομαι κυρίως στις δυνατότητες που έχουμε και εμείς σαν απλοί πολίτες να χρησιμοποιήσουμε τα εργαλεία που μας προσφέρει η τεχνολογία.

Αναλύεις τον τρόπο με τον οποίο η παραπληροφόρηση απλώνεται σαν αράχνη στα social media σε πλατφόρμες όπως το Netflix σε βιντεοπαιχνίδια κλπ. Τι αντισώματα μπορεί να έχει η γενιά που μεγαλώνει κυριολεκτικά στον κυβερνοχώρο; Και ποιες μορφές αντίστασης μπορεί να αναπτύξει κατά τη γνώμη σου;

Παρά το γεγονός ότι θεωρητικά οι νέες γενιές εκτίθενται περισσότερο σε σύγχρονες μορφές προπαγάνδας δεν ανησυχώ καθόλου για αυτές. Όταν στις ΗΠΑ παρατηρούμε ότι σε ηλικίες κάτω των 30 ετών το 62% δηλώνει ότι προτιμά τον σοσιαλισμό από τον καπιταλισμό και ένας στους τρεις έχει θετική εικόνα για τον κομμουνισμό, καταλαβαίνουμε ότι έχουν αναπτύξει ισχυρότατα αντισώματα απέναντι στις κυρίαρχες αφηγήσεις.

Με ανησυχούν πολύ περισσότεροι οι μεγαλύτεροι σε ηλικία, που σύμφωνα με όλες τις σχετικές μελέτες είναι εξαιρετικά πιο επιρρέπειες στην παραπληροφόρηση, είτε μεταδίδεται με σύγχρονα ή με παραδοσιακά μέσα.

Μάλλον αντί να συζητάμε πως θα απαγορεύσουμε τα κινητά στα σχολεία να σκεφτούμε πως θα τα απομακρύνουμε από τα γηροκομεία.

Πόσο απομακρυνόμαστε κατά τη γνώμη σου από έναν ανθρωποκεντρικό πολιτισμό στη νέα εποχή; Και ποια θα είναι τα διακυβεύματα για τα επαναστατικά κινήματα;

Δεν με τρόμαξε ποτέ η «αλλοτρίωση» που υποτίθεται ότι φέρνει η νέα τεχνολογία. Δεν καταλάβαινα γιατί οι άνθρωποι του καναπέ έφριτταν με αυτούς που κυκλοφορούσαν στον καθαρό αέρα και κυνηγούσαν πόκεμον με τα κινητά τους ή γιατί θα πρέπει να σαπίζει το συκώτι μας στα μπαρ στην αναζήτηση ερωτικού συντρόφου εάν μπορούμε να έρθουμε ταχύτερα σε επαφή με έναν άνθρωπο μέσω μιας εφαρμογής. Οι ίδιες φοβίες κυριαρχούσαν και όταν βγήκαν τα πρώτα γουόκμαν και παλαιότερα τα τρανζιστοράκια ή ακόμη και τα βιβλία.

Με προβληματίζει πολύ περισσότερο η τεχνοφοβία που χαρακτηρίζει ορισμένα τμήματα της αριστεράς, ιδιαίτερα στην Ελλάδα. Στο βιβλίο υποστηρίζω ότι μεγάλο τμήμα όσων τιμούν σήμερα τον δολοφονημένο σοσιαλιστή πρόεδρο της Χιλής, Σαλβαδόρ Αλιέντε, θα καταδίκαζαν σαν «οργουελικό» τον τρόπο με τον οποίο οραματιζόταν τη χρήση της νέας τεχνολογίας στο δρόμο για το σοσιαλισμό.

Οι επαναστάσεις του μέλλοντος ούτε θα επιταχυνθούν ούτε θα καθυστερήσουν εξαιτίας της νέας τεχνολογίας. Αν μπορώ να παραφράσω λίγο τον Ένγκελς θα έλεγα ότι – σε τελική ανάλυση – θα κριθούν από την οικονομική βάση και όχι από την ψηφιακή υπερδομή.

ΠΗΓΗ: https://tvxs.gr