Νεκροζώντανοι στο Facebook (του Άρη Χατζηστεφάνου )

Δύο δεκαετίες μετά τη δημιουργία του, ένα σημαντικό τμήμα του Facebook έχει μετατραπεί σε μια χωματερή δεδομένων όπου bots συνομιλούν με bots προωθώντας ψεύτικες εικόνες

που δημιουργήθηκαν με εφαρμογές τεχνητής νοημοσύνης. Το πρόβλημα, εκτιμούν αρκετοί αναλυτές, δεν είναι ότι το Facebook είναι νεκρό, αλλά ότι έχει μετατραπεί σε χώρα των ζόμπι.

Την περασμένη εβδομάδα την πέρασα χαζεύοντας αυτό που το συγκρότημα Tsopana Rave θα αποκαλούσε «όμορφες, μικρές τσοπάνες». Και δεν ήμουν καν σε χωριό. Το πρόβλημά μου ξεκίνησε έναν μήνα νωρίτερα όταν ο αλγόριθμος του Facebook μου προώθησε τη φωτογραφία μιας βοσκοπούλας που συνοδευόταν από το εξής μήνυμα: «Ζω σε ένα χωριό και δεν με πειράζει να έχω μια φάρμα, οπότε αν σας αρέσει αυτό που κάνω, θα είναι μεγάλη στήριξη».

H φωτογραφία ήταν εμφανώς δημιούργημα τεχνητής νοημοσύνης (όπως επιβεβαίωσα με αρκετές εφαρμογές εντοπισμού deepfake), ενώ με αντίστροφη αναζήτηση εικόνας (reverse image search) διαπίστωσα ότι είχε εμφανιστεί αρχικά σε ιταλικές σελίδες του Facebook με ακριβώς το ίδιο κείμενο στα ιταλικά. Όσο προσπαθούσα να καταλάβω τι ακριβώς ζητούσε από μένα η νεαρή τσοπάνα, ο αλγόριθμος άρχισε να με βομβαρδίζει με βουκολικές εικόνες με παρεμφερή κείμενα, ενώ ανά διαστήματα λάμβανα και φωτογραφίες (ΑΙ ή κλεμμένες από πρακτορεία ή άλλους λογαριασμούς) παππούδων και γιαγιάδων (όλοι είχαν κλείσει τα 100), που υποτίθεται ότι ζούσαν ξεχασμένοι σε κάποιο γηροκομείο και μου ζητούσαν να τους ευχηθώ χρόνια πολλά για τα γενέθλιά τους.

Το πραγματικό πρόβλημα δεν ήταν ότι κάποια αυτοματοποιημένη εφαρμογή πλημμύριζε το Facebook με ψεύτικες εικόνες ανθρώπων που δήλωναν υπερήφανοι (ενώ στην πραγματικότητα εκλιπαρούσαν για λίγη συμπόνοια), αλλά ότι κάθε σχετική ανάρτηση συγκέντρωνε εκατοντάδες ή χιλιάδες σχόλια συμπαράστασης. Ήταν προφανές ότι μεταξύ των σχολιαστών υπήρχαν δεκάδες bots, τα οποία πρακτικά σχολίαζαν τις αναρτήσεις κάποιον άλλων bots. Υπήρχαν όμως και εκατοντάδες λογαριασμοί αληθινών ανθρώπων με σάρκα και οστά. «Μπράβο, κοπελάρα μου, καμία δουλειά δεν είναι ντροπή» έγραφε ένας λογαριασμός, ενώ ορισμένοι πιο απελπισμένοι ρωτούσαν τη γιδοβοσκό αν θα ήθελε να της κάνουν παρέα στο μαντρί. Η σελίδα από όπου έρχονταν οι περισσότερες αναρτήσεις με τίτλο «Ελληνικά χωριά και Νησιά ήθη και έθιμα της Ελλάδας» έχει 88.000 μέλη που σχολιάζουν αρειμανίως.

Εξετάζοντας το συγκεκριμένο φαινόμενο οι καθηγητές Ρενέε Ντιρέστα και Τζος Γκολντστάιν από το Πανεπιστήμιο Τζορτζτάουν ανέλυσαν 125 σελίδες που προωθούσαν σχετικό περιεχόμενο και διαπίστωσαν ότι συγκέντρωναν εκατοντάδες εκατομμύρια θεάσεις. Η τρομακτική διάχυση αυτών των εικόνων οφείλεται πρωτίστως σε μια αλλαγή που πραγματοποίησε το Facebook στον αλγόριθμο πριν από μερικά χρόνια επιτρέποντας να φτάνουν στο timeline μας αναρτήσεις από λογαριασμούς με τους οποίους δεν συνδεόμαστε.

Τις περισσότερες φορές η απάτη δεν είναι άμεσα ορατή. Οι δημιουργοί των AI φωτογραφιών όμως κερδίζουν διόλου αμελητέα ποσά με δύο τρόπους: α) συγκεντρώνουν δεκάδες χιλιάδες ακόλουθους σε σελίδες και groups του Facebook τις οποίες στη συνέχεια πουλάνε στη «μαύρη αγορά», β) «φυτεύουν» στα σχόλια λινκ που οδηγούν σε εξωτερικές σελίδες οι οποίες είτε είναι γεμάτες με διαφημίσεις είτε πραγματοποιούν γνωστές απάτες με πιστωτικές κάρτες. Για να κάνουν μάλιστα την κίνηση στις σελίδες τους πιο αληθοφανή χακάρουν τα προφίλ αληθινών χρηστών τα οποία χρησιμοποιούν για να αναρτούν ή να σχολιάζουν ΑΙ φωτογραφίες. Το αποτέλεσμα όμως είναι ότι με αυτόν τον τρόπο όλο και περισσότερα bots πιάνουν κουβέντα με… bots.

Εκ πρώτης όψεως το φαινόμενο δείχνει να επιβεβαιώνει τη λεγόμενη θεωρία του νεκρού ίντερνετ (Dead Internet Theory) σύμφωνα με την οποία ο μεγαλύτερος όγκος πληροφοριών που κυκλοφορεί στο διαδίκτυο είναι δημιούργημα τεχνητής νοημοσύνης. Στην πιο ακραία εκδοχή της η θεωρία προβλέπει ότι τα AI δεδομένα (κείμενα, βίντεο, φωτογραφίες) δεν παράγονται με ανθρώπινη παρέμβαση, αλλά με εντολές άλλων εφαρμογών τεχνητής νοημοσύνης. Η πραγματικότητα όμως ίσως και να είναι πολύ χειρότερη. Οι ερευνητές Τζέικ Ρενζέλα από το Πανεπιστήμιο του UNSW στο Σίδνεϊ και Βλάντα Ροζόβα από το Πανεπιστήμιο της Μελβούρνης υποστήριζαν πριν από έναν χρόνο ότι πίσω από φαινομενικά αθώους λογαριασμούς που προσελκύουν δεκάδες χιλιάδες ακολούθους με ανόητες εικόνες και βίντεο, μπορεί να κρύβονται πολιτικές ομάδες ή και ολόκληρα κράτη που σε ανύποπτο χρόνο θα τα χρησιμοποιήσουν για να προωθήσουν την προπαγάνδα τους.

Από την πλευρά του ο Τζέισον Κέμπλερ, αναλυτής και δημοσιογράφος που παρακολουθεί εδώ και χρόνια το φαινόμενο, έχει μια πιο απλή αλλά περισσότερο θλιβερή ερμηνεία, που μας υπενθυμίζει ότι η ρίζα του φαινομένου είναι οικονομική και όχι ιδεολογική. Το πρόβλημα, εξηγούσε σε πρόσφατη συνέντευξή του, δεν είναι ότι το ίντερνετ είναι νεκρό, αλλά ότι κατοικείται από ζόμπι – αληθινούς ανθρώπους που σπαταλούν εκατομμύρια ώρες εργασίας ή διασκέδασης για να σχολιάζουν ψεύτικες εικόνες. Ο ίδιος θυμόταν μια AI φωτογραφία από ένα ξύλινο παγκάκι που έγινε viral καθώς από κάτω εκατοντάδες άνθρωποι τσακώνονταν για το αν έχει κατασκευαστεί με τις σύγχρονες προδιαγραφές ασφαλείας. Οι περισσότεροι από τους σχολιαστές ήταν αληθινοί άνθρωποι, αλλά δεκάδες από τους λογαριασμούς τους είχαν χακαριστεί και συμμετείχαν σαν bots σε άλλες συζητήσεις, εν αγνοία των ιδιοκτητών τους. Το αποτέλεσμα, εξηγούσε ο Κέμπλερ, είναι ένα παρασιτικό σύστημα στο οποίο είναι δύσκολο να πεις τι είναι ανθρώπινο και τι τεχνητό, τι είναι αληθινό και τι όχι. Και αυτή είναι η χώρα των ζωντανών νεκρών.

ΠΗΓΗ: https://info-war.gr/