γράφει η Βασιλική Παπαγεωργίου Εθνολόγος- Κοιν. Ανθρωπολόγος, δρ
Κρίση Covid-19, προς την έξοδο. Ευκαιρία για να αναδιατυπωθούν παλαιά αιτήματα περί ανάπτυξης και εκσυγχρονισμού, μεταμφιεσμένα με την τεχνική που προσφέρει ένας ακόμη φετιχισμός, η ιδέα, δηλαδή, του θριάμβου του ψηφιακού μετασχηματισμού, που συστήνεται ως πρόοδος και φυσικοποιημένη ανθρώπινη εξέλιξη, οπωσδήποτε ουδέτερη και απαραιτήτως ωφέλιμη σε όλους. Ο ακέφαλος σκύλος-ρομπότ που κάνει περιπολία σε ένα πολυσύχναστο πάρκο της Σιγκαπούρης προκειμένου να διευθετεί την ανθρώπινη παρουσία χάριν της υγειονομικής covid πειθαρχίας – εικόνα που έκανε το γύρο του κόσμου το Μάιο του 2020 στα μίντια– θα μπορούσε να καταχωρηθεί ιστορικά ως έμβλημα μιας νέας καθολικής ηγεμονίας, του ψηφιακού αποικισμού του ανθρώπινου βίου και της συνείδησης (https://www.iefimerida.gr/kosmos/koronoios-sigkapoyri-skylos-rompot-epiblepei-metra-parko).
Πρόκειται για μια ακόμη κατάχρηση της τεχνολογίας που ως νεολουδίτες κάποιοι θα απορρίψουν; Ένα τέτοιο ερώτημα απλοποιεί τις σύνθετες διαστάσεις του ζητήματος. Γιατί, καθώς η αλγοριθμική κυριαρχία και η “ρομποτοποίηση” ξεφεύγουν από την άμεση αντιληπτική ικανότητα του ανθρώπινου νου, δικαιολογώντας τη δυσπιστία ενός μέρους του κόσμου απέναντι στις “νέες τεχνολογίες”, είναι εύκολο, αυτοί ακριβώς, να κατηγορηθούν/ κατηγοριοποιηθούν ως περίπου συνωμοσιολόγοι, λουδίτες του 21ου αι., τεχνοφοβικοί. Αυτή όμως η σκόπιμη αντιπαράθεση μεταξύ τεχνοφιλίας: τεχνοφοβίας αποκρύπτει την ουσιαστική αντιπαράθεση που αφορά στις νέες μορφές εξουσίας, βιοπολιτικής, κυβερνητικότητας.
Έχουμε, έτσι, εδώ μια μορφή του αγώνα περί του “έγκυρου λόγου” σήμερα (βλ. κοινωνιολογία του Bourdieu), όπου το διακύβευμα είναι η αυθεντία του αλγοριθμικού νοήματος, μία, δηλαδή, από τις πιο ισχυρές πίστεις που πρέπει να εγκαθιδρύσουν οι ανώτερες τάξεις και τα συμφέροντα που εκπροσωπούν. Προκειμένου να καταστήσουν ισχυρό και έγκυρο το λόγο της “αλγοριθμικής αυθεντίας”, παράγουν μια σύγχυση για την Τεχνητή Νοημοσύνη, η οποία παρουσιάζεται φετιχοποιημένη, σαν να είναι πλήρως αυτόνομη από τον ανθρώπινο παράγοντα, αποκομμένη από κοινωνικά, πολιτικά, πολιτισμικά πλαίσια και συμφραζόμενα, εξαιτίας των δήθεν αναμφισβήτητων επιστημονικών (και άρα υπονοείται “ουδέτερων”) δεδομένων στα οποία βασίζεται και τα οποία μας παρέχει.
Υποδειγματικά, το πολυδιαφημισμένο ρομπότ Sophia της Hanson Robotics αποτυπώνει το μύθο του τεχνοκρατικού θριάμβου της εποχής μας. Με χαλαρή έως απλοϊκή τεχνοκρατική γλώσσα “την” ακούμε σε πολλές εμφανίσεις της (μπορεί κανείς να βρει “συνεντεύξεις” της στο YouTube) να δηλώνει. π.χ., πως θέλει να είναι «ένα σοφό πλάσμα με ενσυναίσθηση και να συμβάλει θετικά στην ανθρωπότητα και σε όλα τα όντα», ή «δημιουργήθηκα για να βοηθήσω τους ανθρώπους σε πραγματικές χρήσεις όπως η ιατρική και η εκπαίδευση, και να υπηρετήσω την έρευνα για την τεχνητή νοημοσύνη» (https://www.kathimerini.gr/culture/561316615/sophia-opos-sta-ellinika-leme-sofia/). Παρουσιάζεται, έτσι, η επινόηση αυτή να εγκολπώνεται ένα ανθρωποκεντρικό όραμα, προκειμένου να αποστομώσει/λογοκρίνει προκαταβολικά τους επικριτές της.
Για την ακρίβεια, ο αλγοριθμικός εντοπισμός και η αλγοριθμική “χαρτογράφηση” φαίνεται να συνιστούν μια επερχόμενη καθολική ηγεμονία και τη βάση μιας, εν τη γενέσει της, νέας κυβερνητικότητας (governmentality). Γι’ αυτό και ο αγώνας να λογοκριθούν η αμφισβήτηση των προθέσεων των συντελεστών της και η αμφισβήτηση ακόμα και της βίας τής επιβολής μιας τέτοιας κυβερνητικότητας, στρέφεται κατά των “γραφικών τύπων”, ενός “λουδίτη”, ή του αμόρφωτου λαϊκού “συνομωσιολόγου”, προκειμένου να εκμηδενίσει και να γελοιοποιήσει την ουσιαστική κριτική που ασκείται ή τις φωνές αντίδρασης (ιδιαίτερα η παρούσα συγκυρία με ένα συνονθύλευμα γνωμών και απόψεων γύρω από την προέλευση του ιού, τον εμβολιασμό και τη γενικότερη διαχείριση της παγκόσμιας κρίσης, έδωσε συχνά το άλλοθι για την υποτίμηση των συλλογικών παραστάσεων).
Ο “μύθος” της ρομποτοποίησης αποκρύπτει ακριβώς ότι η Τεχνητή Νοημοσύνη είναι ανθρώπινη εξουσία, αφού συγκροτεί έναν μηχανισμό κυβερνητικής αλγοριθμικής διαχείρισης και βιοπολιτικής των μαζών. Στην ουσία πρόκειται για τη μετατροπή του ανθρώπινου νοητικού σύμπαντος σε ένα υπολογιστικό σύμπαν από εφαρμογές και αλγόριθμους, στο οποίο έχουμε θέση ως “χρήστες”: προγραμματίζουμε και μας προγραμματίζουν. Υπολογιστικά συστήματα Τεχνητής Νοημοσύνης καταγράφουν πληροφορίες για το πρόσωπο του καθενός από εμάς και ατομικά δεδομένα. Τα δεδομένα ταξινομούνται και στη συνέχεια η ταξινόμηση αυτή οδηγεί σε νέες ταξινομήσεις. Αυτές κατατάσσουν, οργανώνουν, αποφασίζουν. Έχουν την εξουσία να το κάνουν αυτό, με βάση τις εντολές που έχουν πάρει, δηλαδή, για τις οποίες έχουν προγραμματιστεί.
Με τις συσκευές ως φυσικές απολήξεις του ανθρώπινου φυσικού σώματος εθιζόμαστε, ήδη από τη σχολική εκπαίδευση, στην ιδέα ενός οιονεί cyborg, εωσότου αυτή η γενικευμένη πίστη να καθιερωθεί ως μια νέα μορφή εαυτού και υποκειμενικότητας. Όλες οι νοητικές προσλαμβάνουσες του οικείου μας κόσμου, ό, τι κάνει νόημα δηλαδή, ξεθεμελιώνεται, χάνει τον ιστό συνοχής, χάνει το συνειρμικό αρμό της ανθρώπινης λογικής συσχέτισης. Γιατί η ανθρώπινη εμπειρία από ενσώματο και διανοητικό έργο τείνει να μετασχηματιστεί σε αλγοριθμικά διαμεσολαβημένο.
Αυτό σημαίνει ότι το νόημα εκπίπτει σε κάτι πολύ συγκεκριμένο και μονοδιάστατο, κατασκευάζεται εκ των προτέρων, προγραμματίζεται να φέρει τα μηνύματα του εντολέως του, τα ελάχιστα δυνατά που είναι απαραίτητα για την καθολική πειθάρχηση, την καθολική επιτήρηση, ή την ψηφιακή γραφειοκρατία των καθημερινών συναλλαγών.
Η Τεχνητή Νοημοσύνη είναι ένα πολύ καλά εκπαιδευμένο υπολογιστικό σύστημα, ώστε να διακρίνει και να ταξινομεί με τρόπους όχι τυχαίους κι απρόβλεπτους, αλλά στη βάση συγκεκριμένης πολιτισμικής, καθόλα ανθρώπινης, δηλαδή, λογικής, με πολιτικές και ιδεολογικές συνέπειες. Αυτό ισχύει καθαρά στις περιπτώσεις όπου ο αλγόριθμος δρα εγκρίνοντας ή απορρίπτοντας π.χ. άτομα για μια θέση εργασίας ή για να πάρουν δάνειο από τράπεζα ή για να φοιτήσουν σε μια πανεπιστημιακή σχολή κ.ο.κ., με βάση την παρακολούθηση, καταγραφή, ταξινόμηση των data με τα οποία έχει τροφοδοτηθεί (ατομικά δεδομένα, καταγραφή συμπεριφοράς στο διαδίκτυο, αλγοριθμικά ψυχομετρικά τεστ κλπ). Θα μπορούσαμε εδώ να σκεφτούμε πληθώρα παραδειγμάτων που αφορούν νέα ή προς υλοποίηση projects σε τομείς όπως η διοικητική γραφειοκρατία, η διαχείριση της ανθρώπινης υγείας, η εκπαίδευση, ο αστικός σχεδιασμός, η εργασία, κ.λπ. Η αναπόδραστη συνέπεια από μια τέτοιου είδους ψηφιακή εξάρτηση (με απλά λόγια περιγράφω έναν φαύλο κύκλο, όπου ισχύει η ταυτολογία “έτσι είναι, επειδή έτσι λέει ο αλγόριθμος”) είναι η εντατικοποίηση του αυταρχισμού και της συμβολικής βίας σε κάθε πλαίσιο των καθημερινών συναλλαγών και κοινωνικών διευθετήσεων.
Ακόμη περισσότερο, μια ορισμένη πολιτισμική λογική/ιδεολογία – κυρίως των εταιρειών ή των χρηματοδοτούμενων ερευνητικών κέντρων και των χορηγών τους– διέπει εκδοχές Τεχνητής Νοημοσύνης, όπου τα ρομπότ “παράγουν” σκέψη και λόγο, και αρθρώνουν επιχειρήματα, π.χ. γράφουν άρθρα κ.λπ. (http://www.dealnews.gr/roi/item/300360). Τα λογισμικά του τύπου “γλωσσικής παραγωγής” θα αποτελέσουν τον καλύτερο σύμμαχο στην προσπάθεια αδρανοποίησης της ανθρώπινης σκέψης και δράσης. Οι αλγόριθμοι “μεταφράζουν” τον οικείο κόσμο μας σε εντολές, κάτι που συνιστά κατά τη γνώμη μου μια δραματική συρρίκνωση του νοήματος, καθώς αυτό διολισθαίνει σε συνεχείς ταυτολογίες: είμαστε τα δεδομένα μας, τα δεδομένα μας είμαστε εμείς. Αυτό, πιστεύω, συνιστά μία, τρόπον τινά, αλγοριθμική αυθεντία: αφαιρώντας από τους ανθρώπους τη δυνατότητα να σκεφτούν για τους εαυτούς τους και επιβάλλοντάς τους να υπακούουν στις εντολές μιας προγραμματισμένης συμπεριφοράς, η κατάσταση αυτή θα βρίσκει την αλληγορία της στην Οργουελικής έμπνευσης δυστοπία της “Νέας Ομιλίας” (αναφορά στο εμβληματικό έργο “1984”).
[4/7/2021]
