Η χρησιμότητα μιας άχρηστης συζήτησης

ΕΙΝΑΙ ΑΧΡΗΣΤΗ η δημόσια συζήτηση για την Τεχνητή Νοημοσύνη; Ίσως ο χαρακτηρισμός είναι σκόπιμα υπερβολικός για να τραβήξει την προσοχή των αναγνωστών και αναγνωστριών. Δεν υπάρχει αμφιβολία, ωστόσο, ότι πρόκειται για μια συζήτηση που, κατά το μάλλον ή ήττον, στηρίζεται σε παρανοήσεις.

Στον δημόσιο διάλογο, η παρουσία της ΤΝ αντιμετωπίζεται ως εισβολή, η οποία ενεργοποιεί φόβους ή προσδοκίες. Ο φόβος και η ελπίδα, όμως, είναι από τα μεγαλύτερα γνωσιολογικά εμπόδια – ιδίως η δεύτερη. Το ερώτημα αν θα ζήσουμε σε μια ουτοπία όπου οι μηχανές θα αναλάβουν να παράγουν τους υλικούς όρους της ύπαρξής μας είναι το ίδιο άχρηστο και ανούσιο με το ερώτημα αν θα ζήσουμε σε μια δυστοπία τύπου δικαστή Dredd, όπου η επιτήρηση και η προληπτική καταστολή θα εξουδετερώνει κάθε ελευθερία, δημιουργικότητα και αυθορμητισμό.

Και όμως, οι αποφάσεις, τόσο σε εταιρικό επίπεδο όσο και σε επίπεδο κρατικής πολιτικής, λαμβάνονται ως επί το πλείστον σε αυτό το πλαίσιο σκέψης. Αποτελεί κοινή διαπίστωση ότι τα περισσότερα στελέχη της οικονομίας και της διοίκησης έχουν στρεβλή ή ελλιπή εικόνα για την ΤΝ. Πιθανότατα αυτό δεν θα αποτελούσε πρόβλημα, αν οι αποφάσεις τους αφορούσαν την υιοθέτηση της μιας ή της άλλης τεχνολογίας. Βέβαια, και σε αυτή την περίπτωση η επιλογή που θα γινόταν θα είχε περισσότερο ή λιγότερο σοβαρές συνέπειες. Η συζήτηση όμως για την ΤΝ είναι ιδιαίτερα σημαντική, επειδή δεν αφορά μια τεχνολογική αλλαγή, αλλά τη μετάβαση σε μια νέα κοινωνική συνθήκη. Υπό αυτή την έννοια, δεν μπορεί να περιοριστεί σε μια ανταλλαγή απόψεων μεταξύ ειδικών που ξέρουν για τι πράγμα μιλάνε. Αφορά το σύνολο της κοινωνίας και οφείλει να διεξαχθεί με τρόπο που θα επιτρέψει στους πολίτες να κατανοήσουν τη συντελούμενη μετάβαση και να συμμετάσχουν στη λήψη των σχετικών τεχνοεπιστημονικών αποφάσεων. Εξού και ο τίτλος: Η χρησιμότητα (ή, αν θέλετε, η αναγκαιότητα) μιας (φαινομενικά) άχρηστης συζήτησης.

Για να γίνει αυτή η συζήτηση θα πρέπει να ληφθεί μέριμνα για δύο πράγματα: Α) Να παραμεριστούν οι παρανοήσεις και οι προκαταλήψεις που στέκονται εμπόδιο στην ορθή κατανόηση του τεχνοεπιστημονικού εγχειρήματος της ΤΝ. Β) Να τεθούν τα τεχνοκοινωνικά ζητήματα που αφορούν την ΤΝ σε όλη την ευρύτητά τους και με όσο το δυνατόν πιο συμπεριληπτικό τρόπο. Σε όσα ακολουθούν, θα επιχειρήσω απλώς να θέσω κάποια σημεία αυτής της συζήτησης, ελπίζοντας ότι συμβάλω στη διασφάλιση αυτών των δύο προϋποθέσεων.

1. Στον δημόσιο διάλογο υπάρχει μια σύγχυση σχετικά με το τι είναι και τι δεν είναι ΤΝ. Πολύ συχνά συγχέουμε την ΤΝ με τους αλγόριθμους, με τα προγράμματα υπολογιστή, με διάφορες μορφές αυτοματισμού που εποπτεύονται και εκτελούνται από υπολογιστικά συστήματα. Αυτό δεν είναι ακριβές, με αποτέλεσμα να αποδίδονται στην ΤΝ άλλοτε περισσότερα κι άλλοτε λιγότερα από αυτά που είναι πράγματι σε θέση να κάνει. Έτσι, για παράδειγμα, η ΤΝ δεν είναι αυτή που κάνει δυνατά τα συστήματα επιτήρησης. Χρησιμοποιείται σε αυτά για να κάνει αποτελεσματικότερη τη λειτουργία τους, αλλά η ύπαρξη των συστημάτων επιτήρησης δεν αποτελεί αυτή καθαυτή εφαρμογή της ΤΝ. Όπως δεν αποτελεί εφαρμογή της ΤΝ το σύστημα διόρθωσης του φωτισμού στην κάμερα του κινητού μας (το HDR – high dynamic range), παρόλο που ως τέτοιο διαφημίζεται. Ούτε πρόκειται να μας πάρει τις δουλειές η ΤΝ επειδή τα τηλεφωνικά κέντρα έχουν ενεργοποιήσει την αναγνώριση φωνής και επιλέγουν έτοιμες απαντήσεις βάσει των keywords που αναγνωρίζουν. Και όταν δεν καταλαβαίνουν τι τους λέμε μας απαντούν με νόημα: «Βεβαίως. Σας συνδέω με έναν εκπρόσωπο». Θα είχε ενδιαφέρον να σχολιάσουμε τη σημασία του γεγονότος ότι η αγορά κάνει σκοπίμως διάφορα συστήματα να μοιάζουν με τεχνητή νοημοσύνη.
2. Αντιλαμβανόμαστε την ΤΝ νοημοσύνη ως αναγκαστικά ανθρωπομορφική. Πόσο έξυπνες μπορούν να γίνουν οι μηχανές; Μπορεί η ΤΝ να γίνει εξυπνότερη από τον άνθρωπο; Ο τρόπος με τον οποίο διατυπώνεται το ερώτημα υπονοεί ότι η μόνη μορφή ευφυΐας που υπάρχει είναι η ανθρώπινη. Οποιαδήποτε ευφυής μορφή υπάρχει στον κόσμο θεωρούμε ότι διαθέτει ένα πολλαπλάσιο ή ένα υποπολλαπλάσιο της ανθρώπινης ευφυΐας. Άρα ο μόνος δρόμος ανάπτυξης της ΤΝ είναι αυτός που τη φέρνει όλο και πιο κοντά στον άνθρωπο. Ευτυχώς, οι μηχανικοί και οι επιστήμονες που ασχολούνται με την ΤΝ δεν σκέφτονται έτσι. Είναι σημαντικό, επομένως, να ανοίξει η συζήτηση περί του τι εννοούμε όταν μιλάμε για ευφυΐα –με όλες τις φιλοσοφικές και θεολογικές περιπλοκές που μπορεί να έχει αυτή η συζήτηση–, καθώς και τι μπορεί να σημαίνει η συμβίωση του ανθρώπου με άλλες μορφές ευφυΐας, με άλλες μορφές νόησης. Μπορεί φαινομενικά το θέμα αυτής της συζήτησης να είναι οι προοπτικές της ΤΝ, αλλά στην πραγματικότητα αφορά πρωτίστως τον άνθρωπο. Σε ορισμένα ακαδημαϊκά και ακτιβιστικά πλαίσια, για παράδειγμα, η συζήτηση για την ΤΝ έχει ήδη συνδεθεί με το εξαιρετικά ενδιαφέρον θέμα της νευροποικιλότητας (neurodiversity).

3. Η ΤΝ είναι πολύπλοκη, μυστηριώδης, απόμακρη. Όπως πολύπλοκη και μονίμως διαφεύγουσα είναι και η διαδικασία της ανθρώπινης σκέψης. Ή μήπως όχι; Η αλήθεια είναι ότι οι ευφυείς συμπεριφορές μπορούν να αναπτυχθούν από την εφαρμογή ενός μικρού αριθμού απλών κανόνων. Αρκούν τρεις απλοί κανόνες για να αναπτυχθεί η ευφυής και τέλεια χορογραφημένη συμπεριφορά ενός κοπαδιού ψαριών και τέσσερις απλοί κανόνες για να δούμε την πορεία της εξέλιξης ολόκληρων οικοσυστημάτων σε fast forward στο «Παιχνίδι της Ζωής» του John Conway. Ο Warren McCulloch, η σημαντικότερη φιγούρα του κινήματος της Κυβερνητικής, έγραφε το 1952: «Πιστεύω πως είμαι αξιόπιστα πληροφορημένος από τους David Wheeler και Henry Quastler […] ότι η ποσότητα πληροφορίας που απαιτείται για τις προδιαγραφές μιας […] μηχανής [που είναι σε θέση να κατασκευάζει πιο πολύπλοκες από την ίδια μηχανές] είναι περίπου το ποσό της πληροφορίας που μπορεί να μεταφερθεί από ένα πλήρες μόριο πρωτεΐνης, το οποίο είναι το μικρότερο γνωστό σε εμάς μόριο που είναι ικανό για αναπαραγωγή. […] Προτείνω, λοιπόν, ότι είναι δυνατό να δούμε τον ίδιο τον Άνθρωπο ως προϊόν μιας τέτοιας εξελικτικής διαδικασίας παραγωγής ρομπότ που προέρχονται από απλούστερα ρομπότ, τα οποία φτάνουν πίσω μέχρι τον αρχέγονο βούρκο· και θεωρώ την ηθική του συμπεριφορά ως κάτι που μπορεί να εξηγηθεί με όρους αλληλεπίδρασης του κυκλώματος αυτού του Ανθρώπου με το περιβάλλον του – μια μηχανή Turing με δύο μόνο προκαθορισμένες ανατροφοδοτήσεις, την επιθυμία να παίξει και την επιθυμία να κερδίσει» (McCulloch, 2020, 99).
4. Η ΤΝ είναι αυτόνομη. Η συγκέντρωση μεγάλου αριθμού δεδομένων θα κάνει την ΤΝ όλο και πιο έξυπνη και θα της επιτρέψει να ελέγχει τις ζωές των ανθρώπων. Η αλήθεια είναι ότι αυτή η ιδέα δεν έχει καμία σχέση με την πραγματικότητα. Η ΤΝ συνεχίζει να είναι ένα πράγμα, ένα αποτέλεσμα της ανθρώπινης πράξης, δηλαδή. Είναι αλήθεια ότι για να εκπαιδευτεί η ΤΝ χρειάζονται τεράστιες ποσότητες δεδομένων. Χρειάζονται, όμως, και τεράστιες ποσότητες ανθρώπινης εργασίας η οποία θα πρέπει να καθαρίσει, να οργανώσει και να κανονικοποιήσει αυτά τα δεδομένα. Η εργασία αυτή συνήθως δεν είναι εμφανής. Η απόκρυψή της –το blackboxing της– εξυπηρετεί δύο σκοπούς. Αφενός, συμβάλλει στην οικονομική της υποτίμηση, μετατρέποντας αυτή την τεχνολογικά κρίσιμη διαδικασία σε ένα είδος υποαμοιβόμενης ανειδίκευτης εργασίας. Αφετέρου, συμβάλλει στην τεχνολογική της υποτίμηση, υπηρετώντας ακριβώς τον μύθο της αυτόνομης ΤΝ, η οποία με την εξωανθρώπινη αντικειμενικότητά της υπαγορεύει τις ορθές επιλογές της στους ασταθείς και μεροληπτικούς ανθρώπους. Ούτε στο επίπεδο των επιδόσεων, όμως, είναι αυτόνομη η ΤΝ. Για να λειτουργήσει με τη χαρακτηριστική της αποτελεσματικότητα, που μοιάζει να απειλεί την ανθρώπινη πρωτοκαθεδρία, πρέπει να τοποθετηθεί σε αυστηρά οριοθετημένα περιβάλλοντα όπου ισχύουν συγκεκριμένοι, εκ των προτέρων θεσπισμένοι κανόνες. Αν η ΤΝ μπορεί να νικήσει τον άνθρωπο σε ένα πολύπλοκο ψηφιακό παιχνίδι στρατηγικής (DotA/LoL), αυτό μπορεί να το πετύχει μόνο σε μια one-to-one αντιπαράθεση, με περιορισμένο αριθμό χαρακτήρων (agents) και με αυστηρούς περιορισμούς ως προς το τι μπορούν και τι δεν μπορούν να κάνουν οι άνθρωποι-παίκτες.

5. Η ΤΝ θα μας πάρει τις δουλειές. Η ιδέα αυτή επενδύεται είτε σε μια τεχνο-ουτοπική είτε σε μια τεχνο-δυστοπική προοπτική. Η πρώτη αφορά μια κοινωνία όπου οι μηχανές θα απαλλάξουν τους ανθρώπους από τους κόπους της εργασίας και θα τους απελευθερώσουν από τις κοινωνικές δεσμεύσεις που συνδέονται με αυτή. Η δεύτερη αφορά μια κοινωνία όπου η απώλεια της εργασίας θα βυθίσει το μεγαλύτερο μέρος της στη φτώχια και την εξαθλίωση. Κι επειδή η φτώχια φέρνει εξέγερση και αναταραχή, η καταστολή θα είναι το απαραίτητο συμπλήρωμα αυτής της δυστοπικής συνθήκης. Το θέμα, όμως, είναι ότι το ερώτημα αν οι μηχανές θα μας πάρουν τις δουλειές είναι το λάθος ερώτημα. Η εργασία εκτελείται σε ένα συγκεκριμένο πλαίσιο κοινωνικών σχέσεων· αυτό που ορίζει ο κεφαλαιοκρατικός τρόπος παραγωγής. Σε αυτό το πλαίσιο, τα ερωτήματα για την εργασία δεν αφορούν την παραγωγή των υλικών και κοινωνικών όρων της ανθρώπινης διαβίωσης γενικώς, αλλά την παραγωγή ανταλλακτικής αξίας και την κερδοφορία του κεφαλαίου. Άρα, αν θέλουμε το αρχικό ερώτημα να έχει νόημα –να είναι γειωμένο στην κοινωνική πραγματικότητα– πρέπει να το κλιμακώσουμε ως εξής: Α) Η αντικατάσταση της ζωντανής εργασίας από την ΤΝ προάγει την κερδοφορία του κεφαλαίου; Η απάντηση είναι όχι, γιατί οι μηχανές δεν παράγουν αξία, άρα ούτε κέρδος (Caffentzis, 2007). Μάλιστα, στη φάση που διανύουμε, ο κεφαλαιοκρατικός τρόπος παραγωγής έχει περισσότερο από ποτέ ανάγκη την ανασύνταξη της ζωντανής εργασίας. Άρα, Β) Τι μετασχηματισμούς επιφέρει στην κοινωνική οργάνωση της εργασίας η χρήση της ΤΝ με στόχο τη διασφάλιση και τη διεύρυνση της κερδοφορίας του κεφαλαίου; Όροι όπως Καπιταλισμός της Πλατφόρμας, Ψηφιακός Καπιταλισμός, Καπιταλισμός της Επιτήρησης κ.λπ. προσπαθούν να συλλάβουν και να περιγράψουν αυτές ακριβώς τις αλλαγές. Σε κάθε περίπτωση, τα ερωτήματα αυτά είναι πολύ διαφορετικά από το ερώτημα αν οι μηχανές θα μας πάρουν τις δουλειές.
6. Η συζήτηση για την ΤΝ αφορά τις μηχανές. Το βασικό ερώτημα είναι πώς θα χρησιμοποιήσουμε την ΤΝ για να εκτελέσουμε με μεγαλύτερη αποτελεσματικότητα τις εργασίες που έχουμε ανάγκη – πώς θα περάσουμε σε ένα άλλο επίπεδο αυτοματοποίησης. Ένας σημαντικός σύγχρονος φιλόσοφος, ο Daniel Dennett, έγραφε πριν μερικά χρόνια ότι η σημασία της ΤΝ είναι μεγάλη για τους ανθρώπους, αλλά ότι είναι ιδιαίτερα επικίνδυνη η αναγνώρισή της ως ισότιμου εταίρου στην κοινωνική ζωή. Γι’ αυτό οι άνθρωποι θα πρέπει να περιοριστούν στην εργαλειακή και μόνο αξιοποίησή της – ένα ακόμα εργαλείο για την πρόοδο του αποκλειστικά ανθρώπινου πολιτισμού (Dennett, 2019). Αυτή η εργαλειακή θεώρηση της ΤΝ παραβλέπει το γεγονός ότι τα ανθρώπινα υποκείμενα δεν συγκροτούνται εν κενώ (ή στη φαντασία του Θεού), αλλά μέσω της αλληλεπίδρασής τους με άλλα ανθρώπινα υποκείμενα και με το τεχνοπολιτισμικό πλαίσιο στο οποίο διαβιούν. Υπό αυτή την έννοια, θα τολμήσω να ισχυριστώ ότι η συζήτηση για την ΤΝ αφορά πρωτίστως τον άνθρωπο. Αφορά, δηλαδή, τον τρόπο με τον οποίο μετασχηματίζεται το ανθρώπινο υποκείμενο σε ένα επικοινωνιακό πλαίσιο που περιλαμβάνει πλέον και άλλους ευφυείς παράγοντες, καθώς και τους τρόπους με τους οποίους ανανοηματοδοτούνται, σε αυτό το νέο πλαίσιο, τυπικά ανθρώπινες δεξιότητες, όπως η σκέψη και η δημιουργικότητα. Όπως γράφει ο Ted Mooney στο μυθιστόρημά του Εύκολο ταξίδι σε άλλους πλανήτες, σε αυτόν τον παράξενο κόσμο του κοντινού μέλλοντος οι άνθρωποι θα κληθούν να ξανασκεφτούν με αναρίθμητους τρόπους τις εδραιωμένες αντιλήψεις τους για τη σχέση τους με το μη ανθρώπινο και θα πρέπει να συνηθίσουν στην ιδέα ότι θα αρχίσουν να βιώνουν συναισθήματα που κανείς και καμία δεν θα τα έχει βιώσει μέχρι τότε (Badmington, 2003, 22).

Αναφορές
Neil Badmington (2003). Theorizing Posthumanism. Cultural Critique, 53, 10-27.
George Caffentzis (2007). Crystals and Analytical Engines: Historical and Conceptual Preliminaries to a New Theory of Machines. Ephemera: Theory and Politics in Organization, 7(1), 24-45.
Daniel C. Dennett (2019). What Can We Do? Στο John Brockman (επιμ.), Possible Minds. 25 Ways of Looking at AI (κεφ. 5). Νέα Υόρκη: Penguin Press.
Warren S. McCulloch (2020). Προς ένα κύκλωμα ηθικών ρομπότ ή μια παρατηρησιακή επιστήμη της γένεσης της κοινωνικής αξιολόγησης στην όμοια με τον νου συμπεριφορά των τεχνουργημάτων (μτφρ. Βασίλης Αργυρίου). Στο Μανώλης Πατηνιώτης (επιμ.), Εισαγωγή στις Ψηφιακές Σπουδές (91-102). Θεσσαλονίκη: Ροπή.

Δημοσιεύτηκε στο Πρίσμα αρ. 129, στις 19 Μαρτίου 2022.

IMAGE CREDIT: Franz Wilhelm Seiwert, Arbeiter, 1926 | M.C. Escher, Bond of Union, 1956.