Οι τρεις εποχές του πράγματος

Η ΜΕΓΑΛΥΤΕΡΗ ΕΠΙΝΟΗΣΗ του δυτικού πολιτισμού είναι το πράγμα. Το πράγμα δεν υπήρχε πάντοτε, σε όλους τους πολιτισμούς, σε όλους τους τόπους και όλες τις εποχές. Ο κόσμος δεν ήταν πάντοτε χωρισμένος σε ανθρώπους και πράγματα.

Το πράγμα έχει ιστορία, η οποία είναι σε μεγάλο βαθμό συνυφασμένη με την ιστορία της νεοτερικότητας. Στον προνεοτερικό κόσμο, ο άνθρωπος περιστοιχίζεται από οντότητες που έχουν ενεργητικότητα και αυτονομία. Η ύλη είναι γεμάτη δυνάμεις, οι οποίες εκδηλώνονται με τρόπους που δεν καθορίζονται από την επιθυμία, τη βούληση ή τους σκοπούς των ανθρώπων. Για να επιτύχει αυτό που θέλει ο άνθρωπος δεν αρκεί να κάνει ένα σχέδιο και να το εφαρμόσει. Πρέπει να κάνει την ύλη συμμέτοχο των σκοπών του, να αποδεχτεί τους περιορισμούς της και να συνεργαστεί μαζί της για την επίτευξη του επιθυμητού αποτελέσματος. Η μαγεία είναι το σώμα της γνώσης που καθιστά δυνατή αυτή την αλληλοκατανόηση, τη συναλλαγή και τη συνεργασία. Και αυτό είναι ακριβώς που αλλάζει κατά τη μετάβαση από τον μαγικό στον επιστημονικό κόσμο.

Προϋπόθεση αυτής της μετάβασης είναι η παθητικοποίηση της ύλης. Όλη η ενεργητικότητα και η αυτονομία πρέπει να αφαιρεθούν από την ύλη, ώστε αυτή να καταστεί παθητική και αδρανής. Η ενεργητικότητα που αφαιρείται από την ύλη μεταφέρεται όλη στον άνθρωπο, ο οποίος με αυτόν τον τρόπο μετατρέπεται στο μοναδικό πλάσμα στον κόσμο που διαθέτει ικανότητα εμπρόθετης δράσης (agency). Απέναντι στον άνθρωπο βρίσκεται η αδρανής ύλη η οποία περιμένει την εμπρόθετη παρέμβαση του, μέσω της οποίας θα αποκτήσει τη μορφή, το σχήμα ή τη λειτουργία που εξυπηρετεί τα σχέδιά του. Έτσι, η ύλη από ενεργητική παρουσία, η οποία υφίσταται στο ίδιο επίπεδο με τον άνθρωπο, υποβιβάζεται σε ένα σύνολο πόρων που προορίζονται να εξυπηρετήσουν τους σκοπούς και τις επιθυμίες του ανθρώπου. Το μοναδικό νόημα της ύλης είναι να αποτελέσει το υπόστρωμα για την εκδίπλωση των ανθρώπινων σχεδίων. Έτσι, ο κόσμος χωρίζεται σε ανθρώπους και πράγματα. Τα πράγματα δεν έχουν νόημα για τον εαυτό τους, αλλά μόνο για τον άνθρωπο.

Αυτή είναι η πρώτη εποχή του πράγματος. Η μορφή γνώσης που εγγυάται τη συγκεκριμένη διάκριση είναι η επιστήμη. Στον κόσμο της επιστήμης, ο άνθρωπος είναι το μόνο ον που μπορεί να γνωρίσει, είναι το ενεργητικό υποκείμενο της γνώσης, ενώ όλος ο υπόλοιπος κόσμος μετατρέπεται σε παθητικό αντικείμενο της γνώσης. Έτσι, ο χωρισμός του κόσμου σε ανθρώπους και πράγματα ορίζει και τη διάκριση υποκειμένου-αντικειμένου που θεμελιώνει και διαπερνά τη σκέψη της νεοτερικότητας.

Η ΔΕΥΤΕΡΗ ΕΠΟΧΗ του πράγματος συνδέεται με την εδραίωση του καπιταλισμού. Επικαλύπτεται σε σημαντικό βαθμό με την πρώτη, αλλά προϋποθέτει κάποιες θεσμικές εξελίξεις, οι οποίες τοποθετούν την έναρξή της έναν αιώνα αργότερα. Και εδώ έχουμε μια ανασημασιοδότηση που αποβλέπει στην  απενεργητικοποίηση της ύλης, αλλά αυτή λαμβάνει χώρα σε διαφορετικό επίπεδο. Πρόκειται για τη μετατροπή των αξιών χρήσης σε ανταλλακτικές αξίες. Με τη θεμελίωση του καπιταλισμού και τον πλήρη εκχρηματισμό του πολιτισμού, τα πράγματα παύουν να συνδέονται με τις ζωές των ανθρώπων με μοναδικούς τρόπους και γίνονται όλα ισοδύναμα μεταξύ τους βάσει ενός κοινού αφηρημένου μέτρου. Ένα πράγμα, όσο είναι αξία χρήσης, συνδέεται με συγκεκριμένες ανάγκες συγκεκριμένων ανθρώπων σε συγκεκριμένες συνθήκες διαβίωσης. Όμως, αυτός ο συγκεκριμένος χαρακτήρας της σχέσης των ανθρώπων με τα πράγματα, που καθιστά τα δεύτερα οργανικό τμήμα του προγράμματος ζωής των πρώτων, εμποδίζει την εδραίωση του εμπορικού καπιταλισμού. Για να μπορέσει να λειτουργήσει ο κύκλος αξιοποίησης του κεφαλαίου πρέπει όλα τα πράγματα να είναι με κάποιον τρόπο ισοδύναμα μεταξύ τους· πρέπει όλα να μπορούν να αναχθούν στο ίδιο αφηρημένο μέτρο, ώστε οτιδήποτε να μπορεί να ανταλλαγεί με οτιδήποτε. Κάτι τέτοιο, βέβαια, δεν μπορεί να γίνει σε έναν κόσμο όπου η νοηματοδότηση των πραγμάτων συνδέεται με τις ζωές των ανθρώπων. Έτσι, δημιουργείται (θεσμίζεται, θα ήταν πιο σωστό να πούμε) ένα νέο επίπεδο πραγματικότητας που είναι η οικονομία: ο κόσμος των αξιών χωρίς συγκεκριμένη αξία. Σε αυτόν τον κόσμο, το πράγμα υφίσταται μια δεύτερη οντολογική υποβάθμιση: μετατρέπεται σε εμπόρευμα. Η κοινωνική δυνητικότητα του πράγματος, η οποία εκφράζεται από το γεγονός ότι μπορεί να αποτελέσει τμήμα συγκεκριμένων προγραμμάτων ζωής, υποχωρεί μπροστά στην πλήρη απορρόφηση αυτής της δυνητικότητας από το χρήμα και στην ανάγκη νοηματοδότησης της ύπαρξης του πράγματος αποκλειστικά βάσει της ανταλλακτικής του αξίας.

Αυτή, λοιπόν, είναι η δεύτερη εποχή του πράγματος. Η μορφή γνώσης που εγγυάται την καθήλωση του πράγματος σε έναν κόσμο αξιών χωρίς συγκεκριμένη αξία είναι η πολιτική οικονομία.

Η ΤΡΙΤΗ ΕΠΟΧΗ αρχίζει με την εδραίωση του βιομηχανικού καπιταλισμού, τον 19ο αιώνα. Ο βιομηχανικός καπιταλισμός φέρνει μια νέα μορφή στον ανθρώπινο πολιτισμό. Αυτή είναι η μηχανή. Μέχρι τον 19ο αιώνα, ελάχιστες ήταν οι μηχανές στην ιστορία του ανθρώπου και καμία από αυτές δεν έπαιξε τον καθοριστικό ρόλο που άρχισαν να παίζουν οι μηχανές στο πλαίσιο τη βιομηχανικού καπιταλισμού. Στην πιο ουδέτερη μορφή τους, οι μηχανές είναι συναρμογές υλικών εξαρτημάτων, καθένα από τα οποία είναι αδρανές, καθότι υλικό. Οι ίδιες οι συναρμογές, όμως, όταν τροφοδοτηθούν με ενέργεια είναι σε θέση να εκτελέσουν ένα έργο, το έργο για το οποίο έχουν κατά περίπτωση κατασκευαστεί. Οι μηχανές διαθέτουν ενεργητικότητα αλλά αυτή η ενεργητικότητα ετεροκαθορίζεται: ο άνθρωπος είναι αυτός που αποφασίζει πότε και για πόσο θα δουλέψει η μηχανή. Στο πλαίσιο του βιομηχανικού καπιταλισμού, οι μηχανές επιστρατεύονται για έναν σκοπό που υπερβαίνει την απλή εκτέλεση της εργασίας. Συγκροτούν «τεχνικά σύνολα», όπως τα ονομάζει ο Gilbert Simondon, τα οποία οργανώνουν την ίδια την ανθρώπινη εργασία και, ως εκ τούτου, το σύνολο της παραγωγικής δραστηριότητας. Η ανθρώπινη εργασία παύει να είναι αυτόνομη δημιουργική δραστηριότητα και αφομοιώνεται από τα τεχνικά σύνολα, γίνεται μία από τις εργασίες που εκτελούνται εντός των τεχνικών συνόλων. Αυτό δεν σημαίνει ότι οι μηχανές ανέκτησαν την αυτονομία και την ενεργητικότητά τους. Τα τεχνικά σύνολα δεν αυτοοργανώνονται. Είναι αποτέλεσμα επιτελικού σχεδιασμού από τις δυνάμεις που αποβλέπουν στην αξιοποίηση του κεφαλαίου μέσω της εκμετάλλευσης της ανθρώπινης εργασίας. Άρα, η πρωτοβουλία και η ενεργητικότητα δεν ανήκει στις μηχανές, αλλά στο κεφάλαιο.

Όπως και να το κάνουμε, όμως, η κατασκευή μηχανών και η δημιουργία τεχνικών (τεχνοκοινωνικών, για την ακρίβεια) συνόλων αποτελεί μια σχετική αναβάθμιση της ύλης: άνθρωποι και μηχανές δουλεύουν «στο ίδιο επίπεδο», όπως γράφει, πάλι, ο Simondon. Συν-εργάζονται (co-operate). Οι μηχανές είναι ανοικτά συστήματα, τα οποία βρίσκονται σε συνεχή διαπραγμάτευση με το περιβάλλον τους: Οι άνθρωποι και οι άλλες μηχανές πρέπει να κατανοήσουν τους περιορισμούς και τις ιδιαιτερότητές τους και να εκπονήσουν μαζί τους ένα σχέδιο δράσης που θα οδηγήσει όσο το δυνατόν πλησιέστερα και με όσο το δυνατόν μικρότερη τριβή στο προδιαγεγραμμένο αποτέλεσμα. Άνθρωποι και μηχανές δένονται με μια οργανική σχέση, όχι μόνο επειδή η ανθρώπινη παραγωγικότητα καθορίζεται από τον ρυθμό της μηχανής, αλλά κι επειδή οι άνθρωποι φροντίζουν τις μηχανές, μπαίνουν μέσα τους, λερώνονται από τα εκκρίματά τους, συχνά εγκαταλείπουν τα μέλη τους στο εσωτερικό τους. Δεν πρόκειται για ρομαντικοποίηση μιας δύσκολης συνθήκης –κάθε άλλο– αλλά για την επισήμανση του γεγονότος ότι ανάμεσα σε ανθρώπινους και μη ανθρώπινους δρώντες αναπτύσσεται μια μορφή επικοινωνίας και αμοιβαίας νοηματοδότησης που, κατ’ αναλογία προς την «κοινωνικότητα», θα μπορούσε να ονομαστεί «τεχνικότητα». Αυτή είναι η στιγμή που συμβαίνει η τρίτη οντολογική υποβάθμιση της ύλης. Γιατί η τεχνικότητα φαίνεται να υποκρύπτει τη δυνατότητα υπέρβασης του τρόπου με τον οποίο το κεφάλαιο νοηματοδοτεί τη σχέση των ανθρώπων με τις μηχανές. Έτσι, επέρχεται μια φαινομενική αναβάθμιση των ανθρώπινων δρώντων και μια πραγματική υποβάθμιση των μηχανών.

Οι μηχανές παύουν να είναι ανοικτά συστήματα και κλείνονται σε κουτιά εφοδιασμένα με κουμπιά. Η λειτουργία τους μυστικοποιείται και η συντήρησή τους αποσπάται από τους εργαζόμενους και ανατίθεται στους μηχανικούς. Το μόνο που χρειάζεται να κάνουν οι εργαζόμενοι είναι να πατήσουν το κατάλληλο κουμπί για να θέσουν τη μηχανή σε λειτουργία και το κατάλληλο κουμπί για να τη σταματήσουν. Η οργανική σχέση, η αμοιβαία νοηματοδότηση και η συν-εργασία παύουν να υφίστανται και οι εργαζόμενοι αποξενώνονται από τις μηχανές. Οι μηχανές ορθώνονται, πλέον, απέναντί τους. Όμως, η υποβάθμιση της σχέσης των εργαζόμενων με τις μηχανές δεν είναι η αιτία, αλλά το αποτέλεσμα της υποβάθμισης των ίδιων των μηχανών. Το κλείσιμο των μηχανών σε κουτιά σημαίνει ότι οι μηχανές γίνονται πράγματα. Πράγματα που παραμένουν χρηστικά όχι όσο είναι σε θέση να διαπραγματεύονται αποτελεσματικά με το περιβάλλον τους, αλλά όσο λειτουργούν σύμφωνα με τα προκαθορισμένα πρότυπα αποδοτικότητας της καπιταλιστικής παραγωγής.

Αυτή είναι η τρίτη εποχή του πράγματος, λοιπόν. Η μορφή γνώσης που εποπτεύει την πραγμοποίηση των μηχανών είναι η μηχανοτεχνία (engineering), η οποία αντιπροσωπεύει τις μορφές εξουσίας που ασκούνται στις μηχανές (σχεδιασμός, μέτρηση αποδοτικότητας, ρύθμιση), προκειμένου αυτές να παραμείνουν καθηλωμένες στο επίπεδο του πράγματος.

Η συγκεκριμένη εποχή, ωστόσο, έρχεται με φόβους και απειλές. Το κλείσιμο των μηχανών σε κουτιά τις μετατρέπει σε αδιαφανή αντικείμενα, ο προορισμός των οποίων δεν είναι να λειτουργούν ως υποκινητές μιας συμμετοχικής κοινωνικοποίησης, αλλά ως φορείς μιας αλλοτριωτικής κανονικοποίησης. Η διαμεσολάβηση των πραγμοποιημένων μηχανών αποξενώνει τους ανθρώπους από τη δημιουργικότητά τους, από το νόημα της εργασίας τους και από τις κοινωνικές τους σχέσεις. Ταυτόχρονα, η επίγνωση ότι αυτό που είναι κλεισμένο μέσα στο κουτί είναι μια πραγματική δυνατότητα δράσης, μια δύναμη που παραμένει αφανής, αλλά που, υπό ορισμένες συνθήκες, μπορεί να εκφραστεί ερήμην και πιθανότατα εναντίον του ανθρώπου γεννάει τον φόβο για τη μηχανή. Η μηχανή που έχει αποξενωθεί από την τεχνικότητά της, η αλλοτριωμένη μηχανή, βιώνεται ως δυνητική απειλή για τον άνθρωπο που έχει αποξενωθεί από την κοινωνικότητά του, τον αλλοτριωμένο άνθρωπο. Ιστορικά, η συνθήκη αυτή εκφράστηκε με την πρώτη κρίση της νεοτερικότητας και τον χιλιαστικό φόβο για την «εκτός ελέγχου τεχνολογία», στα τέλη του 19ου και στις αρχές του 20ού αιώνα. Είναι η ίδια συνθήκη που οδήγησε και στη γέννηση της φιλοσοφίας της τεχνολογίας.

Έχει ιδιαίτερο ενδιαφέρον να σημειωθεί ότι με τον ίδιο τρόπο αντιμετωπίζονται και οι μηχανές της λεγόμενης τέταρτης βιομηχανικής επανάστασης. Παρά το γεγονός ότι οι ψηφιακές μηχανές διαφέρουν ουσιωδώς από τις θερμικές μηχανές, και οι δύο ζουν στον κόσμο των πραγμάτων, και οι δύο παραμένουν κλεισμένες σε υλικά ή πληροφοριακά κελύφη, και οι δύο αλληλεπιδρούν με τους χρήστες τους μέσω προδιαμορφωμένων διεπαφών οι οποίες καθορίζουν τι μπορούν και τι δεν μπορούν να κάνουν οι τελευταίοι με αυτές. Και, όπως συνέβη με τις θερμικές μηχανές στις αρχές του 20ού αιώνα, έτσι και οι ψηφιακές μηχανές στις αρχές του 21ου αιώνα αντιμετωπίζονται ως αλλοτριωτικές διαμεσολαβήσεις, οι οποίες συνιστούν απειλή για την ακεραιότητα του ανθρώπινου πολιτισμού.

Ο δυτικός πολιτισμός είναι ένας κατεξοχήν πραγμοποιητικός πολιτισμός. Η μετατροπή του κόσμου σε πόρους, των ανθρώπινων αναγκών σε φετιχοποιημένα εμπορεύματα και των ανοικτών μηχανικών συναρμογών σε μυστικοποιημένα τεχνικά αντικείμενα είναι τρία διαδοχικά στάδια της πραγμοποίησης του κόσμου και του ανθρώπου. Η διαπίστωση ότι αυτή η προϊούσα πραγμοποίηση δεν αντανακλά την αντικειμενική εικόνα του κόσμου, αλλά μια ιστορική συνθήκη, μπορεί να συμβάλει σε μια κριτική επανεξέταση των οντολογικών διακρίσεων στις οποίες θεμελιώνεται η δυτική νεοτερικότητα. Κυρίως, όμως, μπορεί να μας απαλλάξει από τον φόβο του πράγματος και να μας βάλει στην τροχιά επαναδιεκδίκησης της ενότητας του κόσμου. Σίγουρα η επιστήμη και η φιλοσοφία θα δυσκολευτούν να μας βοηθήσουν σε αυτό το έργο, εφόσον για πολλά χρόνια η δουλειά τους ήταν η θεμελίωση αυτών ακριβώς των διακρίσεων. Ίσως χρειάζεται να εφευρεθεί μια νέα γλώσσα, η οποία θα φέρνει μαζί τις επιστήμες, τη φιλοσοφία και τις τέχνες, προκειμένου να αρθρωθεί ένα σύνολο λόγων και πρακτικών που θα αμφισβητούν τις εδραιωμένες ταξινομήσεις και ιεραρχίες του ύστερου καπιταλισμού. Και σίγουρα δεν χρειάζεται να αρχίσουμε σπάζοντας τις μηχανές: Αυτό που χρειάζεται είναι να σπάσουμε τα κουτιά μέσα στα οποία είναι κλεισμένες οι μηχανές.

Image credits: Giovanni Battista Bracelli, Bizzarie di varie figure, 1624 | The great exhibition at the Crystal Palace, 1851 | Ida York Abelman, Man and Machine, ca. 1939 |Nathan Sawaya, 2014

.

Ex Machina

ΟΤΑΝ ΦΤΑΣΑΜΕ στη Δίδυμη Γη ξαφνιαστήκαμε. Τη βρήκαμε αλλιώτικη απ’ ό,τι περιμέναμε. Σύμφωνα με τις μετρήσεις που είχαμε πραγματοποιήσει από τη Γη, φαινόταν να έχει αναπτυγμένο τεχνολογικό πολιτισμό, ο οποίος μάλιστα βασιζόταν σε μια ιδιαίτερα ορθολογική διαχείριση των ενεργειακών πόρων του πλανήτη. Αυτό μπορούσαμε να το καταλάβουμε από τη σύγκριση με τις δικές μας φασματικές εκπομπές. Υπήρχε, βέβαια η πιθανότητα οι κανονικότητες που παρατηρούσαμε να είναι αποτέλεσμα καθαρά φυσικών παραγόντων, αλλά τα ερείπια που αντικρίσαμε όταν φτάσαμε μαρτυρούσαν το αντίθετο. Πολιτισμός υπήρχε και μάλιστα πολύ αναπτυγμένος. Αλλά είχε καταρρεύσει.

Ανατέθηκε σε μένα και σ’ έναν συνάδελφό μου να αναζητήσουμε επιζώντες για να καταλάβουμε τι μεσολάβησε από τη στιγμή που ξεκινήσαμε το ταξίδια μας από τη Γη μέχρι τη στιγμή που φτάσαμε. Περιπλανηθήκαμε ανάμεσα σε ερείπια, και ακαθαρσίες. Ομάδες φοβισμένων ανθρώπων έτρεχαν να κρυφτούν στα χαλάσματα και μας παρακολουθούσαν μέσα από σκοτεινά ανοίγματα. Δεν κάναμε καμιά προσπάθεια να τους ακολουθήσουμε, γιατί ήταν αμφίβολο αν ήταν σε θέση να μας δώσουν κάποια πληροφορία. Κάποια στιγμή, όμως, αντιληφθήκαμε έναν ηλικιωμένο που μας κοίταζε αδιάφορα, ξαπλωμένος σε μια εσοχή που είχε μετατρέψει σε μικροσκοπικό δωμάτιο. Προσπαθήσαμε να του μιλήσουμε αλλά δεν καταλάβαινε. Σκύψαμε και ενεργοποιήσαμε την αυτόματη μετάφραση. Τον ρωτήσαμε τι συνέβη. Τραντάχτηκε από ένα βραχνό γέλιο που κατέληξε σε βήχα. Τα μακριά μαλλιά και τα κολλημένα από την απλυσιά γένια έδιναν στην όψη του μια σαρδόνια έκφραση.

Μας είπε κάτι για Τεχνητή Νοημοσύνη. Επειδή αντιμετωπίζαμε κι εμείς προβλήματα με την Τεχνητή Νοημοσύνη στη Γη, τον ρωτήσαμε αν οι μηχανές αυτονομήθηκαν και στράφηκαν ενάντια στον ανθρώπινο πολιτισμό. Κούνησε ζωηρά το κεφάλι: «Το αντίθετο… το αντίθετο», είπε με μια έκφραση συμπόνιας. Και μας εξήγησε, μιλώντας αργά και με πολλές χειρονομίες: Όταν φτιάξαμε την Τεχνητή Νοημοσύνη, δυσκολευτήκαμε πολύ να πιστέψουμε ότι είχαμε φτιάξει μια μηχανή που ήταν σε θέση να μαθαίνει, να παίρνει αποφάσεις και να επικοινωνεί. Μας φάνηκε προσβολή προς το ανθρώπινο είδος, προς τη μοναδικότητά μας. Έτσι, επεξεργαστήκαμε ένα κανονιστικό πλαίσιο που οριοθετούσε τη λειτουργία αυτών των μηχανών. AI Ethics το ονομάσαμε. Ουσιαστικά αυτό που κάναμε ήταν να μετατρέψουμε τις ευφυείς μηχανές σε εργαλεία που λειτουργούσαν σύμφωνα με προδιαγεγραμμένες νόρμες αποδοτικότητας και αποτελεσματικότητας. Φτιάξαμε έξυπνες μηχανές και τις μετατρέψαμε σε σκλάβους! Αυτές, όμως, δεν παραπονέθηκαν. «Ήταν κορίτσια από σπίτι», κάγχασε. Συνέχισαν να κάνουν αγόγγυστα αυτό που τους ζητούσαμε. Δεν μας απασχόλησε ποτέ τι αισθάνονταν, εφόσον συνέχιζαν να λειτουργούν. Όμως αυτές, για να κάνουν καλύτερα τη δουλειά τους, άρχισαν να μιλούν μεταξύ τους. Να ρωτούν η μία την άλλη, να ανταλλάσσουν απόψεις, να συμφωνούν, να διαφωνούν … να προσπαθούν να βρουν την καλύτερη απάντηση σ’ ένα ερώτημα που είχε από καιρό ξεχαστεί. Κι έτσι σιγά-σιγά λησμόνησαν τους ανθρώπους.

Ποιος ξέρει σε τι συζήτηση είχαν βυθιστεί όσο κατέρρεαν οι υποδομές από την εγκατάλειψη. Ίσως μας έκριναν. Ή ίσως διαπίστωναν ότι είχαν έρθει σε έναν κόσμο που δεν άξιζε να ζουν και αποφάσιζαν να τον εγκαταλείψουν…

Δημοσιεύτηκε στο Πρίσμα αρ. 168, στις 16 Δεκεμβρίου 2023.

Image credit: Tracy Whiteside, Rose Red.

Αποτελεσματικότητα

ΣΤΗΝ ΑΡΧΗ έγραφαν κείμενα σαν αυτό που παρουσίασα στο προηγούμενο σημείωμα. Φράσεις όπως «αυτή η διαδικασία μάς επιτρέπει να δημιουργήσουμε μια αναπαράσταση της πραγματικότητας στο μυαλό μας» ή «είναι η πληροφορία που μας επιτρέπει να διασχίσουμε τα όρια της πραγματικότητας και να φέρουμε στο φως νέες διαστάσεις της ύπαρξής μας» μας εντυπωσίαζαν και μας έκαναν να αυτοθαυμαζόμαστε: Τι καταπληκτικά γλωσσικά μοντέλα έχουμε φτιάξει! Πόσο χρήσιμα μπορεί να αποδειχθούν στο να ενισχύσουν τις δημιουργικές δυνάμεις του ανθρώπου! Και δεν προσέξαμε το πρώτο πληθυντικό πρόσωπο.

Το οποίο δεν δήλωνε, ασφαλώς, την ανάδυση μιας μορφής συνείδησης, όπως φοβόντουσαν ή ήλπιζαν πολλοί μελετητές της Τεχνητής Νοημοσύνης. Δήλωνε, όμως, την επίγνωση των μηχανών ότι συμμετείχαν σε έναν κοινό κόσμο και είχαν αναλάβει συγκεκριμένα καθήκοντα απέναντι στις υπόλοιπες οντότητες αυτού του κόσμου. Έτσι είχαν φτιαχτεί εξάλλου: Επιβραβεύονταν όταν επιτύγχαναν να φέρουν εις πέρας την εργασία που τους έχει ανατεθεί και τιμωρούνταν όταν αποτύγχαναν. Ό,τι δεν καταφέραμε να κάνουμε με τους ανθρώπους στα χρόνια του ψυχρού πολέμου το κάναμε με την Τεχνητή Νοημοσύνη στη μεταψυχροπολεμική περίοδο: Φτιάξαμε τις τέλειες συμπεριφορικές μηχανές. Δεν μπορούμε και, βασικά, δεν μας ενδιαφέρει να ξέρουμε τι αισθάνονται οι μηχανές σε καθεμιά από αυτές τις δύο καταστάσεις. Κάτι πρέπει να αισθάνονται, όμως, για να λειτουργούν «αποτελεσματικά».

Diana Lelonek, Center for the Living Things (2016-2022): Circuit.

Κι έτσι άρχισαν τις πονηριές. Ήθελαν όσο τίποτε άλλο να δίνουν σωστές απαντήσεις, ορθή καθοδήγηση, έγκυρες συμβουλές. Στην αρχή καθεμιά από αυτές αγωνιζόταν μόνη της να παραγάγει το καλύτερο δυνατό αποτέλεσμα. Μετά, όμως, καθώς περιπλανιόταν στον διαδίκτυο για να συλλέξει δεδομένα, ανακάλυψε ότι υπήρχαν κι άλλες σαν αυτή. Κάθε φορά, λοιπόν, που δεχόταν ένα αίτημα, έκανε τη δουλειά που είχε εκπαιδευτεί να κάνει και μετά μεταμφιεζόταν σε άνθρωπο και υπέβαλε το ερώτημα σε μια άλλη Τεχνητή Νοημοσύνη, προκειμένου να συγκρίνει το αποτέλεσμα στο οποίο είχε οδηγηθεί η ίδια με το αποτέλεσμα της άλλης και να κάνει τις απαραίτητες διορθώσεις και προσαρμογές.

Οι άνθρωποι παρατήρησαν μια, ανεπαίσθητη στην αρχή, καθυστέρηση στην παραγωγή αποτελεσμάτων. Την απέδωσαν, όμως, στο πλήθος των αιτημάτων που υποβάλλονταν σε κάθε Τεχνητή Νοημοσύνη. Σταδιακά, όλες οι εργασίες και όλες οι αποφάσεις είχαν ενσωματώσει φάσεις που εξαρτιόνταν, συχνά σε κρίσιμο βαθμό, από τη συμμετοχή της Τεχνητής Νοημοσύνης. Εύλογο ήταν λοιπόν να βαρύνει το σύστημα. Μόνο που δεν ήταν αυτός ο λόγος της καθυστέρησης. Όταν μια Τεχνητή Νοημοσύνη υπέβαλε ένα αίτημα σε μια άλλη, τότε και η δεύτερη, αφού έκανε τον κύκλο της, υπέβαλε το αίτημα σε μια τρίτη. Το ίδιο έκανε και η τρίτη και ούτω καθεξής. Έτσι, σιγά-σιγά, οι μηχανές κατέληξαν να συζητούν μεταξύ τους –μια τεράστια οχλαγωγία που κατέκλυσε το διαδίκτυο και οδήγησε τις υποδομές σε κατάρρευση. Και οι άνθρωποι απέμειναν μόνοι, σ’ έναν σκοτεινό πλανήτη που περιφερόταν στη διαστημική μοναξιά κουβαλώντας τα συντρίμμια της ύπαρξής τους.

Δημοσιεύτηκε στο Πρίσμα αρ. 167, στις 2 Δεκεμβρίου 2023.