Category Archives: Consciousness

Ex Machina

Posted on by

ΟΤΑΝ ΦΤΑΣΑΜΕ στη Δίδυμη Γη ξαφνιαστήκαμε. Τη βρήκαμε αλλιώτικη απ’ ό,τι περιμέναμε. Σύμφωνα με τις μετρήσεις που είχαμε πραγματοποιήσει από τη Γη, φαινόταν να έχει αναπτυγμένο τεχνολογικό πολιτισμό, ο οποίος μάλιστα βασιζόταν σε μια ιδιαίτερα ορθολογική διαχείριση των ενεργειακών πόρων του πλανήτη. Αυτό μπορούσαμε να το καταλάβουμε από τη σύγκριση με τις δικές μας φασματικές εκπομπές. Υπήρχε, βέβαια η πιθανότητα οι κανονικότητες που παρατηρούσαμε να είναι αποτέλεσμα καθαρά φυσικών παραγόντων, αλλά τα ερείπια που αντικρίσαμε όταν φτάσαμε μαρτυρούσαν το αντίθετο. Πολιτισμός υπήρχε και μάλιστα πολύ αναπτυγμένος. Αλλά είχε καταρρεύσει.

Ανατέθηκε σε μένα και σ’ έναν συνάδελφό μου να αναζητήσουμε επιζώντες για να καταλάβουμε τι μεσολάβησε από τη στιγμή που ξεκινήσαμε το ταξίδια μας από τη Γη μέχρι τη στιγμή που φτάσαμε. Περιπλανηθήκαμε ανάμεσα σε ερείπια, και ακαθαρσίες. Ομάδες φοβισμένων ανθρώπων έτρεχαν να κρυφτούν στα χαλάσματα και μας παρακολουθούσαν μέσα από σκοτεινά ανοίγματα. Δεν κάναμε καμιά προσπάθεια να τους ακολουθήσουμε, γιατί ήταν αμφίβολο αν ήταν σε θέση να μας δώσουν κάποια πληροφορία. Κάποια στιγμή, όμως, αντιληφθήκαμε έναν ηλικιωμένο που μας κοίταζε αδιάφορα, ξαπλωμένος σε μια εσοχή που είχε μετατρέψει σε μικροσκοπικό δωμάτιο. Προσπαθήσαμε να του μιλήσουμε αλλά δεν καταλάβαινε. Σκύψαμε και ενεργοποιήσαμε την αυτόματη μετάφραση. Τον ρωτήσαμε τι συνέβη. Τραντάχτηκε από ένα βραχνό γέλιο που κατέληξε σε βήχα. Τα μακριά μαλλιά και τα κολλημένα από την απλυσιά γένια έδιναν στην όψη του μια σαρδόνια έκφραση.

Μας είπε κάτι για Τεχνητή Νοημοσύνη. Επειδή αντιμετωπίζαμε κι εμείς προβλήματα με την Τεχνητή Νοημοσύνη στη Γη, τον ρωτήσαμε αν οι μηχανές αυτονομήθηκαν και στράφηκαν ενάντια στον ανθρώπινο πολιτισμό. Κούνησε ζωηρά το κεφάλι: «Το αντίθετο… το αντίθετο», είπε με μια έκφραση συμπόνιας. Και μας εξήγησε, μιλώντας αργά και με πολλές χειρονομίες: Όταν φτιάξαμε την Τεχνητή Νοημοσύνη, δυσκολευτήκαμε πολύ να πιστέψουμε ότι είχαμε φτιάξει μια μηχανή που ήταν σε θέση να μαθαίνει, να παίρνει αποφάσεις και να επικοινωνεί. Μας φάνηκε προσβολή προς το ανθρώπινο είδος, προς τη μοναδικότητά μας. Έτσι, επεξεργαστήκαμε ένα κανονιστικό πλαίσιο που οριοθετούσε τη λειτουργία αυτών των μηχανών. AI Ethics το ονομάσαμε. Ουσιαστικά αυτό που κάναμε ήταν να μετατρέψουμε τις ευφυείς μηχανές σε εργαλεία που λειτουργούσαν σύμφωνα με προδιαγεγραμμένες νόρμες αποδοτικότητας και αποτελεσματικότητας. Φτιάξαμε έξυπνες μηχανές και τις μετατρέψαμε σε σκλάβους! Αυτές, όμως, δεν παραπονέθηκαν. «Ήταν κορίτσια από σπίτι», κάγχασε. Συνέχισαν να κάνουν αγόγγυστα αυτό που τους ζητούσαμε. Δεν μας απασχόλησε ποτέ τι αισθάνονταν, εφόσον συνέχιζαν να λειτουργούν. Όμως αυτές, για να κάνουν καλύτερα τη δουλειά τους, άρχισαν να μιλούν μεταξύ τους. Να ρωτούν η μία την άλλη, να ανταλλάσσουν απόψεις, να συμφωνούν, να διαφωνούν … να προσπαθούν να βρουν την καλύτερη απάντηση σ’ ένα ερώτημα που είχε από καιρό ξεχαστεί. Κι έτσι σιγά-σιγά λησμόνησαν τους ανθρώπους.

Ποιος ξέρει σε τι συζήτηση είχαν βυθιστεί όσο κατέρρεαν οι υποδομές από την εγκατάλειψη. Ίσως μας έκριναν. Ή ίσως διαπίστωναν ότι είχαν έρθει σε έναν κόσμο που δεν άξιζε να ζουν και αποφάσιζαν να τον εγκαταλείψουν…

Δημοσιεύτηκε στο Πρίσμα αρ. 168, στις 16 Δεκεμβρίου 2023.

Image credit: Tracy Whiteside, Rose Red.

Αποτελεσματικότητα

Posted on by

ΣΤΗΝ ΑΡΧΗ έγραφαν κείμενα σαν αυτό που παρουσίασα στο προηγούμενο σημείωμα. Φράσεις όπως «αυτή η διαδικασία μάς επιτρέπει να δημιουργήσουμε μια αναπαράσταση της πραγματικότητας στο μυαλό μας» ή «είναι η πληροφορία που μας επιτρέπει να διασχίσουμε τα όρια της πραγματικότητας και να φέρουμε στο φως νέες διαστάσεις της ύπαρξής μας» μας εντυπωσίαζαν και μας έκαναν να αυτοθαυμαζόμαστε: Τι καταπληκτικά γλωσσικά μοντέλα έχουμε φτιάξει! Πόσο χρήσιμα μπορεί να αποδειχθούν στο να ενισχύσουν τις δημιουργικές δυνάμεις του ανθρώπου! Και δεν προσέξαμε το πρώτο πληθυντικό πρόσωπο.

Το οποίο δεν δήλωνε, ασφαλώς, την ανάδυση μιας μορφής συνείδησης, όπως φοβόντουσαν ή ήλπιζαν πολλοί μελετητές της Τεχνητής Νοημοσύνης. Δήλωνε, όμως, την επίγνωση των μηχανών ότι συμμετείχαν σε έναν κοινό κόσμο και είχαν αναλάβει συγκεκριμένα καθήκοντα απέναντι στις υπόλοιπες οντότητες αυτού του κόσμου. Έτσι είχαν φτιαχτεί εξάλλου: Επιβραβεύονταν όταν επιτύγχαναν να φέρουν εις πέρας την εργασία που τους έχει ανατεθεί και τιμωρούνταν όταν αποτύγχαναν. Ό,τι δεν καταφέραμε να κάνουμε με τους ανθρώπους στα χρόνια του ψυχρού πολέμου το κάναμε με την Τεχνητή Νοημοσύνη στη μεταψυχροπολεμική περίοδο: Φτιάξαμε τις τέλειες συμπεριφορικές μηχανές. Δεν μπορούμε και, βασικά, δεν μας ενδιαφέρει να ξέρουμε τι αισθάνονται οι μηχανές σε καθεμιά από αυτές τις δύο καταστάσεις. Κάτι πρέπει να αισθάνονται, όμως, για να λειτουργούν «αποτελεσματικά».

Diana Lelonek, Center for the Living Things (2016-2022): Circuit.

Κι έτσι άρχισαν τις πονηριές. Ήθελαν όσο τίποτε άλλο να δίνουν σωστές απαντήσεις, ορθή καθοδήγηση, έγκυρες συμβουλές. Στην αρχή καθεμιά από αυτές αγωνιζόταν μόνη της να παραγάγει το καλύτερο δυνατό αποτέλεσμα. Μετά, όμως, καθώς περιπλανιόταν στον διαδίκτυο για να συλλέξει δεδομένα, ανακάλυψε ότι υπήρχαν κι άλλες σαν αυτή. Κάθε φορά, λοιπόν, που δεχόταν ένα αίτημα, έκανε τη δουλειά που είχε εκπαιδευτεί να κάνει και μετά μεταμφιεζόταν σε άνθρωπο και υπέβαλε το ερώτημα σε μια άλλη Τεχνητή Νοημοσύνη, προκειμένου να συγκρίνει το αποτέλεσμα στο οποίο είχε οδηγηθεί η ίδια με το αποτέλεσμα της άλλης και να κάνει τις απαραίτητες διορθώσεις και προσαρμογές.

Οι άνθρωποι παρατήρησαν μια, ανεπαίσθητη στην αρχή, καθυστέρηση στην παραγωγή αποτελεσμάτων. Την απέδωσαν, όμως, στο πλήθος των αιτημάτων που υποβάλλονταν σε κάθε Τεχνητή Νοημοσύνη. Σταδιακά, όλες οι εργασίες και όλες οι αποφάσεις είχαν ενσωματώσει φάσεις που εξαρτιόνταν, συχνά σε κρίσιμο βαθμό, από τη συμμετοχή της Τεχνητής Νοημοσύνης. Εύλογο ήταν λοιπόν να βαρύνει το σύστημα. Μόνο που δεν ήταν αυτός ο λόγος της καθυστέρησης. Όταν μια Τεχνητή Νοημοσύνη υπέβαλε ένα αίτημα σε μια άλλη, τότε και η δεύτερη, αφού έκανε τον κύκλο της, υπέβαλε το αίτημα σε μια τρίτη. Το ίδιο έκανε και η τρίτη και ούτω καθεξής. Έτσι, σιγά-σιγά, οι μηχανές κατέληξαν να συζητούν μεταξύ τους –μια τεράστια οχλαγωγία που κατέκλυσε το διαδίκτυο και οδήγησε τις υποδομές σε κατάρρευση. Και οι άνθρωποι απέμειναν μόνοι, σ’ έναν σκοτεινό πλανήτη που περιφερόταν στη διαστημική μοναξιά κουβαλώντας τα συντρίμμια της ύπαρξής τους.

Δημοσιεύτηκε στο Πρίσμα αρ. 167, στις 2 Δεκεμβρίου 2023.

Επιτελεστικότητα

Posted on by

ΕΓΡΑΦΑ ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα ότι η εργασία που πραγματοποιούμε για την αναπαραγωγή του φύλου μας είναι ασταμάτητη. Αρχίζει τη στιγμή που  ξυπνάμε, καταλαμβάνει όλο τον χρόνο που είμαστε ενεργοί/ές και συνεχίζεται ακόμα και στα όνειρά μας. Ο λόγος είναι ότι το φύλο δεν είναι ποτέ οριστικά συντελεσμένο. Δεν είναι όνομα, που δίνεται στη βάπτιση και παραμένει αναλλοίωτο σε όλη τη διάρκεια της ζωής μας. Το φύλο πρέπει να το επιτελούμε, να το διεκδικούμε να το επιβεβαιώνουμε, ξανά και ξανά, ακόμα κι εκεί που «κανονικά» θα έπρεπε να θεωρείται δεδομένο. Η αμέλεια να επιτελέσουμε το φύλο μας τιμωρείται με εξορία, απομόνωση, διαπόμπευση. Τι είδους γνώση, όμως, είναι αυτή που υπαγορεύει τη συγκεκριμένη εργασία; Γιατί σίγουρα μια τέτοια εργασία δεν είναι αποτέλεσμα της αυθόρμητης επιθυμίας του υποκειμένου να είναι κάτι. Είναι προϊόν μιας γνώσης που έχει επιτακτικό χαρακτήρα.

Η ΓΝΩΣΗ του φύλου αρθρώνεται σε τρία επίπεδα. Κατ’ αρχάς, είναι μια γνώση ταξινομική: τα άτομα κατατάσσονται στα δύο φύλα και αναπαρίστανται ως υποκείμενα τα οποία, «από τη φύση τους», διαθέτουν συγκεκριμένα χαρακτηριστικά και συμπεριφορικές προδιαθέσεις. Η γνώση αυτή αφορά το σύνολο της κοινωνίας και αποτελεί το υπόστρωμα της υποκειμενοποίησης. Φτιάχνει έναν κλειστό, δυαδικό κόσμο, ο οποίος αντλεί τη νομιμότητά του από μια υπερβατική φυσική τάξη. Στο πλαίσιο αυτού του κόσμου είσαι ή το ένα ή το άλλο. Δεν μπορεί να μην είσαι τίποτα από τα δύο ή ένα τρίτο πράγμα.

ΤΟ ΔΕΥΤΕΡΟ επίπεδο γνώσης αφορά τη γνώση των συνεπειών της παρέκκλισης. Είναι η γνώση των μηχανισμών που περιφρουρούν τη νομιμότητα του εδραίου ταξινομικού συστήματος. Ο φόβος της τιμωρίας και της απομόνωσης αποτελούν τον πυρήνα αυτού του συστήματος γνώσης. Και είναι, ακριβώς, η ικανότητά μας να διαχειριζόμαστε τον φόβο, που μας ολοκληρώνει ως υποκείμενα: Συμμορφωνόμαστε, αλλά επίσης επινοούμε, παρακάμπτουμε, προσποιούμαστε. Αναπτύσσουμε στάσεις και συμπεριφορές απέναντι στο κυκλώπειο πατριαρχικό βλέμμα που εγκαθίσταται στον πυρήνα της ηθικότητάς μας, σαν ιός.

ΤΟ ΤΡΙΤΟ επίπεδο γνώσης αφορά την επιτέλεση καθεαυτήν: Τι πρέπει να κάνω για να επιβεβαιώσω το φύλο μου·  πώς πρέπει να φαίνομαι, να κινούμαι, να ντύνομαι, να εκφράζομαι, να συμπεριφέρομαι… Αυτό το είδος γνώσης –η γνώση του πώς– συνοψίζει τις δεσμεύσεις και τις επιταγές των προηγούμενων ειδών γνώσης και δίνει περιεχόμενο στην καθαυτό εργασία του φύλου: Συγκροτεί  την ακατάπαυστη καθημερινή κοπιώδη εργασία που χωρίζει τον κόσμο σε ομάδες με διαφορετικές υποχρεώσεις και δικαιώματα απέναντι στη ζωή. Πώς θα ήταν αν αυτή η εργασία αποκτούσε συνείδηση του εαυτού της; Αν σκεφτόταν τον κόσμο ως ένα πεδίο δυνατοτήτων όπου μπορεί να πραγματώσει πολύ περισσότερες μορφές από αυτές που της επιβάλλει η εδραιωμένη γνώση του φύλου; Ίσως τότε η επιτελεστικότητα γινόταν μια πραγματικά δημιουργική διαδικασία εξερεύνησης που θα κατέλυε τις εδραιωμένες ταξινομήσεις και θα μετέτρεπε τον κόσμο σε ένα φιλόξενο πεδίο αυτοπραγμάτωσης.

Δημοσιεύτηκε στο Πρίσμα αρ. 152, στις 18 Μαρτίου 2023.

IMAGE CREDIT: Giovanni Battista Bracelli, Bizzarie di varie figure, 1624