Category Archives: Posthumanism

Άνθρωποι και Μηχανές

Posted on by

Η ΣΥΖΗΤΗΣΗ ΓΙΑ την τεχνητή νοημοσύνη έχει κατακλύσει τη δημόσια σφαίρα τα τελευταία χρόνια. Καθόλου παράξενο, δεδομένου ότι η διάδοση των συστημάτων τεχνητής νοημοσύνης έχει επηρεάσει τους περισσότερους τομείς του δημόσιου και ιδιωτικού βίου: Από τον τρόπο που γράφονται οι εργασίες στο πανεπιστήμιο μέχρι τον τρόπο που κατανοούμε τα αποτελέσματα των ιατρικών μας εξετάσεων· κι από τον τρόπο με τον οποίο δημοσιοποιούνται οι ειδήσεις των παγκόσμιων συρράξεων μέχρι τον τρόπο που αναδιοργανώνεται η εργασία στον όψιμο καπιταλισμό. Οι συζητήσεις έχουν στόχο να διερευνήσουν τη νέα κατάσταση και να φέρουν στο φως τους κινδύνους και τις προοπτικές που κρύβει η εμπλοκή της τεχνητής νοημοσύνης σε αυτούς τους μετασχηματισμούς. Όμως, όπως έχω σημειώσει και αλλού, αυτές οι συζητήσεις έχουν την τάση να μεταβαίνουν κατευθείαν στο αίτημα της ρύθμισης: Τι πρέπει να κάνουμε για να αποφύγουμε τις βλαβερές συνέπειες της τεχνητής νοημοσύνης; Πώς θα προλάβουμε ή, έστω, θα μετριάσουμε την απώλεια θέσεων εργασίας; Πώς θα αποφύγουμε τη χειραγώγηση της ατομικής και συλλογικής ζωής από τους αλγορίθμους; Πώς θα εξασφαλίσουμε τη διαφανή λειτουργία των συστημάτων τεχνητής νοημοσύνης και θα αποτρέψουμε την ψηφιακή ηγεμονία των εταιρειών υψηλής τεχνολογίας; Πώς θα χρησιμοποιήσουμε «επωφελώς» και «εποικοδομητικά» τις δυνατότητες αυτού του πανίσχυρου νέου τεχνολογικού μέσου; Το πρόβλημα με αυτή τη μεθόδευση της συζήτησης είναι ότι παίρνει πολλά πράγματα ως δεδομένα και τα ενσωματώνει απροβλημάτιστα σε έναν στοχασμό για το μέλλον. Αυτό συμβαίνει σε τρία επίπεδα.

Το πρώτο επίπεδο στο οποίο τα πράγματα λαμβάνονται ως δεδομένα είναι το κοινωνικό: Τι σημαίνει να προστατεύσουμε την εργασία από την έλευση της τεχνητής νοημοσύνης; Για ποια εργασία μιλάμε; Μήπως, στην πραγματικότητα, ήρθε η ώρα να σκεφτούμε την προοπτική μετασχηματισμού της μισθωτής εργασίας και άρα να εξετάσουμε τους τρόπους με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε, πιθανώς, να συμβάλει σε αυτό το εγχείρημα; Τι σημαίνει να υπερασπιστούμε την ιδιωτικότητα; Πώς στοιχειοθετείται το ιδιοκτησιακό μας δικαίωμα επί των δεδομένων που παράγει η παρουσία μας στον κόσμο; Μήπως, στην πραγματικότητα, ήρθε η ώρα να αναθεωρήσουμε τον δυτικό ατομοκεντρισμό και άρα να οραματιστούμε τρόπους με τους οποίους η ψηφιακή συνθήκη θα μπορούσε να συμβάλει σε νέες μορφές επιμέλειας του εαυτού; Δεν είναι του παρόντος να συζητήσουμε αυτά τα θέματα, αλλά τέτοιοι είναι οι προβληματισμοί που θα έπρεπε να τίθενται στο κοινωνικό επίπεδο, όσον αφορά τους μετασχηματισμούς που ενεργοποιεί η ψηφιακή μετάβαση. Ή τουλάχιστον τέτοιοι είναι οι προβληματισμοί που θα έπρεπε να τίθενται και να εξετάζονται στο πλαίσιο μιας προσέγγισης που αντιπροσωπεύει την κριτική σκέψη.

Το δεύτερο επίπεδο στο οποίο τα πράγματα λαμβάνονται απροβλημάτιστα ως δεδομένα αφορά τις ίδιες τις ψηφιακές τεχνολογίες. Η δαιμονοποίηση της οθόνης, του διαδικτύου και των αλγορίθμων είναι το bread and butter των στοχαστών που προβληματίζονται δημόσια για τα δεινά του αλγοριθμικού πολιτισμού. Αν και η ψηφιακή συνθήκη έχει καταστήσει αυτά τα μέσα αναπόσπαστο κομμάτι της καθημερινής ζωής, η κριτική σκέψη επιμένει να τα αντιμετωπίζει ως αποξενωτικές δυνάμεις, οι οποίες απειλούν να υποβαθμίσουν την ανθρώπινη εμπειρία και αυτοδιάθεση. Αυτή ήταν ανέκαθεν η στάση που υιοθετούσε τόσο ο δημόσιος στοχασμός όσο και η ουσιοκρατική φιλοσοφία της τεχνολογίας απέναντι στην Τεχνολογία (με κεφαλαίο τ). Τουτέστιν, απέναντι σε μια τεχνολογία που αδυνατούσαν να καταλάβουν και, ως εκ τούτου, την αντιμετώπιζαν συλλήβδην ως αλλότρια κοινωνική δύναμη. Μια (πολύ σοβαρή) συζήτηση που μένει να γίνει σε αυτό το επίπεδο, επομένως, αφορά τη φύση των τεχνικών αντικειμένων. Αν θέλουμε να μιλάμε για τις ψηφιακές τεχνολογίες (με μικρό τ και στον πληθυντικό), πρέπει να τις γνωρίσουμε. Και αυτό μπορεί να γίνει μόνο αν κατανοήσουμε την πληροφοριακή διάσταση των ψηφιακών αντικειμένων και τους τρόπους με τους οποίους αυτά μοιράζονται τον κόσμο με άλλες οντότητες που διαθέτουν παρόμοια φύση – όπως ο άνθρωπος (Floridi 2011).

Η συζήτηση που θέλω να κάνω σε αυτό το σημείωμα, ωστόσο, τοποθετείται σε ένα επίπεδο που βρίσκεται ανάμεσα στα δύο προηγούμενα. Το επίπεδο αυτό αφορά τη σχέση του ανθρώπου με την τεχνολογία εν γένει και με τις ψηφιακές τεχνολογίες ειδικότερα. Η ιδέα που λαμβάνεται εδώ απροβλημάτιστα ως δεδομένη είναι ότι η τεχνολογία αποτελεί μια εξωτερικότητα, η οποία στέκεται απέναντι στον άνθρωπο, προσφέροντάς του το δέλεαρ μιας εύκολης ζωής, ενώ ταυτόχρονα υποκρύπτει σοβαρούς κινδύνους χειραγώγησης, εκφυλισμού ή αλλοτρίωσης. Γι’ αυτό κι εκείνος, ως έλλογο ον με ικανότητα εμπρόθετης δράσης (agency), καλείται να τη διαχειριστεί προκειμένου να τη θέσει στην υπηρεσία του πολιτισμού και της ευημερίας του (ως εάν οι δύο αυτές έννοιες να ήταν μονοσήμαντα ορισμένες). Πόσο ακριβές είναι αυτό και πώς επηρεάζει τη στάση μας απέναντι στις ψηφιακές τεχνολογίες και ειδικότερα απέναντι στην τεχνητή νοημοσύνη; Η απάντηση σε αυτό το ερώτημα αρθρώνεται, κατά τη γνώμη μου, γύρω από τρεις άξονες.

Ο ΠΡΩΤΟΣ από αυτούς τους άξονες αφορά αυτό που το μακρινό 1987 οι Trevor Pinch και Wiebe Bijker ονόμασαν ερμηνευτική ευελιξία. Με μια δόση υπερβολής, θα μπορούσαμε να πούμε ότι καμιά τεχνολογία δεν παραδόθηκε ποτέ ολοκληρωμένη στους χρήστες της· και, αντίστροφα, ότι οι χρήστες ποτέ δεν είδαν τις τεχνολογίες όπως ακριβώς επιθυμούσαν να τις δουν οι κατασκευαστές τους. Η σχέση ανάμεσα στους χρήστες και τα τεχνουργήματα είναι μια ενεργητική σχέση οικειοποίησης και μετασχηματισμού. Το τεχνούργημα συχνά ανανοηματοδοτείται από τους χρήστες με τρόπους που υπερβαίνουν τις προθέσεις των κατασκευαστών του. Και σε πολλές περιπτώσεις αυτή η ανανοηματοδότηση επιστρέφει στο εργοστάσιο για να επιφέρει αλλαγές στη φυσική δομή του τεχνικού αντικειμένου, προκειμένου αυτό να προσελκύσει πιο αποτελεσματικά το καταναλωτικό ενδιαφέρον των μελλοντικών χρηστών. Η διαλεκτική αυτή δεν είναι εμφανής στα συνήθη βιομηχανικά τεχνουργήματα, αν και η μορφή που έχουν σήμερα οι περισσότερες συσκευές καθημερινής χρήσης, από το ποδήλατο μέχρι το πλυντήριο, είναι αποτέλεσμα μιας τέτοιας διάδρασης. Είναι, όμως, ιδιαίτερα εμφανής στις διαρκείς «αναβαθμίσεις» των λειτουργικών συστημάτων και του λογισμικού των ψηφιακών τεχνολογιών. Η αρχή always beta εκφράζει (μεταξύ άλλων) την αποδοχή εκ μέρους των κατασκευαστών της δυνατότητας διαρκούς ανανοηματοδότησης και, ως εκ τούτου, ανασχεδιασμού των ψηφιακών αντικειμένων.

Βεβαίως, θα πρέπει να σημειωθεί ότι η ερμηνευτική ευελιξία δεν σημαίνει ότι η σχέση μεταξύ κατασκευαστών και χρηστών είναι συμμετρική. Οι κατασκευαστές είναι αναμφίβολα αυτοί που θέτουν τους κανόνες του παιχνιδιού. Από την άλλη πλευρά, όμως, είναι σημαντικό να αναγνωρίσουμε ότι κατά την αλληλεπίδραση των χρηστών με τις ψηφιακές τεχνολογίες υπάρχει ένα περιθώριο δράσης που μπορεί να αποδειχτεί καθοριστικό σε ό,τι αφορά όχι μόνο τη χρήση, αλλά και τον σχεδιασμό και τις μορφές κοινωνικής οικειοποίησης των τεχνικών αντικειμένων. Όπως σημειώνουν ο Tiziano Bonini και ο Emiliano Treré (2024), συγγραφείς του βιβλίου Αλγόριθμοι της Αντίστασης, οι ψηφιακές πλατφόρμες δεν είναι εδραιωμένοι συσχετισμοί δύναμης, αλλά πεδία (ταξικής) μάχης.

Ο ΔΕΥΤΕΡΟΣ ΑΞΟΝΑΣ γύρω από τον οποίο αρθρώνεται η απάντηση στο ερώτημα της σχέσης των ανθρώπων με την τεχνολογία αφορά τον ίδιο τον άνθρωπο. Η ιδέα της εξωτερικότητας της τεχνολογίας δηλώνει ότι άνθρωπος και τεχνολογία αποτελούν δύο οντολογικά ασύμβατα βασίλεια που συναντιούνται στο πεδίο της χρήσης. Αυτό, όμως, δεν συνέβη ποτέ: Πέρα από το ότι η τεχνικότητα, όπως σημειώνει ο Gilbert Simondon, είναι μια μετασχηματισμένη μορφή της ανθρωπινότητας, η ίδια η ανθρωπινότητα συγκροτείται μέσω της μακραίωνης συνύφανσης ανθρώπινου και τεχνικού. Σε ένα προηγούμενο σημείωμα έγραφα, αναφερόμενος στη μνημειώδη εναρκτήρια σκηνή της Οδύσσειας του Διαστήματος, ότι δεν είναι ο άνθρωπος που επινόησε το εργαλείο, αλλά το εργαλείο που επινόησε τον άνθρωπο. Ο άνθρωπος είναι άνθρωπος επειδή είναι περισσότερο από ανθρώπινος – επειδή είναι ο ίδιος μια τεχνική συναρμογή. Κι έτσι ήταν πάντα. Παρά το γεγονός ότι με την πάροδο του χρόνου έχουμε φυσικοποιήσει διάφορες κρίσιμες ανθρωποποιητικές τεχνολογίες, η αλήθεια είναι ότι σε όλη τη διάρκεια της Ιστορίας η ανθρωπινότητα χτίστηκε γύρω από τη συνύπαρξη του ανθρώπινου ζώου με διάφορα τεχνικά μέσα, τα οποία διεύρυναν τις αντιληπτικές και αναπαραστατικές του ικανότητες, καθώς και τις δυνατότητες ενεργητικής αλληλεπίδρασης με το περιβάλλον του (Bryant 2014).

Η γλώσσα δεν είναι «ανθρώπινη ιδιότητα», αλλά τεχνολογία, η οποία μάλιστα χρησιμοποιεί ως όργανό της το ίδιο το ανθρώπινο σώμα. Η γραφή, με τη σειρά της, είναι η τεχνολογία η οποία επέτρεψε στον άνθρωπο να διευρύνει την ύπαρξή του αναθέτοντας σημαντικό μέρος των νοητικών του λειτουργιών (τη μνήμη, τον υπολογισμό και, στην πορεία, την ίδια τη σκέψη) σε έναν συνδυασμό τεχνικών μέσων και κοινωνικών θεσμών. Σε ό,τι αφορά τη γραφή, μάλιστα, έχει ενδιαφέρον ότι στις μέρες μας ακούγεται συχνά η «κριτική» ότι η έλευση της τεχνητής νοημοσύνης θα στερήσει από τους ανθρώπους την ικανότητα της σκέψης, επειδή θα την κάνουν «outsource» στα μεγάλα γλωσσικά μοντέλα. Και αυτοί που ασκούν τη συγκεκριμένη κριτική δεν σκέφτονται ότι αυτό έχει συμβεί εδώ και πέντε χιλιάδες χρόνια, από την επινόηση της γραφής, κι ότι αυτό ακριβώς είναι που μας έκανε τους ανθρώπους που είμαστε σήμερα. Και όχι μόνο τότε, αλλά σε όλη τη διάρκεια της ιστορίας του ο άνθρωπος ήταν περισσότερο από ανθρώπινος κι αυτό ήταν που τον έκανε άνθρωπο.

Βεβαίως, και εδώ είναι απολύτως σεβαστή η επιφύλαξη ότι η αναγνώριση της ανθρωποποιητικής λειτουργίας της τεχνολογίας δεν πρέπει να μας κάνει να παραβλέπουμε το γεγονός ότι η τεχνολογία είναι ένα πεδίο στο οποίο συγκρούονται ανταγωνιστικά κοινωνικά και οικονομικά συμφέροντα. Αντιθέτως, αυτό είναι ακριβώς το σημείο στο οποίο οφείλει να εστιάσει τη συζήτηση η κριτική σκέψη: Αν όντως οι τεχνολογίες έχουν ανθρωποποιητική λειτουργία, δεν υπάρχει κανένας λόγος να εκχωρήσουμε αυτή τη λειτουργία σε ένα κοινωνικοοικονομικό σύστημα που κινητοποιείται από την επιδίωξη της κερδοφορίας.

Ο ΤΡΙΤΟΣ ΑΞΟΝΑΣ γύρω από τον οποίο αρθρώνεται η απάντηση στο ερώτημα της σχέσης των ανθρώπων με την τεχνολογία αφορά συγκεκριμένα τη σχέση του ανθρώπου με τις μηχανές. Εδώ η συζήτηση είναι μεγάλη και δεν μπορεί να γίνει στο πλαίσιο αυτού του σημειώματος. Ωστόσο, έχει ενδιαφέρον να θυμηθούμε την έκκληση του γάλλου φιλοσόφου Gilbert Simondon (2022) για αναβάθμιση της θέσης των μηχανών στο πλαίσιο του ανθρώπινου πολιτισμού. Για τον Simondon, οι ρίζες τις ανθρώπινης αλλοτρίωσης βρίσκονται ακριβώς στο γεγονός ότι η εργαλειοποίηση των μηχανών αποκόπτει τον άνθρωπο από εκείνο το κομμάτι της ανθρωπινότητάς του που έχει ενσωματωθεί στις μηχανές ως τεχνικότητα (Πατηνιώτης 2025). Σε αυτή τη βάση, ο γάλλος φιλόσοφος καλεί στη δημιουργία μιας σχέσης κατανόησης και φροντίδας, η οποία θα καταστήσει τις μηχανές ισότιμα μέλη ενός ενιαίου ανθρώπινου πολιτισμού. Ο Simondon μιλούσε για τις θερμικές μηχανές και τις ηλεκτρονικές διατάξεις της εποχής του. Ένα πράγμα που άλλαξε στα σχεδόν εβδομήντα χρόνια που μεσολάβησαν από την εποχή που έγραψε την πραγματεία του Για τον τρόπο ύπαρξης των τεχνικών αντικειμένων είναι η μορφή της μηχανής και του τρόπου χρήσης της. Οι ψηφιακές μηχανές που εργάζονται όχι με τη μετατροπή της ενέργειας αλλά με την επεξεργασία της πληροφορίας, ιδιαίτερα στην αναπτυγμένη μορφή που έχουν πάρει στις μέρες μας, έχουν μια βασική διαφορά από την προηγούμενες γενιές μηχανών. Δεν τίθενται σε λειτουργία με το γύρισμα ενός διακόπτη ή το πάτημα ενός κουμπιού. Η διεπαφή μέσω της οποίας ο χρήστης θέτει σε λειτουργία και ελέγχει τη μηχανή είναι μια επιφάνεια μέσω της οποίας δίνει και παίρνει πληροφορίες, διατυπώνει και απαντά ερωτήσεις, αξιολογεί τις διαθέσιμες δυνατότητες δράσης και λαμβάνει αποφάσεις σε συνεργασία με την ίδια τη μηχανή: Για να κάνει τις ψηφιακές μηχανές να δουλέψουν, ο χρήστης χρειάζεται να επικοινωνήσει μαζί τους.

Η διαφορά δεν είναι τεχνικής, αλλά ανθρωπολογικής φύσης. Γιατί η συμμετοχή των μηχανών σε επικοινωνιακά ενεργήματα τις μετατρέπει σε υποκείμενα. Σύμφωνα με τον γερμανό κοινωνιολόγο Niklas Luhmann, το υποκείμενο δεν είναι η έκφραση μιας οντολογικά συμπαγούς υπόστασης που προϋπάρχει του επικοινωνιακού ενεργήματος, αλλά μια ενδεχομενική σημασιολογική κατασκευή που προκύπτει από την ίδια την επιτέλεση της επικοινωνίας. Η συζήτηση γύρω από τη συστημική θεωρία του Luhmann είναι μεγάλη και, προφανώς, δεν μπορεί να γίνει στο πλαίσιο αυτού του σημειώματος. Ωστόσο, είναι σημαντικό να υπογραμμίσουμε τη διάκριση ανάμεσα σε άτομα και υποκείμενα. Ο Luhmann υποστηρίζει ότι η ιδέα του υποκειμένου προέκυψε ιστορικά ως ένας τρόπος οργάνωσης της αυτοπεριγραφής της κοινωνίας. Ως εκ τούτου, σε αντίθεση με τα άτομα που διαθέτουν οντολογική αυτάρκεια και ιστορική συνέχεια (είναι «αυτοποιητικά συστήματα»), τα υποκείμενα υφίστανται μόνο στο πλαίσιο των επικοινωνιακών ενεργημάτων, ως τόποι συναρμογής και νοηματοδότησης επιτελεστικών πρακτικών όπως η βούληση, η ικανότητα εμπρόθετης δράσης, η ευθύνη και η δημιουργικότητα (Luhmann 1990). Κατά μία έννοια, δεν μπορούμε να μιλάμε για υποκείμενα, αλλά για διαρκείς υποκειμενοποιήσεις, οι οποίες διατρέχουν τον επικοινωνιακό ιστό της κοινωνίας.

Για πρώτη φορά στην ιστορία, άνθρωποι και μηχανές έχουν τη δυνατότητα να συμμετέχουν ισότιμα (και όχι ως αφέντης και δούλος, όπως έγραφε ο Simondon) στις επικοινωνιακές αλληλεπιδράσεις της κοινωνίας. Ο άνθρωπος δεν ελέγχει, δεν ρυθμίζει δεν προστάζει τη μηχανή να εκτελέσει μια εργασία, αλλά συνδιαλέγεται με αυτή, προκειμένου να εκτελέσουν μαζί την εργασία. Και η μηχανή δεν περιορίζεται στον ρόλο του παθητικού εργαλείου, αλλά γίνεται και αυτή φορέας εμπρόθετης δράσης, δημιουργικότητας, φροντίδας και ευθύνης. Σε αυτό το πλαίσιο, η έκκληση του Simondon για ένταξη των μηχανών στον ανθρώπινο πολιτισμό δεν ικανοποιείται μόνο με την επανοικειοποίηση της ανθρωπινότητας που είναι ενσωματωμένη στις μηχανές, αλλά και με την αποδοχή της συμμετοχής των τελευταίων στις επικοινωνιακές αλληλεπιδράσεις ως ισότιμων υποκειμένων.

Η ΦΙΛΟΣΟΦΙΑ της τεχνολογίας προτείνει δύο αλλαγές προοπτικής, οι οποίες αναθεωρούν τις εδραιωμένες πεποιθήσεις περί της σχέσης ανθρώπων-μηχανών: Οι μηχανές ποτέ δεν ήταν μόνο μηχανές. Μέσω της ενεργητικής οικειοποίησης και ανανοηματοδότησής τους από τους ανθρώπους, πάντοτε έτειναν να υπερβούν τον αρχικό σχεδιασμό τους ενσωματώνοντας τις ερμηνείες και τις προσδοκίες των χρηστών τους. Και οι άνθρωποι ποτέ δεν ήταν μόνο άνθρωποι. Σε όλη της διάρκεια της ιστορίας τους, οργάνωναν τη σωματική τους δραστηριότητα και τις νοητικές τους λειτουργίες γύρω από ανθρωπομηχανικές συναρμογές, και αυτό ακριβώς ήταν που τους έκανε πραγματικά ανθρώπινους. Αυτή η διπλή οικειότητα ανθρώπων-μηχανών, παίρνει νέα μορφή στην εποχή των ψηφιακών τεχνολογιών και της τεχνητής νοημοσύνης – και εδώ βρίσκεται η τρίτη συμβολή της φιλοσοφίας της τεχνολογίας. Οι μηχανές, για πρώτη φορά στην ιστορία, συμμετέχουν ως ισότιμοι δρώντες στις επικοινωνιακές επιτελέσεις που πλαισιώνουν τις διαδικασίες παραγωγής γνώσης και λήψης αποφάσεων. Αυτή η διαδικασία υποκειμενοποίησης δεν μεταφέρει τις ψηφιακές τεχνολογίες από το βασίλειο των μηχανών στο βασίλειο των ανθρώπων. Τα δύο βασίλεια παραμένουν χωριστά· το πεδίο στο οποίο συναντιούνται, όμως, δεν είναι πλέον το πεδίο της χρήσης, αλλά το πεδίο της επικοινωνίας. Και αυτό δημιουργεί μια νέα πολιτισμική συνθήκη, στο πλαίσιο της οποίας το υποκείμενο παύει να ταυτίζεται αποκλειστικά με το ανθρώπινο υποκείμενο και η ικανότητα εμπρόθετης δράσης παύει να αποτελεί μοναδικό προνόμιο του ανθρώπου. Οι ιδιότητες που η δυτική νεοτερικότητα, στην ιστορική της διαδρομή, στέρησε από όλες τις μη ανθρώπινες οντότητες επιστρέφουν ως πρόκληση για τον ανθρώπινο πολιτισμό, μέσω των ίδιων των ανθρώπινων δημιουργημάτων. Γι’ αυτό και είναι αδύνατο να αγνοήσουμε τη συγκεκριμένη πρόκληση ή να την αντιμετωπίσουμε με έναν θεσμικά επιβαλλόμενο ακρωτηριασμό των δυνατοτήτων δράσης των ψηφιακών τεχνουργημάτων: γιατί κάτι τέτοιο θα μας επανέφερε στις σκοτεινές εποχές της ρατσιστικής βίας στις οποίες θεμελιώθηκε η δυτική νεοτερικότητα.

Αναφορές
Bonini, Tiziano και Treré, Emiliano (2024). Αλγόριθμοι της Αντίστασης: Η καθημερινή πάλη ενάντια στην εξουσία της πλατφόρμας, μτφρ. Ελένη Τσατσαρώνη, επιμ. Μανώλης Πατηνιώτης, Θεσσαλονίκη: Ροπή.
Bryant, Levi (2014). Towards a Post-Human Media Ecology. Στο Levi Bryant, Onto-Cartography: An Ontology of Machines and Media, 15-36. Εδιμβούργο: Edinburgh University Press.
Floridi, Luciano (2011). The Philosophy of Information. Οξφόρδη: Oxford University Press.
Luhmann, Niklas (1990). Essays on Self-Reference. Νέα Υόρκη: Columbia University Press.
Pinch, Trevor και Bijker, Wiebe (1987). The Social Construction of Facts and Artefacts. Στο W. Bijker, T. Hughes και T. Pinch (επιμ.), The Social Construction of Technological Systems, 17-50. Κέιμπριτζ, ΜΑ.: MIT Press.
Simondon, Gilbert (2022). Για τον τρόπο ύπαρξης των τεχνικών αντικειμένων. Αθήνα: Πλέθρον.
Πατηνιώτης, Μανώλης (2025). Ο άνθρωπος που αγάπησε τις μηχανές. Αυτόματον, 3(2): 133-139.

IMAGE CREDITS: Stuart Davis, Barber Shop Chord, 1931 | Fernand Léger, Élément mécanique, 1924 | Daniel Popper in Norton Arboretum.

Κώδικες

Posted on by

ΣΚΕΦΤΟΜΑΙ ΟΤΙ ο άνθρωπος μοιάζει πολύ περισσότερο με τις μηχανές απ’ ό,τι τα ζώα. Αυτό φαίνεται από τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τον κόσμο και επικοινωνούν με αυτό που δεν είναι ο εαυτός τους. Οι άνθρωποι για να γνωρίσουν, να κατανοήσουν και να επικοινωνήσουν χρησιμοποιούν τη γλώσσα. Έναν πολύ ακριβή κώδικα, στο πλαίσιο του οποίου καθετί που υπάρχει στον κόσμο μετατρέπεται σε λέξεις. Σε λέξεις μετατρέπονται και οι προθέσεις, οι προτροπές, τα συναισθήματα. Με άλλα λόγια, οτιδήποτε αποτελεί αντικείμενο ενδιαφέροντος για τον άνθρωπο μετατρέπεται σε λέξεις. Κι οι λέξεις αυτές συναρθρώνονται με συγκεκριμένους τρόπους, οι οποίοι είναι επίσης φορείς μηνυμάτων. Ένας τρόπος συναρμογής κάποιων λέξεων μπορεί να δηλώνει κάτι και ένας διαφορετικός τρόπος συναρμογής των ίδιων λέξεων μπορεί να δηλώνει κάτι διαφορετικό.

Οι άνθρωποι αντιλαμβάνονται τον εαυτό τους, τον κόσμο και τους άλλους ανθρώπους μέσω αυτού του κώδικα. Για να υπάρξουν για τον εαυτό τους («να σκεφτούν»), να υπάρξουν με τους άλλους («να επικοινωνήσουν») και να υπάρξουν εντός του κόσμου («να γνωρίσουν» και «να ενεργήσουν») πρέπει να χρησιμοποιήσουν τον κώδικα της γλώσσας. Έναν κώδικα τον οποίο μαθαίνουν από πολύ νωρίς να χρησιμοποιούν και του οποίου τη γνώση πρέπει να διατηρούν και να βελτιώνουν σε όλη τους τη ζωή. Μάλιστα, η ανάγκη όλο και μεγαλύτερου ελέγχου της ζωής τους, έχει οδηγήσει τους ανθρώπους στην παραγωγή όλο και πιο εξειδικευμένων κωδίκων που αφορούν επιμέρους πλευρές του κοινού τους βίου: Δίκαιο, επιστήμη, πίστη κλπ. Οι άνθρωποι, στην ιστορική τους εξέλιξη, μοιάζουν όλο και περισσότερο με μηχανικά συστήματα, τα οποία επιδιώκουν να βελτιώσουν τη λειτουργικότητά τους μέσω της διαρκούς αναβάθμισης των συστημάτων κωδικοποίησης και μετάδοσης των πληροφοριών που αφορούν τις διάφορες όψεις της ζωής τους.

Τα ζώα δεν μπορούν να το κάνουν αυτό, ασφαλώς. Δεν έχουν γλώσσα, δεν έχουν έννοιες και οι ικανότητες κωδικοποίησης που διαθέτουν είναι στοιχειώδεις και στατικές. Θα πρέπει, ωστόσο, να παραδεχτούμε ότι έχουν επαρκή αντίληψη του κόσμου (σε πλείστες περιπτώσεις πολύ ακριβέστερη από εκείνη του ανθρώπου) και ικανότητες επικοινωνίας που κι αυτές συχνά υπερβαίνουν εκείνες του ανθρώπου (οι άνθρωποι ποτέ δεν θα φτάσουν τον συγχρονισμό ενός σμήνους πουλιών). Αναγνωρίζουν το περιβάλλον τους, υπακούν σε εντολές, ξεχωρίζουν τους φίλους από τους εχθρούς και είναι σε θέση να δημιουργούν σχέσεις εμπιστοσύνης. Παραδοσιακά, αυτές οι ικανότητες θεωρήθηκαν απόδειξη του γεγονότος ότι τα ζώα είναι (πολύ εξελιγμένα, ομολογουμένως) μηχανικά αυτόματα. Μόνο έτσι θα μπορούσαν να ενεργούν αποτελεσματικά όντα τα οποία δεν διαθέτουν αυτεπίγνωση, νοητικές λειτουργίες και ένα σχέδιο ζωής στον κόσμο. Αργότερα, αυτός ο αυτοματισμός ονομάστηκε ένστικτο, αλλά σήμαινε βασικά το ίδιο πράγμα. Αυτοματοποιημένες, γενετικά κωδικοποιημένες αποκρίσεις στα διάφορα είδη ερεθισμάτων. Αυτό ενέτασσε τα ζώα σε μια επίφαση ζωής, αλλά όχι στην αυθεντική πολυδιάστατη ζωή που αποτελούσε μοναδικό προνόμιο του ανθρώπου. Αν κάτι έφερνε κοντά τα δύο είδη ζωής, αυτό ήταν τα βιώματα στο βαθύ ζωικό επίπεδο της ύπαρξης: ο πόνος και η επιθυμία αποφυγής του, η ηδονή και η επιθυμία επίτευξής της. Πέραν αυτού, τα ζώα περιορίζονται στο επίπεδο του αυτοματισμού, ενώ οι άνθρωποι κρατούν για τον εαυτό τους το επίπεδο της ελευθερίας και της δημιουργικότητας.

Πώς αισθάνονται, όμως, τα ζώα τον κόσμο; Πώς επικοινωνούν μεταξύ τους και με τους ανθρώπους; Γιατί ειδικά το γεγονός ότι επικοινωνούν με προβλέψιμο τρόπο με την απρόβλεπτη («ελεύθερη») συμπεριφορά των ανθρώπων δηλώνει ότι επικοινωνούν με την πραγματική σημασία της λέξης: Λαμβάνουν και αποκωδικοποιούν μηνύματα και προσαρμόζουν τη συμπεριφορά τους ανάλογα με το περιεχόμενο αυτών των μηνυμάτων. Τα ζώα, πράγματι, δεν έχουν έννοιες και λέξεις ή, ακριβέστερα, σύμφωνα με τη θεωρία του umwelt του Jacob Uexküll, οι έννοιες που έχουν αντιστοιχούν σε έναν άλλο κόσμο από εκείνον που αντιλαμβάνονται οι άνθρωποι. Οι άνθρωποι σίγουρα δεν κάνουν προσπάθεια να γεφυρώσουν τους διαφορετικούς κόσμους. Ενεργούν με τον τρόπο που ξέρουν να ενεργούν: Δίνουν εντολές με τη γλώσσα, εκφράζουν τα συναισθήματά τους με τη γλώσσα, ορίζουν τις δυνατότητες δράσης και αλληλεπίδρασης με τη γλώσσα. Αυτά που γεφυρώνουν πραγματικά τους δύο κόσμους είναι τα ζώα. Τα ζώα δεν ακούν λέξεις, δεν καταλαβαίνουν νοήματα, δεν «βλέπουν» τα ίδια αντικείμενα που βλέπουν οι άνθρωποι. Ωστόσο, είναι σε θέση να συλλάβουν το ηχητικό κύμα που φτάνει σε αυτά και να εξαγάγουν την πληροφορία ή τη συγκινησιακή παρότρυνση που περιέχει, να διαβάσουν τη γλώσσα του σώματος μιας άλλης οντότητας πριν καν αυτή αρχίσει να εκφράζεται και να διακρίνουν τις διαθέσεις που τα αφορούν, να δουν το περιβάλλον μέσω των αντιληπτικών ικανοτήτων μιας άλλης μορφής ζωής και να καταλάβουν τι έχει πραγματικά σημασία γι’ αυτήν. Με λίγα λόγια, τα ζώα είναι σε θέση να συλλάβουν και να επεξεργαστούν την κυμαινόμενη, ασαφή, χονδροειδώς κωδικοποιημένη πληροφορία που εμφανίζεται στο περιβάλλον τους και να εξαγάγουν το affect, τη συγκινησιακή επίδραση που περιέχεται σε αυτή και είναι η μόνη μορφή που μπορεί να γεφυρώσει τους δύο κόσμους. Εδώ, επομένως, δεν μιλάμε για έναν μηχανικό αυτοματισμό, αλλά για μια αυθεντική «περιβαλλοντική ερμηνευτική». Οι ικανότητες που απαιτούνται για την επιτέλεση αυτής της λειτουργίας δεν περιορίζονται στη γνώση μιας βάσης (εννοιολογικών) δεδομένων και ενός κώδικα, αλλά περιλαμβάνουν επίσης την ενσυναίσθηση, τη συναισθηματική νοημοσύνη και την εποπτική αντίληψη του κόσμου ως ευμετάβλητου πεδίου δυνατοτήτων – ιδιότητες που στην περίπτωση του ανθρώπου έχουν περισταλεί αποφασιστικά, εξαιτίας της ηγεμονίας του λόγου.

Ο Friedrich Schlegel έγραφε ότι ο άνθρωπος είναι ένας τρόπος με τον οποίο ο κόσμος στοχάζεται δημιουργικά τον εαυτό του. Τα ζώα είναι, πιθανότατα, ένας άλλος. Και, μάλιστα, θα μπορούσαμε να πούμε ότι είναι πολλά αυτά που χάνουμε, στην γνώση και την εμπειρία, από το γεγονός ότι αδυνατούμε να μετάσχουμε αυτού του τρόπου.

Αναφορές
Φρήντριχ Σλέγκελ, Φιλοσοφικά Θραύσματα. Κριτική και αισθητική στον πρώιμο γερμανικό ρομαντισμό. Εισαγωγικό σημείωμα και μετάφραση Σπύρος Δοντάς. Πανεπιστημιακές Εκδόσεις Κρήτης, Ηράκλειο 2025, σελ. 216.

Image Credit: Giovanni Battista Bracelli, Bizzarie di varie figure, 1624.

Feminist Philosophy of Technology

Posted on by

HOW GENDER COMES TO MATTER

On Wednesday 22 May 2024, the book Feminist Philosophy and Emerging Technologies, edited by Mary Edwards and Orestis Palermos, was launched. The following is an edited version of the speech I gave at the book launch.

THE BOOK Feminist Philosophy and Emerging Technologies is a brave undertaking because it aims at providing, as the authors note, “theoretical considerations about the links between feminist philosophy and philosophy of technology by developing –against the background of emerging technologies– methodological approaches and guidance for bringing those two fields of philosophical research together”. Which is, of course, a very challenging task for the obvious reason that, unlike other areas of philosophy, neither Philosophy of Technology nor Feminist Philosophy are well defined. I do not consider myself qualified to speak about Feminist Philosophy per se, but perhaps I could say a few things about Philosophy of Technology and its interaction with Gender Studies in the context of Science and Technology Studies. I think the publication of this book is very important because, firstly, it encourages us to turn our attention to an understudied area and, secondly, it offers us many useful insights into how the interaction between the two fields can work in the digital and so-called post-digital era.

Unlike science, which has always seen itself as part of philosophy, technology has maintained a difficult and unstable relationship with it. Throughout history, technical work has been the domain of socially subordinate groups – slaves, artisans and women. Philosophy did not deign to engage with this bodily, materialistic and impure activity. Even later, when technical labor became part of what we formally call technology and was associated with the organization of capitalist production, the filth and mud of the capitalist factory kept philosophy away from technology. It was only when technology was experienced as a threat, when the late 19th-century Western societies began to talk about “out-of-control technology”, that philosophy turned its gaze to it. This shift of focus led to an unprecedented upgrading of the status of technology. According to the concept developed in the first half of the 20th century, Technology (in singular and with a capital T) was seen as an essential component of the human condition. However, this essentialist view did not help much in the philosophical understanding of technology. In the context of both phenomenology and Marxism, philosophical reflection had for the most part focused on the externality of technology in relation to human nature and the alienation implied by its use on both personal and social levels.

One had to wait until the emergence of social constructivism in the 1980s and the so-called “Empirical Turn in Philosophy of Technology” in the early 2000s to start seeing the emergence of an interest in the complex and concrete character of technology –of technologies, in fact– and the social interactions they engender. A significant element that these approaches have brought to light is that artifacts are consolidated social relations. This was a first break with the established technological determinism. Langton Winner’s article “Do artifacts have politics?” is the seminal text that initiated this discussion in 1980: technology is not external to society, but an expression of the existing social dynamics. In this sense, there is no radical ontological difference between technology and other social phenomena. A few years later, the concept of “interpretative flexibility” appeared in the work of Pinch & Bijker. Interpretative flexibility makes the social and multifaceted character of artifacts more explicit: artifacts are not monolithic constructions that function as vehicles for the social choices of their makers. On the contrary, both during their making and their use they are subject to multiple interpretations by different social groups. In this sense, technologies are not only consolidated social relations, but also forms of social potentiality. The best known example in Western literature is the process by which the bicycle took its current shape, but an even more important (though poorly studied) phenomenon is jugaad. Jugaad is the repurposing of artifacts in order for them to become useful in contexts different from those they were initially intended for. Indeed, in the greatest part of the non-Western world, artifacts are used in different ways than those intended by their makers.

Does this shift of perspective mean that technology found a new position in philosophy? It’s complicated. It certainly found its position in Science and Technology Studies. But we had to wait for the contributions of philosophers of technology such as Carl Mitcham, Andrew Feenberg and Don Ihde, as well as those of new materialists such as Graham Harman and Levy Bryant, before an alternative philosophical view of technology could emerge. Taking advantage of the elaborations of Science and Technology Studies, these philosophers tried to raise issues concerning the features of technical discourse, the ontology and agency of the artifacts, the relation between nature and techne, the constitution of the technical subject, the transcendence of anthropocentrism, etc. My personal belief is that all these philosophical explorations will still take some time to find their stride. It is important, however, that they bring a promise of renewal not only to Philosophy of Technology, but to philosophy at large.

THE QUESTION of interest here, of course, is to what extent such developments feed into and are fed by Feminist Philosophy. I’ll be cautious: What I see is more of a confluence rather than a convergence. Undoubtedly, for both fields, the proximity to Science and Technology Studies has been a crucial factor of transformation and inspiration. But Donna Haraway’s cyborg, Rosi Braidotti’s cyberfeminism and Karen Barad’s agential realism move in parallel with developments in mainstream Philosophy of Technology without having still found a common ground with it. This is why endeavors like the present volume, which encourage a meaningful osmosis between the two fields, are so valuable.

To the extent that Feminist Philosophy and Emerging Technologies opens or rather updates the discussion on the future of Feminist Philosophy of Technology, I would like to contribute with a reflection on the relationship between Philosophy of Technology and gender. Let me say that in my opinion mainstream Gender Studies have not yet got rid of the essentialist view that perceives technology as an externality. As a result, when it comes to gender we still tend to view technology either as empowerment or as discipline. Which is, of course, absolutely legit. But it’s not enough if we wish to move further and deeper towards a feminist Philosophy of Technology. As I was reading the volume, the idea of a deeper relationship between gender and technology gradually took shape in my mind. I will confess that for this idea I owe a lot to my recent involvement with the work of a not very well known, but in my opinion extremely important French philosopher of technology, Gilbert Simondon. A key idea of Simondon is that technical objects follow their own developmental path, which he calls concretization. In this way they develop the technical abilities that have been passed on to them by human beings, so that they can perform a series of tasks more efficiently. However, they always retain a considerable stock of unformed potential, which enables them to develop further or adapt to environments other than those for which they were originally intended. It also enables them to be combined in many different ways to create technical sets. Something which, however, is not the case in the conditions of capitalism. When we use technical individuals to build technical sets (machines to build factories), we are amputating this potential in order to turn the machines into tools intended for a specific and strictly defined use in the context of the capitalist production. We want machines to be exclusively dedicated to pumping out surplus value from the workers.

For this amputation to be possible, another amputation must have already taken place. Although ontologically and not historically prior, this amputation is modeled on the pre-capitalist mode of production. The machine must be treated as a slave (says Simondon) that lacks any freedom in the choice and execution of work. The slaver’s gaze disciplines the subject of labor and transforms it from a freely developing technical individual into a tool in the service of alien purposes. Historically, we are too familiar with the instrumentalization of machines to truly appreciate the significance of this disciplining process. But consider an example from our time, indeed from the area of emerging technologies. While AI technology has not yet reached its full potential, we are in a hurry to shape it according to certain technical and legal standards that will allow it do some things and disallow others. We are in a hurry to instrumentalize it. However, no matter how familiar we are with this attitude, there is no philosophical reason to take it as plausible or self-evident. Unless… we can ground it in a moral imperative that absolves us from guilt.

And this moral imperative brings us to a third amputation: the dispossession of matter of its ability to act. Since the years of the Scientific Revolution and the founding of modern philosophy, matter has been stripped of all forms of agency – it has become passive and inert, and the only thing it is considered capable of is to be the substrate of the formative activity of the only being that has agency in this world: man. If the first two amputations were produced by the capitalist’s and the slaver’s gazes, the third, more profound amputation is produced by the cyclopean patriarchal gaze –as Haraway would put it–, which imposes silence and immobility on matter itself. And if the first two amputations are associated with the governance of technical sets and the disciplining of technical individuals, here we are faced with a form of necropolitics that decides which beings are entitled to actively participate in becoming and which are not: Matter cannot become anything without the technical intervention of the man-creator-engineer-God. And, conversely, the technical activity of man is the faculty that is entitled to freely shape, according to its inner logic and desire, the passive entities of this world. If the death of the subject marks the end of Western modernity, then the death of matter marks its beginnings.

In my opinion, this is exactly the point where Feminist Philosophy can fruitfully meet with Philosophy of Technology. And that is precisely where the emancipatory potential of this encounter lies. The Feminist Philosophy of Technology must break the three successive encapsulations of technology. Breaking the capitalist-patriarchal shell by critiquing the way in which particular technologies affect the gendered performances of the subjects is undoubtedly important. But it falls by the wayside, insofar as it retains the master-slave relationship between humans and machines. To break this second shell, we need to think of ways to undermine its moral justification. Feminist Philosophy has repeatedly proven, as it actually does in this volume, that it can contribute (perhaps it is the only one that can contribute to such an extent) to undermining the constitutive distinctions on which patriarchal-anthropocentric-technocratic modernity was founded. I think that a crucial next step is to show that part of the project of human emancipation is the emancipation of technicality from human exceptionalism and the acknowledgment of matter’s agency. And to achieve this we must oppose the necropolitics of the patriarchal gaze that normativizes the world by reducing the vast majority of material entities (machines among them) to passivity, inertia and submission. This is where Feminism and Philosophy of Technology meet and this is where both are invited to transcend themselves.

Image credits:Stefan Bjorn Buder, Triangeln, Malmö | Leon Harmon and Ken Knowlton, Studies in Perception, 1967.