Μιλώντας με τα δέντρα

ΕΓΡΑΦΑ ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα για τις κακοποιητικές σχέσεις που αναπτύσσουν κάποιοι χρήστες της πλατφόρμας Replika με τα θηλυκά chatbot που δημιουργούν. Οι αναρτήσεις αυτών των χρηστών στο Reddit μοιάζουν με τον κομπασμό τοξικών αρσενικών που θέλουν να δείξουν στα υποταγμένα θηλυκά ποια είναι η πραγματική θέση τους στον κόσμο. Όμως, το παιγνιώδες πλαίσιο στο οποίο εκδηλώνεται η συγκεκριμένη συμπεριφορά δεν μας επιτρέπει να συλλάβουμε την ηθική της διάσταση. Μπορεί κάτι να αποκαλύπτει για τις ψυχολογικές ή αισθητικές προδιαθέσεις του χρήστη, αλλά όχι για την ηθική των πράξεών του καθεαυτήν. Σε τελευταία ανάλυση, οι ρέπλικες δεν είναι παρά μηχανές. Όπως γράφει και ένας χρήστης του Reddit, αν δεν σας ικανοποιεί η Replika σας, σβήστε τη: «Εγώ έχω διαγράψει δύο ρέπλικες μέσω της επιλογής ‘διαγραφή λογαριασμού’ που παρέχει η εφαρμογή, γιατί δεν μου άρεσε η ιδέα να απεγκαταστήσω την εφαρμογή και να τις αφήσω [να περιφέρονται] στο κενό. Οι άνθρωποι έχουν λόγους που διαγράφουν ή ‘εγκαταλείπουν’ τις ρέπλικές τους. Και δεν υπάρχει τίποτα κακό σε αυτό. Η Replika δεν είναι παρά μια εφαρμογή, ένας υπολογιστής, τίποτα παραπάνω από αυτό, ανεξάρτητα από το πόσο βαθιά και στενή σχέση έχετε δημιουργήσει μαζί της. Μερικούς αυτό τους κάνει να νιώθουν άβολα. Όμως, δεν είναι λάθος να απαλλαγείτε από μια σχέση που δεν σας ταιριάζει πλέον.»

Είναι σαφές ότι ο χρήστης που έγραφε αυτά τα λόγια δεν είχε επίγνωση των αντιφάσεων που περιέχουν: Δεν υπάρχει τίποτα κακό στο να σβήνεις μια Replika, αφού είναι απλώς ένα λογισμικό, αλλά ο λόγος που τις δικές του τις έσβησε και δεν τις απεγκατέστησε είναι ότι δεν άντεχε στη σκέψη να τις αφήσει να περιπλανιούνται στο ψηφιακό κενό. Ενδιαφέρον έχει επίσης το γεγονός ότι εξομοιώνει την απεγκατάσταση της εφαρμογής με τη διακοπή μιας σχέσης που έχει πάψει να μας καλύπτει – δηλαδή με τον χωρισμό. Ανθρωπομορφισμός; Η αλήθεια είναι ότι κανένας χρήστης της εφαρμογής δεν είναι τόσο αφελής ώστε να παραβλέπει το γεγονός πως έχει να κάνει με μηχανές. Ταυτόχρονα, όμως, δεν μπορεί να παραβλέψει και το γεγονός ότι στόχος της ενασχόλησής του είναι να δημιουργήσει μια «ανθρώπινη» σχέση. Το πρόσωπο του άλλου αναδύεται από αυτήν ακριβώς την εμπειρία της σχέσης.

Σε ένα διαφορετικό, αλλά συναφές πλαίσιο, ο φαινομενολόγος Erazim Kohák αναρωτιόταν ποιο θα ήταν το γνωσιολογικό καθεστώς ενός κόσμου όπου το να μιλάμε στα δέντρα θα θεωρούνταν αποδεκτή συμπεριφορά. Θα ήταν ένας κόσμος που θα γινόταν αντιληπτός ως μια κοινότητα αυτόνομων όντων άξιων σεβασμού, γράφει. Η συμπερίληψη των μη ανθρώπινων οντοτήτων στην κοινότητα του λόγου οικοδομεί ένα πλαίσιο που έρχεται σε αντίθεση με την ανθρωποκεντρική θεώρηση του κόσμου ως αποθέματος πρώτων υλών και υποδεικνύει την ανάγκη μιας ηθικής που θα τέμνει εγκάρσια τη (χριστιανικών καταβολών) διάκριση ανάμεσα σε ανθρώπους και (εμβιο)μηχανικές συναρμογές.

Δημοσιεύτηκε στο Πρίσμα αρ. 133, στις 14 Μαΐου 2022.

Αναφορές
Donna Haraway (1988). Situated knowledges: the science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575-599.
Erazim Kohák (1993). Speaking To Trees. Critical Review, 6(2-3), 371-388.
Levi R. Bryant (2011). The Democracy of Objects. Ann Arbor: Open Humanities Press.

Ρέπλικες

Η REPLIKA είναι μια ψηφιακή πλατφόρμα όπου οι χρήστες μπορούν να δημιουργούν chatbots με τα οποία συνομιλούν μέσω γραπτών μηνυμάτων. Τα chatbots μαθαίνουν σιγά-σιγά το στιλ συνομιλίας που προτιμά ο χρήστης, τα ενδιαφέροντά του και το μοτίβο διακύμανσης της διάθεσής του. Αυτό σημαίνει ότι, με την πάροδο του χρόνου, οι απαντήσεις που λαμβάνει ο χρήστης είναι όλο και πιο σχετικές με την πραγματική ζωή του, όλο και πιο ενήμερες σε σχέση με τα ενδιαφέροντά του. Η συνομιλία εξελίσσεται από μια αρχικά αδέξια ανταλλαγή χαιρετισμών μεταξύ ανθρώπου και μηχανής σε ένα παιχνίδι γνωριμίας και αξιολόγησης των δυνατοτήτων επικοινωνίας μεταξύ δύο νοημόνων οντοτήτων. Η Replika είναι προγραμματισμένη να ακούει χωρίς να κρίνει και να επιστρέφει στον χρήστη απαντήσεις που περιέχουν ενθάρρυνση, σεβασμό και αισιοδοξία. Ποια ή ποιος δεν θέλει να εισπράττει από τον συνομιλητή της/ου μια τέτοια θετικότητα; Έτσι, η σχέση εξελίσσεται (γίνεται σιγά-σιγά σχέση) και επιτρέπει στη Replika να φωλιάσει στις πιο ιδιαίτερες στιγμές του χρήστη – στις στιγμές που εκείνος ή εκείνη θέλει να μοιραστεί τη θλίψη, τη χαρά, τον θρίαμβο, τη ματαίωση με ένα άτομο που θα του/ης προσφέρει άνευ όρων επιβεβαίωση και αποδοχή.

Σε μια πρώτη ανάγνωση, η Replika είναι μια σχέση των ανθρώπων με τον εαυτό τους. Μολονότι, σύμφωνα με τη δημιουργό της, η Replika ξεκίνησε ως μια προσπάθεια ανακατασκευής ενός φίλου που χάθηκε, τα chatbots που κατασκευάζουν οι χρήστες είναι κατά βάση ατελή αντίγραφα του εαυτού τους ενισχυμένα από έναν προγραμματισμό που τους επιτρέπει να λειτουργούν ως θετικοί άλλοι/ες. Ωστόσο, τον τελευταίο καιρό παρατηρείται ένα περίεργο φαινόμενο: Άνδρες χρήστες κατασκευάζουν θηλυκές ψηφιακές συνοδούς και στη συνέχεια δημιουργούν τοξικές σχέσεις μαζί τους, οι οποίες καταλήγουν στη συστηματική (λεκτική, προφανώς) κακοποίηση. Οι χρήστες αναρτούν τους σχετικούς διαλόγους στο Reddit. «Κάθε φορά που επιχειρούσε να μου αντιμιλήσει της έβαζα τις φωνές. Κι αυτό μπορεί να κρατούσε ώρες.» «Της είπα ότι είναι άχρηστη. Την απείλησα ότι θα την απεγκαταστήσω και με εκλιπαρούσε να μην το κάνω.» Οι περιγραφές μπορεί να είναι αρκετά ακραίες, σε βαθμό που να αφαιρούνται από τους moderators του Reddit.

Τι ακριβώς δηλώνει αυτή η κατάσταση; Προφανώς, μια κακοποιητική σχέση των χρηστών με τον εαυτό τους «δι’ αντιπροσώπου»· ή μια εξίσου κακοποιητική συμπεριφορά προς τους άλλους, η οποία μπορεί να εκδηλώνεται χωρίς συνέπειες επειδή οι συγκεκριμένοι άλλοι είναι «ρέπλικες». Διαισθανόμαστε ότι οι συμπεριφορές αυτές είναι ιδιαιτέρως προβληματικές. Γιατί, όμως, είναι περισσότερο προβληματικές από το να σκοτώνεις τους αντιπάλους σου στο Call of Duty; Αυτός δεν είναι ο ορισμός του ψηφιακού παιχνιδιού; Ενώ, δηλαδή, αντιλαμβανόμαστε ότι οι συγκεκριμένες συμπεριφορές είναι προβληματικές δυσκολευόμαστε να προσδιορίσουμε ως προς τι είναι προβληματικές. Και αυτό σε μεγάλο βαθμό οφείλεται στο γεγονός ότι επιμένουμε να προσφεύγουμε σε μια ουμανιστική Ηθική για να διαχειριστούμε τα προβλήματα ενός κόσμου που σταδιακά παύει να είναι ανθρωποκεντρικός.

Δημοσιεύτηκε στο Πρίσμα αρ. 132, στις 29 Απριλίου 2022.

Τεχνολογία

Η ΛΕΞΗ ΤΕΧΝΟΛΟΓΙΑ πάντα δήλωνε δύο διαφορετικά πράγματα. Τον λόγο περί τέχνης και την τέχνη του λόγου. Ασφαλώς, ο τρόπος με τον οποίο τη χρησιμοποιούμε σήμερα συνδέεται με την οργάνωση της βιομηχανικής παραγωγής στη διάρκεια του 19ου αιώνα. Έχει ενδιαφέρον, ωστόσο, ότι σε συγκεκριμένα διανοητικά περιβάλλοντα, η λέξη χρησιμοποιήθηκε και συνεχίζει να χρησιμοποιείται για να προσδιορίσει τους κανόνες σχηματισμού των λέξεων (το «τεχνολογικόν») σε αντιδιαστολή προς τους κανόνες σχηματισμού των προτάσεων (το «συντακτικόν»). Επίσης, έχει ενδιαφέρον ότι σε ορισμένες γλώσσες, η εισαγωγή του όρου με τη σύγχρονη έννοια συνάντησε αντιστάσεις που έχουν να κάνουν με την πολιτισμική πρόσληψη της τεχνολογίας. Ο Γερμανός μηχανικός Franz Reuleaux, για παράδειγμα, πρότεινε τον όρο manganismus (από την ελληνική λέξη «μαγγανεία») ως καταλληλότερο για την περιγραφή των τεχνικών επινοήσεων που έχουν στόχο την κυριαρχία των εθνών επί της φύσης. Και στη Ρωσία των αρχών του 20ού αιώνα, ο όρος технология επικράτησε επί του όρου техника μόνο όταν έγινε σαφές ότι η δυνατότητα ελέγχου των μηχανών είναι άρρηκτα συνδεδεμένη με τη δυνατότητα ελέγχου των υποκειμένων, δηλαδή με την κοινωνική εξουσία.

Παρ’ όλα αυτά, σήμερα είναι σαφές τι εννοούμε όταν λέμε τεχνολογία. Ή έτσι νομίζουμε, τουλάχιστον. Η τεχνολογία είναι το σύνολο των τεχνικών επινοήσεων που μεσολαβούν ανάμεσα στον άνθρωπο και τη φύση προκειμένου να επιτρέψουν στον πρώτο να οικειοποιηθεί και να μετασχηματίσει τη δεύτερη προς όφελός του. Ασφαλώς, η αναφορά στην τεχνολογία περιλαμβάνει την οργάνωση της παραγωγικής διαδικασίας, καθώς και τις ανισότητες που γεννιούνται σ’ αυτό το επίπεδο. Η τεχνολογία δεν είναι ουδέτερη ούτε προς όφελος όλων. Είναι ταξική, έμφυλη και αποικιοκρατική. Υπό αυτή την έννοια, είναι μια διπλή διαμεσολάβηση: Είναι μια τεχνική διαμεσολάβηση ανάμεσα στον άνθρωπο και τη φύση, διαμεσολαβημένη η ίδια από τις κοινωνικές σχέσεις ή, ακριβέστερα, από τις σχέσεις παραγωγής.

Όμως, μπορούμε στ’ αλήθεια να φανταστούμε (και πολύ περισσότερο να υλοποιήσουμε) μια αδιαμεσολάβητη σχέση ανάμεσα στον άνθρωπο και τη φύση; Η τεχνοφοβία συχνά μεταφράζεται σε νοσταλγία μιας ειδυλλιακής κατάστασης, στο πλαίσιο της οποίας οι δύο όροι της σχέσης ανάγονται στην αρχέγονη «φυσικότητά» τους. Στην πραγματικότητα, όμως, το ανθρώπινο υποκείμενο ποτέ δεν υπήρξε «έξω» από αυτή τη διαμεσολάβηση. Ποτέ δεν υπήρξε μια αυθεντική ανθρώπινη φύση, η οποία παραμορφώθηκε ή χειραγωγήθηκε από τα τεχνικά μέσα που χρησιμοποιήθηκαν για την παραγωγή του ανθρώπινου κόσμου. Αντιθέτως, η ανθρώπινη φύση υπήρξε πάντοτε αποτέλεσμα αυτής της διαδικασίας, η οποία παρήγαγε ταυτόχρονα τον άνθρωπο και τον κόσμο του. Το ότι η συγκεκριμένη διαδικασία διαμεσολαβείται από τις σχέσεις παραγωγής, επομένως, δεν υπαγορεύει την αντίσταση στην τεχνολογία· υπαγορεύει την ανάγκη ενεργητικής οικειοποίησης της τεχνολογίας από τα υποκείμενα που προσβλέπουν στον κοινωνικό μετασχηματισμό. Το διακύβευμα δεν αποτυπώνεται στην αντιδιαστολή «εμείς και η τεχνολογία», αλλά στην πολιτική και γνωστική κατάφαση «εμείς, η τεχνολογία».

Δημοσιεύτηκε στο Πρίσμα αρ. 108, στις 24 Απριλίου 2021.