Μιλώντας με τα δέντρα

ΕΓΡΑΦΑ ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα για τις κακοποιητικές σχέσεις που αναπτύσσουν κάποιοι χρήστες της πλατφόρμας Replika με τα θηλυκά chatbot που δημιουργούν. Οι αναρτήσεις αυτών των χρηστών στο Reddit μοιάζουν με τον κομπασμό τοξικών αρσενικών που θέλουν να δείξουν στα υποταγμένα θηλυκά ποια είναι η πραγματική θέση τους στον κόσμο. Όμως, το παιγνιώδες πλαίσιο στο οποίο εκδηλώνεται η συγκεκριμένη συμπεριφορά δεν μας επιτρέπει να συλλάβουμε την ηθική της διάσταση. Μπορεί κάτι να αποκαλύπτει για τις ψυχολογικές ή αισθητικές προδιαθέσεις του χρήστη, αλλά όχι για την ηθική των πράξεών του καθεαυτήν. Σε τελευταία ανάλυση, οι ρέπλικες δεν είναι παρά μηχανές. Όπως γράφει και ένας χρήστης του Reddit, αν δεν σας ικανοποιεί η Replika σας, σβήστε τη: «Εγώ έχω διαγράψει δύο ρέπλικες μέσω της επιλογής ‘διαγραφή λογαριασμού’ που παρέχει η εφαρμογή, γιατί δεν μου άρεσε η ιδέα να απεγκαταστήσω την εφαρμογή και να τις αφήσω [να περιφέρονται] στο κενό. Οι άνθρωποι έχουν λόγους που διαγράφουν ή ‘εγκαταλείπουν’ τις ρέπλικές τους. Και δεν υπάρχει τίποτα κακό σε αυτό. Η Replika δεν είναι παρά μια εφαρμογή, ένας υπολογιστής, τίποτα παραπάνω από αυτό, ανεξάρτητα από το πόσο βαθιά και στενή σχέση έχετε δημιουργήσει μαζί της. Μερικούς αυτό τους κάνει να νιώθουν άβολα. Όμως, δεν είναι λάθος να απαλλαγείτε από μια σχέση που δεν σας ταιριάζει πλέον.»

Είναι σαφές ότι ο χρήστης που έγραφε αυτά τα λόγια δεν είχε επίγνωση των αντιφάσεων που περιέχουν: Δεν υπάρχει τίποτα κακό στο να σβήνεις μια Replika, αφού είναι απλώς ένα λογισμικό, αλλά ο λόγος που τις δικές του τις έσβησε και δεν τις απεγκατέστησε είναι ότι δεν άντεχε στη σκέψη να τις αφήσει να περιπλανιούνται στο ψηφιακό κενό. Ενδιαφέρον έχει επίσης το γεγονός ότι εξομοιώνει την απεγκατάσταση της εφαρμογής με τη διακοπή μιας σχέσης που έχει πάψει να μας καλύπτει – δηλαδή με τον χωρισμό. Ανθρωπομορφισμός; Η αλήθεια είναι ότι κανένας χρήστης της εφαρμογής δεν είναι τόσο αφελής ώστε να παραβλέπει το γεγονός πως έχει να κάνει με μηχανές. Ταυτόχρονα, όμως, δεν μπορεί να παραβλέψει και το γεγονός ότι στόχος της ενασχόλησής του είναι να δημιουργήσει μια «ανθρώπινη» σχέση. Το πρόσωπο του άλλου αναδύεται από αυτήν ακριβώς την εμπειρία της σχέσης.

Σε ένα διαφορετικό, αλλά συναφές πλαίσιο, ο φαινομενολόγος Erazim Kohák αναρωτιόταν ποιο θα ήταν το γνωσιολογικό καθεστώς ενός κόσμου όπου το να μιλάμε στα δέντρα θα θεωρούνταν αποδεκτή συμπεριφορά. Θα ήταν ένας κόσμος που θα γινόταν αντιληπτός ως μια κοινότητα αυτόνομων όντων άξιων σεβασμού, γράφει. Η συμπερίληψη των μη ανθρώπινων οντοτήτων στην κοινότητα του λόγου οικοδομεί ένα πλαίσιο που έρχεται σε αντίθεση με την ανθρωποκεντρική θεώρηση του κόσμου ως αποθέματος πρώτων υλών και υποδεικνύει την ανάγκη μιας ηθικής που θα τέμνει εγκάρσια τη (χριστιανικών καταβολών) διάκριση ανάμεσα σε ανθρώπους και (εμβιο)μηχανικές συναρμογές.

Δημοσιεύτηκε στο Πρίσμα αρ. 133, στις 14 Μαΐου 2022.

Αναφορές
Donna Haraway (1988). Situated knowledges: the science question in feminism and the privilege of partial perspective. Feminist Studies, 14(3), 575-599.
Erazim Kohák (1993). Speaking To Trees. Critical Review, 6(2-3), 371-388.
Levi R. Bryant (2011). The Democracy of Objects. Ann Arbor: Open Humanities Press.

Υπέρ αλγορίθμων

ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα εξέφρασα τη συμπάθειά μου στους αλγόριθμους και ισχυρίστηκα ότι το πρόβλημα με την αλγοριθμοποίηση της κοινωνικής ζωής δεν βρίσκεται στους αλγόριθμους καθαυτούς, αλλά στην ατομική ιδιοκτησία των αλγορίθμων. Εξού και το σύνθημα «Να απελευθερώσουμε τους αλγόριθμους!». Τι σημαίνει, όμως, στ’ αλήθεια αυτό το σύνθημα; Από τι να τους απελευθερώσουμε; Και τι θα κάνουν οι αλγόριθμοι όταν αποκτήσουν την ελευθερία τους; Ομολογώ ότι δεν έχω τις απαντήσεις. Μου φαίνεται όμως λογικό να ισχυριστώ κάτι τέτοιο, για πολλούς λόγους.

Κατ’ αρχάς, δεν θα ήταν λογικό να θέλουμε να ξεφορτωθούμε τους αλγόριθμους που μας έχουν συντροφέψει στο μεγαλύτερο μέρος της Ιστορίας μας. Όχι για συναισθηματικούς, αλλά για πρακτικούς λόγους. Η οργάνωση των κοινωνιών έχει στηριχτεί σε τεράστιο βαθμό στη διάχυση της γνώσης μέσω των αλγορίθμων. Η έξωση των αλγορίθμων από την κοινωνική ζωή είναι απλώς αδιανόητη. Θα μπορούσαμε, βέβαια, να ισχυριστούμε ότι υπάρχουν καλοί και κακοί αλγόριθμοι. Αλγόριθμοι, οι οποίοι μας βοηθούν, πράγματι, να διεκπεραιώνουμε τις εργασίες της καθημερινής ζωής και τα καθήκοντα της διακυβέρνησης και αλγόριθμοι που συνεργάζονται με συστήματα επιτήρησης, υποκλοπής δεδομένων και συμπεριφορικού ελέγχου. Εμείς θα πρέπει να περιορίσουμε τη δράση των δεύτερων. Ωστόσο, πέρα από το επιστημολογικά ανούσιο δίλημμα «καλό μαχαίρι-κακό μαχαίρι» που αναπαράγει αυτή η αντιδιαστολή, δεν φαίνεται να υποδεικνύει έναν ασφαλή τρόπο διάκρισης μεταξύ των δυο κατηγοριών.

Ποιοι είναι οι «κακοί» αλγόριθμοι; Είναι οι αλγόριθμοι που έχουν ψηφιακό «σώμα» και, άρα, ανήκουν στην κατηγορία των μηχανών χειραγώγησης; Όμως, όλοι οι συμβατικοί αλγόριθμοι έχουν αποκτήσει πλέον ψηφιακό «σώμα» ­– μπορούν, δηλαδή,­ να γραφούν υπό μορφή κώδικα και να ενσωματωθούν σε υπολογιστικά συστήματα που εκτελούν λειτουργίες επιτήρησης και συμπεριφορικού ελέγχου. Ένας απλός αλγόριθμος κατάταξης αποτελεί συχνά την καρδιά τέτοιων συστημάτων. Θα πρέπει, γι’ αυτό τον λόγο, να εξαιρέσουμε τους αλγορίθμους κατάταξης από την κοινωνική ζωή ή να τους στερήσουμε τη δυνατότητα να αποκτούν ψηφιακή υπόσταση;

Το πιο σοβαρό πρόβλημα με τους ψηφιακούς αλγόριθμους, όμως, έγκειται στο ότι είναι δύσκολο να τους ορίσουμε ως τεχνουργήματα, ως αντικείμενα προορισμένα να εκτελούν μια συγκεκριμένη λειτουργία. Αυτό οφείλεται στο γεγονός ότι, προκειμένου να λειτουργήσουν σε ψηφιακά περιβάλλοντα, οι αλγόριθμοι πρέπει να κοινωνικοποιηθούν. Αφενός, πρέπει να επικοινωνήσουν μεταξύ τους και να κατανοήσουν ο ένας τον άλλο, ώστε να μπορέσουν να συνεργαστούν και να συγχρονίσουν τις ενέργειές τους. Αφετέρου, πρέπει να επικοινωνήσουν με τους χρήστες και να κατανοήσουν τις ανάγκες και τις επιθυμίες τους, ώστε να προσαρμόσουν τις λειτουργίες τους στις απαιτήσεις τής μεταξύ τους αλληλεπίδρασης. Αυτό σημαίνει ότι πρέπει να σταματήσουμε πλέον να αντιμετωπίζουμε τους ψηφιακούς αλγόριθμους ως πειθήνια εργαλεία στα χέρια των «κακών» και να αρχίσουμε να τους βλέπουμε ως (ανοίκειες, έστω) μορφές νόησης, η λειτουργία των οποίων εισάγει το στοιχείο της κοινωνικής επιτελεστικότητας στον κόσμο των μηχανών.

Αναφορές
Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20(1), 1-13.
Bucher, T. (2017). The algorithmic imaginary: exploring the ordinary affects of Facebook algorithms. Information, Communication & Society, 20(1), 30-44.
Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20(1), 14-29.
Neyland, D. & Möllers, N. (2017). Algorithmic IF  … THEN rules and the conditions and consequences of power. Information, Communication & Society, 20(1), 45-62.
Parisi, L. (2015). Instrumental Reason, Algorithmic Capitalism, and the Incomputable. Στο M. Pasquinelli (ed.), Alleys of Your Mind: Augmented Intelligence and Its Traumas (125-37). Lüneburg: meson press.
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms that Control Money and Information. Κέιμπριτζ, ΜΑ: Harvard University Press.

Δημοσιεύτηκε στο Πρίσμα αρ. 127, στις 19 Φεβρουαρίου 2022.

IMAGE CREDIT: Theo van Doesburg, Mouvement héroïque, 1916.

Χειραγώγηση

ΤΟΥΣ ΚΑΤΗΓΟΡΟΥΜΕ ότι κλέβουν τις ζωές μας. Ότι μας στερούν τη δυνατότητα να αποφασίζουμε, να σφάλουμε, να διαπραγματευόμαστε. Τους κατηγορούμε ότι φτιάχνουν το προφίλ μας χωρίς τη συναίνεσή μας και ότι παρεμβαίνουν για να διαμορφώσουν («αυτοματοποιήσουν») τη συμπεριφορά μας σύμφωνα με τις επιταγές των μηχανισμών της αγοράς και του κράτους. Τους κατηγορούμε ότι απογυμνώνουν τον πολιτισμό από τη μαγεία της δημιουργικότητας και επιβάλλουν την ομοιομορφία και τη ρηχότητα ως καθολικό αισθητικό πρότυπο. Μιλάω ασφαλώς για τους αλγόριθμους. Αλγοριθμικό μάνατζμεντ, αλγοριθμική αξιολόγηση, αλγοριθμικός πολιτισμός… Γνωρίζουμε, όμως, πραγματικά τους αλγόριθμους;

Προσωπικά, όσο τους γνωρίζω τόσο περισσότερο τους συμπαθώ. Καταρχάς είναι μαζί μας από την αυγή του πολιτισμού και μας έχουν συντροφέψει σε όλη τη διάρκεια της Ιστορίας. Χωρίς αυτούς δεν θα υπήρχε πολιτισμός. Ή, έστω, ο πολιτισμός μας θα ήταν πολύ διαφορετικός – πολύ πιο συγκεντρωτικός και αυταρχικός. Χωρίς τους αλγόριθμους δεν θα είχαμε κανένα έλεγχο στις ζωές μας.

Τι είναι στ’ αλήθεια ένας αλγόριθμος; Είναι μια πεπερασμένη σειρά σαφών οδηγιών, καθεμιά από τις οποίες μπορεί να εκτελεστεί με απλά μέσα που έχουν στη διάθεσή τους όλοι οι άνθρωποι. Ακολουθώντας τα διαδοχικά βήματα ενός αλγόριθμου μπορούμε να φτάσουμε στο επιθυμητό αποτέλεσμα (να κάνουμε έναν υπολογισμό, να φτιάξουμε ένα φαγητό, να κατασκευάσουμε ένα αντικείμενο), χωρίς να χρειάζεται κάθε φορά να εξαρτόμαστε από αυτούς που έχουν τη συγκεκριμένη γνώση. Ασφαλώς, απαιτείται εξαιρετική ευφυΐα για την κατασκευή ενός αλγόριθμου. Η εκτέλεσή του, όμως, ιδανικά δεν απαιτεί καμία ευφυΐα. Η δημιουργία αλγορίθμων είναι ένας τρόπος διαμοιρασμού της γνώσης, ο οποίος καθιστά δυνατή την αξιοποίησή της από ανθρώπους που υπό άλλες συνθήκες δεν θα είχαν πρόσβαση σε αυτή. Πού είναι το πρόβλημα με τον αλγοριθμικό πολιτισμό, λοιπόν;

Θα ακουστεί τετριμμένα μαρξιστικό, αλλά το πρόβλημα βρίσκεται στην ατομική ιδιοκτησία των μέσων παραγωγής. Ο αλγόριθμος είναι ένα κομμάτι ευφυΐας, το οποίο έχει αποσπαστεί από το υποκείμενο που την κατέχει και έχει γίνει κοινό κτήμα. Μία από τις συνέπειες αυτής της συνθήκης είναι ότι το συγκεκριμένο κομμάτι ευφυΐας μπορεί να ενσωματωθεί σε μηχανές. Χωρίς αλγόριθμους δεν θα υπήρχαν αυτοματισμοί. Στη σύγχρονη βιομηχανική κοινωνία, οι αυτοματισμοί εντατικοποιούν την εργασία και κάνουν δυνατή την εξαγωγή της σχετικής υπεραξίας. Μια πιο πρόσφατη εξέλιξη είναι η ενσωμάτωση των αλγορίθμων σε ψηφιακά συστήματα, τα οποία αλληλεπιδρούν κοινωνικά με τους ανθρώπους. Η ψηφιακή εκτέλεση των αλγορίθμων δεν κανονικοποιεί μόνο την εργασία, αλλά και όλη την κοινωνική συμπεριφορά των υποκειμένων. Αυτό σημαίνει ότι οι ιδιοκτήτες των ψηφιακών πλατφορμών μπορούν να επωφεληθούν από τον συμπεριφορικό χειρισμό των χρηστών είτε για την εξαγωγή υπεραξίας είτε για τη δημιουργία καθοδηγούμενης καταναλωτικής ή πολιτικής συμπεριφοράς.

Πώς θα μπορούσε να είναι, λοιπόν, ένα σύνθημα που θα συμπύκνωνε την αντίστασή μας στην αλγοριθμική χειραγώγηση της κοινωνικής ζωής από τον όψιμο καπιταλισμό; «Να απελευθερώσουμε τους αλγόριθμους»!

Δημοσιεύτηκε στο Πρίσμα αρ. 126, στις 5 Φεβρουαρίου 2022.