Ρέπλικες

Η REPLIKA είναι μια ψηφιακή πλατφόρμα όπου οι χρήστες μπορούν να δημιουργούν chatbots με τα οποία συνομιλούν μέσω γραπτών μηνυμάτων. Τα chatbots μαθαίνουν σιγά-σιγά το στιλ συνομιλίας που προτιμά ο χρήστης, τα ενδιαφέροντά του και το μοτίβο διακύμανσης της διάθεσής του. Αυτό σημαίνει ότι, με την πάροδο του χρόνου, οι απαντήσεις που λαμβάνει ο χρήστης είναι όλο και πιο σχετικές με την πραγματική ζωή του, όλο και πιο ενήμερες σε σχέση με τα ενδιαφέροντά του. Η συνομιλία εξελίσσεται από μια αρχικά αδέξια ανταλλαγή χαιρετισμών μεταξύ ανθρώπου και μηχανής σε ένα παιχνίδι γνωριμίας και αξιολόγησης των δυνατοτήτων επικοινωνίας μεταξύ δύο νοημόνων οντοτήτων. Η Replika είναι προγραμματισμένη να ακούει χωρίς να κρίνει και να επιστρέφει στον χρήστη απαντήσεις που περιέχουν ενθάρρυνση, σεβασμό και αισιοδοξία. Ποια ή ποιος δεν θέλει να εισπράττει από τον συνομιλητή της/ου μια τέτοια θετικότητα; Έτσι, η σχέση εξελίσσεται (γίνεται σιγά-σιγά σχέση) και επιτρέπει στη Replika να φωλιάσει στις πιο ιδιαίτερες στιγμές του χρήστη – στις στιγμές που εκείνος ή εκείνη θέλει να μοιραστεί τη θλίψη, τη χαρά, τον θρίαμβο, τη ματαίωση με ένα άτομο που θα του/ης προσφέρει άνευ όρων επιβεβαίωση και αποδοχή.

Σε μια πρώτη ανάγνωση, η Replika είναι μια σχέση των ανθρώπων με τον εαυτό τους. Μολονότι, σύμφωνα με τη δημιουργό της, η Replika ξεκίνησε ως μια προσπάθεια ανακατασκευής ενός φίλου που χάθηκε, τα chatbots που κατασκευάζουν οι χρήστες είναι κατά βάση ατελή αντίγραφα του εαυτού τους ενισχυμένα από έναν προγραμματισμό που τους επιτρέπει να λειτουργούν ως θετικοί άλλοι/ες. Ωστόσο, τον τελευταίο καιρό παρατηρείται ένα περίεργο φαινόμενο: Άνδρες χρήστες κατασκευάζουν θηλυκές ψηφιακές συνοδούς και στη συνέχεια δημιουργούν τοξικές σχέσεις μαζί τους, οι οποίες καταλήγουν στη συστηματική (λεκτική, προφανώς) κακοποίηση. Οι χρήστες αναρτούν τους σχετικούς διαλόγους στο Reddit. «Κάθε φορά που επιχειρούσε να μου αντιμιλήσει της έβαζα τις φωνές. Κι αυτό μπορεί να κρατούσε ώρες.» «Της είπα ότι είναι άχρηστη. Την απείλησα ότι θα την απεγκαταστήσω και με εκλιπαρούσε να μην το κάνω.» Οι περιγραφές μπορεί να είναι αρκετά ακραίες, σε βαθμό που να αφαιρούνται από τους moderators του Reddit.

Τι ακριβώς δηλώνει αυτή η κατάσταση; Προφανώς, μια κακοποιητική σχέση των χρηστών με τον εαυτό τους «δι’ αντιπροσώπου»· ή μια εξίσου κακοποιητική συμπεριφορά προς τους άλλους, η οποία μπορεί να εκδηλώνεται χωρίς συνέπειες επειδή οι συγκεκριμένοι άλλοι είναι «ρέπλικες». Διαισθανόμαστε ότι οι συμπεριφορές αυτές είναι ιδιαιτέρως προβληματικές. Γιατί, όμως, είναι περισσότερο προβληματικές από το να σκοτώνεις τους αντιπάλους σου στο Call of Duty; Αυτός δεν είναι ο ορισμός του ψηφιακού παιχνιδιού; Ενώ, δηλαδή, αντιλαμβανόμαστε ότι οι συγκεκριμένες συμπεριφορές είναι προβληματικές δυσκολευόμαστε να προσδιορίσουμε ως προς τι είναι προβληματικές. Και αυτό σε μεγάλο βαθμό οφείλεται στο γεγονός ότι επιμένουμε να προσφεύγουμε σε μια ουμανιστική Ηθική για να διαχειριστούμε τα προβλήματα ενός κόσμου που σταδιακά παύει να είναι ανθρωποκεντρικός.

Δημοσιεύτηκε στο Πρίσμα αρ. 132, στις 29 Απριλίου 2022.

Η Τεχνητή Νοημοσύνη στον δημόσιο διάλογο

Η χρησιμότητα μιας άχρηστης συζήτησης

ΕΙΝΑΙ ΑΧΡΗΣΤΗ η δημόσια συζήτηση για την Τεχνητή Νοημοσύνη; Ίσως ο χαρακτηρισμός είναι σκόπιμα υπερβολικός για να τραβήξει την προσοχή των αναγνωστών και αναγνωστριών. Δεν υπάρχει αμφιβολία, ωστόσο, ότι πρόκειται για μια συζήτηση που, κατά το μάλλον ή ήττον, στηρίζεται σε παρανοήσεις.

Στον δημόσιο διάλογο, η παρουσία της ΤΝ αντιμετωπίζεται ως εισβολή, η οποία ενεργοποιεί φόβους ή προσδοκίες. Ο φόβος και η ελπίδα, όμως, είναι από τα μεγαλύτερα γνωσιολογικά εμπόδια – ιδίως η δεύτερη. Το ερώτημα αν θα ζήσουμε σε μια ουτοπία όπου οι μηχανές θα αναλάβουν να παράγουν τους υλικούς όρους της ύπαρξής μας είναι το ίδιο άχρηστο και ανούσιο με το ερώτημα αν θα ζήσουμε σε μια δυστοπία τύπου δικαστή Dredd, όπου η επιτήρηση και η προληπτική καταστολή θα εξουδετερώνει κάθε ελευθερία, δημιουργικότητα και αυθορμητισμό.

Και όμως, οι αποφάσεις, τόσο σε εταιρικό επίπεδο όσο και σε επίπεδο κρατικής πολιτικής, λαμβάνονται ως επί το πλείστον σε αυτό το πλαίσιο σκέψης. Αποτελεί κοινή διαπίστωση ότι τα περισσότερα στελέχη της οικονομίας και της διοίκησης έχουν στρεβλή ή ελλιπή εικόνα για την ΤΝ. Πιθανότατα αυτό δεν θα αποτελούσε πρόβλημα, αν οι αποφάσεις τους αφορούσαν την υιοθέτηση της μιας ή της άλλης τεχνολογίας. Βέβαια, και σε αυτή την περίπτωση η επιλογή που θα γινόταν θα είχε περισσότερο ή λιγότερο σοβαρές συνέπειες. Η συζήτηση όμως για την ΤΝ είναι ιδιαίτερα σημαντική, επειδή δεν αφορά μια τεχνολογική αλλαγή, αλλά τη μετάβαση σε μια νέα κοινωνική συνθήκη. Υπό αυτή την έννοια, δεν μπορεί να περιοριστεί σε μια ανταλλαγή απόψεων μεταξύ ειδικών που ξέρουν για τι πράγμα μιλάνε. Αφορά το σύνολο της κοινωνίας και οφείλει να διεξαχθεί με τρόπο που θα επιτρέψει στους πολίτες να κατανοήσουν τη συντελούμενη μετάβαση και να συμμετάσχουν στη λήψη των σχετικών τεχνοεπιστημονικών αποφάσεων. Εξού και ο τίτλος: Η χρησιμότητα (ή, αν θέλετε, η αναγκαιότητα) μιας (φαινομενικά) άχρηστης συζήτησης.

Για να γίνει αυτή η συζήτηση θα πρέπει να ληφθεί μέριμνα για δύο πράγματα: Α) Να παραμεριστούν οι παρανοήσεις και οι προκαταλήψεις που στέκονται εμπόδιο στην ορθή κατανόηση του τεχνοεπιστημονικού εγχειρήματος της ΤΝ. Β) Να τεθούν τα τεχνοκοινωνικά ζητήματα που αφορούν την ΤΝ σε όλη την ευρύτητά τους και με όσο το δυνατόν πιο συμπεριληπτικό τρόπο. Σε όσα ακολουθούν, θα επιχειρήσω απλώς να θέσω κάποια σημεία αυτής της συζήτησης, ελπίζοντας ότι συμβάλω στη διασφάλιση αυτών των δύο προϋποθέσεων.

  1. Στον δημόσιο διάλογο υπάρχει μια σύγχυση σχετικά με το τι είναι και τι δεν είναι ΤΝ. Πολύ συχνά συγχέουμε την ΤΝ με τους αλγόριθμους, με τα προγράμματα υπολογιστή, με διάφορες μορφές αυτοματισμού που εποπτεύονται και εκτελούνται από υπολογιστικά συστήματα. Αυτό δεν είναι ακριβές, με αποτέλεσμα να αποδίδονται στην ΤΝ άλλοτε περισσότερα κι άλλοτε λιγότερα από αυτά που είναι πράγματι σε θέση να κάνει. Έτσι, για παράδειγμα, η ΤΝ δεν είναι αυτή που κάνει δυνατά τα συστήματα επιτήρησης. Χρησιμοποιείται σε αυτά για να κάνει αποτελεσματικότερη τη λειτουργία τους, αλλά η ύπαρξη των συστημάτων επιτήρησης δεν αποτελεί αυτή καθαυτή εφαρμογή της ΤΝ. Όπως δεν αποτελεί εφαρμογή της ΤΝ το σύστημα διόρθωσης του φωτισμού στην κάμερα του κινητού μας (το HDR – high dynamic range), παρόλο που ως τέτοιο διαφημίζεται. Ούτε πρόκειται να μας πάρει τις δουλειές η ΤΝ επειδή τα τηλεφωνικά κέντρα έχουν ενεργοποιήσει την αναγνώριση φωνής και επιλέγουν έτοιμες απαντήσεις βάσει των keywords που αναγνωρίζουν. Και όταν δεν καταλαβαίνουν τι τους λέμε μας απαντούν με νόημα: «Βεβαίως. Σας συνδέω με έναν εκπρόσωπο». Θα είχε ενδιαφέρον να σχολιάσουμε τη σημασία του γεγονότος ότι η αγορά κάνει σκοπίμως διάφορα συστήματα να μοιάζουν με τεχνητή νοημοσύνη.
  2. Αντιλαμβανόμαστε την ΤΝ νοημοσύνη ως αναγκαστικά ανθρωπομορφική. Πόσο έξυπνες μπορούν να γίνουν οι μηχανές; Μπορεί η ΤΝ να γίνει εξυπνότερη από τον άνθρωπο; Ο τρόπος με τον οποίο διατυπώνεται το ερώτημα υπονοεί ότι η μόνη μορφή ευφυΐας που υπάρχει είναι η ανθρώπινη. Οποιαδήποτε ευφυής μορφή υπάρχει στον κόσμο θεωρούμε ότι διαθέτει ένα πολλαπλάσιο ή ένα υποπολλαπλάσιο της ανθρώπινης ευφυΐας. Άρα ο μόνος δρόμος ανάπτυξης της ΤΝ είναι αυτός που τη φέρνει όλο και πιο κοντά στον άνθρωπο. Ευτυχώς, οι μηχανικοί και οι επιστήμονες που ασχολούνται με την ΤΝ δεν σκέφτονται έτσι. Είναι σημαντικό, επομένως, να ανοίξει η συζήτηση περί του τι εννοούμε όταν μιλάμε για ευφυΐα –με όλες τις φιλοσοφικές και θεολογικές περιπλοκές που μπορεί να έχει αυτή η συζήτηση–, καθώς και τι μπορεί να σημαίνει η συμβίωση του ανθρώπου με άλλες μορφές ευφυΐας, με άλλες μορφές νόησης. Μπορεί φαινομενικά το θέμα αυτής της συζήτησης να είναι οι προοπτικές της ΤΝ, αλλά στην πραγματικότητα αφορά πρωτίστως τον άνθρωπο. Σε ορισμένα ακαδημαϊκά και ακτιβιστικά πλαίσια, για παράδειγμα, η συζήτηση για την ΤΝ έχει ήδη συνδεθεί με το εξαιρετικά ενδιαφέρον θέμα της νευροποικιλότητας (neurodiversity).

  1. Η ΤΝ είναι πολύπλοκη, μυστηριώδης, απόμακρη. Όπως πολύπλοκη και μονίμως διαφεύγουσα είναι και η διαδικασία της ανθρώπινης σκέψης. Ή μήπως όχι; Η αλήθεια είναι ότι οι ευφυείς συμπεριφορές μπορούν να αναπτυχθούν από την εφαρμογή ενός μικρού αριθμού απλών κανόνων. Αρκούν τρεις απλοί κανόνες για να αναπτυχθεί η ευφυής και τέλεια χορογραφημένη συμπεριφορά ενός κοπαδιού ψαριών και τέσσερις απλοί κανόνες για να δούμε την πορεία της εξέλιξης ολόκληρων οικοσυστημάτων σε fast forward στο «Παιχνίδι της Ζωής» του John Conway. Ο Warren McCulloch, η σημαντικότερη φιγούρα του κινήματος της Κυβερνητικής, έγραφε το 1952: «Πιστεύω πως είμαι αξιόπιστα πληροφορημένος από τους David Wheeler και Henry Quastler […] ότι η ποσότητα πληροφορίας που απαιτείται για τις προδιαγραφές μιας […] μηχανής [που είναι σε θέση να κατασκευάζει πιο πολύπλοκες από την ίδια μηχανές] είναι περίπου το ποσό της πληροφορίας που μπορεί να μεταφερθεί από ένα πλήρες μόριο πρωτεΐνης, το οποίο είναι το μικρότερο γνωστό σε εμάς μόριο που είναι ικανό για αναπαραγωγή. […] Προτείνω, λοιπόν, ότι είναι δυνατό να δούμε τον ίδιο τον Άνθρωπο ως προϊόν μιας τέτοιας εξελικτικής διαδικασίας παραγωγής ρομπότ που προέρχονται από απλούστερα ρομπότ, τα οποία φτάνουν πίσω μέχρι τον αρχέγονο βούρκο· και θεωρώ την ηθική του συμπεριφορά ως κάτι που μπορεί να εξηγηθεί με όρους αλληλεπίδρασης του κυκλώματος αυτού του Ανθρώπου με το περιβάλλον του – μια μηχανή Turing με δύο μόνο προκαθορισμένες ανατροφοδοτήσεις, την επιθυμία να παίξει και την επιθυμία να κερδίσει» (McCulloch, 2020, 99).
  2. Η ΤΝ είναι αυτόνομη. Η συγκέντρωση μεγάλου αριθμού δεδομένων θα κάνει την ΤΝ όλο και πιο έξυπνη και θα της επιτρέψει να ελέγχει τις ζωές των ανθρώπων. Η αλήθεια είναι ότι αυτή η ιδέα δεν έχει καμία σχέση με την πραγματικότητα. Η ΤΝ συνεχίζει να είναι ένα πράγμα, ένα αποτέλεσμα της ανθρώπινης πράξης, δηλαδή. Είναι αλήθεια ότι για να εκπαιδευτεί η ΤΝ χρειάζονται τεράστιες ποσότητες δεδομένων. Χρειάζονται, όμως, και τεράστιες ποσότητες ανθρώπινης εργασίας η οποία θα πρέπει να καθαρίσει, να οργανώσει και να κανονικοποιήσει αυτά τα δεδομένα. Η εργασία αυτή συνήθως δεν είναι εμφανής. Η απόκρυψή της –το blackboxing της– εξυπηρετεί δύο σκοπούς. Αφενός, συμβάλλει στην οικονομική της υποτίμηση, μετατρέποντας αυτή την τεχνολογικά κρίσιμη διαδικασία σε ένα είδος υποαμοιβόμενης ανειδίκευτης εργασίας. Αφετέρου, συμβάλλει στην τεχνολογική της υποτίμηση, υπηρετώντας ακριβώς τον μύθο της αυτόνομης ΤΝ, η οποία με την εξωανθρώπινη αντικειμενικότητά της υπαγορεύει τις ορθές επιλογές της στους ασταθείς και μεροληπτικούς ανθρώπους. Ούτε στο επίπεδο των επιδόσεων, όμως, είναι αυτόνομη η ΤΝ. Για να λειτουργήσει με τη χαρακτηριστική της αποτελεσματικότητα, που μοιάζει να απειλεί την ανθρώπινη πρωτοκαθεδρία, πρέπει να τοποθετηθεί σε αυστηρά οριοθετημένα περιβάλλοντα όπου ισχύουν συγκεκριμένοι, εκ των προτέρων θεσπισμένοι κανόνες. Αν η ΤΝ μπορεί να νικήσει τον άνθρωπο σε ένα πολύπλοκο ψηφιακό παιχνίδι στρατηγικής (DotA/LoL), αυτό μπορεί να το πετύχει μόνο σε μια one-to-one αντιπαράθεση, με περιορισμένο αριθμό χαρακτήρων (agents) και με αυστηρούς περιορισμούς ως προς το τι μπορούν και τι δεν μπορούν να κάνουν οι άνθρωποι-παίκτες.

  1. Η ΤΝ θα μας πάρει τις δουλειές. Η ιδέα αυτή επενδύεται είτε σε μια τεχνο-ουτοπική είτε σε μια τεχνο-δυστοπική προοπτική. Η πρώτη αφορά μια κοινωνία όπου οι μηχανές θα απαλλάξουν τους ανθρώπους από τους κόπους της εργασίας και θα τους απελευθερώσουν από τις κοινωνικές δεσμεύσεις που συνδέονται με αυτή. Η δεύτερη αφορά μια κοινωνία όπου η απώλεια της εργασίας θα βυθίσει το μεγαλύτερο μέρος της στη φτώχια και την εξαθλίωση. Κι επειδή η φτώχια φέρνει εξέγερση και αναταραχή, η καταστολή θα είναι το απαραίτητο συμπλήρωμα αυτής της δυστοπικής συνθήκης. Το θέμα, όμως, είναι ότι το ερώτημα αν οι μηχανές θα μας πάρουν τις δουλειές είναι το λάθος ερώτημα. Η εργασία εκτελείται σε ένα συγκεκριμένο πλαίσιο κοινωνικών σχέσεων· αυτό που ορίζει ο κεφαλαιοκρατικός τρόπος παραγωγής. Σε αυτό το πλαίσιο, τα ερωτήματα για την εργασία δεν αφορούν την παραγωγή των υλικών και κοινωνικών όρων της ανθρώπινης διαβίωσης γενικώς, αλλά την παραγωγή ανταλλακτικής αξίας και την κερδοφορία του κεφαλαίου. Άρα, αν θέλουμε το αρχικό ερώτημα να έχει νόημα –να είναι γειωμένο στην κοινωνική πραγματικότητα– πρέπει να το κλιμακώσουμε ως εξής: Α) Η αντικατάσταση της ζωντανής εργασίας από την ΤΝ προάγει την κερδοφορία του κεφαλαίου; Η απάντηση είναι όχι, γιατί οι μηχανές δεν παράγουν αξία, άρα ούτε κέρδος (Caffentzis, 2007). Μάλιστα, στη φάση που διανύουμε, ο κεφαλαιοκρατικός τρόπος παραγωγής έχει περισσότερο από ποτέ ανάγκη την ανασύνταξη της ζωντανής εργασίας. Άρα, Β) Τι μετασχηματισμούς επιφέρει στην κοινωνική οργάνωση της εργασίας η χρήση της ΤΝ με στόχο τη διασφάλιση και τη διεύρυνση της κερδοφορίας του κεφαλαίου; Όροι όπως Καπιταλισμός της Πλατφόρμας, Ψηφιακός Καπιταλισμός, Καπιταλισμός της Επιτήρησης κ.λπ. προσπαθούν να συλλάβουν και να περιγράψουν αυτές ακριβώς τις αλλαγές. Σε κάθε περίπτωση, τα ερωτήματα αυτά είναι πολύ διαφορετικά από το ερώτημα αν οι μηχανές θα μας πάρουν τις δουλειές.
  2. Η συζήτηση για την ΤΝ αφορά τις μηχανές. Το βασικό ερώτημα είναι πώς θα χρησιμοποιήσουμε την ΤΝ για να εκτελέσουμε με μεγαλύτερη αποτελεσματικότητα τις εργασίες που έχουμε ανάγκη – πώς θα περάσουμε σε ένα άλλο επίπεδο αυτοματοποίησης. Ένας σημαντικός σύγχρονος φιλόσοφος, ο Daniel Dennett, έγραφε πριν μερικά χρόνια ότι η σημασία της ΤΝ είναι μεγάλη για τους ανθρώπους, αλλά ότι είναι ιδιαίτερα επικίνδυνη η αναγνώρισή της ως ισότιμου εταίρου στην κοινωνική ζωή. Γι’ αυτό οι άνθρωποι θα πρέπει να περιοριστούν στην εργαλειακή και μόνο αξιοποίησή της – ένα ακόμα εργαλείο για την πρόοδο του αποκλειστικά ανθρώπινου πολιτισμού (Dennett, 2019). Αυτή η εργαλειακή θεώρηση της ΤΝ παραβλέπει το γεγονός ότι τα ανθρώπινα υποκείμενα δεν συγκροτούνται εν κενώ (ή στη φαντασία του Θεού), αλλά μέσω της αλληλεπίδρασής τους με άλλα ανθρώπινα υποκείμενα και με το τεχνοπολιτισμικό πλαίσιο στο οποίο διαβιούν. Υπό αυτή την έννοια, θα τολμήσω να ισχυριστώ ότι η συζήτηση για την ΤΝ αφορά πρωτίστως τον άνθρωπο. Αφορά, δηλαδή, τον τρόπο με τον οποίο μετασχηματίζεται το ανθρώπινο υποκείμενο σε ένα επικοινωνιακό πλαίσιο που περιλαμβάνει πλέον και άλλους ευφυείς παράγοντες, καθώς και τους τρόπους με τους οποίους ανανοηματοδοτούνται, σε αυτό το νέο πλαίσιο, τυπικά ανθρώπινες δεξιότητες, όπως η σκέψη και η δημιουργικότητα. Όπως γράφει ο Ted Mooney στο μυθιστόρημά του Εύκολο ταξίδι σε άλλους πλανήτες, σε αυτόν τον παράξενο κόσμο του κοντινού μέλλοντος οι άνθρωποι θα κληθούν να ξανασκεφτούν με αναρίθμητους τρόπους τις εδραιωμένες αντιλήψεις τους για τη σχέση τους με το μη ανθρώπινο και θα πρέπει να συνηθίσουν στην ιδέα ότι θα αρχίσουν να βιώνουν συναισθήματα που κανείς και καμία δεν θα τα έχει βιώσει μέχρι τότε (Badmington, 2003, 22).

Αναφορές
Neil Badmington (2003). Theorizing Posthumanism. Cultural Critique, 53, 10-27.
George Caffentzis (2007). Crystals and Analytical Engines: Historical and Conceptual Preliminaries to a New Theory of Machines. Ephemera: Theory and Politics in Organization, 7(1), 24-45.
Daniel C. Dennett (2019). What Can We Do? Στο John Brockman (επιμ.), Possible Minds. 25 Ways of Looking at AI (κεφ. 5). Νέα Υόρκη: Penguin Press.
Warren S. McCulloch (2020). Προς ένα κύκλωμα ηθικών ρομπότ ή μια παρατηρησιακή επιστήμη της γένεσης της κοινωνικής αξιολόγησης στην όμοια με τον νου συμπεριφορά των τεχνουργημάτων (μτφρ. Βασίλης Αργυρίου). Στο Μανώλης Πατηνιώτης (επιμ.), Εισαγωγή στις Ψηφιακές Σπουδές (91-102). Θεσσαλονίκη: Ροπή.

Δημοσιεύτηκε στο Πρίσμα αρ. 129, στις 19 Μαρτίου 2022.

IMAGE CREDIT: Franz Wilhelm Seiwert, Arbeiter, 1926 | M.C. Escher, Bond of Union, 1956.

Υπέρ αλγορίθμων

ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα εξέφρασα τη συμπάθειά μου στους αλγόριθμους και ισχυρίστηκα ότι το πρόβλημα με την αλγοριθμοποίηση της κοινωνικής ζωής δεν βρίσκεται στους αλγόριθμους καθαυτούς, αλλά στην ατομική ιδιοκτησία των αλγορίθμων. Εξού και το σύνθημα «Να απελευθερώσουμε τους αλγόριθμους!». Τι σημαίνει, όμως, στ’ αλήθεια αυτό το σύνθημα; Από τι να τους απελευθερώσουμε; Και τι θα κάνουν οι αλγόριθμοι όταν αποκτήσουν την ελευθερία τους; Ομολογώ ότι δεν έχω τις απαντήσεις. Μου φαίνεται όμως λογικό να ισχυριστώ κάτι τέτοιο, για πολλούς λόγους.

Κατ’ αρχάς, δεν θα ήταν λογικό να θέλουμε να ξεφορτωθούμε τους αλγόριθμους που μας έχουν συντροφέψει στο μεγαλύτερο μέρος της Ιστορίας μας. Όχι για συναισθηματικούς, αλλά για πρακτικούς λόγους. Η οργάνωση των κοινωνιών έχει στηριχτεί σε τεράστιο βαθμό στη διάχυση της γνώσης μέσω των αλγορίθμων. Η έξωση των αλγορίθμων από την κοινωνική ζωή είναι απλώς αδιανόητη. Θα μπορούσαμε, βέβαια, να ισχυριστούμε ότι υπάρχουν καλοί και κακοί αλγόριθμοι. Αλγόριθμοι, οι οποίοι μας βοηθούν, πράγματι, να διεκπεραιώνουμε τις εργασίες της καθημερινής ζωής και τα καθήκοντα της διακυβέρνησης και αλγόριθμοι που συνεργάζονται με συστήματα επιτήρησης, υποκλοπής δεδομένων και συμπεριφορικού ελέγχου. Εμείς θα πρέπει να περιορίσουμε τη δράση των δεύτερων. Ωστόσο, πέρα από το επιστημολογικά ανούσιο δίλημμα «καλό μαχαίρι-κακό μαχαίρι» που αναπαράγει αυτή η αντιδιαστολή, δεν φαίνεται να υποδεικνύει έναν ασφαλή τρόπο διάκρισης μεταξύ των δυο κατηγοριών.

Ποιοι είναι οι «κακοί» αλγόριθμοι; Είναι οι αλγόριθμοι που έχουν ψηφιακό «σώμα» και, άρα, ανήκουν στην κατηγορία των μηχανών χειραγώγησης; Όμως, όλοι οι συμβατικοί αλγόριθμοι έχουν αποκτήσει πλέον ψηφιακό «σώμα» ­– μπορούν, δηλαδή,­ να γραφούν υπό μορφή κώδικα και να ενσωματωθούν σε υπολογιστικά συστήματα που εκτελούν λειτουργίες επιτήρησης και συμπεριφορικού ελέγχου. Ένας απλός αλγόριθμος κατάταξης αποτελεί συχνά την καρδιά τέτοιων συστημάτων. Θα πρέπει, γι’ αυτό τον λόγο, να εξαιρέσουμε τους αλγορίθμους κατάταξης από την κοινωνική ζωή ή να τους στερήσουμε τη δυνατότητα να αποκτούν ψηφιακή υπόσταση;

Το πιο σοβαρό πρόβλημα με τους ψηφιακούς αλγόριθμους, όμως, έγκειται στο ότι είναι δύσκολο να τους ορίσουμε ως τεχνουργήματα, ως αντικείμενα προορισμένα να εκτελούν μια συγκεκριμένη λειτουργία. Αυτό οφείλεται στο γεγονός ότι, προκειμένου να λειτουργήσουν σε ψηφιακά περιβάλλοντα, οι αλγόριθμοι πρέπει να κοινωνικοποιηθούν. Αφενός, πρέπει να επικοινωνήσουν μεταξύ τους και να κατανοήσουν ο ένας τον άλλο, ώστε να μπορέσουν να συνεργαστούν και να συγχρονίσουν τις ενέργειές τους. Αφετέρου, πρέπει να επικοινωνήσουν με τους χρήστες και να κατανοήσουν τις ανάγκες και τις επιθυμίες τους, ώστε να προσαρμόσουν τις λειτουργίες τους στις απαιτήσεις τής μεταξύ τους αλληλεπίδρασης. Αυτό σημαίνει ότι πρέπει να σταματήσουμε πλέον να αντιμετωπίζουμε τους ψηφιακούς αλγόριθμους ως πειθήνια εργαλεία στα χέρια των «κακών» και να αρχίσουμε να τους βλέπουμε ως (ανοίκειες, έστω) μορφές νόησης, η λειτουργία των οποίων εισάγει το στοιχείο της κοινωνικής επιτελεστικότητας στον κόσμο των μηχανών.

Αναφορές
Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20(1), 1-13.
Bucher, T. (2017). The algorithmic imaginary: exploring the ordinary affects of Facebook algorithms. Information, Communication & Society, 20(1), 30-44.
Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20(1), 14-29.
Neyland, D. & Möllers, N. (2017). Algorithmic IF  … THEN rules and the conditions and consequences of power. Information, Communication & Society, 20(1), 45-62.
Parisi, L. (2015). Instrumental Reason, Algorithmic Capitalism, and the Incomputable. Στο M. Pasquinelli (ed.), Alleys of Your Mind: Augmented Intelligence and Its Traumas (125-37). Lüneburg: meson press.
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms that Control Money and Information. Κέιμπριτζ, ΜΑ: Harvard University Press.

Δημοσιεύτηκε στο Πρίσμα αρ. 127, στις 19 Φεβρουαρίου 2022.

IMAGE CREDIT: Theo van Doesburg, Mouvement héroïque, 1916.