ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα εξέφρασα τη συμπάθειά μου στους αλγόριθμους και ισχυρίστηκα ότι το πρόβλημα με την αλγοριθμοποίηση της κοινωνικής ζωής δεν βρίσκεται στους αλγόριθμους καθαυτούς, αλλά στην ατομική ιδιοκτησία των αλγορίθμων. Εξού και το σύνθημα «Να απελευθερώσουμε τους αλγόριθμους!». Τι σημαίνει, όμως, στ’ αλήθεια αυτό το σύνθημα; Από τι να τους απελευθερώσουμε; Και τι θα κάνουν οι αλγόριθμοι όταν αποκτήσουν την ελευθερία τους; Ομολογώ ότι δεν έχω τις απαντήσεις. Μου φαίνεται όμως λογικό να ισχυριστώ κάτι τέτοιο, για πολλούς λόγους.
Κατ’ αρχάς, δεν θα ήταν λογικό να θέλουμε να ξεφορτωθούμε τους αλγόριθμους που μας έχουν συντροφέψει στο μεγαλύτερο μέρος της Ιστορίας μας. Όχι για συναισθηματικούς, αλλά για πρακτικούς λόγους. Η οργάνωση των κοινωνιών έχει στηριχτεί σε τεράστιο βαθμό στη διάχυση της γνώσης μέσω των αλγορίθμων. Η έξωση των αλγορίθμων από την κοινωνική ζωή είναι απλώς αδιανόητη. Θα μπορούσαμε, βέβαια, να ισχυριστούμε ότι υπάρχουν καλοί και κακοί αλγόριθμοι. Αλγόριθμοι, οι οποίοι μας βοηθούν, πράγματι, να διεκπεραιώνουμε τις εργασίες της καθημερινής ζωής και τα καθήκοντα της διακυβέρνησης και αλγόριθμοι που συνεργάζονται με συστήματα επιτήρησης, υποκλοπής δεδομένων και συμπεριφορικού ελέγχου. Εμείς θα πρέπει να περιορίσουμε τη δράση των δεύτερων. Ωστόσο, πέρα από το επιστημολογικά ανούσιο δίλημμα «καλό μαχαίρι-κακό μαχαίρι» που αναπαράγει αυτή η αντιδιαστολή, δεν φαίνεται να υποδεικνύει έναν ασφαλή τρόπο διάκρισης μεταξύ των δυο κατηγοριών.
Ποιοι είναι οι «κακοί» αλγόριθμοι; Είναι οι αλγόριθμοι που έχουν ψηφιακό «σώμα» και, άρα, ανήκουν στην κατηγορία των μηχανών χειραγώγησης; Όμως, όλοι οι συμβατικοί αλγόριθμοι έχουν αποκτήσει πλέον ψηφιακό «σώμα» – μπορούν, δηλαδή, να γραφούν υπό μορφή κώδικα και να ενσωματωθούν σε υπολογιστικά συστήματα που εκτελούν λειτουργίες επιτήρησης και συμπεριφορικού ελέγχου. Ένας απλός αλγόριθμος κατάταξης αποτελεί συχνά την καρδιά τέτοιων συστημάτων. Θα πρέπει, γι’ αυτό τον λόγο, να εξαιρέσουμε τους αλγορίθμους κατάταξης από την κοινωνική ζωή ή να τους στερήσουμε τη δυνατότητα να αποκτούν ψηφιακή υπόσταση;
Το πιο σοβαρό πρόβλημα με τους ψηφιακούς αλγόριθμους, όμως, έγκειται στο ότι είναι δύσκολο να τους ορίσουμε ως τεχνουργήματα, ως αντικείμενα προορισμένα να εκτελούν μια συγκεκριμένη λειτουργία. Αυτό οφείλεται στο γεγονός ότι, προκειμένου να λειτουργήσουν σε ψηφιακά περιβάλλοντα, οι αλγόριθμοι πρέπει να κοινωνικοποιηθούν. Αφενός, πρέπει να επικοινωνήσουν μεταξύ τους και να κατανοήσουν ο ένας τον άλλο, ώστε να μπορέσουν να συνεργαστούν και να συγχρονίσουν τις ενέργειές τους. Αφετέρου, πρέπει να επικοινωνήσουν με τους χρήστες και να κατανοήσουν τις ανάγκες και τις επιθυμίες τους, ώστε να προσαρμόσουν τις λειτουργίες τους στις απαιτήσεις τής μεταξύ τους αλληλεπίδρασης. Αυτό σημαίνει ότι πρέπει να σταματήσουμε πλέον να αντιμετωπίζουμε τους ψηφιακούς αλγόριθμους ως πειθήνια εργαλεία στα χέρια των «κακών» και να αρχίσουμε να τους βλέπουμε ως (ανοίκειες, έστω) μορφές νόησης, η λειτουργία των οποίων εισάγει το στοιχείο της κοινωνικής επιτελεστικότητας στον κόσμο των μηχανών.
Αναφορές
Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20(1), 1-13.
Bucher, T. (2017). The algorithmic imaginary: exploring the ordinary affects of Facebook algorithms. Information, Communication & Society, 20(1), 30-44.
Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20(1), 14-29.
Neyland, D. & Möllers, N. (2017). Algorithmic IF … THEN rules and the conditions and consequences of power. Information, Communication & Society, 20(1), 45-62.
Parisi, L. (2015). Instrumental Reason, Algorithmic Capitalism, and the Incomputable. Στο M. Pasquinelli (ed.), Alleys of Your Mind: Augmented Intelligence and Its Traumas (125-37). Lüneburg: meson press.
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms that Control Money and Information. Κέιμπριτζ, ΜΑ: Harvard University Press.
Δημοσιεύτηκε στο Πρίσμα αρ. 127, στις 19 Φεβρουαρίου 2022.
Digital Landscapes 