Αναμνήσεις

Τι σημαίνει θυμάμαι; Η απάντηση είναι προφανής: Ανακαλώ αναμνήσεις. Τι είναι οι αναμνήσεις; Είναι εγγραφές σε κάποιο σημείο του νευρικού συστήματος (πιθανότατα στον εγκέφαλο), οι οποίες έχουν προκληθεί από αισθητηριακά ερεθίσματα. Γι’ αυτό και όταν για κάποιο λόγο εκφυλίζεται, φυσιολογικά ή παθολογικά, το νευρικό σύστημα, οι αναμνήσεις φθίνουν ή χάνονται τελείως. Τι σημαίνει ανακαλώ; Σημαίνει ότι ενεργοποιώ μια διαδικασία του νευρικού μου συστήματος, η οποία βάσει των οδηγιών που θα της δοθούν αναζητά ένα αντικείμενο με συγκεκριμένα χαρακτηριστικά και συγκεκριμένη χρονική και γεωγραφική σήμανση (θυμάσαι αυτό που συνέβη εκεί, τότε;). Προκειμένου να πραγματοποιηθεί η ανάκτηση της ανάμνησης θα πρέπει η διαδικασία αναζήτησης να οδηγηθεί σε μια συγκεκριμένη περιοχή της μνήμης, να εντοπίσει και να ανασύρει το συγκεκριμένο αντικείμενο. Γι’ αυτό και όταν οι αναμνήσεις πλακώνονται από άλλα αντικείμενα η ανάκτησή τους είναι δύσκολη. Μπορεί ακόμα και να είναι αδύνατη, αν η συσσώρευση άλλων αντικειμένων πάνω τους προκαλεί την καταστροφή τους λόγω συμπίεσης.

Το σχήμα αυτό είναι ασφαλώς μια καρικατούρα. Ωστόσο, είναι γεγονός ότι όταν δεν έχουμε κάποιον ιδιαίτερο λόγο να είμαστε προσεκτικοί, αυτός είναι ο τρόπος με τον οποίο σκεπτόμαστε τη μνήμη. Το ότι αυτή η συγκεκριμένη περιγραφή θυμίζει τον τρόπο που λειτουργούν οι υπολογιστές (μείον το γεγονός ότι οι υπολογιστές δεν ανατρέχουν απευθείας στη μνήμη, αλλά σε ένα μητρώο εγγραφών) δεν αποδεικνύει ότι η αντίληψή μας για τη μνήμη είναι επηρεασμένη από την κουλτούρα των υπολογιστών, αλλά ότι οι υπολογιστές φτιάχτηκαν προσομοιώνοντας μια ορισμένη αντίληψη για τη λειτουργία του ανθρώπινου νευρικού συστήματος.

Σε μια προσεκτικότερη εξέταση, όμως, η συγκεκριμένη αντίληψη φαίνεται ότι δεν ανταποκρίνεται στον τρόπο με τον οποίο λειτουργεί πραγματικά η μνήμη. Η ανάκτηση της ανάμνησης δεν είναι ανάκτηση ενός «πρωτοτύπου» και δεν υπόκειται σε κριτήρια πιστότητας, από τα οποία ενδεχομένως τεκμαίρεται και η νευρολογική κατάσταση του υποκειμένου. Οι αναμνήσεις έχουν τη δική τους ζωή, η οποία ξεκινά από τη στιγμή της «εγγραφής» των εμπειρικών δεδομένων και φτάνει μέχρι την απόπειρα ανάκτησής τους από το υποκείμενο. Η ενθύμηση  είναι μια ενεργητική διαδικασία επανεπινόησης –ανακατασκευής– του βιώματος που αναφέρεται σε μια στιγμή του παρελθόντος. Αυτή η διαδικασία χρησιμοποιεί τις εμπειρικές αποτυπώσεις περισσότερο ως πρώτη ύλη (ως «πόρους») παρά ως οριστικά διαμορφωμένες εγγραφές, συνδυάζοντάς τες με μεταγενέστερες εμπειρίες, καθώς και με το εκάστοτε διανοητικό και κοινωνικό πλαίσιο στο οποίο πραγματοποιείται η ανάκτηση. Υπό αυτή την έννοια, η ανάμνηση ενός γεγονότος δεν είναι ποτέ η ίδια. Είναι προϊόν μιας διανοητικής προσπάθειας, η οποία χαράσσει διαδρομές στην αχανή επικράτεια του χρόνου συσχετίζοντας κάθε φορά με διαφορετικό τρόπο γεγονότα και εμπειρίες προκειμένου να συνθέσει μια συνεκτική αφήγηση που θα νοηματοδοτεί με έναν συγκεκριμένο τρόπο ένα συγκεκριμένο παρόν. Η μνήμη είναι το ποτάμι του Ηράκλειτου: Κανείς δεν μπαίνει στο ίδιο ποτάμι δύο φορές.

Δημοσιεύτηκε στο Πρίσμα αρ. 131, στις 16 Απριλίου 2022.

Αναφορές
Tanja E. Bosch (2016). Memory Studies. A brief concept paper. Working paper in Media, Conflict and Democratisation series.
Andrew Hoskins (2001). New Memory: mediating history. Historical Journal of Film, Radio and Television, 21(4), 333-346.

Η Τεχνητή Νοημοσύνη στον δημόσιο διάλογο

Η χρησιμότητα μιας άχρηστης συζήτησης

ΕΙΝΑΙ ΑΧΡΗΣΤΗ η δημόσια συζήτηση για την Τεχνητή Νοημοσύνη; Ίσως ο χαρακτηρισμός είναι σκόπιμα υπερβολικός για να τραβήξει την προσοχή των αναγνωστών και αναγνωστριών. Δεν υπάρχει αμφιβολία, ωστόσο, ότι πρόκειται για μια συζήτηση που, κατά το μάλλον ή ήττον, στηρίζεται σε παρανοήσεις.

Στον δημόσιο διάλογο, η παρουσία της ΤΝ αντιμετωπίζεται ως εισβολή, η οποία ενεργοποιεί φόβους ή προσδοκίες. Ο φόβος και η ελπίδα, όμως, είναι από τα μεγαλύτερα γνωσιολογικά εμπόδια – ιδίως η δεύτερη. Το ερώτημα αν θα ζήσουμε σε μια ουτοπία όπου οι μηχανές θα αναλάβουν να παράγουν τους υλικούς όρους της ύπαρξής μας είναι το ίδιο άχρηστο και ανούσιο με το ερώτημα αν θα ζήσουμε σε μια δυστοπία τύπου δικαστή Dredd, όπου η επιτήρηση και η προληπτική καταστολή θα εξουδετερώνει κάθε ελευθερία, δημιουργικότητα και αυθορμητισμό.

Και όμως, οι αποφάσεις, τόσο σε εταιρικό επίπεδο όσο και σε επίπεδο κρατικής πολιτικής, λαμβάνονται ως επί το πλείστον σε αυτό το πλαίσιο σκέψης. Αποτελεί κοινή διαπίστωση ότι τα περισσότερα στελέχη της οικονομίας και της διοίκησης έχουν στρεβλή ή ελλιπή εικόνα για την ΤΝ. Πιθανότατα αυτό δεν θα αποτελούσε πρόβλημα, αν οι αποφάσεις τους αφορούσαν την υιοθέτηση της μιας ή της άλλης τεχνολογίας. Βέβαια, και σε αυτή την περίπτωση η επιλογή που θα γινόταν θα είχε περισσότερο ή λιγότερο σοβαρές συνέπειες. Η συζήτηση όμως για την ΤΝ είναι ιδιαίτερα σημαντική, επειδή δεν αφορά μια τεχνολογική αλλαγή, αλλά τη μετάβαση σε μια νέα κοινωνική συνθήκη. Υπό αυτή την έννοια, δεν μπορεί να περιοριστεί σε μια ανταλλαγή απόψεων μεταξύ ειδικών που ξέρουν για τι πράγμα μιλάνε. Αφορά το σύνολο της κοινωνίας και οφείλει να διεξαχθεί με τρόπο που θα επιτρέψει στους πολίτες να κατανοήσουν τη συντελούμενη μετάβαση και να συμμετάσχουν στη λήψη των σχετικών τεχνοεπιστημονικών αποφάσεων. Εξού και ο τίτλος: Η χρησιμότητα (ή, αν θέλετε, η αναγκαιότητα) μιας (φαινομενικά) άχρηστης συζήτησης.

Για να γίνει αυτή η συζήτηση θα πρέπει να ληφθεί μέριμνα για δύο πράγματα: Α) Να παραμεριστούν οι παρανοήσεις και οι προκαταλήψεις που στέκονται εμπόδιο στην ορθή κατανόηση του τεχνοεπιστημονικού εγχειρήματος της ΤΝ. Β) Να τεθούν τα τεχνοκοινωνικά ζητήματα που αφορούν την ΤΝ σε όλη την ευρύτητά τους και με όσο το δυνατόν πιο συμπεριληπτικό τρόπο. Σε όσα ακολουθούν, θα επιχειρήσω απλώς να θέσω κάποια σημεία αυτής της συζήτησης, ελπίζοντας ότι συμβάλω στη διασφάλιση αυτών των δύο προϋποθέσεων.

Continue reading

Υπέρ αλγορίθμων

ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ σημείωμα εξέφρασα τη συμπάθειά μου στους αλγόριθμους και ισχυρίστηκα ότι το πρόβλημα με την αλγοριθμοποίηση της κοινωνικής ζωής δεν βρίσκεται στους αλγόριθμους καθαυτούς, αλλά στην ατομική ιδιοκτησία των αλγορίθμων. Εξού και το σύνθημα «Να απελευθερώσουμε τους αλγόριθμους!». Τι σημαίνει, όμως, στ’ αλήθεια αυτό το σύνθημα; Από τι να τους απελευθερώσουμε; Και τι θα κάνουν οι αλγόριθμοι όταν αποκτήσουν την ελευθερία τους; Ομολογώ ότι δεν έχω τις απαντήσεις. Μου φαίνεται όμως λογικό να ισχυριστώ κάτι τέτοιο, για πολλούς λόγους.

Κατ’ αρχάς, δεν θα ήταν λογικό να θέλουμε να ξεφορτωθούμε τους αλγόριθμους που μας έχουν συντροφέψει στο μεγαλύτερο μέρος της Ιστορίας μας. Όχι για συναισθηματικούς, αλλά για πρακτικούς λόγους. Η οργάνωση των κοινωνιών έχει στηριχτεί σε τεράστιο βαθμό στη διάχυση της γνώσης μέσω των αλγορίθμων. Η έξωση των αλγορίθμων από την κοινωνική ζωή είναι απλώς αδιανόητη. Θα μπορούσαμε, βέβαια, να ισχυριστούμε ότι υπάρχουν καλοί και κακοί αλγόριθμοι. Αλγόριθμοι, οι οποίοι μας βοηθούν, πράγματι, να διεκπεραιώνουμε τις εργασίες της καθημερινής ζωής και τα καθήκοντα της διακυβέρνησης και αλγόριθμοι που συνεργάζονται με συστήματα επιτήρησης, υποκλοπής δεδομένων και συμπεριφορικού ελέγχου. Εμείς θα πρέπει να περιορίσουμε τη δράση των δεύτερων. Ωστόσο, πέρα από το επιστημολογικά ανούσιο δίλημμα «καλό μαχαίρι-κακό μαχαίρι» που αναπαράγει αυτή η αντιδιαστολή, δεν φαίνεται να υποδεικνύει έναν ασφαλή τρόπο διάκρισης μεταξύ των δυο κατηγοριών.

Ποιοι είναι οι «κακοί» αλγόριθμοι; Είναι οι αλγόριθμοι που έχουν ψηφιακό «σώμα» και, άρα, ανήκουν στην κατηγορία των μηχανών χειραγώγησης; Όμως, όλοι οι συμβατικοί αλγόριθμοι έχουν αποκτήσει πλέον ψηφιακό «σώμα» ­– μπορούν, δηλαδή,­ να γραφούν υπό μορφή κώδικα και να ενσωματωθούν σε υπολογιστικά συστήματα που εκτελούν λειτουργίες επιτήρησης και συμπεριφορικού ελέγχου. Ένας απλός αλγόριθμος κατάταξης αποτελεί συχνά την καρδιά τέτοιων συστημάτων. Θα πρέπει, γι’ αυτό τον λόγο, να εξαιρέσουμε τους αλγορίθμους κατάταξης από την κοινωνική ζωή ή να τους στερήσουμε τη δυνατότητα να αποκτούν ψηφιακή υπόσταση;

Το πιο σοβαρό πρόβλημα με τους ψηφιακούς αλγόριθμους, όμως, έγκειται στο ότι είναι δύσκολο να τους ορίσουμε ως τεχνουργήματα, ως αντικείμενα προορισμένα να εκτελούν μια συγκεκριμένη λειτουργία. Αυτό οφείλεται στο γεγονός ότι, προκειμένου να λειτουργήσουν σε ψηφιακά περιβάλλοντα, οι αλγόριθμοι πρέπει να κοινωνικοποιηθούν. Αφενός, πρέπει να επικοινωνήσουν μεταξύ τους και να κατανοήσουν ο ένας τον άλλο, ώστε να μπορέσουν να συνεργαστούν και να συγχρονίσουν τις ενέργειές τους. Αφετέρου, πρέπει να επικοινωνήσουν με τους χρήστες και να κατανοήσουν τις ανάγκες και τις επιθυμίες τους, ώστε να προσαρμόσουν τις λειτουργίες τους στις απαιτήσεις τής μεταξύ τους αλληλεπίδρασης. Αυτό σημαίνει ότι πρέπει να σταματήσουμε πλέον να αντιμετωπίζουμε τους ψηφιακούς αλγόριθμους ως πειθήνια εργαλεία στα χέρια των «κακών» και να αρχίσουμε να τους βλέπουμε ως (ανοίκειες, έστω) μορφές νόησης, η λειτουργία των οποίων εισάγει το στοιχείο της κοινωνικής επιτελεστικότητας στον κόσμο των μηχανών.

Αναφορές
Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20(1), 1-13.
Bucher, T. (2017). The algorithmic imaginary: exploring the ordinary affects of Facebook algorithms. Information, Communication & Society, 20(1), 30-44.
Kitchin, R. (2017). Thinking critically about and researching algorithms. Information, Communication & Society, 20(1), 14-29.
Neyland, D. & Möllers, N. (2017). Algorithmic IF  … THEN rules and the conditions and consequences of power. Information, Communication & Society, 20(1), 45-62.
Parisi, L. (2015). Instrumental Reason, Algorithmic Capitalism, and the Incomputable. Στο M. Pasquinelli (ed.), Alleys of Your Mind: Augmented Intelligence and Its Traumas (125-37). Lüneburg: meson press.
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms that Control Money and Information. Κέιμπριτζ, ΜΑ: Harvard University Press.

Δημοσιεύτηκε στο Πρίσμα αρ. 127, στις 19 Φεβρουαρίου 2022.

IMAGE CREDIT: Theo van Doesburg, Mouvement héroïque, 1916.