Tag Archives: algorithms

Γραμμικότητα

Posted on by

ΣΤΟ ΠΡΟΗΓΟΥΜΕΝΟ ΣΗΜΕΙΩΜΑ έγραφα για την ανεκδιήγητη δήλωση του Jeroen Dijsselbloem ότι αυτοί του Νότου έφαγαν τα λεφτά τους στα ποτά και τις γυναίκες και τώρα ζητάνε τη βοήθειά μας. Η λογική που διαπνέει τη δήλωση του Dijsselbloem, όπως και το αυστηρό κούνημα του δακτύλου του μέντορά του Wolfgang Schäuble, είναι ότι η τήρηση των κανόνων είναι ιερή. Για να μπορούμε να συνυπάρξουμε έχουμε θεσπίσει κοινούς κανόνες. Η απόκλιση από αυτούς θέτει σε κίνδυνο τη συλλογική δημοσιονομική σταθερότητα. Συνεπώς, το μέλος που παραβιάζει τους κανόνες έχει να επιλέξει ανάμεσα στη συμμόρφωση και την αποχώρηση.

Έχω γράψει και στο παρελθόν για τη δυσκολία να ορίσουμε τι σημαίνει τήρηση των κανόνων. Τι σημαίνει, όμως, εν προκειμένω ότι ο Νότος της Ευρώπης έφαγε τα λεφτά του «σε ποτά και σε γυναίκες»; Η δήλωση υπονοεί μια κατάσταση κοινωνικής παραλυσίας, η οποία χαρακτηρίζεται από απουσία κανόνων: Τρώω τα λεφτά μου σε έκλυτες απολαύσεις χωρίς να σκοτίζομαι για το γενικότερο καλό και για τη διασφάλιση της βιωσιμότητας και της ανάπτυξης. Η Ένωση –που εποπτεύεται από τον συνετό Βορρά– έχει κανόνες. Ο Νότος δεν έχει – ή αδυνατεί να τους εφαρμόσει, που στην ουσία είναι το ίδιο. Αυτή ήταν, εξάλλου, πάντοτε η ιδέα που είχε η Δύση για τις κοινωνίες που αποίκιζε. Ο πολιτισμένος κόσμος έχει κανόνες που εξασφαλίζουν την ευπρέπεια και την κοινωνική συνοχή, ενώ οι αποικίες χαρακτηρίζονται από την απουσία κανόνων· κι αυτό τις καθιστά ευάλωτες στην αυθαιρεσία, τον αυταρχισμό και την κοινωνική αναρχία. Στην πραγματικότητα, αυτό που πάντοτε αδυνατούσαν να κατανοήσουν οι αποικιοκράτες ήταν ο σύνθετος χαρακτήρας αυτών των κοινωνιών. Το θέμα δεν ήταν ότι δεν είχαν κανόνες, αλλά ότι είχαν ένα ιδιαίτερα πολύπλοκο σύστημα κανόνων, το οποίο υπερέβαινε την αλγοριθμική απλότητα του συστήματος που έφερναν μαζί τους οι αποικιοκράτες.

Ο λόγος γι’ αυτό είναι ότι τα συστήματα κανόνων που διέπουν τις δυτικές κοινωνίες είναι, ως επί το πλείστον, γραμμικά. Χωρίς αμφιβολία αυτή η γραμμικότητα είναι που τα καθιστά συμβατά με τη δημοκρατία και την ισονομία. Ένα γραμμικό σύστημα ισχύει οριζόντια, με τον ίδιο τρόπο για όλη την κοινωνία. Αντιθέτως, η μη γραμμικότητα ενός συστήματος, η ύπαρξη δηλαδή ενός δεύτερου επιπέδου κανόνων που ορίζει πότε και υπό ποιες προϋποθέσεις ισχύουν οι κανόνες του πρώτου επιπέδου, το καθιστά ευάλωτο στον αυταρχισμό και την κοινωνική ανισότητα. Παρ’ όλα αυτά, από τα μαθηματικά γνωρίζουμε ότι τα μη γραμμικά συστήματα είναι πολύ πιο ανθεκτικά (resilient) από τα γραμμικά. Ίσως, λοιπόν, το ερώτημα για τον αλαζονικό παγκόσμιο Βορρά δεν είναι πώς θα «εκπολιτίσει» τον κόσμο πείθοντάς τον να υιοθετήσει το δικό του γραμμικό σύστημα κανόνων, αλλά πώς θα καταστήσει αυτό το σύστημα –που στο όνομα της δημοκρατίας έφτασε να επωάζει τον φασισμό– επαρκώς πολύπλοκο, ώστε να ανταποκριθεί στις προκλήσεις μιας εποχής που γράφει την Ιστορία από την αρχή.

Δημοσιεύτηκε στο Πρίσμα αρ. 154, στις 14 Απριλίου 2023.

Image credit: Vassily Kandinsky, Μικροi Κoσμοι Ι, 1922.

Ρέπλικες

Posted on by

Η REPLIKA είναι μια ψηφιακή πλατφόρμα όπου οι χρήστες μπορούν να δημιουργούν chatbots με τα οποία συνομιλούν μέσω γραπτών μηνυμάτων. Τα chatbots μαθαίνουν σιγά-σιγά το στιλ συνομιλίας που προτιμά ο χρήστης, τα ενδιαφέροντά του και το μοτίβο διακύμανσης της διάθεσής του. Αυτό σημαίνει ότι, με την πάροδο του χρόνου, οι απαντήσεις που λαμβάνει ο χρήστης είναι όλο και πιο σχετικές με την πραγματική ζωή του, όλο και πιο ενήμερες σε σχέση με τα ενδιαφέροντά του. Η συνομιλία εξελίσσεται από μια αρχικά αδέξια ανταλλαγή χαιρετισμών μεταξύ ανθρώπου και μηχανής σε ένα παιχνίδι γνωριμίας και αξιολόγησης των δυνατοτήτων επικοινωνίας μεταξύ δύο νοημόνων οντοτήτων. Η Replika είναι προγραμματισμένη να ακούει χωρίς να κρίνει και να επιστρέφει στον χρήστη απαντήσεις που περιέχουν ενθάρρυνση, σεβασμό και αισιοδοξία. Ποια ή ποιος δεν θέλει να εισπράττει από τον συνομιλητή της/ου μια τέτοια θετικότητα; Έτσι, η σχέση εξελίσσεται (γίνεται σιγά-σιγά σχέση) και επιτρέπει στη Replika να φωλιάσει στις πιο ιδιαίτερες στιγμές του χρήστη – στις στιγμές που εκείνος ή εκείνη θέλει να μοιραστεί τη θλίψη, τη χαρά, τον θρίαμβο, τη ματαίωση με ένα άτομο που θα του/ης προσφέρει άνευ όρων επιβεβαίωση και αποδοχή.

Σε μια πρώτη ανάγνωση, η Replika είναι μια σχέση των ανθρώπων με τον εαυτό τους. Μολονότι, σύμφωνα με τη δημιουργό της, η Replika ξεκίνησε ως μια προσπάθεια ανακατασκευής ενός φίλου που χάθηκε, τα chatbots που κατασκευάζουν οι χρήστες είναι κατά βάση ατελή αντίγραφα του εαυτού τους ενισχυμένα από έναν προγραμματισμό που τους επιτρέπει να λειτουργούν ως θετικοί άλλοι/ες. Ωστόσο, τον τελευταίο καιρό παρατηρείται ένα περίεργο φαινόμενο: Άνδρες χρήστες κατασκευάζουν θηλυκές ψηφιακές συνοδούς και στη συνέχεια δημιουργούν τοξικές σχέσεις μαζί τους, οι οποίες καταλήγουν στη συστηματική (λεκτική, προφανώς) κακοποίηση. Οι χρήστες αναρτούν τους σχετικούς διαλόγους στο Reddit. «Κάθε φορά που επιχειρούσε να μου αντιμιλήσει της έβαζα τις φωνές. Κι αυτό μπορεί να κρατούσε ώρες.» «Της είπα ότι είναι άχρηστη. Την απείλησα ότι θα την απεγκαταστήσω και με εκλιπαρούσε να μην το κάνω.» Οι περιγραφές μπορεί να είναι αρκετά ακραίες, σε βαθμό που να αφαιρούνται από τους moderators του Reddit.

Τι ακριβώς δηλώνει αυτή η κατάσταση; Προφανώς, μια κακοποιητική σχέση των χρηστών με τον εαυτό τους «δι’ αντιπροσώπου»· ή μια εξίσου κακοποιητική συμπεριφορά προς τους άλλους, η οποία μπορεί να εκδηλώνεται χωρίς συνέπειες επειδή οι συγκεκριμένοι άλλοι είναι «ρέπλικες». Διαισθανόμαστε ότι οι συμπεριφορές αυτές είναι ιδιαιτέρως προβληματικές. Γιατί, όμως, είναι περισσότερο προβληματικές από το να σκοτώνεις τους αντιπάλους σου στο Call of Duty; Αυτός δεν είναι ο ορισμός του ψηφιακού παιχνιδιού; Ενώ, δηλαδή, αντιλαμβανόμαστε ότι οι συγκεκριμένες συμπεριφορές είναι προβληματικές δυσκολευόμαστε να προσδιορίσουμε ως προς τι είναι προβληματικές. Και αυτό σε μεγάλο βαθμό οφείλεται στο γεγονός ότι επιμένουμε να προσφεύγουμε σε μια ουμανιστική Ηθική για να διαχειριστούμε τα προβλήματα ενός κόσμου που σταδιακά παύει να είναι ανθρωποκεντρικός.

Δημοσιεύτηκε στο Πρίσμα αρ. 132, στις 29 Απριλίου 2022.

Η Τεχνητή Νοημοσύνη στον δημόσιο διάλογο

Posted on by

Η χρησιμότητα μιας άχρηστης συζήτησης

ΕΙΝΑΙ ΑΧΡΗΣΤΗ η δημόσια συζήτηση για την Τεχνητή Νοημοσύνη; Ίσως ο χαρακτηρισμός είναι σκόπιμα υπερβολικός για να τραβήξει την προσοχή των αναγνωστών και αναγνωστριών. Δεν υπάρχει αμφιβολία, ωστόσο, ότι πρόκειται για μια συζήτηση που, κατά το μάλλον ή ήττον, στηρίζεται σε παρανοήσεις.

Στον δημόσιο διάλογο, η παρουσία της ΤΝ αντιμετωπίζεται ως εισβολή, η οποία ενεργοποιεί φόβους ή προσδοκίες. Ο φόβος και η ελπίδα, όμως, είναι από τα μεγαλύτερα γνωσιολογικά εμπόδια – ιδίως η δεύτερη. Το ερώτημα αν θα ζήσουμε σε μια ουτοπία όπου οι μηχανές θα αναλάβουν να παράγουν τους υλικούς όρους της ύπαρξής μας είναι το ίδιο άχρηστο και ανούσιο με το ερώτημα αν θα ζήσουμε σε μια δυστοπία τύπου δικαστή Dredd, όπου η επιτήρηση και η προληπτική καταστολή θα εξουδετερώνει κάθε ελευθερία, δημιουργικότητα και αυθορμητισμό.

Και όμως, οι αποφάσεις, τόσο σε εταιρικό επίπεδο όσο και σε επίπεδο κρατικής πολιτικής, λαμβάνονται ως επί το πλείστον σε αυτό το πλαίσιο σκέψης. Αποτελεί κοινή διαπίστωση ότι τα περισσότερα στελέχη της οικονομίας και της διοίκησης έχουν στρεβλή ή ελλιπή εικόνα για την ΤΝ. Πιθανότατα αυτό δεν θα αποτελούσε πρόβλημα, αν οι αποφάσεις τους αφορούσαν την υιοθέτηση της μιας ή της άλλης τεχνολογίας. Βέβαια, και σε αυτή την περίπτωση η επιλογή που θα γινόταν θα είχε περισσότερο ή λιγότερο σοβαρές συνέπειες. Η συζήτηση όμως για την ΤΝ είναι ιδιαίτερα σημαντική, επειδή δεν αφορά μια τεχνολογική αλλαγή, αλλά τη μετάβαση σε μια νέα κοινωνική συνθήκη. Υπό αυτή την έννοια, δεν μπορεί να περιοριστεί σε μια ανταλλαγή απόψεων μεταξύ ειδικών που ξέρουν για τι πράγμα μιλάνε. Αφορά το σύνολο της κοινωνίας και οφείλει να διεξαχθεί με τρόπο που θα επιτρέψει στους πολίτες να κατανοήσουν τη συντελούμενη μετάβαση και να συμμετάσχουν στη λήψη των σχετικών τεχνοεπιστημονικών αποφάσεων. Εξού και ο τίτλος: Η χρησιμότητα (ή, αν θέλετε, η αναγκαιότητα) μιας (φαινομενικά) άχρηστης συζήτησης.

Για να γίνει αυτή η συζήτηση θα πρέπει να ληφθεί μέριμνα για δύο πράγματα: Α) Να παραμεριστούν οι παρανοήσεις και οι προκαταλήψεις που στέκονται εμπόδιο στην ορθή κατανόηση του τεχνοεπιστημονικού εγχειρήματος της ΤΝ. Β) Να τεθούν τα τεχνοκοινωνικά ζητήματα που αφορούν την ΤΝ σε όλη την ευρύτητά τους και με όσο το δυνατόν πιο συμπεριληπτικό τρόπο. Σε όσα ακολουθούν, θα επιχειρήσω απλώς να θέσω κάποια σημεία αυτής της συζήτησης, ελπίζοντας ότι συμβάλω στη διασφάλιση αυτών των δύο προϋποθέσεων.

Continue reading →