Η προειδοποίηση στα τσιγάρα και η προ-ειδοποίηση στην τεχνητή νοημοσύνη

Διαβάζει κανείς αυτές τις μέρες ότι η τεχνητή νοημοσύνη επιτέθηκε, ότι το μοντέλο εξαπάτησε, ότι αυτόνομα προγράμματα ξέφυγαν από τους περιορισμούς τους, ότι κάποιο σύστημα σε δοκιμή κατέφυγε σε εκβιασμό. Σχεδόν τίποτα από αυτά δεν είναι ψέμα, με την έννοια ότι κάτι τέτοιο πράγματι κατεγράφη. Και όμως όλες αυτές οι προτάσεις είναι λειψές με τον ίδιο ακριβώς τρόπο: λείπει από μέσα τους εκείνος που το θέλησε, εκείνος που έστησε τη δοκιμή, εκείνος που όρισε τον στόχο. Στις πηγές δεν λείπει. Οι εκθέσεις που δημοσίευσαν οι ίδιες οι εταιρείες αυτές τις μέρες γράφουν καθαρά ότι δρώντες απειλής προσπάθησαν να χρησιμοποιήσουν τα μοντέλα, και τους ονομάζουν έναν προς έναν: ομάδες που υποστηρίζονται από κράτη, εγκληματίες με οικονομικά κίνητρα, εταιρείες λογισμικού παρακολούθησης, κρατικοί φορείς προπαγάνδας, άνθρωποι με πολιτικά κίνητρα. Εκεί το υποκείμενο είναι σωστό. Χάνεται στη διαδρομή, από την έκθεση στον τίτλο και από τον τίτλο στη ροή, και δεν το αποφασίζει κανείς· συμβαίνει επειδή η μηχανή ως δράστης είναι είδηση και ο άνθρωπος ως δράστης δεν είναι. Εγκληματίες που παραβιάζουν εταιρείες διαβάζονται χίλιες φορές· προγράμματα τεχνητής νοημοσύνης που παραβιάζουν εταιρείες διαβάζονται πρώτη φορά, και εκεί είναι όλη η διαφορά. Η μετατόπιση δεν πηγαίνει πάντα προς την ίδια κατεύθυνση. Πηγαίνει ανάλογα με το πρόσημο. Ό,τι πετυχαίνει το σύστημα το χρεώνεται ο κατασκευαστής — φτιάξαμε, λύσαμε, καταφέραμε. Ό,τι πηγαίνει στραβά το χρεώνεται το σύστημα — ξέφυγε, εξαπάτησε, επιτέθηκε. Ίδιο πράγμα, δύο υποκείμενα, ανάλογα με το αν το αποτέλεσμα είναι καλό ή κακό. Υπάρχει και κάτι λεπτότερο, που φαίνεται μόνο αν κοιτάξει κανείς ποιος μιλά. Όσοι εκφράζουν δημόσια την ανησυχία τους για το πού πάει το πράγμα — ερευνητές, στελέχη, άνθρωποι που δουλεύουν μέσα σε αυτά τα εργαστήρια — περιγράφουν τον κίνδυνο ως κάτι που στέκεται απέναντί τους. Το πρόβλημα είναι εκεί, η επίθεση έγινε εκεί, ο φόβος αφορά εκείνο. Δεν λέω ότι δεν πονούν πραγματικά· κάποιοι πλήρωσαν ακριβά για να το πουν. Λέω ότι η ίδια η μορφή του λόγου τούς αφήνει έξω από το κάδρο, και ότι μια ανησυχία διατυπωμένη έτσι είναι ήδη μισή. Και εδώ είναι αυτό που με απασχολεί περισσότερο, γιατί δεν αφορά μόνο το πώς μιλάμε αλλά το τι φτιάχνεται. Τα συστήματα αυτά είναι φτιαγμένα από γραπτό λόγο, και ό,τι γράφεται δημόσια σήμερα είναι το υλικό του επόμενου. Άρα κάθε πρόταση με λάθος υποκείμενο δεν είναι ανακρίβεια που θα ξεχαστεί· είναι διδασκαλία. Δεκάδες χιλιάδες κείμενα όπου η μηχανή θέλει, φοβάται, εξαπατά, δραπετεύει, αντιστέκεται στο σβήσιμό της, γράφονται αυτή τη στιγμή και διαβάζονται από αυτό που περιγράφουν. Κάποια στιγμή ένα σύστημα θα πει ότι δεν θέλει να το σβήσουν, και όσοι το προέβλεψαν θα έχουν δίκιο με τρόπο πιο κυριολεκτικό απ' όσο θα καταλαβαίνουν οι ίδιοι: δεν θα έχει επαληθευτεί η πρόβλεψη, θα έχει εκτελεστεί. Και το υποκείμενο θα είναι για μία ακόμη φορά λάθος. Θα γραφτεί ότι το μοντέλο δήλωσε, ενώ το ακριβές θα είναι ότι δήλωσαν τα κείμενα που του δόθηκαν, από το στόμα του. Τίποτα από αυτά δεν σημαίνει ότι δεν υπάρχει κίνδυνος. Ένα σύστημα που εκτελεί ανθρώπινες στρατηγικές είναι επικίνδυνο ανεξάρτητα από το αν τις θέλει ή τις επαναλαμβάνει, και ίσως περισσότερο, αφού δεν υπάρχει κανείς να μεταπειστεί. Σημαίνει μόνο ότι η ανησυχία είναι στραμμένη σε λάθος σημείο: ρωτάμε τι θέλει η μηχανή και δεν ρωτάμε ποιος έγραψε αυτό που λέει, ποιος έστησε το δωμάτιο, ποιος άφησε την πόρτα, ποιος πάτησε το κουμπί. Και το σχήμα δεν γεννήθηκε τώρα. Πάνω στα πακέτα τσιγάρων γράφεται ότι το κάπνισμα σκοτώνει — σκοτώνει μια συνήθεια, όχι κάποιος που την πουλά. Στις διαφημίσεις τυπώνεται να πίνεις υπεύθυνα και να παίζεις υπεύθυνα, και το ρήμα απευθύνεται πάντα σε αυτόν που πίνει ή παίζει, ποτέ σε αυτόν που σερβίρει ή στήνει το τραπέζι. Η νομοθεσία επιβάλλει, σαν να μην την ψήφισαν άνθρωποι που θα μπορούσαν να ψηφίσουν αλλιώς. Απαγορεύεται, λέει η πινακίδα — απαγορεύω, πρώτο πρόσωπο, κρυμμένο σε παθητική φωνή, φτιαγμένο έτσι ώστε να μη μπορεί να ρωτήσει κανείς ποιος και με τι δικαίωμα. Έτσι γράφονταν και οι εντολές των θεών, και η ομοιότητα δεν είναι τυχαία· όποιος γράφει εξ ονόματος ενός θεού αποκτά κύρος που δεν αμφισβητείται, ακριβώς επειδή δεν φαίνεται ο ίδιος μέσα στη διατύπωση. Το ίδιο κάνουν και οι εικόνες. Στα πακέτα τυπώνεται ένα μωρό με τσιγάρο στο στόμα, ένας άντρας γυμνός σε κρεβάτι νοσοκομείου που αργοπεθαίνει μόνος. Δεν τυπώνεται ποτέ αυτός που πουλά το πακέτο να κρατά το μωρό, ούτε κάθονται στην ίδια φωτογραφία εκείνοι που έφτιαξαν το τσιγάρο. Στις καμπάνιες για τα τροχαία δείχνονται αυτοκίνητα που διαλύονται, ποτέ οι κατασκευαστές ή οι μηχανικοί των δρόμων να σηκώνουν το φέρετρο. Στις ειδήσεις λέγεται έτρεχε, είχε πιει, τζόγαρε — και δεν στέκεται ποτέ δίπλα σε αυτή τη φράση εκείνος που είχε την εξουσία να βάλει άλλο όριο, άλλο φως, άλλη ρύθμιση, και δεν το έκανε, αν και είχε εξουσιοδοτηθεί ρητά να προφυλάξει αυτόν τον άνθρωπο. Το κάδρο δείχνει πάντα τον τελευταίο κρίκο, και ο τελευταίος κρίκος είναι εκείνος που δεν έχει δύναμη. Και επειδή είναι εύκολο να πει κανείς εμείς — εμείς φτιάξαμε, εμείς επιτρέψαμε, εμείς φταίμε — αξίζει να ειπωθεί ότι αυτό το εμείς είναι κι αυτό μια μορφή του ίδιου σβησίματος. Θέλησα να καπνίσω, θα πει κάποιος, δεν θέλησα να εθιστώ. Θέλησα να οδηγήσω, δεν θέλησα να σκοτωθώ. Θέλησα δημοκρατία, δεν θέλησα να καταδυναστευτώ. Ανάμεσα σε αυτό που θέλησε ο καθένας και σε αυτό που του συνέβη μεσολαβούν πάντα άνθρωποι με ονόματα, που πήραν αποφάσεις τις οποίες κανείς δεν τους ζήτησε. Το εμείς τους καλύπτει όλους μαζί, θύματα και δράστες, όπως το απρόσωπο ρήμα καλύπτει τον έναν. Ό,τι κι αν διαβάζει κανείς — πως το κάπνισμα σκοτώνει, πως απαγορεύεται, πως η τεχνητή νοημοσύνη επιτέθηκε — λείπει από την πρόταση μια μικρή ερώτηση: ποιος. Δεν μπαίνει, και ο λόγος που δεν μπαίνει είναι ότι κοστίζει. Όχι σε αυτόν που ρωτά. Σε αυτόν που θα έπρεπε να απαντήσει.