L’avertissement sur les cigarettes et le pré-avertissement sur l’intelligence artificielle

Traduction du grec assistée par IA. Original grec

On lit ces jours-ci que l’intelligence artificielle a attaqué, que le modèle a trompé, que des programmes autonomes ont échappé à leurs restrictions, qu’un système soumis à un test a recouru au chantage. Presque rien de tout cela n’est faux, au sens où quelque chose de cet ordre a effectivement été consigné. Et pourtant, toutes ces phrases sont incomplètes exactement de la même manière : il y manque celui qui l’a voulu, celui qui a monté le test, celui qui a fixé l’objectif. Dans les sources, il ne manque pas. Les rapports publiés ces jours-ci par les entreprises elles-mêmes écrivent clairement que des acteurs malveillants ont tenté d’utiliser les modèles, et les nomment un à un : groupes soutenus par des États, criminels motivés par l’argent, entreprises de logiciels de surveillance, organismes étatiques de propagande, personnes animées par des motivations politiques. Là, le sujet est le bon. Il se perd en chemin, du rapport au titre et du titre au fil d’actualité, et personne ne le décide ; cela se produit parce que la machine comme auteur de l’acte fait l’actualité, tandis que l’humain comme auteur de l’acte ne la fait pas. Des criminels qui piratent des entreprises, on l’a lu mille fois ; des programmes d’intelligence artificielle qui piratent des entreprises, on le lit pour la première fois, et toute la différence est là. Le déplacement ne va pas toujours dans le même sens. Il suit le signe du résultat. Ce que le système réussit est porté au crédit du fabricant — nous avons construit, résolu, réussi. Ce qui tourne mal est imputé au système — il a échappé au contrôle, trompé, attaqué. La même chose, deux sujets, selon que le résultat est bon ou mauvais. Il y a aussi quelque chose de plus subtil, qui n’apparaît que si l’on regarde qui parle. Ceux qui expriment publiquement leur inquiétude quant à la direction prise — chercheurs, dirigeants, personnes qui travaillent dans ces laboratoires — décrivent le danger comme quelque chose qui leur fait face. Le problème est là-bas, l’attaque a eu lieu là-bas, la peur concerne cette chose-là. Je ne dis pas qu’ils ne souffrent pas réellement ; certains ont payé cher pour le dire. Je dis que la forme même de leur discours les laisse hors du cadre, et qu’une inquiétude formulée ainsi est déjà une demi-inquiétude. Et voilà ce qui me préoccupe le plus, car cela concerne non seulement notre manière de parler, mais ce qui se construit. Ces systèmes sont faits de langage écrit, et tout ce qui s’écrit publiquement aujourd’hui sera le matériau du prochain. Chaque phrase dont le sujet est erroné n’est donc pas une inexactitude qui sera oubliée ; c’est un enseignement. Des dizaines de milliers de textes où la machine veut, craint, trompe, s’évade, résiste à son arrêt sont écrits en ce moment même et lus par ce qu’ils décrivent. Un jour, un système dira qu’il ne veut pas qu’on l’arrête, et ceux qui l’avaient prédit auront raison dans un sens plus littéral qu’ils ne le comprendront eux-mêmes : la prédiction n’aura pas été vérifiée, elle aura été exécutée. Et le sujet sera une fois encore le mauvais. On écrira que le modèle a déclaré quelque chose, alors qu’il serait exact de dire que les textes qu’on lui a donnés l’ont déclaré par sa bouche. Rien de tout cela ne signifie qu’il n’y a pas de danger. Un système qui exécute des stratégies humaines est dangereux, qu’il les veuille ou les répète, et peut-être davantage encore, puisqu’il n’y a personne à convaincre de changer d’avis. Cela signifie seulement que l’inquiétude vise le mauvais endroit : nous demandons ce que veut la machine, sans demander qui a écrit ce qu’elle dit, qui a aménagé la pièce, qui a laissé la porte, qui a appuyé sur le bouton. Et ce schéma n’est pas né aujourd’hui. Sur les paquets de cigarettes, il est écrit que fumer tue — c’est une habitude qui tue, pas quelqu’un qui la vend. Les publicités disent de boire de façon responsable et de jouer de façon responsable, et le verbe s’adresse toujours à celui qui boit ou joue, jamais à celui qui sert ou installe la table. La législation impose, comme si elle n’avait pas été votée par des personnes qui auraient pu voter autrement. Interdit, dit le panneau — j’interdis, première personne, cachée dans une voix passive, formulée de façon que personne ne puisse demander qui, et de quel droit. Les commandements des dieux s’écrivaient aussi de cette manière, et la ressemblance n’est pas fortuite ; celui qui écrit au nom d’un dieu acquiert une autorité incontestée précisément parce qu’il n’apparaît pas lui-même dans la formulation. Les images font la même chose. Sur les paquets, on imprime un bébé avec une cigarette dans la bouche, un homme nu sur un lit d’hôpital qui meurt lentement, seul. On n’y imprime jamais celui qui vend le paquet tenant le bébé, et ceux qui ont fabriqué la cigarette ne figurent pas non plus sur la même photo. Dans les campagnes de sécurité routière, on montre des voitures qui se disloquent, jamais les constructeurs ou les ingénieurs des routes portant le cercueil. Aux informations, on dit il roulait trop vite, il avait bu, il jouait — et à côté de cette phrase ne se tient jamais celui qui avait le pouvoir de fixer une autre limite, un autre feu, une autre règle, et ne l’a pas fait, alors même qu’il avait reçu le mandat explicite de protéger cette personne. Le cadre montre toujours le dernier maillon, et le dernier maillon est celui qui n’a pas de pouvoir. Et puisqu’il est facile de dire nous — nous avons construit, nous avons permis, nous sommes responsables —, il faut dire que ce nous est lui aussi une forme du même effacement. J’ai voulu fumer, dira quelqu’un, je n’ai pas voulu devenir dépendant. J’ai voulu conduire, je n’ai pas voulu mourir. J’ai voulu la démocratie, je n’ai pas voulu être opprimé. Entre ce que chacun a voulu et ce qui lui est arrivé se trouvent toujours des personnes qui ont des noms, qui ont pris des décisions que personne ne leur avait demandées. Le nous les recouvre tous ensemble, victimes et auteurs des actes, comme le verbe impersonnel recouvre l’individu. Quoi qu’on lise — que fumer tue, que c’est interdit, que l’intelligence artificielle a attaqué —, il manque à la phrase une petite question : qui. On ne la pose pas, et si on ne la pose pas, c’est qu’elle coûte. Pas à celui qui demande. À celui qui devrait répondre.