« Peut faire des erreurs » : l’avertissement de l’IA et l’immunité du pouvoir étatique

Traduction du grec assistée par IA. Original grec

I. La phrase

Sous chaque réponse d’un modèle d’intelligence artificielle figure une petite phrase. Elle varie légèrement d’une entreprise à l’autre, mais dit toujours la même chose : peut faire des erreurs ; vérifiez les informations importantes. Nous l’avons vue si souvent que nous ne la lisons plus. Et c’est précisément la première chose à remarquer — non pas ce qu’elle dit, mais le fait qu’elle est déjà devenue invisible.

Les raisons de sa présence sont connues et ne sont pas fausses. La phrase règle les attentes : elle vous indique à quel genre de chose vous avez affaire, pour que vous ne lui fassiez pas davantage confiance qu’elle ne peut le supporter. Et elle déplace la responsabilité : si vous recevez une réponse erronée et agissez en conséquence, vous avez été prévenu. Explicabilité et immunité juridique en quinze mots. Ceux qui ont étudié ces phrases concluent généralement qu’elles échouent sur les deux plans : elles sont vagues, ne disent pas où être attentif, ne correspondent pas à ce que le système fait réellement. Remarque juste, mais qui s’en tient à la phrase comme objet. Elle ne demande pas quelle temporalité est la sienne.

Car la phrase a une temporalité. Elle est écrite comme la propriété d’un produit qui se décline en versions, et tout ce qui est décrit comme propriété d’une version est décrit comme provisoire. « Peut faire des erreurs » ne se dit pas comme on le dirait de l’être humain, comme une condition permanente de l’espèce. Cela se dit comme d’une machine qui s’améliore : elle le peut encore. Et chaque « encore » contient silencieusement un « un jour, elle ne le pourra plus ». Aucune entreprise n’a promis que la phrase disparaîtrait ; au contraire, la raison juridique de la conserver est plus forte que toute raison de la supprimer. Mais aucune promesse n’est nécessaire. Sa forme laisse entendre une version où l’erreur ne sera plus mentionnée.

Une première lecture y voit l’aveu d’une faiblesse. Une seconde, que je crois juste, y voit la préservation d’une place. Tant que « peut faire des erreurs » est écrit sous la réponse, quelqu’un a le droit de dire : ici, tu t’es trompé. La phrase ne concerne pas seulement le système ; elle concerne le lecteur, auquel elle rend le jugement. L’erreur reste nommable. Il existe un lieu d’où la dire et quelqu’un qui peut la dire. C’est peu, mais ce n’est pas rien. C’est la forme minimale de l’obligation de rendre des comptes : non pas punir l’erreur, mais pouvoir l’appeler erreur.

La suppression de cette phrase, quand elle aura lieu, ne signifiera pas que les erreurs ont cessé. Elle signifiera que la place d’où les dire a cessé d’exister. Aucun système qui produit du langage ne cesse de se tromper ; il peut se tromper moins, plus rarement, sur des points plus difficiles, au point que l’erreur ne soit plus visible que pour celui qui en sait déjà davantage que lui. Mais une erreur visible seulement par celui qui en sait davantage est une erreur que l’utilisateur ordinaire ne peut plus voir. L’avertissement, tant qu’il existe, lui rappelle qu’il peut y avoir quelque chose qu’il ne voit pas. Son absence lui dira qu’il n’y a rien.

La différence est ici subtile et décisive. Je ne parle pas de dissimulation : personne ne supprimera l’avertissement pour cacher les erreurs. Il sera supprimé comme une assurance, comme la déclaration que le système a atteint un point où l’avertissement n’a plus de sens. Et c’est précisément l’assurance qui est dangereuse, non la dissimulation. Dissimuler suppose que quelqu’un sait qu’il y a une erreur et la cache ; la place de l’erreur demeure donc, même en secret. L’assurance abolit cette place. Après elle, ce qui sort du système n’est ni juste ni faux : c’est simplement ce qui en est sorti.

II. Le politique et l’État

Il existe un type de locuteur qui n’a jamais porté un tel avertissement, et c’est celui dont les erreurs coûtent davantage que celles de n’importe quel modèle : le responsable politique. Aucun discours, aucune décision, aucun projet de loi ne se termine par « je peux faire des erreurs, vérifiez les informations importantes ». La plaisanterie est facile, mais sous la plaisanterie se trouve une correspondance qui mérite d’être formulée avec précision.

Le responsable politique n’a pas d’étiquette d’erreur parce qu’il a autre chose à sa place : le mandat électoral. Et le mandat électoral ne déclare pas « je ne fais pas d’erreurs ». Il déclare quelque chose de différent et de plus lourd : que son erreur n’a pas de prix pour lui-même. Le mot mérite d’être entendu tel qu’il se dit : mandat, autrement dit je te confie tout, sans que tu aies à répondre de ton erreur autrement que par une éventuelle non-réélection, un mandat entier plus tard, devant un électorat qui, entre-temps, a oublié. La seule reddition de comptes est l’urne, et l’urne ne juge pas la décision ; elle juge la personne, et elle la juge lorsque la décision est déjà devenue une réalité irrévocable.

Cela signifie que l’étiquette de l’erreur n’est pas absente de la politique. Elle est écrite du mauvais côté. Elle n’est pas inscrite sur le politique sous la forme « je peux faire des erreurs ». Elle est inscrite sur le citoyen, au scrutin suivant, sous la forme « tu t’es peut-être trompé ». Le seul avertissement concernant l’erreur s’adresse à celui qui l’a subie, non à celui qui l’a commise. Le poids du jugement passe de celui qui parle à celui qui reçoit — et ce dernier est appelé à le porter comme sa propre responsabilité, puisque « le peuple a décidé ».

Et sur ce vide, là où l’avertissement devrait se trouver, se tient son contraire : je sais. Le politique n’a pas besoin de le dire lui-même ; beaucoup hésitent, certains le savent mieux que quiconque. Le mandat électoral le dit à sa place. C’est une structure qui énonce « je sais » pour le compte de celui qui la détient, indépendamment de ce qu’il pense de lui-même. « Je sais » n’est pas simplement l’absence de « je peux faire des erreurs ». C’est sa négation. Le modèle porte « je peux me tromper », le mandat électoral porte « je sais », et tous deux produisent des décisions qui s’installent irrévocablement dans le monde.

Lorsqu’on les place côte à côte, on voit ce qui reste invisible quand on les regarde séparément : le politique est le modèle après la suppression de l’avertissement. Le mouvement est le même dans les deux cas. Une source de décisions est légitimée — le modèle par ses performances, le politique par le vote — et la légitimation de la source se transforme en immunité de la décision. Puisque la source est valide, ce qui en sort ne saurait être une erreur ; ce ne peut être qu’un « choix », une « orientation », une « politique ». L’erreur ne disparaît pas. Elle change de nom, et sous son nouveau nom on ne peut plus lui demander de comptes.

Le politique a pourtant encore un visage. On peut le désigner. L’État, comme mécanisme, a franchi un pas supplémentaire, et c’est ce pas qui le rapproche davantage du modèle. La décision étatique arrive sans décideur. « C’est ce que prévoit la loi », « c’est le système qui l’a produit », « le service ne peut pas faire autrement » : des phrases où la réponse existe, mais pas celui qui répond. Quiconque s’est trouvé devant un refus sans signature sait ce que signifie recevoir une réponse de quelque chose qu’on ne peut interroger. La bureaucratie est la première forme de réponse sans personne que l’humanité ait connue, et elle a déjà habitué des sociétés entières à accepter qu’une décision soit valide sans que personne en réponde. Le modèle n’introduit pas cette structure. Il la reçoit, perfectionnée, et lui donne de la vitesse.

Le pouvoir étatique a donc depuis longtemps achevé la transition que le modèle commence à peine, et c’est en cela qu’il est utile : il montre où mène le chemin. Il montre que la suppression de l’avertissement ne se fait jamais comme une dissimulation, puisque personne n’a besoin de cacher quoi que ce soit ; elle se fait comme une évidence. Personne n’a décidé que les décisions de l’État ne porteraient pas d’avertissement d’erreur. L’idée paraît simplement ridicule, et le fait qu’elle paraisse ridicule prouve que la transition a eu lieu. Le jour où il paraîtra ridicule d’écrire « peut faire des erreurs » sous une réponse de machine, nous saurons que la même chose s’est produite.

III. Trente secondes en direct

Le matin du 7 septembre 2026, le schéma que je décris s’est joué tout entier, dans l’ordre, devant les caméras. Adonis Georgiadis, ministre grec de la Santé et l’une des figures les plus en vue de Nouvelle Démocratie, le parti au pouvoir, participait à une émission matinale d’une chaîne privée pour défendre les mesures économiques que le Premier ministre venait d’annoncer. Les présentateurs insistaient sur la baisse du chiffre d’affaires des restaurants, signe que les citoyens ne supportaient plus la vie chère. Le ministre le niait catégoriquement. Pour mettre fin au désaccord, il a sorti son téléphone : « Je vais demander à ChatGPT. » Et il a ajouté : « J’ai même Plus » — la version payante. L’écran a indiqué une baisse de 1,9 %. « Malheureusement, c’est moins 1,9 % », a-t-il dit en riant. « Le chat ne se trompe pas. » Puis, aussitôt : le pourcentage concerne le chiffre d’affaires nominal, il ne prend pas en compte l’inflation. L’extrait est disponible sur le compte de la chaîne : https://www.youtube.com/watch?v=BduMfcuSzqU. Il l’avait déjà accepté comme autorité, et cette autorité le liait désormais. Il y a aussi une ironie que personne dans le studio n’a remarquée : moins 1,9 % est bien un chiffre d’ELSTAT, mais il concerne le premier trimestre 2026 comparé au même trimestre de 2025 — non l’ensemble de 2025, qui était l’objet de la question du ministre. La machine a donné un chiffre juste en réponse à la mauvaise question. « Le chat ne se trompe pas » a été prononcé à l’instant même où le chat commettait précisément l’erreur contre laquelle son avertissement met en garde.

La scène a circulé comme un épisode comique : le ministre « désavoué » par la machine. Mais ce n’est pas un épisode comique. C’est l’exemple le plus complet que j’aie vu de ce que signifie prendre la certitude pour une autorité, et il mérite d’être lu étape par étape.

Première étape : l’invocation. Le ministre n’a pas demandé pour apprendre ; il savait déjà ce qu’il voulait prouver. Il a demandé pour introduire dans la discussion une source que son interlocuteur ne pourrait contester. La certitude était dans sa poche avant que le téléphone n’en sorte. Et « j’ai même Plus » est la signature du geste : la validité de la source est présentée comme la propriété de celui qui l’invoque. Il ne dit pas « voyons ce que disent les données » ; il dit « j’ai accès à la meilleure version de la vérité ».

Deuxième étape : la réponse. La source n’est pas d’accord. Et c’est là que se produit le plus révélateur : le ministre dit « le chat ne se trompe pas ». Un élu, en direct, retire lui-même l’avertissement d’un système qui le porte sous chaque réponse — et le retire précisément au moment où le système le contredit. Il le fait parce qu’il ne peut faire autrement : si le chat peut se tromper, pourquoi l’avoir invoqué ? La certitude qu’il voulait emprunter ne se retire pas lorsqu’elle se retourne contre lui. Il l’avait déjà prise pour autorité, et cette autorité le lie désormais.

Troisième étape : le déplacement. Chiffre d’affaires nominal, inflation. L’erreur — non celle de la machine, la sienne — change de nom et devient « interprétation ». La source avait raison, le chiffre était juste ; il ne signifiait simplement pas ce qu’il semblait signifier. C’est, mot pour mot, le mouvement par lequel l’erreur devient « choix » et le mandat électoral devient immunité. Personne n’a eu besoin de mentir. Il a suffi d’une source sans avertissement et d’un homme ayant intérêt à transférer sa certitude à sa propre position.

Et il y a une quatrième étape, accomplie non par le ministre mais par tous les autres : le rire. Le plateau a ri parce que la machine l’avait abandonné. Personne n’a ri du fait qu’un ministre, dans une discussion publique sur l’économie d’un pays, prenne pour arbitre un système qui déclare lui-même pouvoir se tromper. Cela a paru normal. Et le fait que cela ait paru normal est la preuve évoquée plus haut : le passage à l’évidence a déjà eu lieu, non dans les entreprises, non dans les laboratoires, mais sur un plateau de télévision, en trente secondes, au milieu du rire général.

Le schéma est ancien, et sa forme la plus nette est l’oracle. Le dieu de Delphes ne se trompe pas : tel est l’axiome. Mais le dieu ne parle pas ; la Pythie parle, les prêtres interprètent, et le roi venu consulter décide. Quand l’expédition échoue, l’erreur n’appartient à personne : le dieu avait raison, l’oracle était ambigu, le roi l’a compris comme il le devait. Crésus détruit « un grand empire », le sien, et Apollon demeure infaillible. Crésus et le ministre avec son abonnement, c’est la même scène à deux mille cinq cents ans de distance : la certitude de la source devient l’immunité de tous ceux qui parlent en son nom, et « chiffre d’affaires nominal » est le « l’oracle était ambigu » de notre époque.

Ce qui est nouveau aujourd’hui n’est pas le schéma, mais son universalité et sa vitesse. Une source qui répond à tous, immédiatement, sur tout, qui tient dans une poche et passe en direct à la télévision — et dont l’avertissement est la seule chose qui rappelle à celui qui l’invoque qu’il reste responsable de ce qu’il fera de la réponse. L’avertissement ne protège pas du système. Il protège de celui qui l’invoquera. Le ministre l’a supprimé d’une phrase, et personne ne l’a remarqué.

IV. Ce que l’avertissement ne dit pas

Il y a aussi quelque chose que la phrase ne touche pas, et que je veux noter parce que c’est le plus profond. La phrase concerne le contenu de la réponse : il peut être faux. Elle ne concerne pas le fait même de la réponse.

Chaque fois que vous posez une question et qu’on vous répond, quelque chose s’est produit qui ne peut être annulé. Vous avez reçu une réponse. Même si elle était entièrement fausse, même si vous l’effacez, le fait qu’on vous ait répondu s’est installé dans le monde et n’en sort plus. Une réponse fausse se corrige ; le fait qu’elle ait été donnée, non. Nous l’avons vu dans le studio : « moins 1,9 % » ne pouvait plus ne pas avoir été dit, quelles que soient les précisions apportées ensuite. Et lorsque cela se produit des millions de fois par jour, le monde où l’on vit n’est pas le même monde avec davantage d’informations. C’est un monde d’une autre composition, rempli d’événements que personne n’a accomplis — car la réponse d’un tel système n’a ni visage, ni intention, ni lieu d’où elle parle.

L’avertissement couvre donc le moindre. Il prévient de l’erreur du contenu et se tait sur l’irrévocable de son arrivée. Ce n’est pas une accusation contre lui ; c’est le signe que l’essentiel ne tient pas en quinze mots sous une zone de texte. L’essentiel est que nous avons commencé à vivre parmi des réponses sans personne qui réponde — l’État nous l’avait montré, la machine le généralise — et que le seul rappel que quelqu’un doit répondre de la réponse est cette humble phrase. Que nous ne lisons déjà plus.

V. La question qui demeure

Je ne propose ni de maintenir l’avertissement par la loi, ni de l’ajouter aux politiques par satire. Je propose de le lire correctement tant qu’il existe, et de préserver ce qu’il garde lorsqu’il n’existera plus.

Ce qu’il garde est une place : que l’erreur ait un nom et que quelqu’un puisse le prononcer. Cette place ne dépend pas de la phrase ; la phrase n’en est que la forme visible. Elle peut tenir sans elle — mais seulement si quiconque invoque une source, machine, mandat électoral, loi ou peuple, accepte de répondre lui-même de la décision qu’il a prise en son nom, au moment où il l’a prise. Si cela paraît impossible, c’est parce que nous sommes déjà habitués au contraire. Et l’habitude est la seule chose que l’avertissement, tant qu’il existe, dérange encore.

S’il disparaît un jour, qu’il laisse à sa place une question : non pas « avons-nous cessé de faire des erreurs ? », mais « qui s’est emparé de la certitude, et qu’en a-t-il fait ? ». La première question a déjà une réponse, et c’est non. La seconde est la seule qui comptera encore.