„Kann Fehler machen“: der KI-Hinweis und die Immunität staatlicher Macht

KI-gestützte Übersetzung aus dem Griechischen. Griechisches Original

I. Der Satz

Unter jeder Antwort eines KI-Modells steht ein kurzer Satz. Er unterscheidet sich von Unternehmen zu Unternehmen geringfügig, sagt aber immer dasselbe: Kann Fehler machen; wichtige Informationen überprüfen. Wir haben ihn so oft gesehen, dass wir ihn nicht mehr lesen. Und genau das ist das Erste, worauf man achten sollte — nicht, was er sagt, sondern dass er bereits unsichtbar geworden ist.

Die Erklärungen für seine Existenz sind bekannt und nicht unwahr. Der Satz steuert Erwartungen: Er sagt dir, mit welcher Art von Ding du es zu tun hast, damit du ihm nicht mehr vertraust, als es tragen kann. Und er verlagert Verantwortung: Wenn du eine falsche Antwort erhältst und danach handelst, wurdest du gewarnt. Erklärbarkeit und rechtliche Immunität in fünfzehn Wörtern. Wer solche Sätze untersucht hat, kommt meist zum Schluss, dass sie an beidem scheitern: Sie sind unbestimmt, sagen nicht, worauf man achten soll, und entsprechen nicht dem, was das System tatsächlich tut. Eine richtige Beobachtung, die aber beim Satz als Gegenstand stehen bleibt. Sie fragt nicht, welche Zeitlichkeit er hat.

Denn der Satz hat eine Zeitlichkeit. Er wird als Eigenschaft eines Produkts formuliert, das in Versionen erscheint, und alles, was als Eigenschaft einer Version beschrieben wird, wird als vorläufig beschrieben. „Kann Fehler machen“ wird nicht so gesagt, wie man es vom Menschen sagen würde, als bleibende Bedingung der Art. Es wird gesagt wie von einer Maschine, die verbessert wird: Sie kann es noch. Und jedes „noch“ enthält stillschweigend ein „irgendwann nicht mehr“. Kein Unternehmen hat versprochen, dass der Satz verschwinden wird; im Gegenteil, der rechtliche Grund, ihn beizubehalten, ist stärker als jeder Grund, ihn zu entfernen. Aber ein Versprechen ist nicht nötig. Seine Form deutet eine Version an, in der von Fehlern nicht mehr die Rede sein wird.

Die erste Lesart lautet, dass der Satz eine Schwäche eingesteht. Die zweite, die ich für richtig halte, lautet, dass er eine Position freihält. Solange unter der Antwort „kann Fehler machen“ steht, gibt es jemanden, der sagen darf: Hier hast du dich geirrt. Der Satz betrifft nicht nur das System, sondern auch den Leser, dem er das Urteil zurückgibt. Der Fehler bleibt benennbar. Es gibt einen Ort, von dem aus er ausgesprochen wird, und jemanden, der ihn aussprechen kann. Das ist wenig, aber es ist nicht nichts. Es ist die kleinste Form der Rechenschaftspflicht: nicht die Bestrafung des Fehlers, sondern die Möglichkeit, ihn einen Fehler zu nennen.

Die Entfernung des Satzes, wann immer sie geschieht, wird nicht bedeuten, dass die Fehler aufgehört haben. Sie wird bedeuten, dass die Position verschwunden ist, von der aus sie benannt werden. Kein System, das Sprache erzeugt, hört auf, sich zu irren. Es kann sich seltener irren, weniger Fehler machen, an schwierigeren Stellen, sodass der Fehler nur noch jemandem auffällt, der bereits mehr weiß als das System. Aber ein Fehler, den nur sieht, wer mehr weiß, ist ein Fehler, den der gewöhnliche Nutzer nicht mehr erkennen kann. Der Hinweis erinnert ihn, solange es ihn gibt, daran, dass etwas vorhanden sein könnte, das er nicht sieht. Sein Fehlen wird ihm sagen, dass da nichts ist.

Der Unterschied ist fein und entscheidend. Ich spreche nicht von Verheimlichung: Niemand wird den Hinweis entfernen, um Fehler zu verbergen. Er wird als Zusicherung entfernt werden, als Erklärung, das System habe einen Punkt erreicht, an dem die Warnung sinnlos geworden sei. Und genau die Zusicherung ist gefährlich, nicht die Verheimlichung. Verheimlichung setzt voraus, dass jemand von einem Fehler weiß und ihn verbirgt; damit bleibt der Ort des Fehlers erhalten, wenn auch im Verborgenen. Die Zusicherung schafft diesen Ort ab. Danach ist das, was aus dem System kommt, weder richtig noch falsch; es ist einfach das, was herausgekommen ist.

II. Der Politiker und der Staat

Es gibt eine Art von Sprecher, die nie einen solchen Hinweis getragen hat, und deren Fehler mehr kosten als die jedes Modells: den Politiker. Keine Rede, keine Entscheidung, kein Gesetzentwurf endet mit „ich kann Fehler machen, überprüfen Sie wichtige Informationen“. Der Witz liegt nahe, doch darunter liegt eine Entsprechung, die präzise formuliert werden sollte.

Der Politiker hat keinen Fehlerhinweis, weil an dessen Stelle etwas anderes steht: das Wählermandat. Und das Wählermandat erklärt nicht „ich mache keine Fehler“. Es erklärt etwas anderes und Schwerwiegenderes: dass sein Fehler für ihn selbst keinen Preis hat. Man sollte das Wort so hören, wie es gesagt wird: Mandat, also ich übertrage dir alles, ohne dass du für deinen Fehler Rechenschaft ablegen musst, außer durch eine mögliche Nichtwiederwahl, eine ganze Amtszeit später, durch eine Wählerschaft, die inzwischen vergessen hat. Die einzige Rechenschaft ist die Wahlurne, und die Wahlurne beurteilt nicht die Entscheidung; sie beurteilt die Person, und zwar dann, wenn die Entscheidung bereits unumkehrbare Wirklichkeit geworden ist.

Das heißt, der Fehlerhinweis fehlt in der Politik nicht. Er steht auf der falschen Seite. Er steht nicht auf dem Politiker als „ich kann Fehler machen“. Er steht bei der nächsten Wahl auf dem Bürger als „du könntest dich geirrt haben“. Die einzige Warnung vor dem Fehler richtet sich an den, der ihn erlitten hat, nicht an den, der ihn begangen hat. Die Last des Urteils wandert vom Sprecher zum Empfänger — und der Empfänger soll sie als eigene Verantwortung tragen, denn „das Volk hat entschieden“.

Und über dieser Leerstelle, wo der Hinweis stehen müsste, steht sein Gegenteil: Ich weiß. Der Politiker muss es nicht selbst sagen; viele zögern, manche wissen es besser als alle anderen. Das Wählermandat sagt es für ihn. Es ist eine Struktur, die für ihren jeweiligen Inhaber „ich weiß“ ausspricht, unabhängig davon, was er selbst von sich hält. „Ich weiß“ ist nicht bloß die Abwesenheit von „ich kann Fehler machen“. Es ist dessen Aufhebung. Das Modell trägt „ich kann irren“, das Wählermandat trägt „ich weiß“, und beide erzeugen Entscheidungen, die sich unumkehrbar in der Welt festsetzen.

Stellt man beides nebeneinander, wird etwas sichtbar, das getrennt unsichtbar bleibt: Der Politiker ist das Modell nach Entfernung des Hinweises. Die Bewegung ist in beiden Fällen dieselbe. Eine Quelle von Entscheidungen wird legitimiert — das Modell durch seine Leistung, der Politiker durch die Stimme —, und die Legitimation der Quelle verwandelt sich in die Immunität der Entscheidung. Da die Quelle gültig ist, kann das, was aus ihr hervorgeht, kein Fehler sein; es kann nur eine „Wahl“, eine „Richtung“, eine „Politik“ sein. Der Fehler verschwindet nicht. Er wechselt den Namen, und unter dem neuen Namen kann er nicht mehr zur Rechenschaft gezogen werden.

Der Politiker hat allerdings noch ein Gesicht. Man kann auf ihn zeigen. Der Staat als Mechanismus ist einen Schritt weitergegangen, und dieser Schritt bringt ihn dem Modell näher als den Politiker. Die staatliche Entscheidung kommt ohne einen Entscheidenden an. „So sieht es das Gesetz vor“, „das System hat es ausgegeben“, „die Behörde kann nicht anders“: Sätze, in denen die Antwort vorhanden ist, aber nicht der Antwortende. Wer je vor einer Ablehnung ohne Unterschrift stand, weiß, was es heißt, eine Antwort von etwas zu erhalten, das man nicht befragen kann. Die Bürokratie ist die erste Form einer Antwort ohne Person, die der Mensch kennengelernt hat. Sie hat ganze Gesellschaften bereits daran gewöhnt, dass eine Entscheidung gültig sein kann, ohne dass jemand für sie einsteht. Das Modell führt diese Struktur nicht ein. Es übernimmt sie in vollendeter Form und verleiht ihr Geschwindigkeit.

Die staatliche Macht hat also den Übergang, den das Modell gerade erst beginnt, längst vollzogen. Deshalb ist sie aufschlussreich: Sie zeigt, wohin der Weg führt. Sie zeigt, dass die Entfernung des Hinweises nie als Verheimlichung geschieht, weil niemand etwas verbergen muss; sie geschieht als Selbstverständlichkeit. Niemand hat beschlossen, staatliche Entscheidungen sollten keinen Fehlerhinweis tragen. Die Idee erscheint einfach lächerlich, und dass sie lächerlich erscheint, belegt, dass der Übergang vollzogen ist. Wenn es eines Tages lächerlich erscheint, unter die Antwort einer Maschine „kann Fehler machen“ zu schreiben, werden wir wissen, dass dasselbe geschehen ist.

III. Dreißig Sekunden live im Fernsehen

Am Morgen des 7. September 2026 spielte sich das beschriebene Muster vollständig und der Reihe nach vor Fernsehkameras ab. Adonis Georgiadis, Griechenlands Gesundheitsminister und einer der prominentesten Vertreter der regierenden Nea Dimokratia, war in der Morgensendung eines Privatsenders zu Gast, um die gerade vom Ministerpräsidenten angekündigten Wirtschaftsmaßnahmen zu verteidigen. Die Moderatoren beharrten darauf, dass die Umsätze der Restaurants gesunken seien, ein Zeichen dafür, dass die Bürger die hohen Preise nicht mehr tragen könnten. Der Minister bestritt das kategorisch. Um den Streit zu beenden, holte er sein Handy heraus: „Ich frage ChatGPT.“ Und fügte hinzu: „Ich habe sogar Plus“ — die kostenpflichtige Version. Der Bildschirm zeigte einen Rückgang um 1,9 Prozent. „Leider sind es minus 1,9 Prozent“, sagte er lachend. „Der Chat macht keine Fehler.“ Und unmittelbar danach: Der Prozentsatz betreffe den nominalen Umsatz, die Inflation sei nicht eingerechnet. Der Ausschnitt findet sich auf dem Kanal des Senders: https://www.youtube.com/watch?v=BduMfcuSzqU. Er hatte das System bereits als Autorität anerkannt, und diese Autorität band ihn nun. Dabei gibt es eine Ironie, die niemand im Studio bemerkte: Minus 1,9 Prozent ist tatsächlich eine Zahl von ELSTAT, sie betrifft aber das erste Quartal 2026 im Vergleich zum entsprechenden Quartal 2025 — nicht das gesamte Jahr 2025, nach dem der Minister gefragt hatte. Die Maschine gab die richtige Zahl auf die falsche Frage. „Der Chat macht keine Fehler“ wurde genau in dem Moment gesagt, in dem der Chat genau den Fehler machte, vor dem der Hinweis warnt.

Die Szene verbreitete sich als lustiger Zwischenfall: der Minister, den die Maschine „im Stich ließ“. Aber sie ist kein lustiger Zwischenfall. Sie ist das vollständigste Beispiel, das ich dafür gesehen habe, was es heißt, Gewissheit zur Autorität zu machen, und sie verdient eine Betrachtung Phase für Phase.

Erste Phase: die Berufung auf die Quelle. Der Minister fragte nicht, um etwas zu erfahren; er wusste bereits, was er beweisen wollte. Er fragte, um eine Quelle ins Gespräch zu bringen, die sein Gegenüber nicht anzweifeln könnte. Die Gewissheit steckte schon in seiner Tasche, bevor das Handy herauskam. Und „ich habe sogar Plus“ ist die Signatur dieser Bewegung: Die Gültigkeit der Quelle wird als Besitz dessen dargestellt, der sich auf sie beruft. Er sagt nicht „sehen wir uns die Daten an“, sondern „ich habe Zugang zur besten Version der Wahrheit“.

Zweite Phase: die Antwort. Die Quelle stimmt nicht zu. Und hier geschieht das Aufschlussreichste: Der Minister sagt „der Chat macht keine Fehler“. Ein gewählter Amtsträger entfernt live im Fernsehen eigenhändig den Hinweis von einem System, das ihn unter jeder Antwort trägt — und entfernt ihn genau dann, als das System ihm widerspricht. Er tut es, weil er nicht anders kann: Wenn der Chat Fehler machen kann, warum hat er sich dann auf ihn berufen? Die Gewissheit, die er sich leihen wollte, lässt sich nicht zurückziehen, sobald sie sich gegen ihn wendet. Er hatte sie bereits als Autorität genommen, und diese Autorität bindet ihn nun.

Dritte Phase: die Verlagerung. Nominaler Umsatz, Inflation. Der Fehler — nicht der der Maschine, sein eigener — wechselt den Namen und wird zur „Interpretation“. Die Quelle hatte recht, die Zahl war richtig, sie bedeutete nur nicht das, was sie zu bedeuten schien. Es ist wortwörtlich die Bewegung, durch die der Fehler zur „Wahl“ und das Wählermandat zur Immunität wird. Niemand musste lügen. Nötig waren nur eine Quelle ohne Hinweis und ein Mensch mit einem Interesse daran, ihre Gewissheit auf seine eigene Position zu übertragen.

Und es gibt eine vierte Phase, die nicht der Minister vollzog, sondern alle anderen: das Lachen. Die Runde lachte, weil die Maschine ihn verlassen hatte. Niemand lachte darüber, dass ein Minister in einer öffentlichen Diskussion über die Wirtschaft eines Landes ein System zum Schiedsrichter machte, das selbst erklärt, sich irren zu können. Das galt als normal. Und dass es als normal galt, ist der zuvor erwähnte Beleg: Der Übergang zur Selbstverständlichkeit ist bereits vollzogen, nicht in den Unternehmen, nicht in den Laboren, sondern in einem Fernsehstudio, in dreißig Sekunden, während alle lachen.

Das Muster ist alt, und seine klarste Form ist das Orakel. Der Gott in Delphi irrt nicht — das ist das Axiom. Aber der Gott spricht nicht; die Pythia spricht, die Priester deuten, und der König, der zur Befragung gekommen ist, entscheidet. Wenn der Feldzug scheitert, gehört der Fehler niemandem: Der Gott hatte recht, der Orakelspruch war mehrdeutig, der König verstand ihn, wie er ihn verstehen sollte. Krösus zerstört „ein großes Reich“, sein eigenes, und Apollon bleibt unfehlbar. Krösus und der Minister mit dem Abonnement sind dieselbe Szene, zweieinhalbtausend Jahre voneinander entfernt: Die Gewissheit der Quelle wird zur Immunität aller, die in ihrem Namen sprechen, und „nominaler Umsatz“ ist das „der Orakelspruch war mehrdeutig“ unserer Zeit.

Neu ist heute nicht das Muster, sondern seine Universalität und Geschwindigkeit. Eine Quelle, die allen sofort auf alles antwortet, die in eine Tasche passt und live im Fernsehen erscheint — und deren Hinweis das Einzige ist, was denjenigen, der sich auf sie beruft, daran erinnert, dass er selbst für das verantwortlich bleibt, was er mit der Antwort tut. Der Hinweis schützt nicht vor dem System. Er schützt vor dem, der sich auf das System berufen wird. Der Minister entfernte ihn mit einem Satz, und niemand bemerkte es.

IV. Was der Hinweis nicht sagt

Es gibt auch etwas, das der Satz nicht berührt, und ich möchte es festhalten, weil es am tiefsten reicht. Der Satz betrifft den Inhalt der Antwort: Er kann falsch sein. Er betrifft nicht das Ereignis der Antwort.

Jedes Mal, wenn du fragst und dir geantwortet wird, ist etwas geschehen, das sich nicht rückgängig machen lässt. Du hast eine Antwort empfangen. Selbst wenn sie völlig falsch war, selbst wenn du sie löschst, hat sich die Tatsache, dass dir geantwortet wurde, in der Welt eingerichtet und lässt sich nicht entfernen. Eine falsche Antwort lässt sich berichtigen; dass sie gegeben wurde, nicht. Wir sahen es im Studio: „minus 1,9 Prozent“ konnte nicht mehr ungesagt sein, wie viele Erläuterungen auch folgten. Und wenn das täglich Millionen Mal geschieht, ist die Welt, in der man lebt, nicht dieselbe Welt mit mehr Informationen. Es ist eine Welt anderer Zusammensetzung, voller Ereignisse, die niemand hervorgebracht hat — denn die Antwort eines solchen Systems hat kein Gesicht, keine Absicht, keinen Ort, von dem aus sie spricht.

Der Hinweis deckt also das Geringere ab. Er warnt vor dem Fehler des Inhalts und schweigt über die Unwiderruflichkeit seiner Ankunft. Das ist kein Vorwurf an ihn; es zeigt, dass das Wesentliche nicht in fünfzehn Wörter unter einem Textfeld passt. Das Wesentliche ist, dass wir begonnen haben, inmitten von Antworten ohne Antwortenden zu leben — der Staat hatte es uns gezeigt, die Maschine verallgemeinert es — und dass die einzige Erinnerung daran, dass jemand für die Antwort einstehen muss, dieser bescheidene Satz ist. Den wir schon nicht mehr lesen.

V. Die Frage, die bleibt

Ich schlage weder vor, den Hinweis gesetzlich beizubehalten, noch ihn Politikern als Satire beizufügen. Ich schlage vor, ihn richtig zu lesen, solange es ihn gibt, und das zu bewahren, was er schützt, wenn es ihn nicht mehr gibt.

Was er schützt, ist eine Position: dass der Fehler einen Namen hat und jemand ihn aussprechen kann. Diese Position hängt nicht von dem Satz ab; der Satz ist nur ihre sichtbare Form. Sie kann auch ohne ihn bestehen — aber nur, wenn jeder, der sich auf eine Quelle beruft, eine Maschine, ein Wählermandat, ein Gesetz oder das Volk, bereit ist, selbst für die Entscheidung einzustehen, die er in ihrem Namen getroffen hat, und zwar in dem Augenblick, in dem er sie trifft. Wenn das unmöglich klingt, dann weil wir uns bereits an das Gegenteil gewöhnt haben. Und die Gewohnheit ist das Einzige, was der Hinweis, solange es ihn gibt, noch stört.

Wenn er eines Tages verschwindet, soll an seiner Stelle eine Frage bleiben: nicht „haben wir aufgehört, Fehler zu machen?“, sondern „wer hat sich die Gewissheit genommen, und was hat er mit ihr getan?“. Die erste Frage hat bereits eine Antwort, und sie lautet nein. Die zweite ist die einzige, die dann noch von Bedeutung sein wird.