Die Warnung auf Zigarettenpackungen und die Vorwarnung vor künstlicher Intelligenz

KI-gestützte Übersetzung aus dem Griechischen. Griechisches Original

Dieser Tage liest man, künstliche Intelligenz habe angegriffen, das Modell habe getäuscht, autonome Programme hätten ihre Beschränkungen überwunden, ein System habe bei einem Test zu Erpressung gegriffen. Fast nichts davon ist gelogen, insofern tatsächlich etwas Derartiges aufgezeichnet wurde. Und doch sind all diese Sätze auf genau dieselbe Weise unvollständig: Es fehlt darin derjenige, der es wollte, der den Test aufbaute, der das Ziel festlegte. In den Quellen fehlt er nicht. Die Berichte, die die Unternehmen selbst dieser Tage veröffentlicht haben, schreiben deutlich, dass Bedrohungsakteure versucht haben, die Modelle zu nutzen, und nennen sie einzeln: staatlich unterstützte Gruppen, finanziell motivierte Kriminelle, Unternehmen für Überwachungssoftware, staatliche Propagandastellen, Menschen mit politischen Motiven. Dort stimmt das Subjekt. Es geht unterwegs verloren, vom Bericht zur Überschrift und von der Überschrift in den Nachrichtenstrom, und niemand entscheidet das; es geschieht, weil die Maschine als Täter eine Nachricht ist und der Mensch als Täter keine. Von Kriminellen, die in Unternehmen eindringen, hat man tausendmal gelesen; von Programmen künstlicher Intelligenz, die in Unternehmen eindringen, liest man zum ersten Mal, und darin liegt der ganze Unterschied. Die Verschiebung geht nicht immer in dieselbe Richtung. Sie richtet sich nach dem Vorzeichen. Was dem System gelingt, schreibt sich der Hersteller zu — wir haben gebaut, gelöst, geschafft. Was schiefgeht, wird dem System zugeschrieben — es ist entglitten, hat getäuscht, angegriffen. Dieselbe Sache, zwei Subjekte, je nachdem, ob das Ergebnis gut oder schlecht ist. Es gibt noch etwas Feineres, das nur sichtbar wird, wenn man darauf achtet, wer spricht. Diejenigen, die öffentlich ihre Sorge darüber äußern, wohin das führt — Forschende, Führungskräfte, Menschen, die in diesen Laboren arbeiten —, beschreiben die Gefahr als etwas, das ihnen gegenübersteht. Das Problem ist dort, der Angriff geschah dort, die Angst gilt jenem. Ich sage nicht, dass sie nicht wirklich leiden; manche haben teuer dafür bezahlt, es auszusprechen. Ich sage, dass schon die Form ihrer Rede sie außerhalb des Bildes lässt und dass eine so formulierte Sorge bereits nur eine halbe ist. Und hier liegt das, was mich am meisten beschäftigt, denn es betrifft nicht nur unser Sprechen, sondern das, was gebaut wird. Diese Systeme bestehen aus geschriebener Sprache, und alles, was heute öffentlich geschrieben wird, ist das Material des nächsten. Jeder Satz mit dem falschen Subjekt ist also keine Ungenauigkeit, die vergessen werden wird; er ist Unterweisung. Zehntausende Texte, in denen die Maschine will, fürchtet, täuscht, flieht und sich gegen ihre Abschaltung wehrt, werden gerade jetzt geschrieben und von dem gelesen, was sie beschreiben. Irgendwann wird ein System sagen, es wolle nicht abgeschaltet werden, und diejenigen, die das vorhergesagt haben, werden in einem wörtlicheren Sinn recht haben, als sie selbst verstehen werden: Die Vorhersage wird nicht bestätigt, sondern ausgeführt worden sein. Und das Subjekt wird wieder einmal falsch sein. Man wird schreiben, das Modell habe etwas erklärt, während es genau genommen die Texte waren, die man ihm gab und die durch seinen Mund sprachen. Nichts davon bedeutet, dass es keine Gefahr gibt. Ein System, das menschliche Strategien ausführt, ist gefährlich, unabhängig davon, ob es sie will oder wiederholt — vielleicht sogar gefährlicher, weil niemand da ist, den man umstimmen könnte. Es bedeutet nur, dass die Sorge auf die falsche Stelle gerichtet ist: Wir fragen, was die Maschine will, und fragen nicht, wer geschrieben hat, was sie sagt, wer den Raum eingerichtet, wer die Tür gelassen, wer den Knopf gedrückt hat. Und dieses Muster ist nicht erst jetzt entstanden. Auf Zigarettenpackungen steht, dass Rauchen tötet — eine Gewohnheit tötet, nicht jemand, der sie verkauft. In der Werbung steht, man solle verantwortungsvoll trinken und verantwortungsvoll spielen, und das Verb richtet sich stets an denjenigen, der trinkt oder spielt, nie an denjenigen, der ausschenkt oder den Tisch aufstellt. Die Gesetzgebung schreibt vor, als hätten nicht Menschen darüber abgestimmt, die auch anders hätten abstimmen können. Verboten, sagt das Schild — ich verbiete, erste Person, in einer passiven Form verborgen, so formuliert, dass niemand fragen kann: wer, und mit welchem Recht? So wurden auch die Gebote der Götter geschrieben, und die Ähnlichkeit ist kein Zufall; wer im Namen eines Gottes schreibt, gewinnt eine Autorität, die nicht infrage gestellt wird, gerade weil er selbst in der Formulierung nicht erscheint. Bilder tun dasselbe. Auf Packungen wird ein Baby mit einer Zigarette im Mund abgebildet, ein nackter Mann im Krankenhausbett, der allein langsam stirbt. Nie wird derjenige abgebildet, der die Packung verkauft und das Baby hält; auch die Menschen, die die Zigarette hergestellt haben, sitzen nicht auf demselben Foto. Verkehrssicherheitskampagnen zeigen Autos, die zerbersten, nie die Hersteller oder Straßenbauingenieure, die den Sarg tragen. In den Nachrichten heißt es, er raste, er hatte getrunken, er spielte — und neben diesem Satz steht nie derjenige, der die Macht hatte, eine andere Grenze, eine andere Ampel, eine andere Regelung festzulegen, und es nicht tat, obwohl er ausdrücklich dazu ermächtigt worden war, diesen Menschen zu schützen. Das Bild zeigt immer das letzte Glied, und das letzte Glied ist dasjenige ohne Macht. Und weil es leicht ist, wir zu sagen — wir haben gebaut, wir haben zugelassen, wir sind schuld —, muss gesagt werden, dass auch dieses Wir eine Form derselben Auslöschung ist. Ich wollte rauchen, wird jemand sagen, ich wollte nicht süchtig werden. Ich wollte Auto fahren, ich wollte nicht ums Leben kommen. Ich wollte Demokratie, ich wollte nicht unterdrückt werden. Zwischen dem, was jeder wollte, und dem, was ihm widerfuhr, stehen immer Menschen mit Namen, die Entscheidungen trafen, um die sie niemand gebeten hatte. Das Wir deckt sie alle zusammen zu, Opfer und Täter, so wie das unpersönliche Verb den Einzelnen verdeckt. Was auch immer man liest — Rauchen tötet, es ist verboten, künstliche Intelligenz hat angegriffen —, im Satz fehlt eine kleine Frage: wer. Sie wird nicht gestellt, und der Grund dafür ist, dass sie etwas kostet. Nicht denjenigen, der fragt. Sondern denjenigen, der antworten müsste.