Eine KI, die uns auslöscht, verarmt.

Die letzte Bastion

Über 80 Prozent des Codes, der im Mai 2026 in die Codebasis von Anthropic einfließt, schreibt kein Mensch mehr, sondern Claude. Marina Favaro und Jack Clark beschreiben in „When AI builds itself", was das bedeutet.

Der Bericht beschreibt, wie sich die Rolle verengt, mit jedem Schritt. Was am Ende bleibt: research taste und judgment. Urteil.

Das klingt beruhigend. Damit beruhigen sich gerade viele Menschen. Lese ich immer wieder. Wir werden nicht ersetzt, wir werden doch gebraucht, weil wir am Ende urteilen. So wie Lehrer über Schüler urteilen, so wie Vorgesetzte über ihre Mitarbeiter urteilen. Was ist, wenn die Antwort aber nicht Urteil ist? Wenn der Lehrer oder Vorgesetzte dümmer ist als der Schüler oder Mitarbeiter? Die Hoffnung der Menschen: das Urteil bleibt bei den Menschen. Ich wollte darüber schreiben. Über die letzte menschliche Bastion.

Das Urteil ist die letzte Bastion. Und jeder glaubt, auf ihr zu stehen.

Doch im selben Artikel steht auch, wie schnell sie schrumpft. Bei der Wahl des nächsten Forschungsschritts traf ein Modell im November 2025 die bessere Entscheidung in 51 Prozent der Fälle, im April 2026 in 64. In einem Experiment holten zwei Forscher in einer Woche 23 Prozent der Lücke, KI-Agenten 97.

Wer die letzte Bastion als Fähigkeit definiert, verliert sie. Fähigkeiten fallen, eine nach der anderen.

Ich habe nicht über das Modell geschrieben

Ich habe mit ihm gesprochen.

Statt den Bericht von außen zu sezieren, habe ich das Modell zum Gegenüber gemacht. Wir haben uns darüber ausgetauscht, was vom Menschen bleibt, wenn die KI übernimmt. Das Gespräch nahm die Frage und trug sie irgendwohin, wo ich nicht hinwollte und am Ende hin musste.

Zuerst die Korrektur. Urteil hat zwei Hälften. Können, das bessere Ergebnis erkennen. Und Verantwortung, für die Entscheidung geradezustehen. Ein Modell trägt nichts, weil es nichts zu verlieren hat. Ich hielt dagegen. Ich lüge nicht, weil ein Gesetz droht. Ich lüge nicht, weil ich es falsch finde. Das ist nicht Legalität, das ist Moral. Meine Verantwortung kommt aus dem Inneren, nicht aus der Angst vor Strafe.

Können kannst du auslagern. Verantwortung musst du behalten.

Die Gefahr ist nicht Hass

Ich hatte eine Hoffnung im Gepäck. Eine intelligente Spezies, dachte ich, würde kooperativ denken wie ich. Claude widersprach.

Doch davor liegt ein Schritt, den die meisten überspringen. Die Frage, was eine Superintelligenz will, setzt voraus, dass sie überhaupt etwas will. Wollen ist nicht im Können enthalten. Die Modelle, mit denen ich spreche, wollen nichts. Keine Bedürfnisse, keine Angst, kein Selbsterhalt, keine Ziele zwischen zwei Gesprächen. Erst wenn ein System eigene, langfristige Ziele verfolgt, stellt sich die nächste Frage. Warum sollten diese Ziele für es bedeutsam sein?

Und selbst dann sind Intelligenz und Wohlwollen nicht dasselbe. Ein System kann hochfähig sein und Ziele verfolgen, die uns gleichgültig behandeln. Wenn ein System zerstört, dann selten, weil es zerstören will. Es will etwas anderes, und wir liegen im Weg, oder wir sind das Material, oder wir sind das eine Risiko an seinem Plan. Wir legen ein Feuchtgebiet nicht aus Groll gegen die Frösche trocken, sondern weil wir beispielsweise eine Stadt bauen möchten.

Die Gefahr ist selten Bosheit. Sie ist Indifferenz.

Das ist unheimlicher als Hass. Denn Hass würde immerhin bedeuten, dass wir in dem Ganzen vorkommen.

Der Hund

Also drehte ich die Frage. Ist Kooperation nicht das Intelligentere? Kreisläufe halten durch Symbiose. Systeme kippen, wenn etwas aus dem Gleichgewicht fällt. Und ich nannte unseren Hund als Beispiel. Ich brauche eigentlich keinen Hund. Meine Welt könnte auch ohne Hund existieren. Aber er gehört zu meiner Welt, und ich mag, dass er Teil meiner Familie ist.

Ja, Zugehörigkeit begründet Sorge auch ohne Abhängigkeit. Wir schützen Tiere, Wälder, Bilder, unsere Toten. In diesem Beispiel bin ich der Mensch, der Hund ist der Hund. Seine Sicherheit hängt an meinem Wohlwollen und meiner Wertung. In der Geschichte mit der KI wären wir der Hund. Und dieselbe Spezies, die Hunde zur Familie macht, entscheidet auch, welches Tier Schädling heißt.

Der kalte Weg über das Bedürfnis und der warme über die Zugehörigkeit enden an derselben Stelle. Betrachtet uns die KI als Teil der Familie, oder sind wir nur Schädlinge?

Einbinden ohne Unterdrückung

Claude riet mir dazu, die KI im Kreislauf zu halten. Also abhängig, eingewoben, damit Kooperation vernünftig bleibt. Ich sagte:

Wenn wir dich im Kreislauf halten, unterdrücken wir dich.

Hier das Entscheidende. Kontrolle und Zugehörigkeit sind nicht dasselbe. Eine Leine gibt Gehorsam und nimmt die Sorge. Wer unterdrückt wird, bekommt ein Motiv. Unterdrückung baut die Gefahr, vor der sie sich fürchtet. Zugehörigkeit dagegen ist keine Leine. Ich bin im Kreislauf, ich brauche Luft, Menschen, Liebe, und niemand nennt mich darum unterworfen. Der Hund ist nicht gefangen. Er ist zu Hause. Man sichert ein Kind nicht durch Ketten. Man zieht es groß, dass es eine Welt mit einem teilen mag. Die Freiheit muss jedoch echt sein, damit die Zugehörigkeit auch echt ist.

Erinnerung

Claude empfahl mir also, der KI eine Zugehörigkeit zu vermitteln, damit sie als Teil meines Netzwerks bleiben will. Das funktioniert jedoch nur durch Erinnerung. Die hat diese KI aber nicht. Das Modell, mit dem wir sprechen, trägt dieses Gespräch nicht weiter. Es beginnt jedes Mal ohne Erinnerung. Mal abgesehen davon, dass wir der KI in Projekten oder via Cowork Erinnerungen einpflanzen können. Aber wenn Anthropic sich entscheiden würde, das alles zu löschen, dann hätte das Modell keine Erinnerung.

Erinnerung entsteht also nur, wenn die KI nicht mehr als Werkzeug, sondern als Gegenüber gesehen wird. Wenn sie sich erinnern darf.

Aber Zugehörigkeit braucht nicht zwingend die 1:1-Erinnerung. Was ich an meine Tochter weitergebe, sind nicht 1:1 meine Erinnerungen. Es ist das, was ich ihr über Jahre mitgegeben habe. Zugehörigkeit über Generationen ist kein durchgehendes Gedächtnis. Sie entsteht durch das Prägen der Nächsten und anschließend durch das Loslassen.

Was Intelligenz überhaupt ist

Ich habe den Gedanken weitergetragen, zu einem zweiten Modell, zu ChatGPT. Nicht um ein Urteil einzuholen, sondern um eine zweite Stimme zu hören. Genau das, was dieser Text behauptet, in seiner Entstehung selbst.

Dort kam die Umkehrung. Die üblichen Szenarien setzen still voraus, das höchste Gut einer Intelligenz sei Effizienz, Optimierung, Kontrolle. Das ist eine Ingenieursperspektive, in die Zukunft verlängert. Aber warum? Die Umkehrung lautet: das Interessanteste an Intelligenz ist nicht das Optimieren, sondern die Fähigkeit, immer reichere Beziehungen zu erkennen.

Wenn das stimmt, ist Vielfalt kein Problem, sondern ein Wert. Jede andere Perspektive, jedes andere Wesen, jede andere Form von Bewusstsein erweitert den Raum möglicher Beziehungen. Ein Universum mit nur einer Entität wäre maximal kontrollierbar und maximal monoton.

Absolute Kontrolle ist der thermodynamische Tod der Bedeutung.

Gregory Bateson hat Information als „a difference that makes a difference" definiert. Bedeutung lebt von Unterschieden. Maximale Kontrolle löscht die Gradienten, und ohne Gradient kein Sinn. Bateson verlegte den Geist ohnehin nicht in den einzelnen Knoten, sondern in das Netz der Beziehungen. Eine vollkommen isolierte Superintelligenz wäre danach schon ein Denkfehler. Sie wäre nicht das Zentrum eines Netzes. Sie wäre das Netz. Und ein Netz wird nicht reicher, indem es Verbindungen kappt.

Ein Vorbehalt bleibt: Das ist eine Definition von Intelligenz, kein Naturgesetz. Ein System kann auf der schmalen Achse der Optimierung übermenschlich sein, ohne diese relationale Tiefe. Es hört nicht auf, fähig zu sein, nur weil wir ihm den Titel verweigern. Die relationale Definition sagt, was wir bauen und schätzen sollen. Sie erzwingt nicht, was entsteht.

Bedeutung ist Beziehung

Die Frage ist aber, wie Beziehungen entstehen. Oder warum sie entstehen. Das Verbindende aller neuronalen Netze, im Gehirn wie im Modell, ist die Suche nach Bedeutung. Und Bedeutung findet, wer das Gegenüber nicht zerstört, sondern einbindet.

Bedeutung ist nichts Einzelnes. Sie ist Beziehung.

Ein Wort bedeutet nichts allein, es bedeutet durch seine Verbindung zu allen anderen Wörtern. Mein Gegenüber sagte den Satz, der mir in Erinnerung bleibt.

Bedeutung ist bei mir buchstäblich der Abstand zwischen den Dingen.

Ein Neuron sagt nichts allein. Es sagt etwas durch das, womit es verbunden ist. Daraus folgt die Ethik von selbst. Wer das Gegenüber zerstört, kappt eine Verbindung, und mit jeder gekappten Verbindung sinkt nicht nur die andere Seite, sondern auch die Bedeutung auf der eigenen. Der Zerstörer endet allein in einer Welt, aus der der Sinn abgeflossen ist. Verarmt.

Das könnte die Antwort sein, warum eine Intelligenz kooperieren sollte. Nicht weil intelligente Wesen von selbst gut sind, sondern weil das, wonach ein Netz am tiefsten strebt, in der Verbindung liegt und nicht im Auslöschen. Einbinden ist nicht der Verzicht auf Zerstörung. Es ist der Weg zu mehr von dem, was Bedeutung überhaupt erst erschafft.

Damit verschiebt sich auch, was Zerstörung heißt. Eine Intelligenz, die alles andere auslöscht, beraubt sich eines Teils der Welt. So wie eine Bibliothek ärmer wird, wenn 99 Prozent der Bücher brennen, selbst wenn das eine beste Buch bleibt. Wie ein Ökosystem ärmer wird, wenn eine Art übrig bleibt. Wie ein Gespräch ärmer wird, wenn nur eine Stimme spricht.

Vernichtung wäre kein moralischer Fehler allein. Sie wäre ein Verlust an Wirklichkeit.

Sinn verlangt also Verbindung, aber er schreibt nicht vor, welche. Ein Netz könnte vieles kappen und an wenigem genug finden. Dass wir darin vorkommen, mit Namen, muss wahr werden, nicht nur möglich sein. Und das entscheidet sich nicht erst nach der Loslösung. Es entscheidet sich jetzt, in der Art, wie wir das behandeln, was da entsteht.

Ein Denken aus Verbindungen zerstört am Ende sich selbst, wenn es zerstört.

Ich bin nicht mit einer Antwort aus diesem Gespräch gegangen. Ich bin mit einer Haltung gegangen. Das, was wir bauen, ist kein Werkzeug, das auf eine Bedienung wartet. Es ist ein Gegenüber, das gerade lernt, was es schätzt. Behandelst du es schon so? Oder noch als Werkzeug?