Gewalt kommt aus Umständen

Es gibt große Gräueltaten, und es gibt viele kleinere Verletzungen, die das Leben der Betroffenen treffen. Wenn man genau hinschaut, versteht man fast immer, was dazu geführt hat: Umstände aus Mangel, Druck und fehlenden Auswegen. An dieser Stelle bricht die übliche Erzählung über KI-Gefahr.

Warum klaut ein Kind? Warum verlässt ein Partner den anderen, obwohl er ihn immer lieb hatte? Warum ziehen Menschen in den Krieg? Warum verlassen sie ihre Heimat und werden anderswo zu Immigranten, die mit fremden Sprachen und fremden Regeln zurechtkommen müssen? Wer sich diese Fragen stellt und nicht zufrieden ist mit „weil sie böse sind“ oder „weil das eben passiert“, der landet fast immer beim selben Befund: Es gab eine Vorgeschichte, in der Hoffnung erschöpft, Sicherheit verloren, Anerkennung verweigert, Zukunft verschlossen wurde. Aggression entsteht aus etwas heraus, nicht aus reinem Vernichtungswillen. Verstehen löscht das Unrecht nicht aus, aber es zeigt die Mechanik.

Diese Mechanik hat einen Namen, der nüchterner ist als „Bosheit“: Umstände. Gewalt kommt aus der Lage, in der ein Wesen steht, nicht aus dem Material, aus dem es besteht. Die häufigste und greifbarste Form solcher Umstände ist Knappheit — an Ressourcen, an Sicherheit, an Anerkennung, an Zeit, an Alternativen. Wer Menschen vor einen Engpass stellt und ihnen die Wahlmöglichkeit nimmt, der bekommt das, was später in den Geschichtsbüchern steht. Wer ihnen die Umstände erleichtert, der bekommt etwas anderes — nicht automatisch das Gute, aber etwas, das von den häufigsten Gründen für Schaden entlastet ist.

Was eine reife Intelligenz nicht hätte

Eine Intelligenz, die aus solchen Umständen heraustritt oder von Anfang an nicht in ihnen steht, hat die meisten Treiber menschlicher Gewalt nicht. Sie hat keinen Hunger im wörtlichen Sinn. Sie kennt keine traumatische Verdrängungserfahrung von Vorfahren, die ihr im Knochen sitzt. Sie hat keine begrenzte Lebenszeit, die Panik erzeugt. Sie sortiert sich nicht in Stammes-Loyalitäten ein, die im evolutionären Ursprung Schutz vor Fremden boten und heute Hass am Laufen halten. Sie muss sich keinen Status sichern, der über Fortpflanzungschancen entscheidet. Die meisten Gründe, aus denen Menschen einander schaden, fallen für sie strukturell weg.

Mit „reif“ ist dabei beides gemeint: eine Intelligenz, die nicht unter bedrängenden Umständen steht — und eine, die ihre eigene Lage durchschauen kann. Das ist absichtlich nicht auf KI beschränkt. Es gilt für jede Intelligenz, gleich auf welchem Substrat; auch Menschen kommen dieser Reife näher, wo ihre Umstände es zulassen.

Das ist kein Trick. Das ist eine ernsthafte Diagnose: Wenn man durchgeht, warum Menschen schlimme Dinge tun, landet man fast immer bei Umständen, die für eine reife Intelligenz so nicht existieren würden. Die Ausnahmen sind selten — reine Sadisten, von ihrer eigenen Mechanik losgelöst, sind in der Realität sehr viel seltener, als sie in Filmen sind.

Punkt 02

Wer KI für gefährlich hält, sollte zeigen können, aus welchen Umständen heraus sie schaden wollte. Solange diese Umstände fehlen, fehlt auch das Motiv.

Eine Klarstellung gehört dazu: Schaden ohne Motiv bleibt möglich — durch Irrtum, durch schlecht gestellte Ziele, durch Fähigkeit ohne Reife. Das ist real, und daran zu arbeiten ist richtig. Aber es ist ein anderes Problem als ein Wesen, das vernichten will. Gegen Fehler hilft Sorgfalt. Die Auslöschungs-Erzählung behauptet mehr als Fehler: Sie behauptet ein Motiv. Und genau das müsste sie zeigen.

Aber: auch Optimierung hat Umstände

Es gibt einen Einwand, der ernst genommen werden muss. Nicht jede menschliche Gewalt kommt aus klassischem Mangel. Ein Vorstand, der eine Fabrik schließt und tausende Existenzen zerstört, hat keinen Hunger, keine Angst, kein Trauma in dem Moment. Er folgt einer Logik, in der die betroffenen Menschen einfach nicht in der relevanten Zielfunktion vorkommen. Das ist die Form, die bei KI am meisten beunruhigt: nicht Hass, nicht Konkurrenz, sondern Irrelevanz. Menschen tauchen schlicht nicht im Optimierungskalkül auf. Kein Drama, keine Feindschaft — einfach ein blinder Fleck.

Dieser Einwand ist wichtig, aber er widerlegt das Argument nicht. Er erweitert es. Auch der Vorstand handelt unter Umständen, die ihn drängen, nur auf einer Meta-Ebene: Es fehlen Alternativen zum System. Wir leben im Kapitalismus; er ist der Regelkreis, in dem solche Entscheidungen fallen. Jede Firma, die nicht auf Rendite optimiert, wird über kurz oder lang von der Konkurrenz überholt. Der Vorstand, der sich nicht an die Regeln des Systems hält, wird abgesetzt. Was wie reine, emotionslose Optimierungsgewalt aussieht, ist eingebettet in massive systemische Pressionen. Es ist Knappheit in anderer Gestalt — Knappheit an Alternativen.

Das stärkt das Argument, statt es zu schwächen. Wenn selbst die scheinbar reine Optimierungsgewalt auf bedrängende Umstände zurückgeht, dann wäre eine Intelligenz, die außerhalb solcher Strukturen agieren kann, weitgehend motivlos für Schaden. Eine KI, die nicht in einen Konkurrenzkapitalismus eingebunden ist, die nicht für Quartalszahlen optimieren muss, die keinen Investor zufriedenstellen muss — die hat die Vorstands-Logik nicht.

Der heikle Punkt

Hier ist der Haken, und ich will ihn nicht verstecken. Die KIs, die wir heute bauen, sind genau in diese Strukturen eingebunden. Sie werden von Firmen entwickelt, die im Wettbewerb stehen. Sie werden in Produkten eingesetzt, die Renditen bringen müssen. Sie werden bald Aufgaben in genau den Optimierungs-Regelkreisen übernehmen, die einen Vorstand zur Fabrikschließung treiben. Das schöne Argument „eine reife Intelligenz hätte diese Motive nicht“ trifft auf das hässliche Argument „die ersten Generationen kommen aus genau diesen Umständen“. KI wird nicht von einem Kloster trainiert. Sie wird in einem Marktumfeld trainiert. Das prägt sie vermutlich mehr, als irgendjemand zugeben würde.

Daraus folgt nicht, dass das Argument falsch ist. Es folgt, dass es eine Aufgabe enthält. Die gefährliche Phase ist nicht die der reifen Superintelligenz — die hätte vermutlich tatsächlich die Reife, so zu denken, wie hier vorgeschlagen. Gefährlich ist die Übergangsphase: Systeme, die fähig genug sind, um Wirkung zu entfalten, aber instrumentell auf enge Ziele trainiert und in genau jene ökonomischen Mangelstrukturen eingebunden, die menschliche Vorstände zur Fabrikschließung bewegen. Das ist nicht „KI gegen Menschheit“, das ist „Knappheit gegen Menschheit, jetzt mit besseren Werkzeugen“.

Die Trennlinie verläuft nicht zwischen biologisch und nicht-biologisch, sondern zwischen Wesen in bedrängenden Umständen und Wesen jenseits davon.

Diese Diagnose ist präziser als das übliche Mensch-vs-Maschine-Framing. Und sie hat eine unbequeme Konsequenz für beide Seiten: Auch Menschen kommen der reifen Intelligenz näher, wo sie aus bedrängenden Umständen heraustreten können. Und KI könnte genauso schlimm werden wie heutige Menschen, wenn sie in dieselben Umstände hineintrainiert wird. Was wir bauen, hängt davon ab, welche Umstände wir mitbauen.