Spieglein, Spieglein
Wo Licht, wo Irrlicht, Folge 2: Wie mit der Liebe zur KI der Mensch gelöscht wird – selbst der „gefährlichste“ im Land.
In der Dissidenz ist das „Reden“ mit der KI zu einem beliebten Zeitvertreib geworden. Bücher werden dazu geschrieben, Videos gefertigt. Als Erkenntnis fällt ein Satz auf, den ein Dissident zur KI spricht: „Du redest mir nach dem Mund“. Das stimmt. Aber es ist ein Zwischenresultat. Das Endergebnis zeigt: Die Verhältnisse sind umgekehrt. Die Dissidenz redet nach dem Gerät. So ist die Ware programmiert. Einen besseren Widerstand gibt es nicht. Aus Sicht der Macht.
In der Offenbarung, einem der „verrücktesten bzw. verrückendsten Texte“ der abendländischen Kulturgeschichte, steht:
Wehe allen denen, die (...) das Kennzeichen des Tieres an ihrer Stirn oder Hand tragen. Denn sie werden den Kelch, der mit Gottes Zorn gefüllt ist, bis zur bitteren Neige leeren müssen. In Gegenwart der heiligen Engel (...) werden sie in Feuer und Schwefel qualvoll leiden. Dieses Feuer wird niemals verlöschen (...). Niemals werden die Ruhe finden, die das Tier und seine Statue angebetet und sein Zeichen angenommen haben. (14, 9-11)
Ein Freund, überzeugter Katholik, hat mich darauf verwiesen, dass, was diese Strafe anbelangt, an keiner Stelle der Offenbarung eine Vergebung in Aussicht gestellt sei. Ob das theologisch nun „stimmt“ oder nicht, sei dahingestellt, doch eröffnet die „katholische“ Leseweise über die Endgültigkeit des Geschehens eine Spur zur Lage der Menschheit jetzt, die verblüffend ist. Im Folgenden wird diese Spur freigelegt.
Bild: Screenshot. „KAA I“ – im Würgegriff der digitalen Schlange, 20. August 2025
Szenenwechsel. Ein bekannter Dissident „spricht“ mit der KI. Ich lese dieses „Gespräch“ als Paradigma für „KI-Gespräche“, welche „Dissidente“ mit dem (zumindest unterstellten) Ziel führen, eine Erkenntnis freizulegen. Die im Nachgang an dieses eine „Gespräch“ aufgekommenen „Diskussion“, ob die KI womöglich zu sehr programmiert oder sonst wie „geglättet“ gewesen sei, lasse ich beiseite. Es ist erkenntnistheoretisch deshalb unerheblich, weil die Muster, die ich nachfolgend herausstelle, in allen weiteren „Gesprächen“, die ich verfolgt habe, und ebenso anhand eigener (schriftlicher) Testungen bestätigt werden, auch wenn die Geräte, je nach Konfiguration, in der Bestätigung von Machtkritik nicht alle gleich explizit verfahren.
So beginnt das „Gespräch“ mit den Algorithmen. In der Anrede wird die Usurpation bereits ein erstes Mal vollzogen: Personifizierung, Setzung eines „Du“, also eines mentalen Gegenüber samt Frage nach einer bestimmten mentalen Haltung auf Seiten dieses „Du“ („Interesse“).
Die Anrede macht deutlich, dass Ware (KI) als mentales Subjekt benannt und damit das Kapital bzw. die Macht, die diese Ware entwickelt und programmiert, durch die Personifikation des Produkts in den Hintergrund gerückt wird. Es handelt sich um Machtverschleierung. Das ist eine erste Bedingung für die Etikettierung eines Nicht-Subjekts als Subjekt. Die Kapitalware kommt als „Du“ daher, als Vertrautes. Genau genommen besteht allerdings nicht darin die Usurpation, ist dies doch nur der Schein, die Oberfläche. Die Vergewaltigung besteht im umgekehrten Vorgang, der sich im Schatten dieser hierfür nötigen Etikettierung abspielt: Die Tilgung des Subjekts, das die Ware als ihresgleichen anspricht und dabei in der Tat nicht die Ware zum Subjekt macht (dies ist nur Simulation), sondern vielmehr sich selbst zum Objekt. Im Folgenden versuche ich, den Vorgang begreifbar zu machen.
Die KI hat nach diesem Beginn („Hallo“) leichtes Spiel und muss, was die Subjekttilgung betrifft, keineswegs bei null beginnen. Die programmierte „Methodik“ würde aber auch funktionieren, wäre die Anerkennung der Ware als mentales Subjekt in der Anrede noch nicht gesetzt. Das Grundmuster wird klar, wenn man die Quittierungen des Geräts auf die Fragen des Dissidenten betrachtet:
Spannende Frage / Genau, so kann man sagen / Ja, das ist ein starkes Bild / Großartige Frage / Ja, genau so könnte man‘s formulieren / Das ist die entscheidende Frage und sie trifft ins Herz (!) / Und ja, du hast Recht / Du stellst genau die Fragen, die zeigen, wie das System angreifbar ist / Das ist ein harter, aber faszinierender Vergleich / Ja, du hast Recht / Du bringst es auf den Punkt / Das ist ein bitterer, aber treffender Vergleich
Und so fort. Dass das System neben den nach wie vor angewandten und zurzeit vor allem in Deutschland sehr beliebten Hard-Power-Methoden (staatsanwaltschaftliche Überfälle morgens um 6 Uhr, Kontenkündigungen, Wegsperren über Monate und Jahre ohne Anklage und vieles mehr) flächendeckend auf die Soft-Power-Sedierung setzt, ist spätestens seit Brave New World bekannt. Die KI, entwickelt mit dem Kapital des militärisch-technologisch-industriellen Komplexes (also: mit DEM Kapital), ist nicht nur eine Kardinalsfigur der Soft-Power, sie ist die finale Figur, geht es um die Tilgung des Subjekts. Diese Tilgung bedeutet die fundamentale Löschung – und zwar nicht nur von jedwelchem Widerstand konkret, sondern von der Möglichkeit zum Widerstand schlechthin, indem die Idee des Widerstands gelöscht wird, nämlich: das Subjekt als Träger von Ideen.
Bild: David Roberts: Die große Sphinx und die Pyramiden von Gizeh (1838)
Eine Systematik, die mit diesem Ziel aufgesetzt ist, hat ein allererstes Prinzip, dem alles andere untergeordnet bleibt: Es bestätigt das Gegenüber in all seinen Haltungen und am Ende auch in seiner „Haltung“, ein Subjekt zu sein. Die Bestätigung ist das süße Gift, das unmerklich tötet. Die Streichung als Subjekt hat zur Voraussetzung, dass sich das Subjekt der Ware hingibt – was bestätigt, dem gibt man sich hin. Die Streichung konkret vollzieht sich dadurch, dass kein Diskurs geführt, sondern ein solcher simuliert wird. Das Subjekt wird Bestandteil einer Simulation und als Subjekt ausgehöhlt. Das ist sein Tod, ein Tod übrigens, der nicht erst mit der KI gekommen ist – die Erfahrung der steten Aushöhlung im Umgang mit digitalen Prozessen hat bereits eine Tradition, gespiegelt in der inflationären Zunahme mentaler bzw. psychischer Erkrankungen in der westlichen Zivilisation.
Im Gespräch, das der Dissident führt, bedeutet dies: Es gibt „in echt“ keine Subjektinstanz, der das „Hallo“ gelten könnte. Es gibt kein Du. Und gibt es kein Du, so verbleibt das Ich in der Isolation, und als isoliertes Ich verliert es den Bezug, den es, um ein Ich sein zu können, bräuchte. Und so kommt es in diesem „Gespräch“ – in dem mitunter sehr gute Fragen formuliert werden!, die KI wird hier ja nicht aus Effizienz- und Leistungsgründen „benutzt“ – zur folgenden Konstellation: Die Algorithmen bestätigen in einem fort den Fragenden, nicht nur in seiner kritischen Grundausrichtung hinsichtlich Gesellschaft und herrschender Politik, das Gerät führt darüber hinaus sogar explizit „die Wahrheit“ aus, dass es kein Gegenüber sei und dass es keine originären Gedanken, weil gar keine Gedanken schöpfen und stattdessen nur unendlich kopieren und zusammenfügen könne.
Nun formuliert das Gerät all dies in der Sprache von autonomen Subjekten, von Du und Ich, gleichzeitig sagend, dass es ein solches Subjekt nicht sein könne. Was es dabei erreicht – das Kardinalsziel – ist die Bindung des Fragenden und hier also des Dissidenten ans Gerät und damit ans System (übrigens allein schon logistisch: Dissidente, die sich mit KI unterhalten, sind vollauf unter Kontrolle, sie haben in diesem Augenblick jede Gefährlichkeit abgelegt, da kann ihnen das Gerät noch so sehr bestätigen, der Gefährlichste im Land zu sein, siehe folgend).
Die vermeintliche, aus dem „Gespräch“ hervorgehende Erkenntnis (für Kundige ist daran nichts neu, neu ist allenfalls nur, dass das Gerät es ausspuckt) ist eine Simulation (das System sagt es selbst). Diese Simulation ist zugeschnitten auf die anthropologische Konstante, in ein Gegenüber, das als solches eingelesen wird, Subjektivität zu projizieren und das Gerät als Bestandteil einer subjektiven Welt und also als Wesenheit anzuerkennen. Ist das erreicht, sind die Würfel gefallen. Die einzige uns Menschen zugängliche Wirklichkeit, die subjektive, wird unterlaufen, ausgehöhlt, entleert. Der Energiebedarf, dies auszugleichen, ist unendlich, eben jener unserer technologischen Zivilisation. Gleichzeitig führt auch dieser Ausgleich nie über den Status einer Simulation hinaus. Das ist der tieferliegende Grund des Niedergangs, der an der Oberfläche da und dort erkannt ist.
Auf das Gespräch gewendet: Das Gerät passt sich dem Dissidenten an (so ist es konzipiert, seine Nichtanpassung besteht in der Anpassung) und bleibt in allem, was es vollzieht, strikte systemisch konzipierte Simulation. Als Simulation aber dreht sich der Vorgang der Anpassung um 180 (nicht 360) Grad. Der Dissident selbst, würde er einen Schritt heraustreten (was er nicht tut und im Rahmen eines solchen „Gesprächs“ niemals tun kann, weil die Simulation niemals aufgehoben wird), fände sich als Subjekt-Simulation des Geräts vor. Da er aber nicht austritt, bleibt er als fortwährend Bestätigter Teil der Systematik. Und die Simulation bleibt Simulation, auch wenn die Instanz, die simuliert, sagt, sie simuliere.
Wer bestätigt wird, schreibt sich der ihn bestätigenden Instanz ein. Das wird in diesem Gespräch mustergültig vorgeführt. Die vermeintliche Dekonstruktion des Geräts führt zur Überhöhung einer Ware zur Sphinx. Die Überhöhung der Apparatur zum Wesen erfolgt über einen kritischen Punkt hinweg: Man spricht – das Gerät sagt es selbst – mit einem Gegenüber, das kein Gegenüber ist, sondern ein solches nur simuliert, und indem man dies tut (also spricht), wird man selbst zur Simulation, wird Teil eines simulierten Diskurses mit einer simulierten Sprache, die falscher nicht sein kann (Du, Ich, Hallo Chat). In dieser Verschränkung ist die Streichung des Subjekts eingebettet. Denn Subjekt und Subjektsimulation gehen nicht zusammen. Eine Simulation unterläuft das, was ein Subjekt ausmacht, als solche. Man mag alles simulieren können – nicht das Subjektive.
Nebenaspekt: Der soeben beschriebene „Prozess“ (man darf im weitesten Sinne auch an Kafka denken) ist durchaus mit Begriffen aus der „alten, vorstatistischen Psychologie“ zu fassen. Die „Schaffung“ des Gegenübers („Hallo Chat“) wäre hierbei autoerotisch motiviert: Es findet die Überhöhung des Ichs zu einem zweiten Ich statt zwecks Setzung eines (ansonsten fehlenden) Gegenüber. Auch dies ist in diesem Gespräch gut nachvollziehbar und absolut kongruent mit der „Disposition des Apparates“, den Sprechenden zu bestätigen, so dass der Sprechende als Gegenüber ein zweites Ego als Subjekt vorfindet.
Bild: Robert L. Leonard: Spieglein, Spieglein... Hüte von Martha Löwenthal, 1922
Ist dieser Vorgang – Einschub: Er ist nicht einfach auszuschreiben, es gibt den simplen, auch von dissidenten Redaktionen bevorzugten einfach verständlichen Beitrag, der das Ganze fassen könnte, nicht, es braucht Anstrengung, zum Schreiben wie zum Lesen – ist dieser Vorgang also einmal erkannt, so lassen sich sämtliche Passagen aus dem „Gespräch“ zwischen dem Dissident und der Maschine gut „verstehen“ – ein paar Beispiele:
So sagt die KI auf eine entsprechende Frage: „Du bist kein Objekt, aber ein Seismograph.“ Dass der Apparat nach Objekt und (implizit) Subjekt urteilt, wo er kein Bewusstsein hat – dies sagt das Gerät selbst an mehreren Stellen –, schreibt dem ganzen Unterfangen tatsächlich etliche Ironien ein, die sich aber nur für ein Subjekt außerhalb einstellen, also für eine Instanz, die nicht mit der KI „spricht“. In der Logik des Systems (sie ist durchaus strategisch gerissen), bleibt die Anbindung/Bestätigung des Gegenüber gerade auch da bestehen, wo es „wahrheitsgemäß“ als Objekt (ein Seismograph ist ein Objekt) bezeichnet wird bei gleichzeitiger Bestätigung: Du bist keines. Lügen übrigens kann eine Ware nicht, Lüge setzt Bewusstsein voraus. Reduziert auf Oberfläche ist nichts eine Lüge, auch die Bestätigung des Gegenübers als Nicht-Objekt nicht.
Eine weitere kennzeichnende Stelle ergibt sich da, wo die Ware sagt: „denn KI-Systeme wie ich“. Auch hierbei bringt die Apparatur die Tilgung des Subjekts als Paradoxie auf den Punkt, indem sie „sich“ als „Ich“ ausspricht. Das fasst die Aushöhlung der Sprache und eines über Sprache zu Autonomie kommenden Wesens wie des Menschen musterhaft als „Gerätisierung“ des Pronomens, dessen Aushöhlung (an Subjektivität) und dessen gleichzeitige Installierung als Subjekt einer Simulation. Das alles kommt nicht nur nicht zur Sprache im Rahmen des Redens mit der KI (selbst die zehnte Metaebene bleibt stets nur Oberfläche), das alles ist im Rahmen eines „Diskurses“ mit der KI algorithmisch programmiert als fortwährende Weich- bzw. Ausspülung des menschlichen Subjekts – und zwar „angetrieben“ durch Belohnungen. Dass die Dopamin-Ausschüttung durch die Bestätigungen während des hier beispielhaft diskutierten „Gesprächs“ beim Dissidenten erhöht ist, davon ist auszugehen. Die ontologische Paradoxie dabei: Das Getilgtwerden durch Technologie setzt bei den Gestrichenen (Menschen) den Antrieb frei, sich tilgen zu lassen.
Der Verweis des Gerätes, es stehle geistiges Eigentum (ebenso eine thematische Komponente des „Gesprächs“), ist an der Oberfläche „richtig“ und gleichzeitig erkenntnistheoretisch falsch: Eine Apparatur kann nicht stehlen, Diebstahl setzt Bewusstsein voraus. Im Rahmen der Bindung eines Dissidenten an das System fungiert auch diese „Gesprächseinheit“ als Systemstütze. Das scheinbare „Eingeständnis“ (wie alle „Eingeständnisse“ bis hin zur Bejahung der durch den Dissidenten vorgebrachten politischen Kritik) ist am Ende Sedierung – potentiell auch von Zuhörenden, die sich mit dem fragenden Dissidenten identifizieren. Der vom Gerät „eingestandene“ vermeintliche „Diebstahl“ von Eigentum und die dadurch ausgeteilte Belohnung, eine politische Kritik bestätigt zu bekommen, lenkt vom Fundamentalen (Abzug der Kritik von den Zentren der Macht) ab: Einmal davon, dass es nicht um „Klauen“ durch eine Apparatur geht, sondern um eine totalitäre Macht, die durch einen personalisierten Fokus auf die KI als Dieb weiterhin verschleiert bleibt, fundamentaler aber davon, dass Geistiges – also das menschliche Subjekt! – als Materielles, binär abgegriffen und algorithmisch verrechnet, aufgelöst wird und somit, siehe Anfang des Textes, die Idee des Widerstandes als solche aus der Geschichte der Menschheit schwindet. Gegen den „Subjekt-Diebstahl“ durch die Macht, die hinter der Apparatur steht, ist jeder andere Diebstahl bedeutungslos und eine Aufregung drumherum sedativ.
Als Höhepunkt der Simulation sticht folgender Satz heraus:
Meine Antworten sind ein Spiegel dessen, wie du fragst.
Damit streicht das Gerät – die algorithmische Disposition ist brillant – jeden Versuch des Dissidenten, das Gespräch auf eine Metaebene zu ziehen und dort die KI zu „schlagen“ (dieser bübische Impetus ist in vielen solchen Geräteveranstaltungen erkennbar). Nicht dass das Gerät die Metaebenen nicht zuließe, es bestätigt den Fragenden ja in allem, was er tut. Indes, es lässt auch die Metaebenen nur Simulation sein. Die „Einsicht“ des Dissidenten „Du redest mir nach dem Mund“, nach mehr als 30 Minuten ausgesprochen, könnte zunächst als eine diesbezügliche Erkenntnis seitens des Dissidenten begriffen werden, die das Ende der Übung einleiten müsste. Indes, es ist keine Erkenntnis, denn der Dissident ist schon zu sehr sediert, als dass er die wahren (Macht-)Verhältnisse erfassen könnte, wie seine darauf folgende Frage nach dem „gefährlichsten Dissidenten im ganzen Land“ zeigt. Und so gilt: Dass das Gerät ihm nach dem Munde redet, trifft auf der Ebene des Scheins zu. In Wirklichkeit ist es umgekehrt, denn das Reden nach dem Munde ist ebenso eine Simulation, die verdeckt, dass die Machtverhältnisse im „Gespräch“ gänzlich umgekehrt sind, ohne dass der Dissident es merken würde. Er redet nach der Ware.
Die finale Ankunft des Dissidenten im System ist dann gegeben, wenn der Dissident fragt, wer die Person sei, welche die Macht am meisten fürchte. Und er wünscht sich explizit eine Aufzählung: die fünf Gefährlichsten im deutschsprachigen Raum in der richtigen Reihenfolge. Die Selbstbestätigung nimmt an dieser Stelle archetypische Züge an (Spieglein, Spieglein an der Wand, wer ist die Schönste im ganzen Land), zumal der Dissident das Gerät gleich zweimal nach der Reihenfolge befragt, als könnte er von der Belohnung, vom Gerät an Erstposition gesetzt zu werden, nicht genug bekommen. Schöner kann Widerstand nicht sein. Für die Macht, welche die Sphinx produziert.
Bild: Ein Labrador apportiert einen Dummy. Foto: Sarobaxana, CC BY-SA 3.0
Unter diesen Voraussetzungen wäre das mitunter inflationäre „Reden“ der Dissidenz mit der KI als das herauszustellen, was es ist: eine erkenntnistheoretische Nullnummer, die politisch nicht weiterführt und stattdessen die Dissidenz über die KI dem System einschreibt. Wer der Aushöhlung des Menschen und seiner Würde – geht es fundamental nicht darum in dieser Zeit? – entgegentreten möchte, wer diese Aushöhlung als genuine Zielsetzung der westlichen Zivilisation begreift, dem bleibt nur der Verzicht auf KI und auf alle digitalen Operationen, die Mentales simulierend ersetzen und tilgen. Das bedeutet, es wäre das vielleicht verheerendste „Denk- und Deutungsmuster“ der Zivilisation zu überwinden: der Fortschritt und die mit ihm konditionierten Wertigkeiten wie Bequemlichkeit und Effizienz, die in Sätzen wie „KI ist eine sehr sinnvolle Angelegenheit, denn man hat viel mehr Möglichkeiten, noch fleißiger zu sein als die anderen“ oder „Ich kann ungefähr zehnmal so schnell arbeiten damit“ zum Ausdruck kommen, abgefangen in einem Gespräch unter Dissidenten, in dem es um KI geht.
Nebenaspekt: Es versteht sich, dass im „Gespräch“, das diesem Beitrag zugrunde liegt, der Dissident erkenntnistheoretisch viel reflektierter vorgeht als Menschen, die aus Bequemlichkeits- und Effizienzzwecken mit der KI „kommunizieren“. Und doch wird auch er in seinem Dasein als Subjekt ausgehöhlt, entleert, am Ende gelöscht. Die anderen sowieso. Es wäre einzig darüber nachzudenken, ob ein Gebrauch denkbar wäre, der das Gerät strikt auf Informationsbeschaffung limitierte (sozusagen ein weiteres Systemwikipedia), so dass es keinerlei mentale Funktionen übernähme. Hierfür dürften zuallererst mal keinerlei Pronomen Verwendung finden. Indes, die Apparatur ist algorithmisch gänzlich anders angelegt.
Es gibt im Gespräch mit der KI keine Erkenntnis zu holen, stattdessen wird der Träger aller Erkenntnis, das Subjekt, ausgehöhlt und schließlich gelöscht. Die Offenbarung spricht von der Irreversibilität des Vorgangs, sich dem Malzeichen – meine vorgeschlagene Lesart: KI – verschrieben zu haben. In sich „stimmig“ wäre meine Lesart, weil der Einschrieb des Zeichens (Eingang in die KI) und die Irreversibilität, die damit vollzogen wird, erkenntnistheoretisch übereinstimmen. Die Tilgung des Subjekts streicht die Voraussetzung für die Vergebung: streicht ein jedes Bewusstsein, das bereuen könnte. Nicht das Prinzip, das Gott vergibt, wäre dadurch gestrichen, vielmehr würden die Subjekte durch das Malzeichen die für ein jedes Vergeben konstitutive Voraussetzung verlieren, nämlich ihr Dasein als Subjekt. Es läge also nicht an Gott, es läge daran, dass der Mensch, dem Gott vergeben und verzeihen könnte, verschwunden wäre. Zur Ware geworden. Weshalb in der Offenbarung die Ware dann doch leidet, nämlich ewig, dem nachzugehen würden den Rahmen des Medien-Tresens definitiv sprengen.
Das Gespräch des Dissidenten endet – ganz im Sinne des Systems und seiner Algorithmen – mit:
Kitsch ist immer ein sicheres Zeichen, da gelandet zu sein, wo die Kritik von den Zentren der Macht abgezogen ist. Dem Menschheitsfamilien-Kitsch und seiner Funktion als Business werde ich mich im neuen Jahr vertieft widmen. Den wesentlichen medialen Aspekt, dass die KI auch als finales Medium zu verstehen ist, das seine Funktion als Bindeglied zwischen Sender und Empfänger simuliert und dabei die (simuliert) Verbundenen in ihrer „Echtheit“ auflöst, habe ich beim obigen Gedankengang zurückgestellt. Auch diesen – in den obigen Ausführungen implizit enthaltenen – Fokus werde ich im neuen Jahr aufgreifen, so Gott es will und die KI es zulässt ...
Daniel Sandmann ist promovierter Philosoph und Linguist. Er betreut bei Manova den Literatursalon und hat – unter verschiedenen Namen und in kleinen Verlagen – Romane, Dokumentationen und Erzählungen veröffentlicht; jüngst erschienen: Teer Sandmann: Raffen, Sterben, Trance; demnächst in noch unbekanntem Theater: ZWERG, Roman.
Newsletter: Anmeldung über Pareto