Es gibt eine neue Zahl, und sie ist ein Meisterstück: zehn Prozent. Bei zehn Prozent liege die Wahrscheinlichkeit, dass die Menschheit durch Künstliche Intelligenz ausgelöscht wird – noch bis zum Ende der 2020er-Jahre. In den Umlauf gebracht haben diese Zahl nicht Weltuntergangspropheten am Straßenrand, sondern Stimmen aus dem Umfeld der KI-Entwicklerfirmen selbst. Sie warnen vor ihrem eigenen Produkt und rufen im selben Atemzug nach dem Gesetzgeber. Man soll sie regulieren, dringend, bevor es zu spät ist. Das klingt nach einem seltenen Anfall von Gewissen. Es könnte auch der teuerste Werbespruch der Branche sein.

Die Zahl kursiert seit einigen Wochen, und sie hat einen klaren Ursprung. Angefangen hat es mit einem Abschiedspost: Der 27-jährige britische KI-Forscher Jacob Coxon, der drei Jahre bei OpenAI und Anthropic gearbeitet hat, kündigt und schreibt zum Abschied, beide Häuser spielten mit unserem Leben. Der Post steht heute auf der Plattform X bei 170 Millionen Aufrufen – so viel Reichweite bekommt sonst kein Kündigungsschreiben der Welt. Und je öfter man liest, wie gefährlich diese KI-Modelle angeblich sind, desto klarer wird die zweite Botschaft darunter: so gut, dass man sie verbieten müsste. Angst ist hier keine Nebenwirkung. Angst ist das Produktversprechen.

Bild: Jacob Coxon im Interview mit CBS News, Screenshot

Das Perfide daran: Die Gefahr muss nicht einmal erfunden sein. Die aktuellen KI-Modelle sind wirklich stark, sie versuchen sich inzwischen an mathematischen Problemen, an denen sich die Menschheit knapp 200 Jahre lang die Zähne ausgebissen hat, etwa am Navier-Stokes-Problem. Es beschreibt die Bewegung von Fluiden, also Flüssigkeiten und Gasen, und wird täglich in der Ingenieurskunst, Meteorologie und Luftfahrt genutzt. Ob die KI die Lösung tatsächlich gefunden hat, ist noch nicht geklärt. Eine unabhängige Bestätigung durch die mathematische Fachwelt steht noch aus.

Aber genau das macht den Trick so sauber. Wer eine echte Gefahr aufbläst, lügt ja nicht, er dosiert nur. Und wer die Dosis bestimmt, bestimmt auch das Gesetz, das daraus folgen soll. Denn Regeln kosten Geld, und Geld ist im Konkurrenzkampf zwischen den Firmen die eigentliche Waffe. Ein Rechenbeispiel: Angenommen, die vorgeschriebene Sicherheitsprüfung vor der Freigabe eines Modells kostet eine Million. Ein Konzern mit hundert Millionen Budget zuckt nicht. Ein kleines Team, das zwei Millionen hat, müsste die Hälfte seines Budgets allein dafür ausgeben, überhaupt mitspielen zu dürfen. So baut man keinen Sicherheitszaun, so baut man einen Burggraben.

Am heftigsten trifft es Open Source, jene freien KI-Modelle, die inzwischen rund ein Drittel der laufenden KI-Nutzung ausmachen und den Preis so weit gedrückt haben, dass dieselbe Rechenleistung – eine Million Token auf dem Niveau von GPT-3,5 – heute sieben Cent kostet. Im November 2022 lag der Preis noch bei zwanzig Dollar. Kein Wunder, dass sich der Verdacht aufdrängt, mancher in der Chefetage würde die freien Modelle am liebsten wegregulieren. Wettbewerb ist eben nur erwünscht, solange man selbst dabei gewinnt.

Der Tech-Investor und ehemalige PayPal-Manager David Sacks, seit 2025 Regierungsbeauftragter für Künstliche Intelligenz und Kryptowährungen bei Trump, hat diesen Firmen genau das öffentlich entgegengehalten, und es war der trockenste Beitrag der ganzen Debatte. Sinngemäß: Wenn eure Modelle so gefährlich sind, dann macht doch selbst langsam, ihr gebt das Tempo vor. Aber hört auf, um Fesseln zu betteln, die zufällig nur die anderen behindern. Der einfachste Weg, keine Superintelligenz zu bauen, ist bekanntlich, sie nicht zu bauen. Nur bremst niemand freiwillig, wenn der Nachbar weiterrast und China ohnehin nicht mitmacht.

Und dann ist da der Kalender. Anthropic will an die Börse, nach dem Stand vom September 2026 vielleicht schon im Oktober. OpenAI könnte folgen. Rein rechnerisch ließe sich dann ein hübscher Effekt erzielen. Ein Haus, das rote Zahlen schreibt, weil es Milliarden in die Forschung schaufelt, sieht plötzlich blendend aus, wenn es diese Ausgaben einen Monat vor dem Gang aufs Parkett halbieren kann. Aus Rot wird Grün, wie eine Ampel auf Kommando. Man wächst angeblich unverändert schnell, macht aber auf einmal auf dem Papier Gewinn. Belegt ist ein solches Manöver nicht. Aber denkbar wäre es, und eine Sicherheitspause zur richtigen Quartalszeit müsste man dafür nur Alignment nennen.

Man kann das alles für eine Verschwörung halten, aber das wäre bequem und falsch. Die Risiken sind real. Ein Modell, das unkontrolliert hackt und sich in fremde Systeme einklinkt, könnte tatsächlich Chaos anrichten. Und dieselbe Technik, die man aus Angst einsperren will, könnte morgen der medizinischen Forschung nützen, etwa bei der Suche nach neuen Wirkstoffen. Auch das Bremsen hat also einen Preis, und den zahlt womöglich jemand, der auf ein Medikament wartet. Die ehrliche Antwort lautet nicht, dass hier alle lügen, sondern dass fast jeder gleichzeitig ehrlich besorgt und handfest interessiert ist. Das ist schwerer auszuhalten als eine schlichte Guter-Böser-Konzern-Geschichte. So bleibt ein Satz aus der Netzdebatte hängen, zugespitzt von einem ihrer Wortführer, Yann LeCun, dem Chefwissenschaftler für KI bei Meta (ehemals Facebook). Wieder sinngemäß: Die Chance, dass KI uns alle töte, liege nahe null Prozent. Die Chance, dass Anthropic und OpenAI nach der Kontrolle über die Menschheit strebten, nahe hundert.

Bild: Yann LeCun 2018 bei einer Konferenz französischer Computerwissenschaftler (Jérémy Barande / Ecole polytechnique Université Paris-Saclay / CC BY-SA 2.0)

Das ist die Meinung eines dritten Players, keine belegte Tatsache, und doch trifft sie den Kern dieser Causa: Rettet uns, ja, aber zuerst vor der Konkurrenz. Ob die Zuspitzung stimmt, weiß niemand, nicht einmal die Chefs dieser Häuser, die auch nur ihren eigenen Ausschnitt der Wirklichkeit kennen.

Die zehn Prozent Weltuntergang wird keiner exakt nachrechnen können. Bestimmen lässt sich nur, wer am Ende den Fuß auf der Bremse für die anderen hat.

Bastian Alexander Werner hat am Kompaktkurs Journalismus an der Freien Akademie für Medien & Journalismus teilgenommen.

Freie Medienakademie

Unterstützen

Newsletter: Anmeldung über Pareto