Ist KI böse?
Unterkomplex und technokratisch: Wenn selbst die Warner vor der neuen Technologie so denken, was mag dann erst in Fanköpfen vor sich gehen?
Mustafa Suleyman, 1984 geboren, ist ein ausgewiesener Experte für KI und deren Chancen und Risiken. Er ist Mitbegründer zweier KI-Unternehmen – DeepMind und Inflection AI – und hat viele Jahre für das Google-Unternehmen Alphabet gearbeitet. Derzeit ist er CEO von Microsoft AI. Wenn es in seinem Buch vor allem darum geht, die gesellschaftlichen Konsequenzen einer umfassenden Nutzung von künstlicher Intelligenz aufzuzeigen und die Notwendigkeit ihrer Regulierung und Eindämmung zu begründen, weiß er, wovon er spricht. Den Prolog seines Werkes ließ er sich schon einmal von einer KI schreiben.
Suleyman geht davon aus, daß eine regelrechte Technologiewelle auf uns zukommt bzw. daß wir uns bereits an deren Beginn befinden. KI, Biotechnologie (synthetische Biologie) und Quantencomputing sind ihre Ingredienzien. Wie alle einschneidenden Technologien der Menschheitsgeschichte ist auch die im Entstehen begriffene zunächst hochpreisig, wird aber immer billiger und einfacher in der Anwendung und findet darüber umfassende Verbreitung. Das „naturgegebene Wesen der Technologie“ richte sie auf Expansion aus.
Neugier und Ehrgeiz ließen den Autor vor 15 Jahren danach fragen, was wäre, „wenn wir die Essenz dessen, was uns Menschen so produktiv und fähig macht, in Software, in einen Algorithmus destillieren könnten.“ Seine 2010 gegründete Firma DeepMind verfolgt das Ziel, „unsere Intelligenz zu replizieren“.
Um dieses Ziel zu erreichen, würden wir ein System entwickeln müssen, das sämtliche kognitiven Fähigkeiten des Menschen – vom Sehen und Sprechen über das Planen und das Vorstellungsvermögen bis hin zu Empathie und Kreativität – nachahmen und schließlich übertreffen könnte.
Die enormen Energiemengen, die ein solcher Supercomputer benötigt, wollte er mit Kernfusion erzeugen.
Neben den abzusehenden Verbesserungen in allen Lebensbereichen (Medizin, Kommunikation, Bildung, Verkehr, Versorgung, Infrastruktur) sieht Suleyman bei der Anwendung von KI immense Gefahren und ethische Dilemmata. So führe der von vornherein globale Charakter dieser Technologie zu einer existenziellen Bedrohung und weiteren Aushöhlung des Nationalstaates – ausgerechnet dann, wenn wir diesen (das meint er wirklich) mehr denn je brauchen. Die gegenwärtige geopolitische Ordnung könnte hinweggefegt werden. Cyberangriffe, automatisierte Kriege, künstlich erzeugte Pandemien, katastrophische Unfälle, eine „Apokalypse an Falschinformationen“, technologisch aufgeladener Autoritarismus, Machtkonzentration und enorme Arbeitsplatzverluste wären genauso im Bereich des Möglichen wie ein globales Überwachungssystem, das in unser Privatleben eindringt. Moratorien seien unwahrscheinlich. Es gab zu jeder Zeit Proteste gegen eine neue Technologie – gesellschaftlich durchgesetzt habe sich aber jede, die das Leben erleichterte oder/und enorme Profite garantierte.
Als das „größte Metaproblem des 21. Jahrhunderts“ bzw. als das „zentrale Dilemma“ bezeichnet Suleyman, daß die Eigendynamik einer omnipräsenten KI zu einer katastrophischen oder gar dystopischen Zuspitzung der Veränderungen führen kann. Um sich dagegen zu wappnen, müssen Menschen etwas tun, sie müssen regelnd eingreifen („proaktiv“ ist ein inflationär verwendeter Begriff, zumindest des Übersetzers). Der bisherige Diskurs in Sachen Technologiekritik und -sicherheit genüge nicht. Doch selbst scharfe KI-Kritiker tun sich schwer mit Vorstellungen von „Containment“, also „Eindämmung“, worunter der Autor ein „ineinandergreifendes Bündel technischer, gesellschaftlicher und rechtlicher Mechanismen, die die Technologie auf allen möglichen Ebenen einhegen und kontrollieren“, versteht. Die Unlust der Techno-Elite, sich mit dem Schutz vor ihren „Babys“ zu beschäftigen, nennt der Unternehmer „die Falle der Pessimismus-Aversion“ und wertet sie als anthropologische Veranlagung zur Verdrängung und zum Wegschauen. Diese möchte er überwinden. Aber wie die kommende Welle eingedämmt und reguliert und wie der „bereits durch Krisen erschütterte“ [!] demokratische Nationalstaat aufrechterhalten werden könnte – dafür habe derzeit niemand einen Plan.
Das klingt beängstigend. Offenbar hat sich hier jemand als Hexenmeister betätigt und versucht nun, mittels Aufklärung den Zauberlehrling an die Kette zu legen. Eindringlich belegt er, warum Business as usual kein angebrachter Umgang mit dieser Welle ist: KI, Robotik, Gentechnologie, synthetische Biologie und Quantencomputing hätten vier Hauptmerkmale gemeinsam:
Sie sind von Natur aus allgemein und daher vielseitig einsetzbar („Allzwecktechnologien“), sie entwickeln sich rasant weiter, sie haben asymmetrische Auswirkungen, und sie sind in mancherlei Hinsicht zunehmend autonom.
In politischer und ökonomischer Hinsicht haben wir zu gewärtigen, daß riesige neue Unternehmen entstehen, der Autoritarismus gestärkt wird und Gruppen und Bewegungen ermächtigt werden, „außerhalb der traditionellen Gesellschaftsstrukturen zu leben“. Den letzten Aspekt hätte ich gern ausführlicher beleuchtet gesehen, aber darauf kommt der Autor leider nicht zurück. Er sympathisiert eben nicht mit Aussteigern.
Die durchaus real existierende Eigendynamik revolutionär-technologischer Prozesse bekommen in Suleymans Metabetrachtungen einen Subjektcharakter:
Die massenhafte Verbreitung, die rohe, ungezügelte Vermehrung – das ist der historische Standard der Technologie, das, was einem natürlichen Zustand am nächsten kommt.
Wenn er eine epidemische Verbreitung als Essenz des Wesens Technologie versteht, hat er ihre Unkontrollierbarkeit im Grunde schon akzeptiert. Digitalisierung als Naturprozeß. Davon zeugt auch Suleymans Bonmot „Erfindungen können nicht unbegrenzt unerfunden bleiben.“ Technologie und Erfindungen allgemein als platonische Ideen, die a priori existieren und nur von den Menschen ergriffen werden müssen. Und irgendwann werden sie das auf jeden Fall. Davon, daß Suleyman eher ein amerikanischer Pragmatiker ist denn ein europäischer Philosoph, zeugt auch diese Fragestellung:
Sind wir entschlossen, unseren Platz an der Spitze der Evolutionspyramide zu halten, oder werden wir das Entstehen von KI-Systemen zulassen, die intelligenter und leistungsfähiger sind, als wir es je sein können?
Wie schon im ersten Zitat dieser Rezension zu erkennen war, läßt sich der KI-Unternehmer von einem reduzierten Verständnis von Intelligenz leiten. Sicherlich sorgt KI für eine schnellere Bewältigung von Rechenaufgaben jeder Art. Aber ist sie dadurch leistungsfähiger oder intelligenter? Bedenkt man, daß die Erkenntnistätigkeit und die gelegentliche Genialität von Menschen in jedem Gedankenzug und kreativen Akt von mehr oder minder starken Gefühlen begleitet oder sogar hervorgebracht werden, sieht man schnell, daß schon der Vorsatz, eine Maschine intelligenter als Menschen zu bauen, von Hybris gelenkt ist. Auch wenn sie selbstlernend ist, heißt das noch lange nicht, daß sie an Tiefgründigkeit gewinnt.
Das bedeutet nicht, daß KI ungefährlich ist. Eine „Superintelligenz“ wäre vermutlich nicht zu kontrollieren oder einzudämmen, wie der Autor schreibt. Datenfülle plus Geschwindigkeit sind als Ensemble in der Lage, den Menschen in der Informationsverarbeitung und Entscheidungsfindung zu übertrumpfen. Womöglich kann sich eine Maschine sogar verselbständigen und gegen seine Erfinder stellen. Aber bestimmt nicht aufgrund allgemeiner Überlegenheit im Vergleich zum Menschen. Die Datenverarbeitung erfolgt immer nur auf Basis dessen, was von Menschen ins technologische Medium eingespeist wird. Sie bleibt oberflächlich und kann auch Murks produzieren. Bei allgemeiner und globaler Abhängigkeit von Algorithmen und KI sind immer große Katastrophen möglich.
Doch der Autor hat eine Ahnung von dem dünnen metaphysischen Eis, auf dem er sich bewegt, wenn er schreibt:
Niemand weiß, wann, ob oder wie genau KI uns entgleiten könnte und was als Nächstes passiert; niemand weiß, wann oder ob sie völlig autonom wird oder wie wir sie dazu bringen können, sich im Bewusstsein für unsere Werte und im Einklang mit ihnen zu verhalten, vorausgesetzt, wir können uns überhaupt auf solche Werte verständigen.
Dazu kommt: LLMs (Large Language Models) haben KI verändert, entwickelt. Dabei haben KI-Modelle „manchmal beunruhigende und dezidiert schädliche Inhalte wie rassistische Äußerungen oder wilde Verschwörungstheorien“ produziert.
Da sie großteils mit den im offenen Web verfügbaren chaotischen Daten trainiert sind, werden sie quasi en passant die zugrunde liegenden Vorurteile und Strukturen der Gesellschaft reproduzieren und sogar verstärken, sofern sie nicht so sorgfältig konzipiert sind, dass sie das vermeiden.
Toxische Vorurteile seien im „menschlichen Schrifttum“ verankert und in der Vergangenheit durch KI verstärkt worden. Und wie will er das fürderhin verhindern? Natürlich mit größeren und leistungsfähigeren Modellen, mit Feinabstimmungs- und Kontrolltechniken.
Wenn die Forscher diese Fehltritte bemerken, integrieren sie diese menschlichen Erkenntnisse wieder in das Modell und bringen ihm schließlich eine wünschenswerte Weltsicht bei, nicht ganz unähnlich der Art und Weise, wie wir Kindern beizubringen versuchen, am Esstisch keine unpassenden Dinge zu sagen.
Auch über diese „wünschenswerte Weltsicht“ wüßte ich gern Genaueres. Doch man kann davon ausgehen, daß Suleyman Wokeness und Genderismus dazu zählt. Er glaubt also, daß nur die richtigen Werte und politisch korrekte Auffassungen eingespeist werden müßten, damit richtige Informationen oder Erkenntnisse mit Hilfe der KI garantiert sind. Die naive Erkenntnistheorie, die solchen Überzeugungen zugrunde liegt, ist typisch für technologisches und technokratisches Denken. Daß sie im Silicon Valley gang und gäbe ist, scheint mir evident zu sein. Wenn schon die Warner vor KI derart unterkomplex denken, was mag erst in den Köpfen der reinen KI-Enthusiasten vorgehen?! Das Worst-Case-Szenario Suleymans bezüglich der coming wave dürfte das wahrscheinlichste sein.
[KI-]Technologie ist heute ein unentbehrliches Megasystem, das jeden Aspekt des täglichen Lebens, der Gesellschaft und der Wirtschaft durchdringt. Niemand kann ohne sie auskommen. Es gibt fest verwurzelte Anreize für mehr davon, radikal mehr. Niemand hat die volle Kontrolle darüber, was sie tut und wohin sie sich entwickelt.
Gnade uns Gott.
Mustafa Suleyman, Michael Bhaskar: The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts. München: C.H. Beck Verlag 2024 (Original 2023), 376 Seiten, 28 Euro
Beate Broßmann, Jahrgang 1961, Leipzigerin, passionierte Sozialphilosophin, wollte einmal den real existierenden Sozialismus ändern und analysiert heute das, was ist – unter anderem in der Zeitschrift TUMULT.
Berichte, Interviews, Analysen
Freie Akademie für Medien & Journalismus