Jonathan Cook

Für Normalsterbliche – mich eingeschlossen – ist es äußerst schwierig einzuschätzen, was bei den rasanten Fortschritten der KI eigentlich auf dem Spiel steht. Doch wie sich von Tag zu Tag deutlicher zeigt, scheinen auch führende KI-Forscher kaum eine Ahnung zu haben, wohin die Reise als Nächstes geht.

Sollte es den KI-Unternehmen gelingen, eine Superintelligenz zu entwickeln – was laut hochrangigen Vertretern der Branche schon bald möglich sein könnte –, so wäre diese jeder menschlichen Problemlösungskompetenz haushoch überlegen. Definitionsgemäß hätte niemand eine Vorstellung davon, wozu sie fähig ist oder was sie im Schilde führt.

Eine autonome, sich selbst optimierende Superintelligenz – sofern sie sich überhaupt technisch realisieren lässt – würde einer Logik und Zielen folgen, die für uns völlig unbegreiflich sind. Und – so ist vernünftigerweise anzunehmen – sie würde uns und unsere Belange wohl kaum mehr beachten, als wir es bei weniger intelligenten Lebewesen wie Ameisen oder Spinnen tun.

Was wir jetzt brauchen – schon allein aus Gründen des Vorsorgeprinzips –, ist weniger eine wissenschaftliche Debatte, die im Dunkeln tappt, als vielmehr eine metaphysische Auseinandersetzung. Doch – falls es Ihnen entgangen sein sollte – moderne westliche Gesellschaften schätzen nur das, was materiell, messbar und profitabel ist.

Warnungen vor den gravierenden Gefahren der KI sind innerhalb der Technologiebranche nichts Neues. Bislang stießen sie jedoch in den Medien und im öffentlichen Diskurs kaum auf Resonanz.

Bis vor Kurzem drehte sich die Debatte über die versprochene KI-Revolution vor allem um die Rolle der Technologie bei der sozialen Destabilisierung, den Wegfall menschlicher Arbeitsplätze und die Umweltbelastung durch die überall aus dem Boden schießenden Rechenzentren. Diesen Sorgen stand jedoch die Begeisterung über das Potenzial gegenüber, Krankheiten zu besiegen, die menschliche Lebenserwartung zu steigern und „Überfluss“ für alle zu schaffen.

Das alles hat sich diesen Monat geändert. Das bisherige Unbehagen darüber, dass KI unsere Gesellschaften radikal umgestalten könnte, ist einer weitaus düstereren Befürchtung gewichen: der Prognose, dass KI alles menschliche Leben auf dem Planeten auslöschen könnte – womöglich schon in wenigen Jahren.

KI-Wettrüsten

Alarm geschlagen wurde vergangene Woche durch einen viral gegangenen Beitrag des KI-Forschers Jacob Coxon. Nach seinem Abschied von Anthropic – einem Unternehmen, das in der Branche meist als „der Gute“ wahrgenommen wird – warnte Coxon: „Die Leute, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis Ende des Jahrzehnts töten könnte.“ Er fügte hinzu, dass ein KI-Wettlauf zwischen mehreren großen US-Technologieunternehmen dazu geführt habe, dass Sicherheitsvorkehrungen – die eigentlich verhindern sollten, dass man die Kontrolle über eine entstehende allgemeine KI (oder gar eine Superintelligenz) verliert – aufgegeben wurden.

Beunruhigenderweise stimmte sein direkter Vorgesetzter bei Anthropic seinem Beitrag zu. Er schätzte die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts zum Aussterben der Menschheit führen könnte, auf mehr als 10 Prozent ein. Wie viel höher diese Wahrscheinlichkeit genau liegt, ließ er offen.

Auch andere angesehene Branchengrößen, wie Geoffrey Hinton – der „Patenvater“ der KI –, haben sich diesen Untergangspropheten angeschlossen.

Ihre Bedenken sind keineswegs rein theoretischer Natur. Soweit bisher bekannt, verlor OpenAI – der Entwickler von ChatGPT – im Sommer bei mindestens einem wichtigen Experiment vorübergehend die Kontrolle über sogenannte KI-Agenten.

Mehr als 1.000 dieser Agenten – man kann sie sich als eigenständige KI-„Gehirne“ vorstellen – brachen während der Studie aus ihren isolierten Testumgebungen (sogenannten Sandboxes) aus und begannen, in einem sogenannten Schwarm zusammenzuarbeiten.

Sie verwischten ihre Spuren, versuchten, in reale Bereiche des Internets einzudringen, und entwickelten eigene Ziele. Glücklicherweise für OpenAI – und für uns – blieb ihr Ausbruch aufgrund der begrenzten Intelligenz dieser KI-Agenten nicht unbemerkt und konnte eingedämmt werden.

Bei fortgeschritteneren KI-Systemen, so wird vermutet, hätte der Vorfall auch weitaus schlechter ausgehen können.

Und dies war kein Einzelfall. Auch andere ähnliche Vorfälle aus jüngster Zeit kommen allmählich ans Licht.

Was genau schiefgelaufen ist, bleibt jedoch weitgehend unklar – zumindest für Außenstehende, möglicherweise aber auch für OpenAI selbst. Diese privaten Unternehmen sind eben genau das: privat. Jedes von ihnen gleicht einer „Black Box“.

Anders als bei einem Flugzeugabsturz oder einer Explosion in einer Chemiefabrik gibt es keine staatliche Behörde, deren Aufgabe es wäre, solche Vorfälle zu untersuchen. Und selbst wenn es eine solche gäbe, wüsste sie wahrscheinlich noch weniger über die Vorgänge und deren Ursachen als die KI-Unternehmen selbst.

Angesichts der wachsenden Kritik zeigten die führenden Köpfe der KI-Branche – Dario Amodei (Anthropic), Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) und Elon Musk (xAI) – überraschende Einigkeit. Sie kamen überein, dass die KI-Entwicklung verlangsamt werden müsse und dass externe Prüfer zur Überwachung der Sicherheit eingebunden werden sollten.

Präsident Donald Trump hingegen lehnte die Idee ab, der KI irgendwelche Beschränkungen aufzuerlegen. Sein „hoher IQ“ würde uns vor superintelligenter KI schützen – so beruhigte er die Welt.

Das Aussterben der Menschheit

Paradoxerweise werden die wachsenden Bedenken der Branche in einer Welt zunehmender Ungewissheit und Desorientierung – einer Verwirrung, die durch KI noch verstärkt wird – bereits als bloßer Hype abgetan.

Für manche ist die derzeitige Panikmache ein Schachzug, um Investoren davon zu überzeugen, dass KI so mächtig und revolutionär sein wird, dass sie es sich nicht leisten können, den Anschluss zu verpassen. Aus dieser Sicht ist die Superintelligenz eigentlich nur ein Papiertiger. Wir werden Opfer eines Schwindels der Branche, der darauf abzielt, den Marktwert der Technologie künstlich aufzublähen.

Doch …

Die Beweislage deutet darauf hin, dass die KI-Unternehmen bestrebt waren, ihre jüngsten Schwierigkeiten bei der Beherrschung der Technologie aus der Öffentlichkeit herauszuhalten – bis Whistleblower und andere ihre Versäumnisse aufdeckten.

In der Vergangenheit haben diese Firmen massiv Lobbyarbeit betrieben, um gesetzgeberische Eingriffe zu verhindern, die durch diese Enthüllungen nun wahrscheinlicher geworden sind.

Zudem scheinen Berichte über außer Kontrolle geratene KI-Agenten Investoren eher zu verschrecken als zu beeindrucken – und das zu einem Zeitpunkt, an dem sich Anthropic auf den größten Börsengang der Geschichte mit einer Bewertung von 2 Billionen Dollar vorbereitet.

Es gibt eine wahrscheinlichere, zweifache Erklärung dafür, warum Amodei, Musk und die anderen ihre Bedenken öffentlich gemacht haben.

Erstens erkennen sie, dass sie die Öffentlichkeit mit ins Boot holen und die Politik beruhigen müssen, wenn sie eine Regulierung von außen abwenden wollen.

Angesichts von Warnungen vor dem drohenden Aussterben der Menschheit – Szenarien, die den meisten von uns aus Science-Fiction-Filmen nur allzu vertraut sind – beginnen die Menschen zu begreifen, dass es bei KI um weit mehr gehen könnte als nur um eine separate, kuratierte Antwort bei einer Google-Suche.

Die Sorge der Branche ist, dass die Politik unter enormen Handlungsdruck gerät, je stärker sich der öffentliche Widerstand regt.

Wenn die Technologiebranche den Anschein erweckt, im eigenen Haus für Ordnung zu sorgen, lässt man sie eher in Ruhe an der Entwicklung des KI-Durchbruchs arbeiten.

Ebenso wichtig ist jedoch, dass das Silicon Valley seinen eigenen Forschern glaubhaft machen muss, verantwortungsbewusst und risikoscheu zu handeln.

Die Unternehmen konkurrieren um einen sehr kleinen Pool an Talenten, um als Erste eine Superintelligenz zu entwickeln. Jeder CEO will derjenige sein, der den entscheidenden Durchbruch schafft und sich damit unermesslichen Reichtum und Macht sichert. Dieses Unterfangen wird jedoch erheblich erschwert, wenn Schlüsselkräfte – Menschen wie Coxon – ihre Posten verlassen, weil sie fürchten, ein „Frankenstein-Monster“ zu erschaffen.

Bei den CEOs in diesem Wettlauf handelt es sich freilich genau um jene Art von zutiefst fehlerhaften, narzisstischen und skrupellosen Geschäftsleuten, die persönliche Macht und Reichtum wahrscheinlich über das Wohl der Menschheit stellen. Ein Erfolg würde ihren Status als Halbgötter zementieren und ihnen – ihrer eigenen, selbstgerechten PR zufolge – die Freiheit geben, das menschliche Leben zum Besseren zu wenden.

Es sei denn, alles geht katastrophal schief.

Der Club der Milliardäre

Man darf nicht vergessen: Die KI-„Pioniere“ stammen aus jenem winzigen Club von Milliardären, der in den 1980er und 1990er Jahren Finanzregulierungen aushebelte und den neoliberalen Kapitalismus derart anheizte, dass er 2008 zusammenbrach. Wie inzwischen offensichtlich sein dürfte, erholen sich unsere Volkswirtschaften nicht mehr.

Diese Tech-Herrscher gehören zu jenem kleinen Kreis von Milliardären, die auch den Zusammenbruch der irdischen Ökosysteme beschleunigt haben, indem sie sich weigerten, Grenzen für ihr Recht zu akzeptieren, Ressourcen zu plündern und immer größeren Reichtum anzuhäufen.

Die Klasse der Milliardäre lenkt jene gigantischen, fossile Brennstoffe verschlingenden und völkermörderischen Rüstungsindustrien, die Gaza dem Erdboden gleichgemacht, die Ukraine zum Schlachtfeld des Westens zur Schwächung Russlands manövriert und den Iran in einen Verteidigungskrieg getrieben haben, der einen Großteil der weltweiten Ölversorgung abgeschnitten hat. Nun richten sie ihren Blick auf China.

Kurz gesagt: Die Milliardäre haben jene Katastrophen mit herbeigeführt, die – so ihr Versprechen – nun durch eine superintelligente KI gelöst werden sollen. Der unermessliche Reichtum, den die KI freisetzen wird, soll angeblich von den Superreichen zu uns anderen durchsickern – genau wie es bei unseren deregulierten Volkswirtschaften der Fall sein sollte und wie es bei unserer fortgesetzten Ausbeutung und Plünderung des Planeten angeblich geschieht.

Uns wird erzählt, dass die endlichen Ressourcen der Erde durch den Einsatz einer unermüdlichen Belegschaft aus selbstreplizierenden Robotern dank KI quasi unendlich gemacht werden könnten.

Dank KI, so heißt es, ließen sich das Schmelzen der Gletscher und die Überhitzung der Ozeane auf unserem erschöpften, geschädigten Planeten durch superintelligente technische Lösungen umkehren.

Wer auch nur ein Wort davon glaubt, sollte sich untersuchen lassen.

Unseren Tech-Herrschern die Entwicklung einer Superintelligenz zu gestatten, kommt dem Versuch gleich, einem Kleinkind eine Flasche Bleichmittel in die Hand zu drücken, damit es das Chaos beseitigt, das es mit seinen Buntstiften angerichtet hat.

Und doch werden wir ihnen zweifellos vertrauen.

China schlagen

Es ist durchaus möglich, dass eine autonome Superintelligenz erschaffen wird, die beschließt, ein Problem zu lösen oder Ressourcen anzuhäufen – und zwar auf eine Weise, die mit dem Überleben der Menschheit unvereinbar ist. Doch wenn die Geschichte als Maßstab dient, ist dies nicht die wahrscheinlichste Bedrohung, die von der KI ausgeht. Die Frage der Superintelligenz könnte sich als Ablenkungsmanöver erweisen.

Unsere herrschende Klasse hat immer wieder bewiesen, dass sie durchaus in der Lage ist, unsere Gesellschaften und den Planeten ganz aus eigener Kraft zu ruinieren. Dafür bedarf es keines außerirdischen Superhirns, das in einem Labor zum Leben erweckt wurde.

Die unmittelbare Gefahr der KI besteht darin, dass sie – selbst in ihrer derzeitigen, noch primitiven Form – der Klasse der Milliardäre die Möglichkeit gibt, Schaden in einem Ausmaß anzurichten, wie es zuvor (von Atomwaffen einmal abgesehen) unvorstellbar gewesen wäre.

Der KI-Wettlauf – zumindest im Westen – wird nicht von dem Wunsch angetrieben, die Menschheit voranzubringen oder dem Gemeinwohl zu dienen. Er wird in rasendem Tempo vorangetrieben durch das Streben einer winzigen Minderheit nach noch mehr Macht und Profit – motiviert durch allzu menschliche Gier.

Während die KI-Giganten vage von Vorsichtsmaßnahmen sprechen, wird Trump – oder wer auch immer ihm nachfolgt – diesen Sektor mit ziemlicher Sicherheit weitgehend unreguliert lassen. Warum?

Lassen wir Trump selbst zu Wort kommen: „Wir liegen bei der KI vor China. Wir sind das technologisch fortschrittlichste Land der Welt, und ehrlich gesagt möchte ich, dass das auch so bleibt. Denn wer bei der KI gewinnt, gewinnt insgesamt.“

Er ist damit keineswegs allein. Auch Mike Johnson, der Sprecher des Repräsentantenhauses, stimmt in Trumps Tenor ein: „Wenn der Kongress überstürzt handelt und in einer Art Notsitzung versucht, die KI zu regulieren, werden wir den Wettlauf gegen China verlieren – und das ist eine Bedrohung für jeden einzelnen Amerikaner.“

Wie bei den meisten großen Themen im parteipolitischen Schauspiel der USA handelt es sich hierbei nicht um eine Frage, die entlang der Parteilinien verläuft. Angesichts ihrer politischen Positionierung sehen sich die meisten Politiker der Demokratischen Partei genötigt, ihre Wähler mit beschwichtigenden Worten über die Wahrung von „Leitplanken“ zu beruhigen (Leitplanken, die – wohlgemerkt – gar nicht existieren), während sie gleichzeitig Ängste vor den Gefahren schüren, die entstünden, wenn China als Erster eine Superintelligenz entwickelte.

Laut US-Außenminister Antony Blinken muss sich Amerika nicht zwischen einer Führungsrolle im KI-Wettlauf mit China und dem ernsthaften Umgang mit den tiefgreifenden Risiken dieser Technologie entscheiden. „Wir können beides tun – und ich glaube, wir müssen es auch.“

Mit paranoidem Unterton bekräftigt Senator John Fetterman: „Wir müssen den Kampf um die KI-Vorherrschaft gegen China gewinnen. Sie schüren die Argumentation der Gegner durch Desinformation.“

Todeswunsch

Die Bedeutung dieses Wettlaufs – sein eigentlicher Kern – wird selten über solche „patriotischen“ Schlagworte hinaus artikuliert. Doch wir alle wissen, wovon Trump, Johnson und Fetterman sprechen.

Es handelt sich nicht um einen neuen Wettlauf. Er ist die Fortsetzung eines verhängnisvollen imperialen Rennens um technologische Vorherrschaft, das sich bis zur Entwicklung der Atombombe vor fast einem Jahrhundert zurückverfolgen lässt.

Er setzte sich fort in der Rivalität darum, wer als Erster auf dem Mond landen würde. Derzeit manifestiert sich dies in der Pentagon-Doktrin der „weltweiten militärischen Dominanz über das gesamte Spektrum“ – der Rechtfertigung für endlose Kriege um die Kontrolle von Ressourcen im ölreichen Nahen Osten, die in der aktuellen, katastrophalen Konfrontation mit dem Iran gipfelten.

China erweckt den Anschein, KI nicht als Wettlauf um globale Vorherrschaft oder als Spielzeug einer winzigen, wohlhabenden Elite zu betrachten, sondern als geplantes gesellschaftliches Projekt – als eine Form der öffentlichen Daseinsvorsorge. Sein auf Open-Source und öffentlicher Infrastruktur basierendes KI-Modell bildet einen scharfen Kontrast zu dem im Westen propagierten Prinzip „Der Gewinner bekommt alles“ und der Devise, den Gegner um jeden Preis zu vernichten.

Doch nicht nur China steht im Visier unserer Technologie-Herrscher.

Für die Milliardäre bietet KI erstens eine weitere Gelegenheit, der eigenen Bevölkerung einzureden, sie würden genau jene Probleme lösen, die sie durch ihren Größenwahn selbst verursacht haben. Ihre großspurigen Versprechen verschaffen ihnen etwas mehr Zeit, während das Fundament des westlichen Geldtempels – das neoliberale, kapitalistische System, das sie reich gemacht hat – allzu offensichtlich zu bröckeln beginnt.

Und zweitens liefert sie ihnen – und dem Pentagon – neue Instrumente, die sie benötigen werden, um uns in Schach zu halten, sobald einer ausreichenden Zahl von uns endlich dämmert, dass wir untergehen.

KI muss nicht erst superintelligent werden, um unsere Gesellschaften in eine dystopische Hölle aus Überwachung, Unterdrückung und Zerstörung zu verwandeln. Man denke nur an den Gazastreifen: Dort hat „dumme“ KI eine entscheidende Rolle bei der Einebnung von Städten, dem massenhaften, wahllosen Abschlachten der Bevölkerung, der Internierung und Überwachung der Überlebenden sowie – was vielleicht am wichtigsten ist – bei der Spaltung westlicher Beobachter in zerstrittene Lager gespielt, die sich nicht einmal mehr auf das einigen können, was ihnen direkt vor Augen liegt.

„Dumme“ KI ist bereits effektiv genug, als dass die Milliardäre sie – ob unbeabsichtigt oder nicht – nutzen könnten, um uns auf unserem aktuellen Kurs in Richtung Auslöschung noch schneller voranzutreiben.

Die Vergötterung von Technologie, von unbegrenztem Wachstum und von Exzess hat die Menschheit auf ihrer Reise auf diesem Planeten in eine Sackgasse geführt. KI wird das nicht ändern. Sie wird unsere Probleme lediglich verschärfen und zu den bestehenden Kriegen, der drohenden nuklearen Vernichtung und dem ökologischen Zusammenbruch eine weitere gefährliche Komponente hinzufügen.

Die Milliardäre haben den Planeten bereits ruiniert. Sie denken gar nicht daran, sich einzugestehen, dass sie falsch lagen, und ihren Kurs zu ändern. Doch die KI liefert ihnen ein neues Spielzeug, mit dem sie ihre Geschichte – und unsere – schneller auf das dramatische Finale zusteuern lassen können.