Wie wir alle sterben werden

Nicht der Klimawandel, kein Atomkrieg. Von künstlicher Intelligenz ermöglichter Bioterror ist das plausibelste Ende der menschlichen Zivilisation. Das schreibt der Wirtschaftsjournalist und Blogger Noah Smith jetzt in seinem Substack‑Newsletter Noahpinion.

Die Wahrscheinlichkeit, dass ein solcher Anschlag die Zivilisation zum Einsturz bringt, beziffert er auf etwa zehn Prozent, die Wahrscheinlichkeit weltverändernder Zerstörung auf dreißig Prozent. Gegenüber den meisten KI-Risiken sei er gelassen. Dieses eine sei die erste apokalyptische Vorstellung, die er je für glaubwürdig gehalten habe. Jede Technik habe ihre katastrophalen Missbrauchsfälle; bisher hätten die Vorteile überwogen, beim KI-Bioterror könnte das anders sein.

Ein Gedankenspiel für das Jahr 2029

Ein begabter, wütender Sechzehnjähriger wird von seiner Schulschwärmerei zurückgewiesen, kommt zu dem Schluss, die Menschheit sei verdorben und verdiene das Überleben nicht, und findet im Netz eine geknackte Version eines chinesischen Sprachmodells – nicht das Beste, das es gibt, aber weit besser als das Spitzenmodell von 2027. Das Modell habe keine Schutzschranken mehr, sei aber weiterhin „gut ausgerichtet“: Es tue treu, was man ihm auftrage. Es entwirft hundert Viren mit hoher Ansteckungsfähigkeit, sehr langer symptomfreier Ansteckungsphase und hoher Sterblichkeit, findet ein nicht lizenziertes Labor in Osteuropa, das genetisch veränderte Viren verschickt, und lässt die Proben zustellen. Der Jugendliche versprüht sie in einem Einkaufszentrum.

Zwei Monate später beginnt das Sterben. Zwar entwerfen Fachleute mit Hilfe von Spitzenmodellen binnen kürzester Zeit Impfstoffe und Virostatika, doch die meisten Menschen sind längst infiziert. Etwa fünf Prozent erhalten rechtzeitig Medikamente, weitere fünf Prozent sind natürlich resistent – zu wenig, um die Zivilisation zu tragen. Wenige Monate später ist die Menschheit auf das Neolithikum zurückgeworfen.

Warum die Entwarnungen nicht tragen

Den häufigsten Einwand, KI werde eben rasch einen Impfstoff liefern, hält Smith für ein bequemes Glaubensbekenntnis. Das Virus habe den Vorsprung: Verteilt werde erst, wenn Menschen zu sterben beginnen. Selbst wenn ein Wirkstoff binnen Stunden entworfen sei, dauere die Auslieferung – bei Covid habe sie Monate gebraucht, obwohl das Herstellungsverfahren bekannt war. Bei Viren mit langer symptomfreier Ansteckungsphase wirkten Impfungen ohnehin nicht mehr, und Virostatika stünden vor denselben logistischen Hürden. Ähnlich wenig überzeugend seien die Argumente, Weltuntergangsviren kämen in der Natur nicht vor, ihre Entwicklung extrem schwierig, Terroristen fehle die Laborerfahrung oder es sei bislang nichts geschehen.

Am Problem arbeiteten bisher zu wenige. Die Kommentatoren beschäftigten sich mit Arbeitsplatzverlusten, die prominenten Stimmen der KI-Sicherheitsdebatte damit, Superintelligenz überhaupt zu verhindern, statt mit den konkreten Wegen ins Verderben. In Fachumfragen verschwinde das Biorisiko in der allgemeinen Wolke aus Cyber- und Manipulationsgefahren. Verglichen mit einer zivilisationsbeendenden Pandemie seien Cyberangriffe ein Nadelstich und Desinformation ein Witz. Wer die Welt retten wolle, solle sich auf Bio-Terror-Szenarien konzentrieren.

Quelle: Noah Smith – „Here’s how we’re all going to die“, 28. August 2026