Teilnehmende des AI Treaty March mit Schildern und dem Banner „Stop the AI Race“ am Wittenbergplatz in Berlin
Zurück zu Presse & Medien

KI beschleunigt die eigene Entwicklung: Marsch in Berlin fordert ein internationales KI-Abkommen

Mehr Fotos ansehen
  • Rund 50 Menschen marschierten am Samstag von der Urania zum Wittenbergplatz, als Teil eines Aktionstags in 16 Städten auf vier Kontinenten
  • Ein Bericht des unabhängigen Prüfinstituts METR schätzt, dass Anthropic seine KI-Modelle inzwischen etwa doppelt so schnell verbessert wie bis Herbst 2025, vor allem weil KI an ihrer eigenen Entwicklung mitarbeitet
  • PauseAI fordert ein Abkommen, das die Entwicklung immer leistungsfähigerer KI-Systeme pausiert, bis sie sicher möglich ist, und von der Bundesregierung, dass sie sich mit ihren europäischen Partnern dafür einsetzt

BERLIN, 14. November 2026

Rund 50 Menschen sind am Samstagmittag in Berlin-Schöneberg für ein internationales KI-Abkommen auf die Straße gegangen. Der Marsch führte von der Urania über die Kleiststraße zum Wittenbergplatz. Aufgerufen hatte die Bürgerinitiative PauseAI Deutschland. Am selben Tag marschieren Menschen in 16 Städten in den USA, Kanada, Chile, Frankreich, Deutschland und Australien, darunter Washington, New York, Paris und Toronto. In San Francisco, wo OpenAI und Anthropic ihren Sitz haben, beginnt der Marsch am Abend deutscher Zeit. Anlass ist der APEC-Gipfel in Shenzhen am 18. und 19. November, bei dem Donald Trump Xi Jinping treffen will. Die Demonstrierenden fordern, dass beide Verhandlungen über ein Abkommen aufnehmen, das die Entwicklung immer leistungsfähigerer KI pausiert.

Neue Dringlichkeit bekommt die Forderung durch einen Bericht, den das unabhängige Prüfinstitut METR am 5. November veröffentlicht hat. METR hat elf Wochen lang beim führenden KI-Labor Anthropic untersucht, wie sehr aktuelle KI-Modelle die Entwicklung neuer KI-Modelle bereits beschleunigen. Fachleute sehen darin eine Vorstufe zur rekursiven Selbstverbesserung, bei der eine KI ihren eigenen intelligenteren Nachfolger baut. Demnach verbessert Anthropic bereits seit Oktober 2025 die Fähigkeiten seiner Modelle etwa 1,9-mal schneller als in den zwölf Monaten davor. Für die gesamte Spitze der Branche liegt der Wert bei etwa 1,4. In einem Jahr hat das Unternehmen damit rund zwei Jahre des bisherigen Fortschritts geschafft. Den größten Teil der Beschleunigung, nach METRs Schätzung etwa 80 Prozent, führt das Institut darauf zurück, dass Anthropic KI in der eigenen Forschung einsetzt. Für die kommenden zwölf Monate sieht METR keine Engpässe, die den Fortschritt bremsen würden. Es bestehe deshalb „ein erhebliches Risiko“, dass sich die Entwicklung weiter beschleunigt.

„Das ist eine viel größere Sache, als es zunächst klingt. Ich halte diesen Bericht für die wichtigste neue Erkenntnis über KI-Risiken der letzten paar Jahre, viel wichtiger als den Angriff auf Hugging Face“, sagt Ajeya Cotra, Forscherin bei METR, die selbst nicht an dem Bericht mitgearbeitet hat.

Die Prognosegruppe AI Futures Project um den früheren OpenAI-Forscher Daniel Kokotajlo erwartet nach dem METR-Bericht nun, dass KI wahrscheinlich schon 2027 bessere KI-Forschung produziert als die besten menschlichen Forscher. Es sei deshalb „unglaublich dringend“, die Entwicklung zu pausieren oder deutlich zu drosseln, „idealerweise mit einer branchenweiten Pause, gefolgt von einem internationalen Abkommen“.

„Rekursive Selbstverbesserung, also KI, mit der KI verbessert wird, ist der Kern der Gefahr, vor der führende Wissenschaftlerinnen und Wissenschaftler und die PauseAI-Bewegung seit Jahren warnen. Und sie kommt früher, als die allermeisten Fachleute erwartet hatten“, sagt Maxime Fournes, Leiter der internationalen PauseAI-Bewegung. „Wir könnten die Kontrolle über KI verlieren. Sie wäre der Menschheit dann überlegen und könnte das Leben auf der Erde beenden, möglicherweise innerhalb von Monaten statt Jahren.“

Vieles davon kann die Öffentlichkeit nicht prüfen. Anthropic hat nach Angaben von METR den Großteil der Belege geschwärzt, die das Institut für am aussagekräftigsten hielt. METR hatte keinen direkten Zugang zu Anthropics Systemen. Eine geplante Prüfung, wie viel Rechenleistung Anthropic in Sicherheitsforschung steckt, hat das Unternehmen während der Untersuchung gestrichen. Zugleich schlägt Anthropic vor, die Entwicklung künftig zu verlangsamen und zu überwachen, statt sie anzuhalten. Fournes hält dagegen: „Wenn niemand weiß, wie man KI sicher baut, warum sollte man sie dann überhaupt bauen, in welchem Tempo auch immer? Dass nicht einmal unabhängige Prüfer direkten Zugang zu diesen Systemen bekommen, zeigt, dass wir die Forschung nicht einfach verlangsamen und überwachen können. Gar kein Training neuer Spitzenmodelle lässt sich leichter überprüfen als ein Teil davon.“

„Heute sind wir in Berlin auf die Straße gegangen, weil auch Deutschland gefragt ist. Wenn Washington und Peking über KI sprechen, muss Europa mit am Tisch sitzen und für ein Abkommen werben. Die Bundesregierung hat die Gefahr selbst benannt. Jetzt muss sie handeln“, sagt Ben Schmidt, Ko-Leiter von PauseAI Deutschland.

Bundeskanzler Friedrich Merz hat im September bei den Vereinten Nationen eine Erklärung zur Kontrolle von KI-Spitzenmodellen mitunterzeichnet. Digitalminister Karsten Wildberger hat eine internationale KI-Aufsichtsbehörde nach dem Vorbild der Internationalen Atomenergiebehörde vorgeschlagen. PauseAI fordert, dass die Bundesregierung diesen Worten Taten folgen lässt und gemeinsam mit den Mitgliedsstaaten der EU und Partnern wie Großbritannien ein KI-Abkommen anstößt.

Für Interviews stehen zur Verfügung:

  • Ben Schmidt, Ko-Leiter und Pressesprecher von PauseAI Deutschland
  • Sandra Schmidt, Ko-Leiterin von PauseAI Berlin
  • Dr. Karl-Ludwig von Wendt (Karl Olsberg), Bestsellerautor, promovierte 1988 über KI

Fotos: Google Drive. Freie Verwendung mit der Angabe „Foto: Kia K.“. Fotos unserer Kundgebung vom 1. November am Brandenburger Tor: picdrop, freie Verwendung mit der Angabe „Foto: Isabelle Schmitz“.

Hintergrund und Quellen:

Pressekontakt: Markus Weiss, 0172 4179388, markus@pauseai.info