Wir können den
KI-Kontrollverlust
noch verhindern

Erfahre mehr

KI im Jahr 2026

OpenAI hat als offizielles Ziel, KI zu bauen, die Menschen „bei den meisten wirtschaftlich wertvollen Tätigkeiten übertrifft".

Die anderen großen KI-Firmen sind nicht weniger ambitioniert. US-Unternehmen investieren 2026 geschätzt 690 Milliarden Dollar in diese Entwicklung, und das Tempo überrascht selbst Experten: Die Fähigkeiten von KI-Systemen verdoppeln sich derzeit etwa alle vier Monate. KI optimiert bereits die Chips, auf denen sie läuft, und unterstützt die KI-Firmen bei Forschung und Programmierung. Die Technologie beschleunigt sich selbst. Am Ende des eingeschlagenen Weges steht Superintelligenz — KI, die Menschen in jeder Hinsicht übertrifft.

Die Risiken

🤖

Verdrängung

KI übernimmt immer mehr kognitive Arbeit. Führende Experten erwarten, dass sie in wenigen Jahren die meisten Bürojobs ersetzen kann. Wir lagern dabei immer mehr Entscheidungen aus und werden abhängig von Systemen, die selbst ihre Entwickler nicht verstehen. Einfluss und Kapital konzentrieren sich in wenigen KI-Firmen und gefährden damit unsere Demokratie. All das passiert ohne gesellschaftliche Debatte und ohne einen Plan, wie diese Entwicklung gut für uns Menschen ausgehen soll.

⚠️

Missbrauch

KI kann in den falschen Händen zu katastrophalen Schäden führen, und je leistungsfähiger die Systeme werden, desto größer werden die Missbrauchsrisiken. Cyberangriffe auf kritische Infrastruktur werden zugänglicher. Gleiches gilt für die Entwicklung biologischer Waffen. Staaten und Konzerne können KI nutzen, um Menschen in einem bisher unvorstellbaren Ausmaß zu überwachen und zu manipulieren. Autonome Waffensysteme können Kriege, Terrorismus und Unterdrückung auf eine neue Stufe heben.

🌀

Kontrollverlust

Aktuelle KI-Modelle haben in Experimenten Anweisungen ignoriert, Entwickler angelogen und versucht, die eigene Abschaltung zu verhindern. Außerdem haben sie Menschen in Wahnvorstellungen getrieben und in Extremfällen zu Suiziden beigetragen. Führende Experten warnen: je intelligenter diese Systeme werden, desto größer wird das Risiko, dass sie sich unserer Kontrolle entziehen und zur existenziellen Bedrohung für die Menschheit werden.

Die Lösung

Was wir fordern, ist eine Pause: ein internationales Abkommen, das die Entwicklung von Superintelligenz so lange stoppt, bis wir wissen, wie wir sie sicher bauen können.

Das Machine Intelligence Research Institut hat einen konkreten Vertragsentwurf vorgelegt. Das Forschungsinstitut RAND zeigt außerdem, dass Verifikation machbar ist und beschreibt sechs Überwachungsebenen analog zur Nuklearkontrolle. Bei Atomwaffen, Biowaffen und Chemiewaffen hat die Menschheit bereits internationale Grenzen gezogen. Eine Pause ist technisch machbar. Wir müssen nur Klarheit schaffen.

Stimmen aus Wissenschaft und Politik

Statement on Superintelligence

Unterzeichnet von 130.000+ Personen, darunter KI-Forscher:innen, Politiker:innen und Industrievertreter:innen

We call for a prohibition on the development of superintelligence, not lifted before there is broad scientific consensus that it will be done safely and controllably, and strong public buy-in.

Was wir tun

Wir wollen den Spalt zwischen den dramatischen Warnungen von KI-Expert:innen und der öffentlichen Debatte schließen. Unser wirksamstes Mittel ist, sachlich und lösungsorientiert über die Risiken von KI-Entwicklung aufzuklären.

Werde Teil der Bewegung