Häufige Fragen

PauseAI Deutschland ist Teil einer internationalen Bewegung, die sich gegen die Entwicklung gefährlicher KI-Systeme einsetzt. Wir sind parteipolitisch unabhängig. Unser Maßstab sind wissenschaftliche Erkenntnisse, demokratische Grundwerte und die Souveränität der Menschheit. Wir wollen nicht heutige KI abschaffen, sondern fordern ein globales Abkommen, das die Entwicklung unkontrollierbarer KI-Systeme verhindert.

Nein. Die meisten von uns stehen neuer Technik offen gegenüber, viele arbeiten selbst mit KI und sehen ihren großen Nutzen. Unser Anliegen ist nicht KI an sich, sondern der Bau von Systemen, die niemand mehr kontrollieren kann.

Nein, nur die Entwicklung der leistungsstärksten universellen Systeme, der sogenannten Frontier-Modelle. Fast alle heutige KI bliebe nach unserem Vorschlag erlaubt, ebenso die meisten künftigen Modelle. Wir fordern einen Stopp der besonders mächtigen allgemeinen Systeme, bis wir wissen, wie man nachweislich sichere KI baut und sie unter demokratischer Kontrolle steht.

Nein. Die heutigen KI-Modelle sind keine existenzielle Bedrohung, und die nächsten werden es vermutlich auch nicht sein. Aber wenn wir immer leistungsfähigere Systeme bauen, erreichen wir irgendwann den Punkt, an dem eines zur existenziellen Bedrohung wird. Diesen Punkt wollen wir nicht abwarten.

Ja. Superintelligenz entsteht nicht von allein. Sie braucht sehr viele hochbezahlte Fachleute, eine funktionierende Lieferkette für hochkomplexe Chips und Regierungen, die die KI-Firmen einfach machen lassen. All das lässt sich regulieren. Mehr dazu, warum eine Pause machbar ist.

Wir finanzieren uns über Spenden. Jede Spende bringt uns weiter. Bei Interesse schreib uns an germany@pauseai.info.

Indem wir aufklären. Wenn Politikerinnen und Politiker die Faktenlage verstehen, erkennen sie das Risiko. Es betrifft sie selbst wie uns alle, es geht um unser aller Zukunft, und das ist ein starker Grund zu handeln. Wie wir dahin kommen, steht in unserer Theory of Change.

Protest zeigt, dass uns das Thema wichtig ist und wir bereit sind, Zeit und Energie einzusetzen, damit man uns zuhört.

• Proteste können öffentliche Meinung, Wahlverhalten, Unternehmen und Politik beeinflussen , oft positiv.
• Die große Mehrheit befürwortet friedliche Proteste .
• Für einen „Backfire“-Effekt gibt es keinen Beleg, außer bei Gewalt . Unsere Proteste sind friedlich.
• Man trifft Menschen, die dieselbe Sorge teilen.

Führende Fachleute halten das für ein reales Risiko. Yoshua Bengio, der meistzitierte Wissenschaftler der Welt und Mitgründer der modernen KI, schätzt die Wahrscheinlichkeit auf 20 Prozent . Der Forecaster und KI-Forscher Daniel Kokotajlo nennt sogar 70 Prozent. Weitere Einschätzungen findest du in unserer Übersicht.

Niemand kennt das genaue Datum, aber die Fachleute rechnen mit Jahren bis Jahrzehnten, nicht mit Jahrhunderten. Yoshua Bengio beziffert KI auf menschlichem Niveau auf 5 bis 20 Jahre, mit 90 Prozent Konfidenz. Der Forecaster und KI-Forscher Daniel Kokotajlo rechnet noch in diesem Jahrzehnt damit. Die Prognoseplattform Metaculus nennt derzeit einen Median um 2032. Die Geschichte zeigt, dass der Fortschritt immer wieder unterschätzt wird. Wir sollten handeln, als bliebe wenig Zeit. Mehr zur Dringlichkeit.

Wir fordern vor allem eine internationale Pause, festgeschrieben in einem verbindlichen Vertrag, den auch China unterzeichnet. Wenn ein solcher Vertrag garantiert, dass alle anderen ebenfalls stoppen, und wenn er überprüfbar ist, liegt das auch in Chinas Interesse. Eine kontrollorientierte Regierung hat allen Grund, unkontrollierbare KI zu fürchten. China gehört bei KI ohnehin zu den am strengsten regulierenden Staaten und hat als bislang einziges Land im UN-Sicherheitsrat eine Pause ins Gespräch gebracht. Ein Wettrennen um eine Technologie, die niemand kontrollieren kann, hat keine Gewinner.

Die großen KI-Firmen wie OpenAI, Google und Anthropic rufen zwar nach Regeln, meist aber nur nach freiwilligen Selbstverpflichtungen. Das Problem: Über eine Technologie, die uns alle betrifft, sollten nicht die Firmen entscheiden, die sie bauen und daran verdienen. Sie entwickeln immer weiter und wollen selbst festlegen, ab wann es zu gefährlich wird. Diese Entscheidung gehört nicht in die Hände einiger Unternehmen, sondern zu Staaten und Gesellschaft, also zu uns allen. Deshalb fordern wir verbindliche staatliche Regeln auf internationaler Ebene, keine Versprechen der Industrie.

Nein. Vor dem existenziellen Risiko warnen Wissenschaftler und Aktivisten schon seit den frühen 2000ern, lange bevor es die heutigen KI-Firmen gab. Die Firmen selbst haben das Thema jahrelang gemieden und erst 2023 anerkannt, als der Druck zu groß wurde. Normalerweise spielen Firmen die Risiken ihrer Produkte herunter, um Kunden zu gewinnen, nicht hoch. Dass sie die Gefahr trotzdem einräumen, spricht dafür, dass sie real ist. Mehr dazu: Psychologie des existenziellen Risikos.