Appell zum KI-Gipfel 2026
Wir fordern die deutsche Delegation des bevorstehenden KI-Gipfels auf, sich öffentlich für ein globales Abkommen auszusprechen, das die folgenden Prioritäten verankert:
Rote Linien
KI birgt das Risiko unvertretbarer globaler Auswirkungen. Es braucht klare Grenzen, die nicht überschritten werden dürfen.
Verbindliche Sicherheitsstandards
Der unkontrollierte KI-Wettlauf führt zur Vernachlässigung von Sicherheit. Regulierung mit unabhängiger internationaler Durchsetzung ist erforderlich.
Sicherheit und Fortschritt gehören zusammen.
Zitate
“Mit KI erschaffen wir eine neue intelligente Spezies, und wir tun dies häufig nicht mit der nötigen Sorgfalt, sondern in einem Wettlauf darum, wer es am schnellsten schafft. KI bietet viele Möglichkeiten, aber ohne internationale Sicherheitsstandards riskieren wir, von intellektuell überlegenen KIs verdrängt zu werden.”
“Mit KI erschaffen wir eine neue intelligente Spezies, und wir tun dies häufig nicht mit der nötigen Sorgfalt, sondern in einem Wettlauf darum, wer es am schnellsten schafft. KI bietet viele Möglichkeiten, aber ohne internationale Sicherheitsstandards riskieren wir, von intellektuell überlegenen KIs verdrängt zu werden.”
“Ich habe Informatik-Bildung in Bayern maßgeblich mitgestaltet. Die nächste Generation wird mit KI-Systemen aufwachsen, deren Möglichkeiten und Risiken wir selbst noch nicht überblicken. Verbindliche Sicherheitsregeln sind auch eine Frage der Verantwortung gegenüber jungen Menschen.”
“Bereits jetzt halte ich den Einfluss von KI für stark negativ: Auf die Menschheit, auf die Demokratie, auf den Planeten.”
“Sicherheit vor katastrophalen Entgleisungen ist ein menschliches Grundbedürfnis. Ein internationales Abkommen mit klaren Grenzziehungen wäre ein erster Schritt zu einer vertrauenswürdigen KI.”
“Als Forscher im Bereich Software Engineering weiß ich, wie schwer es ist, die Zuverlässigkeit komplexer Softwaresysteme sicherzustellen. Bei KI-Systemen, die ihr Verhalten selbst erlernen, ist diese Herausforderung um Größenordnungen schwieriger. Ohne verbindliche Prüfstandards fliegen wir im Blindflug.”
“Bevor ein neues Medikament auf den Markt kommt und Menschen verabreichte werden darf durchläuft es ausführliche Sicherheitsprüfungen. Bei KI-Systemen, die auch tief in unser Leben eingreifen können, gibt es keinen vergleichbaren Prozess. Dieses Missverhältnis verlangt nach Korrektur.”
“Im Software Engineering ist es eine Binsenweisheit, dass die Sorgfalt bei der Qualitätssicherung zu dem Risiko passen muss, das ein System erzeugt. Bei der KI agiert die Welt stattdessen nach der Devise „Wird schon nichts passieren!“. Der EU AI Act ist ein guter Anfang – in Europa; wir brauchen etwas Ähnliches dringend weltweit.”
“Neue Technologien bergen stets Chancen und Risiken. Künstliche Intelligenz bietet ungeahnte Potenziale. Genau deshalb sind Richtlinien erforderlich, und genau dies betonen Wissenschaftler aller Fachbereiche bereits seit etlichen Jahren. Es wird Zeit, dass ihre Stimme in der Politik endlich zu Konsequenzen führt.”
“Als Dekan für Mathematik und Informatik habe ich die Begeisterung über KI-Fortschritte jeden Tag erlebt. Nicht zuletzt durch die intensive Auseinandersetzung im Rahmen unserer Vortragsreihe 'KI und Ethik' habe ich aber auch eine Vielzahl offener Sicherheitsbedenken und ethischer Fragestellungen erkannt, die mit jedem Fähigkeitssprung drängender werden. Ein internationaler Ordnungsrahmen ist daher längst überfällig.”
“Menschliches Denken und künstliche Intelligenz sind grundlegend verschieden. Bevor wir diese Unterschiede nicht verstehen, wissen wir nicht, wohin sich die KI selbst entwickeln wird. Mit ihr füttern wir einen Drachen, dessen langfristiges Verhalten wir nicht einschätzen können.”
“Menschen mit psychischen Problemen suchen immer häufiger nach Beratung und Unterstützung durch KI-Systeme, die mit ihnen wie ein Psychotherapeut / eine Psychotherapeutin interagieren. Gerade in schwierigen Lebenslagen sind wir Menschen anfällig für Beeinflussung. Deswegen benötigen wir klare und verbindliche Regeln für die Anwendung von solchen Systemen auch im Bereich der Klinischen Psychologie und Psychotherapie.”
“Wenn man Systeme erschafft, die intelligenter sind als man selbst, ist es unmöglich die Konsequenzen abzuschätzen. Neben den immensen Chancen die KI bietet, sind jedoch die Unsicherheiten so groß, dass effektive Kontrollmechanismen notwendig sind.”
“Als Umweltwissenschaftler sehe ich Parallelen zwischen dem Klimawandel und der KI-Entwicklung: Beide sind globale Risiken, bei denen frühes Handeln ungleich wirksamer ist als späte Schadensbegrenzung. Internationale Sicherheitsstandards für KI sind eine Frage der Vorsorge.”
“In der Klimaforschung erleben wir, was passiert, wenn systemische Risiken zu lange ignoriert werden. Auch bei der KI-Entwicklung gibt es klare Warnungen und auch hier fehlt bisher der politische Wille zum konsequenten Handeln.”
“Mein Forschungsgebiet ist das komplexe Problemlösen und Denken beim Menschen. KI-Systeme „denken“ inzwischen für uns und lösen zunehmend Probleme, deren Lösung wir ihnen nicht explizit beigebracht haben. Diese Entwicklung ist beeindruckend und zugleich beunruhigend, denn wir haben keine zuverlässige Methode, die Eigenständigkeit dieser Systeme einzugrenzen.”
“Sprachmodelle (LLMs) zum Design von synthetischen Genomen haben großes Potential. Um das Potential verantwortungsvoll nutzen zu können, braucht es weitsichtige Regeln.”
“Meine Forschung zeigt, wie schwierig es ist, kollektive Übergänge zu nachhaltigen Systemen zu gestalten. Bei KI stehen wir vor einer ähnlichen Herausforderung: Ohne kluge internationale Regeln werden kurzfristige Wettbewerbsinteressen langfristige Sicherheit verdrängen.”
“Auch neue Errungenschaften brauchen Regeln, um für die Allgemeinheit nicht zur Belastung zu werden.”
“In der Molekularbiologie und Biochemie sehen und nutzen wir bereits das enorme Potenzial von KI für die Forschung. Gleichzeitig warnen führende KI-Unternehmen selbst davor, dass ihre Systeme den Missbrauch biologischen Wissens erleichtern könnten. Das verlangt dringend nach verbindlichen Schutzmaßnahmen.”
“Aus technikphilosophischer Sicht ist darauf hinzuweisen, dass jede Technik Möglichkeiten (Chancen, Risiken) birgt, die ihre ursprüngliche strategische und operative Auslegung überschreiten. Für die KI ist diese Problematik besonders virulent, weil die Intransparenz von Prozessen, autonome Entwicklungsdynamiken sowie falsche Interpretationen ihrer Leistungen und Grenzen verantwortungsvolle Gestaltung erschweren oder gar verdrängen. Da die Wahrung von Chancen die weitestmögliche Vermeidung der Risiken irreversibler Entwicklungen voraussetzt, ist die Festlegung von „roten Linien“ und international überwachten Sicherheitsstandards, wie sie auch für Anbieter und Nutzer anderer Hochtechnologien gelten, unverzichtbar. Nur so kann die Möglichkeit eines bewussten und verantwortungsvollen Umgangs mit KI erhalten werden.”
“In der physikalischen Erdsystemforschung modellieren wir Wechselwirkungen und Prozesse im Klimasystem unter veränderlichen Randbedingungen, wie dem globalen Energiebedarf und Treibhausgaskonzentrationen. Die unkontrollierte, nicht auf Nachhaltigkeit ausgerichtete Entwicklung und Verbreitung von KI-Systemen würde den Klimawandel eher beschleunigen als zu seiner Bewältigung beitragen. Internationale Koordination ist hier keine Option, sondern eine Notwendigkeit.”
Unterzeichnende
- Katharina AndersProfessorin für Fernerkundungsanwendungen an der TU München
- Sven ApelProfessor für Software Engineering an der Universität des Saarlandes
- Markus AsperProfessor für Gräzistik an der HU Berlin
- Rainer BanseProfessor für Sozial- und Rechtspsychologie an der Universität Bonn
- Wolfram BarfussArgelander-Professor für Integrierte Systemmodellierung für Nachhaltigkeitstransformation an der Universität Bonn
- Matthias BartelmannProfessor für Theoretische Astrophysik an der Universität Heidelberg
- Katharina BaumProfessorin für Informatik an der FU Berlin
- Michael BeaneyHonorarprofessor für Analytische Philosophie an der HU Berlin
- Gregor BetzProfessor für Computationale Philosophie und Philosophische Methoden am KIT
- Dieter BirnbacherProfessor i. R. für Praktische Philosophie an der HHU Düsseldorf
- Karl-Hans BläsiusProfessor i. R. für Informatik an der Hochschule Trier
- Tobias BonhoefferDirektor der Abteilung Synapsen - Schaltkreise - Plastizität am Max-Planck-Institut für biologische Intelligenz
- Katharina BrizićProfessorin für Mehrsprachigkeitsforschung an der Universität Freiburg
- Katja BühlerProfessorin für Technologie produktiver Biofilme an der TU Dresden
- Andrzej J. BurasMax-Planck-Medaillen-Träger (2020) und Professor emeritus für Theoretische Physik an der TU München
- Livia CabernardAssistant Professorin für Sustainability Assessment of Food and Agricultural Systems an der TU München
- Natalia DanzerProfessorin für Empirische Wirtschaftsforschung und Gender an der FU Berlin
- Vera DembergProfessorin für Computer Science and Computational Linguistics an der Universität des Saarlandes
- Jens DittrichProfessor für Informatik und Wirtschaftsinformatik an der Universität des Saarlandes
- Petra DobnerProfessorin für Systemanalyse und Vergleichende Politikwissenschaft an der MLU Halle-Wittenberg
- Michael DomsgenProfessor für Evangelische Religionspädagogik an der Martin-Luther-Universität Halle-Wittenberg; Dekan der Theologischen Fakultät
- Thomas DöringProfessor für Agrarökologie und Organischen Landbau an der Universität Bonn
- Evelyn FerstlProfessorin für Kognitionswissenschaft und Genderforschung an der Universität Freiburg
- Guido FitzeProfessor und Klinikdirektor der Klinik und Poliklinik für Kinderchirurgie am Universitätsklinikum Dresden
- Petra FörstProfessorin für Food Process Engineering an der TU München
- Martin FrankProfessor für Computational Science and Mathematical Methods und Direktor des SCC am KIT
- Claudia FrickeProfessorin für Tierökologie an der Martin-Luther-Universität Halle-Wittenberg
- Niels-Christian FritscheProfessor am Institut für Grundlagen der Gestaltung und Darstellung (Architektur) an der TU Dresden
- Thomas FuchsProfessor für Psychiatrie und Psychotherapie an der Universität Heidelberg
- Joachim FunkeProfessor i. R. für Allgemeine und Theoretische Psychologie an der Universität Heidelberg
- Michael GelinskyProfessur für Translationale Knochen-, Gelenk- und Weichgewebeforschung Universitätsklinikum und Medizinische Fakultät TU Dresden
- Uwe GellertProfessor für Mathematische Bildung und Gesellschaft an der FU Berlin
- Kerstin GöpfrichProfessorin für Molekularbiologie am Zentrum für Molekularbiologie der Universität Heidelberg (ZMBH)
- Günther GörzProfessor emeritus für Künstliche Intelligenz an der FAU Erlangen-Nürnberg
- Daniel GrieserProfessor für Mathematik an der Universität Oldenburg
- Elmar Große-KlönneProfessor für Algebra und Zahlentheorie an der HU Berlin
- Matthias GrotkoppJuniorprofessor für Filmwissenschaft an der FU Berlin
- Cathleen GrunertProfessorin für Erziehungswissenschaft mit dem Schwerpunkt soziokulturelle Bedingungen von Erziehung und Bildung an der MLU Halle-Wittenberg
- Tom GüldemannProfessor für Afrikanische Sprachen an der HU Berlin
- Christian HaaseProfessor am Institut für Mathematik der FU Berlin
- Uwe HampelProfessor für Bildgebende Messverfahren für die Energie- und Verfahrenstechnik an der TU Dresden
- Albrecht HartmannAußerplanmäßiger Professor in der Abteilung Musikpädagogik an der MLU Halle-Wittenberg
- Eberhard HauschildtProfessor emeritus für Praktische Theologie an der Universität Bonn
- Michael HeizmannProfessor für Mechatronische Messsysteme und Institutsleiter am KIT
- Christopher HempelJuniorprofessor für Fächerübergreifende Grundschuldidaktik an der Martin-Luther-Universität Halle-Wittenberg
- Ellen HenkeProfessorin für Algebra mit Schwerpunkt Gruppentheorie an der TU Dresden
- Norbert HenzeProfessor i. R. für Mathematische Statistik am KIT
- Andreas HerzProfessor für Computational Neuroscience an der LMU München
- Dariush HinderbergerProfessor für Physikalische Chemie an der Martin-Luther-Universität Halle-Wittenberg
- Peter HornungProfessor für Partielle Differentialgleichungen an der TU Dresden
- Christoph HubigProfessor emeritus für Praktische Philosophie und Technikphilosophie an der TU Darmstadt
- Peter HubwieserProfessor i. R. für Didaktik der Informatik an der TU München
- Mandy JeskeLeiterin einer Emmy-Noether-Gruppe am Biochemie-Zentrum der Universität Heidelberg (BZH)
- Oliver JungeProfessor für Numerik komplexer Systeme an der TU München
- Hiltrud KierHonorarprofessorin für Kunstgeschichte an der Universität Bonn
- Andreas KirschProfessor i. R. in der Arbeitsgruppe Inverse Probleme am KIT
- Peter KirschProfessor für Klinische Psychologie an der Universität Heidelberg und Abteilungsleiter Klinische Psychologie am ZI Mannheim
- Rupert KleinProfessor für Numerische Strömungsmechanik (Scientific Computing) am Institut für Mathematik der FU Berlin
- Martin KlepperProfessor für Literatur und Kultur Nordamerikas am Institut für Anglistik und Amerikanistik der HU Berlin
- Peter KnippertzProfessor für Meteorologie und Leiter der Arbeitsgruppe Atmosphärische Dynamik am KIT
- Judith KorbProfessorin für Evolutionsbiologie und Ökologie an der Universität Freiburg
- Ralf KornhuberProfessor für Numerische Mathematik (Numerik partieller Differentialgleichungen) an der FU Berlin
- Katharina KrischerProfessorin für Chemische Physik fern des Gleichgewichts an der TU München
- Johann KrohaProfessor für Theoretische Festkörperphysik an der Universität Bonn
- Wolfgang KuchProfessor am Institut für Experimentalphysik der FU Berlin
- Kristina KühnProfessorin für Pflanzenphysiologie an der Martin-Luther-Universität Halle-Wittenberg
- Mario KummerJuniorprofessor für Reelle algebraische Geometrie an der TU Dresden
- Thomas KunerProfessor und Institutsleiter am Institut für Anatomie und Zellbiologie der Universität Heidelberg
- Christina KuttlerProfessorin für Mathematik in den Lebenswissenschaften an der TU München
- Manfred LoimeierAußerplanmäßiger Professor für Afrikanische Literaturen mit Schwerpunkt der englischen Literaturen an der Universität Heidelberg
- Anke LüdelingProfessorin für Korpuslinguistik und Morphologie an der HU Berlin
- Ferdinand LudwigProfessor für Green Technologies in Landscape Architecture an der TU München
- Elisabeth MaywegProfessorin für Medienbildung in Schule und Hochschule an der HU Berlin
- Torsten MeireisProfessor für Systematische Theologie (Ethik/Hermeneutik) an der HU Berlin
- Taïeb MellouliProfessor für Wirtschaftsinformatik und Operations Research an der MLU Halle-Wittenberg
- Robert MikuttaProfessor für Bodenkunde und Bodenschutz an der MLU Halle-Wittenberg
- Katharina MorikProfessorin und Leiterin des Lehrstuhls für Künstliche Intelligenz an der TU Dortmund
- Frank MücklichProfessor für Funktionswerkstoffe an der Universität des Saarlandes
- Claudia Müller-BirnProfessorin für Human-Centered Computing an der FU Berlin
- Katja NebeProfessorin für Bürgerliches Recht, Arbeitsrecht und Recht der Sozialen Sicherheit an der MLU Halle-Wittenberg
- Stefan NeukammProfessor für Angewandte Analysis (Institut für Wissenschaftliches Rechnen) an der TU Dresden
- Albert NewenProfessor für Philosophie mit Schwerpunkt Philosophie des Geistes an der Ruhr-Universität Bochum
- Manuela NiethammerProfessorin für Bautechnik, Holztechnik sowie Farbtechnik und Raumgestaltung / Berufliche Didaktik an der TU Dresden
- Julia NitzAußerplanmäßige Professorin für Amerikanische Literatur und Kultur an der MLU Halle-Wittenberg
- Katharina Pahnke-MayProfessorin für Marine Isotopengeochemie an der Universität Oldenburg
- Sebastian PannaschProfessor für Ingenieurpsychologie und angewandte Kognitionsforschung an der TU Dresden; Prodekan und Studiendekan der Fakultät Psychologie
- Dirk PaulyAußerplanmäßiger Professor für Angewandte Funktionalanalysis an der TU Dresden
- Edgar PeiterProfessor für Pflanzenernährung an der MLU Halle-Wittenberg
- Claudia PeusProfessorin für Forschungs- und Wissenschaftsmanagement an der TU München
- Reinhard PohlAußerplanmäßiger Professor und Leiter des Lehrgebiets Hydromechanik im Wasserbau an der TU Dresden
- Wolfgang PolifkeProfessor für Thermofluiddynamik an der TU München School of Engineering and Design
- Lutz PrecheltProfessor für Software Engineering an der FU Berlin
- Viola PriesemannProfessorin an der Universität Göttingen und Leiterin einer Max-Planck-Forschungsgruppe für Theorie neuronaler Systeme
- Marcel QuintProfessor für Ertragsphysiologie der Kulturpflanzen an der Martin-Luther-Universität Halle-Wittenberg
- Ronny RedlichProfessor und Abteilungsleiter Biologische und Klinische Psychologie an der MLU Halle-Wittenberg
- Andreas ReisererProfessor für Quantum Networks an der TU München
- Ingo RöderProfessor für Medizinische Statistik und Biometrie; Direktor des Instituts für Medizinische Informatik und Biometrie an der TU Dresden
- Martin RolfsProfessor für Allgemeine Psychologie: Aktive Wahrnehmung und Kognition an der HU Berlin
- Volker RothProfessor für Informatik (Leiter der Arbeitsgruppe Sichere Identität) an der FU Berlin
- Michael RotherProfessor für Mikrobielle Diversität an der TU Dresden
- Andreas RutzProfessor für Sächsische Landesgeschichte an der TU Dresden
- Diyora SalimovaJuniorprofessorin für Numerische Mathematik und maschinelles Lernen an der Universität Freiburg
- Michael SattlerProfessor für Biomolekulare NMR-Spektroskopie an der TU München
- William S. SaxProfessor und Leiter der Abteilung Ethnologie am Südasien-Institut der Universität Heidelberg
- Ina SchenkerJuniorprofessorin für Inter- und Transkulturelle Studien (Frankreich/Frankophonie) an der Martin-Luther-Universität Halle-Wittenberg
- Michael SchindeleggerJuniorprofessor für Geodätische Erdsystemforschung an der Universität Bonn
- Georg J. SchmidtProfessor für Nanostrukturierte Materialien am Institut für Physik der Martin-Luther-Universität Halle-Wittenberg
- Christian SchneiderProfessor für Quantum Materials an der Universität Oldenburg
- Peter ScholzeFields-Medaillen-Träger (2018) und Direktor am Max-Planck-Institut für Mathematik in Bonn
- Michael SchröterSeniorprofessor für Elektronische Bauelemente und Integrierte Schaltungen an der TU Dresden
- Marc SchumannProfessor und Leiter der Arbeitsgruppe Astroteilchenphysik an der Universität Freiburg
- Petra SchwerProfessorin für Mathematik an der Universität Heidelberg
- Thomas Schwetz-MangoldProfessor und Leiter der Gruppe Theoretische Astroteilchenphysik am KIT
- Christian SeidelProfessor für Computationale Philosophie, Philosophische Methoden, Moralphilosophie und Angewandte Ethik am KIT
- Jan SiemensProfessor am Pharmakologischen Institut der Universität Heidelberg
- Andreas Urs SommerProfessor für Kulturphilosophie und Nietzsche-Forschung an der Universität Freiburg
- Lucia SommererJuniorprofessorin für Kriminologie an der MLU Halle-Wittenberg
- Bernhard SteffenProfessor für Programmiersysteme an der TU Dortmund
- Dominik SteigerProfessor für Völkerrecht, Europarecht und Öffentliches Recht an der TU Dresden
- Klaus von StoschProfessor und Inhaber des Lehrstuhls für Systematische Theologie an der Universität Bonn
- Andreas ThomProfessor für Geometrie an der TU Dresden
- Markus TiedemannProfessor für Didaktik der Philosophie und Ethik an der TU Dresden
- Carsten TimmProfessor für Theorie der kondensierten Materie an der TU Dresden
- Marc TimmeProfessor für Netzwerk-Dynamik an der TU Dresden
- Jens TimmerProfessor für Dynamische Prozesse in den Lebenswissenschaften an der Universität Freiburg
- Anita TraningerProfessorin für Romanische Philologie mit Schwerpunkt Rhetorik an der FU Berlin
- Otmar VenjakobProfessor für Mathematik an der Universität Heidelberg
- Susann WagenknechtProfessorin für Mikrosoziologie und technosoziale Interaktion an der TU Dresden
- Rebecca WaldeckerProfessorin für Algebra an der Martin-Luther-Universität Halle-Wittenberg
- Gerhard WannerProfessor für Informatik an der HFT Stuttgart
- Claudia Wich-ReifProfessorin für Geschichte der Deutschen Sprache und Sprachliche Variation an der Universität Bonn
- Simon WiegertProfessor für Neurophysiologie und Leiter der Abteilung Neurophysiologie an der Medizinischen Fakultät Mannheim der Universität Heidelberg
- Katharina WielandProfessorin für Didaktik der romanischen Sprachen an der Martin-Luther-Universität Halle-Wittenberg; Geschäftsführende Direktorin des Instituts für Romanistik
- Joost WintterlinProfessor für Physikalische Chemie an der LMU München
- Daniel WranaProfessor für Systematische Erziehungswissenschaft an der Martin-Luther-Universität Halle-Wittenberg; Prodekan für Studium und Lehre der Philosophischen Fakultät III
- Oliver WurlProfessor für Marine Sensor Systems an der Universität Oldenburg
- Michael ZechProfessor für Physische Geographie an der TU Dresden
- Oliver ZierauProfessor für Umweltmonitoring und Endokrinologie an der TU Dresden
- Frank ZimmermannProfessor für Deutsches, Europäisches und Internationales Straf- und Strafprozessrecht sowie Strafrecht der Digitalisierung an der Freiburg
- Michael ZürnDirektor der Abteilung Global Governance am WZB und Professor für Internationale Beziehungen an der FU Berlin
- Wilhelm ZwergerProfessor für Theoretische Physik (Vielteilchenphänomene in der Festkörperphysik) an der TU München
Wenn Sie Professor:in sind und unterzeichnen möchten, schreiben Sie uns bitte eine E-Mail an germany@pauseai.info.
Kontext: Weshalb dieser Appell?
KI steigert Produktivität und treibt medizinischen Fortschritt voran, doch die rasante Entwicklung birgt auch große Risiken, die über alle Ländergrenzen hinaus wirken. Warnungen weltweit führender Expert:innen machen deutlich: Nur durch internationale Zusammenarbeit bekommt die Welt Gefahren von Missbrauch bis Kontrollverlust in den Griff.[1], [2]
Beim ersten AI Safety Summit (Bletchley 2023) warnte die Erklärung vor dem „Potenzial für schwerwiegende, sogar katastrophale Schäden", und die Unterzeichnenden beschlossen, gemeinsam sichere KI zu gewährleisten.
Doch beim AI Action Summit (Paris 2025) verschwand Sicherheit hinter Wirtschaftsinteressen.Professor Max Tegmark vom MIT sagte, „es fühlte sich fast so an, als würde man versuchen, Bletchley rückgängig zu machen," und nannte das Fehlen von Sicherheit in der Erklärung „ein Rezept für eine Katastrophe."
Nun steht der AI Impact Summit (Delhi, Kernphase 19.–20. Februar 2026) bevor, aber verbindliche Sicherheitsregeln stehen nicht auf der Agenda.
Von „Safety" zu „Action" zu „Impact": Sicherheit verschwindet aus dem Namen. Doch über 100 britische Parlamentar:innen unterstützen verbindliche Regulierungen für die fortgeschrittensten KI-Systeme, und zwölf Nobelpreisträger:innen und hunderte Expert:innen fordern, dass „bis Ende 2026 ein internationales Abkommen in Kraft treten soll, welches rote Linien für KI festlegt und deren Durchsetzung sicherstellt."
Der Gipfel in Delhi ist ein entscheidender Moment, diesen Aufrufen zu folgen und den Kurs zu ändern. Deutschland ist als gewichtige internationale Stimme gut positioniert, um dies anzustoßen.
FAQ
Was sind rote Linien für KI?
Rote Linien verbieten KI-Systeme, die ein unannehmbares Risiko für uns alle bedeuten würden.
Darunter fallen etwa Systeme, die:
- sich unkontrolliert selbst verbessern,
- Menschen systematisch täuschen,
- oder katastrophalen Missbrauch wie die Entwicklung von Biowaffen zulassen.
Wie könnte ein internationales Abkommen durchgesetzt werden?
Das Training der größten allgemeinen KI-Modelle erfordert heute riesige Rechenzentren mit spezialisierten Computerchips. Diese Konzentration macht eine Regulierung gut umsetzbar.
Ein internationales Abkommen könnte auf drei Säulen basieren:
- Internationale Aufsicht: Eine neue internationale Behörde überprüft die Einhaltung von Sicherheitsstandards in Zusammenarbeit mit nationalen Behörden. Whistleblower werden geschützt.
- Rechenleistung sichtbar machen: Große Trainingsläufe werden registriert und beaufsichtigt. KI-Chips können technisch so gestaltet werden, dass ihre Nutzung nachvollziehbar wird.
- Konsequenzen bei Verstößen: Staaten beschließen gemeinsame Sanktionen gegen Akteure, die rote Linien überschreiten, und entwickeln Strategien für den Umgang mit Krisen.
Was sind rote Linien für KI?
Rote Linien verbieten KI-Systeme, die ein unannehmbares Risiko für uns alle bedeuten würden.
Darunter fallen etwa Systeme, die:
- sich unkontrolliert selbst verbessern,
- Menschen systematisch täuschen,
- oder katastrophalen Missbrauch wie die Entwicklung von Biowaffen zulassen.
Wie könnte ein internationales Abkommen durchgesetzt werden?
Das Training der größten allgemeinen KI-Modelle erfordert heute riesige Rechenzentren mit spezialisierten Computerchips. Diese Konzentration macht eine Regulierung gut umsetzbar.
Ein internationales Abkommen könnte auf drei Säulen basieren:
- Internationale Aufsicht: Eine neue internationale Behörde überprüft die Einhaltung von Sicherheitsstandards in Zusammenarbeit mit nationalen Behörden. Whistleblower werden geschützt.
- Rechenleistung sichtbar machen: Große Trainingsläufe werden registriert und beaufsichtigt. KI-Chips können technisch so gestaltet werden, dass ihre Nutzung nachvollziehbar wird.
- Konsequenzen bei Verstößen: Staaten beschließen gemeinsame Sanktionen gegen Akteure, die rote Linien überschreiten, und entwickeln Strategien für den Umgang mit Krisen.
Internationale Expert:innen
“Die Minderung des Risikos eines Aussterbens durch KI sollte eine globale Priorität sein, gleichrangig mit anderen Risiken gesamtgesellschaftlichen Ausmaßes wie Pandemien und Atomkrieg.”
“Die Minderung des Risikos eines Aussterbens durch KI sollte eine globale Priorität sein, gleichrangig mit anderen Risiken gesamtgesellschaftlichen Ausmaßes wie Pandemien und Atomkrieg.”
“Ich habe vier Jahre im Sicherheitsteam von OpenAI gearbeitet und kann Ihnen mit Gewissheit sagen: KI-Unternehmen nehmen Ihre Sicherheit nicht ernst genug, und sie sind nicht auf dem Kurs, kritische Sicherheitsprobleme zu lösen.”
“Wir betonen: Einige KI-Systeme zeigen bereits heute die Fähigkeit und Neigung, die Sicherheits- und Kontrollbemühungen ihrer Entwickler zu untergraben.”
Petition für Bürger:innen
Unterschreibe unsere parallele Petition auf Change.org, um der deutschen Delegation zu zeigen, dass du dir mehr Sicherheit beim Thema KI wünschst.
Jetzt unterschreibenPressekontakt
Für Interviews und Hintergrundgespräche stehen wir gerne zur Verfügung.
Schreiben Sie uns bitte eine E-Mail an germany@pauseai.info.