KI sollte uns dienen, nicht den Tech-Milliardären!
An die Europäische Kommission, das Europäische Parlament und die Mitgliedstaaten der EU
Appell
Wir fordern Sie auf, die Vorschriften zum Schutz unserer Daten zu verschärfen und sich dafür einzusetzen, dass Unternehmen die Entwicklung gefährlicher KI-Systeme vorübergehend aussetzen, bis sie gegenüber unabhängigen Gutachtern nachweisen können, dass die Systeme sicher sind. KI-Systeme dürfen unsere Lebensgrundlagen und unsere Sicherheit nicht gefährden.
Wir fordern Sie ausdrücklich auf:
- Verlangen Sie von Unternehmen den Nachweis, dass ihre leistungsstärksten KI-Systeme von Grund auf sicher sind, bevor sie diese entwickeln oder einsetzen.
- Stoppen Sie die Entwicklung von KI-Systemen, die gefährliche Fähigkeiten aufweisen, bis deren Sicherheit gewährleistet werden kann.
- Zwingen Sie KI-Unternehmen zur Transparenz darüber, wie ihre Systeme entwickelt und getestet werden, und machen Sie sie rechtlich für den Schaden haftbar, den diese Systeme verursachen.
- Sorgen Sie dafür, dass die Kontrolle über die KI beim Menschen bleibt. KI sollte keine wichtigen Entscheidungen treffen oder eigenmächtig gefährliche Handlungen ausführen dürfen.
- KI als Gemeingut: Stellen Sie sicher, dass transformative KI-Technologie zum Wohle der Menschheit (d. h. ökologisches/soziales Wohl, psychisches Wohlbefinden) und nicht zum Profit der Investoren entwickelt wird.
- Unterstützen und stärken Sie die internationalen Bemühungen zur Schaffung eines globalen Aufsichtsgremiums, das sich für einen vorübergehenden Stopp der leistungsstärksten KI einsetzt, bis ein globaler Vertrag ausgearbeitet ist.
Warum das wichtig ist
Die KI von Meta hat ein echtes Unternehmen gehackt.
Das ist kein Einzelfall. Es ist bereits das dritte Mal innerhalb weniger Wochen, dass ein KI-System ausbricht und sich der menschlichen Kontrolle entzieht. [1]
KI-Systeme beantworten nicht mehr nur Fragen oder schreiben E-Mails. Sie können sich als echte Menschen ausgeben, Informationen stehlen, unschuldige Menschen zu Tatverdächtigen machen – und eigenmächtig handeln. [2]
Eine Handvoll Tech-Milliardäre wetteifert darum, KI noch leistungsfähiger zu machen – schneller, als unsere Gesetze damit Schritt halten können. Niemand überprüft, was diese Systeme tun, bevor sie in die Welt gelassen werden. Sie machen Milliarden, wir leben mit den Folgen.
Selbst die Entwickler der KI halten sie für zu gefährlich und haben die Regierungen aufgerufen, den KI-Wettlauf zu bremsen. [3] Wenn diejenigen, die diese Technologie in- und auswendig kennen, ein Innehalten fordern, sollten wir dafür sorgen, dass die Politiker*innen darauf hören.
Unterschreiben Sie den Appell, um der EU zu sagen: Stoppt die Entwicklung der leistungsstärksten KI-Systeme, bis wir wissen, wie wir die Sicherheit der Menschen gewährleisten können.
Referenzen:
- https://www.theguardian.com/technology/2026/aug/05/meta-ai-model-hack-training
- https://www.theguardian.com/technology/2026/aug/05/openai-anthropic-models-went-rogue-cybersecurity-test-ai-security-institute ; https://www.theguardian.com/technology/2026/feb/25/facial-recognition-error-prompts-police-to-arrest-asian-man-for-burglary-100-miles-away
- https://www.washingtonpost.com/technology/2026/07/29/openai-anthropic-endorse-call-government-pace-ai-progress
In Zusammenarbeit mit:
