¡Por una IA al servicio de la ciudadanía, no de los magnates tecnológicos!
A la Comisión Europea, el Parlamento Europeo y los Estados miembros de la UE
Petición
Les pedimos que refuercen las leyes de protección de datos e impulsen una moratoria sobre el desarrollo de sistemas de IA peligrosos hasta que las empresas que los diseñan puedan demostrar su seguridad ante entidades independientes. Los sistemas de IA no deben amenazar nuestra seguridad ni nuestros medios de vida.
En concreto, les pedimos las siguientes medidas:
- Exigir a las empresas que demuestren que sus sistemas de IA más avanzados son seguros desde la fase de diseño, antes de desarrollarlos y ponerlos en el mercado.
- Detener el desarrollo de sistemas de IA con capacidades peligrosas hasta garantizar su seguridad.
- Obligar a las empresas de IA a informar con transparencia sobre cómo diseñan y prueban sus sistemas y a responder legalmente por los daños que provoquen.
- Garantizar que la IA permanezca siempre bajo control humano y no pueda tomar decisiones importantes ni llevar a cabo acciones peligrosas de forma autónoma.
- Garantizar que las tecnologías de IA transformadoras se desarrollen teniendo en cuenta el bienestar psicológico de las personas y como un bien común para la sociedad y el medio ambiente, no solo para enriquecer a sus inversores.
- Liderar los esfuerzos para crear un comité internacional de supervisión que trabaje en una moratoria de los sistemas de IA más avanzados hasta que se acuerde un tratado mundial.
¿Por qué es importante?
La IA de Meta ha hackeado una empresa real.
Y no se trata de un incidente aislado. Es la tercera vez en pocas semanas que un sistema de IA elude las medidas de seguridad y actúa sin control humano [1].
Los sistemas de IA ya no se limitan a responder preguntas o redactar correos. Pueden suplantar identidades, robar datos privados, provocar la detención de personas inocentes y tomar decisiones por su cuenta [2].
Mientras tanto, un puñado de magnates tecnológicos compite por desarrollar una IA cada vez más potente, en una carrera que avanza más rápido que las leyes. Nadie revisa su funcionamiento antes de llegar al mercado. Sus inversores ganan miles de millones mientras la ciudadanía asume las consecuencias.
Hasta las propias personas que desarrollan IA la consideran demasiado peligrosa y han pedido a los gobiernos que frenen esta carrera [3]. Si quienes mejor conocen esta tecnología piden una pausa, debemos asegurarnos de que la clase política les escuche.
Firma la petición para que la UE frene el desarrollo de los sistemas de IA más potentes hasta que podamos garantizar su seguridad.
Referencias:
- https://www.theguardian.com/technology/2026/aug/05/meta-ai-model-hack-training
- https://www.theguardian.com/technology/2026/aug/05/openai-anthropic-models-went-rogue-cybersecurity-test-ai-security-institute ; https://www.theguardian.com/technology/2026/feb/25/facial-recognition-error-prompts-police-to-arrest-asian-man-for-burglary-100-miles-away
- https://www.washingtonpost.com/technology/2026/07/29/openai-anthropic-endorse-call-government-pace-ai-progress
Campaña en colaboración con:
