Lo que comenzó como una herramienta para ahorrar tiempo está transformándose en una revolución silenciosa dentro de la administración pública. ChatGPT y otros sistemas de inteligencia artificial ya están presentes en ayuntamientos y ministerios, agilizando tareas y generando informes. Pero esta fiebre tecnológica avanza más rápido que la legislación y, con ella, aumentan los riesgos para los ciudadanos. ¿Estamos cediendo demasiado poder a un sistema que no comprendemos del todo?
La IA se instala en los despachos públicos
En el Ayuntamiento de Bétera, Valencia, ChatGPT ya forma parte del equipo. Según declararon sus responsables, este asistente virtual ayuda a redactar informes y ahorrar un 20 % de tiempo en tareas administrativas. Y no es un caso aislado: muchas oficinas públicas están empezando a incorporar sistemas de IA para optimizar su funcionamiento.
Sin embargo, este entusiasmo no viene acompañado de un marco normativo claro. Pese a los esfuerzos legislativos de la Unión Europea y de España, todavía no existen directrices específicas para que jueces, docentes o sanitarios sepan cómo y cuándo usar estas herramientas. Y ese vacío legal podría costarnos caro.
Errores, filtraciones y decisiones equivocadas
La reciente experiencia de la Policía Nacional es un ejemplo preocupante. Durante años se usaron sistemas de IA para detectar denuncias falsas o transcribir interrogatorios. Los resultados fueron tan imprecisos que llegaron a generar situaciones absurdas, cuando no peligrosas.
Más grave aún fue el caso del sistema VioGén, destinado a gestionar casos de violencia de género. Su mal funcionamiento se tradujo en decisiones erróneas… y consecuencias trágicas. Estas experiencias dejan claro que confiar ciegamente en la IA, sin supervisión humana, puede ser un error con consecuencias devastadoras.
Privacidad en juego: el riesgo invisible
Uno de los grandes peligros de usar IA en la administración es el tratamiento de los datos personales. Cuando un funcionario introduce documentos confidenciales en herramientas como ChatGPT para que los resuma o analice, ¿a dónde van esos datos? ¿Quién los controla?
Aunque existen versiones empresariales como ChatGPT Enterprise o servicios con “Zero Data Retention” —que prometen no almacenar información del usuario—, la mayoría de los empleados públicos utilizan versiones estándar, que sí pueden retener y filtrar información por error. Esto expone a los ciudadanos a vulneraciones de su privacidad sin siquiera saberlo.
Regulación ambigua y oportunidades mal aprovechadas
En marzo de 2025 se aprobó un anteproyecto de ley para el uso ético de la IA. El texto adaptaba el Reglamento Europeo, pero con una peculiaridad: mientras se mostraba muy estricto con empresas privadas, se mostraba sorprendentemente laxo con la administración pública. Las infracciones por mal uso se consideraban solo faltas leves y no se definían claramente los límites.
Esto deja al ciudadano en una situación de vulnerabilidad. Porque si la administración se equivoca usando una IA, ¿quién asume la responsabilidad? ¿Quién protege al usuario de una decisión injusta, errónea o automatizada?
Una revolución necesaria… pero no a cualquier precio
Modernizar la administración es imprescindible, y la IA puede ser una gran aliada. Pero para que esa revolución sea positiva y no una amenaza, debe ir acompañada de planificación, formación, supervisión humana constante y leyes claras que protejan al ciudadano.
De lo contrario, estaremos permitiendo que sistemas opacos gestionen trámites, datos personales e incluso decisiones sensibles… sin saber realmente a qué coste.
Fuente: Xataka.
