No se trata únicamente de drones pilotados a distancia ni de robots que obedecen cada orden de un operador. La advertencia lanzada conjuntamente por Naciones Unidas y el Comité Internacional de la Cruz Roja apunta a un escenario mucho más radical: máquinas capaces de detectar un objetivo, seleccionarlo y emplear la fuerza sin esperar la autorización concreta de un ser humano.
António Guterres, secretario general de la ONU, y Mirjana Spoljaric, presidenta del CICR, aseguran que el mundo se encuentra “peligrosamente cerca de cruzar una línea roja moral”: permitir que una máquina decida atacar autónomamente a una persona.
En su llamamiento conjunto, ambos líderes advierten de que la tecnología militar avanza mucho más rápido que las normas destinadas a controlarla. Su petición es directa: negociar cuanto antes un instrumento internacional jurídicamente vinculante.
Una persona activa el arma, pero puede no saber quién morirá, dónde ocurrirá ni cuándo atacará
El elemento decisivo no es que el arma tenga inteligencia artificial, pueda volar sola o se desplace sin conductor. Según la definición utilizada por Cruz Roja, un sistema es autónomo cuando puede seleccionar un objetivo y aplicar fuerza contra él sin intervención humana.
El operador introduce una misión o activa el dispositivo. A partir de ahí, sus sensores analizan el entorno y el software busca elementos que coincidan con un perfil previamente establecido: una silueta, un movimiento, una emisión electrónica, un vehículo o determinadas características físicas.
Eso significa que la persona que despliega el arma podría no conocer exactamente qué objetivo atacará, en qué lugar ni en qué momento. La decisión inmediata deja de depender de un soldado y pasa a surgir de la interacción entre algoritmos, sensores y un entorno impredecible.
Algunos sistemas defensivos ya pueden responder automáticamente contra misiles o proyectiles que se aproximan. La preocupación aumenta cuando esa autonomía se aplica contra seres humanos en ciudades, edificios o campos de batalla donde civiles y combatientes pueden encontrarse mezclados.
Una máquina puede reconocer patrones, pero no comprender una rendición, una herida o el miedo de un civil
El derecho internacional humanitario obliga a distinguir entre combatientes y civiles, evaluar la proporcionalidad de un ataque y suspenderlo cuando aparezca un riesgo excesivo. Son decisiones que dependen del contexto y de detalles que pueden cambiar en segundos.
Una persona puede levantar las manos, abandonar un arma, quedar herida o estar intentando auxiliar a otra. Un algoritmo puede interpretar esos gestos como parte de un patrón, pero no necesariamente comprender su significado jurídico y humano.
También aparece un problema de responsabilidad. Si un sistema autónomo mata por error a civiles, ¿responde el comandante que lo desplegó, el ejército que lo adquirió, la empresa que desarrolló el software o el ingeniero que creó el modelo de reconocimiento?
Cruz Roja propone dos prohibiciones principales: impedir las armas cuyo comportamiento no pueda comprenderse o predecirse adecuadamente y prohibir aquellas diseñadas para atacar directamente a personas.
El resto debería quedar sometido a restricciones estrictas: límites geográficos y temporales, objetivos militares claramente definidos, ausencia de civiles, supervisión humana efectiva y mecanismos que permitan intervenir o desactivar el arma inmediatamente.
Noviembre puede ser la última gran oportunidad para fijar las reglas antes de que la carrera se descontrole
Los Estados debaten estas armas desde 2014 dentro de la Convención sobre Ciertas Armas Convencionales. Sin embargo, todavía no existe un tratado internacional específico y vinculante que prohíba a una máquina seleccionar autónomamente seres humanos como objetivos.
El derecho humanitario actual continúa siendo aplicable, pero varios países consideran que esas normas generales son suficientes y se oponen a crear nuevas obligaciones. Esa división ha retrasado durante más de una década cualquier acuerdo.
La próxima cita clave será la Séptima Conferencia de Examen de la Convención, prevista en Ginebra del 16 al 20 de noviembre de 2026. El CICR sostiene que ya existe un marco detallado y un grupo creciente de Estados dispuesto a negociar, como explica en su documento preparatorio para la conferencia.
La advertencia llega antes de que el peor escenario se normalice. Una vez que estas armas sean fabricadas a gran escala, exportadas y desplegadas por numerosos ejércitos, ponerles límites será mucho más difícil. La pregunta ya no es si las máquinas pueden participar en una guerra, sino si permitiremos que reciban también la decisión más irreversible: escoger por sí solas quién debe morir.
