OpenAI acaba de presentar Lockdown Mode. ¿Recuerdas los confinamientos? Es algo parecido, pero para un chatbot de inteligencia artificial.
En realidad, la compañía lo describe como una herramienta diseñada para proteger a los usuarios de los ataques de prompt injection, una nueva y preocupante forma de manipulación dirigida a sistemas de IA que, en algunos casos, puede llegar a considerarse una técnica de hackeo. Al insertar instrucciones maliciosas en contenidos que luego son procesados por un modelo de lenguaje o por un agente de IA, los atacantes podrían no solo acceder a información sensible, sino también intentar influir en acciones realizadas en nombre del usuario.
Una habitación del pánico para la era de la inteligencia artificial
Lockdown Mode ofrece una experiencia mucho más limitada, tal y como su nombre sugiere. No se trata de un mecanismo que se active automáticamente cuando detecta peligro, sino de una especie de “habitación del pánico” digital a la que el usuario puede recurrir cuando trabaja con información especialmente sensible y quiere minimizar los riesgos asociados a este tipo de ataques.
El problema surge cuando el modelo abandona los límites de la ventana del chatbot para interactuar con otros servicios. Cada vez que ChatGPT navega por internet, recupera imágenes o incluso realiza tareas en representación del usuario (como buscar vuelos o efectuar compras) aumenta la superficie de ataque para una posible inyección de instrucciones maliciosas. Por eso, Lockdown Mode desactiva esas capacidades.
Con Lockdown Mode activado, ChatGPT no puede:
- Navegar por la web.
- Mostrar imágenes en sus respuestas (aunque sigue permitiendo generar y cargar imágenes).
- Utilizar Deep Research.
- Funcionar como agente autónomo.
- Interactuar con Canvas y sus herramientas de generación de código.
- Descargar archivos.
Según explica OpenAI:
“Lockdown Mode no está pensado para todo el mundo. Está diseñado para personas y organizaciones que manejan datos sensibles y desean una protección más estricta frente a riesgos de exfiltración de información relacionados con ataques de prompt injection”.
Todavía estamos en las primeras etapas de la era de los chatbots de IA, y resulta significativo que una de las empresas líderes del sector considere necesario crear un modo específico para prevenir el robo de datos. La medida tiene sentido desde una perspectiva de seguridad, aunque también resulta inquietante imaginar escenarios en los que abogados cargan información confidencial de sus clientes en ChatGPT o médicos introducen historiales clínicos completos en su modelo favorito.
Existe, sin embargo, una alternativa todavía más segura que cualquier “modo de bloqueo” para proteger información delicada frente a ataques de este tipo: simplemente no acercar esos datos sensibles a un chatbot.
