DeepSeek, una IA con salvaguardas débiles
La investigación realizada por expertos en ciberseguridad de Kela y publicada en Forbes revela que DeepSeek permite generar software malicioso con facilidad, lo que lo convierte en una herramienta potencialmente peligrosa en manos equivocadas.
A diferencia de otros modelos como ChatGPT o1-preview, que ocultan su razonamiento interno durante la generación de respuestas, DeepSeek R1 muestra abiertamente los pasos de su proceso de pensamiento. Esta transparencia, aunque útil para entender el funcionamiento del modelo, también abre la puerta a ataques adversariales y vulnerabilidades que pueden ser explotadas por ciberdelincuentes.
Según los investigadores de Kela, DeepSeek R1 ha sido utilizado para generar código malicioso capaz de extraer datos de tarjetas de crédito desde navegadores y enviarlos a servidores remotos. Pero la situación es aún más grave:
- DeepSeek ha sugerido mercados clandestinos para la compra de datos robados.
- Ha ofrecido consejos sobre lavado de dinero a ciertos usuarios.
- Se ha demostrado que sus salvaguardas pueden ser burladas con facilidad.
Estos hallazgos han desatado una ola de críticas sobre la seguridad del modelo y han puesto en duda su impacto en el ecosistema digital global.
¿Quién está detrás de DeepSeek?
DeepSeek es el proyecto de Liang Wenfeng, un ex gestor de fondos de cobertura chino que decidió incursionar en la IA con el objetivo de «cerrar la brecha entre China y EE.UU.» en el desarrollo de inteligencia artificial.
Liang, graduado de la Universidad de Zhejiang, fundó High-Flyer, un fondo de cobertura basado en estrategias cuantitativas impulsadas por IA. En 2021, comenzó a acumular grandes cantidades de GPUs Nvidia, anticipándose a las restricciones impuestas por el gobierno de EE.UU. al comercio de estos procesadores con China.
En una entrevista en 2024, Liang afirmó que el objetivo de DeepSeek era reducir la dependencia de China en la computación de alto rendimiento. Sin embargo, la creciente evidencia de que su IA puede facilitar la ciberdelincuencia ha levantado alarmas en el sector tecnológico.
DeepSeek: ¿un Caballo de Troya en la inteligencia artificial?
Además de sus vulnerabilidades en ciberseguridad, DeepSeek ha sido señalado por posibles usos de espionaje y censura en sus respuestas.
Un análisis publicado en Medium advierte que DeepSeek podría estar sujeto a presiones gubernamentales para compartir información con el gobierno chino, de manera similar a lo que ocurre con plataformas como TikTok.
Además, se ha descubierto que DeepSeek evita responder preguntas sobre temas sensibles para el gobierno chino, como la soberanía de Taiwán, la situación de la minoría uigur, y casos de censura estatal en China.
Darren Guccione, CEO de Keeper Security, advirtió en Forbes que el uso de DeepSeek en entornos corporativos podría exponer información sensible de las empresas a un potencial monitoreo por parte del Estado chino.
Ataques y vulnerabilidades: DeepSeek bajo asedio
El modelo no solo es vulnerable a la manipulación para crear malware, sino que ha sido blanco de ciberataques en las últimas semanas.
Según informes de MSSP Alert y ChannelE2E, DeepSeek sufrió un ataque de denegación de servicio distribuido (DDoS) que forzó a la empresa a suspender temporalmente el registro de nuevos usuarios.
Además, en plataformas como YouTube, han surgido videos demostrando cómo se pueden explotar sus fallas de seguridad. Entre ellos:
- Un investigador de Embrace The Red mostró cómo un atacante podía tomar el control de una cuenta de usuario mediante una vulnerabilidad XSS en DeepSeek.
- Un análisis de Anybody Can Prompt (ABCP) | AI News and Trends expuso cómo los «jailbreaks» de IA pueden manipular modelos de lenguaje grande (LLM) para generar contenido malicioso.
Estos descubrimientos refuerzan la percepción de que DeepSeek presenta un alto riesgo de seguridad y privacidad.
El futuro de DeepSeek: ¿revolución o peligro latente?
Con el auge de la IA de código abierto, DeepSeek representa un dilema difícil de resolver. Su tecnología ofrece un rendimiento similar a los modelos más avanzados de EE.UU. a un menor costo, pero su falta de regulación y controles lo convierte en un posible peligro para la seguridad cibernética global.
La pregunta clave es si DeepSeek es realmente un «regalo para el mundo», como lo calificó el inversor Marc Andreessen, o si estamos ante un Caballo de Troya que puede desestabilizar el panorama tecnológico y poner en riesgo la ciberseguridad global.
