Lanzamiento de la herramienta electoral de Perplexity: ¿Qué tan confiable es?
Perplexity AI acaba de lanzar un Centro de Información Electoral, diseñado para responder preguntas sobre candidatos, medidas en la boleta y requisitos de votación. La herramienta promete información basada en fuentes “confiables,” como Democracy Works. Sin embargo, lanzarla a pocos días de unas elecciones plagadas de desinformación parece un riesgo.
Muchas empresas no someten sus modelos de IA a suficientes pruebas antes de lanzarlos, lo que ha llevado a errores notables en el pasado. Este lanzamiento de Perplexity plantea preguntas sobre la precisión de sus respuestas en un contexto tan crítico. ¿Es prudente utilizarla para decidir el voto?
La evidencia detrás de la desconfianza en la IA en temas electorales
Varios estudios recientes exponen las limitaciones de los chatbots de IA en temas electorales. Un análisis de 2023 realizado por AI Forensics y AlgorithmWatch mostró que una tercera parte de las respuestas de Copilot de Microsoft contenían errores sobre elecciones en Suiza y Alemania.
En otra investigación de 2024, el AI Democracy Project, en colaboración con funcionarios locales, descubrió que más de la mitad de las respuestas de IA sobre temas electorales eran inexactas o perjudiciales. Además, se encontró que en español, los modelos eran aún más propensos a dar respuestas erróneas en comparación con las respuestas en inglés, lo que sugiere un sesgo lingüístico.
Sesgo en respuestas sobre política: Resultados de estudios recientes
Estudios adicionales indican que ciertos chatbots pueden favorecer a un candidato. Investigadores de la Universidad de California Berkeley y la Universidad de Chicago examinaron cómo 18 modelos de IA respondían preguntas sobre políticas de candidatos, encontrando una inclinación hacia respuestas más favorables sobre Joe Biden que sobre Donald Trump. Los resultados revelaron que las respuestas sobre Biden eran más extensas y positivas, lo que sugiere una parcialidad involuntaria en la formulación de respuestas.
La necesidad de un enfoque crítico al usar chatbots de IA en temas sensibles
Aunque estos chatbots pueden resultar útiles para preguntas generales, es crucial que los votantes sean críticos y consideren las limitaciones de la IA en temas electorales. Las respuestas incompletas o sesgadas pueden influir de manera significativa en el contexto de unas elecciones, y, en ocasiones, llevar a decisiones poco informadas.
