Foto: Pixabay

Puede que la IA se convierta en una herramienta infalible en el futuro, pero ahora mismo los algoritmos tienden a caer en los errores m√°s inopinados. El √ļltimo ocurr√≠a en Reino Unido, donde una nueva IA para detectar porno infantil ha decidido que los desiertos son una imagen completamente indecente.

El objetivo de la Polic√≠a Metropolitana de Londres es usar la IA para examinar ordenadores incautados en busca de im√°genes que contengan pornograf√≠a infantil. La idea es excelente, porque analizar miles de im√°genes es una tarea psicol√≥gicamente terrible para los t√©cnicos de la polic√≠a y que consume un tiempo precioso. Lamentablemente, en su estado actual el sistema a√ļn no est√° preparado para funcionar.

Advertisement

Algunas veces, la IA encuentra la foto de un desierto y cree que es pornografía, explica el director del departamento de electrónica forense de la Policía. Por alguna razón, hay muchísima gente con fotos de desiertos como fondo de escritorio, y la IA confunde el color de la arena con el de la piel humana.

La Polic√≠a trabaja con t√©cnicos de Silicon Valley para tratar de educar la IA para que tenga mejor ojo con las fotos que realmente contienen pornograf√≠a infantil. El departamento conf√≠a en que los algoritmos est√©n preparados para funcionar sin fallos en unos dos a√Īos.

Advertisement

A fecha de hoy no hay algoritmos que puedan identificar el contenido de fotos sin fallos. Una reciente aplicación que probamos en Gizmodo para detectar desnudos en un smartphone registró falsos positivos con la foto de un perro, de un dónut y de Grace Kelly (completamente vestida). La validación de los resultados por un ser humano sigue siendo completamente necesario. [The Telegraph]