La nueva IA para detectar porno de la policía británica no deja de confundir desiertos con desnudos

Foto: Pixabay

Puede que la IA se convierta en una herramienta infalible en el futuro, pero ahora mismo los algoritmos tienden a caer en los errores más inopinados. El último ocurría en Reino Unido, donde una nueva IA para detectar porno infantil ha decidido que los desiertos son una imagen completamente indecente.

El objetivo de la Policía Metropolitana de Londres es usar la IA para examinar ordenadores incautados en busca de imágenes que contengan pornografía infantil. La idea es excelente, porque analizar miles de imágenes es una tarea psicológicamente terrible para los técnicos de la policía y que consume un tiempo precioso. Lamentablemente, en su estado actual el sistema aún no está preparado para funcionar.

Advertisement

Algunas veces, la IA encuentra la foto de un desierto y cree que es pornografía, explica el director del departamento de electrónica forense de la Policía. Por alguna razón, hay muchísima gente con fotos de desiertos como fondo de escritorio, y la IA confunde el color de la arena con el de la piel humana.

La Policía trabaja con técnicos de Silicon Valley para tratar de educar la IA para que tenga mejor ojo con las fotos que realmente contienen pornografía infantil. El departamento confía en que los algoritmos estén preparados para funcionar sin fallos en unos dos años.

A fecha de hoy no hay algoritmos que puedan identificar el contenido de fotos sin fallos. Una reciente aplicación que probamos en Gizmodo para detectar desnudos en un smartphone registró falsos positivos con la foto de un perro, de un dónut y de Grace Kelly (completamente vestida). La validación de los resultados por un ser humano sigue siendo completamente necesario. [The Telegraph]

Share This Story

About the author

Carlos Zahumenszky

Editor en Gizmodo, fotógrafo y guardián de la gran biblioteca de artículos. A veces llevo una espada.

EmailTwitterPosts
PGP Fingerprint: BA3C91077C1CF6A7C6133D7CD3C89018CB814014PGP Key