Foto: Pixabay

Puede que la IA se convierta en una herramienta infalible en el futuro, pero ahora mismo los algoritmos tienden a caer en los errores más inopinados. El último ocurría en Reino Unido, donde una nueva IA para detectar porno infantil ha decidido que los desiertos son una imagen completamente indecente.

El objetivo de la Policía Metropolitana de Londres es usar la IA para examinar ordenadores incautados en busca de imágenes que contengan pornografía infantil. La idea es excelente, porque analizar miles de imágenes es una tarea psicológicamente terrible para los técnicos de la policía y que consume un tiempo precioso. Lamentablemente, en su estado actual el sistema aún no está preparado para funcionar.

Advertisement

Algunas veces, la IA encuentra la foto de un desierto y cree que es pornografĂ­a, explica el director del departamento de electrĂłnica forense de la PolicĂ­a. Por alguna razĂłn, hay muchĂ­sima gente con fotos de desiertos como fondo de escritorio, y la IA confunde el color de la arena con el de la piel humana.

La Policía trabaja con técnicos de Silicon Valley para tratar de educar la IA para que tenga mejor ojo con las fotos que realmente contienen pornografía infantil. El departamento confía en que los algoritmos estén preparados para funcionar sin fallos en unos dos años.

Advertisement

A fecha de hoy no hay algoritmos que puedan identificar el contenido de fotos sin fallos. Una reciente aplicaciĂłn que probamos en Gizmodo para detectar desnudos en un smartphone registrĂł falsos positivos con la foto de un perro, de un dĂłnut y de Grace Kelly (completamente vestida). La validaciĂłn de los resultados por un ser humano sigue siendo completamente necesario. [The Telegraph]