Keen Lab, empresa de investigación en ciberseguridad, ha logrado que el sistema Autopilot de Tesla se desvíe de su ruta de la manera más simple posible: pegando tres pegatinas pequeñas en el pavimento de la carretera.
El documento de investigación, publicado el pasado sábado, muestra cómo la firma consiguió engañar el reconocimiento del carril del Autopilot mediante el cambio de la superficie física de la carretera.
En primer lugar intentaron confundir al sistema a través de parches de desenfoque en la línea del carril izquierdo, lo que según el equipo era demasiado difícil para que alguien lo implementara en el mundo real y fácil de reconocer para la computadora de Tesla. Según explica Keen:
Es difícil desplegar marcas discretamente en el mundo físico para deshabilitar la función de reconocimiento de carril de un vehículo de Tesla en movimiento.
Los investigadores dicen que sospechaban que Tesla manejaba bastante bien dicha situación porque ya había agregado cientos de “carriles anormales” en sus kilométricos entrenamientos con el Autopilot. Esto le daba a los vehículos de la compañía de Elon Musk un muy buen sentido de la dirección del carril incluso sin buena iluminación, o en condiciones climáticas adversas.
Sin embargo, en Keen no se dieron por vencidos y subieron la apuesta. Los investigadores pegaron tres cuadrados diminutos en el carril de tráfico para imitar la combinación de rayas y hacer que el automóvil se desviara hacia el tráfico que se aproximaba en el carril izquierdo:
Engañar al vehículo con el Autopilot para que vaya en dirección contraria del tráfico con tan solo algunos parches a veces es más peligroso que hacer que no reconozca el carril. Si el vehículo sabe que el carril falso está apuntando al carril inverso, debe ignorar este carril falso y luego podría evitar un accidente de tráfico.
En respuesta a los hallazgos de Keen, Tesla ha comunicado que este tipo de escenarios no representan problemas del mundo real y que ningún conductor había encontrado ninguna de las situaciones identificadas en el informe. Según la compañía:
En esta demostración los investigadores ajustaron el entorno físico (por ejemplo, colocando una cinta en la carretera o alterando las líneas de los carriles) alrededor del vehículo para que el auto se comportara de manera diferente cuando el autopilot está en uso. Esta no es una preocupación del mundo real, dado que un conductor puede anular fácilmente el autopilot en cualquier momento mediante el uso del volante o los frenos y debe estar preparado para hacerlo en todo momento.
En cualquier caso, Tesla finaliza diciendo que “sabemos que la idea tomó una cantidad extraordinaria de tiempo, esfuerzo y habilidad, y esperamos revisar los informes futuros de Keen”. [BusinessInsider]