Las ultimas noticias en tecnología, ciencia y cultura digital.
Las ultimas noticias en tecnología, ciencia y cultura digital.
Ilustración para el artículo titulado
Foto: Joe Raedle (Getty)

Una pareja de investigadores ha identificado un potencial problema con los sensores de algunos modelos antiguos de Tesla que malinterpretaron las señales de tráfico leyendo una velocidad 80 km/h mayor que la indicada cuando un trozo de cinta aislante alteraba ligeramente uno de los números.

Advertisement

El problema fue identificado durante los 18 meses de investigación de los investigadores de McAfee Shivangee Trivedi y Mark Bereza, que trataban de examinar formas de explotar algoritmos de aprendizaje automático, específicamente en el caso de los vehículos autónomos. Muchos proveedores de vehículos autónomos usan cámaras producidas por MobilEye para registrar los límites de velocidad de las señales, y los investigadores de McAfee descubrieron que usar pegatinas para alterar ligeramente la apariencia de la señal tenía el potencial de interferir en la lectura de la cámara.

Al poner a prueba el método con dos Teslas de 2016, un Model S y un Model X, los investigadores pudieron engañar a las cámaras para que creyeran que una señal de 35 mph (56 km/h) decía en realidad 85 mph (137 km/h), primero agregando varias pegatinas que ocultaban parcialmente el “3del 35, y luego retirándolas una a una para identificar el punto en el que no leyeron correctamente la señal. Descubrieron que agregar un trozo horizontal de 5 cm de cinta aislante negra a la barra central del “3 del 35 se traducía en una lectura errónea de 85 mph.

“Incluso para un ojo entrenado, esto apenas parece sospechoso o malicioso, y muchos de los que lo vieron no se dieron cuenta de que la señal había sido alterada”, escribieron los investigadores. “Esta pequeña pieza de adhesivo fue todo lo que se necesitó para hacer que la predicción superior de la cámara MobilEye para la señal fuera de 85 mph”.

En última instancia, los investigadores determinaron que con las funciones de asistencia de velocidad y control automático de crucero habilitadas, las modificaciones a las señales podían hacer que el automóvil acelerara y superara el límite de velocidad por sí solo. Vale la pena señalar que Tesla dejó de usar la tecnología MobilEye en sus vehículos después de 2016, y como señalaron los investigadores, los modelos más nuevos “actualmente no parecen admitir el reconocimiento de señales de tráfico”. Los investigadores también señalan que realizaron pruebas “muy limitadas” en un vehículo 2020 con la cámara MobilEye más moderna y descubrieron que no era susceptible al mismo ataque.

Ilustración para el artículo titulado
Advertisement

Un portavoz de MobilEye dijo a Gizmodo por correo electrónico que las calcomanías en las señales de tráfico “pueden confundir un ojo humano y, por lo tanto, no consideramos que sea un ataque de confrontación”. Si bien esto puede ser cierto para las etiquetas adhesivas que ocultan el número, no es necesariamente así con la cinta aislante. Sin embargo, agregó el portavoz, el sistema no estaba destinado a soportar una conducción totalmente autónoma.

“Los reguladores son quienes eligen las fuentes de las señales de tráfico, por lo que los sistemas avanzados de asistencia al conductor (ADAS) se centran principalmente en otros casos de uso más desafiantes, y este sistema en particular fue diseñado para apoyar a los conductores humanos, no a la conducción autónoma”, dijo el portavoz. “La tecnología de vehículos autónomos no se basará solo en la detección, sino que también será compatible con otras tecnologías y datos, como mapas de colaboración colectiva, para garantizar la fiabilidad de la información recibida por el sensor de la cámara y ofrecer redundancias y seguridad más robustas”.

Advertisement

Tesla no respondió de inmediato una solicitud de comentarios. Los investigadores de McAfee revelaron que se habían comunicado con MobilEye y Tesla antes de publicar su informe, y que ambos “habían indicado interés y agradecido la investigación, pero no habían expresado ningún plan para abordar el problema en la plataforma actual”.

Los investigadores elogiaron a MobilEye por los aparentes cambios en sus cámaras. Sin embargo, notaron que la cámara que clasificó erróneamente el límite de velocidad todavía está presente en un porcentaje significativo de Teslas. Y aunque se espera que los conductores estén alerta al volante de cualquier vehículo semiautónomo, la historia ha demostrado que no siempre es así .

Share This Story

Get our newsletter