Las ultimas noticias en tecnología, ciencia y cultura digital.
Las ultimas noticias en tecnología, ciencia y cultura digital.

Este aterrador accidente en un Tesla es un recordatorio de que los problemas del Autopilot no son solo técnicos

Gif: Twitter

Hemos escrito sobre el hacker / investigador de seguridad que se hace llamar GreenTheOnly en Twitter antes, ya que ha investigado mucho los datos almacenados en los automóviles modernos, con un enfoque sobre todo en Teslas. Como resultado, ocasionalmente los desguaces le enviarán cajas negras y módulos de memoria de los automóviles, que es la forma en que adquirió este video y datos de un Tesla siniestrado. El video muestra un impacto de alta velocidad bastante desgarrador con otro automóvil, y aunque el Autopilot no estaba activo en el momento del impacto, creo que los problemas de cualquier sistema semiautónomo de Nivel 2 se ven claramente aquí.

Advertisement

El accidente ocurrió de noche, en la carretera CA-24 cerca de Lafayette, CA, con tiempo despejado. El Tesla (que estaba grabando a través de sus cámaras a bordo) conducía bastante rápido y chocó por detrás con un Honda Civic lo suficientemente fuerte como para enviarlo volando.

Había un tráfico mínimo alrededor, y el Tesla podría haber pasado fácilmente al Honda por cualquier lado. Vean el video:

Advertisement

Green también pudo extraer videos que incluían algunas de las visualizaciones de detección de objetos, detección de carriles y otras visualizaciones de Tesla:

Advertisement

Los datos que se muestran en este metraje sugieren un diferencial de velocidad entre el Honda y el Tesla de aproximadamente 100 kmh, que es, por supuesto, muchísimo.

Advertisement

El Autopilot se desactivó unos 40 segundos antes del impacto debido a que Tesla emitió un timbre de advertencia de colisión frontal (FCW) que volvió a ocurrir unos dos segundos antes del impacto.

Vale la pena mencionar que FCW no aplica los frenos y no es Frenado de emergencia automático, que es otro sistema. Del manual de Tesla (se muestra el Model 3, pero esencialmente el mismo en otras versiones):

Advertisement
Ilustración para el artículo titulado
Captura de pantalla: Tesla

Advertencia de colisión frontal

La cámara que mira hacia adelante y el sensor de radar monitorean el área frente al Model X para detectar la presencia de un objeto como un vehículo, una bicicleta o un peatón. Si se considera probable una colisión a menos que tome una acción correctiva inmediata, la advertencia de colisión frontal está diseñada para hacer sonar una alarma y resaltar el vehículo frente a usted en rojo en el panel de instrumentos:

Las advertencias se cancelan automáticamente cuando se reduce el riesgo de una colisión (por ejemplo, ha desacelerado o detenido el Model X, o un vehículo que va delante se ha salido de su camino de conducción).

Si no se toman medidas inmediatas cuando el Model X emite una advertencia de colisión frontal, la colisión se considera inminente y automática.

El frenado de emergencia (si está habilitado) aplica los frenos automáticamente (consulte Frenado de emergencia automático en la página 97). 

Advertisement

Por tanto, lo que parece haber sucedido aquí es que el Autopilot estaba encendido, detectó una advertencia de colisión 40 segundos antes del impacto, lo que desactivó el Autopilot, pero esa advertencia fue solo un timbre y el frenado automático de emergencia no parece haberse habilitado.

El conductor debe haber seguido acelerando porque los datos de la caja negra recuperados por GreenTheOnly registran una velocidad en el momento del impacto de 220 kmh:

Advertisement
Ilustración para el artículo titulado
Captura de pantalla: Twitter

Los datos parecen mostrar que se está aplicando el acelerador, ya que el automóvil se dirigía claramente hacia ese desafortunado Honda. ¿Que está pasando aquí?

Advertisement

Primero, necesito aclarar que en este momento no sé con certeza qué sucedió, no sé si alguien resultó herido o algo peor, no sé quién estaba en ninguno de los autos, no sé qué estaba haciendo el conductor de Tesla. Todo lo que estoy hablando son los datos encontrados y presentados por GreenTheOnly. Así que, por favor, tenlo en cuenta mientras hablo de ello.

Lo que sí sabemos es que el Tesla iba demasiado rápido para una vía pública y que, según el video, el accidente podría haber evitado fácilmente por un conductor incluso prestando la más mínima atención. Esta no fue una situación compleja. Estos fueron los primeros segundos del nivel de dificultad Pole Position, en el peor de los casos.

Advertisement

También sabemos que el Autopilot se había activado hasta un punto 40 segundos antes del accidente y que varias campanillas de FCW parecían no tener ningún efecto en el conductor, al menos en términos de llamar la atención del conductor.

Si asumimos que esto no fue un acto deliberado de locura destructiva, entonces la hipótesis a la que me inclinaría tiene que ver con mi mayor queja sobre el piloto automático y cualquier sistema semiautónomo de nivel 2: no funcionan bien con los seres humanos.

Advertisement

Los humanos simplemente no son buenos para pasar más del 80 por ciento de una tarea y luego permanecer alerta para monitorear lo que está sucediendo, que es lo que demanda el Autopilot. Dado que los sistemas de Nivel 2 no ofrecen capacidad de conmutación por error y necesitan que un humano esté listo para hacerse cargo en cualquier momento, si no prestas atención constante, el desastre que vemos aquí es precisamente el tipo de pesadilla del peor de los casos que puede suceder.

No soy solo yo quien dice esto; los expertos saben desde hace mucho tiempo lo complicado que es para la gente en “tareas de vigilancia” como estas durante décadas. Imagínese tener un chófer que lo ha estado conduciendo durante horas y luego ve algo en la carretera con lo que no tiene ganas de lidiar, así que salta al asiento trasero y le dice que es su trabajo manejarlo ahora.

Advertisement

Despedirías a ese chófer. Y, sin embargo, eso es exactamente lo que Autopilot está haciendo aquí.

No sé exactamente qué diablos estaba haciendo el conductor de Tesla cuando sucedió este accidente, pero puedo estar seguro de que puedo decirles lo que no estaban haciendo: prestar atención a la carretera.

Advertisement

No sé por qué continuaron acelerando, pero todo lo demás ciertamente encaja en el patrón de alguien que había delegado la tarea de conducir al automóvil y se distrajo lo suficiente como para que cuando el automóvil dejó de conducir, de repente, no pudieron tomar el relevo.

Todos los sistemas de nivel 2 tendrán este tipo de problema, y por eso creo que el nivel 2 es un problema en sí mismo. Incluso los sistemas semiautónomos necesitan encontrar mejores formas de conmutación por error, y aunque esa no es una tarea trivial, es mucho mejor que chocar contra el Civics a 220 kmh.

Share This Story

Get our newsletter