En 2021 una niña de 10 años llamada Nylah Anderson se asfixió accidentalmente hasta morir usando una correa de perro que había enroscado en su cuello. Anderson había querido participar del reto viral conocido como “Blackout Challenge” que circulaba en TikTok en ese momento. En 2022, Bloomberg informó que este reto fue la causa de 20 muertes, ya que alentaba a los chicos a asfixiarse con cosas que había en su casa, y filmar luego cómo perdían la consciencia (y, en la mayoría de los casos, su recuperación).
¿Qué sucedió antes?
Un tribunal declaró anteriormente que la madre de Anderson, Tawainna Anderson, no podía demandar a TikTok debido a la Sección 230, la controversial ley de internet que da inmunidad legal a las plataformas de internet por el contenido posteado por terceros en sus sitios. Ahora, un tribunal de los EE.UU. buscó abolir esa decisión anterior, diciendo que TikTok tendrá que defenderse contra la demanda sin usar la Sección 230 como excusa para sus acciones.
En una opinión emitida por el Tribunal de Apelación del Tercer Circuito de Pensilvania, un panel de tres jueces argumentó que TikTok no puede ocultarse tras la ley de internet para protegerse de la acusación. De hecho, argumentan, la hija de Anderson no encontró el reto del blackout challenge al buscar en el sitio de TikTok. Por el contrario, el algoritmo le sirvió en bandeja el “reto” a la hija de Anderson a través de su página “For You”, lo que indica que el sitio tuvo un rol activo en la distribución del material.
“El algoritmo de TikTok no se basa solamente en lo que ingresa en línea el usuario”, dice la decisión. “En cambio, el algoritmo actúa como curador, recomendando una compilación a medida de videos para la página FY del usuario basándose en diversos factores como la edad, datos demográficos, interacciones en línea y otros metadatos”. Esto indica que TikTok no albergaba el contenido pasivamente sino que actuó para ofrecerle el contenido a la niña. “Los sitios de internet están bajo la protección de inmunidad solo si se les demanda a causa de la actividad expresiva o contenido de otros (ej. lo que diga un tercero) pero no si se les demanda por su propia actividad expresiva o contenido”, continúa la decisión.
“El algoritmo de una plataforma que refleja el criterio editorial al compilar la expresión de un tercero de la forma en que lo desee es el producto expresivo de la plataforma y queda protegido por la Primera Enmienda”, indica la opinión del tribunal anterior. Los jueces argumentan que si los algoritmos cuentan como “discurso” el contenido no es pasivo y no está protegido por la 230”.
Gizmodo contactó a TikTok para oír sus comentarios.
