Hay trabajadores de Amazon escuchando conversaciones de Alexa [Actualizado]

[Actualizado] ¿Y si te dijera que si tienes un asistente de Alexa la IA no es la “única” que podría escuchar lo que dices en casa? Una investigación de Bloomberg cuenta cómo Amazon utiliza a un equipo de personas cuyo trabajo consiste exactamente en eso: escuchar conversaciones “para mejorar el sistema”.

El informe de Bloomberg destaca el trabajo humano que implica hacer que el asistente de voz de Amazon, que viene incorporado en los Amazon Echo, sea un poco más inteligente. ¿Cómo? La compañía tiene una combinación de contratistas y empleados a tiempo completo en todo el mundo que revisan y transcriben los clips de audio entre usuarios y Alexa.

La idea, según cuenta Bloomberg, es hacer que los humanos anoten esas interacciones, ayudando a identificar frases que de otra manera no tendrían sentido para el software. Según le contó un portavoz de Amazon al medio:

Solo anotamos una muestra extremadamente pequeña de las grabaciones de voz de Alexa para mejorar la experiencia del cliente. Por ejemplo, esta información nos ayuda a entrenar nuestros sistemas de reconocimiento de voz y de lenguaje natural, para que Alexa pueda comprender mejor las solicitudes y garantizar que el servicio funcione bien para todos.

Los empleados no tienen acceso directo a la información que puede identificar a la persona o la cuenta como parte de este flujo de trabajo. Toda la información se trata con alta confidencialidad y utilizamos la autenticación multifactor para restringir el acceso, el cifrado del servicio y las auditorías de nuestro entorno de control para proteger al cliente.

Estos trabajadores de Amazon, que al parecer se cuentan por miles, también tendrían un chat entre ellos donde pueden obtener ayuda cuando no pueden distinguir una palabra o frase, o donde pueden compartir grabaciones “divertidas”, como explica el reportaje de Bloomberg.

No solo eso, un trabajador de Amazon le dijo al medio que cada miembro de este equipo llega a escuchar hasta 100 clips por día en los que Alexa se activó por error o involuntariamente. Bloomberg también informa que uno de estos trabajadores revisa hasta 1.000 clips de audio en un turno de nueve horas.

Por último, el informe indica que, sin embargo, el contenido de esas grabaciones puede ser ciertamente serio: dos trabajadores con los que habló Bloomberg les contaron y detallaron lo que creían que era una grabación de una agresión sexual. Por separado, ambos trabajadores le dijeron al medio que recibieron orientación y que Amazon no consideró que debieran intervenir en casos como estos. [Bloomberg]

Actualización: Amazon España ha remitido un comunicado a Gizmodo en Español en el puntualiza lo siguiente:

Nos tomamos muy en serio la seguridad y privacidad de la información personal de nuestros clientes. Sólo anotamos un número extremadamente pequeño de interacciones de un conjunto aleatorio de clientes para mejorar la experiencia del cliente, siempre después de haber utilizado la palabra de activación de un dispositivo. Por ejemplo, esta información nos ayuda a entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural, para que Alexa pueda entender mejor sus peticiones y garantizar que el servicio funcione bien para todos.

Tenemos estrictas salvaguardas técnicas y operativas, y tenemos una política de tolerancia cero en cuanto al abuso de nuestro sistema. Los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente como parte de este flujo de trabajo. Aunque toda la información es tratada con alta confidencialidad y utilizamos la autenticación multifactorial para restringir el acceso, además del encriptado del servicio y las auditorías de nuestro entorno de control para proteger dicha confidencialidad, los clientes siempre pueden eliminar sus interacciones de voz con Alexa en cualquier momento.

Un portavoz de la compañía ha explicado que “no existen escuchas activas ni mucho menos, las anotaciones puntuales a las que Amazon hace referencia en su comunicado suceden siempre después de que haya sido utilizada la palabra de activación de un dispositivo (en términos simples, y como lo hemos dicho siempre: un dispositivo solo escucha y transmite datos a la nube a partir de identificar la palabra de activación Alexa.” También ha insistido en que “bajo ninguna circunstancia Amazon puede tener acceso a cualquier elemento que identifique al cliente”.