Miles de empleados de Amazon escuchan lo que dices a Alexa
La compañía usa un equipo de trabajadores para escuchar todos los comandos de la audio de los usuarios.
Introducido como respuesta a la creciente salida / demanda de asistentes virtuales como el Siri de Apple, el Cortana de Windows, Google Assistant o Bixby de Samsung, Alexa es la niña IA mimada de Amazon, el asistente digital implementado en un gran número de dispositivos de la familia Echo y de otras marcas, y que llegó oficialmente a España en noviembre pasado. Alexa es el cerebro detrás de Echo y, al estar basada en la Nube, se vuelve cada vez más inteligente.
Alexa te espía
Solo tienes que preguntarle, y Alexa responderá a tus preguntas, reproducirá música, leerá las noticias, controlará tu Hogar digital compatible, agregará cosas a tu lista de tareas y mucho más. Con el control por voz de largo alcance, puedes hacer todo esto desde el otro lado de la habitación utilizando tu voz. Pero lo que pensábamos que eran comandos de voz que quedaban entre nosotros y el dispositivo en sí ha resultado no ser así.
Hoy, el medio Bloomberg ha publicado una extensa pieza en la que revela la existencia de un grupo de revisores de Amazon, integrado por miles de empleados de la compañía, que escuchan las grabaciones de voz efectuadas a través del asistente Alexa en los altavoces inteligentes Echo de Amazon.
La investigación llevada a cabo por el medio revela el enorme factor humano que hay detrás del proceso constante de mejora de Alexa como asistente IA, ayudando a sus algoritmos a ser más inteligentes. Pero ello tiene un precio, un precio enorme en materia de privacidad, ya que este equipo de Amazon se dedica a transcribir los grabaciones, realizar anotaciones y aumentar la base de datos del software para mejorar su reconocimiento del habla de las personas y su respuesta a comandos de voz.
Proceso Anotación de Datos
Los empleados que realizan esta función, tanto desde Amazon como empresas externas, llegan a escuchar hasta mil archivos de audio en turnos de nueve horas en lugares como Boston en Estados Unidos, Bucarest en Rumanía, Costa Rica y La India. El proceso es conocido como Anotación de Datos, y es un pilar en el aprendizaje mecanizado, ya que permite enseñar mejor a una Inteligencia Artificial en apartados como procesamiento del lenguaje natural, traducción mecanizada y reconocimiento de objetos e imágenes.
De esta manera, si Alexa no ha oído bien tu pregunta, el operario humano que está detrás del micro se encarga de corregir la percepción de Alexa y hacerle ver lo que el usuario ha dicho en realidad. Pero, según Bloomberg, la cosa ha llegado tan lejos que algunos trabajadores de estos equipos aseguran que durante sus turnos de trabajo ocasionalmente escuchaban también conversaciones privadas de usuarios.
“Un número extremadamente pequeño de interacciones”
Tras la publicación del reportaje, la web de Jeff Bezos no ha tardado en defenderse. Y como señala un portavoz de Amazon a Europa Press, desde la compañía solamente se registran "un número extremadamente pequeño de interacciones de un conjunto aleatorio de clientes". La compañía defiende que en ningún caso ha realizado escuchas activas a través de los micrófonos de Alexa, ya que esta revisión se produce "siempre después de haber utilizado la palabra de activación de un dispositivo": 'Alexa'.
Esta información es utilizada por Amazon para "entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural, para que Alexa pueda entender mejor sus peticiones y garantizar que el servicio funcione bien para todos". Y como la compañía busca dejar claro: "los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente".