Los asistentes virtuales como Alexa, Google Assistant y Siri se enfrentan a un dilema ético, necesitan escuchar a sus usuarios y grabar las conversaciones para mejorar su comprensión, pero esto invade la privacidad de las personas, así que las compañías están buscando una opción para no infringir la ley, ni perder la confianza del público.
Google y Apple han decidido suspender las grabaciones y escuchas de sus asistentes de manera temporal y buscar una nueva fórmula para preservar la privacidad de sus clientes. Apple ha sido la última en ser acusada de espiar a los usuarios de Siri sin su consentimiento.
The Guardian informaba la semana pasada que las empresas contratadas por Apple para llevar Siri escuchaban fragmentos de voz grabados por Siri en los que se podía escuchar datos médicos, la compra de drogas e, incluso, a una pareja manteniendo relaciones sexuales.
Tanto Amazon como Google también han sido acusadas de esta misma práctica. Las tres compañías alegan que es necesario para mejorar la comprensión del lenguaje que tienen sus sistemas de inteligencia artificial y que las respuestas que den los asistentes sean más reales y útiles.
Detrás de esa escucha hay trabajadores de estas empresas que se dedican a revisar las grabaciones, escuchar las conversaciones privadas de los usuarios y analizar si el asistente ha reaccionado correctamente o, si por el contrario, se ha activado por error y ha respondido de manera inadecuada.
Estos tipos de sistemas requieren de estos análisis para seguir mejorando y siendo de más ayuda a sus clientes, pero al haber personas detrás escuchando supone una intrusión a la privacidad y las presiones tanto por el público como por los gobiernos han conseguido que las compañías reaccionen por el momento.
Google Home
Google ha cancelado el programa de grabación y escucha de sus asistente en la Unión Europea durante los próximos tres meses, según la regulación alemana. Mientras, Apple también ha suspendido esta práctica temporalmente y propone pedir permiso a los usuarios cuando comiencen a usar el servicio.
Con una actualización del software, el gigante de la manzana incluiría una pregunta inicial para que los clientes pudieran dar su consentimiento, lo que no sabemos es si permitirá seguir usando el asistente si el cliente decide no dar el permiso para ser escuchado.
siri
«Estamos comprometidos a ofrecer una gran experiencia de Siri al tiempo que protegemos la privacidad del usuario» dijo un portavoz de Apple a TechCrunch. Esta situación podría minar la imagen de empresa comprometida con la privacidad que han promovido durante años, frente a los escándalos de otras compañías como Facebook, Google o Amazon.