Les outils internes donnent accès aux données de longitude et de latitude
Selon un nouveau rapport, les employés d’Amazon chargés d’examiner les données d’Alexa peuvent accéder aux emplacements des utilisateurs, y compris les adresses personnelles.
L’histoire vient de Bloomberg, qui a signalé plus tôt ce mois-ci l’existence d’une équipe de révision interne qui écoute les conversations Alexa enregistrées afin d’améliorer le service.
Amazon n’est pas le seul à utiliser des humains pour stimuler son IA, mais là où les drapeaux rouges commencent à être soulevés – et ce que souligne ce dernier rapport – c’est dans la façon dont ces conversations peuvent être trop facilement liées aux informations des utilisateurs.
Selon les sources de Bloomberg, certains membres de l’équipe d’examen reçoivent des données de latitude et de longitude ainsi que les enregistrements audio. Bloomberg a assisté à une démonstration où ces données ont été introduites dans Google Maps et utilisées pour localiser l’utilisateur. L’employé serait passé de l’écoute du fichier audio à la révélation de l’adresse de l’utilisateur « en moins d’une minute ».
Le nouveau matériel Alexa 2020 dévoilé
- Amazon Echo (4e génération)
- Amazon Echo Dot (4e génération)
- Amazon Echo Show 10
- Nouvelles fonctionnalités à venir pour Alexa
Répondant à l’histoire, un porte-parole d’Amazon nous a dit dans un communiqué : « L’accès aux outils internes est hautement contrôlé et n’est accordé qu’à un nombre limité d’employés qui ont besoin de ces outils pour former et améliorer le service en traitant un échantillon extrêmement petit de interactions. Nos politiques interdisent strictement aux employés l’accès ou l’utilisation des données des clients pour toute autre raison, et nous avons une politique de tolérance zéro pour les abus de nos systèmes. Nous vérifions régulièrement l’accès des employés aux outils internes et limitons l’accès chaque fois que possible. »
Des entreprises comme Amazon et Apple utilisent des humains pour annoter les enregistrements afin d’améliorer l’IA, mais dans le cas d’Apple, ces données sont entièrement anonymisées. C’est là qu’Amazon aurait échoué, en rendant trop facile l’identification des utilisateurs à partir de leurs enregistrements. Et aussi hautement contrôlés qu’Amazon puisse le dire, il existe toujours un risque d’abus de ces types d’outils.
Conclusion : Amazon doit montrer qu’il s’en sort mieux. Et selon Bloomberg, l’entreprise a en fait limité l’accès de certains employés à certains outils logiciels à la suite du précédent rapport détaillant le fonctionnement de l’équipe d’examen.
Si vous souhaitez arrêter de partager vos enregistrements vocaux avec Amazon, voici comment procéder.
