C’est une partie nécessaire de la formation à l’IA, mais Amazon dépasse-t-il la ligne ?
Pour que l’IA s’améliore, une contribution humaine est nécessaire – c’est pourquoi Amazon aurait des milliers d’employés qui écoutent les enregistrements vocaux d’Alexa.
Un rapport de Bloomberg affirme qu’Amazon dispose d’un programme de révision vocale, composé d’employés à temps plein et de sous-traitants du monde entier, chargés d’écouter les enregistrements capturés par Echo et d’autres appareils Alexa. Ces enregistrements sont transcrits et analysés pour améliorer l’intelligence d’Alexa – une pratique courante parmi les entreprises d’IA vocale.
Cependant, selon des initiés qui ont parlé à Bloomberg, les enregistrements envoyés à Amazon pour examen sont associés au prénom, au numéro de compte et au numéro de série de l’appareil d’un utilisateur. C’est là que le rapport devient assez accablant. Le programme de formation à l’IA d’Amazon n’est pas unique – Apple fait la même chose avec Siri – mais toutes les informations qui pourraient identifier l’utilisateur sont généralement supprimées des données, comme c’est le cas avec Apple.
Le rapport a également des membres de l’équipe se souvenant d’enregistrements spécifiques qu’ils avaient entendus, tels qu’une femme chantant sous la douche, un enfant criant et des cas présumés d’agression sexuelle. Encore une fois, de manière assez accablante, ces employés auraient partagé certains de ces enregistrements dans une salle de discussion interne lorsqu’ils ont besoin d’aide pour analyser un enregistrement difficile à déchiffrer.
Le nouveau matériel Alexa 2020 dévoilé
- Modèle Amazon Echo 2020
- Amazon Echo Dot (4e génération)
- Amazon Echo Show 10
- Nouvelles fonctionnalités à venir pour Alexa
En réponse, Amazon a déclaré à Bloomberg qu' »un très petit échantillon d’enregistrements vocaux Alexa » était utilisé pour former son IA.
« « Nous avons des garanties techniques et opérationnelles strictes et avons une politique de tolérance zéro pour les abus de notre système », a également déclaré la société. « Les employés n’ont pas un accès direct aux informations qui peuvent identifier la personne ou le compte dans le cadre de ce flux de travail. Toutes les informations sont traitées avec une confidentialité élevée et nous utilisons l’authentification multifacteur pour restreindre l’accès, le cryptage des services et les audits de notre environnement de contrôle pour protéger ce. »
Encore une fois, bien que l’utilisation d’humains pour former l’IA ne soit pas intrinsèquement néfaste, ce sont les abus potentiels qui sont préoccupants ici, en particulier l’échec signalé par Amazon à anonymiser correctement les données des utilisateurs.
