Amazon est un pandémonium algorithmique
L’entreprise géante utilise le machine learning pour surveiller et punir ses employés. Le futur du travail ?
∎ La semaine dernière, nous nous sommes entretenus avec Pymetrics, une entreprise qui veut rendre le processus d’embauche plus juste et efficace grâce au machine learning. Cette semaine, nous allons vous parler d’une entreprise qui déploie déjà des algorithmes partout autour de ses employés, parfois avec de bonnes intentions mais rarement avec de bons résultats : Amazon. Espérons que ce qui se passe dans cette entreprise en forme ne représente pas le futur du travail.
∎ Embauche. Entre 2014 et 2017, Amazon a utilisé un classifieur pour débusquer les meilleurs candidats pour ses postes techniques. Développé en interne et en secret, le modèle parcourait les CV pour en extraire des mots considérés comme révélateurs du potentiel de leur auteur. Les prétendants se voyaient alors attribuer une note sur cinq étoiles, un peu comme les produits vendus sur Amazon. Le classifieur a été corrigé puis abandonné quand ses biais sexistes ont été découverts. Il a sans doute été remplacé depuis : ces derniers mois, Amazon a embauché 175 000 personnes.
∎ Sécurité. Un « pack » de solutions industrielles dévoilé par Amazon Web Services au mois de décembre dernier comprend cinq systèmes de machines learning conçus pour assurer la sécurité des équipements et des employés. Les descriptions des logiciels destinés à la surveillance des machines sont claires : leur but est de repérer des situations et des comportements anormaux avant qu’ils ne causent un accident. Celles des logiciels destinés à la surveillance des humains, beaucoup moins : il est question de détecter des « failles » et des « anomalies » dans les « procédés » mais aussi d’assurer le « contrôle qualité ». Le fabricant de guitares Fender utiliserait l’un de ces systèmes pour surveiller la vitesse de travail de ses employés.
∎ Mains. Bien que ce projet ne semble pas avoir dépassé le stade du brevet, il révèle la soif de contrôle d’Amazon sur ses employés. En 2018, des journalistes de GeekWire ont révélé que l’entreprise avait développé des bracelets pour traquer les allées et venues des travailleurs dans ses entrepôts, mais aussi les mouvements de leurs mains. Si le manutentionnaire porte son colis vers la mauvaise étagère, les bracelets vibrent. Amazon assure que ce dispositif a été conçu pour libérer les travailleurs des scanners de codes-barres et des écrans d’ordinateur, mais il pourrait sans doute être utilisé pour attraper les voleurs et mesure la productivité avec toujours plus d’invasivité.
∎ Trajets. Qu’ils soient salariés ou indépendants, les livreurs Amazon ne choisissent pas leur itinéraire de livraison : un logiciel connu sous le nom de « Lapin » ou « Dora » s’en charge pour eux, avec tout ce que cela suppose d’optimisation délirante. Ce logiciel surveille aussi le bon respect de ses itinéraires et fixe les moments de pause pour les exécutants humains. Tout écart peut aboutir à une sanction. Un rapport de l’Open Market Institute écrit : « Amazon programme ce logiciel pour réduire la liberté et la capacité de décision individuelle des travailleurs. »
∎ Conduite. Les habitacles des camionnettes Amazon sont désormais équipés de quatre caméras qui surveillent le comportement du livreur, de son comportement sur la route à son « langage corporel ». Autrement dit, ce système développé par une entreprise tierce repère les violations du code de la route, comme les excès de vitesse et les ceintures de sécurité non enclenchées, mais aussi les bâillements du conducteur. En cas de problème, l’employé reçoit un « avertissement verbal automatisé ». Des applications précédentes surveillaient l’utilisation du portable au volant et identifiaient les livreurs grâce à la reconnaissance faciale. Au moins un employé a démissionné, excédé par ces violations de la vie privée.
∎ Distanciation sociale. Au mois de juin dernier, Amazon a fièrement dévoilé un système de surveillance du bon respect de la distanciation sociale appelé Distance Assistant. Ces machines composées d’un écran, de capteurs de profondeur et de caméras intelligentes mesurent en temps réel la distance qui sépare les employés. Quand deux manutentionnaires se rapprochent trop, les cercles verts qui marquent leur espace personnel à l’image virent au rouge. Idéal pour justifier la reprise du travail dans les entrepôts malgré la pandémie tout en suivant les déplacements des employés.
∎ Licenciement. Amazon a besoin de maintenir une « productivité » haute dans ses entrepôts pour consolider sa place de golem du e-commerce. Cela signifie que les manutentionnaires doivent manipuler des centaines de colis par heure. Ceux qui ne parviennent pas à atteindre ce quota peuvent être repérés et virés automatiquement par une machine. Entre août 2017 et septembre 2018, environ 300 personnes auraient été licenciées de cette façon dans un seul entrepôt. Les variables prises en compte par cet algorithme de mise à la porte restent nébuleuses, mais certains employés se retenaient de passer aux toilettes par crainte de perdre leur travail.
Boîte Noire est la newsletter hebdomadaire sur l’intelligence artificielle de Sébastien Wesolowski. Inscrivez-vous par ici : http://eepurl.com/hivYvT
