Des travailleurs kényans embauchés pour examiner des vidéos captées par les lunettes connectées de Meta ont décrit avoir visionné des images d’une intimité extrême : des personnes aux toilettes, nues, ou filmées pendant des rapports sexuels. Des inconnus enregistrés à leur insu, envoyés dans une chaîne de traitement de données à l’autre bout du monde. Six jours après que ces révélations ont été rendues publiques, Meta a rompu son contrat avec le sous-traitant qui les employait. Plus de 1 000 personnes se sont retrouvées sans emploi.
Les Ray-Ban Meta sont vendues comme des lunettes intelligentes. On les filme, on leur pose des questions, elles répondent. Ce que Meta ne met pas en avant dans ses campagnes publicitaires, c’est que derrière la réponse vocale, il y a des humains qui passent en revue les images. Des annotateurs, dans le jargon de l’industrie. Leur rôle est de classer, de filtrer, d’étiqueter des contenus pour affiner les modèles d’intelligence artificielle. En pratique, cela signifie regarder ce que la caméra a filmé.
L’un des annotateurs interrogés lors de l’enquête a dit ceci : « Je ne pense pas qu’ils sachent, parce que s’ils savaient, ils ne s’enregistreraient pas. » Ce n’est pas une plainte syndicale. C’est un constat. Les travailleurs eux-mêmes estimaient que les personnes filmées ignoraient que leur contenu allait être examiné par un inconnu salarié au Kenya.
Le problème a deux niveaux. L’utilisateur des lunettes a peut-être accepté les conditions générales de Meta, dans les grandes lignes, sans en mesurer la portée réelle. Mais les personnes filmées autour de lui n’ont rien accepté du tout. Un passant dans la rue, un ami dans un salon, quelqu’un dans un vestiaire : aucun d’eux n’a signé quoi que ce soit. Les Ray-Ban n’ont pas d’indicateur lumineux visible. Elles ne ressemblent pas à une caméra. Elles ressemblent à des lunettes.
Mark Zuckerberg lors de la démo des lunettes connectées Ray-Ban Meta et de son IA
La réponse de Meta à ces révélations n’a pas pris la forme d’un communiqué de remise en question ou d’une révision de ses pratiques de traitement des données. Elle a pris la forme d’une résiliation de contrat. Le sous-traitant kényan a perdu le marché. Les travailleurs qui avaient parlé ont perdu leur emploi. Plusieurs d’entre eux ont déclaré vivre ce licenciement comme une sanction directe pour avoir témoigné.
C’est un schéma bien documenté dans l’industrie de la modération de contenu et de l’annotation de données. Les pays d’Afrique subsaharienne, d’Asie du Sud-Est et d’Amérique latine fournissent une part massive de la main-d’œuvre humaine qui entraîne les intelligences artificielles des grandes plateformes occidentales. Ces travailleurs sont exposés à des contenus violents, sexuels, traumatisants, dans des conditions contractuelles qui les laissent peu de marges pour se plaindre, et encore moins pour parler publiquement. Quand ils le font, la réponse habituelle est la fin du contrat.
Meta n’est pas seul dans ce cas. OpenAI, Google, TikTok ont tous eu recours à des pratiques similaires. Mais le cas des Ray-Ban ajoute une dimension que les autres scandales n’avaient pas : ici, ce sont des citoyens ordinaires, porteurs de lunettes banales dans des espaces du quotidien, qui génèrent à leur insu des données intimes sur les personnes qui les entourent. Et ce sont des travailleurs africains qui absorbent le choc humain de ce système, deux fois : d’abord en voyant ce qu’ils voient, ensuite en perdant leur emploi quand ils en parlent.
L’intelligence artificielle n’est pas une abstraction. Elle est construite par des gens, souvent peu payés, souvent loin, souvent sans protection. Le Kenya en a payé le prix cette semaine.
