La start-up finlandaise Metroc a conclu un accord avec la prison pour femmes à sécurité maximale de Hämeenlinna (Finlande) pour employer des détenues à la formation d’un moteur de recherche basé sur l’intelligence artificielle, comme le rapporte Wired. L’une des détenues, interrogée par le correspondant de Wired, a décrit le travail comme « ennuyeux et répétitif », mais toujours mieux que de « rester assise dans une cellule toute la journée ». Ce n’est pas la première fois que des sujets ayant peu d’autres possibilités d'emploi, tels que des réfugiés, des citoyens de pays pauvres et maintenant des prisonniers, sont utilisés pour former une IA, souvent avec des tâches aliénantes et mécaniques et une rémunération dérisoire.
Comment former une IA qui parle finnois
Les programmes basés sur l’intelligence artificielle peuvent reconnaître des images, des visages et exécuter des centaines de fonctions automatiquement. Pour former une IA, les entreprises anglophones font appel à des travailleurs du Sud, qui vivent dans des pays à faible revenu. Par exemple, OpenAI, l’entreprise qui développe ChartGPT, fait appel à une société externe qui embauche des travailleurs au Kenya, en Ouganda et en Inde. Ces travailleurs sont chargés d’expliquer à un programme comment distinguer un chien d’une voiture, ou comment reconnaître si un post sur Instagram incite à la haine ou au racisme. En bref, il s’agit de passer de nombreuses heures devant l’ordinateur à cataloguer des images (labellyng) ou à répondre à des questions simples afin de fournir à l’IA une base de données d’informations.
Prison pour femmes à sécurité maximale de Hämeenlinna, Finlande. Source : RISE pour Wired
Lorsque l’IA travaille en anglais, les travailleurs bon marché ne manquent pas. Les pays du Sud regorgent de citoyens anglophones prêts à travailler pour quelques dollars de l’heure. Mais comment former une IA en finnois ? Dans les pays du Sud, les personnes parlant le finnois sont peu nombreuses, voire inexistantes. En outre, la Finlande est l’un des pays les plus riches du monde, avec des salaires moyens très élevés, de sorte qu’il est difficile de trouver des travailleurs bon marché pour former une IA.
Les dirigeants de Metroc ont trouvé la solution dans les prisons. Grâce à un accord, les détenus de Hämeenlinna pourront développer des logiciels en langue finnoise.
Les détenus s’entraînent à l’intelligence artificielle
Metroc est une start-up finlandaise qui a développé un logiciel qui relie l’offre et la demande dans les marchés publics finlandais. Le programme analyse un projet et détermine s’il dispose déjà de toutes les ressources nécessaires à sa réalisation ou s’il doit faire appel à des professionnels. L’algorithme est basé sur l’intelligence artificielle et peut déterminer si un hôpital dispose déjà d’un architecte pour définir les chambres ou d’un fournisseur pour les portes et les fenêtres.
Pour former l’IA, Metroc a conclu un accord avec la prison de haute sécurité de Hämeenlinna. Contrairement aux autres prisons finlandaises, où les détenus jouissent d’une certaine liberté pendant la journée, ici les détenus ne sont jamais autorisés à quitter la prison. Un journaliste de Wired a interviewé l’une des détenues participant au programme. Elle a expliqué que le travail consiste en des tâches simples, comme répondre par « oui » ou « non » à des questions sur des textes affichés sur un ordinateur. Par exemple, une question classique est : « l’annonce affichée fait-elle référence au marché du logement plutôt qu’à une offre d'emploi ? Les vacations durent au maximum 3 heures par jour, avec une rémunération de 1,54 euro par heure.
La direction de la prison fait la promotion de l’accord avec Metroc, affirmant que cet accord fournit un revenu aux détenues et les prépare au monde du travail qui les attend à l’extérieur. Cependant, les tâches sont décrites par la personne interrogée comme « plutôt ennuyeuses et répétitives ». En outre, elle a également déclaré qu’elle ne savait pas exactement à quoi servait le travail qu’elle effectuait.
Réaction du public
L’initiative proposée par le Metroc et la prison de Hämeenlinna a rencontré un certain consensus au sein de l’opinion publique finlandaise. Pia Puolakka, directrice du projet Smart Prison à Filnandia, a été l’une des premières à adhérer à l’initiative proposée par le Metroc : « L’objectif est d’introduire de plus en plus le monde de l’Internet dans les prisons, afin de ne pas isoler les détenus du monde », a déclaré Mme Puokkala ; en outre, « les détenus sont absolument libres de participer à l’initiative, ils peuvent travailler par roulement jusqu’à trois heures et ils ont également d’autres activités à leur disposition », a-t-elle ajouté.
Des travailleurs de la Gig Economy manifestent en Californie pour réclamer plus de droits et de protections. Source : Megan Rose Dickey/Protocol.
D’autres voix se sont toutefois élevées pour critiquer le projet. « Le discours selon lequel nous nous dirigeons vers une société plus automatisée et plus efficace tend à oublier qu’il y a de vrais humains derrière de nombreux systèmes numériques », a déclaré Amos Toh, un chercheur de Human Rights Watch spécialisé dans l’intelligence artificielle. Toh a rappelé que la forte évolution de la technologie a conduit à une recherche spasmodique de travailleurs bon marché pour former une IA. Les entreprises recherchent également de la main-d’œuvre dans des groupes de personnes qui n’ont pas d’autre choix, comme les réfugiés, les demandeurs d’asile, les citoyens de pays à faible revenu et, dans le cas présent, les prisonniers.
Former une IA permet-il d’acquérir des compétences ? Pas vraiment
Toh et les chercheurs de l’Université d’Helsinki ont également souligné qu’il n’est toujours pas clair comment les tâches répétitives et mécaniques effectuées pour former une IA peuvent préparer une personne au monde du travail numérique. Human Rights Watch a rappelé que des initiatives plus efficaces et éprouvées pourraient être privilégiées pour fournir des compétences aux prisonniers, telles que des cours en ligne de programmation et d’informatique.
Le public finlandais a accepté sans réserve l’initiative de Metroc parce qu’il a confiance dans la qualité du système pénitentiaire finlandais et qu’il est convaincu que les détenus concernés sont entièrement libres de choisir les activités qu’ils souhaitent faire. Mais il convient de s’interroger sur l’effet que pourrait avoir un projet similaire appliqué dans des pays où les systèmes pénitentiaires sont beaucoup plus durs et moins efficaces. Selon un rapport de l’ACLU (American Civil Liberties Union), aux États-Unis, 75 % des détenus se disent contraints de travailler. Dans ces conditions, même la formation d’une IA pourrait devenir une forme d’exploitation à toutes fins utiles.
Le Turc mécanique
L’impact social du fonctionnement d’une IA peut être expliqué par l’histoire du Turc mécanique. À la fin des années 1700 et au début des années 1800, un inventeur hongrois a créé un automate en bois ayant la forme d’un humain habillé comme un homme du Moyen-Orient (le Turc) et alimenté par une boîte remplie d’engrenages automatisés. Le Turc mécanique était capable de jouer aux échecs grâce aux mécanismes secrets de la boîte et était un automate si puissant qu’il a battu de nombreux joueurs d’échecs de l’époque, un peu comme les IA d’aujourd’hui. La légende veut qu’il ait même battu Napoléon aux échecs.
Illustration du Turc mécanique conçu en 1770 par l’inventeur hongrois Wolfgang von Kempelen. L’original a été détruit par un incendie en 1854. Source : Joseph Racknitz – Bibliothèque de l’université Humboldt.
Tout le monde s’interrogeait sur le secret du mécanisme. Finalement, il s’est avéré qu’il n’y avait pas d’engrenages automatiques dans la boîte qui entraînait le Turc, mais simplement un petit homme, très doué aux échecs, qui actionnait l’automate. Derrière l’automatisme mécanique, il n’y avait rien d’autre que le travail d’un homme, en chair et en os.
En 2005, Amazon s’est inspiré de cette histoire pour baptiser sa plateforme de crowdsourcing, l’Amazon Mechanical Turk. Les plateformes de crowdsourcing permettent d’organiser et de diriger les tâches (tasks) réalisées par des milliers d’humains à travers le monde, et sont utilisées par de nombreuses entreprises pour former et collecter des données utilisées par les IA.
L’armée sous-payée qui fait vivre l’IA
En résumé, la plateforme d’Amazon permet de décomposer des millions de tâches répétitives, telles que la classification d’images ou la reconnaissance de contenus sociaux violents, en petites actions exécutées simultanément par des milliers de travailleurs. Ces actions sont rémunérées à partir de quelques centimes d’euros chacune, ce qui réduit le coût de développement d’une technologie telle que l’intelligence artificielle pour les milliers de travailleurs qui vivent dans des pays à faible revenu ou qui n’ont pas d’autre solution pour survivre.
Les entreprises qui se vantent d’être « FullAI », et entièrement numériques, sont en réalité soutenues par des milliers de travailleurs contraints par les circonstances sociales à effectuer des tâches répétitives et mal rémunérées. Ces travailleurs n’ont pas la liberté totale de choisir un autre emploi, comme dans le cas d’une personne emprisonnée, et peuvent dans certains cas gagner moins de 2 euros de l’heure, alors qu’à l’autre bout du monde, les dirigeants d’entreprises numériques reçoivent des investissements qui se chiffrent en millions.