De Finse start-up Metroc heeft een overeenkomst gesloten met de streng beveiligde vrouwengevangenis in Hämeenlinna (Finland) om vrouwelijke gevangenen in dienst te nemen om een op kunstmatige intelligentie gebaseerde zoekmachine te trainen, zo meldt Wired. Een van de gevangenen, geïnterviewd door de correspondent van Wired, beschreef het werk als “saai en repetitief”, maar nog steeds beter dan “de hele dag in een cel zitten”. Dit is niet de eerste keer dat proefpersonen met weinig andere werkgelegenheid, zoals vluchtelingen, burgers van arme landen en nu gevangenen, worden gebruikt om AI te trainen, vaak met vervreemdende en mechanische taken.
Hoe een AI te trainen die Fins spreekt
Programma’s op basis van kunstmatige intelligentie kunnen afbeeldingen en gezichten herkennen en automatisch honderden functies uitvoeren. Om AI te trainen doen Engelstalige bedrijven een beroep op werknemers uit het Zuiden, die in lage-inkomenslanden wonen. OpenAI, het bedrijf dat ChartGPT ontwikkelt, maakt bijvoorbeeld gebruik van een extern bedrijf dat werknemers inhuurt in Kenia, Oeganda en India. Deze werknemers zijn verantwoordelijk voor het uitleggen aan een programma hoe je een hond uit een auto kunt onderscheiden, of hoe je kunt herkennen of een bericht op Instagram aanzet tot haat of racisme. Kortom, het gaat om vele uren achter de computer doorbrengen met het catalogiseren van afbeeldingen (labellyng) of het beantwoorden van eenvoudige vragen om de AI te voorzien van een database met informatie.
Maximaal beveiligde vrouwengevangenis in Hämeenlinna, Finland. Bron: RISE voor Vast
Als AI in het Engels werkt, is er geen tekort aan goedkope arbeidskrachten. Het Mondiale Zuiden zit vol met Engelssprekende burgers die bereid zijn voor een paar dollar per uur te werken. Maar hoe train je een AI in het Fins? In de landen van het Zuiden zijn er weinig of zelfs geen mensen die Fins spreken. Bovendien is Finland een van de rijkste landen ter wereld, met zeer hoge gemiddelde salarissen, waardoor het moeilijk is om goedkope arbeidskrachten te vinden om AI te trainen.
Metroc-leiders vonden de oplossing in gevangenissen. Dankzij een overeenkomst kunnen Hämeenlinna-gevangenen software in de Finse taal ontwikkelen.
Gevangenen trainen op kunstmatige intelligentie
Metroc is een Finse start-up die software heeft ontwikkeld die vraag en aanbod bij Finse overheidsopdrachten met elkaar verbindt. Het programma analyseert een project en bepaalt of het al over alle middelen beschikt om het uit te voeren of dat het een beroep moet doen op professionals. Het algoritme is gebaseerd op kunstmatige intelligentie en kan bepalen of een ziekenhuis al een architect heeft die kamers ontwerpt of een leverancier voor deuren en ramen.
Om de AI te trainen, sloot Metroc een overeenkomst met de streng beveiligde gevangenis in Hämeenlinna. In tegenstelling tot andere Finse gevangenissen, waar gevangenen overdag enige vrijheid genieten, mogen gevangenen hier nooit de gevangenis verlaten. Een verslaggever van Wired interviewde een van de gevangenen die aan het programma deelnamen. Ze legde uit dat het werk uit eenvoudige taken bestaat, zoals het met ‘ja’ of ‘nee’ beantwoorden van vragen over teksten die op een computer worden weergegeven. Een klassieke vraag is bijvoorbeeld: ‘heeft de getoonde advertentie betrekking op de woningmarkt en niet op een baanaanbod? De sessies duren maximaal 3 uur per dag, met een vergoeding van 1,54 euro per uur.
Het gevangenismanagement promoot de deal met Metroc en zegt dat het inkomen voor de gevangenen oplevert en hen voorbereidt op de wereld van werk die hen buiten te wachten staat. De taken worden door de geïnterviewde echter omschreven als “nogal saai en repetitief”. Verder zei ze ook dat ze niet precies wist waar het werk dat ze deed voor diende.
Publieke reactie
Het door Metroc en de Hämeenlinna-gevangenis voorgestelde initiatief heeft een zekere consensus onder de Finse publieke opinie gevonden. Pia Puolakka, directeur van het Smart Prison-project in Filnandia, was een van de eersten die zich aansloot bij het door Metroc voorgestelde initiatief: “Het doel is om de wereld van internet steeds meer in gevangenissen te introduceren, om de gedetineerden niet te isoleren van de wereld ”, zei mevrouw Puokkala; bovendien zijn “gedetineerden absoluut vrij om aan het initiatief deel te nemen, kunnen ze maximaal drie uur in ploegendiensten werken en hebben ze ook andere activiteiten tot hun beschikking”, voegde ze eraan toe.
Werknemers van Gig Economy demonstreren in Californië om meer rechten en bescherming te eisen. Bron: Megan Rose Dickey/Protocol.
Er gingen echter andere stemmen op om het project te bekritiseren. “Het verhaal dat we op weg zijn naar een meer geautomatiseerde en efficiënte samenleving heeft de neiging te vergeten dat er achter veel digitale systemen echte mensen zitten”, zegt Amos Toh, een onderzoeker van Human Rights Watch die gespecialiseerd is in kunstmatige intelligentie. Toh herinnerde zich dat de scherpe evolutie van de technologie heeft geleid tot een krampachtige zoektocht naar goedkope arbeidskrachten om AI te trainen. Bedrijven zoeken ook arbeid bij groepen mensen die geen andere keuze hebben, zoals vluchtelingen, asielzoekers, burgers van lage-inkomenslanden en, in dit geval, gevangenen.
Kunt u door het trainen van een AI vaardigheden verwerven? Niet echt
Onderzoekers van Toh en de Universiteit van Helsinki wezen er ook op dat het nog steeds onduidelijk is hoe repetitieve, mechanische taken die worden uitgevoerd om een AI te trainen, iemand kunnen voorbereiden op de wereld van digitaal werk. Human Rights Watch herhaalde dat effectievere en bewezen initiatieven prioriteit zouden kunnen krijgen om gevangenen vaardigheden bij te brengen, zoals online programmeren en computercursussen.
Het Finse publiek heeft het initiatief van Metroc van harte aanvaard omdat zij vertrouwen hebben in de kwaliteit van het Finse gevangenissysteem en ervan overtuigd zijn dat de betrokken gevangenen volledig vrij zijn in de keuze van de activiteiten die zij willen doen. Maar het is de moeite waard om vraagtekens te zetten bij het effect dat een soortgelijk project, toegepast in landen waar de gevangenissystemen veel strenger en minder effectief zijn, zou kunnen hebben. Volgens een rapport van de ACLU (American Civil Liberties Union) zegt 75% van de gevangenen in de Verenigde Staten gedwongen te werken. Onder deze omstandigheden zou zelfs de training van een AI een vorm van uitbuiting voor alle doeleinden kunnen worden.
De mechanische Turk
De sociale impact van het functioneren van een AI kan verklaard worden aan de hand van het verhaal van de Mechanische Turk. Aan het einde van de 18e en het begin van de 19e eeuw creëerde een Hongaarse uitvinder een houten automaat in de vorm van een mens, gekleed als een man uit het Midden-Oosten (de Turk) en aangedreven door een doos gevuld met geautomatiseerde versnellingen. De Mechanische Turk kon schaken dankzij de geheime mechanismen van de doos en was zo'n krachtige automaat dat hij veel schakers uit die tijd versloeg, net als de huidige AI's. Volgens de legende versloeg hij zelfs Napoleon met schaken.
Illustratie van de mechanische Turk, ontworpen in 1770 door de Hongaarse uitvinder Wolfgang von Kempelen. Het origineel werd in 1854 door brand verwoest. Bron: Joseph Racknitz – Humboldt Universiteitsbibliotheek.
Iedereen vroeg zich af wat het geheim van het mechanisme was. Uiteindelijk bleek dat er geen automatische versnellingen in de bak zaten die de Turk aandreven, maar gewoon een klein mannetje, heel goed in schaken, dat de automaat bediende. Achter de mechanische automatisering zat niets anders dan het werk van een man, van vlees en bloed.
In 2005 werd Amazon door dit verhaal geïnspireerd om zijn crowdsourcingplatform Amazon Mechanical Turk te noemen. Crowdsourcingplatforms maken het mogelijk om taken te organiseren en aan te sturen die door duizenden mensen over de hele wereld worden uitgevoerd, en worden door veel bedrijven gebruikt om gegevens te trainen en te verzamelen die door AI's worden gebruikt.
Het onderbetaalde leger dat AI levend houdt
Samenvattend maakt het Amazon-platform het mogelijk om miljoenen repetitieve taken, zoals beeldclassificatie of herkenning van gewelddadige sociale inhoud, op te splitsen in kleine acties die tegelijkertijd door duizenden werknemers worden uitgevoerd. Deze acties worden beloond met een paar cent per stuk, waardoor de kosten van de ontwikkeling van technologie zoals kunstmatige intelligentie worden verlaagd voor de duizenden werknemers die in lage-inkomenslanden wonen of die geen andere oplossing hebben om te overleven.
Bedrijven die zichzelf aanprijzen als ‘FullAI’ en volledig digitaal, worden in werkelijkheid ondersteund door duizenden werknemers die door sociale omstandigheden gedwongen worden repetitieve, slecht betaalde taken uit te voeren. Deze werknemers hebben niet de volledige vrijheid om een andere baan te kiezen, zoals in het geval van een gevangene, en kunnen in sommige gevallen minder dan 2 euro per uur verdienen, terwijl aan de andere kant van de wereld leiders van digitale bedrijven investeringen ontvangen die de moeite waard zijn. miljoenen.