La start-up finlandese Metroc ha stipulato un accordo con il carcere femminile di massima sicurezza di Hämeenlinna (Finlandia) per impiegare detenute per addestrare un motore di ricerca basato sull'intelligenza artificiale, come riportato da Wired. Uno dei detenuti, intervistato dal corrispondente di Wired, ha descritto il lavoro come “noioso e ripetitivo”, ma comunque migliore che “seduto in cella tutto il giorno”. Non è la prima volta che soggetti con poche altre opportunità lavorative, come rifugiati, cittadini di paesi poveri e ora detenuti, vengono utilizzati per addestrare l’IA, spesso con compiti alienanti e meccanici e compensi irrisori.
Come addestrare un'intelligenza artificiale che parla finlandese
I programmi basati sull'intelligenza artificiale possono riconoscere immagini, volti ed eseguire automaticamente centinaia di funzioni. Per addestrare l’intelligenza artificiale, le aziende anglofone si rivolgono ai lavoratori del Sud, che vivono in paesi a basso reddito. Ad esempio, OpenAI, la società che sviluppa ChartGPT, si avvale di una società esterna che assume lavoratori in Kenya, Uganda e India. Questi operatori hanno il compito di spiegare a un programma come distinguere un cane da un'auto, o come riconoscere se un post su Instagram incita all'odio o al razzismo. Si tratta, in breve, di passare molte ore davanti al computer catalogando immagini (labellyng) o rispondendo a semplici domande in modo da fornire all’AI un database di informazioni.
Carcere femminile di massima sicurezza a Hämeenlinna, Finlandia. Fonte: RISE per Wired
Quando l’intelligenza artificiale funziona in inglese, non mancano i lavoratori a basso costo. Il Sud del mondo è pieno di cittadini di lingua inglese disposti a lavorare per pochi dollari l’ora. Ma come addestrare un'intelligenza artificiale in finlandese? Nei paesi del Sud le persone che parlano finlandese sono poche o addirittura inesistenti. Inoltre, la Finlandia è uno dei paesi più ricchi del mondo, con salari medi molto alti, quindi trovare lavoratori a basso costo per formare l’intelligenza artificiale è difficile.
I leader di Metroc hanno trovato la soluzione nelle carceri. Grazie ad un accordo i detenuti di Hämeenlinna potranno sviluppare software in lingua finlandese.
I detenuti si allenano sull'intelligenza artificiale
Metroc è una start-up finlandese che ha sviluppato un software che collega domanda e offerta negli appalti pubblici finlandesi. Il programma analizza un progetto e determina se dispone già di tutte le risorse necessarie per realizzarlo o se ha bisogno di ricorrere a professionisti. L’algoritmo si basa sull’intelligenza artificiale e può determinare se un ospedale ha già un architetto per progettare le stanze o un fornitore per porte e finestre.
Per addestrare l'IA, Metroc ha stipulato un accordo con il carcere di massima sicurezza di Hämeenlinna. A differenza di altre carceri finlandesi, dove i detenuti godono di una certa libertà durante il giorno, qui ai detenuti non è mai permesso di lasciare la prigione. Un giornalista di Wired ha intervistato uno dei detenuti che hanno partecipato al programma. Ha spiegato che il lavoro consiste in compiti semplici, come rispondere “sì” o “no” a domande su testi visualizzati su un computer. Ad esempio, una domanda classica è: “l'annuncio visualizzato si riferisce al mercato immobiliare piuttosto che a un'offerta di lavoro?” Le sessioni durano massimo 3 ore al giorno, con retribuzione di 1,54 euro l'ora.
La direzione della prigione sta promuovendo l'accordo con Metroc, affermando che fornisce reddito ai detenuti e li prepara per il mondo del lavoro che li attende all'esterno. Tuttavia i compiti vengono descritti dall'intervistato come “piuttosto noiosi e ripetitivi”. Inoltre, ha anche affermato di non sapere esattamente a cosa servisse il lavoro che svolgeva.
Reazione del pubblico
L'iniziativa proposta da Metroc e dal carcere di Hämeenlinna ha incontrato un certo consenso presso l'opinione pubblica finlandese. Pia Puolakka, direttrice del progetto Smart Prison di Filnandia, è stata una delle prime ad aderire all'iniziativa proposta da Metroc: “L'obiettivo è introdurre sempre più il mondo di Internet nelle carceri, per non isolare i detenuti dal mondo ”, ha detto la signora Puokkala; inoltre, “i detenuti sono assolutamente liberi di partecipare all'iniziativa, possono lavorare su turni fino a tre ore e hanno a disposizione anche altre attività”, ha aggiunto.
I lavoratori della Gig Economy manifestano in California per chiedere più diritti e tutele. Fonte: Megan Rose Dickey/Protocollo.
Tuttavia, altre voci si sono levate per criticare il progetto. “La narrazione secondo cui ci stiamo muovendo verso una società più automatizzata ed efficiente tende a dimenticare che dietro molti sistemi digitali ci sono esseri umani reali”, ha affermato Amos Toh, un ricercatore di Human Rights Watch specializzato in intelligenza artificiale. Toh ha ricordato che la forte evoluzione della tecnologia ha portato a una ricerca spasmodica di lavoratori a basso costo per addestrare l’intelligenza artificiale. Le aziende cercano manodopera anche da gruppi di persone che non hanno altra scelta, come rifugiati, richiedenti asilo, cittadini di paesi a basso reddito e, in questo caso, prigionieri.
Addestrare un'IA permette di acquisire competenze? Non proprio
Toh e i ricercatori dell’Università di Helsinki hanno anche sottolineato che non è ancora chiaro in che modo i compiti ripetitivi e meccanici eseguiti per addestrare un’intelligenza artificiale possano preparare una persona al mondo del lavoro digitale. Human Rights Watch ha ribadito che si potrebbe dare priorità a iniziative più efficaci e comprovate per fornire competenze ai detenuti, come la programmazione online e corsi di informatica.
L'opinione pubblica finlandese ha accolto con tutto il cuore l'iniziativa di Metroc perché ha fiducia nella qualità del sistema carcerario finlandese ed è convinta che i detenuti coinvolti siano completamente liberi di scegliere le attività che desiderano svolgere. Ma vale la pena interrogarsi sugli effetti che potrebbe avere un progetto simile applicato in paesi in cui i sistemi carcerari sono molto più severi e meno efficaci. Secondo un rapporto dell'ACLU (American Civil Liberties Union), negli Stati Uniti il 75% dei detenuti afferma di essere costretto a lavorare. In queste condizioni, anche l’addestramento di un’IA potrebbe diventare una forma di sfruttamento a tutti gli effetti.
Il turco meccanico
L’impatto sociale del funzionamento di un’intelligenza artificiale può essere spiegato dalla storia del Turco Meccanico. Tra la fine del 1700 e l'inizio del 1800, un inventore ungherese creò un automa di legno a forma di essere umano vestito come un uomo mediorientale (il turco) e alimentato da una scatola piena di ingranaggi automatizzati. Il Turco Meccanico era in grado di giocare a scacchi grazie ai meccanismi segreti della scatola ed era un automa così potente che batteva molti giocatori di scacchi dell'epoca, proprio come le IA di oggi. La leggenda narra che batté addirittura Napoleone a scacchi.
Illustrazione del Turco Meccanico progettato nel 1770 dall'inventore ungherese Wolfgang von Kempelen. L'originale fu distrutto da un incendio nel 1854. Fonte: Joseph Racknitz – Biblioteca dell'Università Humboldt.
Tutti si interrogavano sul segreto del meccanismo. Alla fine si scoprì che nella scatola che guidava il turco non c'erano cambi automatici, ma semplicemente un omino, molto bravo a scacchi, che azionava l'automa. Dietro l'automazione meccanica non c'era altro che il lavoro di un uomo, in carne e ossa.
Nel 2005, Amazon si è ispirata a questa storia per chiamare la sua piattaforma di crowdsourcing, Amazon Mechanical Turk. Le piattaforme di crowdsourcing consentono di organizzare e dirigere attività svolte da migliaia di esseri umani in tutto il mondo e vengono utilizzate da molte aziende per addestrare e raccogliere dati utilizzati dalle IA.
L'esercito sottopagato che mantiene in vita l'intelligenza artificiale
In sintesi, la piattaforma di Amazon consente di scomporre milioni di compiti ripetitivi, come la classificazione delle immagini o il riconoscimento di contenuti sociali violenti, in piccole azioni eseguite simultaneamente da migliaia di lavoratori. Queste azioni sono remunerate da pochi centesimi ciascuna, riducendo i costi di sviluppo di tecnologie come l’intelligenza artificiale per le migliaia di lavoratori che vivono in paesi a basso reddito o che non hanno altra soluzione per sopravvivere.
Le aziende che si pubblicizzano come “FullAI” e completamente digitali, sono in realtà supportate da migliaia di lavoratori costretti dalle circostanze sociali a svolgere compiti ripetitivi e mal pagati. Questi lavoratori non hanno la completa libertà di scegliere un altro lavoro, come nel caso di un detenuto, e possono in alcuni casi guadagnare meno di 2 euro l’ora, mentre dall’altra parte del mondo, i leader delle imprese digitali ricevono investimenti che valgono milioni.