Prizonierii finlandezi obișnuiau să antreneze AI și alte povești

Des prisonnières finlandaises utilisées pour former une IA et d'autres histoires

Startup-ul finlandez Metroc a încheiat un acord cu închisoarea pentru femei de maximă securitate din Hämeenlinna (Finlanda) pentru a angaja deținute pentru a pregăti un motor de căutare bazat pe inteligență artificială, după cum a raportat Wired. Unul dintre deținuți, intervievat de corespondentul lui Wired, a descris munca ca fiind „plictisitoare și repetitivă”, dar totuși mai bună decât „stătea într-o celulă toată ziua”. Nu este prima dată când subiecții cu alte oportunități de angajare, cum ar fi refugiații, cetățenii țărilor sărace și acum prizonierii, au fost folosiți pentru a instrui AI, adesea cu sarcini alienante și mecanice și cu o remunerație slabă.

Cum să antrenezi un AI care vorbește finlandeză

Programele bazate pe inteligența artificială pot recunoaște imagini, chipuri și pot îndeplini automat sute de funcții. Pentru a instrui AI, companiile de limbă engleză apelează la lucrători din sud, care locuiesc în țări cu venituri mici. De exemplu, OpenAI, compania care dezvoltă ChartGPT, folosește o companie externă care angajează lucrători în Kenya, Uganda și India. Acești lucrători sunt responsabili pentru a explica unui program cum să distingă un câine dintr-o mașină sau cum să recunoască dacă o postare pe Instagram incită la ură sau rasism. Pe scurt, presupune petrecerea multor ore în fața computerului catalogând imagini (etichetare) sau răspunde la întrebări simple pentru a oferi AI o bază de date de informații.

Închisoare pentru femei de maximă securitate din Hämeenlinna, Finlanda. Sursa: RISE pentru Wired

Când AI funcționează în engleză, nu lipsesc muncitori ieftini. Sudul Global este plin de cetățeni vorbitori de limba engleză care doresc să lucreze pentru câțiva dolari pe oră. Dar cum să antrenezi un AI în finlandeză? În țările din sud, oamenii care vorbesc finlandeză sunt puțini sau chiar inexistenți. În plus, Finlanda este una dintre cele mai bogate țări din lume, cu salarii medii foarte mari, așa că este dificil să găsești muncitori ieftini pentru a instrui AI.

Liderii Metroc au găsit soluția în închisori. Datorită unui acord, deținuții Hämeenlinna vor putea dezvolta software în limba finlandeză.

Prizonierii se antrenează pe inteligența artificială

Metroc este un start-up finlandez care a dezvoltat software care conectează oferta și cererea în achizițiile publice finlandeze. Programul analizează un proiect și stabilește dacă acesta dispune deja de toate resursele necesare pentru a-l realiza sau dacă trebuie să apeleze la profesioniști. Algoritmul se bazează pe inteligența artificială și poate determina dacă un spital are deja un arhitect care să proiecteze camere sau un furnizor pentru uși și ferestre.

Pentru a antrena AI, Metroc a încheiat un acord cu închisoarea de înaltă securitate din Hämeenlinna. Spre deosebire de alte închisori finlandeze, unde deținuții se bucură de o oarecare libertate în timpul zilei, aici deținuților nu li se permite niciodată să părăsească închisoarea. Un reporter Wired a intervievat unul dintre deținuții care participau la program. Ea a explicat că munca constă în sarcini simple, cum ar fi răspunsul „da” sau „nu” la întrebările de pe texte afișate pe un computer. De exemplu, o întrebare clasică este: „anunțul afișat se referă mai degrabă la piața imobiliară decât la o ofertă de muncă? Sesiunile durează maxim 3 ore pe zi, cu o remunerație de 1,54 euro pe oră.

Conducerea închisorii promovează înțelegerea cu Metroc, spunând că oferă venituri deținuților și îi pregătește pentru lumea muncii care îi așteaptă în exterior. Cu toate acestea, sarcinile sunt descrise de intervievat ca fiind „destul de plictisitoare și repetitive”. Mai mult, ea a mai spus că nu știe exact pentru ce era munca pe care o făcea.

Reacția publicului

Inițiativa propusă de Metroc și închisoarea Hämeenlinna a întâlnit un anumit consens în rândul opiniei publice finlandeze. Pia Puolakka, directorul proiectului Smart Prison din Filnandia, a fost unul dintre primii care s-a alăturat inițiativei propuse de Metroc: „Scopul este de a introduce tot mai mult lumea internetului în închisori, pentru a nu izola deținuții de lume. ”, a spus doamna Puokkala; în plus, „deținuții sunt absolut liberi să participe la inițiativă, pot lucra în ture până la trei ore și au la dispoziție și alte activități”, a adăugat ea.

Evenimente Gigi EconomyLucrătorii din Gig Economy manifestează în California pentru a cere mai multe drepturi și protecții. Sursa: Megan Rose Dickey/Protocol.

Cu toate acestea, alte voci s-au ridicat pentru a critica proiectul. „Narațiunea conform căreia ne îndreptăm către o societate mai automatizată și mai eficientă tinde să uite că în spatele multor sisteme digitale se află oameni reali”, a spus Amos Toh, cercetător Human Rights Watch specializat în inteligență artificială. Toh a amintit că evoluția bruscă a tehnologiei a dus la o căutare spasmodică a lucrătorilor ieftini pentru a instrui AI. Companiile caută, de asemenea, forță de muncă de la grupuri de oameni care nu au altă opțiune, cum ar fi refugiați, solicitanți de azil, cetățeni din țările cu venituri mici și, în acest caz, prizonieri.

Antrenarea unui AI vă permite să dobândiți abilități? Nu chiar

Toh și cercetătorii de la Universitatea din Helsinki au subliniat, de asemenea, că nu este încă clar cum sarcinile mecanice repetitive efectuate pentru a antrena o inteligență artificială pot pregăti o persoană pentru lumea muncii digitale. Human Rights Watch a reiterat că inițiativele mai eficiente și mai dovedite ar putea fi prioritizate pentru a oferi abilități deținuților, cum ar fi cursuri de programare online și computere.

Publicul finlandez a acceptat din toată inima inițiativa Metroc pentru că are încredere în calitatea sistemului penitenciar finlandez și este convins că deținuții în cauză sunt complet liberi să aleagă activitățile pe care doresc să le facă. Dar merită să ne punem la îndoială efectul pe care l-ar putea avea un proiect similar aplicat în țările în care sistemele penitenciare sunt mult mai dure și mai puțin eficiente. Potrivit unui raport al ACLU (American Civil Liberties Union), în Statele Unite, 75% dintre prizonieri spun că sunt forțați să muncească. În aceste condiții, chiar și formarea unui IA ar putea deveni o formă de exploatare în toate scopurile.

Turcul mecanic

Impactul social al funcționării unui IA poate fi explicat prin povestea turcului mecanic. La sfârșitul anilor 1700 și începutul anilor 1800, un inventator ungur a creat un automat din lemn în formă de om îmbrăcat ca un bărbat din Orientul Mijlociu (turcul) și alimentat de o cutie plină cu roți dințate automatizate. Turcul mecanic a putut să joace șah datorită mecanismelor secrete ale cutiei și a fost un automat atât de puternic încât a învins mulți jucători de șah ai vremii, la fel ca AI-urile de astăzi. Legenda spune că l-a învins chiar pe Napoleon la șah.

Antrenarea unui AI: Mechanical TurkIlustrație a turcului mecanic proiectată în 1770 de inventatorul ungur Wolfgang von Kempelen. Originalul a fost distrus de incendiu în 1854. Sursa: Joseph Racknitz – Biblioteca Universității Humboldt.

Toată lumea s-a întrebat despre secretul mecanismului. Până la urmă s-a dovedit că în cutie nu existau roți automate care să-l conducă pe turc, ci pur și simplu un omuleț, foarte bun la șah, care acționa automatul. În spatele automatizării mecanice nu era nimic altceva decât munca unui om, în carne și oase.

În 2005, Amazon a fost inspirat de această poveste pentru a-și denumi platforma de crowdsourcing, Amazon Mechanical Turk. Platformele de crowdsourcing fac posibilă organizarea și direcționarea sarcinilor efectuate de mii de oameni din întreaga lume și sunt folosite de multe companii pentru a instrui și colecta date utilizate de AI.

Armata prost plătită care menține AI în viață

Pe scurt, platforma Amazon face posibilă descompunerea a milioane de sarcini repetitive, precum clasificarea imaginilor sau recunoașterea conținutului social violent, în mici acțiuni executate simultan de mii de lucrători. Aceste acțiuni sunt remunerate de la câțiva cenți fiecare, reducând costul dezvoltării unor tehnologii precum inteligența artificială pentru miile de lucrători care trăiesc în țări cu venituri mici sau care nu au altă soluție pentru a supraviețui.

Companiile care se prezintă drept „FullAI” și complet digitale sunt, în realitate, susținute de mii de lucrători forțați de circumstanțe sociale să îndeplinească sarcini repetitive și prost plătite. Acești lucrători nu au libertatea deplină de a alege un alt loc de muncă, ca în cazul unei persoane închise, și în unele cazuri pot câștiga mai puțin de 2 euro pe oră, în timp ce în cealaltă parte a lumii, liderii afacerilor digitale primesc investiții de valoare. milioane.