Prisioneiros finlandeses costumavam treinar IA e outras histórias

Des prisonnières finlandaises utilisées pour former une IA et d'autres histoires

A start-up finlandesa Metroc celebrou um acordo com a prisão feminina de segurança máxima em Hämeenlinna (Finlândia) para empregar presidiárias para treinar um mecanismo de busca baseado em inteligência artificial, conforme relatado pela Wired. Um dos reclusos, entrevistado pelo correspondente da Wired, descreveu o trabalho como “chato e repetitivo”, mas ainda assim melhor do que “ficar sentado numa cela o dia todo”. Esta não é a primeira vez que indivíduos com poucas outras oportunidades de emprego, como refugiados, cidadãos de países pobres e agora prisioneiros, são utilizados para treinar IA, muitas vezes com tarefas alienantes e mecânicas e remuneração insignificante.

Como treinar uma IA que fala finlandês

Programas baseados em inteligência artificial podem reconhecer imagens, rostos e executar centenas de funções automaticamente. Para treinar IA, as empresas de língua inglesa recorrem a trabalhadores do Sul, que vivem em países de baixa renda. Por exemplo, a OpenAI, a empresa que desenvolve o ChartGPT, utiliza uma empresa externa que contrata trabalhadores no Quénia, Uganda e Índia. Esses trabalhadores são responsáveis ​​por explicar a um programa como diferenciar um cachorro de um carro ou como reconhecer se uma postagem no Instagram incita ao ódio ou ao racismo. Em suma, envolve passar muitas horas em frente ao computador catalogando imagens (rotulagem) ou respondendo a perguntas simples para fornecer à IA um banco de dados de informações.

Prisão feminina de segurança máxima em Hämeenlinna, Finlândia. Fonte: RISE para Wired

Quando a IA funciona em inglês, não faltam trabalhadores baratos. O Sul Global está cheio de cidadãos de língua inglesa dispostos a trabalhar por alguns dólares por hora. Mas como treinar uma IA em finlandês? Nos países do Sul, as pessoas que falam finlandês são poucas ou mesmo inexistentes. Além disso, a Finlândia é um dos países mais ricos do mundo, com salários médios muito elevados, pelo que é difícil encontrar trabalhadores baratos para formar IA.

Os líderes do Metroc encontraram a solução nas prisões. Graças a um acordo, os reclusos de Hämeenlinna poderão desenvolver software na língua finlandesa.

Presos treinam com inteligência artificial

Metroc é uma start-up finlandesa que desenvolveu software que liga a oferta e a procura nos contratos públicos finlandeses. O programa analisa um projeto e determina se ele já possui todos os recursos necessários para realizá-lo ou se precisa recorrer a profissionais. O algoritmo é baseado em inteligência artificial e pode determinar se um hospital já possui um arquiteto para projetar os quartos ou um fornecedor de portas e janelas.

Para treinar a IA, a Metroc firmou um acordo com a prisão de alta segurança de Hämeenlinna. Ao contrário de outras prisões finlandesas, onde os reclusos desfrutam de alguma liberdade durante o dia, aqui os reclusos nunca são autorizados a sair da prisão. Um repórter da Wired entrevistou um dos presidiários que participava do programa. Ela explicou que o trabalho consiste em tarefas simples, como responder “sim” ou “não” a perguntas em textos exibidos no computador. Por exemplo, uma pergunta clássica é: “o anúncio apresentado refere-se ao mercado imobiliário e não a uma oferta de emprego? As sessões têm uma duração máxima de 3 horas por dia, com uma remuneração de 1,54 euros por hora.

A administração penitenciária está promovendo o acordo com a Metroc, dizendo que proporciona renda aos presos e os prepara para o mundo do trabalho que os espera no exterior. Contudo, as tarefas são descritas pelo entrevistado como “bastante chatas e repetitivas”. Além disso, ela também disse que não sabia exatamente para que servia o trabalho que fazia.

Reação pública

A iniciativa proposta pela Metroc e pela prisão de Hämeenlinna encontrou um certo consenso entre a opinião pública finlandesa. Pia Puolakka, diretora do projeto Prisão Inteligente em Filnandia, foi uma das primeiras a aderir à iniciativa proposta pela Metroc: “O objetivo é introduzir cada vez mais o mundo da Internet nas prisões, para não isolar os detidos do mundo ”, disse a Sra. Puokkala; além disso, “os reclusos têm total liberdade para participar na iniciativa, podem trabalhar em turnos até três horas e também têm outras atividades à sua disposição”, acrescentou.

Eventos da Economia GigiOs trabalhadores da Gig Economy manifestam-se na Califórnia para exigir mais direitos e proteções. Fonte: Megan Rose Dickey/Protocolo.

No entanto, outras vozes se levantaram para criticar o projeto. “A narrativa de que estamos a avançar para uma sociedade mais automatizada e eficiente tende a esquecer que existem humanos reais por trás de muitos sistemas digitais”, disse Amos Toh, investigador da Human Rights Watch especializado em inteligência artificial. Toh lembrou que a evolução acentuada da tecnologia levou a uma busca espasmódica por trabalhadores baratos para treinar IA. As empresas também procuram mão-de-obra de grupos de pessoas que não têm outra escolha, como refugiados, requerentes de asilo, cidadãos de países de baixos rendimentos e, neste caso, prisioneiros.

Treinar uma IA permite adquirir habilidades? Na verdade

Toh e os investigadores da Universidade de Helsínquia também salientaram que ainda não está claro como tarefas mecânicas e repetitivas realizadas para treinar uma IA podem preparar uma pessoa para o mundo do trabalho digital. A Human Rights Watch reiterou que poderiam ser priorizadas iniciativas mais eficazes e comprovadas para fornecer competências aos prisioneiros, tais como programação online e cursos de informática.

O público finlandês aceitou de todo o coração a iniciativa da Metroc porque confia na qualidade do sistema prisional finlandês e está convencido de que os reclusos em causa são completamente livres de escolher as actividades que desejam realizar. Mas vale a pena questionar o efeito que um projecto semelhante aplicado em países onde os sistemas prisionais são muito mais severos e menos eficazes poderia ter. Segundo relatório da ACLU (União Americana pelas Liberdades Civis), nos Estados Unidos, 75% dos presos dizem que são forçados a trabalhar. Nestas condições, até o treino de uma IA poderia tornar-se uma forma de exploração para todos os fins.

O Turco Mecânico

O impacto social do funcionamento de uma IA pode ser explicado pela história do Turco Mecânico. No final dos anos 1700 e início de 1800, um inventor húngaro criou um autômato de madeira na forma de um humano vestido como um homem do Oriente Médio (o turco) e movido por uma caixa cheia de engrenagens automatizadas. O Turk Mecânico era capaz de jogar xadrez graças aos mecanismos secretos da caixa e era um autômato tão poderoso que venceu muitos jogadores de xadrez da época, assim como as IAs de hoje. Diz a lenda que ele até venceu Napoleão no xadrez.

Treinando uma IA: Mechanical TurkIlustração do Turco Mecânico projetada em 1770 pelo inventor húngaro Wolfgang von Kempelen. O original foi destruído por um incêndio em 1854. Fonte: Joseph Racknitz – Biblioteca da Universidade Humboldt.

Todos se perguntaram sobre o segredo do mecanismo. Por fim, descobriu-se que não havia engrenagens automáticas na caixa que movia o turco, mas simplesmente um homenzinho, muito bom no xadrez, que operava o autômato. Por trás da automação mecânica não havia nada além do trabalho de um homem, em carne e osso.

Em 2005, a Amazon se inspirou nesta história para nomear sua plataforma de crowdsourcing, Amazon Mechanical Turk. As plataformas de crowdsourcing permitem organizar e direcionar tarefas realizadas por milhares de humanos em todo o mundo, e são utilizadas por muitas empresas para treinar e coletar dados utilizados por IAs.

O exército mal pago que mantém a IA viva

Em resumo, a plataforma da Amazon permite decompor milhões de tarefas repetitivas, como classificação de imagens ou reconhecimento de conteúdos sociais violentos, em pequenas ações executadas simultaneamente por milhares de trabalhadores. Estas ações são remuneradas a partir de alguns centavos cada, reduzindo o custo de desenvolvimento de tecnologias como a inteligência artificial para os milhares de trabalhadores que vivem em países de baixa renda ou que não têm outra solução para sobreviver.

As empresas que se autodenominam “FullAI” e totalmente digitais são, na realidade, apoiadas por milhares de trabalhadores forçados pelas circunstâncias sociais a realizar tarefas repetitivas e mal remuneradas. Estes trabalhadores não têm total liberdade para escolher outro emprego, como no caso de um preso, e podem em alguns casos ganhar menos de 2 euros por hora, enquanto do outro lado do mundo, os líderes empresariais digitais recebem investimentos no valor de milhões.