Os aspiradores robôs da empresa iRobot são muito populares hoje em dia, especialmente a série Roomba. Pequenos, cilíndricos e compactos, esses confiáveis ajudantes domésticos já assombram as casas de muitos de nós há algum tempo. Além disso, sua tecnologia evoluiu ao longo dos anos para oferecer o melhor serviço possível, digno de um ser humano.
A iRobot, maior vendedora de aspiradores robôs, recentemente adquirida pela Amazon, confirmou a notícia. Seus aspiradores robôs Roomba capturaram imagens hackeadas de alguns usuários, mesmo em circunstâncias íntimas. O site MIT Technology Review conseguiu obter 15 dessas fotos, que também foram postadas em grupos fechados de redes sociais. No artigo a seguir iremos nos aprofundar na história, tentando explicar como isso aconteceu, dando uma visão de um mundo aparentemente subterrâneo.
As “vítimas” do Roomba e a resposta da iRobot
O robô Roomba em questão tirou fotos de pessoas em todo o mundo. Um deles, que achamos que se tornará famoso, retrata uma mulher no banheiro. Outras mostram um menino que aparenta ter até oito anos, com o rosto exposto, caído no chão. Todas as telas, porém, mostram casas em geral, algumas ocupadas por humanos, uma por um cachorro. O mais marcante é o fato de que todos os objetos são rotulados por caixas retangulares, como faria um Terminator. Móveis, decorações e até objetos pendurados na parede são rotulados como “TV”, “planta_ou_flor”, “luz de teto”, para citar apenas alguns exemplos.
E se o iRobot Roomba realmente nos espionasse no futuro?
Por sua vez, a iRobot afirma ter entregue o Roomba incriminado apenas a funcionários e cobradores. Estes últimos também teriam assinado um acordo reconhecendo que estavam enviando fluxos de dados, incluindo vídeos, para a empresa. Segundo a empresa, cabia a eles evitar que o Roomba registrasse informações confidenciais. Por fim, o fabricante enfatizou que se tratavam de robôs que sofreram modificações de hardware e software que não estavam presentes no Roomba comercializado. Obviamente, nem mesmo aqueles que foram vendidos anteriormente.
Quem está realmente por trás da distribuição das imagens?
Os dispositivos iRobot Roomba, até o momento, apresentam sensores poderosos e, em geral, hardware muito capaz. Sejam câmeras altamente sofisticadas ou outras ferramentas, tudo contribui para a coleta de dados para processamento pela inteligência artificial. No entanto, para dar sentido a estes dados, os humanos devem primeiro ver, classificar, rotular e contextualizar cada informação.
Sempre há um grupo de pessoas em algum lugar fazendo trabalho de categorização de dados para inteligência artificial. São os “gig workers” que realizam esse processo de anotação de dados. A empresa iRobot anunciou que está subcontratando esse trabalho para a plataforma Scale AI. Porém, ela se defende dizendo que esse vazamento de imagens representa algo maior do que as ações de uma única empresa.
É extraordinário ver até onde vão os dados para “treinar” algoritmos de inteligência artificial. Nesse caso, os dados vêm de residências na América do Norte, Europa e Ásia e vão parar nos servidores da iRobot com sede em Massachusetts. De lá para aqueles da Scale AI em São Francisco e, finalmente, para trabalhadores de todo o mundo. Incluindo, neste caso, os trabalhadores independentes da Venezuela que distribuíram as imagens em grupos sociais privados.
Projeto IO no Roomba da iRobot e como nossos dados vão parar ao redor do mundo
De todas as empresas que surgiram na última década, a Scale AI tornou-se líder na sua área. Fundada em 2016, construiu todo um negócio de teletrabalho em países menos ricos com a sua plataforma Remotasks. Em 2020, recebeu uma nova tarefa: o projeto IO. Foram imagens tiradas com uma inclinação para cima de cerca de 45 graus, mostrando paredes, tetos, pisos, casas. Incluindo, é claro, pessoas cujos rostos eram claramente visíveis.
Os trabalhadores discutiram então a tarefa no Facebook, Discord e outros grupos criados para trocar todo tipo de conselhos. Seja gerenciando pagamentos atrasados, atribuindo os melhores pagamentos ou solicitando ajuda com etiquetagem. Os grupos sociais acolheram tudo isto. Em última análise, se a iRobot expressou a violação dos acordos da Scale AI, a Scale AI culpou os trabalhadores.
O problema fundamental é que nosso rosto é como uma senha que não pode ser alterada. Depois que alguém registra nossa “assinatura” facial, ele pode usá-la para sempre para nos encontrar em fotos ou vídeos. Pior ainda, estas ações de distribuição ilegal são quase impossíveis de regular em plataformas de partilha. Em suma, os trabalhadores são difíceis de controlar um por um.
Mais uma vez, o caso iRobot Roomba destaca que a tecnologia carrega um potencial enorme (possivelmente prejudicial), é verdade. Mas é sempre dependendo do uso que fazemos dele que ele pode se voltar contra nós ou, neste caso, beneficiar outros.