Oggigiorno gli aspirapolvere robot dell'azienda iRobot sono molto popolari, in particolare la serie Roomba. Piccoli, cilindrici e compatti, questi fidati aiutanti domestici infestano ormai da tempo le case di molti di noi. Inoltre, la loro tecnologia si è evoluta nel corso degli anni per fornire il miglior servizio possibile, degno di un essere umano.
Lo ha confermato iRobot, il più grande venditore di robot aspirapolvere, recentemente acquisito da Amazon. I suoi robot aspirapolvere Roomba hanno scattato immagini hackerate di alcuni utenti anche in circostanze intime. Il sito web del MIT Technology Review è riuscito a ottenere 15 di queste foto, che sono state pubblicate anche su gruppi chiusi di social media. Nel seguente articolo approfondiremo la vicenda, cercando di spiegare come ciò sia avvenuto, dando uno spaccato di un mondo apparentemente sotterraneo.
Le “vittime” di Roomba e la risposta di iRobot
Il robot Roomba in questione ha scattato foto di persone in tutto il mondo. Uno, che secondo noi diventerà famigerato, raffigura una donna in bagno. Altri mostrano un ragazzino che sembra avere circa otto anni, con il viso scoperto, disteso a terra. Tutti gli schermi, però, mostrano case in generale, alcune occupate da esseri umani, una da un cane. La cosa più distintiva è il fatto che tutti gli oggetti sono etichettati da scatole rettangolari come farebbe un Terminator. Mobili, decorazioni e perfino oggetti appesi al muro portano la dicitura “TV”, “pianta_o_fiore”, “plafoniera”, per citare solo alcuni esempi.
E se iRobot Roomba in futuro ci spiasse davvero?
Da parte sua, iRobot afferma di aver consegnato il Roomba incriminato solo a dipendenti e collezionisti. Questi ultimi avrebbero inoltre firmato un accordo in cui riconoscevano di inviare flussi di dati, compresi video, all'azienda. Secondo l'azienda, spettava a loro impedire a Roomba di registrare informazioni riservate. Infine, il produttore ha sottolineato che si tratta di robot che hanno subito modifiche hardware e software che non erano presenti sul Roomba commercializzato. Ovviamente nemmeno quelli venduti in precedenza.
Chi c'è veramente dietro la distribuzione delle immagini?
I dispositivi iRobot Roomba, ad oggi, sono dotati di sensori potenti e, in generale, di un hardware molto capace. Che si tratti di telecamere altamente sofisticate o di altri strumenti, tutto concorre alla raccolta di dati per l'elaborazione da parte dell'intelligenza artificiale. Tuttavia, per dare un senso a questi dati, gli esseri umani devono prima vedere, classificare, etichettare e contestualizzare ogni informazione.
C’è sempre un gruppo di persone da qualche parte che svolge il lavoro di categorizzazione dei dati per l’intelligenza artificiale. Sono i “gigworker” che eseguono questo processo di annotazione dei dati. La società iRobot ha annunciato che subappalterà questo lavoro alla piattaforma Scale AI. Lei però si difende dicendo che questa fuga di immagini rappresenta qualcosa di più grande delle azioni di una singola azienda.
È straordinario vedere fino a che punto arrivano i dati per “addestrare” gli algoritmi di intelligenza artificiale. In questo caso, i dati provengono da case in Nord America, Europa e Asia e finiscono sui server di iRobot con sede in Massachusetts. Da lì a quelli della Scale AI di San Francisco e infine ai lavoratori di tutto il mondo. Compresi, in questo caso, i lavoratori indipendenti venezuelani che hanno distribuito le immagini sui gruppi social privati.
Progetto IO su Roomba di iRobot e come i nostri dati finiscono in tutto il mondo
Di tutte le aziende emerse nell’ultimo decennio, Scale AI è diventata leader nel suo settore. Fondata nel 2016, ha costruito un’intera attività di telelavoro nei paesi meno ricchi con la sua piattaforma Remotasks. Nel 2020 le è stato affidato un nuovo incarico: il progetto IO. Si trattava di immagini riprese con un'inclinazione verso l'alto di circa 45 gradi, che mostravano pareti, soffitti, pavimenti, case. Comprese, ovviamente, le persone i cui volti erano chiaramente visibili.
I lavoratori hanno poi discusso dell'incarico su Facebook, Discord e altri gruppi creati per scambiarsi ogni tipo di consiglio. Che si tratti di gestire i pagamenti in ritardo, di assegnare i pagamenti migliori o di richiedere aiuto con l'etichettatura. I gruppi sociali hanno accolto con favore tutto questo. Alla fine, se iRobot avesse espresso la violazione degli accordi da parte di Scale AI, Scale AI avrebbe incolpato i lavoratori.
Il problema fondamentale è che il nostro volto è come una password che non si può cambiare. Una volta che qualcuno registra la nostra “firma” facciale, può usarla per sempre per trovarci in foto o video. Quel che è peggio è che queste azioni di distribuzione illegale sono quasi impossibili da regolamentare sulle piattaforme di condivisione. I lavoratori sono difficili da controllare uno per uno, insomma.
Ancora una volta, il caso iRobot Roomba evidenzia che la tecnologia ha un potenziale enorme (forse dannoso), è vero. Ma è sempre a seconda dell’uso che ne facciamo che può ritorcersi contro di noi o, in questo caso, avvantaggiare gli altri.