Los robots aspiradores de la empresa iRobot son muy populares hoy en día, especialmente la serie Roomba. Pequeños, cilíndricos y compactos, estos fieles ayudantes del hogar han rondado los hogares de muchos de nosotros desde hace algún tiempo. Además, su tecnología ha evolucionado a lo largo de los años para brindar el mejor servicio posible, digno de un ser humano.
iRobot, el mayor vendedor de robots aspiradores, recientemente adquirido por Amazon, confirmó la noticia. Sus robots aspiradores Roomba han tomado imágenes pirateadas de algunos usuarios incluso en circunstancias íntimas. El sitio web MIT Technology Review logró obtener 15 de estas fotografías, que también fueron publicadas en grupos cerrados de redes sociales. En el siguiente artículo profundizaremos en la historia, intentando explicar cómo ocurrió esto, dando una idea de un mundo aparentemente subterráneo.
Las “víctimas” de Roomba y la respuesta de iRobot
El robot Roomba en cuestión ha tomado fotografías de personas de todo el mundo. Uno de ellos, que creemos que se volverá infame, muestra a una mujer en el baño. Otros muestran a un niño que parece tener hasta ocho años, con el rostro al descubierto, tendido en el suelo. Todas las pantallas, sin embargo, muestran casas en general, algunas ocupadas por humanos, una por un perro. Lo más distintivo es el hecho de que todos los objetos están etiquetados mediante cajas rectangulares como lo haría Terminator. Los muebles, los adornos e incluso los objetos colgados en la pared están etiquetados como «TV», «plant_or_flower», «lámpara de techo», por nombrar sólo algunos ejemplos.
¿Y si el iRobot Roomba realmente nos espiara en el futuro?
Por su parte, iRobot afirma haber entregado el Roomba incriminado únicamente a empleados y coleccionistas. Estos últimos también supuestamente firmaron un acuerdo reconociendo que enviaban flujos de datos, incluidos vídeos, a la empresa. Según la empresa, les correspondía evitar que Roomba registrara información confidencial. Finalmente, el fabricante destacó que se trataba de robots que habían sufrido modificaciones de hardware y software que no estaban presentes en el Roomba comercializado. Evidentemente, ni siquiera los que se han vendido anteriormente.
¿Quién está realmente detrás de la distribución de las imágenes?
Los dispositivos iRobot Roomba, hasta la fecha, cuentan con sensores potentes y, en general, un hardware muy capaz. Ya sean cámaras altamente sofisticadas u otras herramientas, todo contribuye a la recopilación de datos para su procesamiento por parte de la inteligencia artificial. Sin embargo, para que estos datos tengan sentido, los humanos primero deben ver, clasificar, etiquetar y contextualizar cada pieza de información.
Siempre hay un grupo de personas en algún lugar realizando trabajos de categorización de datos para inteligencia artificial. Son los “trabajadores” quienes llevan a cabo este proceso de anotación de datos. La empresa iRobot ha anunciado que subcontrata este trabajo a la plataforma Scale AI. Sin embargo, ella se defiende diciendo que esta filtración de imágenes representa algo más grande que las acciones de una sola empresa.
Es extraordinario ver hasta dónde llegan los datos para “entrenar” algoritmos de inteligencia artificial. En este caso, los datos provienen de hogares de Norteamérica, Europa y Asia y terminan en los servidores de iRobot con sede en Massachusetts. De ahí a los de Scale AI en San Francisco y finalmente a los trabajadores de todo el mundo. Incluyendo, en este caso, a los trabajadores independientes de Venezuela que distribuyeron las imágenes en grupos sociales privados.
Proyecto IO en Roomba de iRobot y cómo nuestros datos terminan en todo el mundo
De todas las empresas que han surgido en la última década, Scale AI se ha convertido en líder en su campo. Fundada en 2016, ha construido todo un negocio de teletrabajo en países menos ricos con su plataforma Remotasks. En 2020, se le asignó una nueva tarea: el proyecto IO. Se trataba de imágenes tomadas con una inclinación hacia arriba de unos 45 grados, que mostraban paredes, techos, suelos y casas. Incluyendo, por supuesto, a las personas cuyos rostros eran claramente visibles.
Luego, los trabajadores discutieron la tarea en Facebook, Discord y otros grupos creados para intercambiar todo tipo de consejos. Ya sea gestionando pagos atrasados, asignando los mejores pagos o solicitando ayuda con el etiquetado. Los grupos sociales acogieron con satisfacción todo esto. En última instancia, si iRobot expresó la violación de los acuerdos por parte de Scale AI, Scale AI culpó a los trabajadores.
El problema fundamental es que nuestra cara es como una contraseña que no se puede cambiar. Una vez que alguien registra nuestra “firma” facial, puede usarla para siempre para encontrarnos en fotos o videos. Peor aún, estas acciones de distribución ilegal son casi imposibles de regular en las plataformas de intercambio. En resumen, los trabajadores son difíciles de controlar uno por uno.
Una vez más, el asunto iRobot Roomba destaca que la tecnología conlleva un potencial enorme (posiblemente dañino), es cierto. Pero siempre depende del uso que hagamos de él que puede volverse en nuestra contra o, en este caso, beneficiar a otros.