La start-up finlandesa Metroc ha llegado a un acuerdo con la prisión de mujeres de máxima seguridad de Hämeenlinna (Finlandia) para emplear a reclusas en el entrenamiento de un motor de búsqueda basado en inteligencia artificial, según informa Wired. Uno de los reclusos, entrevistado por el corresponsal de Wired, describió el trabajo como «aburrido y repetitivo», pero aún mejor que «estar sentado en una celda todo el día». Esta no es la primera vez que sujetos con pocas oportunidades laborales, como refugiados, ciudadanos de países pobres y ahora prisioneros, han sido utilizados para entrenar IA, a menudo con tareas alienantes y mecánicas y una remuneración miserable.
Cómo entrenar una IA que hable finlandés
Los programas basados en inteligencia artificial pueden reconocer imágenes, rostros y realizar cientos de funciones de forma automática. Para formar IA, las empresas de habla inglesa recurren a trabajadores del Sur, que viven en países de bajos ingresos. Por ejemplo, OpenAI, la empresa que desarrolla ChartGPT, utiliza una empresa externa que contrata trabajadores en Kenia, Uganda e India. Estos trabajadores se encargan de explicar a un programa cómo distinguir un perro de un coche, o cómo reconocer si una publicación en Instagram incita al odio o al racismo. En definitiva, se trata de pasar muchas horas delante del ordenador catalogando imágenes (labellyng) o respondiendo preguntas sencillas con el fin de dotar a la IA de una base de datos de información.
Prisión de mujeres de máxima seguridad en Hämeenlinna, Finlandia. Fuente: RISE para Wired
Cuando la IA funciona en inglés, no faltan trabajadores baratos. El Sur Global está lleno de ciudadanos de habla inglesa dispuestos a trabajar por unos pocos dólares la hora. ¿Pero cómo entrenar una IA en finlandés? En los países del Sur, las personas que hablan finlandés son pocas o incluso inexistentes. Además, Finlandia es uno de los países más ricos del mundo, con salarios medios muy altos, por lo que es difícil encontrar trabajadores baratos para formar IA.
Los líderes del Metroc encontraron la solución en las prisiones. Gracias a un acuerdo, los reclusos de Hämeenlinna podrán desarrollar software en finlandés.
Los presos se entrenan con inteligencia artificial
Metroc es una startup finlandesa que ha desarrollado un software que conecta la oferta y la demanda en la contratación pública finlandesa. El programa analiza un proyecto y determina si ya cuenta con todos los recursos necesarios para llevarlo a cabo o si necesita recurrir a profesionales. El algoritmo se basa en inteligencia artificial y puede determinar si un hospital ya cuenta con un arquitecto para diseñar las habitaciones o un proveedor de puertas y ventanas.
Para entrenar la IA, Metroc llegó a un acuerdo con la prisión de alta seguridad de Hämeenlinna. A diferencia de otras prisiones finlandesas, donde los reclusos disfrutan de cierta libertad durante el día, aquí nunca se les permite salir de la prisión. Un reportero de Wired entrevistó a uno de los reclusos que participaban en el programa. Explicó que el trabajo consta de tareas sencillas, como responder «sí» o «no» a preguntas sobre textos visualizados en una computadora. Par exemple, une question classique est : «l'annonce affichée fait-elle référence au marché du logement plutôt qu'à une offre d'emploi ? Les vacations durent au maximum 3 heures par jour, avec une rémunération de 1,54 euro par hora.
La administración penitenciaria está promoviendo el acuerdo con Metroc, diciendo que proporciona ingresos a los reclusos y los prepara para el mundo laboral que les espera en el exterior. Sin embargo, el entrevistado califica las tareas como «bastante aburridas y repetitivas». Además, también dijo que no sabía exactamente para qué trabajaba.
Reacción pública
La iniciativa propuesta por Metroc y la prisión de Hämeenlinna ha encontrado cierto consenso entre la opinión pública finlandesa. Pia Puolakka, directora del proyecto Smart Prison en Filnandia, fue una de las primeras en sumarse a la iniciativa propuesta por Metroc: «El objetivo es introducir cada vez más el mundo de Internet en las cárceles, para no aislar a los detenidos del mundo». ”, dijo la Sra. Puokkala; Además, «los internos tienen total libertad para participar en la iniciativa, pueden trabajar en turnos de hasta tres horas y también tienen a su disposición otras actividades», añadió.
Los trabajadores de Gig Economy se manifiestan en California para exigir más derechos y protecciones. Fuente: Megan Rose Dickey/Protocolo.
Sin embargo, se alzaron otras voces para criticar el proyecto. “La narrativa de que estamos avanzando hacia una sociedad más automatizada y eficiente tiende a olvidar que hay humanos reales detrás de muchos sistemas digitales”, afirmó Amos Toh, investigador de Human Rights Watch especializado en inteligencia artificial. Toh recordó que la fuerte evolución de la tecnología ha llevado a una búsqueda espasmódica de trabajadores baratos para entrenar la IA. Las empresas también buscan mano de obra de grupos de personas que no tienen otra opción, como refugiados, solicitantes de asilo, ciudadanos de países de bajos ingresos y, en este caso, prisioneros.
¿Entrenar una IA te permite adquirir habilidades? No realmente
Toh y los investigadores de la Universidad de Helsinki también señalaron que aún no está claro cómo las tareas mecánicas repetitivas realizadas para entrenar una IA pueden preparar a una persona para el mundo del trabajo digital. Human Rights Watch reiteró que se podrían priorizar iniciativas más efectivas y probadas para brindar habilidades a los reclusos, como programación en línea y cursos de computación.
El público finlandés aceptó de todo corazón la iniciativa de Metroc porque confía en la calidad del sistema penitenciario finlandés y está convencido de que los presos involucrados son completamente libres de elegir las actividades que desean realizar. Pero vale la pena cuestionar el efecto que podría tener un proyecto similar aplicado en países donde los sistemas penitenciarios son mucho más duros y menos efectivos. Según un informe de la ACLU (Unión Estadounidense por las Libertades Civiles), en Estados Unidos, el 75% de los presos dicen ser obligados a trabajar. En estas condiciones, incluso el entrenamiento de una IA podría convertirse en una forma de explotación para todos los fines.
El turco mecánico
El impacto social del funcionamiento de una IA se puede explicar con la historia del Turco Mecánico. A finales de 1700 y principios de 1800, un inventor húngaro creó un autómata de madera con la forma de un ser humano vestido como un hombre de Oriente Medio (el turco) y accionado por una caja llena de engranajes automatizados. El Turco Mecánico podía jugar al ajedrez gracias a los mecanismos secretos de la caja y era un autómata tan poderoso que venció a muchos ajedrecistas de la época, al igual que las IA actuales. Cuenta la leyenda que incluso venció a Napoleón al ajedrez.
Ilustración del turco mecánico diseñado en 1770 por el inventor húngaro Wolfgang von Kempelen. El original fue destruido por un incendio en 1854. Fuente: Joseph Racknitz – Biblioteca de la Universidad Humboldt.
Todos se preguntaban sobre el secreto del mecanismo. Al final resultó que en la caja que impulsaba al turco no había ningún cambio automático, sino simplemente un hombrecito, muy bueno en ajedrez, que manejaba el autómata. Detrás de la automatización mecánica no había nada más que el trabajo de un hombre, de carne y hueso.
En 2005, Amazon se inspiró en esta historia para nombrar su plataforma de crowdsourcing, Amazon Mechanical Turk. Las plataformas de crowdsourcing permiten organizar y dirigir tareas realizadas por miles de humanos en todo el mundo y son utilizadas por muchas empresas para entrenar y recopilar datos utilizados por las IA.
El ejército mal pagado que mantiene viva la IA
En resumen, la plataforma de Amazon permite descomponer millones de tareas repetitivas, como la clasificación de imágenes o el reconocimiento de contenidos sociales violentos, en pequeñas acciones ejecutadas simultáneamente por miles de trabajadores. Estas acciones se remuneran desde unos pocos centavos cada una, reduciendo el costo de desarrollar tecnología como la inteligencia artificial para los miles de trabajadores que viven en países de bajos ingresos o que no tienen otra solución para sobrevivir.
Las empresas que se promocionan como “FullAI” y totalmente digitales, en realidad cuentan con el apoyo de miles de trabajadores obligados por circunstancias sociales a realizar tareas repetitivas y mal remuneradas. Estos trabajadores no tienen total libertad para elegir otro trabajo, como en el caso de una persona encarcelada, y en algunos casos pueden ganar menos de 2 euros por hora, mientras que, en el otro lado del mundo, los líderes de las empresas digitales reciben inversiones que valen la pena. millones.