Desde la aparición de la IA generativa, capaz de crear imágenes realistas a partir de unas pocas instrucciones textuales, muchos han advertido del peligroso potencial de estas herramientas para generar bulos y noticias falsas.
Esto es precisamente lo que quiso exponer el comediante Justin T. Brown cuando utilizó Midjourney para crear una serie de imágenes fotorrealistas de varias figuras políticas engañando a sus parejas.
Así, personalidades como Donald Trump, Barack Obama o Joe Biden aparecen retratadas en habitaciones de hotel manteniendo relaciones extramatrimoniales. Todo, por supuesto, creado a partir de mensajes guía.
Según Brown, esta serie de imágenes, publicadas bajo el sugerente título La IA revolucionará la industria del chantaje, demuestra lo fácil que es utilizar estas tecnologías como arma para dañar a otros. Dice que le llevó poco más de una hora crear estas imágenes. «Para mostrar el verdadero potencial de amenaza de la IA, el proyecto tenía que ser una amenaza potencial en sí mismo, y para demostrarlo, no había nada mejor que atacar. los hombres más poderosos de Washington», dijo Brown en un comunicado publicado en el sitio web PetaPixel.
Midjourney publicó las imágenes en un hilo de Reddit varios meses después de que las creó y nunca se presentaron como reales. A pesar de esto, los moderadores eliminaron inmediatamente la publicación y poco después, Justin T Brown recibió una notificación de Midjourney de que estaba prohibido. la plataforma.
https://twitter.com/JuuustinBrown/status/1662225616635305985?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1662225616635305985%7Ctwgr%5E42ca59baea9aa70f1e82baebc7 f8d 2a9db273d7a%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.photolari.com%2Fmedioviaje – veta-a-un-usuario-por-crear-imagenes-de-politicos-cometiendo-infidelidades%2F
Según el Sr. Brown, esto plantea varias preguntas.
Por un lado, esto demuestra que Midjourney tiene cierto control sobre lo que generan sus usuarios, pero que no actuaron antes de que las imágenes fueran publicadas en Reddit, a pesar de que habían sido creadas hace meses y ya habrían podido causar mucho. de problemas para sus víctimas potenciales. Por otro lado, deberíamos preguntarnos cuáles son los criterios para la regulación de contenidos, quién toma esas decisiones y en base a qué.
De todos modos, está más que claro que existe una necesidad urgente de un debate profundo sobre cómo regular el uso de la IA generativa. Según un informe del New York Times, las imágenes generadas por la IA generativa ya están muy presentes en las próximas elecciones presidenciales. de 2024.