Depuis l’émergence des IA génératives, capables de créer des images réalistes à partir de quelques instructions textuelles, nombreux sont ceux qui mettent en garde contre le dangereux potentiel de ces outils à générer des canulars et des fake news.
C’est précisément ce que l’humoriste Justin T. Brown a voulu dénoncer lorsqu’il a utilisé Midjourney pour créer une série d’images photoréalistes de diverses personnalités politiques trompant leur partenaire.
Ainsi, des personnalités telles que Donald Trump, Barack Obama ou Joe Biden sont représentées dans des chambres d’hôtel en train d’avoir des relations extraconjugales. Le tout, bien sûr, créé à partir de messages-guides.
Selon M. Brown, cette série d’images, publiée sous le titre suggestif AI will revolutionize the blackmail industry, démontre à quel point il est facile d’utiliser ces technologies comme une arme pour nuire à autrui. Il affirme qu’il lui a fallu un peu plus d’une heure pour créer ces images. »Pour montrer le véritable potentiel de menace des IA, le projet devait être une menace potentielle en soi, et pour le démontrer, il n’y avait rien de mieux que d’attaquer les hommes les plus puissants de Washington », explique Brown dans un communiqué publié sur le site de PetaPixel.
Les images ont été publiées dans un fil de discussion Reddit par Midjourney plusieurs mois après qu’il les a créées, et n’ont jamais été présentées comme réelles.Malgré cela, les modérateurs ont immédiatement supprimé le message et, peu après, Justin T. Brown a reçu une notification de Midjourney l’informant qu’il était banni de la plateforme.
I got banned from Midjourney AI for generating realistic images of politicians cheating on their wives for a series called “AI will revolutionize the blackmail industry”
A couple thoughts on AI images from someone who’s good at making fake stuff ????
Trump cheating on his wife: pic.twitter.com/HjxBj7qdaR
— JTB (@jtbthought) May 26, 2023
Selon M. Brown, cela soulève plusieurs questions.
D’une part, cela montre que Midjourney a un certain contrôle sur ce que ses utilisateurs génèrent, mais qu’ils n’ont pas agi avant que les images soient publiées sur Reddit, alors qu’elles avaient été créées depuis des mois et auraient déjà pu causer beaucoup de problèmes à leurs victimes potentielles. D’autre part, nous devrions nous demander quels sont les critères de régulation des contenus, qui prend ces décisions et sur quelle base.
Quoi qu’il en soit, il est plus qu’évident qu’il est urgent de mener un débat approfondi sur la manière de réglementer l’utilisation de l’IA générative.Selon un rapport du New York Times, les images générées par l’IA sont déjà très présentes dans les prochaines élections présidentielles de 2024.