De la apariția IA generativă, capabilă să creeze imagini realiste din câteva instrucțiuni textuale, mulți au avertizat asupra potențialului periculos al acestor instrumente de a genera farse și știri false.
Acesta este exact ceea ce a vrut să expună comediantul Justin T. Brown când a folosit Midjourney pentru a crea o serie de imagini fotorealiste cu diferite personalități politice care își înșală partenerii.
Astfel, personalități precum Donald Trump, Barack Obama sau Joe Biden sunt înfățișate în camerele de hotel având relații extraconjugale. Toate, desigur, create din mesaje ghid.
Potrivit domnului Brown, această serie de imagini, publicată sub titlul sugestiv AI va revoluționa industria șantajului, demonstrează cât de ușor este să folosești aceste tehnologii ca armă pentru a face rău altora. El spune că i-a luat puțin mai mult de o oră pentru a crea aceste imagini „Pentru a arăta adevăratul potențial de amenințare al inteligenței artificiale, proiectul trebuia să fie o amenințare potențială în sine și pentru a demonstra că nu exista nimic mai bun decât să atace. cei mai puternici bărbați din Washington”, a spus Brown într-o declarație publicată pe site-ul PetaPixel.
Imaginile au fost postate într-un thread Reddit de către Midjourney la câteva luni după ce le-a creat și nu au fost niciodată prezentate ca reale. În ciuda acestui fapt, moderatorii au șters imediat postarea, iar la scurt timp, Justin T Brown a primit o notificare de la Midjourney că a fost interzis. platforma.
https://twitter.com/JuuustinBrown/status/1662225616635305985?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E16622256166353055985%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E16622256166353055985%75Etw225616635305985%750985% 82baebc7f8d 2a9db273d7a%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.photolari.com%2Fmidjourney – veta-a-un-usuario-por-crear-imagenes-de-politicos-cometiendo-infidelidades%2F
Potrivit domnului Brown, acest lucru ridică mai multe întrebări.
Pe de o parte, acest lucru arată că Midjourney are un anumit control asupra a ceea ce generează utilizatorii săi, dar că aceștia nu au reușit să acționeze înainte ca imaginile să fie postate pe Reddit, chiar dacă au fost create cu luni în urmă și ar fi putut deja să provoace multe. de probleme pentru potenţialele lor victime. Pe de altă parte, ar trebui să ne întrebăm care sunt criteriile de reglementare a conținutului, cine ia aceste decizii și pe ce bază.
Oricum, este mai mult decât clar că este nevoie urgentă de o dezbatere amănunțită asupra modului de reglementare a utilizării IA generativă. Potrivit unui raport al New York Times, imaginile generate de IA generativă sunt deja foarte prezente la următoarele alegeri prezidențiale. din 2024.