Sinds de opkomst van generatieve AI, die in staat is realistische beelden te creëren op basis van een paar tekstuele instructies, hebben velen gewaarschuwd voor het gevaarlijke potentieel van deze tools om hoaxes en nepnieuws te genereren.
Dit is precies wat cabaretier Justin T. Brown wilde blootleggen toen hij Midjourney gebruikte om een reeks fotorealistische beelden te maken van verschillende politieke figuren die hun partners bedriegen.
Zo worden persoonlijkheden als Donald Trump, Barack Obama of Joe Biden afgebeeld in hotelkamers die buitenechtelijke affaires hebben. Allemaal natuurlijk gemaakt op basis van gidsberichten.
Volgens de heer Brown laat deze reeks afbeeldingen, gepubliceerd onder de suggestieve titel AI een revolutie teweegbrengen in de chantage-industrie, zien hoe gemakkelijk het is om deze technologieën te gebruiken als wapen om anderen schade te berokkenen. Hij zegt dat het hem iets meer dan een uur kostte om deze beelden te maken. “Om het ware dreigingspotentieel van AI te laten zien, moest het project op zichzelf een potentiële dreiging zijn, en om dat aan te tonen was er niets beters dan aanvallen. de machtigste mannen in Washington”, zei Brown in een verklaring op de PetaPixel-website.
De afbeeldingen werden enkele maanden nadat hij ze had gemaakt door Midjourney in een Reddit-thread geplaatst en werden nooit als echt gepresenteerd. Desondanks verwijderden moderators het bericht onmiddellijk, en kort daarna ontving Justin T. Brown een melding van Midjourney dat hij werd verbannen. het platform.
https://twitter.com/JuuustinBrown/status/1662225616635305985?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1662225616635305985%7Ctwgr%5E42ca59baea9aa70f1e82baebc7f 8d 2a9db273d7a%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.photolari.com%2Fmidjourney – veta-a-un-usuario-por-crear-imagenes-de-politicos-cometiendo-infidelidades%2F
Volgens de heer Brown roept dit verschillende vragen op.
Aan de ene kant laat dit zien dat Midjourney enige controle heeft over wat haar gebruikers genereren, maar dat ze nagelaten hebben actie te ondernemen voordat de afbeeldingen op Reddit werden geplaatst, ook al waren ze al maanden geleden gemaakt en hadden ze al veel kunnen veroorzaken. van problemen voor hun potentiële slachtoffers. Aan de andere kant moeten we ons afvragen wat de criteria voor inhoudsregulering zijn, wie deze beslissingen neemt en op welke basis.
Hoe dan ook, het is meer dan duidelijk dat er dringend behoefte is aan een grondig debat over de manier waarop het gebruik van generatieve AI moet worden gereguleerd. Volgens een rapport van de New York Times zijn beelden gegenereerd door generatieve AI al zeer aanwezig bij de volgende presidentsverkiezingen van 2024.