Seit dem Aufkommen der generativen KI, die in der Lage ist, aus wenigen Textanweisungen realistische Bilder zu erstellen, warnen viele vor dem gefährlichen Potenzial dieser Tools, Falschmeldungen und Fake News zu generieren.
Genau das wollte der Komiker Justin T. Brown aufzeigen, als er mit Midjourney eine Reihe fotorealistischer Bilder verschiedener politischer Persönlichkeiten erstellte, die ihre Partner betrügen.
So werden Persönlichkeiten wie Donald Trump, Barack Obama oder Joe Biden bei außerehelichen Affären in Hotelzimmern abgebildet. Alles natürlich aus Leitbotschaften erstellt.
Laut Herrn Brown zeigt diese Bilderserie, die unter dem suggestiven Titel „KI wird die Erpressungsindustrie revolutionieren“ veröffentlicht wurde, wie einfach es ist, diese Technologien als Waffe zu nutzen, um anderen zu schaden. Er sagt, er habe etwas mehr als eine Stunde gebraucht, um diese Bilder zu erstellen. „Um das wahre Bedrohungspotenzial der KI zu zeigen, musste das Projekt selbst eine potenzielle Bedrohung darstellen, und um zu zeigen, dass es nichts Besseres gab, als anzugreifen.“ „Die mächtigsten Männer in Washington“, sagte Brown in einer auf der PetaPixel-Website veröffentlichten Erklärung.
Die Bilder wurden von Midjourney einige Monate nach ihrer Erstellung in einem Reddit-Thread gepostet und nie als echt dargestellt. Trotzdem löschten die Moderatoren den Beitrag sofort und kurz darauf erhielt Justin T. Brown eine Benachrichtigung von Midjourney, dass er gesperrt wurde die Platform.
https://twitter.com/JuuustinBrown/status/1662225616635305985?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1662225616635305985%7Ctwgr%5E42ca59baea9aa70f1e82baeb c7f8d 2a9db273d7a%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.photolari.com%2Fmidjourney – veta-a-un-usuario-por-crear-imagenes-de-politicos-cometiendo-infidelidades%2F
Laut Herrn Brown wirft dies mehrere Fragen auf.
Dies zeigt einerseits, dass Midjourney eine gewisse Kontrolle darüber hat, was seine Nutzer generieren, dass sie jedoch nichts unternommen haben, bevor die Bilder auf Reddit gepostet wurden, obwohl diese schon vor Monaten erstellt wurden und schon viel hätten bewirken können von Problemen für ihre potenziellen Opfer. Andererseits sollten wir uns fragen, was die Kriterien für die Inhaltsregulierung sind, wer diese Entscheidungen trifft und auf welcher Grundlage.
Ungeachtet dessen ist es mehr als klar, dass es dringend einer gründlichen Debatte darüber bedarf, wie der Einsatz generativer KI reguliert werden kann. Einem Bericht der New York Times zufolge sind Bilder, die durch generative KI erzeugt werden, bei den nächsten Präsidentschaftswahlen bereits sehr präsent von 2024.