Desde o surgimento da IA generativa, capaz de criar imagens realistas a partir de algumas instruções textuais, muitos alertaram para o perigoso potencial destas ferramentas para gerar boatos e notícias falsas.
Isso é exatamente o que o comediante Justin T. Brown queria expor quando usou Midjourney para criar uma série de imagens fotorrealistas de várias figuras políticas traindo seus parceiros.
Assim, personalidades como Donald Trump, Barack Obama ou Joe Biden são retratadas em quartos de hotel tendo casos extraconjugais. Tudo, claro, criado a partir de mensagens orientadoras.
Segundo Brown, esta série de imagens, publicada sob o sugestivo título AI irá revolucionar a indústria da chantagem, demonstra como é fácil usar estas tecnologias como arma para prejudicar os outros. Ele diz que levou pouco mais de uma hora para criar essas imagens “Para mostrar o verdadeiro potencial de ameaça da IA, o projeto tinha que ser uma ameaça potencial em si mesmo e, para demonstrar isso, não havia nada melhor do que atacar. os homens mais poderosos de Washington”, disse Brown em comunicado publicado no site PetaPixel.
As imagens foram postadas em um tópico do Reddit por Midjourney vários meses depois de ele as ter criado e nunca foram apresentadas como reais. Apesar disso, os moderadores apagaram imediatamente a postagem e, logo depois, Justin T Brown recebeu uma notificação de Midjourney de que ele foi banido. a plataforma.
https://twitter.com/JuuustinBrown/status/1662225616635305985?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1662225616635305985%7Ctwgr%5E42ca59baea9aa70f1e82baebc7f8d 2a9db273d7a%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.photolari.com%2Fmidjourney – veta-a-un-usuario-por-criar-imagenes-de-politicos-cometiendo-infidelidades%2F
De acordo com o Sr. Brown, isso levanta várias questões.
Por um lado, isso mostra que Midjourney tem algum controle sobre o que seus usuários geram, mas que eles não agiram antes das imagens serem postadas no Reddit, mesmo tendo sido criadas há meses e já teriam sido capazes de causar muita coisa. de problemas para as suas potenciais vítimas. Por outro lado, deveríamos perguntar-nos quais são os critérios de regulação de conteúdos, quem toma essas decisões e em que base.
Independentemente disso, está mais do que claro que há uma necessidade urgente de um debate aprofundado sobre como regular o uso de IA generativa. Segundo uma reportagem do New York Times, as imagens geradas por IA generativa já estarão muito presentes nas próximas eleições presidenciais. de 2024.