O problema está na ferramenta ou nos usuários?
Cristina Levano
“O papa veste a moda”, foi a frase com a qual muitos descreveram a foto viral do Papa Francisco caminhando pelas ruas da Cidade do Vaticano, há algumas semanas. Ele estava com uma roupa que parecia ter sido tirada da última coleção da grife de luxo parisiense Moncler.
Com muita dificuldade (porque entre risadas e gargalhadas a verdade se esvai), a realidade veio à tona: a foto era falsa. Mas nem por isso deixou de ser tão realista, o que levou muitos a se perguntarem: como um trabalhador da construção civil de Chicago, Pablo Xavier, conseguiu criar um tremendo ‘deep fake’ usando apenas inteligência artificial?
A resposta é Midjourney, uma IA especializada na geração de imagens realistas. Basta escrever um texto detalhado com indicações do que se quer ver e o software se encarrega do resto. Foi assim que este trabalhador conseguiu criar esta imagem controversa, que foi inicialmente compartilhada no Reddit sob o nome de “The Pope Drip”.
“Este tipo de conteúdo, é criado principalmente com o objetivo de gerar likes e visualizações nas redes sociais, ou em algumas situações, com intuito de lucro pessoal”, explica o Engenheiro de Sistemas Jhon Niño.
Ajudando a espalhar Fake News
Mas essa não é a única forma em que pessoas têm utilizado esta ferramenta para espalhar as fake news.
De acordo com Rafael Arantes, criador digital, por meio da criação de deep fakes, robôs (bots) para mídias sociais, se dá manipulação de resultados e algoritmos de recomendação, que direcionam o usuário para conteúdos falsos. “É importante que os idealizadores trabalhem em conjunto com os pesquisadores de mídia e com os usuários finais para melhorar a eficácia das ferramentas de IA e criar modelos de aprendizagem para que ela seja cada vez mais eficaz”, afirma.
Esses bots são capazes de gerar e publicar grandes quantidades de informações em um curto espaço de tempo, o que permite atingir um grande número de pessoas com mais rapidez. Além disso, algumas empresas desenvolveram programas de geração de cópias capazes de criar notícias falsas com estrutura e tom semelhantes às notícias reais. Isso pode tornar mais difícil para as pessoas distinguirem entre o que é falso e o que é real.
Lamentavelmente, ao estar num processo de evolução, a IA ainda possui limitações que a impedem de identificar e apagar este tipo de informação. “Se olhamos para censurar conteúdo e algoritmos que discriminam certos grupos, podemos facilmente entender que a IA pode ter interpretações equivocadas sobre um conteúdo, criando situações sérias do ponto de vista de interpretação”, informa Arantes.
Ajudando a combater a Fake News
Por outro lado, assim como se utiliza a IA para difundir conteúdo falso, também é uma ferramenta muito útil na luta contra as notícias falsas. Usando técnicas de análise de dados e aprendizado de máquina, a IA pode identificar padrões e características nas notícias que sugerem que são falsas, analisar a credibilidade da fonte e verificar a veracidade das informações. Isso pode ajudar a proteger os consumidores de notícias contra desinformação e contribuir para um ambiente de notícias mais confiável.
Para evitar que imagens falsas continuem se gerando, o programa MidJourney, parou os testes gratuitos de seu serviço para todos os usuários. Após as imagens falsas do Papa Francisco e de outros, como Donald Trump, o programa anunciou a suspensão.
Segundo o anúncio de David Holz, desenvolvedor da ferramenta, a decisão foi tomada por conta de um uso excessivo, que sobrecarregou sua infraestrutura. Devido a isso, a próxima versão do aplicativo, chamada de v5, será exclusiva para assinantes desde seu lançamento. Além disso, ele afirmou que a moderação de conteúdo falso é difícil, mas prometeu lançar sistemas aprimorados em breve.
Assim como Holz, outros desenvolvedores de aplicativos e programas continuam buscando soluções para controlar a propagação de imagens e informações falsas. “É importante ressaltar que o mau uso da IA está associado aos seus idealizadores, que devem ser responsabilizados por qualquer dano causado pelo uso indevido da tecnologia”, explica Rafael Arantes.
Da mesma forma, o presidente e cofundador do RELACI, John Niño, explica que muitas vezes as pessoas utilizam estas ferramentas para o próprio benefício, e isso não é algo atual. Quando surgiu a internet, as pessoas copiaram e colaram informação nos seus trabalhos, modificando alguns detalhes para evitar o plágio. “Agora, com a inteligência artificial e com ferramentas como o ChatGPT, podem até escrever histórias, contos, ensaios, resumos de livro, livre de plágio”, ressalta.
Além disso, ele argumenta que a massificação da internet “fez com que as pessoas fossem mais preguiçosas ao ponto que buscam informação de todos os lados, para copiar e pegar. E as redes sociais, às vezes, fazem com que as pessoas percam o tempo, o que facilita a viralização de notícias falsas.”
Uma grande responsabilidade
Os benefícios que a IA pode oferecer à sociedade são inumeráveis. “Com certeza, pode ajudar a reduzir o tempo de trabalho na parte técnica, permitindo que o ser humano se foque mais na parte criativa, por exemplo”, disse o engenheiro.
Mas isso será possível unicamente se dermos um bom uso a esta ferramenta para aproveitar ao máximo, evitando cair no círculo vicioso das fake news. É importante verificar a fonte de qualquer informação, principalmente quando se trata de notícias ou informações críticas, inclusive se for uma imagem do papa com um casaco estiloso.
