A recente decisão do Tribunal Superior Eleitoral (TSE) em manter a proibição do uso de deepfakes nas campanhas eleitorais destaca uma preocupação crescente com a manipulação de informações em tempos de avanço tecnológico. No entanto, a corte também deixou claro que o realismo é um fator crucial para se considerar a ilicitude desse tipo de conteúdo. Essa questão ganhou contornos ainda mais complexos com os alertas de especialistas da OpenAI e da Meta, que apontaram que as falsificações geradas por inteligência artificial estão se tornando cada vez mais difíceis de serem identificadas.
Durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, foi discutido como o progresso da IA generativa — capaz de criar vídeos, áudios e imagens a partir de simples comandos — pode afetar a verificação de provas nos tribunais. Shira Anderson, consultora da OpenAI, enfatizou que as imagens produzidas por IA estão em constante evolução, tornando a detecção de falsificações um verdadeiro desafio tanto para seres humanos quanto para algoritmos.
Embora a conversa sobre deepfakes tenha se intensificado nos últimos anos, os dados do Centro Federal do Judiciário dos EUA revelam que ainda são raros os casos em que esse tipo de evidência foi contestada. Apenas 15 juízes, entre 931 que participaram de uma pesquisa, relataram ter lidado com situações em que a autenticidade de uma prova foi questionada devido à suspeita de que pudesse ser um deepfake. Jesse Furman, juiz federal de Manhattan e presidente do comitê, observou que, apesar das previsões acadêmicas sobre o aumento de casos, a realidade ainda não reflete esse temor.
Por outro lado, especialistas alertam que a dificuldade em identificar conteúdos falsificados não deve ser subestimada. Devin Norder, da Meta, destacou que os avanços tecnológicos tornaram possível criar materiais tão realistas que parecem autênticos, além de serem acessíveis em termos de tempo e custo. As empresas como OpenAI e Meta estão investindo em ferramentas para verificar a autenticidade de conteúdos visuais, mas a eficácia dessas soluções é limitada pelas diferentes abordagens que cada uma adota.
Em resposta a essa problemática, novas legislações na Califórnia e na União Europeia têm exigido o uso de marcas-d’água em conteúdos gerados por IA. Essa medida visa facilitar a identificação de materiais falsificados, embora Anderson tenha ressaltado que não existe uma solução universal capaz de garantir a autenticidade de todos os conteúdos visuais. A complexidade desse cenário sugere que, à medida que a tecnologia avança, a proteção contra fraudes e manipulações deverá ser constantemente revisitada e aperfeiçoada.
Crédito da imagem: Foto: Pixabay — aiworldexplore (pixabay)
