O Tribunal Superior Eleitoral (TSE) reafirmou a proibição do uso de deepfakes nas campanhas eleitorais, enfatizando que apenas a presença de realismo em um conteúdo pode torná-lo ilícito. Em um cenário onde a manipulação digital se torna cada vez mais sofisticada, a discussão sobre a autenticidade de provas se torna um tema premente, especialmente à luz das inovações em inteligência artificial.
Numa reunião recente em Boston, especialistas da OpenAI e da Meta destacaram a crescente dificuldade em distinguir entre vídeos e áudios genuínos e aqueles gerados artificialmente. O fenômeno, conhecido como deepfake, levanta sérias questões sobre a integridade das evidências em tribunais, um ponto que está sendo debatido pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA há três anos.
A tecnologia de IA generativa, que permite a criação de conteúdos a partir de comandos simples, tem avançado a tal ponto que mesmo profissionais da área têm dificuldade em detectar falsificações. Shira Anderson, da OpenAI, expressou ceticismo sobre a possibilidade de desenvolver métodos científicos que garantam a detecção efetiva de deepfakes no futuro. “As imagens geradas por IA estão ficando cada vez melhores”, afirmou ela, evidenciando o desafio que a justiça americana enfrenta.
Até o momento, os casos de deepfakes nos tribunais dos EUA têm sido raros. Um levantamento recente revelou que apenas 15 juízes de um total de 931 enfrentaram contestações relacionadas a provas suspeitas de serem falsificadas. O juiz Jesse Furman, que preside o comitê, ressalta a discrepância entre as previsões acadêmicas e a realidade dos tribunais, onde a incidência de casos ainda é baixa.
Entretanto, especialistas alertam que o risco de manipulação não deve ser subestimado. Devin Norder, da Meta, destacou que os conteúdos criados por IA já são indistinguíveis para o olho humano e que a criação desse material é acessível e rápida. Em resposta a essa crescente preocupação, empresas como OpenAI e Meta estão desenvolvendo ferramentas para verificar a autenticidade de conteúdos digitais.
Além disso, novas legislações na Califórnia e na União Europeia estabelecem a obrigatoriedade de marcas-d’água em conteúdos para ajudar na identificação de falsificações. No entanto, Anderson alertou que, apesar desses esforços, não existe um sistema universal para garantir a identificação correta de todas as marcas ou a autenticidade dos conteúdos, o que continua a representar uma limitação significativa.
Com a evolução contínua da tecnologia, a luta contra deepfakes e a proteção da integridade das evidências nos tribunais permanecerão como um desafio crucial na interseção entre direito e inovação tecnológica.
Crédito da imagem: Foto: Pixabay — dangquangn (pixabay)
