A evolução da inteligência artificial trouxe consigo ferramentas poderosas capazes de gerar imagens e vídeos cada vez mais realistas. Entre elas, destacam-se as deepfakes, montagens digitais criadas com base em conteúdo já existente, que vêm transformando a forma como se consume informação, e também ampliando riscos sociais, emocionais e jurídicos.
Segundo o professor Evandro Franzen, especialista em Inteligência Artificial, as deepfakes utilizam softwares de IA generativa. “São usados vídeos e imagens originais, que são modificadas por meio de recursos de IA, ou seja, são alterados para criar resultados falsos, inserindo uma fala de alguém que nunca falou aquilo, imagens de alguém fazendo algo que não fez, etc”, evidencia. Se antes a manipulação exigia grande estrutura técnica, hoje o acesso a essas ferramentas se popularizou, tornando a prática mais acessível até para pessoas sem formação avançada em tecnologia.
Criatividade ou ameaça?
Franzen lembra que a linha entre o uso criativo e o nocivo é tênue. Enquanto artistas podem explorar a tecnologia para fins de entretenimento ou inovação, criminosos encontram espaço para golpes, ataques à reputação e manipulação política. “Inicialmente é preciso criar ou modificar leis para punir quem publica vídeos e imagens falsas. A questão ética é complexa, até onde vai a responsabilidade de quem cria estes softwares, isso é um assunto amplo e deve gerar muitos debates a respeito. Questões autorais, modificação em imagens e vídeos originais, criados por outras pessoas, isso tudo merece uma discussão, que já está ocorrendo no mundo todo. Estes artefatos ficam cada vez mais realistas, porque os softwares estão cada vez mais poderosos, capazes de imitar dados originais, criando alterações quase impossíveis de detectar, especialmente por pessoas comuns que não tem conhecimento técnico para analisar um vídeo ou imagem. Provavelmente vamos ver IAs ainda mais avançadas que tornarão esta identificação cada vez mais difícil. É uma tendência que estamos vendo ao longo dos anos”, explica.
Já a professora de Direito Digital Patrícia Montemezzo destaca os desafios legais e democráticos. Ela cita casos no exterior em que deepfakes foram usadas em fraudes financeiras, como vídeos falsos de executivos pedindo transferências bancárias. No campo político, alerta para o risco de manipulação da opinião pública: “Um vídeo adulterado pode influenciar decisões eleitorais e ferir a própria democracia, que pressupõe liberdade na formação de opinião. No entanto, o Tribunal Superior Eleitoral (TSE) tem a competência de estabelecer as normas para cada pleito e já existe essa proibição, além de estar em tramitação no Congresso alterações no próprio Código Eleitoral também”, destaca. Para ela, as deepfakes não são perfeitas, mas a tendência é que avancem rapidamente, se fazendo necessário o avanço de tecnologias para detectar estes mecanismos.
Apesar da gravidade, Montemezzo acredita que não é necessária uma nova legislação exclusiva. Para ela, crimes digitais já podem ser enquadrados em tipos penais existentes, como estelionato ou falsidade ideológica. O que falta, segundo ela, é educação midiática. “As pessoas precisam saber identificar imperfeições, desconfiar de conteúdos suspeitos e buscar fontes confiáveis. Informação é a chave para prevenir danos maiores. E tem os mais vulneráveis, como idosos e crianças, mas todos devem ser informadas para conseguir fazer uma análise crítica”, salienta.
Ela comenta sobre o uso para produção de conteúdos de cunho sexual. “A gente precisa fortalecer os mecanismos de responsabilização do meio digital. As plataformas tem como identificar a circulação desse tipo de conteúdo”, diz.
O impacto psicológico das vítimas
Existem ferramentas para identificar quando o conteúdo é falso, mas Franzen reforça que será cada vez mais difícil detectar. “Temos que pensar no impacto da propagação de uma deepfake, mesmo depois de ser identificada como falsa, muitos já acessaram, viram e acreditam que é real. Como recuperar uma imagem, uma reputação e como pessoas afetadas podem ser ressarcidas. São questões que serão cada vez mais essenciais nesta discussão”, pontua.
A psicóloga Karin Milani Zottis aponta que o uso indevido da imagem de alguém pode causar traumas profundos. “O sentimento inicial costuma ser de estranheza, vergonha, raiva e impotência. A exposição à humilhações por conhecidos e mesmo de estranhos, pode causar importantes danos, que limitem a interação social, o trabalho e até mesmo a rotina da vida familiar. Em consequência, podemos ter reações como Síndrome do Pânico, ansiedade generalizada, estresse pós-traumático, causando um descompasso no processo de desenvolvimento, quando se tratar de jovens e crianças e em casos extremos, até o comprometimento da vida. Na verdade, o que ocorre é uma violação à imagem e privacidade, trata-se de uma forma de violência que pode gerar traumas duradouros”, afirma.
Quando o conteúdo envolve montagens de cunho sexual, os danos são ainda mais graves. “É exatamente para constranger e prejudicar a imagem da pessoa em questão, com potencial de exercerem forte abalo emocional, atingindo também o seu entorno. É possível, também, que aconteçam com imagens buscadas aleatoriamente, de forma irresponsável, mas alguém se verá envolvido”, observa. Karin lembra que, muitas vezes, as vítimas têm receio de denunciar para não se expor ainda mais, o que amplia a sensação de impotência diante da violência digital. “Conforme o caso e a origem da armação, o que existe por trás dessa situação pode implicar risco real, casos de chantagem, ameaças, extorsão”, revela.
O acolhimento psicológico, segundo ela, é essencial, sobretudo em casos que envolvem adolescentes e crianças. “Acontecendo com jovens e crianças, será importante que o acolhimento aconteça também no espaço escolar, que pode ser fonte de animosidades, atritos e humilhações. Professores e alunos podem contribuir muito com a criação de um ambiente de empatia e cuidado”, pondera.
O desafio das plataformas e da sociedade
Enquanto governos discutem regulamentações e pesquisadores desenvolvem ferramentas para detectar montagens, o desafio imediato recai sobre as plataformas digitais. Franzen avalia a responsabilidade das empresas de tecnologia na criação e disponibilização destas ferramentas. “É evidente que deve existir limites na criação de certos sistemas, é preciso ter um compromisso ético. Mas, do ponto de vista legal, é criada uma ferramenta que pode ser usada para o bem ou para o mal, assim como muitos inventos humanos, aviões, armas, carros, que podem matar, mas são importantes para a vida das pessoas. Sobre a propagação, as redes sociais devem ser cobradas para que tenham mecanismos para identificar e remover conteúdos falsos. Não é uma tarefa fácil, dado o volume de publicações. Mas a conclusão é que se um vídeo ou imagem é falsa, ninguém deve ter o direito de publicar, independente do conteúdo”, salienta.
Já Montemezzo ressalta que todas as condutas digitais deixam rastros, mas a identificação rápida dos autores depende de cooperação tecnológica e agilidade das autoridades. “Uma perícia digital tenta identificar quem é o responsável. Infelizmente ainda existem técnicas que tentam ocultar estes rastros”, ressalta.
Ela destaca os impactos para a democracia. “O mesmo tipo de conteúdo das grandes plataformas acaba sendo direcionado, o que contribui para a incitação de certos pensamentos e consequentemente na influência de tomadas de decisão. Opiniões deturpadas e manchas na imagem de pessoas públicas podem ser mais comuns. As pessoas precisam ser informadas que isso existe” frisa.
No campo da saúde mental coletiva, a psicóloga adverte para um efeito colateral da disseminação de deepfakes: o aumento da desconfiança generalizada. “Podemos caminhar para um cenário de insegurança digital, em que ninguém sabe mais no que acreditar. Isso abala relações, gera medo e reforça o isolamento”, alerta. Ela reforça que este sempre foi um tema difícil para pais, que ainda encontram a dificuldade de não conhecerem suficientemente a tecnologia e também não entenderem o tamanho dos riscos por trás das telas, para poderem orientar e dar limites aos filhos em sua utilização. “Creio que também terão maior dificuldade para lidar com os efeitos e providências relacionadas. Lembro de grandes campanhas contra o uso de álcool e outras substâncias ao dirigir, contra o fumo e agora, precisamos alertar sobre os cuidados e riscos na web, preparando a sociedade contra os efeitos nocivos do uso inadequado da tecnologia. Destaca-se, de antemão, que a exposição de fotos, especialmente de crianças e jovens, é muito inadequada. Uma imagem pode ganhar o mundo e nunca se sabe o uso que pode vir a ser feito, além de poder despertar interesses escusos”, avalia.
Entre riscos e possibilidades
Apesar das ameaças, especialistas reconhecem que a tecnologia não é intrinsecamente negativa. Há usos positivos e éticos, como na produção audiovisual, na preservação de registros históricos ou em experiências artísticas. “A criatividade certamente encontra muito espaço, no entanto, as pessoas que fazem uso delas, fazem toda a diferença no que é produzido. A personalidade, a índole de quem cria, determinam a natureza da criação, sendo que podemos ter tanto benefícios como malefícios”, resume Karin.
A psicóloga faz uma reflexão. “Penso que é interessante lembrar o significado da palavra web: teia ou rede, sendo que com a criação da internet o significado passou a abranger outro sentido, o de rede que conecta computadores por todo o mundo, a World Wide Web, o famoso WWW. Podemos fazer aqui um trocadilho, assim como esta rede “pesca” coisas interessantes, também é capaz de nos capturar e prender em sua trama. Sempre lidamos com o risco, precisamos aprender a administrá-lo. Isso também está ligado às formas de controle e penalização desses crimes, o que também não é simples.Vamos esperar que possamos aprender como fazer uso positivo e edificante de instrumentos tão poderosos e adequados para a comunicação, aprendizagem, trabalho e arte”, reitera.
Para o futuro, a solução parece estar em um tripé: educação crítica, responsabilização legal e tecnologia de detecção. Como conclui Patrícia, “não se trata de proibir a inovação, mas de preparar a sociedade para lidar com ela. Deepfakes podem ser apenas mais um capítulo da história da humanidade em que grandes invenções foram usadas tanto para o bem quanto para o mal”, finaliza.