Deepfakes: especialistas dizem que olho humano não é mais confiável

São Paulo - "Deepfakes" são vídeos falsos com o rosto de pessoas reais, gerados a partir de inteligência artificial. Há poucos anos, a qualidade dessas imitações era mais uma piada e menos uma preocupação. Hoje, tudo indica que são imperceptíveis. 

Um estudo da empresa de verificação de identidade Veriff apontou que quase metade dos brasileiros  se considera capaz de distinguir um vídeo com deepfake de um vídeo real.

Parte de uma pesquisa global, que envolveu 1.000 respondentes do Brasil, o estudo incluiu um teste de verdadeiro ou falso com 12 imagens e vídeos. O resultado desbancou a confiança no olho humano, com uma nota média de 0,08. 

Nos questionários de verdadeiro ou falso, é usada uma medida, na qual 0 representa o desempenho esperado de quem chuta as alternativas e 1 representa respostas 100% precisas. 

Ou seja, na hora de descobrir deepfakes, a média do País vai apenas um pouco além da sorte.

O Lead Product Manager da Veriff, Gabriel Barbabela, defende que, com as fraudes se tornando perfeitas ao olhar comum,  a responsabilidade dessa detecção recai também sobre as empresas. 

A sensibilização continua a ser um primeiro passo fundamental, mas as empresas que operam no Brasil precisam investir simultaneamente em tecnologias de verificação automatizadas capazes de detectar o que os humanos simplesmente não conseguem.”

Robôs identificando deepfakes

O professor e pós-doutorando do Instituto de Computação da Unicamp, Michael Diniz, está pesquisando justamente estes métodos de detecção de deepfakes. Segundo o especialista, o método mais eficiente para detectar a presença da IA é justamente usando a IA. 

"Por exemplo, imagens reais têm muito ruído atrelado ao equipamento que registra a imagem. Quando você cria uma imagem fake, esses ruídos somem ou mudam de padrão. É através dessa análise automática que conseguimos identificar o que é real", explica Diniz. 

Uma grande preocupação do pesquisador é a disparidade de investimento: enquanto grandes empresas,  como Google e Apple, investem pesado em ferramentas de criação, o investimento em detecção é muito menor. 

Para ele, o usuário comum não precisa se privar de criar conteúdos usando a IA, mas é necessário ter consciência de que os modelos aprendem com essas informações, e os conteúdos fakes se tornam assim cada vez mais críveis. 

Por fim, Diniz alerta para um perigo indireto, mas que pode ser ainda mais danoso do que as fraudes: o fim do "ver para crer" e a descrença na mídia; o que ele chama de "Realidade Sintética". 

O perigo não é só enganar alguém com algo falso, é as pessoas pararem de acreditar no que é verdadeiro."

3 dicas para não cair nos deepfakes

Michael Diniz conta que as ferramentas atuais de detecção ainda são restritas aos laboratórios, correndo atrás das ferramentas de geração de deepfakes para se tornar acessível. 

Enquanto essas "IAs que detectam IAs" ainda não estão ao alcance do público geral, o pesquisador aponta três dicas que ajudam a desmascarar uma fraude: 

1. Buscar contexto: enquanto a informação imediata pode parecer extremamente real, a solução é verificar a informação em outras fontes, buscando o tema em portais de confiança ou entrando em contato direto com a pessoa envolvida, quando alguém tenta se passar por um conhecido. 
2. Buscar versão original: muitos conteúdos em vídeo conseguem alcançar uma alta qualidade pois usam como base um conteúdo original e apenas modificam a pessoa gravada. Assim, uma das táticas usadas pelos laboratórios para a investigação é procurar conteúdos semelhantes nos quais o Deepfake possa ter se inspirado. 
3. Expor-se o mínimo: ainda que uma foto seja o bastante para que a IA gere um vídeo, uma grande quantidade de material apenas aumenta a qualidade da fraude. Especialmente com crianças, o indicado é evitar publicar fotos em perfis abertos nas redes. 

*Estagiário sob supervisão de Marcia Furlan