Ficção? Realidade? O vídeo que você acaba de assistir é real ou não? Na verdade, o que é a realidade neste mundo tecnológico em que vivemos? Minha leitora, meu leitor, apesar do título, este não é um texto que fala de religiosidade, apenas traz a famosa frase atribuída a São Tomé, a que diz “só acredito vendo”.

Será que, mesmo vendo, podemos, ainda, acreditar naquilo que vimos?

Percebemos que, por mais que pareça um vídeo original do ex-presidente Barack Obama, o exemplo acima se utiliza da tecnologia chamada deepfake. Ela se aproveita de recursos da inteligência artificial (IA) para criar e recriar conteúdos a partir de dados gráficos já existentes.

Ou seja, utilizando um vídeo real do político americano e imagens de movimentos faciais e diversas outras expressões já realizadas em outros contextos, foi possível mudar seu discurso a partir de uma nova narração, inclusive lhe atribuindo novos movimentos labiais. Com o avanço do tempo, essa tecnologia se expande e fica cada vez mais acessível, permitindo uma infinidade de aplicações.

O uso do termo “deepfake” surge no fim de 2017, em casos de usuários que começaram a usar a tecnologia para inserção de rostos de pessoas famosas em vídeos da indústria pornográfica.

O “deep” vem de “deep learning”, em que as máquinas aprendem baseadas em padrões; e o “fake” significa “falso”. Esse recurso de recriar rostos já existe há algum tempo por estúdios cinematográficos, os quais sempre dispendiam altas quantias.

Porém, com o avanço da IA, usuários menos especializados passaram a conquistar esse “superpoder”, trabalhando com múltiplos vieses a fim de conquistar seus objetivos.

A deepfake e suas múltiplas possibilidades

Conforme a tecnologia vai se difundindo e chegando às mãos de usuários mais diversos, inclusive culturalmente, vemos cada vez mais utilidades para o uso da tecnologia.

É comum vermos atores rejuvenescidos, envelhecidos ou com diversas outras modificações físicas, atuando tanto em filmes quanto em peças publicitárias. A participação de artistas já falecidos em alguns vídeos é um recurso crescente, o qual, além de se aproveitar da fama da pessoa utilizada, apela também para o lado emotivo do público.

Vejamos um exemplo abaixo:

Segundo alguns especialistas na tecnologia, como o brasileiro Bruno Sartori, será possível, em pouco tempo, inserirmos nossos rostos em qualquer personagem de filmes, desenhos animados, games, assim como ouvir a dublagens automáticas, em qualquer idioma, na voz original da atriz ou do ator que estiver nessas produções, mesmo que eles não saibam nem uma palavra naquela língua.

Algo semelhante tende a acontecer com músicas, que poderão ser ouvidas na voz de qualquer artista que escolhermos, sem a necessidade de que eles tenham gravado algum dia tal obra.

Na educação, o potencial da tecnologia ainda vem sendo pensado gradualmente. Poderemos, por exemplo, buscar cada vez mais personalização de conteúdos, criando digitalmente materiais que simulem situações a partir de dados dos personagens que desejarmos, aproximando mais o aluno da atividade.

Os perigos da deepfake

Vale salientar que não temos apenas possibilidades de usos benéficos dessa tecnologia para nossa vida pessoal e profissional.

O alerta dado pelo cineasta no primeiro vídeo mostrado aqui é muito importante, já que diversos interesses estão em jogo quando tratamos da manipulação de dados para conquistarmos nossos objetivos, sejam pessoais, políticos, comerciais.

Daí a relevância de termos uma educação cada vez mais crítica, que se construa a partir de análises atentas da realidade que nos cerca.

Temos, ainda, a chamada “deepfake ao vivo”, que retratou-se recentemente em uma novela da Rede Globo.

Na atração televisiva, uma adolescente era enganada por um pedófilo que se fazia passar por uma amiga da menina, utilizando a tecnologia que permitia à menina ver a imagem de uma outra pessoa, não a do homem com quem ela falava em tempo real.

Esse é um recurso que não está disponível apenas na ficção, mas também na “vida real”. Por mais que a qualidade não seja a melhor nesse tipo de transmissão, ela é muito eficaz quando a vítima se trata de alguma pessoa mais vulnerável, que esteja ligada de alguma forma afetiva com o impostor.

Separar o joio do trigo

Mais que o conceito de letramento trazido há tempos por diversos estudiosos, tratamos aqui da busca por um letramento digital, que oriente as pessoas a analisar cada situação, cada áudio, cada vídeo a que tenham acesso.

Como hoje sabemos que os smartphones estão cada vez mais acessíveis aos brasileiros, temos de investir massivamente nessa educação tecnológica, que impeça que maus usos de tecnologias como a deepfake tragam ainda mais problemas para o nosso convívio em sociedade.

Por mais complicado que seja “separar o joio do trigo”, precisamos estar atentos para não confundirmos o que é real com o que é manipulado.

Em tempos de ressignificações, até mesmo o “só acredito vendo” não funciona mais totalmente. Já que precisamos usar outros sentidos para além da visão para acreditar nas informações que nos são transmitidas.

Além disso, vivemos em uma era de pós-verdades, em que reputações são destruídas facilmente e um simples deslize muitas vezes é motivo para cancelamentos virtuais e reais.

Como se proteger do deepfake

Seguem, então, algumas dicas importantes para avaliar vídeos a que temos acesso:

Conclusão

Bom, como vemos, com o avanço das novas tecnologias, é cada vez mais difícil discernir apenas visualmente o que é verdadeiro do que é falso (sem falar em alguns filtros que deixam pessoas com cara de bonecos!).

Brincadeiras à parte, no final, chegamos a uma conclusão que não é nada nova: uma educação crítica, que leve à análise de contextos e de intenções, à busca ativa de informações e de fontes confiáveis, é o melhor caminho para que não sejamos manipulados, profundamente enganados por pessoas e interesses falsos.

Para discernir o que é real do que é produto da máquina, precisamos explorar todos os nossos sentidos mais humanos, já que apenas a visão, nem sempre, enxerga tudo o que olhamos.

Referências

FRAGA, Isabel Pereira de. O(a) professor(a) como agente do letramento, Blog do E-docente. Disponível em: https://www.pnld.develop.edocente.com.br/blog-professor-agente-letramento/. Acesso em: 2 out. 2023.

LOPES, André. Deepfake não é algo novo, mas as pessoas ainda estão compreendendo a tecnologia, diz Bruno Sartori. Inteligência artificial, Revista Exame, 14 jul. 2023. Disponível em: https://exame.com/inteligencia-artificial/deepfake-elis-regina-entrevista-bruno-sartori/. Acesso em: 30 set. 2023.

SANTANA, Patrícia Monteiro de. Escola 3.0: um novo modelo de educação. Blog do E-docente. Disponível em: https://www.pnld.develop.edocente.com.br/blog-escola-3-0-educacao/. Acesso em: 02 out. 2023.

SOUZA, Vivian; HELDER, Darlan; G1. ‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada, como na novela ‘Travessia’, já existe na vida real. Tecnologia, G1, 1 abr. 2023. Disponível em: https://g1.globo.com/tecnologia/noticia/2023/04/01/deepfake-ao-vivo-tecnologia-que-muda-rosto-e-voz-em-videochamada-como-na-novela-travessia-ja-existe-na-vida-real.ghtml. Acesso em: 30 set. 2023.