Estamos preparados para um mundo com Redes Adversárias Generativas?
Talvez você já tenha recebido algum vídeo no Whatsapp onde alguma figura pública canta e dança alguma música inesperada de forma divertida. Ás vezes é até mesmo uma troca do rosto de um ator de um filme por outro, como aquele vídeo do Jim Carey substituindo o Stallone em Rambo. Claro que não é o Jim Carey de verdade, já que o mesmo teria uns 10 anos durante a gravação do primeiro filme da série Rambo, é o que chamamos de Deep Fake.
Deepfake é um tipo de vídeo e/ou áudio onde imagem e voz são alterados digitalmente através de uma sobreposição dos valores originais por valores desejados. A técnica por trás do Deepfake é conhecida como Redes Adversárias Generativas ou GAN na sigla em inglês para Generative Adversarial Network. É uma técnica de aprendizado de máquina onde um computador analisa sequências de 2 imagens em relação a uma terceira, capturando assim características desejáveis para o objetivo do usuário. Por exemplo, para substituir o rosto do Rambo pelo do Jim Carey, foi necessário que um computador analisasse cada expressão do Rambo no vídeo e encontrasse o rosto com maior similaridade dentro de uma lista com várias imagens de Jim Carey. É um trabalho hercúleo para um ser humano, mas com o poder de processamento dos computadores atuais e um pouco de matemática, torna o processo uma tarefa viável para computadores.
O interessante é que GAN não é uma técnica desenvolvida para esse fim, sendo muito mais comum em questões envolvendo visão computacional e na simulação de criatividade. Na área de visão computacional, GAN pode ser utilizada para verificar vídeos ou imagens e identificar elementos presentes nas mesmas. Isso pode ser utilizado para identificar indivíduos em cenas de crime, até auxiliar na identificação e erros no processo de criação de algum produto industrial, auxiliando gestores de qualidade no processo. De forma semelhante, algumas ferramentas de edição de vídeo utilizam GAN para agilizar certas operações, como remover ou adicionar algum elemento dos quadros trabalhados.
Já a relação com a simulação de criatividade se dá pela possibilidade da utilização da GAN produzir novas mídias através de uma configuração prévia. Por exemplo, é possível criar uma música utilizando GAN, bastando definir quais instrumentos serão utilizados e quais as referências da música a ser criada. O resultado é sempre familiar mas, sempre original. E talvez seja esse o ponto que limita a utilização de GAN como um simulador de criatividade: a familiaridade que não a permite ser realmente criativa. A criatividade humana se deve a sua capacidade de sobrepor questões culturais, mesmo que isso nos coloque em situações péssimas. Nossa arte evoluiu com a crítica da nossa sociedade que só pode ocorrer com quem vive na mesma. Também é desenvolvida com sentimentos muito humanos, como raiva, tristeza, desespero e angústia, que não podem ser simulados por máquinas (e espero que nunca sejam). Assim, temos o limite dos computadores de criar arte vazia, mesmo que possa criar produtos incríveis do ponto de vista estético, o resultado sempre será familiar, o observador sempre vai achar parecido com algo que ele já viu (ou que alguém já viu, porque a arte criada tem base em obras já existentes.).
Estamos em um período muito interessante da evolução computacional, temos computadores que podem criar e alterar mídias diversas, criar simulações avançadas do clima e comportamentos do mercado e da política, projetar novos materiais que podem revolucionar a indústria e até mesmo simular o efeito de novos medicamentos sem a necessidade de realizar testes químicos. De fato, a GAN entra na história humana como uma ferramenta que irá revolucionar diversas áreas e no entanto, passa a ser conhecida por uma prática que pode criar diversas complicações judiciais, o Deepfake. Deepfakes ainda não possuem uma contramedida que os identifique em 100% dos casos. No momento, devemos ficar atentos a vídeos com conteúdo duvidoso e sempre questionar a origem dos conteúdos que recebemos por diversas fontes.
Por Guilherme Schirmer da Costa
[Leia todas as colunas clicando aqui]