A DeepFake, termo derivado de “Deep Learning” e “Fake”, é uma técnica de inteligência artificial que permite criar vídeos e áudios inverídicos, nos quais é possível manipular e substituir rostos, vozes e até mesmo gestos de uma pessoa por outros, de forma "quase" imperceptível.
A tecnologia avançou a tal ponto que a criação destes vídeos e áudios por mais que sejam como são, podem enganar inclusive os mais experientes, devido a serem extremamente convincentes.
Como Funciona
A técnica da DeepFake consiste em algoritmos de aprendizado profundo, também conhecido como redes neurais artificiais, que examinam e aprendem a partir de grandes quantidades de dados.
Em termos simples, um modelo de aprendizado profundo é treinado em conjunto de imagens ou vídeos originários de alguém, e então usa-se esses elementos para produzir uma representação digital desta pessoa.
Essa representação digital pode então ser usada para gerar novos conteúdos de mídia, como vídeos, onde a pessoa original é colocada em diferentes cenários ou situações, sem nunca ter realmente estado lá.
Existem inúmeras maneiras de criar DeepFakes, mas uma das mais comuns é o uso de redes neurais generativas adversárias, denominadas GANs. Uma GAN é baseada em duas redes neurais que são:
O gerador: A que gera conteúdo de mídia;
O discriminador: A que avalia a veracidade desse conteúdo.
Ambas as redes trabalham juntas na produção de assunto de mídia que é indistinguível do conteúdo legítimo.
Por mais que a tecnologia de DeepFake tenha potenciais usos ativos, como em efeitos especiais para filmes e vídeos, é também utilizada de forma maliciosa para disseminar informações falsificadas e enganar quem quer que seja.
Alguns riscos
Apesar da DeepFake ter muitas aplicações positivas como a criação de conteúdo de entretenimento ou publicidade, ela também apresenta diversos riscos, tais como:
Assédio: Para simular que um indivíduo tenha envolvimento em atividades ilegais ou inapropriadas, ele sofre intimidações e assédios.
Difamação: Alguém ser difamado com base em áudio ou vídeo que possa mostrá-lo em uma determinada situação comprometedora.
Fraude financeira: Uma pessoa pode ser falsamente identificada em um vídeo de vigilância ou em uma transação financeira. Com isso, o ato de cometer a fraude é mais fácil de acontecer.
Manipulação política: Influência nas eleições ou em campanhas políticas. Por exemplo, uma DeepFake é criada para fazer um candidato parecer incompetente ou espalhar notícias falsas deste gênero.
·Privacidade: Violação da privacidade de alguém, de forma que apareça em fotos e vídeos que não foram autorizados em serem compartilhados.
Como se proteger
A criação e distribuição de DeepFakes é ilegal em alguns países, especialmente na questão de difamação, instituições e pessoas prejudicadas. Os conteúdos acabam sendo utilizados para espalhar desinformação, além de informações manipuladas e os danos são irreparáveis.
É importante ter atenção e saber como se prevenir. Abaixo, as medidas a serem adotadas nessa questão:
Conheça os sinais de alerta: Algumas coisas podem indicar que um vídeo é DeepFake, como movimentos faciais não naturais, desalinhamento de áudio ou vídeo, fonte de luz inconsistente, entre outras.
Use a tecnologia de detecção de DeepFakes: Há disponíveis diversas opções de ferramentas de detecção, como o DeepTrace e o Sensity. Elas devem ser usadas para averiguação e autenticidade do conteúdo ao receber uma imagem, vídeo ou áudio que denote desconfiança.
Verifique a fonte: Antes de compartilhar qualquer assunto, analise se a origem é confiável e se o que está sendo falado é autêntico.
Desconfie do conteúdo que pareça perfeito: Os DeepFakes são criados para simularem realidade e ser extremamente exemplar, mas se houverem suspeitas, significa que há chances de ser falso.
Esteja ciente das implicações legais: Criar e difundir Deep Fakes sem a autorização das pessoas envolvidas é totalmente proibido. Tenha isso em mente antes de realizar tal ação que resultará em conteúdo manipulado.
Eduque-se sobre o assunto, incluindo os outros: Saiba dos perigos das DeepFakes e aprenda como reconhecê-los e assim, evitá-los.
Desenvolva um senso crítico: Cheque a fonte, pesquise sobre a história, e analise outras fontes verdadeiras que corroboram a informação com o objetivo de avaliar a veracidade do assunto antes de compartilhar.
Regulamentações
Existem preocupações sobre como a tecnologia pode ser regulamentada afim de proteger a integridade da informação. Algumas das possíveis formas de regulamentação incluem:
Aperfeiçoamento das tecnologias de detecção: Os pesquisadores trabalham em tecnologias para reconhecer DeepFakes e saber quando as imagens ou vídeos são falsos. Tecnologias que podem ser usadas para auxiliar indivíduos a descobrirem informações enganosas e preservar a probidade delas.
Colaboração internacional: A regulamentação da DeepFake é uma questão internacional, pois a tecnologia é usada em qualquer lugar do mundo. Então a colaboração internacional ajuda a estabelecer padrões globais e limitar o uso indevido dessa tecnologia.
Educação: A educação pública pode ajudar as pessoas a entender melhor o que são DeepFakes e como podem ser utilizadas para adulterar informações. A educação também colabora na conscientização sobre os perigos dessas tecnologias e como os indivíduos devem se proteger contra elas.
Regulamentação governamental: Os governos regulamentam o uso das DeepFakes, exigindo que sejam claramente designados como falsos, além de proibi-lo na intenção de enganar ou prejudicar. As empresas que produzem e vendem essa tecnologia também podem ser regulamentadas.
A regulamentação da DeepFake é um tópico importante e em constante evolução. É preciso um esforço colaborativo de governos, instituições e pesquisadores para proteger a integridade das informações e limitar o uso impróprio dessa tecnologia.
A DeepFake exprime riscos e desafios para a sociedade. Portanto, medidas devem ser impostas para limitar usá-las de maneiras inadequadas, além do desenvolvimento de ferramentas de detecção eficazes para que elas sejam reconhecidas.
Extras
Separamos abaixo alguns vídeos praticamente "perfeitos" de deepfake, se você não conhecesse sobre o assunto, saberia dizer se é verdade ou não?
Em suma, a tecnologia DeepFake é uma ferramenta poderosa que pode ser usada para o bem ou para o mal. A sociedade deve estar preparada para lidar com as consequências da sua utilização e que medidas sejam adotadas que minimizem os riscos e impactos negativos.
Já conhecia o deepfake? Deixe abaixo seus comentários e não se esqueça de curtir nosso conteúdo!