O que é Deepfake e como isso afeta a segurança online

Você já viu um vídeo de uma celebridade fazendo ou dizendo algo que nunca fez ou disse? Ou uma foto de uma pessoa que parece real, mas que na verdade nunca existiu? Se sim, você provavelmente foi exposto a um deepfake, uma técnica que usa inteligência artificial para manipular imagens e sons, e criar conteúdos falsos, mas convincentes.

Neste artigo, vamos explicar o que é deepfake, como funciona, qual é o seu impacto na segurança online, quais são as ameaças à privacidade, quais são os desafios éticos e legais, como detectar e prevenir deepfakes, quais são os casos famosos de deepfakes, e como a tecnologia está evoluindo. Fique atento e descubra como o deepfake pode afetar a sua vida!

O que é deepfake?

O termo deepfake é uma combinação das palavras em inglês deep learning (aprendizado profundo) e fake (falso). O deep learning é uma ramificação da inteligência artificial, que usa redes neurais artificiais para aprender a partir de grandes quantidades de dados, e realizar tarefas complexas, como reconhecimento facial, tradução automática, geração de texto, e muito mais. O deepfake é uma aplicação do deep learning, que usa redes neurais para alterar ou gerar imagens e sons, de forma a enganar o olho e o ouvido humano. O deepfake pode ser usado para criar vídeos, fotos, áudios, ou até mesmo vozes sintéticas, que imitam a aparência, o movimento, a expressão, ou o som de uma pessoa real, ou que criam uma pessoa fictícia, que parece real.

Como funcionam os deepfakes?

Os deepfakes funcionam a partir de dois processos principais: o treinamento e a síntese. O treinamento é a etapa em que a rede neural aprende a partir de dados de entrada, que podem ser imagens, vídeos, ou áudios, de uma ou mais pessoas. A rede neural analisa os dados, e extrai as características e os padrões que os definem, como os traços faciais, os gestos, as emoções, ou o tom de voz. A síntese é a etapa em que a rede neural usa os dados aprendidos para criar um novo conteúdo, que pode ser uma modificação, uma combinação, ou uma geração de imagens, vídeos, ou áudios. A rede neural usa algoritmos para ajustar os pixels, os quadros, ou as ondas sonoras, de forma a criar um resultado realista e coerente.

Existem diferentes tipos de redes neurais e algoritmos que podem ser usados para criar deepfakes, mas um dos mais comuns é o GAN, que significa Generative Adversarial Network (Rede Geradora Adversária). O GAN é composto por duas redes neurais, que competem entre si: o gerador e o discriminador. O gerador é responsável por criar o conteúdo falso, a partir dos dados de entrada. O discriminador é responsável por avaliar o conteúdo falso, e compará-lo com o conteúdo real, para verificar se ele é autêntico ou não. O gerador tenta enganar o discriminador, e o discriminador tenta desmascarar o gerador. Esse processo se repete até que o gerador consiga produzir um conteúdo falso que seja indistinguível do conteúdo real, para o discriminador e para o observador humano.

Impacto na segurança online

O deepfake pode ter um grande impacto na segurança online, pois pode ser usado para fins maliciosos, como:

• Falsificar provas, testemunhos, ou confissões, que podem influenciar decisões judiciais, políticas, ou sociais .
• Difamar, chantagear, ou extorquir pessoas, que podem ter sua reputação, sua privacidade, ou seu patrimônio afetados por conteúdos falsos, que podem ser compartilhados nas redes sociais, na mídia, ou em outros canais .
• Enganar, manipular, ou persuadir pessoas, que podem ser vítimas de golpes, fraudes, ou propaganda, que podem explorar suas emoções, seus interesses, ou suas crenças, usando conteúdos falsos, que podem se passar por autoridades, celebridades, ou familiares .
• Desinformar, confundir, ou polarizar pessoas, que podem ter sua percepção, sua opinião, ou sua atitude alteradas por conteúdos falsos, que podem distorcer, omitir, ou inventar fatos, eventos, ou dados, que podem afetar questões de interesse público, como saúde, educação, ou meio ambiente .

Ameaças à privacidade

O deepfake também pode representar uma ameaça à privacidade, pois pode violar os direitos de imagem, de voz, e de personalidade das pessoas, que podem ter seus dados pessoais usados sem o seu consentimento, ou de forma indevida, para criar conteúdos falsos, que podem expor, constranger, ou prejudicar as pessoas, ou que podem gerar lucro, fama, ou influência para os criadores dos deepfakes . Um exemplo de violação da privacidade é o deepfake pornográfico, que consiste em colocar o rosto de uma pessoa real em um vídeo de sexo explícito, sem o seu consentimento, e que pode causar danos psicológicos, emocionais, e sociais para a pessoa, que pode ser vítima de assédio, de violência, ou de discriminação .

Desafios éticos e legais

O deepfake também pode trazer desafios éticos e legais, pois pode levantar questões sobre a veracidade, a autenticidade, e a responsabilidade dos conteúdos digitais, que podem afetar a confiança, a credibilidade, e a transparência das informações, que são essenciais para a democracia, a cidadania, e a convivência social.

Alguns dos desafios éticos e legais são:

• Como garantir o direito à informação, à liberdade de expressão, e à criação artística, sem prejudicar o direito à privacidade, à dignidade, e à honra das pessoas, que podem ser afetadas pelos deepfakes?
• Como definir os limites entre o uso legítimo, o uso indevido, e o uso ilícito dos deepfakes, que podem ter diferentes intenções, contextos, e consequências, que podem variar de acordo com a cultura, a legislação, e a moral de cada país, região, ou comunidade?
• Como identificar, rastrear, e punir os criadores, os distribuidores, e os beneficiários dos deepfakes, que podem agir de forma anônima, clandestina, ou transnacional, e que podem usar técnicas sofisticadas, que dificultam a detecção, a remoção, e a atribuição dos conteúdos falsos?

Detecção e prevenção de deepfakes

Diante dos riscos e dos desafios dos deepfakes, é importante buscar formas de detectar e prevenir os conteúdos falsos, que podem ser feitas por meio de:

Tecnologia

O uso de ferramentas de inteligência artificial, que podem analisar os conteúdos digitais, e identificar possíveis sinais de manipulação, como inconsistências, anomalias, ou artefatos, que podem indicar que o conteúdo é falso.

Educação

O desenvolvimento de habilidades de alfabetização midiática, que podem ajudar as pessoas a avaliar criticamente as fontes, os autores, os propósitos, e os efeitos dos conteúdos digitais, e a verificar a veracidade, a autenticidade, e a confiabilidade das informações.

Legislação

A criação de normas e de leis, que podem regular o uso, a produção, e a distribuição dos deepfakes, e que podem proteger os direitos, os interesses, e os valores das pessoas, que podem ser afetados pelos conteúdos falsos.

Casos famosos de deepfakes

Os deepfakes já foram usados para diversos fins, e alguns casos se tornaram famosos, como:

• Política: Em 2018, um vídeo de deepfake mostrava o ex-presidente dos Estados Unidos, Barack Obama, fazendo críticas ao atual presidente, Donald Trump, usando palavras ofensivas e gestos obscenos. O vídeo era uma paródia, feita pelo ator e comediante Jordan Peele, que imitava a voz de Obama, e que tinha a intenção de alertar sobre os perigos dos deepfakes.
• Entretenimento: Em 2019, um vídeo de deepfake mostrava o ator Tom Cruise, interpretando o personagem Homem de Ferro, no filme Vingadores: Ultimato. O vídeo era uma brincadeira, feita pelo youtuber Aldo Jones, que usou o rosto de Cruise, para substituir o rosto de Robert Downey Jr., que é o ator original do personagem.

Evolução da tecnologia

A tecnologia por trás dos deepfakes está em constante evolução, e cada vez mais acessível, o que pode aumentar a qualidade, a quantidade, e a diversidade dos conteúdos falsos, que podem ser criados e compartilhados na internet. Alguns exemplos de evolução da tecnologia são:

Aplicativos

Existem aplicativos, que permitem que qualquer pessoa crie deepfakes, de forma simples, rápida, e barata, usando apenas um smartphone. Alguns exemplos de aplicativos são o Zao, o Reface, e o Impressions, que permitem que os usuários troquem seus rostos com os de celebridades, em fotos ou vídeos .

Plataformas

Existem plataformas, que oferecem serviços de criação de deepfakes, de forma personalizada, profissional, e comercial, usando recursos avançados de inteligência artificial. Alguns exemplos de plataformas são o Synthesia, o Canny AI, e o Dessa, que permitem que os clientes criem vídeos, fotos, áudios, ou vozes sintéticas, para fins de educação, marketing, entretenimento, ou outros.

Pesquisas

Existem pesquisas, que desenvolvem novas técnicas e métodos de criação de deepfakes, de forma inovadora, científica, e acadêmica, usando conceitos e ferramentas de ponta de inteligência artificial. Alguns exemplos de pesquisas são o Neural Style Transfer, o Neural Voice Cloning, e o Neural Face Swapping, que permitem que os pesquisadores criem conteúdos falsos, que imitam o estilo, a voz, ou o rosto de uma pessoa, usando redes neurais.

Considerações finais

Esperamos que você tenha gostado do nosso artigo, e que tenha se conscientizado sobre os riscos e as oportunidades dos deepfakes. Se você tiver alguma dúvida, sugestão ou opinião, deixe um comentário abaixo, e compartilhe este post com seus amigos.

Obrigado pela sua atenção, e até a próxima!