São Paulo, Brasil – Apesar de terem começado como uma forma de brincadeira com diversos vídeos virais de super-heróis com rostos diferentes, os vídeos e fotos manipuladas, conhecidos como deepfakes, estão sendo usados por cibercriminosos em golpes, esquemas de extorsão e fraudes. De acordo com uma pesquisa do The Sentinel, de 2019 a 2021, o número de montagens deste tipo cresceu de 14 mil para 145 mil. A ESET, companhia líder na detecção proativa de ameaças, analisa esses materiais e ajuda a alertar as crianças a partir de sua iniciativa Digipais, que permite que mães, pais e docentes acompanhem e cuidem dos pequenos na Internet.
Os deepfakes (do inglês “deep”, profundo, e “fake”, falso) utilizam uma forma de machine learning que é chamada “tecnologia de aprendizado profundo” - uma forma de aprendizado automático que tem como objetivo criar imagens, vídeos ou áudios que forjam acontecimentos, seja duplicando a voz ou expressões faciais de um indivíduo por meio de vídeos ou até mesmo de fotos. O resultado mostra pessoas em situações que elas nunca estiveram, assim, as montagens podem ser usadas para ridicularizar ou até mesmo assediar figuras públicas. Vídeos de Mark Zuckerberg, presidente da Meta, falando sobre roubo de dados ou da atriz Margot Robbie realizando trends no TikTok podem ser facilmente encontrados online.
O perigo para os pequenos
“Imagine que você é uma criança tímida, que se sente intimidada por seus amigos. Um dia, um grupo de meninos ri de você e fica sem entender o motivo. Em seguida, te mostram um vídeo do filme Forest Gump, no qual o rosto do protagonista foi trocado pelo seu. O vídeo é claramente falso, ou melhor, um ‘deepfake’. As versões mais simples dessas manipulações podem ser feitas facilmente usando aplicativos, como o FaceApp ou FaceSwap, mas os mais complexos exigem certa habilidade e um equipamento especializado e mais técnico”, explica Camilo Gutiérrez, chefe do Laboratório de Investigação da ESET.
Ainda que seja comum falar sobre esse tema, é raro comentar sobre como essa tecnologia expõe as crianças a riscos. Com o avanço de apps que colocam os deepfakes em mãos de uma grande variedade de pessoas, os vídeos sintetizados chegaram nas escolas e se converteram em um meio de abuso, como por exemplo, ao incluir o rosto de uma menina tímida em um vídeo de uma música de mulheres com pouca roupa, dançando de forma provocativa. Ainda que os criadores desses vídeos considerem suas ações como uma fonte inocente de entretenimento, os vídeos manipulados podem fazer com que a criança fique constrangida e pode estragar a relação da vítima com o ambiente escolar, por conta da situação desagradável.
Tecnologia para o bem
Porém, os deepfakes também podem ser usados para o bem. Por exemplo, ao permitir que as crianças se transformem nos protagonistas de seus programas, videogames e filmes favoritos. O Museu Dalí da Flórida, por exemplo, usou montagens para gerar vídeos interativos do artista catalão. O Dalí virtual pode cumprimentar os visitantes e até mesmo responder perguntas, tornando o museu mais atrativo para o público jovem. Por isso, Gutiérrez Amaya afirma que “assim como acontece com outras tecnologias, seria precipitado julgar os deepfakes como algo puramente negativo, sem levar em conta seus possíveis benefícios. Ainda assim, devemos tomar medidas para evitar o uso malicioso dessa técnica contra as crianças”.
Combate ao mau uso
Apesar de seus benefícios, os treinamentos da Google Colab, uma plataforma que incentiva a pesquisa sobre inteligência artificial acerca desse tipo de tecnologia foram proibidos, uma vez que essa ferramenta estava sendo utilizada para a produção em larga escala de deepfakes. Além disso, a Comissão Europeia está cobrando novas medidas de combate à desinformação nas redes sociais de empresas como Meta, Google, Twitter, Microsoft e TikTok, incluindo o uso de montagens e contas falsas. Companhias que não aderirem ao regulamento atualizado podem ser multadas em até 6% de sua receita global.
A parceria com agências de verificação de notícias e conteúdos e a criação de Inteligências Artificiais com capacidade de detectar deepfakes com mais de 98% de precisão, como a que foi desenvolvida por Wang Weimin e premiada pelo Trusted Media Challenge, se tornam cada vez mais essenciais para proteger, principalmente, crianças na Internet.
Conselhos para combater as deepfakes na infância
1. Assistir juntos alguns vídeos deepfake e começar a conversar: o primeiro passo para prevenir o uso indevido de deepfakes é tomar o tempo necessário para assistir vídeos e analisar juntos o tema. Falar sobre porque eles existem e para quê podem ser usados, contar se você gosta ou não de vídeos desse tipo e os motivos. Além disso, falar sobre responsabilidade e consentimento, explicando porque só se deve usar a voz ou o rosto de alguém depois de pedir permissão. Criar um espaço de troca seguro e informar que, caso encontrem montagens usadas como forma de bullying ou abuso, podem alertar os pais, e confirmar se as crianças sabem a quem se dirigir, em caso de necessidade, não apenas na família, mas também às autoridades da escola.
2. Tentar diferenciar vídeos deepfakes e reais, em conjunto: ainda que seja cada vez mais difícil identificar vídeos falsos, alguns aspectos podem ajudar a detectar sua autenticidade. Em primeiro lugar, procurar movimentos estranhos, como piscadas artificiais. Os vídeos manipulados têm dificuldade de replicar ações físicas mais sutis: o áudio pode não estar sincronizado com os movimentos dos lábios, pode ter falhas nas linhas do rosto ou na linha do cabelo. Também existem diferenças notáveis na iluminação, o rosto pode ser mais claro ou escuro que o corpo, pode haver uma sombra estranha ou cada olho pode refletir uma imagem diferente. Esses pontos, mesmo que em pequena quantidade, podem ser difíceis de notar, porque essa tecnologia segue avançando. Por último, examine o conteúdo.
“É importante levar em conta que, quando as palavras ditas pela pessoa são escandalosas, inacreditáveis ou são claramente feitas para provocar uma reação emocional, existe uma grande possibilidade de que esse vídeo seja um deepfake. No entanto, ainda que pareçam autênticos, existem recursos que avaliam a probabilidade do conteúdo ser falso, como por exemplo, o Microsoft Video Authenticator. Esse software consegue analisar fotos e vídeos para dizer qual a chance daquele conteúdo ser real”, explica Javier Lombardi, mentor educativo da ONG Argentina Cibersegura.
3. Falar com as crianças sobre o que elas compartilham online: quando os pequenos postam fotos e vídeos seus na Internet podem compartilhar, sem saber, tudo necessário para criar um deepfake deles, potencialmente os prejudicando. Além de observar o que elas mostram, é necessário falar com as crianças sobre as redes sociais e os aplicativos que elas usam. Ainda que grandes plataformas tenham configurações de privacidade mais avançadas, alguns apps e sites de redes sociais mais novos ou menos populares podem não proteger a privacidade das crianças. Ofereça alternativas, como sugerir que compartilhem fotos apenas em grupos privados da família ou de amigos, assim, ao invés de criticar os pequenos, você oferece soluções sem proibi-los, tornando mais fácil a tarefa de protegê-los.
4. Explorar juntos e encontrar medidas preventivas: navegue com as crianças pela Internet e conheça o mundo que elas participam, respeitando sua privacidade e ainda assim sabendo quais tipos de conteúdo elas consomem. Se os pequenos decidirem usar aplicativos que criam deepfakes, como o FaceApp ou o FaceSwap, é melhor experimentar a ferramenta juntos e utilizar o aplicativo como forma de entretenimento, mas com consciência e educação, não como forma de ridicularização dos outros. Apesar do possível mal uso, os deepfakes podem ser uma boa forma de explicar as possibilidades que a tecnologia oferece e falar sobre golpes e notícias falsas com mais profundidade. Além disso, uma solução de segurança de controle parental pode fazer a diferença também para ajudar no monitoramento dos conteúdos consumidos.
Além desses conselhos, se quiser tomar mais medidas preventivas, conheça a Digipais. Essa é uma iniciativa que acompanha pais e professores no cuidado das crianças na Internet, a fim de conscientizar sobre riscos e ameaças no mundo digital. Neste espaço, são oferecidos materiais para o processo de aprendizagem, diálogo e supervisão, com a finalidade de facilitar os conhecimentos necessários para ajudar as crianças com o uso de novas tecnologias. Para conhecer mais, acesse: https://digipais.com.br/
Por outro lado, o ESET convida você a conhecer o Conexão Segura, seu podcast para saber o que está acontecendo no mundo da cibersegurança. Para ouvi-lo, acesse: https://open.spotify.com/show/61ScjrHNAs7fAYrDfw813J?si=242e542c107341a7&nd=1