Cover: Deep Faked Mark Zuckenberg. Source: https://www.flickr.com/
“Se a IA está chegando ao ponto em que será virtualmente impossível detectar representações de áudio e vídeo de pessoas dizendo coisas que nunca disseram…, ver não será mais acreditar.”
Maurício Pinheiro
I. Introdução
AI 2041: Ten Visions for Our Future, publicado em 2021, por Kai-Fu Lee, ex-presidente do Google China, e Chen Qiufan, renomado romancista, oferece uma exploração fascinante de como a inteligência artificial (IA) moldará nosso mundo nos próximos vinte anos. O livro recebeu grande aclamação, sendo nomeado como O MELHOR LIVRO DO ANO pelo WALL STREET JOURNAL, WASHINGTON POST e FINANCIAL TIMES. Como observa Yann LeCun, vencedor do Prêmio Turing e cientista-chefe de IA do Facebook, “Essa colaboração inspirada entre um tecnólogo pioneiro e um escritor visionário de ficção científica oferece visões ousadas e urgentes.” Mark Cuban descreve o livro como “Surpreendentemente divertido… Lee e Chen nos levam em uma viagem imersiva pelo futuro… Uma abertura de olhos.”
O livro explora como a IA revolucionará vários aspectos da vida humana cotidiana. Ele prevê que a IA criará novas formas de comunicação e entretenimento e, em última análise, desafiará os princípios organizadores de nossa ordem econômica e social, liberando-nos do trabalho rotineiro. No entanto, o livro também enfatiza que a IA trará novos riscos, como armas autônomas e tecnologia inteligente que herda o viés humano. Em dez envolventes histórias curtas, Lee e Chen apresentam aos leitores uma variedade de configurações impressionantes de 2041. Por meio dessas histórias, AI 2041 oferece insights urgentes sobre nosso futuro coletivo e lembra aos leitores que, em última análise, a humanidade continua sendo autora de seu próprio destino.
Na discussão a seguir, vou explorar o tema da segunda história do livro (Deepfakes) sem revelar spoilers. A história se chama “Deuses por trás da máscara”.
2. História dos Deepfakes
Com o surgimento da tecnologia de inteligência artificial (IA), um novo fenômeno chamado “deepfakes” tem se tornado cada vez mais prevalente nos últimos anos. Os deepfakes envolvem a criação de imagens, vídeos ou áudio manipulados usando algoritmos de IA, frequentemente utilizando técnicas de troca de rosto ou síntese de voz para produzir conteúdo que parece hiper-realista e difícil de distinguir de imagens genuínas.
O uso de mídia manipulada tem uma longa história, remontando aos primeiros dias da fotografia. No entanto, o surgimento da inteligência artificial permitiu a criação de mídia hiper-realista com relativa facilidade.
O primeiro deepfake de IA foi criado em 2017 por um usuário do Reddit que usou ferramentas de aprendizado profundo de código aberto para trocar os rostos de celebridades em conteúdo pornográfico. Desde então, a tecnologia avançou rapidamente, e os deepfakes se tornaram cada vez mais sofisticados e difíceis de detectar. É possível fazê-lo agora online, por exemplo em https://faceswap.webit.ai/.
Algoritmos de aprendizado de máquina, especialmente redes neurais de aprendizado profundo, podem analisar vastas quantidades de dados para imitar a aparência e o comportamento de pessoas e objetos reais, tornando possível criar deepfakes que muitas vezes são indistinguíveis do real. Infelizmente, essa tecnologia tem sido usada maliciosamente. Por exemplo, em 2018, Jordan Peele criou um vídeo deepfake do ex-presidente Barack Obama chamando o presidente Trump de “profundo mer**” para o BuzzFeed. Esse vídeo se tornou viral e levantou preocupações sobre o uso de deepfakes para espalhar desinformação.
A indústria pornográfica tem sido envolvida em inúmeros escândalos envolvendo o uso não autorizado de deepfakes para sobrepor rostos de celebridades a atores e atrizes pornográficos. Ao mesmo tempo, existem várias ferramentas on-line disponíveis para criar pornografia deepfake própria, e inúmeros sites atendem a essa demanda. No entanto, se você mora na Califórnia, é importante ter em mente que em 2019 o governador Gavin Newsom assinou duas leis de deepfake, regulamentando seu uso no estado.
Esses incidentes destacaram a necessidade de melhores métodos de detecção e regulamentações para evitar a propagação de deepfakes maliciosos. Enquanto pesquisadores, formuladores de políticas e empresas de tecnologia estão trabalhando para abordar esse problema, deepfakes provavelmente continuarão sendo um desafio no futuro previsível.
A criação de deepfakes envolve o uso de algoritmos avançados de aprendizado de máquina para manipular imagens ou vídeos existentes, substituindo o conteúdo original por material sintético. Técnicas como troca de rosto ou síntese de voz são frequentemente usadas para criar conteúdo hiper-realista que pode enganar os espectadores a pensar que estão assistindo algo genuíno.
As implicações dos deepfakes são vastas e levantaram preocupações significativas sobre o uso indevido dessa tecnologia. Por exemplo, deepfakes podem ser usados para espalhar desinformação, difamar indivíduos e até mesmo influenciar campanhas políticas. Como tal, há uma necessidade urgente de desenvolver tecnologias que possam detectar e mitigar a propagação de deepfakes.
Nesse contexto, este artigo tem como objetivo fornecer uma visão geral dos deepfakes, incluindo sua história, técnicas usadas para criá-los e o impacto potencial que podem ter na sociedade. Também irá explorar alguns dos desafios associados à detecção e mitigação de deepfakes e discutir possíveis soluções para abordar esse problema crescente.
3. Como Deepfakes de AI funcionam
A. Visão geral do aprendizado profundo
O aprendizado profundo é um subconjunto do aprendizado de máquina que utiliza redes neurais artificiais para processar grandes quantidades de dados. Essas redes neurais podem ser treinadas para realizar tarefas complexas, como reconhecimento de imagem e fala, processamento de linguagem natural e até mesmo criação de imagens, vídeos e áudio realistas. Por exemplo, um algoritmo de IA pode ser treinado para reconhecer objetos em imagens, como cães ou gatos, alimentando-o com um grande conjunto de dados de imagens rotuladas. O algoritmo pode então usar esse conhecimento para identificar cães e gatos em novas imagens que nunca viu antes.
B. Redes Generativas Adversárias (GANs)
As Redes Generativas Adversárias (GANs do inglês Generative Adversarial Networks) são um tipo de algoritmo de deep learning usado para criar deepfakes de IA. As GANs funcionam colocando duas redes neurais uma contra a outra: uma que gera conteúdo e outra que tenta distinguir entre conteúdo real e falso. Esse processo de ida e volta continua até que o conteúdo gerado seja indistinguível do conteúdo real. Por exemplo, uma GAN pode ser treinada para gerar imagens de rostos humanos alimentando-a primeiro com um conjunto de dados de rostos humanos reais. A GAN pode então gerar novos rostos produzindo variações nos rostos que aprendeu no conjunto de dados.
Um exemplo de como os GANs são usados para criar deepfakes de IA pode ser visto na criação de rostos humanos realistas. Uma rede neural gera rostos sintéticos enquanto a outra tenta determinar se o rosto é real ou falso. Através do treinamento contínuo, a rede que gera os rostos melhora sua capacidade de criar imagens realistas, enquanto a outra rede melhora sua capacidade de distinguir entre rostos reais e falsos. O resultado é um conjunto de imagens incrivelmente convincentes e que podem facilmente passar por reais, mesmo que sejam inteiramente geradas pelo algoritmo de IA.
C. Técnicas de troca de rosto
Uma técnica popular para criar deepfakes de IA é a troca de rosto, que envolve a substituição do rosto de uma pessoa em um vídeo ou imagem existente pelo rosto de outra pessoa. Isso é feito treinando um GAN em um conjunto de dados de imagens de ambas as pessoas e, em seguida, usando esse algoritmo para gerar uma nova imagem com o rosto de uma pessoa substituído pelo da outra. Por exemplo, um GAN pode ser treinado para trocar os rostos de dois atores em uma cena de filme, fazendo parecer que um ator está interpretando o papel do outro.
Recentemente, um vídeo deepfake apresentando Tom Cruise viralizou nas redes sociais. O vídeo mostrava uma pessoa que parecia ser Tom Cruise realizando algumas acrobacias e truques de mágica, mas o vídeo era na verdade um deepfake criado por um artista de efeitos visuais. O artista usou um GAN para treinar um modelo de IA em milhares de imagens de Tom Cruise e, em seguida, aplicou esse modelo para criar um vídeo de outra pessoa se apresentando como ele. O vídeo destacou os potenciais perigos da tecnologia deepfake e a necessidade de melhores regulamentações para prevenir seu uso indevido.
D. Síntese de áudio e vídeo
Os deepfakes de IA também podem ser usados para sintetizar conteúdo de áudio e vídeo. Por exemplo, um algoritmo de IA pode ser treinado para gerar um vídeo de uma pessoa falando, mesmo que tal vídeo não exista. O algoritmo pode usar imagens existentes da pessoa para gerar movimentos realistas dos lábios, enquanto outro algoritmo de IA separado sintetiza a voz da pessoa para coincidir com os movimentos. Outro exemplo é o uso da IA para criar um vídeo realista de uma pessoa dançando, treinando o algoritmo em um conjunto de dados de vídeos de pessoas dançando e, em seguida, sintetizando um novo vídeo de uma pessoa executando uma rotina de dança que não existe na realidade.
Recentemente, houve relatos de pessoas utilizando a tecnologia de IA para clonar vozes de outras pessoas com o objetivo de fraudar dinheiro, fornecendo informações falsas de conta bancária. Essa atividade fraudulenta envolve o uso de algoritmos de aprendizado profundo, que são treinados para imitar a voz de uma pessoa específica, analisando e aprendendo a partir de grandes conjuntos de dados de seus padrões de fala. Com essa capacidade, os golpistas podem fazer parecer que a chamada telefônica está vindo de uma fonte confiável, como um membro da família ou um representante do banco, e fornecer informações falsas da conta na tentativa de enganar o destinatário a transferir dinheiro. Esse tipo sofisticado de clonagem de voz representa um risco significativo para os indivíduos, sendo crucial ser vigilante e cauteloso ao receber chamadas telefônicas não solicitadas.
Em geral, as deepfakes de IA funcionam usando algoritmos de aprendizado profundo para criar mídia realista que é difícil de distinguir da mídia autêntica. À medida que a tecnologia continua a melhorar, está se tornando cada vez mais desafiador detectar deepfakes, tornando essencial desenvolver métodos eficazes para identificar e prevenir sua propagação.
4. Riscos e desafios
Embora as deepfakes de IA ofereçam muitas possibilidades emocionantes, também apresentam vários riscos e desafios que devem ser considerados.
A. Propagação de informações falsas
A potencial propagação de informações falsas é um dos riscos mais significativos associados às deepfakes de IA. O avanço da tecnologia tornou cada vez mais fácil criar vídeos e imagens com aparência realista que são difíceis de distinguir dos reais. Isso cria um risco significativo de deepfakes serem usados para espalhar informações falsas, o que pode levar a consequências desastrosas. Por exemplo, um vídeo deepfake de um político pode ser criado para parecer que ele fez uma declaração controversa ou cometeu um ato ilegal, o que pode resultar em indignação generalizada ou danos à sua reputação. Além disso, essas deepfakes podem ser compartilhadas em plataformas de mídia social, onde podem facilmente se tornar virais, potencialmente influenciando a opinião pública e criando caos. A propagação de informações falsas pode ser extremamente prejudicial e pode ter consequências graves, como tumultos sociais, desconfiança em instituições e até violência. Portanto, é crucial desenvolver métodos eficazes para detectar e prevenir a propagação de deepfakes a fim de minimizar os riscos associados à propagação de informações falsas.
B. Violações de privacidade
As violações de privacidade são uma preocupação significativa quando se trata de deepfakes de IA. À medida que a tecnologia avança, está se tornando mais fácil criar deepfakes que parecem e soam como pessoas reais, o que representa uma ameaça séria à privacidade das pessoas. Por exemplo, deepfakes podem ser usados para criar vídeos ou imagens falsas de pessoas se envolvendo em comportamentos inadequados, como atos sexuais ou violência. Esses vídeos podem ser compartilhados online ou usados para extorsão ou chantagem, potencialmente causando danos significativos à reputação e saúde mental da vítima. Além disso, deepfakes podem ser criados sem o consentimento ou conhecimento de um indivíduo, violando seus direitos de privacidade. Por exemplo, um deepfake pode ser criado usando imagens de uma pessoa tiradas em um lugar público ou de suas contas de mídia social, sem sua permissão ou conhecimento. Isso pode resultar na pessoa sendo retratada de forma falsa ou negativa, levando a danos à reputação ou outras consequências negativas.
C. Implicações legais e éticas
As preocupações legais e éticas em torno dos deepfakes de IA são complexas e multifacetadas. Além de violar as leis de privacidade, o uso de deepfakes em campanhas políticas ou publicidade levanta questões sobre sua legalidade e ética. Por exemplo, um vídeo deepfake de um candidato político poderia ser criado e compartilhado online, potencialmente enganando os eleitores e alterando o resultado de uma eleição. Da mesma forma, o uso de deepfakes na publicidade pode ser visto como enganoso e antiético, já que as empresas podem usar a tecnologia para criar falsas alegações sobre seus produtos ou serviços.
Além disso, o uso de deepfakes de IA em determinados contextos também pode ser ilegal. Por exemplo, o uso de deepfakes para difamar ou assediar uma pessoa pode ser considerado como cyberbullying, e em muitos países, é uma ofensa punível. Além disso, deepfakes podem ser usados para crimes financeiros, como roubo de identidade, fraude ou chantagem, tornando-os uma ameaça ainda maior para a sociedade.
Portanto, é crucial desenvolver diretrizes legais e éticas para a criação e uso de deepfakes de IA a fim de evitar seu impacto prejudicial na sociedade. Essas diretrizes podem incluir a exigência do consentimento das pessoas apresentadas nos deepfakes, regulamentando seu uso em campanhas políticas, publicidade ou mídia jornalística e estabelecendo penalidades para aqueles que criam e distribuem deepfakes maliciosos.
D. Detecção e prevenção
Detectar e prevenir a disseminação de deepfakes de IA é um desafio significativo que requer o desenvolvimento de métodos eficazes. À medida que a tecnologia melhora, está se tornando cada vez mais difícil distinguir entre mídia real e falsa. Isso torna essencial desenvolver novas técnicas que possam identificar deepfakes antes que sejam amplamente distribuídos.
Uma solução potencial é usar a tecnologia de blockchain para registrar todas as fotos ou vídeos autorais antes de serem publicados. Ao fazer isso, seria possível criar um registro imutável do conteúdo original que poderia ser usado para verificar a autenticidade da mídia posteriormente. Isso poderia ajudar a evitar que deepfakes sejam distribuídos como conteúdo autêntico, já que qualquer pessoa poderia verificar o blockchain para garantir que a mídia que estão visualizando não foi adulterada.
Outras técnicas para detectar e prevenir deepfakes incluem o uso de algoritmos de aprendizado de máquina para identificar padrões consistentes com deepfakes, bem como o desenvolvimento de novas tecnologias de marca d’água e criptografia. Embora essas abordagens ainda estejam em seus estágios iniciais, elas têm grande potencial para ajudar a prevenir a propagação de desinformação e proteger a privacidade das pessoas no futuro.
Overall, AI deepfakes present several significant risks and challenges that must be considered as the technology continues to advance. It is essential to develop effective methods for detecting and preventing their spread while also considering the legal and ethical implications of their use.
5. Aplicações Atuais e Futuras
O desenvolvimento de deepfakes de IA abriu muitas possibilidades para seu uso em uma variedade de aplicações. Aqui estão alguns exemplos:
A. Entretenimento e Mídia
Deepfakes de IA podem ser usados na indústria de entretenimento e mídia para criar experiências mais imersivas e envolventes. Por exemplo, eles podem ser usados para criar efeitos especiais realistas, como adicionar ou remover digitalmente atores ou alterar a aparência de um cenário. Isso pode ajudar a economizar tempo e dinheiro durante a produção, além de criar novas possibilidades para contar histórias.
Um exemplo disso é o uso da tecnologia de deepfake no filme Star Wars, “Rogue One”. Os produtores usaram deepfakes de IA para criar uma versão digital do falecido ator Peter Cushing após sua morte em 1994. Ele interpretou o personagem Grand Moff Tarkin na trilogia original de “Star Wars”.
B. Manipulação Política
Deepfakes de IA também podem ser usados para manipulação política, que é uma das aplicações mais preocupantes dessa tecnologia. Por exemplo, deepfakes podem ser usados para criar vídeos de candidatos políticos dizendo ou fazendo algo que eles nunca fizeram na realidade. Isso pode potencialmente influenciar a opinião pública e influenciar os resultados das eleições. Um exemplo real disso ocorreu nas últimas eleições na Malásia.
C. Publicidade e Marketing
AI deepfakes podem ser usados em publicidade e marketing para criar campanhas mais envolventes e realistas. Por exemplo, um vídeo deepfake poderia ser criado para mostrar um produto em uso ou demonstrar suas capacidades. Isso pode ajudar as empresas a se destacarem de seus concorrentes e criar uma experiência mais memorável para os consumidores.
Um exemplo que já mencionamos é o vídeo deepfake criado pela Adobe, que apresenta o apresentador de TV e comediante Jordan Peele imitando o ex-presidente Barack Obama.
D. Mídias Sociais e Conteúdo Gerado por Usuários
AI deepfakes também podem ser usados em mídias sociais e conteúdo gerado por usuários. Por exemplo, um vídeo deepfake pode ser criado para mostrar uma pessoa fazendo algo que ela nunca fez na realidade, como realizar uma acrobacia ou dançar. Isso pode gerar mais engajamento e interesse pelo conteúdo.
No entanto, esse tipo de aplicação também pode ser problemático. Por exemplo, vídeos pornográficos deepfake se tornaram um grande problema, com rostos de pessoas sendo trocados pelos corpos de atores pornográficos sem o seu consentimento.
Em geral, os AI deepfakes têm uma ampla variedade de aplicações potenciais, tanto agora quanto no futuro. Embora haja riscos e desafios significativos associados ao seu uso, é importante continuar explorando as possibilidades dessa tecnologia enquanto desenvolvemos métodos eficazes para detectar e impedir sua propagação. Uma solução potencial é registrar todas as fotos ou vídeos autorais originais sem adulteração em um blockchain antes de serem publicados, o que pode ajudar a impedir a disseminação de deepfakes.
6. Conclusão
Os AI deepfakes têm grande potencial para revolucionar muitas áreas, mas seu uso apresenta riscos e desafios significativos. Este artigo explora seu funcionamento, aplicações potenciais, riscos e desafios, incluindo o papel crucial da aprendizagem profunda e das redes adversárias generativas (GANs). Pesquisas futuras devem se concentrar no desenvolvimento de métodos de detecção mais precisos e na exploração de aplicações positivas. O uso responsável é crucial, incluindo a criação e o uso éticos com consentimento, a detecção e a prevenção de enganos e o desenvolvimento de salvaguardas e diretrizes eficazes. Ao desenvolver diretrizes responsáveis e continuar a explorar seu potencial, podemos aproveitar o poder dos AI deepfakes enquanto mitigamos seus riscos e prevenimos danos a indivíduos e à sociedade.
#DeepFake #AI #InteligênciaArtificial #AprendizadoDeMáquina #AprendizadoProfundo #AIem2041 #RedesAdversáriasGenerativas #GAN #AIDeepfakes #MídiaSintética #ManipulaçãoDigital #ManipulaçãoPolítica #IndústriaDoEntretenimento #MétodosDeDetecção #FaceSwap
Referências:
https://pt.wikipedia.org/wiki/Deepfake
https://www.creativebloq.com/features/deepfake-examples
https://sundayguardianlive.com/opinion/deepfakes-destroy-democracy
https://abcnews.go.com/Technology/wireStory/deepfake-porn-growing-problem-amid-ai-race-98618485
https://www.msn.com/en-us/news/politics/deepfake-targeted-law-proposed-by-ny-da/ar-AA1a3yLY
https://news.yahoo.com/man-created-deepfake-porn-former-162219573.html
https://beebom.com/best-deepfake-apps-websites/
https://www.youtube.com/channel/UCKpH0CKltc73e4wh0_pgL3g
Copyright 2024 AI-Talks.org