Fonte: Freepik

Deepfake

Deepfake, combinação de deep learning (aprendizagem aprofundada) dos programas de Inteligência Artificial (IA) e de fake (falso), é uma técnica de síntese de imagens ou sons humanos baseada em técnicas de inteligência artificial que usa simulações ou réplicas geradas por computador para criar vídeos com pessoas, celebridades e outras personalidades, dizendo e fazendo coisas que nunca disseram ou fizeram.

“Os deepfakes mais avançados utilizam um autoencoder, que é um programa de IA de aprendizado profundo encarregado de estudar vários videoclipes para construir uma compreensão mais ampla de como essa pessoa seria de vários ângulos e em vários ambientes. A fonte do estudo é então mapeada para o alvo dentro de um vídeo.

Outros métodos utilizam um tipo diferente de aprendizado de máquina, conhecido como Generative Adversarial Networks (GANs). Um GAN é usado para identificar e aprimorar quaisquer falhas em deepfakes para reduzir a deteção e torná-lo mais difícil de decodificar.”- Loop Digital – The Rise of Deepfake Technology

Questões legais e éticas da tecnologia deepfake

A maior ameaça dos deepfakes é a sua capacidade de espalhar informações falsas que parecem vir de fontes confiáveis, gerando desinformação e manipulação política.

De forma não autorizada, a tecnologia deepfake pode ser usada para alcançar maior visibilidade através do uso não autorizado da imagem de celebridades ou para criar depoimentos falsos de clientes.

“A linguagem dos contratos escritos anos antes da existência da tecnologia pode ser vaga o suficiente para permitir que os profissionais de marketing usem imagens existentes para criar novos vídeos deepfake.” – The Wall Street Journal – ‘Deepfakes’ of Celebrities Have Begun Appearing in Ads, With or Without Their Permission

Existem duas maneiras de se criar vídeos deepfake: através de uma fonte de vídeo original do alvo, onde a pessoa é obrigada a dizer e a fazer coisas que nunca fez; ou através da troca do rosto da pessoa em um vídeo de outro indivíduo.

Infelizmente, deepfakes são utilizados para fazer chantagem e gerar danos à reputação de pessoas, sendo o uso mais comum a pornografia deepfake não consensual (ou pornografia de vingança).

Outro lamentável e condenável uso de deepfakes é quando uma imagem alvo é colocada em uma situação ilegal, inapropriada ou comprometedora, como mentir para o público, envolver-se em atos sexuais explícitos ou consumir drogas.

As provas falsas envolvem a fabricação de imagens ou áudios falsos que podem ser usados ​​como prova de culpa ou inocência em um processo legal.

Deepfakes também são utilizados como fraude, como alguém se passar por outra pessoa a fim de obter informações de identificação pessoal, como contas bancárias e números de cartão de crédito. Ou até mesmo na representação de executivos de empresas para acessar informações confidenciais.

Materiais deepfake forjados são usados ​​para afetar o preço das ações de uma empresa. É a chamada manipulação de stock. Imagina que um vídeo falso de um diretor executivo a fazer declarações prejudiciais sobre a sua empresa está a circular na internet. O que pode acontecer? Provavelmente pode reduzir o preço de suas ações. O efeito contrário, isto é,  aumentar as ações de uma empresa, pode ocorrer face à disseminação de um vídeo falso sobre um avanço tecnológico ou lançamento de um produto.

Ainda, o relatório Ameaça crescente de identidades deepfake do Departamento de Segurança Interna dos EUA citou mensagens de texto como um uso futuro da tecnologia deepfake.

Como detectar deepfakes

De acordo com o site Tech Target, existem alguns sinais de que o conteúdo possa ser deepfake, embora a IA esteja a superar constantemente alguns desses indicadores, como o piscar natural.

Em deepfakes de vídeo:

• Posicionamento facial incomum ou desajeitado;
• Movimento facial ou corporal não natural;
• Coloração não natural;
• Vídeos que parecem estranhos quando ampliados;
• Áudio inconsistente;
• Pessoas que não piscam.

Em deepfakes textuais:

• Erros ortográficos;
• Frases que não fluem naturalmente;
• Endereços de e-mail de origem suspeita;
• Frase que não corresponde ao suposto remetente;
• Mensagens fora de contexto, irrelevantes para qualquer discussão, evento ou problema.

Vantagens da tecnologia deepfake autorizada

Na arte, deepfakes são comumente usados ​​para gerar novas músicas usando os corpos existentes do trabalho de um artista. 

Nos eventos e também nas artes, a tecnologia deepfake pode ajudar a recriar objetos ou pessoas em qualquer lugar do mundo ao mesmo tempo.

Em outros setores, vemos exemplos de uso legítimo e legal de deepfakes, tais como em:

• Áudios e entretenimento em videogames: com a manipulação das vozes dos atores em determinadas cenas;
• Suporte telefónico ao cliente: com o uso de vozes falsas para tarefas simples, como verificar o saldo de uma conta ou registar uma reclamação; 
• Aplicações de resposta personalizada ao utilizador: como encaminhamento de chamadas e serviços de rececionista.

Deepfake Advertising

O mundo da publicidade deepfake está a chegar nesta década ‒ é o que revela uma pesquisa da New Swinburne University of Technology publicada no Journal of Advertising: Preparing for an Era of Deepfakes and AI-Generated Ads: A Framework for Understanding Responses to Manipulated Advertising.

Fonte: Freepik

Como os anúncios deepfake estão progressivamente a ganhar espaço no mundo da publicidade, tornando-se um fenómeno

Facto: anúncios gerados por IA e publicidade manipulada podem produzir deepfakes completamente indistinguíveis da realidade.

Utilizar deepfakes autorizados pode reduzir custos para as empresas à medida que ajuda as marcas a produzir mais conteúdo e com maior velocidade, não sendo, por exemplo, necessário que a pessoa esteja sempre presente no set de produção. Nesse caso, a empresa compra uma licença para poder utilizar a identidade de uma celebridade e usar gravações digitais com essa mesma celebridade para inserir o diálogo pretendido, criando assim novos vídeos.

Outra das vantagens de usar essa técnica é a possibilidade de hiperpersonalização dos anúncios, criando modelos que correspondem exatamente a etnia, características físicas, como estrutura física e cor da pele, tipo ou estilo de roupa da pessoa que está a ver esses anúncios etc. E porquê isso importa? Porque os consumidores tendem a comprar mais quando veem os produtos como extensões de si mesmos. Essa personalização com o uso da tecnologia deepfake ajudará as marcas a aumentar a inclusão e a alcançar públicos mais amplos. 

Fonte: Freepik

“Esses anúncios personalizados podem levar a mais vendas e a melhorar a reputação das marcas, desde que não se transformem em hipervigilância do cliente – levando a preocupações com a privacidade e sentimentos de vulnerabilidade dos consumidores.”– Colin Campbell – Professor associado e Pesquisador em inovações digitais em marketing e publicidade

A tecnologia de aprendizado profundo pode, ainda, gerar anúncios que usam dados de localização para localizar anúncios, manipulando o conteúdo para que a pessoa ou celebridade fale em seu idioma local, faça referência a atrações locais etc.  

E o que dizer das campanhas de marketing omnichannel? Com a tecnologia deepfake, será possível editar e redirecionar muito mais facilmente o conteúdo em detrimento dos vários tipos de média.

Por outro lado, anúncios deepfake podem ser intimidantes para a maioria dos consumidores gerando desconforto e mais desconfiança e descrença pelo seu crescente uso na publicidade em geral.

Especialmente se as marcas começarem a induzir os clientes a comprar apresentando UGC (User Generated Content) falso ou promoções de influenciadores como prova social.

A maior preocupação dos consumidores é não saber distinguir entre o que é real e o que é falso.

Fonte: Freepik

“É provável que os deepfakes sejam amplamente usados ​​na média convencional dentro de uma década. (…) Os profissionais de marketing se esforçarão para criar deepfakes ‘autenticamente humanos’ para parecerem ‘reais’.” – Sean Sands – Professor e Pesquisador em inovações em varejo e mídia social

Como os anúncios deepfake utilizam inteligência artificial e machine learning para gerar réplicas convincentes e extremamente realistas

Este vídeo da CNBC Television, Number of deepfake ads increasing, publicado a 28 de Outubro de 2022, mostra o advogado de segurança cibernética da WilmerHale, Matthew Ferraro, a falar sobre deepfakes, imagens ou vídeos gerados por computador de pessoas reais, que na altura estavam a começar a aparecer na publicidade.

Devo concordar com Neil Patel, que afirmou que deepfakes estão a receber muita publicidade ruim, mas acredita que a tecnologia pode, sim, trazer coisas boas para o mundo e que, quando se combina tecnologia com marketing, com intenção positiva, podemos mudar para sempre a forma como nos comunicamos com os nossos clientes.

O anúncio de conscientização sobre a malária na campanha Malaria Must Die com David Beckham em 2019 é um ótimo exemplo de uma campanha dinâmica com influenciador para aumentar o alcance, uma vez que a tecnologia deepfake permitiu a Beckham falar em nove idiomas.

Já o Museu Dalí em São Petersburgo, Flórida, EUA, criou um Dalí deepfake a cumprimentar os visitantes e a interagir com eles através de diversos ecrãs numa instalação de vídeo experimental que utilizou um tipo de tecnologia de aprendizado profundo. 

Oportunidades e preocupações levantadas pelo uso de deepfakes de celebridades em anúncios, filmes e TV

Em Janeiro de 2023, estreou no Reino Unido o primeiro programa de TV do mundo que usa a tecnologia deepfake, a série de seis episódios Deep Fake Neighbor Wars, produzida pela Tiger Aspect em colaboração com a empresa de média sintética StudioNeural.

Neste artigo da LBB – Little Black Book, especialistas em propriedade intelectual e direito de tecnologia falam sobre as preocupações legais pelo uso de deepfakes na publicidade e no entretenimento, particularmente sobre a série em questão.

“Esse tipo de programa definitivamente testa os limites. Seria necessário deixar bem claro que as imagens deepfake não são reais e também que o programa não é patrocinado ou aprovado pelos indivíduos retratados.”- Ron Moscana – Sócio do escritório de advocacia internacional Dorsey & Whitney

Assim, fica evidente que os princípios da liberdade de expressão devem ser assegurados, protegendo o criador ou o produtor do conteúdo de responsabilidade, desde que o programa informe claramente que as pessoas presentes ali não são reais ou que as pessoas reais não o endossaram.

“Uma pessoa pode ser responsabilizada por usar a tecnologia deepfake para infringir os direitos de propriedade intelectual de outra entidade ou os direitos de publicidade ou privacidade de uma pessoa. E a própria tecnologia pode ser protegida por direitos de propriedade intelectual. O uso malicioso de deepfakes também pode constituir fraude, difamação, roubo de identidade e outras violações civis e criminais.” – Ryan Meyer – Of ​​Counsel do escritório de advocacia internacional Dorsey & Whitney

Ron Moscana explica que, mesmo que não haja direitos autorais para a imagem de uma pessoa, uma celebridade pode proteger o direito de exploração comercial de sua imagem (seu nome ou ‘semelhança’ visual) somente se puder comprovar que a sua imagem é reconhecível e tem algum valor comercial ou que já a está explorando.

E complementa afirmando que, como alternativa, “as leis de privacidade e proteção de dados também podem ser invocadas para se opor à exploração não autorizada do nome ou foto de uma pessoa”.

O futuro da tecnologia deepfake na publicidade e no entretenimento

“Provavelmente haverá litígio sobre disputas de licenciamento, particularmente enquanto a tecnologia e esses acordos de licenciamento são novos.” – Ryan Meyer – Of ​​Counsel do escritório de advocacia internacional Dorsey & Whitney

Ryan Meyer acredita que, à medida que os deepfakes tornam-se mais comuns na publicidade e no entretenimento, o endosso de celebridades pode se tornar padronizado em futuros contratos de entretenimento, incluindo “licenças digitais gémeas para fins promocionais ou de merchandising” junto ao acordo principal do negócio.

Como a inteligência artificial generativa afetará o modelo de negócio das agências de publicidade

De acordo com este artigo da Branding in Asia, o uso da IA generativa nas agências de publicidade vai desde a criação de conteúdo até a personalização aprimorada, análise e até mesmo a melhoria do processo de briefing.

Chris Greenough, gerente geral da GrowthOps na Malásia, detalha três tipos de agências que podem surgir na era da IA ​​generativa.

1) Agência com “criativos e códigos feitos à mão”

Esse tipo de agência acabará por ser um nicho de mercado e oferecerá um nível de serviço personalizado para alguns clientes que apreciam ofertas mais autênticas, “feitas à mão” por humanos e que trazem um toque especial.

2) Agência Infinita

Uma agência fundada por especialistas em marketing altamente disruptivos e inovadores com apenas alguns colaboradores, que criarão campanhas publicitárias em grande escala, produtos digitais e muito mais apenas com a sua imaginação e ferramentas generativas de IA. Chris Greenough acredita que a Agência Infinita também será um modelo de nicho.

3) Agência Híbrida

A Agência Híbrida será inevitável uma vez que, segundo Greenough, as agências estão a trabalhar para incorporar processos que tiram proveito de uma abordagem híbrida de tecnologia humana que melhorará a eficiência e a produtividade. Greenough acredita que as agências com uma cultura de pensamento estratégico estão bem posicionadas para obter sucesso nesse modelo híbrido, apostando que este será o modelo dominante, já que oferece serviços que combinam talento humano e criatividade com o poder da tecnologia de IA.

“A ‘guerra por talentos’ mudará de habilidades puramente digitais ou técnicas para estratégicas. Agências com uma cultura arraigada de pensamento e estratégia terão sucesso ao usar a IA como ferramenta de pesquisa. A capacidade de desafiar ideias e destacar-se da semelhança irá diferenciar as agências.” – Chris Greenough – Gerente geral da GrowthOps na Malásia

Deepfake Advertising: mais-valia, se utilizado de maneira ética é responsável

Em geral, os deepfakes são legais, mas há uma crescente preocupação no mundo todo. Nos EUA, deepfakes só são ilegais se violarem as leis existentes, como pornografia infantil, difamação ou discurso de ódio.

Na publicidade, o uso da tecnologia deepfake como ferramenta de marketing, embora possa criar uma cultura de desconfiança ou mesmo gerar incómodo nos consumidores, se bem utilizada, com responsabilidade e de forma ética e transparente pelas empresas, pode gerar conteúdo único e envolvente, que entretém, encanta e até se torna viral, inclusivamente uma jornada de consumidor mais dinâmica.

“O caminho a seguir deve incluir uma estrutura ética quando se trata de design, desenvolvimento e implantação de tecnologia. A cada passo, os líderes têm a opção de elevar princípios como autonomia, justiça, respeito, privacidade, inclusão e gestão ambiental.” – Beena Ammanath – Líder de Tecnologia, Confiança, Ética e Chefe Global do Instituto de IA da Deloitte

Se usada para o bem, é inegável que se trata de uma tecnologia criativa e inovadora para os profissionais de marketing, que multiplica os seus esforços, aumentando a fidelidade da marca e também as vendas.

Não há volta a dar. Experiências hiper-reais continuarão a crescer com um alto potencial de transmitir experiências de marketing mais imersivas.  

Uma coisa é certa: fazem-se necessárias decisões e tecnologias regulatórias rapidamente para manter as coisas sob controlo nessa nova era de deepfakes e anúncios gerados por inteligência artificial.