Imagens Getty

O Perigo dos “Beijos com IA”: A Nova Fronteira dos Deepfakes

Nos últimos tempos, uma nova onda de aplicativos que utilizam inteligência artificial (IA) para criar vídeos falsos de beijos entre pessoas tem se espalhado nas redes sociais. Esses programas permitem que usuários enviem fotos de qualquer par de indivíduos e a IA os transforma em vídeos de beijo, sem consultar as partes envolvidas. Essa prática levanta uma preocupação significativa sobre a privacidade e o consentimento, especialmente em um cenário já saturado por conteúdo gerado por IA.

A Nova Banalização do Consentimento

Esses aplicativos, que podem ser comparados às ferramentas que produzem pornografia não consensual, tornam possível a criação de vídeos extremamente realistas de pessoas realizando ações que nunca aconteceram. Assim, a criação de deepfakes se torna uma prática cada vez mais comum e alarmante.

Embora esses anúncios não sejam sexualmente explícitos como o conteúdo pornográfico que frequentemente circula em plataformas como Instagram, Reddit e YouTube, eles ainda assim carregam um potencial de dano significativo. Haley McNamara, uma executiva do Centro Nacional de Exploração Sexual, comentou: “Não é necessário que seja explícito para ser uma violação. Se algo é feito sem o consentimento no mundo real, também é no mundo virtual”.

Milhares de Anúncios: Uma Realidade Preocupante

Durante uma investigação da Forbes, foi descoberto que a Meta, empresa por trás do Facebook e Instagram, veiculou mais de 2.500 anúncios promovendo esses aplicativos de “beijo com IA”, com cerca de 1.000 ainda ativos. No TikTok, aproximadamente 1.000 anúncios estavam disponíveis para milhões de usuários, predominantemente exibindo celebridades como Scarlett Johansson, Emma Watson e Gal Gadot em situações de beijo.

Vídeos Aleatórios e Celebridades

Alguns desses vídeos mostram pessoas aleatórias se beijando, promovendo a ideia de que a IA pode fazer com que você “beije o seu ex” ou “a sua paixão”. Fica a dúvida: aqueles que aparecem nos vídeos são reais ou gerados por IA? As celebridades mencionadas não deram retorno às solicitações de comentários sobre a utilização de suas imagens.

A Ascensão dos “Abraços com IA”

Não parando por aí, a Meta ainda promove aplicativos que proporcionam “abraços com IA”, com anúncios que mostram crianças abraçando personagens como Dora Aventureira e Mickey Mouse. Um exemplo é uma campanha que promete aos pais que a IA permitirá que seus filhos abracem “avós que nunca conheceram”. De acordo com a pesquisa da Forbes, mais de 1.200 anúncios de “abraços com IA” foram encontrados, e mais de 300 continuam ativos.

O Papel das Plataformas e as Ações Tomadas

Daniel Roberts, porta-voz da Meta, afirmou que os anúncios de “beijo com IA” não infringem as diretrizes da empresa, que proíbe nudez e conteúdo sexual explícito, mas permite vídeos que mostram beijos e abraços. Por outro lado, após a abordagem da Forbes, o TikTok decidiu retirar os anúncios, pois eles não estavam em conformidade com suas políticas, que exigem o consentimento para a utilização de imagens de indivíduos.

Os Anunciantes: De Onde Vêm?

As empresas que desenvolvem esses geradores de vídeo estão, em sua maioria, localizadas fora dos Estados Unidos, em países como Emirados Árabes Unidos, Itália e China. Esses aplicativos estão disponíveis gratuitamente em plataformas como a App Store e a Play Store, acumulando milhões de downloads.

Esses recursos de “beijo com IA” são parte de um fenômeno ainda maior, que inclui ferramentas de edição de fotos baseadas em IA, como melhorar imagens antigas, criar vídeos a partir de fotos e até imaginar como seriam os filhos de dois indivíduos. Curiosamente, tanto a Apple quanto o Google não comentaram sobre essa questão.

Deepfakes: Uma Caixa de Pandora

A rápida proliferação desses conteúdos representa uma normalização preocupante das deepfakes. Ferramentas que inicialmente podem parecer inofensivas podem dar espaço para tecnologias mais prejudiciais e abusivas. McNamara alerta: “Essa tendência está trivializando a não consensualidade em imagens íntimas ou sexualizadas. É fácil desconsiderar quando se pensa nos outros, mas isso pode acontecer com qualquer um”.

Com a ascensão de material de abuso sexual infantil gerado por IA, a situação se torna ainda mais alarmante. Nos últimos dois anos, o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) notificou mais de 7.000 casos relacionados a IA generativa, incluindo um triste exemplo de um pedófilo que usou a tecnologia para criar milhares de imagens ilegais.

A Luta Contra Conteúdo Ofensivo

A Meta está enfrentando desafios na supervisão de anúncios que promovem a produção de imagens nuas geradas por IA. Em um relato pessoal, Alice Siregar, uma analista de IA, notou um aumento significativo nos anúncios de “beijos com IA” no TikTok, expressando sua preocupação com o uso da tecnologia de maneira “profundamente antiética”. “Foi incrivelmente assustador”, afirmou.

Essas problemáticas nos alertam sobre a necessidade urgente de discutir o uso responsável da IA e o respeito ao consentimento nas produções de conteúdo digital. Enquanto a tecnologia avança, é essencial que os usuários reflitam sobre suas implicações éticas e legais.

Assim, à medida que continuamos a explorar as fronteiras da tecnologia e da criatividade, não podemos nos esquecer da importância do respeito, da honestidade e da responsabilidade. Afinal, a linha entre a admiração e a violação pode ser muito tênue.