A Revelação e o Impacto das Aplicações "Nudify"
Introdução
Em junho do ano passado, Jessica Guistolise recebeu uma mensagem de texto que transformaria sua vida de maneira irreversível. Durante um jantar de trabalho em Oregon, sua atenção foi atraída por uma mensagem de Jenny, uma conhecida que afirmava ter informações urgentes sobre seu ex-marido, Ben.
A Descoberta Alarmante
Após uma longa conversa de quase duas horas com Jenny, Guistolise se sentiu desorientada e em estado de pânico. Jenny revelou que havia encontrado fotos no computador de Ben que utilizavam imagens de mais de 80 mulheres para criar pornografia deepfake — vídeos e fotos de atividades sexuais gerados por inteligência artificial que fundem fotos reais com imagens pornográficas. Todas as mulheres cujas imagens foram manipuladas viviam na área de Minneapolis.
Jenny fez capturas de tela das imagens encontradas no computador de Ben, que foram analisadas pela CNBC. Essas evidências indicaram que Ben recorria a um site chamado DeepSwap para criar as deepfakes. O DeepSwap se encaixa em uma categoria de sites conhecidos como "nudify", que proliferaram desde o surgimento da IA generativa, há menos de três anos.
A CNBC optou por não divulgar o sobrenome de Jenny para proteger sua privacidade e também não revelou o sobrenome de Ben devido a suas alegações de problemas de saúde mental. Atualmente, Jessica e Ben estão divorciados. Após conversar com Jenny, Guistolise decidiu encerrar sua viagem e retornar imediatamente para casa.
Efeitos Imediatos em Minneapolis
Ao voltar para Minneapolis, Jessica encontrou fotografias manipuladas de si mesma que despertaram seu terror. Uma dessas fotos era de uma viagem em família, enquanto outra era da formatura de sua afilhada. Ambas as imagens foram extraídas de sua página no Facebook.
“Quando vi as imagens pela primeira vez, algo dentro de mim mudou, como se minha essência tivesse sido abalada”, relatou Guistolise, de 42 anos.
A CNBC conduziu entrevistas com mais de duas dezenas de pessoas, incluindo vítimas, familiares, advogados, especialistas em abuso sexual, pesquisadores de IA e cibersegurança, profissionais de confiança e segurança na indústria da tecnologia, além de legisladores, para entender como funcionam os sites e aplicativos nudify e qual é seu impacto na vida das pessoas.
“Não seria algo que eu desejaria a ninguém”, afirmou Guistolise.
O Crescimento das Aplicações Nudify
As aplicações nudify representam uma pequena, porém crescente parte do novo universo da IA, que explodiu após o lançamento do ChatGPT da OpenAI no final de 2022. Desde então, empresas como Meta, Alphabet, Microsoft, Amazon, entre outras, investiram centenas de bilhões de dólares no desenvolvimento da inteligência artificial, buscando alcançar uma inteligência artificial geral, ou AGI, que rivalize com as capacidades humanas.
Para os consumidores, a maioria do entusiasmo atual se concentra em chatbots e geradores de imagens que permitem realizar tarefas complexas com simples comandos de texto. Também está crescendo o mercado de companheiros virtuais, além de uma variedade de agentes destinados a melhorar a produtividade.
Entretanto, as vítimas de aplicativos nudify estão enfrentando o lado mais sombrio dessa revolução tecnológica. Graças à IA generativa, produtos como o DeepSwap são tão fáceis de usar que usuários sem conhecimentos técnicos podem acessá-los. Guistolise e outras vítimas expressaram preocupação de que essa tecnologia se espalhe rapidamente, causando sofrimento a muitas mais pessoas.
O Impasse Legal
Guistolise fez um boletim de ocorrência e conseguiu uma ordem de restrição contra Ben, mas logo percebeu que havia um problema na estratégia. As ações de Ben podiam ser consideradas legais. As mulheres envolvidas não eram menores de idade e, enquanto não tinham certeza sobre a eventual distribuição das deepfakes, as imagens permaneciam apenas no computador de Ben. Preocupadas com a possibilidade de que as imagens e vídeos estivessem em um servidor, Ben não poderia ser responsabilizado imediatamente.
Molly Kelley, uma das outras mulheres afetadas, destacou que Ben não quebrou nenhuma lei do conhecimento delas, o que resulta em um desafio problemático. Ben admitiu ter criado as deepfakes e expressou seu arrependimento por suas ações.
Jenny descreveu os atos de Ben como “horrendos, imperdoáveis e inaceitáveis”. Ela enfatizou que, desde que soube da verdade, sua lealdade sempre foi com as mulheres afetadas e que seu foco permanece em como melhor apoiá-las em sua nova realidade.
A Disponibilidade das Ferramentas Nudify
De acordo com especialistas, muitos aplicativos que oferecem serviços de nudificação estão disponíveis no Facebook e para download nas lojas de aplicativos da Apple e Google Play. Haley McNamara, vice-presidente sênior do Centro Nacional sobre Exploração Sexual, afirmou que as aplicações nudify tornaram muito fácil criar imagens sexualmente explícitas e realistas de uma pessoa com base em uma única foto em menos tempo do que se leva para preparar um café.
Um porta-voz da Meta declarou que a empresa possui regras rigorosas que proíbem anúncios com nudez e atividades sexuais, e compartilha informações sobre serviços nudify com outras empresas por meio de uma iniciativa de segurança infantil. A companhia descreveu o ecossistema nudify como um espaço adversarial e afirmou que está aprimorando sua tecnologia para impedir que atores mal-intencionados publiquem anúncios.
A Apple confirmou que regularmente remove e rejeita aplicativos que violam suas diretrizes de conteúdo considerado ofensivo, enganoso ou explicitamente sexual e pornográfico. O Google não fez comentários a respeito.
O Problema Global
O problema das deepfakes não se limita aos Estados Unidos. Em junho de 2024, um homem australiano foi condenado a nove anos de prisão por criar conteúdo deepfake de 26 mulheres. No mesmo mês, relatos da mídia noticiaram uma investigação das autoridades australianas sobre um incidente escolar em que um adolescente allegedly criou e distribuiu conteúdo deepfake de quase 50 colegas femininas.
Mary Anne Franks, professora na Faculdade de Direito da Universidade George Washington, enfatizou que as tecnologias geralmente são primeiramente utilizadas contra mulheres e meninas. Pesquisadores de segurança da Universidade da Flórida e da Universidade de Georgetown publicaram um artigo de pesquisa em agosto, indicando que ferramentas nudify estão tomando emprestados elementos de design de aplicativos de consumo populares, utilizando modelos de assinatura familiares. O DeepSwap cobra usuários em média $19,99 por mês para acesso a “benefícios premium”, que incluem créditos para geração de vídeo por IA, processamento mais rápido e imagens de maior qualidade.
Os pesquisadores afirmaram que as plataformas de nudificação se tornaram totalmente populares e estão sendo anunciadas no Instagram e hospedadas em lojas de aplicativos.
O Trauma Psicológico
Kelley, que estava grávida de seis meses, descobriu sua inclusão no portfólio de Ben após receber uma mensagem de Jenny. Depois de saber o que ocorreu, levou horas para reunir forças para visualizar as imagens capturadas do celular de Jenny. Ao fazê-lo, Kelley viu seu rosto "muito realisticamente no corpo de outra pessoa, em imagens e vídeos".
Ela destacou que sua saúde foi afetada pelo estresse elevado e que seu médico a alertou sobre os riscos do cortisol em seu corpo e a falta de insulina que isso poderia provocar. "Eu não estava aproveitando a vida assim", relatou Kelley, que também registrou boletim de ocorrência.
Megan Hurley, de 42 anos, estava tentando desfrutar de um cruzeiro quando recebeu uma mensagem urgente de Kelley. Isso arruinou sua viagem. Hurley relatou sentimentos instantâneos de profunda paranoia ao retornar para Minneapolis e teve que promover conversas desconfortáveis com amigos sobre o potencial risco de imagens geradas por inteligência artificial que a envolviam.
Ela procurou ajuda e começou a contatar legisladores para buscar mudanças nas leis. A senadora Erin Maye Quade, do estado de Minnesota, foi uma das autoridades com quem elas conversaram. Depois de diversas reuniões, a senadora se comprometeu a trabalhar em um novo projeto de lei que visava responsabilizar empresas de tecnologia que permitem o uso de serviços nudify.
As Raízes do Problema
A ascensão das deepfakes teve início em 2018, quando vídeos falsificados de figuras como o ex-presidente Barack Obama começaram a viralizar. Desde então, legisladores se mostraram preocupados e sites como Pornhub e Reddit prometeram remover conteúdo não consensual de suas plataformas.
No entanto, o crescimento da demanda por esses serviços levou a uma nova comunidade que favorece a criação de deepfakes, como o site MrDeepFakes, que se tornou uma referência para conteúdo sexualizado. O apelo por serviços nudify também se espalhou por redes sociais, com milhões de visitantes mensais.
A Necessidade de Legislação Eficaz
No nível federal, o governo tomou conhecimento da questão. Em maio, o presidente Donald Trump sancionou a "Take It Down Act", que proíbe a publicação de imagens e vídeos sexuais não consensuais, incluindo aqueles criados por IA. No entanto, especialistas alertam que a lei não aborda as preocupações centrais sobre a criação e distribuição de material não consensual.
Essas preocupações destacam a necessidade urgente de uma abordagem legal mais rigorosa e de uma resposta mais ampla contra as ações de empresas que utilizam e disponibilizam esse tipo de tecnologia. A luta dessas mulheres em Minnesota representa um movimento maior em busca de justiça e proteção em um mundo cada vez mais influenciado pelas inovações tecnológicas.
Fonte: www.cnbc.com
