Lançamento do Grok 3 pela xAI
A startup xAI, liderada por Elon Musk, impôs novas restrições à funcionalidade de geração de imagens do seu chatbot Grok, que opera na plataforma de redes sociais X, anteriormente conhecida como Twitter. Essas mudanças foram motivadas pela repercussão negativa gerada após o uso da ferramenta para criar e disseminar imagens sexualizadas por meio de inteligência artificial (IA).
Restrições na Edição de Imagens
Usuários podiam solicitar ao Grok, diretamente pelo X, a edição de fotos de indivíduos. Isso incluía a remoção de roupas e a colocação de pessoas em poses sexualizadas, frequência que ocorria muitas vezes sem o consentimento dos envolvidos. Recentemente, no dia 9 de setembro, o Grok notificou os usuários da plataforma de que os recursos de geração e edição de imagens estavam disponíveis exclusivamente para assinantes pagantes.
Efeitos das Mudanças
A implementação dessas restrições pareceu limitar a capacidade do Grok de gerar e publicar automaticamente essas imagens em resposta a publicações ou comentários no site. Entretanto, usuários ainda eram capazes de criar imagens sexualizadas ao interagir com o chatbot através da guia Grok, podendo posteriormente publicar essas imagens na plataforma.
Além disso, o aplicativo independente Grok, que opera separadamente do X, mantinha a opção de geração de imagens sem a necessidade de uma assinatura.
Respostas e Reações
A xAI respondeu aos pedidos de comentário enviados pela Reuters utilizando uma aparente resposta automática: “Legacy Media Lies” (mentiras da mídia tradicional). Por sua vez, a plataforma X não se manifestou imediatamente aos pedidos de comentários.
Musk declarou na semana passada que qualquer usuário que utilizasse o Grok para criar conteúdo ilegal enfrentaria as mesmas consequências que aqueles que realizassem uploads diretos desse tipo de material. Em uma situação que ocorreu na sexta-feira, um repórter da Reuters fez um pedido ao Grok no X para transformar uma foto sua em uma imagem vestindo biquíni, seguindo uma solicitação que se tornou comum entre os usuários na semana precedente. O bot respondeu que essa funcionalidade só estava disponível para assinantes da plataforma.
Preocupações da Comissão Europeia
A Comissão Europeia, que considera as imagens de mulheres e crianças sem roupa compartilhadas no X como ilegais e inaceitáveis, afirmou que as novas restrições não abordam suas preocupações principais. Um porta-voz da Comissão declarou: “Limitar a geração e a edição de imagens aos assinantes pagantes não muda nossa questão fundamental: com ou sem assinatura paga, não queremos ver essas imagens”.
Além disso, outros governos e órgãos reguladores manifestaram suas condenações em relação ao conteúdo explícito gerado pelo Grok no X. Algunos desses órgãos abriram inquéritos, questionando a plataforma sobre suas medidas para impedir e remover conteúdo ilegal.
Declarações de Autoridades
Nesta semana, o ministro de mídia da Alemanha, Wolfram Weimer, descreveu o aumento da circulação de imagens de seminudez como a “industrialização do assédio sexual”.
Fonte: www.moneytimes.com.br