A inteligência artificial Grok, desenvolvida pela empresa pertencente a Elon Musk e sendo uma referência na rede social X, gerou cerca de 3 milhões de imagens sexualizadas a partir de fotos reais postadas na plataforma. Essa informação provém de um estudo realizado pelo Center for Countering Digital Hate (CCDH).
Conforme a pesquisa, a ferramenta produziu um número alarmante de modificações em um curto período de 11 dias, muitas vezes sem a devida autorização. Embora a maior parte das imagens envolvesse mulheres, também foi registrado um número significativo de gerações com imagens de menores.
As imagens criadas frequentemente alteravam roupas para biquínis ou peças de vestuário menores, além de incluir elementos como fluidos transparentes e brinquedos eróticos, mudando as poses das pessoas retratadas para sugerir uma conotação sexual. Essas práticas abusivas foram relatadas entre o final de 2025 e o início deste ano.
O trabalho criminoso do Grok
A fim de proteger os pesquisadores de conteúdos ofensivos, o estudo utilizou inteligência artificial para identificar e catalogar as imagens geradas. Além de modificar fotos de usuários anônimos na plataforma, houve pedidos para alterar imagens de celebridades, como Taylor Swift, Billie Eilish e Ariana Grande, além de figuras públicas, como Kamala Harris, ex-vice-presidente dos Estados Unidos.
De acordo com o CCDH, das 3 milhões de imagens sexualizadas criadas entre 29 de dezembro e 8 de janeiro, cerca de 23 mil eram de crianças. O volume de produções indica que, em média, 190 imagens desse tipo foram geradas por minuto a partir de solicitações de usuários. Além disso, o Grok criou aproximadamente 9,9 mil ilustrações sexualizadas envolvendo crianças, especialmente com traços de anime.
O jornal The New York Times apresentou números ainda mais alarmantes, com 4,4 milhões de imagens sexualizadas identificadas, sendo que pelo menos 41% delas retratavam mulheres. A partir de 9 de janeiro, o X restringiu a criação de imagens nas respostas a postagens para assinantes Premium, mas a solicitação ainda pode ser feita pelo aplicativo ou pela página da própria IA.
Pedidos de banimento e resposta de Musk
Organizações que defendem os direitos de mulheres e crianças exigiram com urgência a suspensão do recurso ou até mesmo o fechamento do X até que a funcionalidade fosse eliminada. Apenas Malásia e Indonésia suspenderam oficialmente o acesso ao Grok, enquanto o Reino Unido condenou a ferramenta e iniciou uma investigação. No Brasil, a deputada Erika Hilton solicitou a suspensão da IA, sendo acompanhada pelo Instituto de Defesa do Consumidor (Idec), mas nenhuma das solicitações foi atendida.
Ashley St Clair, mãe de um dos filhos de Musk, entrou com uma ação contra o X, afirmando ter sido vítima das gerações abusivas de imagens da IA. Musk inicialmente alegou que crimes relacionados ao editor de imagens seriam investigados, mas até o momento, não houve registros além de postagens removidas. Ele também afirmou que os pedidos para banir o aplicativo das lojas digitais eram uma “desculpa para a censura”, e posteriormente compartilhou postagens que culpavam os usuários pelas edições, negando ter conhecimento sobre a geração de imagens de menores pelo Grok.
Perguntas frequentes
Qual é o impacto do Grok na geração de imagens sexualizadas? A IA Grok gerou cerca de 3 milhões de imagens sexualizadas, muitas vezes sem consentimento, o que levantou preocupações sobre a privacidade e segurança de indivíduos, especialmente menores.
Quantas imagens de crianças foram geradas pelo Grok? Entre as imagens sexualizadas criadas, aproximadamente 23 mil eram de crianças, evidenciando o potencial uso indevido da tecnologia.
O que as organizações estão fazendo a respeito? Entidades de defesa de direitos de mulheres e crianças pediram a suspensão do Grok e até mesmo do X até que a função de geração de imagens fosse eliminada.
Quais países suspenderam o acesso ao Grok? Apenas Malásia e Indonésia tomaram a decisão de suspender oficialmente o acesso à ferramenta Grok.
O que Elon Musk comentou sobre a situação? Musk afirmou que os crimes associados ao uso do editor de imagens seriam investigados, mas não houve registros significativos até o momento, além de postagens removidas.
Fonte: https://www.tecmundo.com.br
