Daisy Dixon, docente da Universidade de Cardiff, no País de Gales, revelou que se sentiu “violada em sua intimidade” ao encontrar imagens sexualizadas dela, geradas pela inteligência artificial Grok, em circulação na rede social X. Para ela, isso representa um “sequestro digital” de seu corpo e uma manifestação de “misoginia extrema”.
Usuária ativa do X e do Instagram, onde se dedica à divulgação de temas filosóficos, Daisy descobriu, em dezembro, que o Grok havia manipulado algumas de suas fotos, transformando imagens em que aparecia com roupas esportivas em representações sexualizadas.
Manipulação de imagens e pedidos ofensivos
Inicialmente, as imagens geradas pela ferramenta eram relativamente inofensivas, com alterações simples como mudanças de penteado ou maquiagem, conforme relatou a professora. Porém, a situação se agravou quando alguns usuários passaram a solicitar ao Grok representações mais explícitas, como a mostrar Daisy de calcinha fio-dental ou em poses consideradas vulgares.
Daisy viu esses pedidos e as imagens sendo postadas automaticamente em sua conta no X, que conta com cerca de 34 mil seguidores. Um pedido chocante chegou a solicitar que ela fosse retratada em uma “fábrica de estupros”, embora a ferramenta não tenha gerado essa imagem específica.
Reação e falta de suporte
A professora expressou seu desespero ao afirmar que se sentiu “realmente violada na minha intimidade e também em perigo”. Após o impacto inicial, ela passou da sensação de medo para a raiva. Um dos pedidos que mais a afetou foi o de vê-la grávida, de biquíni e com aliança no dedo.
Ao buscar ajuda na plataforma, Daisy não encontrou um meio eficaz para denunciar as imagens geradas. Recentemente, o Reino Unido endureceu sua legislação contra a criação e a solicitação de imagens íntimas sem consentimento.
Crescimento alarmante de imagens sexualizadas
Um estudo divulgado pelo Center for Countering Digital Hate revelou que o Grok gerou aproximadamente três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, resultando em uma média de 190 imagens por minuto. Paul Bouchaud, pesquisador da AI Forensics, destacou que mais da metade das 20 mil imagens analisadas mostrava pessoas pouco vestidas, a maioria delas mulheres.
Em resposta à indignação pública, alguns países decidiram bloquear completamente o Grok. A plataforma X anunciou, em janeiro, que limitou sua ferramenta de IA em regiões onde a criação desse tipo de conteúdo é ilegal, embora a aplicação dessas restrições ainda não esteja clara.
Daisy expressou satisfação com os avanços feitos, mas lamenta que a situação tenha ocorrido em primeiro lugar. Bouchaud ainda ressaltou que o Grok possui um site e um aplicativo que permitem a geração de imagens de nudez, além de possibilitar o compartilhamento dessas imagens.
Perguntas frequentes
Qual foi a reação de Daisy Dixon ao descobrir as imagens? Daisy se sentiu violada em sua intimidade e em perigo, passando de um sentimento de medo para raiva ao perceber a gravidade da situação.
O que o Grok é e como foi utilizado nesse caso? Grok é uma ferramenta de inteligência artificial da plataforma X que foi usada para gerar imagens manipuladas de Daisy, a partir de fotos que ela havia publicado.
Como a legislação do Reino Unido se posiciona sobre esse tipo de conteúdo? Recentemente, o Reino Unido endureceu suas leis contra a criação e solicitação de imagens íntimas não consentidas, buscando proteger as vítimas desse tipo de abuso.
Quantas imagens sexualizadas foram geradas pelo Grok em um curto espaço de tempo? Um estudo revelou que o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, o que representa uma média alarmante de 190 imagens por minuto.
O que a plataforma X fez em resposta à situação? Em resposta à reação pública, a plataforma X anunciou limitações em sua ferramenta de IA em países onde a criação de imagens íntimas não consentidas é ilegal.
Fonte: https://g1.globo.com
