A Comissão Europeia deu início a uma investigação sobre o chatbot de inteligência artificial Grok, desenvolvido por Elon Musk, em razão da criação de imagens íntimas falsas. A informação foi divulgada pela deputada irlandesa Regina Doherty nesta segunda-feira, 26.
A investigação irá analisar se a plataforma X está respeitando suas obrigações conforme a legislação digital da União Europeia, que inclui diretrizes sobre mitigação de riscos, governança de conteúdo e proteção dos direitos fundamentais.
Esse episódio pode gerar atritos com a administração do presidente dos Estados Unidos, Donald Trump, visto que a pressão da União Europeia sobre grandes empresas de tecnologia já gerou críticas e ameaças de tarifas por parte dos EUA.
Imagens de mulheres expostas
Diversas contas no X têm compartilhado imagens de mulheres, solicitando ao Grok que as transforme em versões seminuas. A Comissão Europeia, ao ser questionada sobre a investigação, não apresentou uma resposta imediata, assim como a X, que não se manifestou até o fechamento deste artigo.
Regina Doherty destacou que a situação levanta questões sérias sobre o cumprimento das obrigações legais por parte das plataformas, especialmente em relação à avaliação de riscos e à prevenção da disseminação de conteúdos ilegais e prejudiciais.
Reações e medidas da xAI
Recentemente, a Comissão Europeia classificou como ilegais e inaceitáveis as imagens geradas por IA de mulheres e crianças despidas, que foram compartilhadas na X, em um contexto de condenação internacional.
A xAI, empresa de inteligência artificial de Musk, anunciou em janeiro mudanças para impedir que o Grok permitisse a edição de fotos de pessoas reais usando roupas sugestivas, como biquínis. Além disso, a xAI informou ter bloqueado usuários em determinadas localizações de gerarem imagens de pessoas vestindo roupas reveladoras, embora não tenha especificado quais regiões são afetadas.
Desafios na regulamentação da IA
Doherty mencionou que as imagens geradas evidenciam fragilidades na forma como as tecnologias emergentes de inteligência artificial são regulamentadas e monitoradas. Ela ressaltou que a União Europeia possui normas claras para proteger os cidadãos online e que essas diretrizes devem ser aplicadas efetivamente, principalmente quando tecnologias poderosas são amplamente utilizadas.
Ela também afirmou que nenhuma empresa atuando na UE pode se considerar acima da lei.
Além disso, no início deste mês, o regulador britânico de mídia, Ofcom, iniciou uma investigação separada para verificar se a X está cumprindo suas obrigações previstas na Lei de Segurança Online do Reino Unido.
Perguntas frequentes
Qual é o motivo da investigação da Comissão Europeia sobre o Grok? A investigação visa avaliar se a plataforma X está cumprindo suas obrigações legais em relação à geração de imagens íntimas falsas.
Quem anunciou a investigação? A deputada irlandesa Regina Doherty foi a responsável por divulgar a informação sobre a investigação.
Quais riscos a investigação busca mitigar? A investigação procura garantir que a X respeite a legislação digital da União Europeia, focando em riscos legais, governança de conteúdo e proteção de direitos fundamentais.
O que a xAI fez para lidar com o problema das imagens? A xAI implementou mudanças para impedir a edição de fotos de pessoas em roupas reveladoras e bloqueou usuários em certas jurisdições.
Como a situação pode afetar as relações EUA-União Europeia? O caso pode gerar tensões, considerando as críticas e ameaças de tarifas que surgiram em resposta à repressão da União Europeia sobre grandes empresas de tecnologia.
Fonte: https://g1.globo.com
