A deputada trabalhista Jess Asato entrou com uma ação judicial contra a xAI, empresa de inteligência artificial vinculada a Elon Musk, alegando que a ferramenta Grok foi usada para gerar imagens falsas e sexualizadas dela sem seu consentimento. O processo foi apresentado na Alta Corte de Londres e pode estabelecer parâmetros sobre a responsabilização de empresas de IA pelo conteúdo produzido por seus sistemas.

Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, afirmou ter tomado conhecimento das imagens em janeiro. Segundo a parlamentar, o Grok criou representações dela em biquíni sem autorização, situação que classificou como uma experiência “violadora”. Ela também disse ao Financial Times que a ferramenta teria produzido um vídeo em que aparece sendo cloroformizada e preparada para sofrer agressão sexual.

Acusação e fundamentos jurídicos

No processo, Asato acusa a xAI de violar normas de proteção de dados e de uso indevido de informações privadas ao permitir que usuários gerassem esse tipo de conteúdo. A ação sustenta que a empresa deveria ter implantado salvaguardas para impedir a criação de imagens sexualizadas de pessoas reais sem consentimento.

De acordo com a parlamentar, a circulação do material teria começado depois que ela criticou publicamente a produção de imagens não consensuais geradas por inteligência artificial. Em declaração ao Financial Times, Asato afirmou: “Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças”.

Caso similar e defesa da responsabilidade dos desenvolvedores

O processo de Asato segue outro caso nos Estados Unidos movido por Ashley St Clair, mãe de um dos filhos de Elon Musk, que também alegou ter sido alvo de imagens explícitas falsas produzidas pelo Grok, incluindo uma representação em que apareceria menor de idade.

Ravi Naik, advogado que representa Asato, disse ao Financial Times que a questão central é a responsabilidade dos desenvolvedores sobre o desenho e a disponibilização de suas ferramentas. “O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou Naik.

Reação do governo e problemas anteriores com o Grok

O uso do Grok para gerar imagens sexualizadas de mulheres e, em alguns casos, de crianças já provocou reação das autoridades britânicas no início do ano. Em janeiro, o governo ameaçou medidas contra a plataforma X e o órgão regulador Ofcom abriu investigação sobre o assunto.

Inicialmente, a empresa informou que limitaria a criação dessas imagens a usuários pagantes, medida criticada pelo primeiro-ministro Keir Starmer, que a chamou de “horrível”. Dias depois, o X anunciou a suspensão total da função que permitia ao Grok editar fotografias de pessoas reais para exibi-las com roupas mais reveladoras.

Além disso, o Grok foi responsabilizado por identificar de forma equivocada dois policiais de Hampshire como envolvidos na prisão de Henry Nowak. Uma das profissionais erradamente mencionadas foi Christi Hill, policial há 12 anos, que precisou se deslocar para um local seguro após ser alvo de publicações na plataforma X que pediam a sua localização e incitavam violência.

O caso na Alta Corte de Londres agora segue seu curso, com potencial para influenciar futuras decisões sobre a responsabilização de plataformas e desenvolvedores de inteligência artificial.

Com informações de Olhardigital