Em carta publicada na sexta-feira (9), os senadores Ron Wyden (Oregon), Ben Ray Luján (Novo México) e Edward Markey (Massachusetts) afirmaram que Google e Apple “devem remover esses aplicativos das lojas até que as violações de política do X sejam resolvidas”.

O X, propriedade do bilionário Elon Musk, está sob forte crítica de autoridades em todo o mundo desde a semana passada, quando o Grok começou a inundar o site com imagens não consensuais geradas por IA, mostrando mulheres e crianças com biquínis reveladores, roupas íntimas transparentes ou em poses degradantes, violentas ou sexualizadas.

A carta dos senadores, divulgada primeiro pela NBC News, destacou que os termos de serviço do Google proíbem desenvolvedores de “criar, enviar ou distribuir conteúdo que facilite a exploração ou abuso infantil”.

Já os termos da Apple vetam “material sexual ou pornográfico”.

Os senadores lembraram que, no passado, ambas as gigantes tecnológicas agiram rapidamente para remover aplicativos infratores de suas plataformas. “Fechar os olhos para o comportamento flagrante do X seria ridicularizar suas práticas de moderação”, diz a carta.

Google e Apple não responderam imediatamente aos pedidos de comentário. O X encaminhou à Reuters uma publicação de 2 de janeiro, na qual afirma que a plataforma toma medidas “contra conteúdo ilegal no X, incluindo material de abuso sexual infantil”.

A empresa-mãe xAI não respondeu a perguntas específicas sobre a carta ou sobre o conteúdo explícito gerado pelo Grok, enviando apenas uma resposta genérica que citava “mentiras da mídia tradicional”.

Musk reagiu com emojis de riso a fotos alteradas por IA de pessoas famosas em biquínis e publicou várias vezes por dia sobre a popularidade do X. Em certo momento, culpou os usuários pelo conteúdo ilegal gerado pelo chatbot, dizendo: “Qualquer pessoa usando o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se tivesse enviado conteúdo ilegal”.

Na sexta-feira, a ministra britânica de tecnologia, Liz Kendall, afirmou esperar que o órgão regulador Ofcom tome medidas contra o X “em dias, não semanas”, observando que o órgão tem poder para aplicar multas pesadas ou até bloquear serviços no Reino Unido caso não cumpram as regras.

“O X precisa se organizar e remover esse material”, disse ela.

Com a pressão aumentando, a xAI, que opera o Grok e é dona do X, pareceu impor algumas restrições à geração pública de imagens pelo Grok. Pedidos de usuários para despir digitalmente mulheres até biquínis passaram a receber uma mensagem informando que a funcionalidade de edição de imagens estava “atualmente limitada a assinantes pagantes”.

Ainda assim, usuários do X continuavam conseguindo criar imagens sexualizadas usando a aba do Grok e depois publicá-las no X. O aplicativo independente do Grok, que funciona separadamente do X, também seguia permitindo a geração de imagens sem assinatura.

A Reuters não conseguiu confirmar até que ponto as mudanças reduziram a criação de imagens não consensuais, se é que reduziram. Wyden disse que os ajustes não diminuíram sua preocupação. “Tudo o que o X fez foi fazer alguns usuários pagarem pelo privilégio de produzir imagens horríveis no aplicativo, enquanto Musk lucra com o abuso de crianças”, escreveu ele em um e-mail.