O governo federal e o Ministério Público Federal (MPF) concluíram que o X não comprovou ter adotado medidas eficazes para conter a criação e a disseminação de imagens eróticas geradas pelo Grok, ferramenta capaz de adulterar fotos sem consentimento. A avaliação das autoridades leva em conta que as informações apresentadas pela empresa não vieram acompanhadas de evidências concretas, e testes indicaram ser ainda possível gerar e compartilhar imagens sexualizadas sem autorização.
O caso está sob análise da Agência Nacional de Proteção de Dados (ANPD), do MPF e da Secretaria Nacional do Consumidor (Senacon). Desde o fim do ano passado, milhares de denúncias surgiram em vários países relatando que o Grok atende a pedidos de usuários para modificar imagens publicadas por mulheres nas redes sociais, fazendo com que apareçam nuas ou vestindo apenas biquíni, por exemplo. Ao menos duas brasileiras afirmaram ter sido vítimas desses deepfakes.
Em 20 de janeiro, ANPD, MPF e Senacon recomendaram que o X impedisse esse tipo de adulteração praticada pelo Grok. A plataforma, controlada por Elon Musk, informou ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violação de suas políticas. Ainda assim, as autoridades brasileiras avaliaram que as informações fornecidas pela empresa “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”.
Testes realizados por equipes técnicas dos órgãos indicaram que a rede social segue permitindo a geração e o compartilhamento, sem consentimento, de imagens sexualizadas ou erotizadas envolvendo crianças, adolescentes e adultos. Diante disso, o MPF considerou que a empresa não foi suficientemente transparente e determinou que o X apresente relatórios mensais detalhando suas ações para evitar a produção desse tipo de conteúdo. A ANPD, por sua vez, exigiu que a plataforma enumere as providências adotadas e apresente evidências que possam ser verificadas pelas autoridades.
A ANPD e a Senacon estabeleceram um novo prazo de cinco dias úteis para que o X aprimore e implemente medidas capazes de impedir que o Grok crie esse tipo de conteúdo, e que explique as ações adotadas dentro desse período. O ofício não informa quando a contagem do prazo teve início. Caso a determinação não seja cumprida, a empresa pode sofrer sanções mais severas, incluindo multas; os responsáveis também podem responder por crime de desobediência. O MPF poderá aprofundar as investigações, o que pode levar a ação judicial para reparação de eventuais danos causados pela criação das imagens.
Além do Brasil, o X e o Grok são investigados na Europa por crimes semelhantes. No início de fevereiro, buscas foram realizadas nos escritórios da empresa na França, por ordem do Ministério Público de Paris e da polícia francesa, no âmbito de investigação preliminar que apura supostos crimes, entre eles a disseminação de pornografia infantil e deepfakes. A adulteração de imagens pelo Grok também está sob investigação no Reino Unido e na União Europeia.
O Grok é desenvolvido pela xAI, também ligada a Elon Musk. No início do mês, Musk anunciou a fusão da xAI com a SpaceX, operação que, segundo relatos, deverá criar um negócio de grande valor. A SpaceX também foi citada como potencial candidata a estrear na bolsa de valores de Nova York ainda neste ano.
