Para barrar nudes do Grok, governo e MPF pedem 'medidas imediatas' ao X, de Elon Musk

Pela primeira vez, nesta terça-feira (dia 20), o governo brasileiro e o Ministério Público Federal (MPF) se manifestaram sobre Grok, chatbot de inteligência artificial ( IA) de Elon Musk, ser capaz de despir digitalmente mulheres e crianças. A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública e o MPF recomendaram medidas imediatas para barrar a produção e distribuição dos conteúdos.
Entre as medidas estão a criação de procedimentos técnicos para identificar, revisar e remover nudes digitais presentes no X, a suspensão imediata das contas envolvidas dos conteúdos, a implementação de mecanismos de denúncia com tempo de resposta adequado e a elaboração de relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético.
“Caso as recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”, diz a nota. ANPD e Senacon têm poder para pedir a suspensão do X no Brasil, enquanto o MPF pode mover uma ação contra a xAI, a companhia controladora do X e do Grok. A reportagem tenta contato com a empresa.
O posicionamento dos órgãos segue a onda global de pressão contra a xAI. Desde o começo do mês, a situação gerou investigação, restrição ou suspensão do serviço em diferentes países, como Indonésia, Malásia, União Europeia, Reino Unido, França e Índia, além do Estado da Califórnia (EUA).
Na quarta-feira (14), a companhia afirmou: “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis.” No entanto, nesta terça, o EXTRA conseguiu obter resultados do tipo no aplicativo independente do serviço. O Grok é altamente integrado ao X e era possível despir pessoas em qualquer post da rede social, mas ele funciona também como um app para iOS e Android, que opera de forma parecida com o ChatGPT, da OpenAI — para usar o app é obrigatório ter uma conta do X vinculada.
A resposta dos órgãos não agradou ao Instituto de Defesa do Consumidores (Idec), que na semana passada apresentou denúncia formal junto à ANPD, na qual pedia a suspensão imediata do serviço no Brasil. O Idec considera que a ferramenta viola o Código de Defesa do Consumidor, Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente (ECA) e o Marco Civil da Internet.
“Após quase um mês de sucessivos relatos, a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco”, diz a nota do instituto publicada logo após a manifestação de ANPD, MPF e Senacon. “Para o Idec, a resposta das autoridades representa mais um capítulo na história de omissão fiscalizatória brasileira”, diz outro trecho da nota.
Nudez digital não consentida no mainstream
O Grok não é a primeira ferramenta de IA capaz de editar fotos de pessoas reais para gerar imagens sexualizadas ou sugestivas sem consentimento. Porém, a ferramenta de Musk é acusada de popularizar a prática.
Segundo uma análise da ONG AI Forensics com mais de 20 mil imagens geradas pelo Grok, mais da metade das imagens representavam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores.
Um levantamento da consultoria Genevieve entre 5 e 6 de janeiro mostrou que, em 24 horas, o Grok gerou 6,7 mil imagens por hora identificadas como sexualmente sugestivas ou que envolviam nudez. Os outros cinco principais sites de geração de imagens por IA criaram, em média, 79 novas imagens por hora no período de 24 horas. A Genevieve Oh calculou que, no total, 85% das imagens do Grok são sexualizadas.
Inicialmente, o X limitou a geração e a edição de imagens apenas a usuários pagantes, mas, diante da pressão, ampliou as restrições, desativando a possibilidade de todos os usuários utilizarem o chatbot para criar imagens sexualizadas de pessoas reais.
No entanto, a companhia afirmou que os assinantes do serviço premium do X ainda podem usar o Grok para editar e criar outras imagens geradas por IA que “estejam em conformidade com os termos de serviço da plataforma”. A companhia também diz que bloqueou o Grok de gerar “imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes” em países onde isso é ilegal.
Na semana passada, o bilionário também afirmou: “Não tenho conhecimento de nenhuma imagem de nudez de menores gerada pelo Grok. Literalmente zero. Obviamente, o Grok não gera imagens espontaneamente; ele só o faz de acordo com solicitações dos usuários. Quando solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, pois o princípio operacional do Grok é obedecer às leis de qualquer país ou estado. Pode haver ocasiões em que ataques adversariais aos prompts do Grok provoquem algo inesperado. Se isso acontecer, corrigimos o bug imediatamente.”



Com informações da fonte
https://extra.globo.com/economia/noticia/2026/01/para-barrar-nudes-do-grok-governo-e-mpf-pedem-medidas-imediatas-ao-x-de-elon-musk.ghtml