As violações do Grok persistem na plataforma X, conforme apontamento conjunto do Ministério Público Federal (MPF), da Agência Nacional de Proteção de Dados (ANPD) e da Secretaria Nacional do Consumidor (Senacon). As três entidades governamentais concluíram que as respostas e providências informadas pela empresa X, detentora da ferramenta de inteligência artificial Grok, são insuficientes para conter a geração e a circulação de imagens de pessoas em contexto de sexualização, realizadas de forma não autorizada.
A preocupação principal reside no uso indevido da ferramenta de IA, que continua a ser empregada para criar e disseminar material inapropriado, contrariando as diretrizes éticas e legais de uso de plataformas digitais e proteção de dados. Essa constatação reitera um problema previamente identificado pelas instituições, que já haviam emitido recomendações específicas à plataforma X para abordar e sanar essas infrações.
No decorrer do mês anterior, MPF, ANPD e Senacon estabeleceram uma série de diretrizes para a plataforma. Entre as principais exigências estava a implementação de mecanismos técnicos e operacionais rigorosos para a identificação, a revisão e a consequente remoção de conteúdos ilegais ou prejudiciais. Essas medidas visavam especificamente aqueles gerados pela ferramenta Grok a partir de interações de usuários, objetivando controlar a
Violações do Grok Persistem, Alertam MPF, ANPD e Senacon
.
Análise da Resposta da Plataforma X e Persistência das Falhas
Em sua réplica à recomendação conjunta, a plataforma X informou ter atuado na remoção de um grande número de publicações e na suspensão de centenas de contas envolvidas nas violações, além de alegar a implementação de medidas de segurança adicionais. Contudo, a análise das instituições governamentais revelou uma lacuna crítica: as informações apresentadas não foram acompanhadas por evidências concretas, como relatórios técnicos detalhados ou mecanismos de monitoramento verificáveis, que pudessem atestar a eficácia real das ações empreendidas pela empresa.
Para comprovar a continuidade das falhas, equipes técnicas do MPF, ANPD e Senacon realizaram testes preliminares. Estes ensaios demonstraram a persistência do problema, indicando que a ferramenta Grok ainda permite a geração e a circulação de conteúdos incompatíveis com as recomendações previamente estabelecidas. Em vista disso, os órgãos emitiram uma nova determinação, conforme comunicado nesta quarta-feira, 11 de fevereiro de 2026, cobrando uma postura mais incisiva da plataforma X.
Novas Determinações e Medidas Exigidas
Os três órgãos reguladores agora exigem que a plataforma X implemente, de forma imediata e eficaz, ações preventivas para coibir a produção, a partir do Grok, de qualquer tipo de conteúdo sexualizado ou erotizado envolvendo crianças e adolescentes, bem como de adultos que não tenham manifestado consentimento explícito para tal uso de sua imagem. A determinação é um reforço à necessidade de proteção integral dos direitos dos usuários.
Adicionalmente, as instituições solicitaram que o X preste informações detalhadas sobre as providências já adotadas para sanar as inconsistências e os problemas previamente apontados na recomendação inicial. Em seu comunicado particular, o Ministério Público Federal ressaltou a falta de transparência da empresa em sua resposta inicial e exigiu o envio de relatórios mensais pormenorizados sobre as ações tomadas em relação ao tema. Este acompanhamento contínuo visa assegurar a adesão às normativas brasileiras e aos padrões de ética digital.
Atuação Coordenada das Instituições
A Agência Nacional de Proteção de Dados, o Ministério Público Federal e a Secretaria Nacional do Consumidor trabalham em uma ação coordenada para investigar a fundo os fatos relacionados ao uso indevido da inteligência artificial Grok. Cada uma das instituições mantém um procedimento administrativo independente aberto contra a plataforma X, em conformidade com suas respectivas áreas de competência e atuação legal.
No que tange à ANPD, sua medida preventiva estabelece que todos os recursos e salvaguardas desenvolvidos para prevenir o uso indevido da ferramenta de IA devem abranger integralmente todas as versões, planos e modalidades do Grok, garantindo uma cobertura abrangente contra vulnerabilidades. Essa abrangência é essencial para evitar que lacunas na implementação permitam a continuidade das violações em diferentes instâncias da ferramenta.
Imagem: agenciabrasil.ebc.com.br
O MPF, por sua vez, determinou o envio de relatórios mensais, com início neste mês de fevereiro. Esses documentos deverão detalhar a estratégia e as ações da plataforma X para prevenir e reprimir a produção de deepfakes, tanto os que envolvem crianças e adolescentes quanto aqueles que utilizam a imagem de maiores de idade sem autorização prévia. Os relatórios devem incluir dados quantitativos, como o número de postagens nocivas removidas e o número de contas suspensas relacionadas a essas práticas em cada período reportado.
A Senacon, através de uma medida cautelar administrativa, requisitou a comprovação efetiva das providências já tomadas pela plataforma X para mitigar os riscos e solucionar os problemas identificados na recomendação conjunta. Também foi exigido um relatório métrico detalhado e verificável, com dados quantitativos sobre a identificação, moderação, remoção e indisponibilização de conteúdos sexualizados ligados ao funcionamento do Grok. Este relatório deve apresentar informações como o número de conteúdos detectados e removidos, os prazos médios de resposta, os critérios técnicos empregados e a eventual adoção de ações corretivas adicionais, como suspensão de contas ou restrição de funcionalidades para usuários que descumprirem as normas.
Consequências do Descumprimento e Implicações Legais
A inobservância das determinações por parte da empresa de rede social poderá resultar na imposição de multas diárias. Além disso, os responsáveis podem ser acusados de crime de desobediência. O MPF também advertiu que a empresa está sujeita a medidas investigatórias mais severas, bem como à possibilidade de ser alvo de ação judicial. Estas sanções visam reforçar a seriedade das exigências e a importância de garantir a proteção dos direitos dos usuários na esfera digital, conforme estabelecido por legislações como a Lei Geral de Proteção de Dados (LGPD), que regulamenta o tratamento de dados pessoais no Brasil.
Atualmente, a reportagem está buscando contato com a assessoria da Plataforma X no Brasil para obter um posicionamento oficial da empresa sobre esta nova manifestação conjunta e as recentes determinações do MPF, da ANPD e da Senacon. A resposta da empresa será fundamental para entender as próximas etapas e as estratégias a serem implementadas para resolver as contínuas violações no Grok.
Confira também: Imoveis em Rio das Ostras
As decisões das autoridades brasileiras sublinham a importância da fiscalização contínua das plataformas digitais e suas ferramentas de inteligência artificial para assegurar a proteção dos direitos e a integridade dos usuários, especialmente contra a exploração indevida. Para se aprofundar em mais discussões sobre políticas digitais e outras notícias de relevância, continue acompanhando a editoria de Política em nosso blog.
Crédito da imagem: X/Divulgação
