Em meio a uma série de polêmicas envolvendo o Grok desde o fim do ano passado, o governo federal determinou que o X (antigo Twitter) implemente medidas imediatas para corrigir falhas na ferramenta. O Grok é o sistema de inteligência artificial da plataforma
A cobrança foi feita pela Senacon (Secretaria Nacional do Consumidor), pela ANPD (Autoridade Nacional de Proteção de Dados) e pelo MPF (Ministério Público Federal).
A atuação conjunta dos órgãos ocorre após denúncias de falhas na segurança do sistema, possíveis violações à proteção de dados e riscos aos usuários.
Entre os principais pontos de preocupação estão relatos de que a IA estaria sendo usada para manipular imagens publicadas por mulheres nas redes sociais.
Desde o fim de 2025, milhares de denúncias em diferentes partes do mundo indicam que o Grok estaria atendendo a pedidos de usuários para manipular fotos, expondo mulheres nuas, de biquíni ou em situações de conotação sexual, sem qualquer consentimento.
A prática se encaixa no que especialistas classificam como “deep fake”: conteúdos gerados ou alterados por IA para simular situações que nunca ocorreram. O problema é que esse tipo de recurso pode ser usado para constranger vítimas, aplicar golpes, chantagear ou espalhar desinformação.
Responsabilidade compartilhada
O advogado criminalista Alan Januário afirma que, embora a tecnologia em si não seja ilegal, o uso indevido dela exige responsabilização. Segundo ele, a ausência de fiscalização contribui para a continuidade das práticas ilícitas.
“Caso não ocorra uma fiscalização firme para mitigar, responsabilizar e punir os culpados, os criminosos continuarão a se valer da facilidade de obtenção e utilização do aplicativo”, avalia.
O debate, contudo, não se limita aos usuários. A discussão também envolve a responsabilidade da própria empresa que desenvolve e disponibiliza a ferramenta.
Para o especialista em segurança pública Jaime Fusco, a empresa não pode se eximir alegando que o sistema opera com base em dados públicos.
“Caso o Grok forneça instruções perigosas que resultem em dano físico real, a alegação de que a responsabilidade decorre ‘dos dados públicos dos usuários’ não afasta o dever de responsabilização da empresa que desenvolve e disponibiliza a ferramenta”, explica.
Histórico de embates
Não é a primeira vez que a plataforma enfrenta problemas com o Brasil. Em 2024, o ministro do STF (Supremo Tribunal Federal) Alexandre de Moraes ordenou o bloqueio da rede social após embates diretos com Elon Musk, dono da empresa.
Agora, o MPF determinou que, caso os relatórios periódicos não sejam apresentados pelo X no prazo, os envolvidos poderão responder por crime de desobediência.
A empresa também fica sujeita a investigações mais incisivas e ações judiciais, caso estas sejam necessárias para reparar danos e prevenir novos ilícitos como os que estão sob apuração.
Segundo Fusco, se houver descumprimento de ordens judiciais, o Judiciário pode impor multas, suspender temporariamente as atividades da plataforma ou até proibir seu funcionamento no país, como ocorreu em 2024.
“A circunstância de a operação ocorrer ‘em nuvem internacional’ não afasta a jurisdição brasileira quando os efeitos do dano se produzem no território nacional”, finaliza.
