A xAI, empresa de inteligência artificial de Elon Musk, entrou com uma ação judicial contra um homem acusado de utilizar o Grok para produzir imagens sexualmente explícitas sem consentimento, incluindo conteúdos envolvendo menores de idade.
O processo foi apresentado em um tribunal federal do Texas contra Terry Wayne Harwood, morador da Carolina do Sul. Segundo a empresa, ele teria criado diferentes contas, utilizado informações falsas e modificado repetidamente seus comandos para tentar contornar os sistemas de segurança da plataforma.
O caso chama atenção não apenas pela gravidade das acusações, mas também porque representa uma das primeiras ações conhecidas em que uma empresa de inteligência artificial processa diretamente um usuário pelo suposto uso criminoso de sua tecnologia.
Usuário teria tentado burlar as proteções do Grok
De acordo com a petição apresentada pela xAI, Harwood teria enviado ao Grok fotografias comuns de pessoas reais, incluindo adultos e menores, e solicitado que a inteligência artificial transformasse essas imagens em representações sexualmente explícitas.
A empresa afirma que o sistema recusou diversas solicitações por identificar violações de suas políticas de segurança. Mesmo assim, o usuário teria continuado tentando gerar o material, alterando palavras, instruções e descrições para enganar os mecanismos de proteção.
A xAI também acusa Harwood de criar novas contas depois que perfis anteriores foram bloqueados, além de utilizar identidades e informações diferentes para continuar acessando o serviço.
Segundo a companhia, essas ações violaram diretamente os Termos de Serviço e a Política de Uso Aceitável do Grok, que proíbem atividades ilegais, exploração de menores, invasão de privacidade e criação de imagens íntimas de pessoas sem consentimento.
É importante destacar que as informações fazem parte das alegações apresentadas pela xAI em uma ação civil. O processo ainda será analisado pela Justiça e não representa uma condenação definitiva do acusado.
Harwood, de 67 anos, já havia sido preso em fevereiro de 2026 na Carolina do Sul durante uma investigação relacionada à exploração sexual de menores.
Ele enfrenta oito acusações criminais, sendo três por exploração sexual de menor em segundo grau e cinco em terceiro grau. As autoridades afirmam que a investigação envolveu a posse e a distribuição de arquivos de abuso sexual infantil.
Na nova ação, a xAI alega que parte do material encontrado durante a investigação criminal teria sido criada ou modificada por meio do Grok.
A empresa também afirma que identificou as atividades suspeitas, bloqueou contas relacionadas ao usuário e encaminhou informações às autoridades responsáveis.
A companhia quer que o tribunal reconheça que Harwood violou os contratos e as regras de utilização do Grok.
Além de uma indenização financeira ainda não definida, a xAI pede que o acusado seja permanentemente proibido de criar novas contas ou utilizar qualquer serviço oferecido pela empresa.
A companhia argumenta que a conduta atribuída ao usuário causou danos às vítimas e também expôs a xAI a riscos jurídicos, financeiros e de reputação.
A empresa ainda busca o reembolso de despesas legais e de possíveis prejuízos relacionados às atividades descritas no processo.
Processo pode abrir precedente para empresas de inteligência artificial
O caso pode se transformar em um marco importante para a indústria de inteligência artificial.
Até agora, muitos dos processos envolvendo deepfakes e imagens sexualizadas geradas por IA foram movidos pelas vítimas contra as empresas responsáveis pelas ferramentas. Desta vez, é a desenvolvedora do sistema que tenta responsabilizar diretamente um usuário.
A estratégia da xAI transmite uma mensagem clara: pessoas que utilizarem ferramentas de inteligência artificial para praticar atividades ilegais poderão enfrentar bloqueios, denúncias às autoridades e ações judiciais movidas pelas próprias plataformas.
Ao mesmo tempo, o processo também levanta um debate inevitável sobre a responsabilidade das empresas.
Até que ponto uma companhia pode atribuir toda a culpa ao usuário quando seu próprio sistema pode ser manipulado para produzir conteúdos proibidos?
Essa discussão deverá ganhar ainda mais força conforme ferramentas de geração e edição de imagens se tornem mais poderosas, realistas e acessíveis.
Na documentação apresentada à Justiça, a xAI afirma que suspendeu mais de 52 mil contas durante 2026 por suspeitas de violações relacionadas à exploração infantil.
A empresa também declara ter enviado mais de 73 mil denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas dos Estados Unidos.
Segundo a companhia, essas comunicações contribuíram para pelo menos 244 prisões. Os números, porém, foram fornecidos pela própria xAI no processo e não vieram acompanhados de uma auditoria independente na petição inicial.
A xAI defende que o Grok é uma ferramenta controlada pelas instruções enviadas por seus usuários. Esse argumento deverá ser central na tentativa da empresa de demonstrar que os conteúdos foram produzidos por uma ação deliberada do acusado.
O processo expõe um dos maiores problemas enfrentados atualmente pelas empresas de inteligência artificial: impedir que ferramentas legítimas sejam utilizadas para perseguição, abuso, fraude ou produção de imagens ilegais.
Filtros de segurança conseguem bloquear comandos explícitos, mas usuários mal-intencionados frequentemente testam variações, termos indiretos e diferentes formas de instrução para tentar contornar essas barreiras.
Com modelos cada vez mais avançados, apenas bloquear determinados termos pode não ser suficiente.
As plataformas começam, portanto, a adotar uma combinação de medidas técnicas e jurídicas, incluindo monitoramento de comportamento, suspensão de contas, preservação de registros, comunicação com autoridades e processos contra usuários.
O caso contra Harwood será acompanhado de perto porque poderá ajudar a definir até onde vai a responsabilidade de quem desenvolve uma inteligência artificial e onde começa a responsabilidade individual de quem decide utilizá-la para cometer crimes.
Independentemente do resultado, uma coisa já está clara: a era em que qualquer pessoa podia tratar uma ferramenta de IA como uma terra sem lei está começando a ficar para trás.
Fontes
Petição inicial — X.AI LLC v. Terry Wayne Harwood
https://cdn.arstechnica.net/wp-content/uploads/2026/07/xAI-v-Harwood-Complaint-7-14-26.pdf
Reuters — Musk’s xAI sues Grok user over sexualized “deepfakes”
https://www.reuters.com/legal/litigation/musks-xai-sues-grok-user-over-sexualized-deepfakes-2026-07-15/
Procuradoria-Geral da Carolina do Sul — Four Upstate men arrested on Child Sexual Abuse Material charges
https://www.scag.gov/about-the-office/news/four-upstate-men-arrested-on-child-sexual-abuse-material-charges/