A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X para coibir o uso indevido da ferramenta de inteligência artificial Grok na geração e disseminação de conteúdos sexualizados irregulares.
Conforme documento divulgado nesta terça-feira (20), uma das principais orientações é a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis na plataforma, quando gerados pelo Grok a partir de comandos de usuários.
As instituições também recomendam a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, sem autorização das pessoas retratadas, quando o conteúdo tiver sido criado com auxílio da ferramenta.
Outra medida sugerida é a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. A recomendação prevê respostas adequadas e dentro de prazo razoável, especialmente em casos de conteúdos sintéticos sexualizados ou erotizados produzidos sem consentimento.
As orientações foram elaboradas após denúncias de usuários que relataram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Também embasaram o documento reportagens da imprensa nacional e internacional, além de testes realizados pelas próprias instituições.
Segundo o levantamento, a ferramenta teria sido utilizada ilegalmente para a criação de deepfakes, técnica de inteligência artificial que gera imagens falsas a partir de pessoas reais. Os conteúdos apontados apresentam caráter sexualizado, erótico ou com conotação pornográfica, envolvendo mulheres, crianças e adolescentes.
As instituições alertam que esse tipo de prática afeta não apenas a proteção de dados pessoais, mas também as relações de consumo, a dignidade da pessoa humana e outros direitos coletivos e individuais indisponíveis, com impacto mais sensível sobre mulheres, crianças e adolescentes.
Entre as recomendações conjuntas, está a adoção imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados. A orientação se estende à proibição da criação de conteúdos semelhantes envolvendo pessoas maiores de idade identificadas ou identificáveis, sem autorização.
O documento destaca que, embora o artigo 19 do Marco Civil da Internet preveja que provedores não seriam responsabilizados por conteúdos publicados por terceiros sem ordem judicial, a situação das deepfakes sexualizadas é distinta. Segundo o entendimento das instituições, esses conteúdos não são produzidos exclusivamente por terceiros, mas resultam da interação entre usuários e a ferramenta criada e disponibilizada pela própria plataforma, o que caracterizaria coautoria.
O texto também menciona decisão recente do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, ao entender que o dispositivo não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, a Corte fixou que plataformas digitais têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo aqueles praticados contra mulheres.
As instituições lembram ainda que a própria política do X proíbe a publicação e o compartilhamento de imagens íntimas não consensuais, bem como a produção e disseminação de conteúdos sexualizados de terceiros sem autorização, inclusive no uso do Grok. Para os órgãos, a disponibilização de uma ferramenta sem filtros rigorosos torna essa política contraditória.
Caso as recomendações não sejam cumpridas ou se mostrem insuficientes para reduzir os riscos identificados, a ANPD, a Senacon e o MPF informaram que poderão adotar outras medidas, tanto na esfera administrativa quanto judicial, com o objetivo de garantir a proteção dos cidadãos, especialmente de mulheres, crianças e adolescentes.
