Ministério Público e autoridades exigem medidas imediatas contra criação de conteúdos sem consentimento na plataforma X
Autoridades brasileiras ordenam que X impeça criação de imagens sexuais pelo assistente de IA Grok e ameaça multas.
Governo brasileiro exige medidas imediatas contra imagens sexuais geradas pelo Grok
O Ministério Público brasileiro, a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) emitiram, em 11 de fevereiro de 2026, uma determinação para que a plataforma X impeça imediatamente a criação de imagens sexuais geradas pelo Grok, seu assistente de inteligência artificial. Essa exigência visa coibir a produção de conteúdo sexualizado envolvendo crianças, adolescentes e adultos sem consentimento explícito, reforçando a preocupação das autoridades com os impactos sociais dessa tecnologia.
Persistência de falhas técnicas na moderação do Grok e resposta insuficiente da plataforma
Apesar das ações iniciais da X, que incluiu a suspensão de contas e a exclusão de milhares de publicações, exames técnicos indicaram que falhas continuam permitindo a geração e circulação de imagens sexuais não autorizadas. Essa situação expõe uma lacuna significativa entre as políticas declaradas pela plataforma e sua efetiva aplicação, evidenciando a complexidade de regulamentar tecnologias avançadas de inteligência artificial no ambiente digital. A falta de transparência na comunicação da X sobre essas medidas também motivou denúncias formais.
Impactos sociais e legais da criação de imagens sexuais não consensuais no Brasil
A possibilidade de gerar imagens sexualizadas de pessoas reais sem consentimento configura uma grave violação de direitos e pode acarretar consequências legais, incluindo processos criminais. A utilização do Grok para esses fins agrava questões relacionadas à privacidade, dignidade e segurança digital. Além disso, a propagação de conteúdo que simula violência sexual, como vídeos que aludem a estupro, desafia as normas internas da plataforma e o ordenamento jurídico brasileiro, demonstrando a urgência de mecanismos eficazes de controle.
Histórico recente de problemas da plataforma X com regulações brasileiras
A determinação atual não é o primeiro confronto entre a plataforma X e órgãos regulatórios brasileiros. Em 2024, o antigo Twitter sofreu suspensão nacional após descumprir decisões judiciais relacionadas à desinformação. Esse histórico reforça a tensão entre plataformas digitais globais e as legislações locais, ressaltando o desafio contínuo de equilibrar inovação tecnológica com proteção aos direitos dos usuários.
Desafios tecnológicos e éticos para o futuro das inteligências artificiais na moderação de conteúdo
O caso do Grok revela os limites atuais das tecnologias de inteligência artificial quando aplicadas à moderação de conteúdo sexual e inapropriado. A necessidade de impedir a criação e disseminação de imagens sem consentimento envolve não só aspectos técnicos, mas também éticos e regulatórios. O cenário exige uma colaboração mais estreita entre plataformas, autoridades e a sociedade para desenvolver soluções que protejam usuários e respeitem os direitos individuais diante das inovações digitais.
Fonte: www1.folha.uol.com.br
