A mudança foi anunciada nesta sexta-feira (9), dias depois de relatos de que fotos reais publicadas na plataforma estavam sendo manipuladas por terceiros com ajuda da IA para criar versões falsas de nudez ou com pouca roupa. Em alguns casos, as vítimas registraram boletins de ocorrência após descobrirem que as montagens estavam circulando no X.
O fenômeno, conhecido como deepfake, não é novo, mas se espalhou rapidamente nas últimas semanas e virou uma espécie de “trend” na rede social.
O que diz a legislação brasileira?
Pela legislação brasileira, a produção e a divulgação de imagens íntimas falsas sem autorização é considerada crime. O Código Penal prevê punição para quem produz, registra ou divulga conteúdo de nudez ou ato sexual de caráter íntimo sem consentimento.
Desde 2025, o uso de inteligência artificial nesse tipo de prática também passou a ser tratado explicitamente na lei, com previsão de pena de prisão e multa quando a tecnologia é usada para causar dano emocional, especialmente contra mulheres. Não apenas quem cria a imagem, mas também quem compartilha esse tipo de conteúdo, pode ser responsabilizado, por ampliar o alcance do dano à vítima.
Pressão sobre a plataforma
Apesar da restrição anunciada, autoridades europeias afirmaram que a medida não resolve o problema, ao apenas transferir para um serviço pago uma função que pode ser usada para criar conteúdo ilegal. A Comissão Europeia determinou que o X preserve documentos internos relacionados ao Grok até o fim de 2026, em meio a questionamentos sobre o cumprimento das regras que combatem a circulação de material ilícito.
A xAI afirma que remove conteúdos ilegais e que usuários que utilizarem a ferramenta para criar imagens proibidas sofrerão sanções equivalentes às de quem publica material ilegal diretamente na plataforma.
