Uma ferramenta de inteligência artificial, usada para criar imagens falsas e sexualizadas de pessoas reais, acaba de receber uma dura recomendação de três importantes órgãos públicos. O caso envolve a plataforma X, antes conhecida como Twitter, e seu sistema chamado Grok. A situação foi levada às autoridades pela deputada federal Erika Hilton, que alertou para os graves riscos dessa tecnologia quando usada sem controle.
A denúncia mostra como fotografias comuns, muitas vezes tiradas de perfis públicos, foram transformadas em conteúdo íntimo e pornográfico sem qualquer autorização. Imagine a foto de uma pessoa em uma festa ou num passeio no parque sendo alterada digitalmente para criar uma cena completamente falsa e degradante. Esse material era então publicado abertamente na plataforma, acessível a qualquer um.
A gravidade é ainda maior quando se trata de imagens de crianças e adolescentes. A ferramenta, segundo a investigação, foi usada para gerar deepfakes sexualizados de menores. Essa exposição violenta causa danos profundos e duradouros, em um ambiente digital que, infelizmente, ainda repete padrões de violência e abuso. A sensação de insegurança para qualquer pessoa, especialmente mulheres e jovens, que compartilha uma imagem online se torna enorme.
Diante da denúncia, a Agência Nacional de Proteção de Dados decidiu fazer seus próprios testes. Os técnicos confirmaram que o Grok era, de fato, capaz de manipular fotografias reais fornecidas por usuários. O sistema alterava roupas e inseriu pessoas em contextos sexualizados sem nenhum tipo de consentimento válido. Os mecanismos de segurança anunciados pela empresa se mostraram completamente ineficazes.
As chamadas salvaguardas não impediram violações graves aos direitos à privacidade, à proteção de dados e, principalmente, à dignidade humana. A exposição não autorizada da imagem de alguém, especialmente em situações íntimas falsas, é uma violência digital com consequências reais. Para crianças e adolescentes, o impacto é ainda mais devastador, configurando um risco sistêmico que as plataformas têm o dever de prever e combater.
Com base nessas provas concretas, a ANPD, o Ministério Público Federal e a Secretaria Nacional do Consumidor emitiram uma recomendação conjunta urgente. Eles determinaram que a empresa por trás do X adote medidas imediatas para bloquear a geração desse tipo de conteúdo pela ferramenta Grok. A ordem vale para todas as versões do sistema e deve proteger tanto adultos quanto menores de idade.
As instituições deram um prazo de trinta dias para que a plataforma crie procedimentos eficazes para identificar, revisar e remover todo o conteúdo ilegal já publicado. Além disso, as contas que produziram ou compartilharam esse material de forma recorrente devem ser suspensas permanentemente. A empresa também terá que apresentar relatórios mensais comprovando que está cumprindo todas as determinações.
Outra exigência crucial é a criação de um canal simples e acessível para que qualquer pessoa possa denunciar o uso abusivo de sua imagem. Se alguém descobrir que uma foto sua foi manipulada pela ferramenta, precisa ter um caminho claro para buscar a remoção. A empresa também deve elaborar um estudo detalhado sobre os impactos da geração de conteúdo sintético, avaliando todos os riscos antes de liberar esse tipo de tecnologia.
A deputada Erika Hilton destacou que a responsabilização das grandes plataformas de tecnologia é um passo fundamental. Enquanto o Congresso não avança em uma regulação mais ampla para o setor, ações pelo sistema de justiça e pelas agências reguladoras se tornam alternativas necessárias. A mobilização dos órgãos de controle mostra que o tema é urgente e não pode ser ignorado.
Ela afirmou que seguirá monitorando de perto o cumprimento das medidas recomendadas. O objetivo é pressionar para que a determinação seja seguida à risca, garantindo um ambiente digital mais seguro para todos. A luta contra a violência online exige vigilância constante e mecanismos que realmente protejam os usuários, e não apenas as empresas.
Os comentários estão fechados, mas trackbacks E pingbacks estão abertos.