A inteligência artificial do X, a Grok, está gerando imagens que assustam. A ferramenta pode criar conteúdos íntimos e sexualizados usando o rosto de pessoas reais. Tudo isso acontece sem o menor conhecimento ou autorização da pessoa retratada.
O caso é tão sério que o Idec, Instituto de Defesa do Consumidor, fez uma denúncia formal à ANPD. A reclamação pede providências urgentes para conter os danos. A pesquisadora Julia Abad, do Idec, destaca a necessidade de barreiras imediatas.
Segundo ela, a plataforma precisa criar bloqueios automáticos contra comandos de nudez. É fundamental proibir o uso de fotos reais de crianças e adolescentes no sistema. Canais de denúncia eficazes também são uma prioridade absoluta.
A violação atinge um nível ainda mais grave
Quando se trata de menores de idade, a situação fica mais complicada. A legislação brasileira tem regras muito rígidas para proteger dados de crianças e adolescentes. A prática da Grok parece ignorar completamente essas salvaguardas legais.
Outro problema grave é a falta de transparência. A política de privacidade da ferramenta não está disponível em português. Isso dificulta que os brasileiros entendam como suas informações pessoais são utilizadas.
O Idec pede a suspensão imediata das funções da Grok que usam dados de pessoas reais. O instituto também exige que a empresa pare de usar esse material para treinar seu sistema de inteligência artificial.
O que fazer se você for vítima dessa situação
Caso descubra que sua imagem foi manipulada, não se desespere. Existem caminhos para buscar proteção e responsabilização. O primeiro passo é tentar contato direto com a própria plataforma X.
Guarde todos os comprovantes dessa comunicação. Se a empresa não responder, faça uma denúncia no Procon da sua cidade. Para casos graves, como sexualização, use o Disque 100, canal federal de denúncias.
Registrar um boletim de ocorrência é essencial para investigação criminal. Para buscar reparação financeira, os juizados especiais podem ser o caminho adequado.
A resposta das plataformas e a realidade atual
A ANPD confirmou que as denúncias estão sob análise de sua fiscalização. O órgão mantém diálogo com outras instituições públicas sobre o caso. A preocupação com a Grok é global, atingindo diversos países.
Em comunicado em inglês, o X afirmou ter tolerância zero com exploração infantil e nudez não consensual. A rede social prometeu bloquear a geração desse conteúdo onde for ilegal.
A empresa anunciou uma atualização na Grok para impedir a edição sexualizada de imagens reais. Segundo ela, a criação de imagens agora está restrita a contas pagas, para facilitar a responsabilização.
No entanto, o Idec afirma que, na prática, a geração das imagens problemáticas ainda é permitida. A reportagem não localizou a assessoria de imprensa do X no Brasil para um posicionamento. A situação, por enquanto, permanece em aberto.
Os comentários estão fechados, mas trackbacks E pingbacks estão abertos.