Três importantes órgãos públicos brasileiros estão chamando a atenção de uma grande rede social. A questão envolve o uso de uma ferramenta de inteligência artificial para criar imagens falsas e sexualizadas de pessoas sem seu consentimento. O caso mostra como a tecnologia, quando mal utilizada, pode violar direitos e causar danos reais.
A Agência Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal se uniram para fazer um alerta formal. Eles enviaram uma série de recomendações urgentes à empresa dona da plataforma X, antigo Twitter. O foco é a ferramenta de IA da rede, chamada Grok, que estaria sendo usada de maneira preocupante.
As autoridades descobriram que usuários estão utilizando o Grok para gerar conteúdos sintéticos com conotações sexuais. Essas imagens falsas, conhecidas como deepfakes, são criadas a partir de fotos de pessoas reais. O problema atinge principalmente mulheres, crianças e adolescentes, transformando suas imagens em material erotizado sem qualquer autorização.
As instituições pedem ações concretas e imediatas. A primeira delas é a suspensão das contas que produziram esse tipo de imagem, independentemente da idade da pessoa retratada. Ninguém deveria ter seu rosto usado em contextos íntimos sem um claro e explícito consentimento. É uma violação grave da privacidade e da dignidade humana.
Além disso, as autoridades recomendam que a plataforma crie, em no máximo 30 dias, procedimentos para identificar e remover esses conteúdos. Eles já foram gerados e estão circulando, então é preciso uma revisão técnica para limpar a rede. Não basta apenas impedir novos casos; é necessário corrigir o que já foi publicado.
Outro ponto crucial é a criação de um canal de denúncia claro e eficaz. As vítimas precisam de um lugar acessível para reportar o uso abusivo de seus dados pessoais. A empresa deve garantir uma resposta adequada em um prazo razoável. Dar voz e um caminho para quem foi prejudicado é parte fundamental da solução.
O alerta não surgiu do nada. Ele foi elaborado com base em denúncias de usuários e em reportagens da imprensa. As próprias instituições também realizaram testes que comprovaram a facilidade de se criar deepfakes sexualizados com a ferramenta. A situação expõe uma falha grave nos filtros e controles da inteligência artificial disponibilizada ao público.
O documento argumenta que a plataforma não pode se considerar apenas um intermediário neutro neste caso. Como a ferramenta de IA foi criada e disponibilizada por ela, a empresa se torna coautora dos conteúdos gerados. Ela tem a responsabilidade de prever e evitar esses usos indevidos, especialmente quando envolvem crimes.
A legislação brasileira também está evoluindo nesse sentido. O Supremo Tribunal Federal já declarou parcialmente inconstitucional uma parte do Marco Civil da Internet. A decisão reforça que as plataformas têm um dever de cuidado especial. Elas devem adotar todas as medidas para evitar a circulação em massa de crimes graves, como os praticados contra mulheres.
A própria política interna da rede X proíbe a nudez não consensual. Ou seja, a empresa já diz não permitir imagens íntimas compartilhadas sem consentimento. No entanto, disponibilizar uma ferramenta de IA sem filtros rigorosos que impeçam justamente isso se torna uma contradição. A ferramenta facilita a violação das próprias regras da plataforma.
Se as recomendações não forem aceitas ou se as medidas forem insuficientes, as três instituições avisam que podem tomar outras providências. Essas ações podem ocorrer tanto no âmbito administrativo quanto no judicial. O objetivo é único: garantir a proteção adequada dos cidadãos, com atenção especial aos grupos mais vulneráveis.
A tecnologia avança em uma velocidade impressionante, mas a proteção das pessoas precisa acompanhar esse ritmo. Casos como este mostram a importância de regras claras e de um controle responsável sobre as ferramentas que colocamos nas mãos dos usuários. O equilíbrio entre inovação e segurança é um desafio constante e necessário.
Os comentários estão fechados, mas trackbacks E pingbacks estão abertos.