Autoridades brasileiras recomendaram à empresa responsável pela plataforma digital X a adoção de medidas técnicas e operacionais para impedir que a inteligência artificial Grok seja utilizada para criar e divulgar conteúdos sintéticos com caráter sexualizado. As orientações foram emitidas conjuntamente pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública.
Segundo o documento, denúncias e reportagens nacionais e internacionais indicaram que usuários estão aproveitando a ferramenta para produzir deepfakes sexualizados, imagens e vídeos falsos com conotação erótica ou pornográfica de pessoas reais, incluindo mulheres, crianças e adolescentes, sem consentimento. As instituições afirmam que esse uso pode violar direitos como a proteção de dados pessoais, a dignidade humana e direitos coletivos e individuais indisponíveis.
Entre as recomendações está a implementação imediata de mecanismos que evitem a geração de novos conteúdos sexualizados e a remoção dos que já foram produzidos e permanecem disponíveis na plataforma. A empresa também foi orientada a suspender imediatamente contas envolvidas na criação desse tipo de material e a apresentar relatórios mensais comprovando as ações tomadas.
As instituições deram um prazo de 30 dias para que X adote medidas claras para identificação, revisão e retirada de conteúdos indevidos e para estabelecer um mecanismo eficaz para que titulares de dados façam denúncias e exerçam seus direitos, especialmente em casos de uso irregular de informações pessoais. Também foi recomendado que a empresa elabore um relatório de impacto à proteção de dados pessoais referente às funções de geração sintética de conteúdo do Grok.
O documento alerta que, caso as recomendações não sejam atendidas ou sejam cumpridas de forma insuficiente, outras medidas administrativas e judiciais poderão ser avaliadas e adotadas para assegurar a proteção de cidadãos, com foco especial em mulheres, crianças e adolescentes.
