São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA

10 de setembro de 2026

0 8

São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA. A Procuradoria de São Francisco cobra explicações da Meta após anúncios com abuso sexual infantil gerado por IA circularem no Facebook e Instagram.

A Procuradoria Municipal de São Francisco enviou uma carta de cessação à Meta exigindo a interrupção imediata de anúncios que contenham material de abuso sexual infantil produzido ou manipulado com inteligência artificial. O documento também cobra explicações sobre as falhas que permitiram que esse conteúdo passasse pelos sistemas de revisão publicitária da empresa e fosse distribuído em plataformas como Facebook, Instagram e Threads.

A iniciativa foi anunciada pelo procurador municipal David Chiu depois de uma investigação do Tech Transparency Project, analisada e complementada pela revista Wired, identificar mais de 350 anúncios relacionados a aplicativos capazes de criar imagens íntimas sem consentimento. Parte das peças publicitárias utilizava fotografias de crianças reais, posteriormente manipuladas com ferramentas de inteligência artificial.

O caso não envolve a criação do conteúdo pela Meta. Os anúncios foram elaborados e enviados por terceiros que pretendiam promover aplicativos externos. A responsabilidade discutida pela Procuradoria de São Francisco está relacionada ao papel da empresa na revisão, aprovação técnica, distribuição e monetização da publicidade.

A Meta afirma que não tolera exploração infantil nem aplicativos destinados a remover digitalmente roupas ou criar imagens íntimas sem consentimento. A empresa diz ter retirado todos os anúncios identificados e calcula que os anunciantes gastaram, no total, menos de US$ 5 mil com as campanhas.

Apesar do valor relativamente baixo, autoridades e pesquisadores argumentam que a gravidade do caso não pode ser avaliada apenas pela receita obtida. Os anúncios utilizaram imagens de crianças, divulgaram ferramentas capazes de facilitar abusos e teriam continuado a circular mesmo depois de alertas públicos sobre o problema.

São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA. A Procuradoria dá 28 dias para Meta responder

A carta enviada pelo gabinete de David Chiu determina que a Meta apresente uma resposta dentro de 28 dias. A Procuradoria quer saber como os anúncios passaram pelos sistemas de moderação, quais providências foram adotadas contra os anunciantes e como a empresa identifica possíveis reincidentes.

O documento também questiona os procedimentos utilizados pela plataforma quando encontra indícios de exploração sexual infantil. Entre os pontos apresentados está a forma como casos desse tipo são encaminhados ao National Center for Missing and Exploited Children, organização norte americana que recebe denúncias e auxilia autoridades na identificação de vítimas e responsáveis.

A Procuradoria solicitou a participação das equipes jurídica, publicitária e de proteção infantil da Meta em discussões sobre as medidas necessárias para impedir novas ocorrências. O objetivo declarado não é apenas remover anúncios já identificados, mas verificar se a empresa possui mecanismos capazes de impedir que materiais semelhantes sejam novamente aceitos e distribuídos.

Chiu argumenta que a persistência dos anúncios sugere um problema mais amplo nos sistemas publicitários da empresa. Segundo a carta, o episódio não parece representar uma falha isolada corrigida assim que foi descoberta. A repetição de peças semelhantes e a publicação de novos anúncios depois dos primeiros alertas sustentam a cobrança por mudanças estruturais.

A carta de cessação não representa uma sentença judicial nem uma conclusão definitiva de responsabilidade. Trata-se de uma exigência formal de uma autoridade municipal, acompanhada de perguntas e advertências sobre possíveis violações legais.

Investigação encontrou mais de 350 anúncios

O Tech Transparency Project identificou mais de 350 anúncios veiculados em plataformas da Meta durante os últimos meses. As peças promoviam aplicativos de geração ou edição de imagens capazes de criar montagens íntimas sem autorização das pessoas retratadas.

Alguns anúncios apresentavam imagens de crianças reais retiradas de contas públicas, bancos de fotografias ou outras fontes disponíveis na internet. Essas imagens eram utilizadas para demonstrar ou sugerir o funcionamento dos aplicativos anunciados.

A investigação encontrou anúncios no Facebook, Instagram e Threads. Parte das campanhas também circulou pelo Messenger e pela rede publicitária mais ampla operada pela Meta. Os aplicativos promovidos estavam disponíveis em lojas digitais e alguns eram ligados a desenvolvedores ou empresas localizadas fora dos Estados Unidos.

A Wired havia publicado, no início de agosto, uma primeira reportagem sobre 53 anúncios. Depois desse alerta, mais de 250 peças adicionais teriam circulado nas plataformas da Meta, de acordo com os pesquisadores.

Alguns anúncios eram idênticos ou muito semelhantes aos que já haviam sido retirados. Em determinadas situações, a mesma peça teria sido enviada novamente por outros perfis ou contas publicitárias. Esse comportamento levanta dúvidas sobre a capacidade dos sistemas de revisão de reconhecer material previamente identificado como violador.

A investigação também registrou anúncios que permaneceram ativos durante algum tempo depois de terem sido denunciados. Segundo os pesquisadores, algumas respostas da plataforma demoraram mais de uma semana, período no qual as peças continuaram recebendo visualizações.

Meta afirma ter removido o material

A Meta informou que os anúncios localizados pelos pesquisadores foram removidos por violarem suas políticas. A empresa declarou que não permite exploração sexual infantil, nudez, abuso ou promoção de aplicativos usados para criar imagens íntimas sem consentimento.

Segundo a companhia, muitos dos anúncios já haviam sido retirados antes de serem formalmente apresentados pelos pesquisadores. A Meta também afirmou que a maioria recebeu menos de 200 impressões e que o gasto total dos anunciantes ficou abaixo de US$ 5 mil.

A empresa considera esses números relevantes para dimensionar o alcance e a receita associados às campanhas. Eles não encerram, porém, a discussão sobre a eficiência dos controles, pois a presença de material envolvendo crianças exige uma resposta mais rigorosa do que aquela aplicada a violações publicitárias comuns.

A Meta também diz utilizar novas ferramentas de inteligência artificial para detectar e bloquear anúncios prejudiciais. Parte do questionamento decorre justamente do fato de anúncios semelhantes terem sido encontrados depois da implementação dessas tecnologias.

Na data da publicação da Wired, a diretora do Tech Transparency Project, Katie Paul, afirmou que novos anúncios continuavam aparecendo. Segundo ela, algumas peças utilizavam imagens das mesmas crianças que já haviam sido comunicadas à Meta. A organização informou ter encaminhado os novos exemplos à empresa e ao National Center for Missing and Exploited Children. A Meta não havia respondido especificamente a essa alegação quando a reportagem foi atualizada.

Essa divergência precisa ser apresentada com cuidado. A Meta sustenta que retirou todos os anúncios identificados. Os pesquisadores afirmam que outras peças semelhantes continuaram surgindo. As duas declarações podem se referir a conjuntos diferentes de anúncios e a momentos distintos do processo de fiscalização.

Como funciona a revisão de anúncios da Meta

As políticas publicitárias da Meta determinam que os anúncios sejam analisados antes ou durante sua distribuição. A companhia utiliza sistemas automatizados e, em algumas situações, revisores humanos.

O processo verifica elementos como imagem, vídeo, texto, página de destino, perfil do anunciante e produto promovido. Em tese, um anúncio que viole as regras pode ser rejeitado antes de alcançar o público ou retirado depois de uma nova verificação.

A aprovação operacional de uma campanha não significa necessariamente que uma pessoa da Meta tenha analisado e autorizado individualmente o material. Grande parte do processo é automatizada, especialmente diante do volume de anúncios enviados diariamente.

Esse ponto ajuda a delimitar a discussão. A questão não é afirmar que funcionários da empresa decidiram permitir conscientemente cada peça. O problema investigado é saber por que os filtros automáticos e as eventuais revisões humanas não impediram a circulação repetida de conteúdos que contrariavam as políticas declaradas pela própria plataforma.

Sistemas automatizados podem apresentar dificuldade para interpretar imagens manipuladas, sequências curtas de vídeo, idiomas diferentes, palavras escritas de maneira propositalmente incorreta e páginas que alteram seu conteúdo depois da aprovação.

Anunciantes também podem criar novas contas, modificar pequenos elementos da peça ou mudar o endereço de destino. Essas práticas são usadas para tentar contornar sistemas de detecção.

A existência dessas tentativas não elimina a responsabilidade dos anunciantes pela criação e divulgação do material. Também não afasta o questionamento sobre as medidas que uma plataforma publicitária deve adotar quando recebe pagamento para distribuir a campanha.

Publicidade paga amplia a cobrança sobre a empresa

Conteúdos publicados por usuários e anúncios pagos passam por estruturas diferentes. No segundo caso, a plataforma mantém uma relação comercial com o anunciante, recebe informações para configurar a campanha e obtém pagamento pela distribuição.

A publicidade também pode receber alcance adicional porque o sistema seleciona usuários com maior probabilidade de interagir com a peça. Mesmo quando o investimento é pequeno, a capacidade de direcionamento pode ampliar a eficiência da campanha.

Por isso, a Procuradoria de São Francisco afirma que empresas que analisam, distribuem e recebem pagamento por anúncios precisam manter controles adequados. Para Chiu, remover peças depois de uma investigação externa não seria suficiente se o sistema continuar permitindo que o mesmo material retorne.

A cobrança envolve prevenção, resposta e transparência. A prevenção procura impedir a aprovação inicial. A resposta define a velocidade da retirada, a preservação de provas e o encaminhamento às autoridades. A transparência permite compreender quantas pessoas foram expostas, quais anunciantes participaram e quais medidas foram adotadas.

O gasto inferior a US$ 5 mil informado pela Meta pode indicar que essas campanhas representaram uma parcela mínima da receita publicitária da empresa. Ao mesmo tempo, mostra que anunciantes com recursos modestos conseguiram acessar uma infraestrutura global de distribuição.

Segundo a Wired, os anúncios alcançaram usuários nos Estados Unidos, na União Europeia, na Austrália e na Índia. Na União Europeia, mais de 29 mil contas teriam sido alcançadas. Os dados disponíveis para anúncios veiculados nos Estados Unidos não mostram uma divisão completa por cidade.

Jurisdição de São Francisco está em disputa

A Meta contesta a competência da Procuradoria Municipal de São Francisco para atuar no caso. A empresa afirma que não existe indicação de que os anúncios identificados tenham sido exibidos dentro da cidade.

Esse argumento está relacionado aos limites territoriais de atuação do procurador municipal. Para aplicar determinadas normas ou exigir providências, a autoridade pode precisar demonstrar uma relação entre a conduta investigada e consumidores, empresas ou atividades localizadas em sua área de competência.

A Biblioteca de Anúncios da Meta oferece informações sobre campanhas publicadas nos Estados Unidos, mas não apresenta necessariamente uma divisão detalhada que permita verificar a audiência por município. Dessa forma, os dados públicos não esclarecem se usuários de São Francisco receberam diretamente as peças identificadas.

A Procuradoria responde que moradores da cidade podem acessar os espaços digitais da Meta nos quais os anúncios circularam. Segundo o gabinete de Chiu, essa possibilidade seria suficiente para justificar o interesse municipal.

A controvérsia ainda não foi decidida por um tribunal. A carta formaliza a posição da Procuradoria, enquanto a resposta da Meta registra a objeção da empresa. Caso o conflito avance para uma ação judicial, a competência territorial poderá se tornar uma das primeiras questões analisadas.

Esse ponto não altera a existência dos anúncios documentados nem as políticas internas que proíbem o material. Ele interfere na capacidade específica da cidade de São Francisco de impor exigências, aplicar penalidades ou conduzir uma ação contra a companhia.

Imagens reais aumentam os danos

Parte dos anúncios utilizava fotografias de crianças reais. A aplicação de inteligência artificial não torna essas situações isentas de vítimas. Quando a imagem de uma criança identificável é usada em uma montagem sexual, a pessoa retratada pode sofrer exposição, humilhação, perseguição e circulação permanente do material.

A imagem original pode ter sido publicada em uma rede social, utilizada por uma família ou retirada de um banco de fotografias. Isso não representa autorização para manipulação sexual nem para uso em publicidade de aplicativos.

As ferramentas capazes de alterar fotografias também podem ser empregadas contra adultos sem consentimento. Mulheres e adolescentes estão entre os principais alvos conhecidos desse tipo de abuso, que pode ser associado a chantagem, perseguição, intimidação e violência digital.

No caso de crianças, os riscos recebem proteção jurídica e institucional ainda mais rigorosa. Autoridades e organizações de defesa apontam que materiais gerados por inteligência artificial podem revitimizar crianças reais, facilitar coerção e dificultar o trabalho de identificação de abusos.

A expansão de ferramentas de edição torna o problema mais difícil porque os usuários não precisam dominar programas complexos. Aplicativos prometem produzir alterações automáticas a partir de uma única fotografia, reduzindo as barreiras técnicas para a criação de material abusivo.

Aplicativos externos também fazem parte da discussão

Os anúncios direcionavam usuários para aplicativos de geração ou edição de imagens. Isso amplia a cadeia de responsabilidade para além das redes sociais.

O anunciante cria a campanha, a Meta distribui a publicidade, uma loja digital oferece o aplicativo e o desenvolvedor controla a ferramenta. Empresas de pagamentos também podem processar assinaturas ou compras internas.

Apple e Google retiraram alguns aplicativos associados às investigações, segundo as reportagens publicadas sobre o caso. A cidade de São Francisco já havia enviado cartas relacionadas a aplicativos de criação de imagens íntimas sem consentimento disponíveis nas lojas digitais dessas empresas.

A análise dessa cadeia não significa que todos os participantes possuam a mesma responsabilidade. Cada empresa controla uma parte diferente da operação e pode estar sujeita a regras distintas.

O desenvolvedor responde pela ferramenta e por suas funções. O anunciante responde pela campanha. A loja controla a distribuição do aplicativo. A plataforma social decide se o anúncio pode circular e para quais públicos será exibido.

Quando uma peça é retirada, o aplicativo ainda pode permanecer disponível. Quando um aplicativo é removido, cópias podem aparecer com outros nomes. Por isso, autoridades buscam respostas que atinjam contas reincidentes, redes de anunciantes, desenvolvedores e meios de pagamento.

Remoção posterior não responde a todas as perguntas

A retirada dos anúncios é uma medida necessária, mas não esclarece como centenas de peças passaram pelos sistemas da Meta. A Procuradoria quer informações sobre o processo de revisão, o tratamento dos denunciantes e as ações aplicadas às contas responsáveis.

Também será necessário determinar se os anúncios estavam associados a poucos anunciantes ou a uma rede maior de contas. Peças idênticas podem indicar reutilização de campanhas, compartilhamento de materiais ou tentativas coordenadas de contornar a fiscalização.

Outro ponto é a preservação dos registros. Dados sobre pagamentos, contas, endereços técnicos e páginas de destino podem auxiliar autoridades a identificar responsáveis. A remoção pública do anúncio não deve eliminar informações necessárias para investigações legítimas.

A transparência sobre o alcance também será importante. A Meta informou que a maioria das peças recebeu menos de 200 impressões, mas a distribuição completa entre países e usuários ainda não é conhecida.

Impressões medem quantas vezes um conteúdo foi exibido, não necessariamente quantas pessoas diferentes o visualizaram. Uma mesma conta pode receber o anúncio mais de uma vez. Da mesma forma, uma campanha com poucas impressões ainda pode causar dano grave às crianças retratadas.

Caso testa a fiscalização de publicidade gerada por IA

A carta de São Francisco coloca em discussão a capacidade das plataformas de acompanhar a velocidade com que ferramentas de inteligência artificial passaram a ser utilizadas em campanhas publicitárias.

Modelos automatizados permitem produzir muitas versões de uma mesma peça, alterar imagens rapidamente e testar diferentes textos. Essa escala pode sobrecarregar sistemas de revisão baseados em padrões conhecidos.

Ao mesmo tempo, empresas como a Meta também utilizam inteligência artificial para moderar anúncios. O caso mostra uma disputa entre tecnologias usadas para criar ou disfarçar violações e tecnologias empregadas para detectá-las.

A resposta regulatória poderá exigir mais do que a simples atualização de filtros. Entre as medidas possíveis estão a identificação mais rigorosa de anunciantes, o bloqueio de reincidentes, a comparação automática com conteúdos já removidos e a análise de páginas e aplicativos promovidos.

A Meta ainda terá oportunidade de responder formalmente às perguntas apresentadas por David Chiu. A empresa poderá contestar as conclusões, detalhar seus sistemas e demonstrar quais mudanças foram implementadas.

Até que essa resposta seja apresentada, permanecem três fatos principais. Os anúncios foram documentados por pesquisadores e pela Wired. A Meta afirma que removeu o material e que não aceita esse tipo de publicidade. A Procuradoria de São Francisco considera que as retiradas pontuais não explicam por que centenas de peças passaram pelos controles.

O desfecho dependerá da resposta da empresa, da discussão sobre a competência municipal e da eventual adoção de medidas adicionais. O caso já estabelece, porém, uma questão relevante para a publicidade digital: quando uma plataforma analisa, distribui e recebe pagamento por um anúncio, a eficiência de seus controles passa a integrar diretamente o debate sobre responsabilidade e proteção de crianças.

Tags: Meta anúncios abuso infantil, abuso sexual infantil gerado por IA, anúncios proibidos no Facebook, segurança infantil no Instagram, inteligência artificial e exploração infantil, aplicativos de imagens sem consentimento, David Chiu Meta, moderação de anúncios da Meta, Tech Transparency Project, proteção de crianças nas redes sociais

São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA, São Francisco ordena que Meta interrompa anúncios com abuso sexual infantil gerado por IA,