Meta permite anúncios pornográficos que violam suas regras de moderação de conteúdo

Em 2024, a Meta permitiu mais de 3.300 anúncios pornográficos em suas plataformas de mídia social, incluindo Facebook e Instagram – muitos deles apresentando conteúdo gerado por IA.

Os resultados vêm de um Relatório por Análise forense de IAUma organização europeia sem fins lucrativos focada na pesquisa de algoritmos de plataformas tecnológicas Os pesquisadores também descobriram uma anomalia na política de moderação de conteúdo do Meta ao reenviar as mesmas imagens explícitas das postagens padrão no Instagram e no Facebook. Ao contrário dos anúncios, essas postagens foram rapidamente removidas por meta-violações Padrões comunitários.

“Estou decepcionado e não surpreso com o relatório, pois minha pesquisa já descobriu padrões duplos na moderação de conteúdo, especialmente conteúdo sexual”, disse Carolina R. no Centre for Digital Citizens, Northumbria University, Reino Unido.

O relatório da AI Forensics concentrou-se em uma pequena amostra de anúncios direcionados à União Europeia. Descobriu-se que os anúncios claros aprovados pela Meta visavam principalmente homens de meia-idade e mais velhos, incluindo promoções de “produtos de aprimoramento sexual duvidosos” e “sites de namoro”, totalizando mais de 8,2 milhões de impressões.

Essa permissividade reflete um padrão duplo mais amplo de moderação de conteúdo, diz Hey As plataformas tecnológicas muitas vezes bloqueiam conteúdo de e para “mulheres, apresentadoras e usuários LGBTQIA+”, diz ela. Esse duplo padrão estende-se à saúde sexual de homens e mulheres. “Um exemplo são os anúncios de roupas íntimas e relacionados à menstruação (que foram removidos) do Meta, enquanto os anúncios de Viagra foram permitidos”, diz ela.

Além de encontrar imagens geradas por IA em anúncios, a equipe forense de IA também descobriu deepfakes de áudio: alguns anúncios de drogas para melhorar o sexo, por exemplo, tinham imagens pornográficas sobrepostas à voz manipulada digitalmente do ator Vincent Castle.

“A Meta proíbe a exibição de nudez ou atividade sexual em anúncios ou postagens orgânicas em nossas plataformas, e estamos removendo conteúdo infrator compartilhado conosco”, disse um porta-voz da Meta. “Os maus atores estão constantemente desenvolvendo suas estratégias para evitar a fiscalização, e é por isso que continuamos a investir nas melhores ferramentas e tecnologia para ajudar a identificar e remover conteúdo infrator”.

O relatório coincidiu com o anúncio do CEO da Meta, Mark Zuckerberg, de que a empresa se livraria de suas equipes de verificação de fatos em favor de notas comunitárias de crowdsourcing.

“Se quisermos parecer realmente distópicos – e dada a última decisão de Zuckerberg de abandonar os verificadores de fatos neste momento, acho que temos motivos para isso – poderíamos muito bem dizer que a meta está despojando rapidamente usuários individuais e marginalizados de sua agência. É preciso tirar dinheiro de anúncios duvidosos”, diz Aray.