Meta has been found to be running over 300 ads featuring artificial intelligence-generated child sexual abuse images, despite repeated warnings. The latest report from the Tech Transparency Project highlights the ongoing problem of content moderation, particularly on social media platforms. Notably, 84 of these ads were published in India, even after a government order to remove such content. The company claims to have strong defenses against such ads, yet many remain visible. Campaigners fear that by advertising apps capable of generating such content, Meta is tacitly enabling the creation of more such images. The situation is a stark reminder of the challenges in policing the internet for child exploitation.

Em reação, a Meta afirmou que a maioria das anúncios notificadas já haviam sido removidas e que o total gasto em anúncios foi inferior a $5.000. No entanto, o relatório do Tech Transparency Project revela que várias anúncios permaneceram visíveis durante períodos significativos, apesar da notificação.

A BBC apurou que, quando a TTP notificou a Meta sobre os anúncios, apenas 55 foram reportados através do sistema de notificação da empresa. Para 43 anúncios, a Meta respondeu que os anúncios não violavam as suas normas publicitárias. Para 11, a empresa indicou que o conteúdo já tinha sido removido, mas para um anúncio não houve resposta.

A tecnologia de inteligência artificial (IA) foi usada para manipular imagens de crianças reais, incluindo membros de uma família real europeia, para criar conteúdo sexual explícito. Essa prática é particularmente alarmante, pois sugere que a IA pode ser usada para perpetuar a exploração sexual infantil.

A situação é uma crise de confiança na capacidade das grandes empresas de tecnologia de proteger o conteúdo online. A Meta afirma que os seus sistemas de bloqueio de anúncios funcionam eficazmente, mas as evidências sugerem que o problema persiste. A pressão será sobre as empresas para fortalecerem ainda mais as suas medidas de vigilância e remoção de conteúdo abusivo.