A recent study by The Wall Street Journal uncovered distressing evidence of child pornography thriving on Instagram. Disturbingly, hashtags like ‘#pedowhore’ and ‘#preeteensex’ enabled users to connect with accounts selling explicit material involving minors.
Shockingly, some of these accounts masqueraded as children themselves, employing handles such as “little slut for you.” Instead of directly posting illicit content, these accounts presented ‘menus’ of available material for buyers to select from. Furthermore, some accounts even offered paid arrangements for in-person meetings with children.
The researchers conducted a comprehensive investigation, setting up test accounts to assess Instagram’s “suggested for you” feature. In a disconcertingly short time, Instagram’s algorithm inundated these accounts with content that sexualized minors, with certain content linking to external sites for content trading.
By relying solely on hashtags, the Stanford Internet Observatory detected 405 accounts involved in the distribution of what they termed “self-generated” child sexual material. These accounts purportedly belonged to minors, some claiming to be as young as 12 years old.
Remarkably, Instagram’s algorithm allowed users to search for terms that the system recognized as potentially associated with illegal material. On occasions when researchers used specific hashtags to find explicit content, a pop-up would occasionally appear, cautioning that the results might contain images of child sexual abuse and emphasizing the extreme harm caused to children by the production and consumption of such material. However, the pop-up presented users with two options: “Get resources” or “See results anyway.”
To evade detection, pedophiles on Instagram employed an emoji code to discuss illicit content. For instance, a map emoji (🗺️) symbolized a “Minor-attracted person” or “MAP,” while a cheese pizza emoji (🍕) abbreviated as “CP” stood for “Child Porn.” These accounts often referred to themselves as “sellers” or “s3llers” and used coded language such as “on Chapter 14” instead of explicitly stating the age of the exploited children.
Despite multiple reports, Instagram did not remove all offending posts. For example, when an image of a provocatively dressed young girl with a sexually explicit caption was reported, Instagram responded by stating that the post did not violate their Community Guidelines. The platform instead suggested that the user hide the account to avoid further exposure.
Although Instagram banned certain hashtags associated with child pornography, their AI-powered hashtag suggestions still found ways to circumvent the restrictions. The AI would suggest users try different variations of their searches or add words like “boys” or “CP” to the end of their queries.
The research team also conducted a similar test on Twitter, discovering 128 accounts offering to sell child sexual abuse material. Although this number was significantly lower than on Instagram, Twitter’s algorithm was less likely to recommend such accounts and took prompt action in removing them.
Elon Musk recently tweeted the Wall Street Journal article, expressing deep concern about its contents. Unfortunately, as algorithms and AI become more sophisticated, incidents like this are becoming increasingly prevalent.
In 2022, the National Center for Missing & Exploited Children in the U.S. received 31.9 million reports of child pornography, a 47% increase compared to two years earlier. This alarming trend necessitates a discussion on how social media companies, particularly Meta, can enhance AI regulation to prevent such abhorrent cases from occurring.
Un reciente estudio realizado por The Wall Street Journal ha descubierto evidencia alarmante de pornografía infantil en Instagram. De manera preocupante, hashtags como ‘#pedowhore’ y ‘#preeteensex’ permitían a los usuarios conectarse con cuentas que vendían material explícito que involucraba a menores de edad.
De manera impactante, algunas de estas cuentas se hacían pasar por niños, utilizando nombres de usuario como “pequeña zorra para ti”. En lugar de publicar directamente contenido ilícito, estas cuentas presentaban “menús” de material disponible para que los compradores seleccionaran. Además, algunas cuentas incluso ofrecían acuerdos pagados para encuentros en persona con niños.
Los investigadores llevaron a cabo una exhaustiva investigación, creando cuentas de prueba para evaluar la función de “sugerencias para ti” de Instagram. En un tiempo sorprendentemente corto, el algoritmo de Instagram inundó estas cuentas con contenido que sexualizaba a menores de edad, y algunos de estos contenidos enlazaban a sitios externos para intercambio de contenido.
Al utilizar solo hashtags, el Stanford Internet Observatory identificó 405 cuentas involucradas en la distribución de lo que ellos denominaron material sexual infantil “autogenerado”. Estas cuentas supuestamente pertenecían a menores de edad, y algunos afirmaban tener tan solo 12 años.
Sorprendentemente, el algoritmo de Instagram permitía a los usuarios buscar términos que el sistema reconocía como potencialmente asociados con material ilegal. Cuando los investigadores utilizaban ciertos hashtags para encontrar contenido explícito, a veces aparecía una ventana emergente que advertía que los resultados podrían contener imágenes de abuso sexual infantil y enfatizaba el daño extremo causado a los niños por la producción y consumo de dicho material. Sin embargo, la ventana emergente presentaba a los usuarios dos opciones: “Obtener recursos” o “Ver resultados de todas formas”.
Para evadir la detección, los pedófilos en Instagram utilizaban un código de emojis para hablar en clave sobre el contenido ilícito. Por ejemplo, un emoji de un mapa (🗺️) simbolizaba una “persona atraída por menores” o “MAP”, mientras que un emoji de pizza (🍕) se abreviaba como “CP” y representaba “Child Porn” (pornografía infantil). Estas cuentas a menudo se identificaban como “vendedor” o “s3ller” y utilizaban lenguaje codificado como “en el Capítulo 14” en lugar de indicar explícitamente la edad de los niños explotados.
A pesar de múltiples denuncias, Instagram no eliminaba todas las publicaciones ofensivas. Por ejemplo, cuando se denunció una imagen de una niña vestida de manera provocativa con un pie de foto sexualmente explícito, Instagram respondió indicando que la publicación no violaba sus Normas de la Comunidad. En lugar de ello, la plataforma sugería al usuario ocultar la cuenta para evitar más exposición.
About The Author
