Compartir
La expansión de las herramientas de inteligencia artificial generativa trajo aparejada una contracara inquietante. Los Institutos Nacionales de Salud de Estados Unidos (NIH) pusieron la lupa sobre un fenómeno que crece silenciosamente: la producción y circulación de imágenes sexualizadas autogeneradas por menores de edad. Lo que antes requería un intercambio explícito hoy puede fabricarse con un par de clics y una foto real.
El sexting —ese ida y vuelta de mensajes, fotos y videos de tenor sexual por celular— dejó de ser una práctica marginal. Las primeras estimaciones de los NIH entre adolescentes estadounidenses marcaban que un 2,5% había creado o encargado imágenes sexualizadas propias, mientras que un 7,1% las había recibido. Con los años, esas conductas se naturalizaron y se metieron de lleno en la exploración sexual de la adolescencia.
El caso que encendió la alarma en Argentina
En nuestro país, el tema volvió al centro de la escena tras la movilización de estudiantes y familias del Colegio Modelo Lomas, en Lomas de Zamora. La gota que rebalsó el vaso fue la difusión de que al menos cuatro alumnos de tercer año habrían creado, compartido y hasta vendido imágenes falsas de contenido pornográfico de sus compañeras, generadas con inteligencia artificial.
El material se habría armado a partir de fotos reales de cerca de 40 alumnas y después distribuido en distintas plataformas y páginas de contenido para adultos. La protesta incluyó una sentada frente al establecimiento, luego de que los padres denunciaran que la institución sabía de la situación desde hacía semanas y nunca les había avisado.
AO3: el costado oscuro de la fanfiction
Al escándalo del colegio se le suma otro frente igual de preocupante: AO3 (Archive of Our Own), una plataforma gratuita donde se publican textos de ficción, imágenes y videos sin curaduría ni medidas de protección reales. Allí conviven apologías de la violación, abusos contra niños, fantasías de grooming y relatos en primera persona sobre agresiones a menores.
Así lo describió Paula Wachter, directora ejecutiva de Red por la Infancia. Según la especialista, alcanza con buscar el nombre de una banda, un personaje de animé o un videojuego para toparse con AO3. La plataforma funciona como un enorme archivo de fanfiction, donde los usuarios reescriben universos conocidos: imaginan finales alternativos, nuevas aventuras y vínculos entre personajes.
El problema es que esa familiaridad con los personajes hace que jóvenes y adultos no anticipen lo que pueden encontrar. Detrás de una portada aparentemente inocente, el catálogo incluye ficciones con contenido sexual explícito, violencia sexual y violencia extrema. Incluso admite representaciones escritas de situaciones sexuales con personajes menores de edad.
Entre las comunidades más activas aparecen K-pop, Marvel, Harry Potter, My Hero Academia y videojuegos como Minecraft. «Por eso parece inocente y atrae a los chicos», detalló Wachter. También hay ficción sobre celebridades, deportistas y creadores de contenido, lo que conecta directamente con los intereses de los adolescentes.
Los números de AO3 son elocuentes: más de 11.870.000 cuentas registradas, 18.660.000 obras y 83.120 fandoms. Para abrir una cuenta hay una lista de espera de más de 158.000 personas, y el sitio envía 5.000 invitaciones cada ocho horas. Para leer, en cambio, no hace falta invitación: basta con declarar que se tienen más de 13 años.
«Poder ingresar o registrarse a esa edad no significa que el catálogo sea adecuado para un adolescente de 13 años«, advirtió Wachter. Y agregó: «Lo primero que notamos es la falta de moderación de contenido. Su política prioriza una amplia libertad creativa y no retira una obra solo porque resulte ofensiva».
Dos riesgos concretos que preocupan a los especialistas
- Material extremadamente violento y perturbador, incluso para adultos. Las propias etiquetas del sitio lo anticipan: «Representaciones gráficas de violencia», «Sexo con menores de edad», «Violación/Sexo no consentido» y «El autor eligió no usar las advertencias del archivo». Esta última deja a los chicos sin ningún aviso previo.
- La ficción sobre personas reales (RPF). Son relatos cuyos personajes son personas que existen. En varios grupos se constató la práctica de inventar historias sobre un compañero o compañera y «regalarle» los capítulos, lo que en algunos casos se convierte en una verdadera pesadilla de acoso y humillación.
Wachter relató un caso testigo: una chica fue víctima de una historia donde la humillaban, la sometían de maneras muy perturbadoras y la sexualizaban, tanto en relatos escritos como en producciones gráficas. Ella podía leer y ver lo que querían hacerle. «Que una agresión se presente como ficción no vuelve ficticio el daño«, sentenció.
La respuesta de la plataforma es conocida: su misión es alojar obras transformativas creadas por fans sin emitir juicios basados en la moralidad o las preferencias personales. Mientras los relatos de violencia extrema se presenten como ficción, no se retiran. Las únicas excepciones son las imágenes sexuales fotorrealistas de niños reales y las obras dirigidas a hostigar a la persona retratada, siempre y cuando se realice la denuncia y la plataforma actúe.
BajaloYa!: una herramienta para frenar la viralización
Frente a este panorama, existen herramientas concretas. BajaloYa! es una iniciativa gratuita y anónima de Red por la Infancia que permite solicitar la remoción urgente de imágenes íntimas de menores de plataformas digitales. Es la adaptación argentina de Take It Down, un servicio del National Center for Missing & Exploited Children (NCMEC) de Estados Unidos.
El sistema genera desde el dispositivo del usuario una huella digital única, conocida técnicamente como valor hash, para imágenes o videos de desnudez parcial, total o sexualmente explícitos que involucren a menores de 18 años. El archivo no se envía ni queda expuesto durante el trámite. Las plataformas pueden usar ese código para identificar el contenido y avanzar con su remoción.
Tras la difusión de la herramienta, aumentaron las consultas de los chicos. «En algunos casos advertimos que recién con la difusión pública de estos hechos las personas dimensionaron que podían hacer algo y pedir ayuda. Muchos adultos no llegaban a comprender la gravedad de lo ocurrido«, comentó Wachter.
El impacto en la salud mental
La doctora Silvia Ongini, médica psiquiatra infanto-juvenil del Hospital de Clínicas (MN 69.218), explicó que la difusión no consentida de imágenes íntimas impacta severamente sobre la salud mental. «Primero, existe una estafa a la confianza. Este hecho genera un sentimiento de humillación con un constructo psicodinámico muy particular: supone una exposición masiva de uno mismo ante la mirada crítica de los otros», detalló.
Eso va minando la confianza en sí mismo y en los demás. «La sensación de que todo el mundo vio esas imágenes, el señalamiento, pueden producir miedos exagerados, ansiedad, depresión y, en casos severos, llevar a ideación suicida o suicidio«, alertó Ongini, mencionando el caso de Ema, que derivó en una ley aplicada en Santa Fe y en un protocolo de intervención.
«Impacta severamente, porque además esas imágenes compartidas sin consentimiento van a seguir en la nube. Cuantas más personas las miren, más populares se vuelven y mayor exposición tiene la víctima, que sabe que difícilmente puedan bajarse. Altera su identidad de por vida«, subrayó.
Qué hacer: recomendaciones para familias y docentes
Wachter sostuvo que el acompañamiento de familia y docentes empieza por saber qué leen y dónde participan los chicos, sin convertir la conversación en un interrogatorio. «Hay que hablar especialmente de estas páginas que parecen inofensivas pero que exponen a los chicos a riesgos y daños muy reales», indicó.
Cuando el daño ya ocurrió, el acompañamiento debe traducirse en acciones concretas:
- Escuchar sin culpabilizar a la víctima.
- Evitar que el contenido siga circulando.
- Preservar la evidencia sin redistribuir imágenes sexuales.
- Denunciar en la fiscalía correspondiente.
Las denuncias formales pueden realizarse ante el Ministerio Público Fiscal de cada localidad. En la Ciudad de Buenos Aires, la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas investiga delitos cometidos por medios digitales. Se puede denunciar por teléfono al 0800-333-47225, por correo a [email protected] o mediante el sitio web del organismo.
La Red por la Infancia recomienda bloquear al agresor solo cuando todo esté guardado en un lugar seguro, idealmente también en otro dispositivo o en la nube.
Ongini, por su parte, remarcó la importancia de no culpabilizar. «No decirle: ‘Te dijimos que no compartieras’ o ‘ese chico no era confiable’. No recurrir al castigo ni a la culpabilización, porque precisamente es víctima de una estafa a la confianza«, afirmó. Y recordó que existen distintos escenarios: desde alguien que compartió imágenes con una persona de confianza y después las viralizaron, hasta víctimas de extorsión a través de groomers.
Para la prevención, la especialista destacó que lo más importante es habilitar el diálogo y entender que la imagen es parte de la identidad. «Hay que dialogar, no tanto bajar línea. Entender que los adolescentes están en una etapa donde comparten imágenes y donde la imagen es un medio de comunicación y de pertenencia», concluyó.
