Christiane C. no se dio cuenta de nada cuando su hija de 10 años y una amiga subieron un video de ellos mismos jugando en una piscina en el patio trasero.
«El video es inocente, no es gran cosa», dijo Christiane, que vive en un suburbio de Río de Janeiro.
Unos días después, su hija compartió noticias emocionantes: El video tuvo miles de visitas. Al poco tiempo, había alcanzado los 400.000, una cifra asombrosa para un vídeo de un niño en traje de baño de dos piezas con su amiga.
«Volví a ver el video y me asusté por el número de visitas», dijo Christiane.
Tenía razones para estarlo.
Un equipo de investigadores ha descubierto que el sistema de recomendación automatizado de YouTube, que impulsa la mayor parte de los miles de millones de visitas de la plataforma sugiriendo lo que los usuarios deberían ver a continuación, había comenzado a mostrar el video a los usuarios que veían otros videos de niños preadolescentes y parcialmente vestidos.
YouTube había curado los videos de todos sus archivos, a veces sacando las películas caseras, por lo demás inocuas, de familias que no lo sabían, dicen los investigadores. En muchos casos, su algoritmo refería a los usuarios a los vídeos después de haber visto contenido de temática sexual.
El resultado fue un catálogo de videos que, según los expertos, sexualiza a los niños.
«Es el algoritmo de YouTube el que conecta estos canales», dijo Jonas Kaiser, uno de los tres investigadores del Berkman Klein Center for Internet and Society de Harvard, que se tropezó con los videos mientras investigaba el impacto de YouTube en Brasil. «Eso es lo que da miedo.»
El video de la hija de Christiane fue promovido por los sistemas de YouTube meses después de que la compañía fue alertada de que tenía un problema de pedofilia. En febrero, Wired y otros medios de comunicación informaron que los depredadores estaban usando la sección de comentarios de los videos de YouTube con niños para guiar a otros pedófilos.
Ese mes, llamando al problema «profundamente preocupante», YouTube desactivó los comentarios sobre muchos videos con niños en ellos.
Pero el sistema de recomendaciones, que sigue en funcionamiento, ha reunido docenas de vídeos de este tipo en un repositorio nuevo y fácil de ver, y los ha hecho llegar a un público muy amplio.
YouTube nunca se propuso servir a usuarios con intereses sexuales en niños – pero al final, dijo el Sr. Kaiser, su sistema automatizado logró mantenerlos vigilando con recomendaciones que él llamó «inquietantemente puntuales».
Los usuarios no necesitan buscar vídeos de niños para acabar viéndolos. La plataforma puede llevarlos allí a través de una progresión de recomendaciones.
Así que un usuario que ve videos eróticos podría ser recomendado videos de mujeres que se vuelven visiblemente más jóvenes, y luego mujeres que posan provocativamente en la ropa de los niños. Eventualmente, a algunos usuarios se les pueden presentar videos de niñas de tan sólo 5 ó 6 años que usan trajes de baño, o que se visten o se dividen.
Por sí solo, cada video puede ser perfectamente inocente, una película casera, digamos, hecha por un niño. Cualquier fotograma revelador es efímero y parece accidental. Pero, agrupados, sus rasgos comunes se vuelven inconfundibles.