MADRID, 11 (Portaltic/EP)
TikTok permite la publicación de vídeos sexualizados de niñas y adolescentes, tanto generados por Inteligencia Artificial (IA) como robados de cuentas reales, con el fin de atraer a los usuarios hacia este contenido y fomentar su venta o intercambio mediante otras plataformas como Telegram, impulsando estas prácticas e incumpliendo la Ley de Servicios Digitales (DSA).
Aunque la plataforma de ByteDance es una de las más utilizadas a nivel global, en España, donde es la favorita entre los menores de 18 años, se presenta como un espacio donde es muy sencillo acceder a contenido que sexualiza a menores desde múltiples perfiles, sin apenas restricciones por parte de la red social, que incluso recomienda estas cuentas y facilita la comercialización de este contenido a través de los comentarios.
Así lo revela una investigación realizada por Maldita.es, que ha analizado prácticas como la creación de imágenes de niñas adolescentes sexualizadas mediante IA, así como el robo de contenido creado por menores reales, posteriormente publicado en TikTok, y cómo todo ello sirve como acceso a la pornografía infantil.
En concreto, el estudio muestra el comportamiento de 40 cuentas de TikTok que cuentan con más de 1,5 millones de seguidores y que, en total, suman más de 5.200 publicaciones de vídeos de menores sexualizados generados con IA, además de 3.600 vídeos más de menores reales.
En los vídeos analizados creados mediante IA generativa de menores sexualizadas, habitualmente se muestran niñas o adolescentes con bikinis, uniformes escolares o ropa ajustada, realizando diversas actividades. Sin embargo, los vídeos se centran en mostrar pechos y piernas, así como movimientos de salto.
En cuanto a las cuentas que publican vídeos de menores reales, recopilan vídeos de chicas que publican contenido en sus propias cuentas de TikTok, comúnmente con uniforme o en espacios escolares. Además, en algunas ocasiones aparece la marca de agua de TikTok con el nombre de las niñas o adolescentes en cuestión, lo que da acceso a sus perfiles reales.
Los comentarios en este tipo de vídeos, tanto reales como generados por IA, tampoco se quedan atrás. En la mayoría, los usuarios comentan aspectos sobre la apariencia de la menor, detallando que desean contactar con ella, utilizan emojis, y publican imágenes de escenas de sexo oral u otras prácticas relacionadas.
VENTA DE PORNOGRAFÍA CON IA Y REAL
Como resultado de todo ello, se ha comprobado que, detrás de estos vídeos en TikTok, el verdadero objetivo es dirigir a los usuarios a otros sitios web donde se vende pornografía infantil, ya sea creada por IA o real.
Por tanto, muchas de las cuentas llevan a cabo estas prácticas para monetizar su contenido, ya sea a través del sistema de suscripción de la propia plataforma, donde las cuentas cobran una media de cuatro euros por contenido exclusivo y TikTok puede quedarse con hasta el 50 por ciento de las ganancias, o mediante enlaces a otros sistemas de mensajería como Telegram o páginas web donde se vende e intercambia pornografía infantil.
Como destaca el informe, varias de las cuentas redirigen a los usuarios a sitios web específicos donde ofertan este contenido. Además, en los comentarios de los vídeos, otros usuarios también promocionan cuentas de Telegram que venden pornografía infantil real.
Para ello, se ha identificado que publican comentarios en los vídeos con la palabra “cambio”, que hace referencia al intercambio de pornografía infantil en servicios como Telegram. Por ejemplo, en un vídeo de una niña pequeña en traje de baño jugando en un parque, que cuenta con más de 655.000 visualizaciones, los comentarios incluían términos como “compro”, “cambio”, “cambio y vendo” o “tlg” (Telegram).
Al contactar con 14 de las cuentas que se promocionan en Telegram, a través de dicha plataforma de mensajería, 11 de ellas enviaron automáticamente un menú donde enumeraban los contenidos que tenían a la venta. Asimismo, siete cuentas enviaron pornografía infantil sin siquiera solicitarlo, tras lo cual fueron denunciadas a la Policía Nacional.
Por tanto, la plataforma de ByteDance facilita que los usuarios puedan acceder a pornografía infantil con apenas un par de clics, fomentando su uso entre posibles pedófilos.
EL PAPEL DE TIKTOK EN LA PROMOCIÓN DE ESTE CONTENIDO
TikTok también desempeña un papel relevante en la promoción de estos contenidos. Para la investigación, desde Maldita.es utilizaron una cuenta de prueba, a la que el algoritmo de TikTok recomendó en reiteradas ocasiones más contenido que sexualizaba a menores.
Estas recomendaciones aparecieron tanto en la sección ‘Para ti’ como en los resultados del buscador de la red social, lo que provocó que la cuenta entrara en un bucle de publicaciones de niñas y adolescentes sexualizadas. Incluso, TikTok llegó a sugerir búsquedas como “Colegialas 13 inocentes”, “colegialas bailando”, “mujercitas” o “chicas bonitas y guapas” tras visualizar unos cuantos vídeos relacionados.
Siguiendo esta línea, la red social también recomendó la posibilidad de suscribirse al tablón de noticias de algunas cuentas con este tipo de contenido, es decir, un canal para que los creadores se comuniquen con sus seguidores.
Esto se debe a que el algoritmo de recomendación de TikTok se basa en los gustos y hábitos de los usuarios para sugerir contenido. Por tanto, si un usuario busca este tipo de vídeos en la red social, la plataforma continuará recomendándoselos y mostrando cada vez más vídeos de niñas reales o creadas con IA de forma sexualizada.
Todo ello contraviene la DSA, que establece que los servicios ‘online’ deben evaluar si sus funciones o contenidos representan algún tipo de riesgo para los usuarios menores, incluyendo sus algoritmos y sistemas de moderación de contenidos. Además, esta normativa obliga a las plataformas a retirar contenidos ilegales siempre que tengan conocimiento de ello, ya sea a través de sus sistemas de detección, denuncias de usuarios o investigaciones externas.
TIKTOK NO ELIMINA LAS CUENTAS DENUNCIADAS
Estas cuentas de TikTok actúan en contra de sus Términos de servicio y Normas de la Comunidad, que prohíben sexualizar a menores con contenido generado por IA, así como “sexualizar o fetichizar a un menor” en contenido real.
Por ello, desde Maldita.es han señalado que denunciaron 15 de las cuentas analizadas mediante los canales que ofrece la propia plataforma. Un proceso sencillo que se inicia pulsando el botón de compartir y, a continuación, la opción de ‘Denunciar’, especificando el motivo.
Sin embargo, se ha comprobado que todas estas cuentas seguían disponibles tres días después de la denuncia. En concreto, TikTok consideró que ninguna de las cuentas violaba sus normas, excepto una, donde aplicó restricciones que no impedían el acceso a los vídeos.
Lo mismo ocurrió con los vídeos y comentarios denunciados, sin éxito. De 60 vídeos reportados, TikTok solo eliminó siete y deshabilitó la recomendación en ‘Para ti’ en 11 de ellos.
En caso de que la plataforma continúe tolerando y promocionando este tipo de vídeos, desde Maldita.es advierten que TikTok podría enfrentarse a multas bajo la DSA, independientemente de si el contenido proviene del extranjero, por incumplir gravemente sus pautas y asumir la responsabilidad como proveedor de alojamiento y difusión de contenido ilegal, según ha señalado el abogado especializado en protección de datos, IA y derecho digital, Marcos Judel, al citado medio.
Con todo ello, conviene tener en cuenta que, si una menor es víctima de estos comportamientos, se puede denunciar la vulneración del derecho a la imagen por la vía civil, así como el tratamiento indebido de sus datos personales ante la Agencia Española de Protección de Datos (AEPD), como ha destacado el medio citado. Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario