Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
TikTok ha presentado nuevas herramientas para identificar, marcar y entender el material creado con inteligencia artificial (IA), una tecnología que está modificando cómo se vela por la seguridad en dicha red social, donde se han implementado métodos mejorados para suprimir perfiles que promueven la hostilidad y la violencia.
En su Foro Europeo de Seguridad, celebrado en Dublín, TikTok comunicó adelantos sobre cómo la plataforma utiliza la tecnología para asegurar la protección, con un énfasis particular en la IA, además de habilitar un sector nuevo en la aplicación llamado Tiempo y Bienestar, para fomentar patrones de uso digital más conscientes.
¿Qué trae de nuevo TikTok en materia de seguridad y uso de IA?
Durante la sesión, el director global de difusión y colaboración de TikTok, Valiant Richey, resaltó que la base de la plataforma, con cerca de mil millones de usuarios, doscientos millones de ellos en Europa, es la seguridad, la cual “no admite negociación”.
Entre las novedades, TikTok comenzará a incorporar, “en las próximas semanas, una marca de agua indetectable para señalar el contenido generado por IA dentro de la propia plataforma”, detalló la directora de Seguridad, Privacidad, Políticas Públicas y Protección de Datos en Europa, Jade Nester.
Dicha marca representa una capa extra de resguardo, ya que solo TikTok puede leerla, dificultando su remoción. Estas servirán para identificar el material de forma más confiable y ofrecerán a la plataforma más información sobre las modificaciones aplicadas al contenido.
La plataforma inició el marcado de contenido generado por IA en 2003, una labor que continúa, apuntó Nester, puesto que si bien la IA puede potenciar la creatividad, debe emplearse con responsabilidad y claridad, para evitar alimentar la desinformación.
Hasta la fecha, se han señalado 1.300 millones de vídeos. TikTok exige a los creadores que rotulen el material realista producido por IA en la plataforma, para lo cual provee utilidades.
En las semanas venideras, se iniciará también la prueba de un nuevo control para las creaciones de IA, permitiendo a los usuarios definir cuánta de esa clase de contenido desean ver en el flujo “Para ti”.
¿De qué forma combate TikTok la expresión de odio e impulsa el bienestar digital?
Adicionalmente, se destinará un fondo de dos millones de dólares para que especialistas elaboren material dirigido al *feed* “Para ti”, centrado en instruir a los usuarios sobre IA y seguridad.
Medidas contra el discurso de odio
El foro también abordó el fortalecimiento de procedimientos refinados en TikTok para descubrir redes de cuentas que difunden animadversión y agresividad.
En lo que va del presente año, la plataforma ha extinguido 17 este tipo de redes, conformadas por más de 920 perfiles dedicados a esparcir odio con tintes ideológicos radicales.
En el primer semestre, se anularon 6.5 millones de vídeos por incumplir dichas normas, lo que representa algo menos del 2 % de todo el material infractor, comentó el responsable de desarrollo de políticas de confianza y seguridad de TikTok, Zachary Hecht.
Se trata de agrupaciones que ajustan sus tácticas para evadir la detección, utilizando cuentas aparentemente inofensivas, otras que buscan redirigir fuera de la aplicación para compartir recursos, o empleando lenguaje codificado, por ejemplo con emoticonos, para aludir a expresiones de odio.
Supervisión de contenido e IA
Identificar estas manifestaciones de animadversión es uno de los propósitos de la revisión del contenido que diariamente se sube a TikTok para asegurar el cumplimiento de las directrices. Una labor ejecutada tanto por la IA como por equipos humanos.
Si bien el uso de la IA no es novedoso, las recientes evoluciones están transformando la manera de supervisar, justo cuando la producción de contenido se acelera, indicó Brie Pegum, quien enfatizó la necesidad de un equilibrio entre el control de la IA y el humano, ya que los equipos personas mantienen un rol primordial.
Las cifras de TikTok muestran una disminución del 76 % en el material explícito revisado por el equipo humano el año pasado. Pegum destacó también la gestión de comentarios, donde la aplicación de la IA posibilita identificar el doble de mensajes prohibidos.
Bienestar digital
Otras de las novedades es el lanzamiento de nuevas funcionalidades de bienestar para promover hábitos digitales saludables.
El nuevo espacio “Tiempo y Bienestar” ofrece, entre otras opciones, sonidos calmantes, ejercicios de respiración consciente o un “diario de afirmaciones”, para fijar una intención o propósito para el día.
Además, se incorporan cuatro nuevas Misiones de Bienestar, orientadas especialmente a jóvenes, aunque útiles para asistir a todos en el desarrollo de pautas digitales balanceadas. Entre ellas: Horas de Sueño, para abstenerse del uso de la aplicación durante la noche durante ocho semanas, o la misión semanal de Tiempo de Pantalla, para ayudar a tomar conciencia del tiempo invertido en la plataforma.
Agregar Comentario