CIUDAD DE MÉXICO.- Si como usuarios habituales creamos algún contenido digital, desde fotos en Instagram hasta un clip en TikTok, la inteligencia artificial (IA) puede desencadenarlo, ya que en la mayoría de los casos sólo se necesita un simple mensaje. Con este escenario (actual y futuro), Meta describe una serie de cambios en cómo se maneja el contenido manipulado en Facebook, Instagram y Threads, luego de los comentarios recibidos por el Consejo Asesor de Contenido. En una publicación escrita por Monika Bickert, vicepresidenta de política de contenidos de Meta, se expresó acuerdo con esta unidad separada de la compañía, especialmente la opinión de que el enfoque actual nuestro es demasiado limitado porque no incluye solo los generados o editados por IA.
Vídeos que hacen que parezca que la gente está diciendo algo que no es. Relató que su política sobre contenidos manipulados se desarrolló en 2020, cuando el material generado por IA era escaso y la preocupación general se centraba en el vídeo. Pero ¿qué pasa con los sonidos e imágenes obtenidos con esta tecnología?
En febrero, anunciamos que estábamos trabajando con socios de la industria en estándares técnicos comunes para definir el contenido de IA, incluidos video y audio. Nuestras etiquetas ‘Creado con IA’ en videos, audio e imágenes generados por IA se basarán en nuestra capacidad para detectar señales visuales de IA y si las personas indican que están descargando el contenido generado por IA o no, contextualiza Bickert. En otras palabras, la etiqueta se extenderá a una gama más amplia de contenidos, más allá del contenido manipulado que el Consejo Asesor de Contenidos ha recomendado etiquetar.
Si se determina que los elementos enumerados anteriormente tienen un alto riesgo de confusión sobre un tema importante, se pueden agregar etiquetas más claras para brindar a las personas más información y contexto. El vicepresidente enfatizó que los videos impulsados por IA que no violen los Meta Estándares Comunitarios ya no serán eliminados. Agregó que la compañía cuenta con una red de casi 100 verificadores de datos independientes que continuarán revisando contenido falso y engañoso generado por IA; Cuando califican el contenido como falso o falso, aparece más abajo en el feed por lo que menos personas lo ven y se agrega una etiqueta superpuesta con la información adicional.
El objetivo es empezar a etiquetar el contenido generado por IA en mayo de 2024, mientras que en julio próximo se espera dejar de eliminar el contenido generado por IA que no viole las políticas de Meta. Bickert dijo que el Consejo Asesor de Contenido también argumentó que eliminar contenido manipulado que no viole otra política de nuestros Estándares comunitarios limitaría la libertad de expresión. En la primavera de 2023, Meta comenzó a reevaluar sus reglas, específicamente para comprender si era necesario un nuevo enfoque dado el rápido ritmo del avance tecnológico y el uso de IA sintética.
