Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Cádiz (1973) Redactor y editor especializado en tecnología. Escribe profesionalmente desde 2017 para medios de comunicación y blogs en español.
El vocablo “deepfake” surge de la fusión de “deep learning” (aprendizaje profundo) y “fake” (falso). Se refiere a vídeos, imágenes o audios modificados mediante algoritmos de inteligencia artificial, capaces de sustituir rostros, voces y gestos de forma casi imperceptible. Al principio, se empleaba como experimento tecnológico, pero con el tiempo ha suscitado preocupaciones serias por el uso indebido que se le puede dar.
Para crear un deepfake, se entrenan modelos de IA con cientos o miles de imágenes y grabaciones de una persona. Con ese material, el sistema aprende a imitar expresiones, movimientos e incluso el tono de voz. Después, se superpone esta recreación sobre otro vídeo o audio. El resultado es una pieza que, a simple vista, parece real. El avance del machine learning ha hecho que la calidad sea cada vez mayor, al punto de engañar incluso a ojos entrenados.
No todo lo relacionado con los deepfakes es negativo. En la industria del cine, por ejemplo, se usan para rejuvenecer actores o recrear escenas históricas. También en el doblaje o la accesibilidad, donde permiten adaptar contenidos de manera rápida y precisa. No obstante, los riesgos superan a menudo estos beneficios: manipulación política, creación de bulos virales, suplantación de identidad o estafas financieras son algunos de los escenarios que ya se han dado en la práctica.
A pesar de ser cada vez más sofisticados, los deepfakes suelen dejar pequeñas señales. Una de ellas son los movimientos faciales poco naturales, como parpadeos extraños o expresiones rígidas. También se pueden notar desajustes en la iluminación del rostro con respecto al resto de la escena, o en el audio, donde la voz puede sonar demasiado robótica. La sincronización entre labios y palabras no siempre es perfecta, y a veces los detalles en las orejas, dientes o cabello se ven borrosos.
Ante la dificultad de detectarlos a simple vista, ya existen herramientas online diseñadas para analizar vídeos sospechosos. Plataformas como Deepware Scanner o proyectos académicos promovidos por universidades permiten cargar archivos y obtener un análisis de probabilidad de manipulación. Grandes empresas como Microsoft o Meta también están desarrollando sistemas capaces de etiquetar automáticamente el contenido manipulado, algo que será clave en la lucha contra la desinformación.
La proliferación de deepfakes plantea un desafío para la Administración. En algunos países ya se ha regulado la creación de falsificaciones con fines dañinos, especialmente si afectan a figuras públicas o se usan en campañas de difamación. A nivel social, la desconfianza en los contenidos digitales puede incrementarse, lo que amenaza con socavar la credibilidad de medios, instituciones e incluso de testimonios personales grabados en vídeo.
La mejor defensa ante un deepfake es la cautela. Si un vídeo resulta demasiado sensacionalista, extraño o contrario al comportamiento habitual de la persona mostrada, es prudente desconfiar. Buscar la fuente original, contrastar con medios fiables y emplear las herramientas de detección mencionadas son pasos esenciales. Además, es recomendable denunciar el contenido en las plataformas pertinentes para limitar su propagación.
A medida que la inteligencia artificial evoluciona, los deepfakes serán aún más realistas. Esto obligará a que la tecnología avance en paralelo con sistemas de verificación más potentes. En pocos años, es probable que la mayoría de las plataformas digitales incorporen filtros automáticos para señalar posibles falsificaciones antes de que se viralicen.
Agregar Comentario