Qué es una deepfake y cómo identificar los engaños
Imágenes como el Papa Francisco con ropa Balenciaga o el ex presidente Obama jugando por los Lakers se han vuelto más populares.
🧠 Las deepfakes, también conocidas como “medios sintéticos”, son creaciones multimedia generadas por Inteligencia Artificial (IA) que manipulan imágenes, videos o audio. Utilizan técnicas de deep learning para crear falsificaciones convincentes, mezclando “deep learning” y “fake”.
📸 Un ejemplo popular es el video del Papa Francisco con una chamarra Balenciaga o Barack Obama jugando basquetbol con una camiseta de los Lakers, ambos creados por el artista de IA Vince19Visuals. Estas son deepfakes que combinan imágenes reales con elementos artificiales para engañar a los espectadores.
🔍 Según Techslang, las deepfakes operan mediante redes adversariales generativas (GAN). Un modelo crea falsificaciones y otro intenta detectarlas. Cuando el segundo modelo no puede distinguir lo falso, la falsificación es convincente.
🖥️ Las GAN son efectivas con grandes conjuntos de datos, por lo que las deepfakes suelen involucrar a políticos y celebridades. La abundancia de videos y fotos facilita la creación de deepfakes realistas, incrementando su propagación.
Historia de Deepfakes
📽️ La manipulación de videos no es nueva; data de los 90 con la computer vision. En 1997, se creó la primera deepfake, “Video Rewrite”, donde una mujer aparece con una voz y rostro diferentes, marcando el inicio de esta tecnología.
💻 El término deepfake se popularizó en 2017 por un usuario de Reddit que compartió videos para adultos con caras de celebridades como Gal Gadot y Emma Watson. Esto desató tanto curiosidad como preocupación por el uso de esta tecnología.
Riesgos de las deepfakes
⚠️ Los deepfakes presentan varios riesgos. Una de las fórmulas más conocidas es la deepfake pornográfica. Hay celebridades e influencer que han debido desembolsar grandes sumas de dinero para eliminar fotos falsas de ellas desnudas.
📉 Un estudio de Deeptrace en 2019 reveló que el 96% de las deepfakes eran pornográficos, y el 99% de las víctimas eran mujeres. Las deepfakes también se han utilizado para desprestigiar a figuras políticas, como en el caso del video manipulado de Nancy Pelosi.
Usos positivos
🎥 René Padilla, CEO de Introid, afirma que aunque las deepfakes se han usado negativamente, también tienen aplicaciones positivas en cine y entretenimiento, como en películas como Avatar y Rápidos y Furiosos 7 para completar escenas sin actores originales.
📚 En educación, las deepfakes pueden recrear eventos históricos o discursos para enriquecer la experiencia de aprendizaje. También protegen la identidad en juicios o documentales, usando voces y rostros falsos para mantener el anonimato.
Cómo detectar una deepfake
👁️ Detectar deepfakes se vuelve cada vez más difícil para el ojo humano. Empresas como Intel y Facebook trabajan en tecnologías para identificar deepfakes, basados en pistas como movimientos oculares anormales y desajustes en color e iluminación.
🎙️ El audio es otra clave. La sincronización de labios o pronunciaciones extrañas pueden indicar falsificación. Además, movimientos faciales artificiales y posturas corporales inusuales son señales de que un video podría ser un deepfake.