Los deepfakes son vídeos, imágenes o audios generados mediante inteligencia artificial que imitan con gran precisión la apariencia y voz de personas, pudiendo engañar tanto a humanos como a algoritmos.
El término deepfake combina las palabras deep learning (aprendizaje profundo) y fake (falso), es decir, combina el aprendizaje profundo con técnicas de falsificación, reflejando el uso de algoritmos de IA para producir contenido falsificado. Esta tecnología utiliza redes generativas antagónicas (GANs) para producir contenido sintético altamente realista. Aunque inicialmente se requerían grandes volúmenes de datos para crear deepfakes, los avances tecnológicos ahora permiten generarlos incluso a partir de una sola imagen o un breve clip de audio.
Muchas aplicaciones para consumidores emplean esta tecnología con fines de entretenimiento, atención al cliente o accesibilidad. Sin embargo, la creación de deepfakes con fines maliciosos, ha experimentado un aumento significativo, representando una amenaza creciente en diversos ámbitos.
El Bootcamp de Ciberseguridad de The Bridge cubre temas de la ciberseguridad como el hacking ético, análisis forense y la respuesta a incidentes. Además, incluye la detección y prevención de posibles amenazas y ciberataques, por lo tanto, son particularmente relevantes en el contexto de los deepfakes.
Tipos de deepfakes
Esta tecnología es cada vez más sofisticada y diversa, por lo que hay distintos tipos de deepfake:
- El deepfake facial implica el reemplazo completo o parcial del rostro de una persona en un video o imagen. Esta técnica utiliza algoritmos de aprendizaje profundo para analizar y recrear las características faciales con un alto grado de realismo. Algunos fines son el intercambio de identidad, la reanimación facial, manipulación de características específicas del rostro (edad, color de pelo, género…), o la creación de rostros completamente nuevos y realistas, utilizando inteligencia artificial generativa.
- Deepfake de voz: Esta tecnología manipula el audio para recrear o suplantar la voz de una persona específica. Esto puede realizarse de dos maneras: generando voz artificial desde cero, utilizando muestras de audio para crear un modelo de la voz objetivo, o transformando una voz original para que suene como la voz objetivo, manteniendo el contenido lingüístico pero alterando características como tono, estilo, etc.
- Deepfake de texto: Implica la generación de texto falso imitando el estilo de escritura de una persona, para analizar y replicar patrones lingüísticos, generar contenido coherente e imitar el tono, vocabulario y estructura característicos del autor objetivo.
- El clonado de voz se centra en replicar con precisión la voz de una persona utilizando inteligencia artificial. Esta tecnología analiza muestras de voz para capturar características vocales únicas, genera nuevas frases y expresiones que suenan auténticas, y permite crear asistentes virtuales personalizados o revivir voces de personas fallecidas.
Usos delictivos de deepfakes
Los deepfakes han evolucionado rápidamente, y también ha sido aprovechada con fines delictivos:
- Pornografía no consentida: Creación de contenido sexual falso utilizando la imagen de personas reales. La mayor parte de los videos deepfake están relacionados con pornografía no consentida, afectando principalmente a mujeres.
- Fraude: Suplantación de identidad para estafas financieras o acceso no autorizado a información. Fraude financiero suplanta identidades mediante videollamadas para cometer estafas millonarias. En 2024, un trabajador fue engañado para transferir 25 millones de dólares mediante una videollamada deepfake.
- Suplantación de identidad: Manipulación de documentos oficiales para eludir sistemas de reconocimiento facial. Las consecuencias del robo de identidad mediante deepfakes pueden ser devastadoras, incluyendo daños financieros, problemas legales y un impacto duradero en el historial crediticio de las víctimas.
- Desinformación y manipulación social: Creación de contenido falso para influir en elecciones o generar desconfianza social, como noticias falsas o manipulación de la opinión pública. Por ejemplo, se difundió un video falso del presidente Zelensky declarando la rendición de Ucrania.
Cómo detectar deepfakes
La creciente accesibilidad y sofisticación de esta tecnología ha generado preocupaciones sobre su potencial uso indebido, lo que ha llevado a esfuerzos para desarrollar métodos de detección e identificación de deepfakes, así como mitigar sus riesgos:
- Analizar parpadeo y movimiento de los labios: Observar si siguen ritmos naturales.
- Examinar reflejos en ojos y gafas: Verificar si son consistentes y visualmente coherentes.
- Comparar la edad de la piel con ojos y cabello: Buscar inconsistencias en la apariencia general.
- Utilizar herramientas de detección: Emplear software como Deepware Scanner o Reality Defender para analizar videos sospechosos.
El incremento en el uso delictivo de los deepfakes plantea serios desafíos éticos, legales y tecnológicos, que suponen una amenaza. Su impacto abarca desde daños personales hasta riesgos para la estabilidad social y económica. Para combatirlo, es crucial desarrollar tecnologías de detección más avanzadas, implementar regulaciones estrictas y educar al público sobre los riesgos potenciales de esta tecnología en constante evolución.
