Deepfake es una tecnología de inteligencia artificial usado para crear contenido digital falso y convincente, como audio, imágenes y videos donde una persona se hace pasar por otra. Todo se hace con una tecnología de inteligencia artificial autonivelante, y los resultados son aterradores por ser tan realistas.
El término que describe tanto la tecnología utilizada como el resultado (contenido falso), proviene de la tecnología subyacente"aprendizaje profundo", que es una forma de IA.
Los algoritmos de aprendizaje profundo que son capaces de aprender por sí mismos cómo resolver problemas se utilizan para intercambiar caras en videos para producir medios falsos que parecen muy reales.
tienes que ver- Contra las noticias falsas, Twitter agrega etiquetas a los perfiles gubernamentales
- WhatsApp bloquea 1,5 millones de cuentas por difundir noticias falsas y discursos de odio
- Facebook luchará contra las noticias falsas relacionadas con la salud y las campañas contra la vacunación
- Sitios que ayudan a identificar Fake News
¿Cómo se crean los deepfakes?
Existen varios métodos para crear deepfakes, pero el más común se basa en el uso de redes neuronales profundas que involucran Codificadores de coche (AE) que emplean una técnica de intercambio de caras. Esto requiere que el video de destino se use como base para el deepfake y una colección de clips de la persona para ser "copiados".
O codificador automático es un programa de inteligencia artificial de aprendizaje profundo encargado de estudiar videoclips para comprender cómo es una persona, desde una variedad de ángulos y condiciones ambientales diferentes. Luego, el programa mapea a la persona y la usa para generar la imagen en función de quién está haciendo el deepfake, encontrando características comunes.
Se agrega otro tipo de aprendizaje automático a la mezcla, conocido como redes generativas contradictorias (GAN), que detectan y mejoran cualquier defecto, lo que dificulta que los detectores de deepfake los decodifiquen.
Las GAN también se utilizan como un método popular para crear deepfakes, basándose en el estudio de abundantes datos para "aprender" cómo desarrollar nuevos ejemplos que imiten a la persona real, con resultados extremadamente precisos.
Varias aplicaciones y software facilitan la generación de deepfakes incluso para principiantes como la aplicación china Zao, Laboratorio de cara profunda, FaceApp (aplicación de edición de fotos con técnicas de IA integradas), el Intercambio cara o Desnudo Profundo, una aplicación particularmente peligrosa que generaba imágenes falsas de mujeres desnudas.
Muchos software deepfake se pueden encontrar en GitHub, una comunidad de desarrollo de software de código abierto. Algunas de estas aplicaciones se utilizan con fines puramente de entretenimiento, por lo que no se prohíbe la falsificación profunda.
Un ejemplo del uso de deepfake para el entretenimiento es el canal del periodista Bruno Sartori, quien realiza videos humorísticos que involucran a figuras políticas españolas, como Lula y Bolsonaro, así como a celebridades.
Pero es mucho más probable que otros se usen maliciosamente.
Las consecuencias del deepfake
Internet y la tecnología nos han traído muchas facilidades y mejoras a nuestra vida, y esto es innegable. Pero no todo es color de rosa, y está la desventaja de la tecnología. Un gran y serio problema en el mundo digital es la noticias falsas, o noticias falsas en español.
Este problema es tan grave que muchas veces termina con consecuencias abrumadoras, como personas que no se vacunan contra el covid-19 y otras enfermedades, interferencia electoral, tensión política y actividades delictivas.
DJ Alok, uno de los músicos más famosos de España en la actualidad, hizo una alerta a su audiencia, mostrando cómo el deepfake puede ser peligroso y engañar a la gente, como se puede ver en el siguiente video que se hizo viral en las redes sociales, donde el dueño de SBT , Sílvio Santos, aparece presentando el Jornal Nacional, programa de la competidora Globo.
Los peligros de las falsificaciones profundas
Si bien la capacidad de intercambiar caras para crear videos sintéticos confiables y realistas tiene algunas aplicaciones benignas interesantes, como su uso en películas y juegos, esta es obviamente una tecnología peligrosa con algunas aplicaciones problemáticas.
Una de las primeras aplicaciones reales de los deepfakes fue, de hecho, crear pornografía sintética (en particular, pornografía de venganza), especialmente para dañar a celebridades y figuras prominentes. Según un informe de Deeptrace, el 96 % de los videos deepfake encontrados en Internet en 2019 estaban relacionados con la pornografía.
La creación de videos educativos divertidos y audiciones personalizadas para sus películas favoritas no son los únicos usos de las falsificaciones profundas. Los videos manipulados por IA tienen un lado más oscuro que se ha vuelto mucho más prominente que sus usos benignos y positivos.
