DEEPFAKE

SJM Computación 4.0 1
FALSEDADES PROFUNDAS
Por: Enmer Leandro R.

INTRODUCCIÓN
La vista es uno de los sentidos en los que más confiamos para entender la realidad. De alguna forma,
creemos más en lo que vemos con nuestros propios ojos, que en lo que nos cuentan o leemos. Pero,
¿qué pasa cuando ya no tenemos la certeza de que lo que contemplamos es real?
Sin tener todavía digeridas las ‘Fake News’, ahora surge esta otra corriente en Internet que intenta
generar vidas paralelas gracias al avance de la tecnología. Aunque en la actualidad lo vemos como
una corriente inofensiva (o incluso divertida), las ‘Deepfakes’ pueden dañar a las personas, las
empresas y a la sociedad en su conjunto ya que pueden provocar mayor desconfianza en los medios
de comunicación.
Hoy en día, en plena era de la información y las comunicaciones, somos testigos de un enorme
avance en los métodos de desinformar y engañar a los usuarios. Comenzó como una broma, una
forma de editar vídeos y poner nuestro rostro en famosos, pero la tecnología deepfake fue
evolucionando hasta convertirse en una de las formas de fraude y desinformación más difíciles de
reconocer a día de hoy.
En los últimos años este tipo de tecnología viene avanzando a pasos agigantados. Incluso hay apps
que le permiten a cualquier usuario, en pocos pasos, crear sus propio contenido donde intercambian
un rostro en el cuerpo de otro y hacen cantar o bailar al personaje a su gusto.
Estas versiones están pensadas para crear parodias pero existen herramientas más sofisticadas aún
basadas en la misma tecnología de aprendizaje profundo que permite crear contenido cada vez más
realista. SJM Computación 4.0 2

DEL FAKE NEWS AL DEEPFAKE
En una era en la que el uso de las redes sociales y la proliferación de las noticias es tan rápido, el
DeepFake supone una evolución de las Fake News, contenidos falsos a modo de noticias que son
difundidos a través de portales y se propagan por las redes sociales como si fueran reales con el
objetivo de desinformar. Además, las fake news llaman la atención porque suelen estar
protagonizadas por instituciones o personajes públicos que han hecho o dicho algo controvertido,
por lo que suelen convertirse en noticias polémicas. En este caso, también suele usarse en política,
para perjudicar al resto de partidos o movimientos ideológicos.
Aunque en muchas ocasiones se llegan a destapar esas mentiras, lo cierto es que las propias fake
news llegan a mucha más gente que los artículos donde se desmienten. Entonces, ¿cómo podemos
combatirlas? En realidad, la respuesta es sencilla: solo hay que utilizar el sentido común.
En primer lugar, es muy importante verificar la fuente de información. Las redes sociales suelen ser
un gran expositor para viralizar este tipo de contenidos. Además, por supuesto, lo más importante es
contrastar la información con medios fiables y, lo más importante, no difundir el contenido a no ser
que se esté 100% de su veracidad.
Los DeepFake, al igual que han hecho las Fake News, están irrumpiendo en nuestra sociedad como
una forma de manipulación que sin duda puede llegar a tener un gran impacto en diferentes áreas
de nuestra sociedad. A medida que la Inteligencia Artificial avanza y que los propulsores de este tipo
de contenidos facilitan su creación con aplicaciones user-friendly, la cantidad de DeepFake y Fake
News van a aumentar exponencialmente en los próximos años.

EJEMPLOS DE DEEPFAKES
La mayoría de los fanáticos de hoy en las plataformas sociales como YouTube o Facebook pueden
verse como una diversión inofensiva o obras artísticas que utilizan figuras públicas vivas o
muertas. Pero también hay ejemplos del lado oscuro de los deepfakes, a saber, el porno de
celebridades y venganza, así como los intentos de influencia política y no política.

DEFINICIONES (I)
Deepfake o ultrafalso es un acrónimo del inglés formado por las palabras fake, falsificación, y deep
learning, aprendizaje profundo. Es una técnica de inteligencia artificial que permite editar vídeos
falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no
supervisados, conocidos en español como RGAs (Red generativa antagónica), y vídeos o imágenes ya
existentes.
Deepfake es una composición de los términos deep learning y fake, es decir: aprendizaje profundo,
una de las ramas de la inteligencia artificial, y la palabra falso. El nombre le viene perfecto, ya que de
lo que os estamos hablando es de una tecnología basada en la Inteligencia Artificial que
consigue superponer el rostro de una persona en el de otra y falsificar sus gestos para hacernos
creer que están haciendo o diciendo algo que no ha pasado en realidad.
Deepfake generalmente se refiere a vídeos en los que la cara y / o la voz de una persona,
generalmente una figura pública, ha sido manipulada utilizando software de inteligencia artificial de
una manera que hace que el vídeo alterado se vea auténtico.
Deepfake viene de Deep Learning, traducido como aprendizaje profundo, una de las corrientes de la
Inteligencia Artificial. En este caso, es el aprendizaje con inteligencia artificial que se utiliza con la
intención de crear contenido falso.
'Deepfakes'. Se trata de una aplicación que utiliza inteligencia artificial para emular la gesticulación
facial sobre un video y a partir de miles de imágenes de una persona obtiene resultados bastante
convincentes. SJM Computación 4.0 5

Los Deepfakes o "falsedades profundas" son archivos de vídeo, imagen o voz manipulados
mediante un software de inteligencia artificial de modo que parezcan originales, auténticos y reales.
Deepfake término inglés proviene de la unión de las palabras “fake”, falsificación, y “deep learning”,
aprendizaje profundo, y se emplea para referirse a contenidos creados a partir de imágenes o audios
ya existentes y que han sido manipulados mediante algoritmos de aprendizaje no supervisados. El
resultado final es un vídeo o un audio más o menos realista, aunque netamente artificial.
Los deepfakes son vídeos manipulados para hacer creer a los usuarios que los ven que una
determinada persona, tanto si es anónima como si es personaje público, realiza declaraciones o
acciones que nunca ocurrieron.
el deepfake es un vídeo manipulado mediante una técnica de inteligencia artificial, la cual permite
editar vídeos de personas que parecen reales, aunque no lo son. Es posible, de este modo,
reemplazar la cara de una persona del vídeo por otro rostro completamente diferente.
Deepfake son animaciones creadas a partir de la cara y la voz de una persona, suele ser una figura
pública, donde mediante manipulación digital hacen ver auténtico un video que, en realidad, fue
alterado. A simple vista, muchas veces no logramos detectarlo porque cada vez suelen ser más
realistas pero la clave siempre está en los pequeños detalles.
Los deepfakes que permiten, por medio del uso de redes neuronales, hacer montajes donde
cuesta distinguir un original de un producto creado artificialmente.
DEFINICIONES (II)

Los deepfakes son vídeos en los que el rostro y/o la voz de una persona (normalmente figuras
públicas), han sido manipulados utilizando software de inteligencia artificial que permite que estos
hagan y digan cosas distintas a las contenidas en el video original. A través de ello se logran efectos
hiperrealistas que generan la sensación de que el vídeo alterado es auténtico.
Deepfake es una tecnología basada en la inteligencia artificial que consigue superponer el rostro de
una persona en el de otra y falsificar sus gestos para hacer creer que están haciendo o diciendo algo
que no ha pasado en realidad.
Los deepfakes son manipulaciones de video hechas con inteligencia artificial que se utilizan con la
intención de generar fotos y videos realistas usando la expresión facial de otra persona.
DEFINICIONES (III)

DEFINICIÓN
DEEPFAKE
DEEPFAKE proviene de los términos deep learning (aprendizaje
profundo), una de las ramas de la inteligencia artificial, y Fake (falso) o
sea falsedades profundas. Es una técnica de inteligencia artificial que
utilizando algoritmos de aprendizaje no supervisados, conocidos como
RGAs (Red generativa antagónica), consigue superponer el rostro de una
persona en el de otra y falsificar sus gestos y/o voz para hacernos creer
que están haciendo o diciendo algo que no ha pasado en realidad.
Los ‘deepfake’ son vídeos manipulados usando técnicas de inteligencia
artificial, que fusionan la cara de una persona con el cuerpo de otra.

Aunque los Deepfakes existen desde finales de 1990, cobraron interés en 2017, cuando un usuario
de Reddit publicó material pornográfico falso con los rostros de varias actrices famosas.
Pero es a partir de 2010 cuando el mundo de las redes neuronales explota gracias a la evolución
tecnológica que supuso el poder utilizar las GPU (Graphics Processing Unit) para realizar los costosos
cómputos que precisan dichos algoritmos.
Comenzaron siendo vídeos porno a los que un usuario de la red Reddit añadía caras de actrices
famosas.
Este hacker utilizaba el alias Deepfake, un término que proviene de las palabras fake (falso) y deep
learning (aprendizaje profundo, una técnica de aprendizaje automático usada en inteligencia
artificial), y lo llamativo del asunto fue que solo necesitó su ordenador personal y el algoritmo de
aprendizaje automático para dar el salto de la manipulación de imágenes fijas al vídeo con
resultados profesionales y extremadamente realistas.
Después de Deepfake, otro usuario llamado Deepfakeapp publicó una aplicación que permitía a
cualquier novato informático manipular vídeos, una herramienta diseñada especialmente para las
llamadas pornovenganzas, es decir, la publicación no autorizada y malintencionada de imágenes
comprometidas de ex-amantes.
En el año 2018, un vídeo en el que un supuesto Barak Obama llamaba imbécil a Trump dio la vuelta
al mundo.
ANTECEDENTES (I)

Se trataba de una grabación falsa en la que el actor Jordan Peele y el CEO de Buzzfeed Jonah Peretti
intentaban concienciar del peligro de la información no verificada y de los deepfake.
Ese mismo año, como indica este artículo de Nobbot, la agencia de noticias china Xinhua presentó la
versión digital de un conocido presentador de noticias, del cual se copiaron los movimientos faciales,
la voz y los gestos: el primer locutor de noticias falso.
El equipo de Deeptrace también se hace eco de dos casos de vídeos falsificados en Gabón y en
Malasia que no han trascendido en Occidente pero que habrían tenido impacto en la esfera política.
Uno estaba relacionado con un intento de golpe de estado militar y es un indicador muy poderoso de
cómo las falsificaciones ya están desestabilizando procesos políticos y pueden poner en riesgo,
incluso, la integridad de muchas democracias del mundo.
En enero de 2020, Facebook prohibió los Deepfakes (excepto los que son claramente parodias), es
decir, todo aquel contenido que había sido alterado con intenciones maliciosas.
Según un estudio del año 2020 efectuado por Deeptrace, actual Sensity, empresa especialista en
ciberseguridad, los vídeos DeepFake no consensuales y dañinos creados por desarrolladores expertos
se duplican aproximadamente cada 6 meses.
El número de vídeos DeepFake detectados hasta diciembre de 2020 asciende a 85.047.
ANTECEDENTES(II)

Existen dos tipos principales de deepfakes, deepfaces y deepvoices.
Vamos a analizar cada uno de ellos.
1.- DEEPFACE
Los Deepfaces son Deepfakes que consisten en crear imágenes convincentes, aunque
completamente falsas, desde cero. El objetivo es generar diferentes imágenes estáticas para crear
una secuencia de vídeo, de modo que, como objetivo final, se obtenga un vídeo falso que parezca
100% real.
Se trata de suponer el rostro de una persona en la otra y falsificar sus gestos.
En algunos casos, el resultado es tan realista que resulta muy difícil identificar el engaño o fraude.
Por medio del aprendizaje automático de la inteligencia artificial, se manipulan y generan nuevas
imágenes o vídeos a partir de otros y se reemplaza a la persona que aparece en ellos.
La animación de imagen tiene como objetivo generar secuencias de vídeo de modo que la persona
en la imagen de origen esté animada de acuerdo con el movimiento de un vídeo.
Esta tecnología se encuentra dentro del campo de la visión por ordenador, y los investigadores de IA
han estado trabajando para producir vídeos más realistas.
Aprovecha el aprendizaje automático para manipular y generar imágenes o vídeos que reemplazan a
una persona por otra.
TIPOS DE DEEPFAKE (I)

2.- DEEPVOICE
Este tipo de Deepfakes suplantan la voz de una persona en un
audio, haciendo que parezca que la persona realmente algo que no
dijo, ya que falsifican su voz real.
Se trataría de unir frases y palabras sueltas utilizadas por una
persona para crear un discurso. Incluso es capaz de clonar la voz
original a partir de estos fragmentos
Hasta hace poco, si le dijéramos esto, pensarían que estábamos
locos. Pero con los medios sintéticos impulsados por la inteligencia
artificial como los deepfakes en aumento, esto ya está comenzando a
suceder.
Tomemos, por ejemplo, el primer delito cibernético del mundo
impulsado por inteligencia artificial que se informó a principios de
septiembre de 2019. Utilizando la tecnología de síntesis de voz, los
cibercriminales pudieron convencer a un ejecutivo de energía para
que pensara que estaba hablando por teléfono con el CEO de su
empresa matriz, engañándolo para que transfiriera más de 250,000
dólares a su cuenta.
TIPOS DE DEEPFAKE (II)

AMENAZAS DE LOS DEEPFAKES
Los deepfakes son una gran amenaza para nuestra sociedad, sistema político y negocios porque:
Presionan a los periodistas que luchan por filtrar las noticias reales de las falsas, amenazan la
seguridad nacional al difundir propaganda e interferir en las elecciones, obstaculizan la confianza de
los ciudadanos hacia la información por las autoridades, y plantean problemas de ciberseguridad
para personas y organizaciones.
Es crear una sociedad de confianza cero, donde la gente no pueda, o ya no se moleste en distinguir la
verdad de la falsedad. Y cuando se erosiona la confianza, es más fácil generar dudas sobre eventos
específicos.
A medida que la tecnología se vuelve más accesible, los deepfakes podrían significar problemas para
los tribunales, particularmente en las batallas por la custodia de los niños y los tribunales de empleo,
donde los eventos falsos podrían ingresarse como evidencia.
Para la Criminología, los Deepfakes pueden suponer también una grave amenaza, ya que, aparte de
todo lo mencionado anteriormente (fraudes, estafas, delitos informáticos, bullying, sextorsión,
etc.) podrían ser utilizados como pruebas verídicas, cuya comprobación resulte extremadamente
difícil, en los tribunales.
Los Deepfakes también suponen un riesgo en la seguridad personal, ya que, en un futuro no muy
lejano, estos archivos podrían utilizarse para engañar a sistemas de reconocimiento facial o de voz,
consiguiendo que la biometría de control de accesos cada vez sea menos eficaz y fiable.

Las Deepfakes se consideran una fuente de preocupación porque a menudo se las utiliza para inducir
a error intencionalmente, como hacer que parezca que un político dijo algo que no dijo, o hacer que
parezca que una celebridad estaba en un vídeo pornográfico en el que no estaba con el fin de dañar
la imagen de una persona y durante las campañas electorales con fines políticos.
Según el último informe elaborado por Deeptrace, el 96% de los vídeos falsos siguen siendo de
carácter pornográfico, pero más allá del agravio personal que supone una pornovenganza, otro de
los grandes problemas de los deepfakes es su uso para manipular la información, con consecuencias
que pueden ser mucho más graves que una noticia falsa.
Ya se sabe: una imagen vale más que mil palabras, es más real, y un vídeo se puede viralizar por
todo el mundo en cuestión de minutos.
Al principio, los vídeos falsos se utilizaban principalmente para crear clips divertidos de actores y
otras personas conocidas o en videojuegos.
El nivel de precisión y verosimilitud de los deepfakes, los cuales mejoran constantemente a un ritmo
muy elevado, hace que cada vez sea mucho más difícil de diferenciar un vídeo, una imagen o un
audio falso de uno de real, porque mientras difundir información falsa es mucho más sencillo,
comprobar y autentificar la información cierta es bastante más complicado.
"Los deepfake son un medio muy poderoso de desinformación porque la gente todavía tiende a
creer lo que ve".
PELIGROS DEL DEEPFAKE

REACCIONES AL PELIGRO DE LOS DEEPFAKES (I)
Estas preocupaciones ya dispararon algunas reacciones.
China prohibió la difusión de deepfakes sin su correspondiente advertencia.
Estados Unidos (California) prohibió su utilización con fines políticos en periodos electorales.
Estados Unidos ha puesto en marcha el proyecto Media Forensics (MediFor) desde DARPA ( Defense
Advanced Research Projects Agency) para la investigación y desarrollo de tecnologías capaces de
certificar la autenticidad de una imagen o vídeo, y de detectar automáticamente las manipulaciones.
Existen diferentes desarrollos para ayudar a identificar este tipo de engaños.
Una de las más recientes fue desarrollada por investigadores de la Universidad de Buffalo.
Se trata de una sistema que identifica automáticamente las fotos falsas analizando los reflejos de luz
en los globos oculares de los usuarios retratados y tiene, según sus creadores, un 94% de efectividad.
Facebook creó un fondo de 10 millones de dólares para desarrollar herramientas que detecten
rápidamente las imágenes falsas. El 'Deep Fake Detection Challenge' de Facebook da sus primeros
resultados: su mejor algoritmo tiene un 65% de precisión
Facebook es una de las tantas compañías que trabaja en la creación de herramientas para detectarlos,
y en las últimas horas dio a conocer avances notorios.
La red social se alió con la Universidad Estatal de Michigan (MSU) para desarrollar un método que no
solamente pretende identificar deepfakes, sino también rastrear su origen. Para ello se apoya en la
ingeniería inversa. ¿Qué significa esto? Que a partir del análisis de una imagen, la tecnología puede

REACCIONES AL PELIGRO DE LOS DEEPFAKES (II)
determinar si fue generada artificialmente y detectar qué modelo generativo que se usó para
producirla.
El método de Facebook todavía se encuentra bajo desarrollo y está lejos de una implementación real
o masiva. De todas maneras, representa un paso al frente importante ante una problemática
creciente.
Microsoft, por su parte, acaba de presentar su «Video Authenticator», una herramienta para detectar
deepfakes. E incluso apareció Sensity, la «primera compañía de inteligencia sobre amenazas
visuales», que combina monitoreo y detección algorítmica de deepfakes.
En enero de 2020, Facebook anunció una prohibición de deepfakes (excepto los que son claramente
parodia o sátira), aunque la compañía fue criticada por no ir lo suficientemente lejos para combatir lo
que están siendo llamados falsificaciones baratas. En general, se refieren al contenido que se ha
alterado con intenciones maliciosas.
La Unión Europea no se ha tomado el problema a la ligera. Proyectos de financiación como Horizonte
Europa fomentan la investigación de vídeos falsos. "Esperamos ver más toques de atención de la UE
sobre deepfakes en los próximos años", señala Marcel. Desde el punto de vista técnico, hacer frente a
las falsificaciones profundas significa ser proactivo y centrarse en las vulnerabilidades de los sistemas.
Afortunadamente, grandes compañías como Facebook, Twitter y Google (mediante la herramienta
Assembler) están tomando cartas en el asunto para poner freno a este tipo de contenidos multimedia
falsos. SJM Computación 4.0 16

CONSEJOS PARA PROTEGERSE DE LOS DEEPFAKES(I)
Existen cuatro formas de combatir los deepfakes que analizamos a continuación.
1.- Legislación y regulación
La legislación y la regulación son medios obvios contra los deepfakes. En la actualidad, las leyes civiles
o penales no abordan específicamente los deepfakes, aunque los expertos legales han sugerido
adaptar las leyes actuales para cubrir difamación, fraude de identidad o suplantar a un funcionario
del gobierno que utiliza los deepfakes.
La creciente sofisticación de las tecnologías de IA exige nuevos tipos de leyes y marcos regulatorios.
Por ejemplo, los deepfakes plantean preocupaciones sobre la privacidad y los derechos de autor, ya
que las representaciones visuales de las personas en los vídeos de deepfake no son copias exactas de
ningún material existente, sino más bien nuevas representaciones generadas por AI.
Los reguladores deben navegar un panorama legal difícil en torno a las leyes de libertad de expresión
y propiedad para regular adecuadamente el uso de la tecnología deepfake.
Por otro lado, una solución legal adecuada para la proliferación de deepfakes nocivos no sería una
prohibición total de la tecnología, lo que sería poco ético. Si bien se pueden introducir nuevas leyes
para evitar deepfakes, también necesitan mecanismos de aplicación.
Las empresas de redes sociales de hoy en día disfrutan de una amplia inmunidad para el contenido
que los usuarios publican en sus plataformas. Una opción legislativa podría ser que no solo los
usuarios sino también las plataformas sean más responsables del material publicado.

2.- Políticas corporativas y acción voluntaria
Las políticas corporativas y la acción voluntaria pueden proporcionar herramientas más efectivas
contra los deepfakes. Por ejemplo, los políticos pueden comprometerse a no utilizar tácticas ilícitas
de campaña digital o difundir desinformación como deepfakes en sus campañas electorales.
Si bien pocas empresas de redes sociales tienen políticas aún sobre deepfakes, deberían colaborar
para evitar que sus plataformas sean usadas para la desinformación y, por lo tanto, aplicar
proactivamente políticas transparentes y compartidas para bloquear y eliminar los deepfakes.
Actualmente, muchas empresas no eliminan el contenido en disputa, sino que lo reducen para que
sea más difícil de encontrar, al ser menos prominente en las noticias de los usuarios.
Por otro lado, el aumento en el discurso de odio, las noticias falsas y la desinformación de las
plataformas digitales contaminantes ha llevado a algunas empresas a tomar más medidas, como
suspender las cuentas de los usuarios e invertir en tecnología de detección más rápida.
Reddit y Pornhub han prohibido el porno falso y otras pornografías no consensuadas, y actúan
cuando los usuarios señalan dicho material. Facebook corta cualquier contenido identificado como
falso o engañoso por verificadores de hechos de terceros que publican anuncios y ganan dinero; La
compañía trabaja con más de 50 organizaciones de verificación de hechos, académicos, expertos y
formuladores de políticas para encontrar nuevas soluciones. Los algoritmos de Instagram no
recomendarán a las personas que vean contenido marcado como “falso” por los verificadores de
hechos.
CONSEJOS PARA PROTEGERSE DE LOS DEEPFAKES (II)

CONSEJOS PARA PROTEGERSE DE LOS DEEPFAKES (III)
3.- Educación y capacitación
La educación y la capacitación son cruciales para combatir los deepfakes. A pesar de la considerable
cobertura de noticias y las inquietudes presentadas por las autoridades, la amenaza de deepfakes aún no
ha sido considerada por el público.
En general, existe la necesidad de aumentar la conciencia pública sobre el potencial de mal uso de la IA.
Mientras que los deepfakes proporcionan a los ciberdelincuentes nuevas herramientas para la ingeniería
social, las empresas y organizaciones deben estar en alerta máxima y establecer planes de ciber-resiliencia.
Los gobiernos, los reguladores y las personas deben comprender que el vídeo, a diferencia de las
apariencias, puede no proporcionar una representación precisa de lo que sucedió, y saber qué pistas
perceptivas pueden ayudar a identificar deepfakes.
Estas habilidades también deberían promoverse entre la población mayor y menos conocedora de la
tecnología. La razón de esto es que las personas necesitan poder evaluar críticamente la autenticidad y el
contexto social de un vídeo que desean consumir, así como la confiabilidad de su fuente, para comprender
la verdadera intención del vídeo. Además, las personas deben comprender que a medida que se desarrolle
la tecnología, se necesitarán menos fotografías de caras reales para crear falsificaciones profundas y que
nadie es inmune. Cualquiera que publique una sola foto o un vídeo que capture 30 cuadros por segundo
en un sitio de redes sociales corre el riesgo de ser falsificado.
Las empresas, los gobiernos y las autoridades que utilizan tecnología de reconocimiento facial y almacenan
grandes cantidades de datos faciales con fines de seguridad y verificación, deben abordar la amenaza del
robo de identidad en caso de que se filtren dichos datos.

CONSEJOS PARA PROTEGERSE DE LOS DEEPFAKES (IV)
4.- Tecnología anti-deepfake
La tecnología anti-deepfake proporciona quizás el conjunto más variado de herramientas para:
detectar deepfakes, autenticar contenido y evitar que el contenido se use para producir deepfakes.
En general, los problemas de la tecnología para autenticar el contenido e identificar falsificaciones lo
están haciendo a escala, y el hecho de que hay muchos más recursos de investigación disponibles y
personas que trabajan en el desarrollo de tecnología para crear deepfakes que en la tecnología para
detectarlos.
Por ejemplo, los usuarios cargan 500 horas de contenido por minuto en YouTube. Twitter lucha con 8
millones de cuentas a la semana que intentan difundir contenido a través de tácticas manipuladoras.
Esto crea enormes desafíos para que las tecnologías revisen todo el material publicado en poco
tiempo.
Los desarrolladores de deepfake tienden a usar los resultados de la investigación de deepfake
publicada para mejorar su tecnología y sortear nuevos sistemas de detección.
Por ejemplo, los investigadores descubrieron que los primeros métodos de deepfake no podían
imitar la velocidad a la que una persona parpadea; mientras que los programas recientes han
solucionado la falta de parpadeo o parpadeo no natural después de que se publicaron los hallazgos.
Si bien la financiación para el desarrollo de la detección de deepfakes proviene principalmente de
agencias de seguridad nacional, existen oportunidades comerciales significativas para que las

CONSEJOS PARA PROTEGERSE DE LOS DEEPFAKES (V)
compañías privadas de ciberseguridad produzcan software para la detección de deepfakes,
construyan plataformas confiables, eliminen bots ilícitos y luchen contra el fraude y la contaminación
digital.
Sin embargo, el desarrollo de la tecnología anti-deepfake por sí solo no es suficiente. Las
organizaciones también deben adoptar estas tecnologías; Por ejemplo, el gobierno de cualquier país
puede modernizarse para enfrentar y ayudar a proteger a sus ciudadanos contra los deepfakes.
Ninguna de las soluciones tecnológicas puede eliminar por completo el riesgo de deepfakes, y el
solucionismo tecnológico puede incluso desorientar la discusión de preguntas más existenciales
sobre por qué existen deepfakes y qué otras amenazas puede imponer AI.
Por lo tanto, las formas más eficientes para combatir la propagación de las falsificaciones profundas
implican una combinación de avances legales, educativos y sociotécnicos.

Existen “Deepfakes programs” que realizan las imágenes manipuladas sin prácticamente ninguna
intervención, gracias a un software especializado de inteligencia artificial y edición audiovisual.
PRIMERA FORMA ( CODIFICADORES AUTOMATICOS)
Estos programas de Deepfakes realizan, con un algoritmo codificador de inteligencia artificial,
miles de fotografías de las dos personas a través de un algoritmo de IA llamado codificador.
El codificador analiza las similitudes entre las dos caras y las reduce a características compartidas.
Viene a ser una especie de "analogía antropomórfica". Comprimiendo las imágenes en el proceso.
Un segundo algoritmo (un decodificador) de inteligencia artificial decodifica las imágenes para
recuperar la información de los rasgos faciales en ambas caras. Como los dos rostros son diferentes,
será necesario utilizar dos decodificadores diferentes, uno para cada imagen.
A continuación, se introducen las imágenes codificadas en el decodificador incorrecto, es decir, se
intercambian las imágenes con el decodificador de la otra imagen. El decodificador, por tanto, debe
reconstruir la imagen que se quiere crear con las expresiones faciales y movimientos de la otra
imagen que este decodificador en concreto se ha encargado de recuperar.
De esta forma, el vídeo resultante parece ser 100% real.
Por ejemplo, una imagen de la cara de la persona A se alimenta al decodificador capacitado en la
persona B. El decodificador luego reconstruye la cara de la persona B con las expresiones y la
orientación de la cara A para un video convincente.
MODOS DE REALIZAR UN DEEPFAKE (I)

SEGUNDA FORMA (REDES DE CONFRONTACIÓN GENERATIVA- GAN)
Otra forma de hacer deepfakes utiliza lo que se llama una red de confrontación generativa, o Gan.
Un Gan enfrenta dos algoritmos de inteligencia artificial uno contra el otro.
El primer algoritmo, conocido como generador, recibe ruido aleatorio y lo convierte en una imagen.
Esta imagen sintética se agrega a una secuencia de imágenes reales, de celebridades, digamos, que
se introducen en el segundo algoritmo, conocido como discriminador.
Al principio, las imágenes sintéticas no se verán como caras. Pero si repites el proceso innumerables
veces, con comentarios sobre el rendimiento, el discriminador y el generador mejoran.
Dados suficientes ciclos y comentarios, el generador comenzará a producir rostros completamente
realistas de celebridades completamente inexistentes.
La mayoría de los Deepfakes se originan mostrando al algoritmo muchas imágenes de una persona,
que luego usa para generar nuevas imágenes faciales. El resultado es un archivo de vídeo, casi
siempre, en el que aparece una persona que se parece y habla igual que la persona real sin serlo.
Las GANs tienen muchos otros usos además de hacer videos falsos y poner palabras en la boca de los
políticos. Las GANs son un gran avance en lo que se conoce como «aprendizaje no supervisado”,
cuando los modelos de aprendizaje automático se enseñan a sí mismos. Esto es muy prometedor
para mejorar la capacidad de los vehículos autónomos para reconocer a peatones y ciclistas, y para
hacer que los asistentes digitales activados por voz como Alexa y Siri sean más conversacionales.
MODOS DE REALIZAR UN DEEPFAKE (II)

MODOS DE REALIZAR UN DEEPFAKE (III)

El deepfake puede tener muchos usos. Desde el uso didáctico o de aprendizaje, pasando por el
entretenimiento, logrando que nuestros amigos hagan o digan cosas graciosas en un vídeo.
No obstante, puede tener usos ilegales y peligrosos. Se crea falsa información acerca de alguien con
el fin de dañar su imagen personal.
POSIBLES USOS DEL DEEPFAKES

USOS POSITIVOS DE LOS DEEPFAKES (I)
Los deepfakes, aunque normalmente se utilicen con intenciones fraudulentas, también ha habido
personas que han querido aprovechar este nuevo avance tecnológico para aportar cosas buenas y
útiles en la sociedad.
Ámbito cinematográfico
En un momento donde un actor o actriz se quedara sin voz en un rodaje, en vez de haber que
detenerlo hasta que esa persona se recuperara, se podría simular su voz a partir de àudio deepfakes.
Por otro lado, también se podrían corregir errores de escenas en la etapa del montaje, modificando
un rostro o movimientos de una persona por otros, en caso que no fueran los deseados. Hasta se
podría conseguir realizar películas con actores que ya hubieran fallecido o doblajes de forma
automática y en cualquier lengua, aunque eso supondría la eliminación del trabajo de los actores de
doblaje y sería muy grave.
Ámbito educativo
Un ejemplo sería la exposición permanente de arte titulada Dalí Lives, que se creó el 2019 en el Dalí
Museum a St. Petersburg, Florida. Antes de morir, el mismo Dalí en una entrevista afirmó:
“Generalmente yo creo en la muerte, pero en la muerte de Dalí, claramente no”. Así pues, se puede
ver en esta exposición como hacen realidad su opinión reviviendo al pintor con
un deepfake construido a partir de unos 6.000 fotogramas existentes de entrevistas suyas, 1.000
horas de aprendizaje automático para que el algoritmo de inteligencia artificial reprodujera con

USOS POSITIVOS DE LOS DEEPFAKES (II)
precisión el rostro de Dalí en diferentes posiciones, falseando las expresiones faciales a través de un
actor, y la voz realizada por un doblador profesional capaz de imitar el acento particular de Dalí. La
novedad no solo es que a partir de esa tecnología se pueda mostrar el pintor vivo en la actualidad,
sino que además se pueda dotarlo de tal inteligencia artificial que pueda ser capaz de interactuar con
el público, casi como si fuera un dispositivo Alexa.
Ámbito social
Se podría utilizar deepfakes para ayudar a las personas a enfrentarse con la pérdida de seres
queridos, reviviéndolos durante unos minutos para así permitir a los familiares despedirse del difunto
definitivamente, en caso que no hubieran hecho en el momento adecuado. Además, también habría
la posibilidad de poder ayudar a personas con Alzheimer a interactuar con rostros jóvenes que
podrían recordar de otras épocas de su vida. Respeto al audio, aquellas personas que por culpa de
alguna enfermedad hubieran perdido su voz, se les podría volver a crear para que pudieran
interactuar verbalmente con la gente.
Ámbito empresarial
El deepfakes en el ámbito empresarial la posibilidad que uno pudiera probarse la ropa por internet a
través de un personaje artificial creado a partir de un deepfake con las propias proporciones, figura,
etnia y rostro del cibernauta, elemento que sería totalmente revolucionario y útil en el comercio
electrónico (e-commerce). Por otro lado, en los videojuegos, el audio deepfake ha supuesto un gran
avance en la mejora de su contenido. SJM Computación 4.0 27

USOS POSITIVOS DE LOS DEEPFAKES (III)
Ámbito publicitario
El uso de la tecnología deepfake en el ámbito promocional donde el contexto no sea tan evidente, y
en los que, es posible que el consumidor dude si el protagonista del vídeo dijo o hizo lo que se
observa en el anuncio, sí sería recomendable incluir un aviso mediante una leyenda sobreimpresa
donde se advirtiese que se trata de una ficción publicitaria.
En conclusión, el uso de la tecnología deepfake abre un innumerable abanico de posibilidades para la
industria publicitaria. No obstante, es importante que el uso del deepfake se someta a la normativa
en materia publicitaria y, en particular, que respete el principio de veracidad a fin y efecto de
garantizar que el contenido publicitario es leal, transparente y lícito.
MegaFon, una de las operadores de telefonía rusa, ha fichado a
Bruce Willis para protagonizar un spot en el que el actor
estadounidense se mete en la piel (por enésima vez) de un héroe
que salva al mundo de malos malísimos. Sin embargo, para filmar el
anuncio, Bruce Willis no tuvo que pisar set de rodaje alguno. Se
limitó a poner su rostro (de hace más de 30 años).
El spot se grabó en realidad mediante la tecnología de moda, el
«deepfake». Y el intérprete se limitó a firmar un contrato para ceder
sus derechos de imagen a MegaFon y a cobrar los emolumentos
especificados (sin ningún otro esfuerzo interpretativo por su parte).

Cómo hacer un DeepFake con FakeApp
Ahora bien, si quieres hacer un DeepFake de manera sencilla y rápida, es decir en algunas horas,
podrás hacerlo a través de FakeApp, una aplicación para Windows totalmente gratuita. La app
analiza cientos de imágenes para luego crear un video falso del tipo que quieras.
Lo primero que hay que hacer es descargar el programa , se debe remarcar que es un programa de
terceros por lo que hay que tener ciertos recaudos. La descarga puede tardar algunos minutos ya
que el archivo comprimido pesa aproximadamente 1,4 GB.
Una vez en tu computadora, solo es cuestión de descomprimir el archivo en la localización que
prefieras. Luego, se debe tomar el contenido que está dentro de la carpeta “Core” y copiarlo en la
siguiente ruta: Disco local (C:) > Usuario > [Tu usuario] > AppData > Local > FakeApp > app-2.2.0 >
resources > api. Por último, solo queda ejecutar la aplicación y crear el DeepFake siguiendo unos
simples pasos.
CÓMO HACER UN DEEPFAKE CON APP FAKEAPP (I)

Paso 1: Extracción
Como mencionamos anteriormente, para crear un
DeepFake se necesitan cientos de imágenes para que
el software analice. La mejor forma de obtenerlas es
a través de un video ya que FakeApp se encargará de
extraer cuadro por cuadro de manera automática.
Solo es cuestión de escribir la dirección del archivo en
el apartado Video, luego pulsar en Extract y por
último localizar las imágenes en dataset-video >
extracted.
Paso 2: Entrenamiento
FakeApp tendrá que analizar todas estas imágenes
para poder crear un deepfake. Nosotros solo
tendremos que colocar las rutas de los archivos del
sujeto A, del sujeto B y del video final. Al hacer clic
en Train, el software comenzará a trabajar, la
duración del proceso dependerá de la potencia de
nuestra computadora.
CÓMO HACER UN DEEPFAKE CON APP FAKEAPP (II)

Paso 3: Creación
Lo último que tendremos que hacer
será configurar algunos parámetros
en la pestaña Train. En primer lugar
se debe indicar la dirección de la
carpeta Model, en la cual se crearon
diferentes ficheros. Luego, elegir la
localización del video que vamos a
utilizar y los cuadros por segundo.
Por último, pulsar Create y esperar a
que FakeApp haga lo suyo.
Cuando el proceso finalice, una
notificación nos indicará dónde
podremos visualizar el video. Si todo
salió bien, nuestro DeepFake será
similar al del video que se muestra
arriba.
CÓMO HACER UN DEEPFAKE CON APP FAKEAPP (III)

CÓMO HACER UN DEEPFAKE CON APP FAKEAPP (IV)
Ejemplos:

Actualmente, existen muchas páginas web y apps que sirven para crear deepfakes, pero no todas
pueden crearlos con la calidad que deseamos o con la facilidad necesaria. Todo depende de lo que
deseemos. Así que hemos decidido hacer una selección de varias páginas o apps que mejor se
pueden adaptar a tus necesidades:
Si quieres entretenerte poniendo tu cara en fragmentos de películas, memes y lugares similares, no
te pierdas estas aplicaciones para crear deepfakes sencillos desde el móvil y en PC.
APPS PARA CREAR DEEPFAKES

ZAO APP: la app de deepfakes más popular del momento
Todos los expertos están de acuerdo en que ZAO es la mejor app deepfake actualmente. Es china y
utiliza inteligencia artificial. Consigue hacer deepfake completamente realistas con tan solo una foto
y apenas 8 segundos. Serás el nuevo protagonista de tu peli o serie favorita.
Eso sí, no puedes utilizar cualquier vídeo que encuentres en la web.
Zao funciona con clips de vídeo predeterminados donde añadir tus fotos. También tiene clips de
videojuegos para que la diversión nunca falte.
La app la encuentras en la Store de Huawei o la Mi Store. Y aunque solo está disponible en chino.
¿Y Zao en iPhone? es posible descargarla desde App Store, pero también en chino y es gratuita.
Destaca por contar con un buen número de clips listos
para usar y por hacer bien el trabajo de integrar la
cara en los vídeos, incluyendo las expresiones faciales.
Es la app perfecta para crear deepfakes con rapidez y
facilidad. Solo puedes usar imágenes o videoclips de la
librería de la app. Seleccionas una y dejas que Zao
haga el trabajo. Es perfecto para obtener unos
momentos de entretenimiento a costa de nuestras
amistades, sin gastar mucho esfuerzo.

Deep Nostalgia
Permite dar vida a las imágenes utilizando tecnología de vanguardia deepfake, cuenta con un
algoritmo de inteligencia artificial que transforma sin esfuerzo imágenes de un amigo, familia, o
quien sea, en videos rápidos y expresivos. Permite ver a las personas en las fotos familiares antiguas
(en blanco/negro), parpadear, mover la cabeza y sonreír.
Esta herramienta es completamente online y podéis acceder a ella a través de la web de
MyHeritage y, como avisan desde la propia empresa, "nuestros videos no incluyen voz para evitar el
abuso de esta función, como la creación de videos 'profundamente falsos' de personas vivas.
Los usuarios que no pagan pueden seguir disfrutando del
uso de Deep Nostalgia ™ con las animaciones generales y
crear varias animaciones de forma gratuita. Si desea
probar animaciones especiales o animar un número
ilimitado de fotos, necesitará el plan completo de
MyHeritage.
Deep Nostalgia ahora puede animar las fotos antiguas
para que las personas bailen, den besos, guiñen,
suspiren y más Esta función se basa en diferentes
secuencias de gestos que se pueden aplicar a una foto,
cada uno de los cuales se origina en un video de
controlador pregrabado. SJM Computación 4.0 35

DOUBLICAT (AHORA REFACE)
Siguiendo con las apps para Android e iOS, Reface realmente es una herramienta para faceswap,
pero que hemos incluido en esta selección puesto que utiliza la tecnología deepfake. Esta app es
gratuita con planes de pago opcionales y se puede instalar directamente desde Google Play.
Es una app diseñada para modificar archivos gif. Es muy popular y fácil de usar. Solo debes buscar
cualquier gif y hacer que Reface lo combine con una imagen de la cara que elegiste. La app hará el
resto y creará un gif personalizado con la cara de tu elección, mostrando las expresiones originales
del gif. El resultado no es profesional, pero si muy divertido. Además, te permite enviar el gif
personalizado, compartir con otras aplicaciones como WhatsApp, Telegram o Instagram o bien
guardarlo en formato vídeo o GIF en la memoria de tu móvil.
Solamente necesitas una foto tuya
(preferentemente un selfie) y elegir dónde la
quieres colocar. Simplemente eliges un video
corto y pones tu cara en él.
El resultado no es tan bueno como en Zao, pero
sigue siendo igual de hilarante o más, pues las
expresiones faciales hacen más gracia cuando
fallan que cuando funcionan bien.

DEEP FACE LAB (GITHUB)
De todas las apps deepfakes gratuitas, es una de las más avanzadas. Como fue creada por
investigadores y estudiantes tiene una interfaz complicada, puede ser difícil de aprender a manejar.
Es bastante poderoso, nos permite hacer cualquier sustitución por encima del cuello. E incluso
podemos envejecer a la persona. Tiene la desventaja de consumir muchísimos recursos del sistema
por lo que necesitas un equipo poderoso para ejecutarlo. Si queremos aprender sobre lo que
podemos hacer con un Deepfake, DeepFaceLab es el sitio apropiado.
¿Un programa para hacer deepfakes en Windows y Linux? Es un software líder dentro de esta
categoría. Empezó a funcionar en 2018 y desde entonces ha tenido distintas mejoras en su interfaz y
experiencia de usuario.
Al igual que otras webs, softwares o apps
deepfake, tendrás que trabajar y tomarte tu
tiempo en las imágenes para que el resultado
sea perfecto. Por eso, desde el propio
software recomiendan el uso de programas
como AfterEffects o Davince Resolve.
El servicio es gratuito y hay diferentes planes
premium que añaden más funciones.

DEEPFAKES WEB Β
Sin duda alguna, esta herramienta deepfake en versión web es una de las más completas.
Y es que gracias a la inteligencia artificial y los algoritmos de machine learning, brinda resultados
óptimos en vídeos y fotos. Su uso es muy sencillo: sube tu vídeo y espera a que el sistema complete
la transformación. Uno de sus puntos fuertes es que solamente tú tendrás acceso a los resultados,
mientras que toda la información estará guardada en la nube. Entre otras cosas, podrás reutilizar tu
modelo e ir aprendiendo y mejorando.
Según la herramienta, para que un deepfake se complete desde cero se necesitan unas 4 horas. Pero
si utilizas modelos anteriores, con media hora es suficiente. Eso sí, tiene un coste de 2 USD por hora.
Utiliza el aprendizaje profundo para absorber las
diversas complejidades de los datos faciales. Aunque
utiliza una potente GPU en la nube, puede llevar
horas procesar todos los datos. Continúa mostrando
que crear videos deepfake no es un juego de niños y
ver a Zao hacerlo en segundos es realmente
revolucionario. De todos modos, si desea probar el
video deepfake para la investigación en visión por
computadora, puede optar por Deepfakes web B

MachineTube
MachineTube, una herramienta online para realizar DeepFake sin descargar ningún software ni app.
Podrás utilizar cualquier vídeo que quieras (tuyo, de youtube o de la webcam del ordenador).
Cuenta con diferentes modelos para elegir. ¿Donald Trump y Kevin Spacey? ¿Putin y Cage? ¡Juega,
prueba y diviértete! En resumen, un software sencillo pero que cumple de sobras con su cometido.
Este sitio web hace todo el trabajo por ti, ya que solo debes subir la imagen que quieres editar y
elegir una de las plantillas de la página web y ya Machine Tube te da el resultado.
Solo debes subir la imagen que quieres editar
y elegir uno de los modelos de la base de datos de
Machine Tube. Ya el sitio hace el resto. Los cálculos
se hacen en tu propio equipo, lo que implica que
necesitas una muy buena tarjeta de vídeo si quieres
que el trabajo se efectúe rápido. Además, el
resultado final no se guarda en la nube sino en tu
disco duro.

Jiggy – Deepfake GIF Make
Esta app de deepfake está destinada a hacer bailar a cualquiera; amigos, familiares o personas
famosas. Dispone de más de 100 bailes distintos y divertidos, pudiendo aplicarlos de forma sencilla e
inmediata, sin necesidad de edición manual.
Con Jiggy es posible convertir fotos antiguas en vídeos de baile, compartir las creaciones
directamente en redes sociales y hacer GIF divertidos que pueden ser utilizados en chats.
La app para crear deepfake de bailes está disponible tanto para dispositivos iOS como Android, es
perfecta para bromear y trollear a los amigos.
Jiggy es otra aplicación que te permite aprovechar la
tecnología deepfake para divertirte. También escanea la parte
superior de su cuerpo para que pueda superponerlo con
precisión al personaje que baila. La app también personaliza la
salida con lo que la persona esté usando en la imagen.
Al igual que Reface, Jiggy también anima tus expresiones y
movimientos faciales. Puede descargar Jiggy en
su iPhone , iPad o dispositivo Android de forma gratuita. Sin
embargo, si desea más plantillas de baile y videos sin marcas
de agua, tendrá que actualizar a una suscripción premium.

FACESWAP
Esta página web te permite poner otra cara sobre la del
personaje original de un vídeo. Es la única app deepfake de
código abierto. Se recomienda para aprender y entrenarse.
Tiene una comunidad de soporte amplia y amigable
dispuesta a responder nuestras preguntas y dudas. Además
de que existen gran cantidad de tutoriales y guías de todos
los niveles. Ideal para usuarios novatos hasta para el más
experto. Funciona en PC (Windows o Linux) y Mac. Es una
herramienta de deepfake online desarrollada por Python,
Keras y Tensorflow. A diferencia de las apps para móviles,
FaceSwap usa una red neuronal al realizar los cambios en
las fotos. Esta aprende con cada trabajo, mejorando los
resultados poco a poco. El procesamiento de las imágenes
puede variar mucho. Los modelos con más calidad pueden
tardar de 12 a 48 horas. Necesitas tener una tarjeta gráfica
para que funcione. Por otro lado, se recomienda usar 2GB
de RAM como mínimo y una Nvidia GTX 1080 como
máximo.

MORPHIN
se adelantó un poco a su tiempo, pues se lanzó oficialmente en 2018. Técnicamente no son
deepfakes, aunque el resultado es similar. En lugar de integrar tu cara en un vídeo existente, la
aplicación cuenta con versiones 3D de memes populares y puede poner tu cara en ellos.
El resultado no es tanto un vídeo fotorrealista con tu cara, sino más bien una animación GIF
personalizada en la que tú eres el protagonista. Por supuesto, después de generar tu vídeo, lo
puedes compartir con otras aplicaciones.
Si quedas satisfecho con los deepfakes creados
con Morphin podrás difundirlos a través de otras
aplicaciones gracias al menú Compartir de iPhone y
Android. Así, tendrás ocasión de compartir
tus deepfakes en WhatsApp, Instagram o donde quieras.
El único defecto de Morphin es que la mayoría
de deepfakes o face swaps acaban siendo animaciones
3D más que imagen real. Tampoco se le puede pedir más.
Relacionado con Morphin encontramos la página
web AvengeThem, que permite añadir tu cara a escenas
de las películas de la saga Avengers de Marvel. En tan
solo tres pasos. SJM Computación 4.0 42

FAMILIAR
Es un concepto muy similar a Reface. La aplicación te presenta una serie de vídeos cortos sacados de
GIPHY y tú puedes hacerte una foto e integrar tu cara en ellos. Al menos en aquellos que cuenten
con un protagonista humano. El resultado depende mucho del clip de vídeo que elijas y de cómo te
hagas la foto, por lo que puede ir de muy bueno a un auténtico desastre. Sea como fuere, la app te
garantiza pasar un buen rato entretenido probándote GIF animados y compartiéndolos con tus
amigos.
Es otra app móvil con la que realizar deepfakes o face
swaps colocando tu cara en animaciones GIF.
Disponible para iPhone y Android. Eliges tu cara a
partir de una fotografía guardada o realizada al
momento y luego la combinas con un GIF de entre los
que ofrece la propia aplicación.
El resultado puede variar. En ocasiones deberás
intentarlo varias veces hasta lograr un deepfake en
condiciones. En cualquier caso, te vas a echar unas
risas experimentando con Familiar.

REFLECT
Reflect face swap es la primera aplicación automatizada de intercambio de rostros realista basada en
inteligencia artificial y aprendizaje automático.
Nuestra aplicación puede intercambiar cualquier rostro, incluidos
los de estatuas, pinturas, dibujos animados y personajes de
videojuegos.
Reflect es otra opción realmente interesante. Y es que con esta
aplicación puedes intercambiar tu cara en todas las imágenes que
quieras. El procedimiento es muy sencillo; solamente necesitarás
una foto.
Se consigue una fotografía completamente realista con tan solo 3
clics. También podrás utilizarla para pinturas o videojuegos, hacer
memes y convertirte así en la sensación del momento.
Esta app deepfake ofrece un sinfín de posibilidades. E incluso ha
sido utilizada por el empresario Elon Musk, director de Tesla.
Es exclusiva para iPhone (ya que fue retirada de Google Play)
Esta aplicación en vez de poner tu cara en un vídeo, la pone en una
foto.

WOMBO.IA
Viene en forma de una aplicación para iPhone o Android. Todo lo que una persona debe hacer para
convertir a alguien en cantante es descargar la aplicación, elegir su imagen o tomar una nueva, elegir
una canción de una lista limitada y luego dejar que la aplicación haga el trabajo.
En 2021 la aplicación que convierte tus selfies en impresionantes actuaciones de lip-sync.
Es decir, subes una foto, eliges una canción y recibes un vídeo de esa persona cantando.
El servicio es increíblemente simple y permite a cualquiera participar
en lo que parece ser una tendencia creciente de deepfakes. Dichas
herramientas utilizan un algoritmo de inteligencia artificial y el
aprendizaje automático para detectar las partes de una cara que
necesitan ser animadas y moverlas al compás de la música.
En lugar de ganar dinero vendiendo o usando datos personales,
Wombo funciona como un servicio "freemium" que empuja a las
personas a pagar para registrarse y obtener su gama completa de
funciones.
Los resultados de Wombo son bastante buenos e incluso cuando no
lo son, las risas están aseguradas. La aplicación incluye varias
canciones populares para elegir.

FACEAPP
Es una app gratuita que nos permite editar tanto
imágenes como vídeos. Esta aplicación disponible
en Play Store. Es muy fácil de usar. Nos
permite cambiar parámetros como la edad, sexo y
cualquier otra característica facial, Faceapp fue
desarrollada en Rusia y sus creadores la
promocionan como una de las más avanzadas.
Se considera como una de las más populares,
llegando a ser muy reconocida en distintas
comunidades de Internet
Además de los cambios de sexo y edad, FaceApp
permite 'maquillar' una foto, cambiar peinados,
ampliar sonrisas y ajustar valores como el brillo, el
contraste o el balance de blancos. Cuestión de
cada cual decidir si estos retoques compensan los
riesgos expuestos.

DEEPNUDE: APP QUE CREA DESNUDOS EN MUJERES (I)
DeepNude app es una de las aplicaciones que está dando de qué hablar por su polémica inteligencia
artificial capaz de «mostrar lo que hay por debajo de la ropa». El desarrollador detrás de esta
aplicación (quien se hace llamar Alberto) ha mejorado la tecnología de los Deep Fakes, llevándola a
un nivel mucho más elaborado y rápido.
Esta aplicación es capaz de eliminar la ropa de las fotografías de mujeres. Para ello, se aprovecha de
una base de datos con más de 10.000 imágenes de mujeres desnudas utilizando el machine learning.
DeepNude utiliza el algoritmo pix2pix que había desarrollado previamente la Universidad de
California en Berkeley hace un par de años. No se trata de una aplicación que utilice rayos X, sino
más bien de un intercambio inteligente de píxeles de la imagen.
La aplicación tiene un peso de poco más de 2GB y funciona en ordenador. Por otro lado, los antivirus
saltan alarmas al intentar ejecutarlo. Para utilizarla, se puede aprovechar una versión gratuita, pero
limitada. De lo contrario, se requiere de un pago de 99,99$.
En cuanto al funcionamiento, es bastante sencillo. , le das una foto de cualquier mujer vestida y
automáticamente «la desnuda». Los resultados por otro lado, son bastante alentadores siempre y
cuando la aplicación no se encuentre con fotografías que tengan posturas raras o demasiada ropa.
Tampoco se hará cargo del mal uso de esta tecnología que permite a cualquier persona desnudar
digitalmente sin su consentimiento a cualquier mujer
De hecho, para la aplicación, mientras menos ropa más fácil es brindar resultados efectivos. Sin

DEEPNUDE: APP QUE CREA DESNUDOS EN MUJERES (II)
embargo, esta tecnología está muy lejos de ser perfecta. De hecho, si se intentara «desnudar» una
fotografía en la que aparece una chica de espaldas, el resultado sería catastrófico, ya que Deep Nude
no es capaz de determinar el sexo o qué parte del cuerpo humano está intentando modificar.
Desde su creación, DeepNude ha sido tildada de ser una aplicación sexista por funcionar solamente
con fotografías de mujeres. No obstante, más allá de haber sido tildada la aplicación como sexista,
esta disparó las alarmas, en internet por los malos usos que se le podría dar a la aplicación. Esto llevó
a que la aplicación cerrara a los pocos meses de haber iniciado.

Los deepfakes son difíciles de detectar para los ojos no entrenados porque pueden ser bastante
realistas. Ya sea que se utilicen como armas personales de venganza, para manipular los mercados
financieros o para desestabilizar las relaciones internacionales, los vídeos que muestran a las
personas que hacen y dicen cosas que nunca hicieron o dijeron son una amenaza fundamental para la
idea de que “ver para creer”.
La mayoría de los deepfakes se hacen mostrando al algoritmo informático muchas imágenes de una
persona y luego haciendo que use lo que vio para generar nuevas imágenes faciales. Al mismo
tiempo, su voz se sintetiza, por lo que parece y suena como si la persona hubiera dicho algo nuevo.
Existen varios trabajos para detectar los vídeos o audios falsos. Podemos detectarlos mediante una
serie de sistemas.
Encontrar fallos
Pueden detectarse los deepfakes con fallos que los falsificadores no pueden solucionar fácilmente.
Cuando un algoritmo de síntesis de vídeo falso genera nuevas expresiones faciales, las nuevas
imágenes no siempre coinciden con el posicionamiento exacto de la cabeza de la persona, o las
condiciones de iluminación, o la distancia a la cámara.
Para hacer que las caras falsas se mezclen con el entorno, deben ser transformadas
geométricamente: giradas, redimensionadas o distorsionadas.
Algunos Deepfakes poseen fallos que los que han manipulado el vídeo no han podido corregir (por
CÓMO DETECTAR LOS DEEPFAKES(I)

ejemplo, pequeñas diferencias en las expresiones faciales entre una cara y otra, el posicionamiento
exacto de la cabeza o la iluminación).
Para hacer que las imágenes parezcan lo más realistas posible, se llevan a cabo transformaciones que
dejan evidentes fallos en las imágenes digitales (bordes borrosos, piel artificialmente lisa,
movimientos entrecortados o antinaturales etc.).
Aunque las personas no seamos capaces, muchas veces, de diferenciar entre una imagen real y un
Deepfake, se puede enseñar a un algoritmo a detectar estos fallos.
Parpadeo
Una forma de detectar los deepfakes es fijándonos en las veces que parpadea la persona. Los
humanos solemos parpadear una vez cada 2-8 segundos durando cada parpadeo entre 1 y 4 décimas
de segundo.
Cuando estamos ante un vídeo falso, la persona parpadea menos veces que si fuera real ya que el
algoritmo a través del que está realizada esa falsificación no puede parpadear a la misma velocidad
que un humano.
Esto se debe a que el algoritmo no es capaz de parpadear sin evidenciar indicios de falsedad, por lo
menos igual de rápido que un ser humano. Aún así, es cuestión de tiempo que esto lo mejoren.
Cuello y cara
¿El cuerpo se ajusta a la cara o la postura coincide con la expresión facial?
CÓMO DETECTAR LOS DEEPFAKES (II)

Los deepfakes son principalmentes sustituciones de caras ya que sustituir un cuerpo es mucho más
complicado. Por eso, debemos fijarnos en el cuerpo de la persona a la que se le ha sustituido la cara
y, si el cuerpo de la persona a la que se le aplica un rostro tiene otras características que no coinciden
(por ejemplo, tatuajes, músculos pronunciados o un color de piel diferente) también indica una
falsificación.
De hecho, los Deep Fakes suelen ser primeros planos de la cara, ya que si fuesen de lejos necesitarían
editar mucho más contenido del vídeo, aumentando las probabilidades de detectar los fallos.
Duración corta
Casi todos los deepfakes compartidos duran muy pocos segundos ya que el proceso de aprendizaje
para realizar falsificaciones lleva mucho trabajo. Por eso, si vemos un vídeo demasiado corto con un
contenido difícil de creer, podemos pensar que estamos ante un deepfake.
Prácticamente todos los Deepfakes tienen una duración muy corta, de unos segundos, ya que el
proceso de aprendizaje que debe seguir el algoritmo lleva mucho trabajo.
Un vídeo demasiado corto y con un contenido inverosímil puede darnos también una pista de que
estamos ante un Deepfake.
Origen de la grabación
A la hora de detectar un deepfake, también nos ayuda encontrar al primero que compartió ese vídeo.
De esa forma podremos verificar el contexto en el que se produjo esa publicación y si el material de
CÓMO DETECTAR LOS DEEPFAKES (III)

CÓMO DETECTAR LOS DEEPFAKES (IV)
origen tenía más detalles. Indagar sobre quién compartió el archivo en primera estancia y en qué
redes sociales, así como verificar el contexto en que se publicó, así como los detalles originales del
mismo, pueden ayudarnos a detectar un Deepfake.
Sonido
Muchas veces, el algoritmo que modifica la grabación no ajusta el sonido. Podemos darnos cuenta
de que estamos ante una falsificación cuando el sonido no coincide con la imagen porque no exista
una correcta sincronización con el movimiento de los labios.
No solo la imagen expone a una DeepFake sino también el sonido. El software a menudo se limita a
cambiar la imagen, pero no para ajustar el sonido. Entonces, si el sonido no está presente o no
coincide con la imagen, por ejemplo, con una sincronización de labios mal implementada, esto indica
una falsificación.
Detalles
También es importante estar al tanto de los detalles de la grabación. Si reproducimos el vídeo a
velocidad más reducida, nos daremos cuenta de modificaciones repentinas de la imagen o cambios
en el fondo de una persona que demostrarán que se trata de una falsificación.
Ten en cuenta los detalles. Al verificar el contenido del video, también es útil dejar que se reproduzca
a la mitad de la velocidad. Por ejemplo, pequeñas discrepancias en el fondo de una persona o
cambios repentinos en la imagen que se notan enseguida.

Interior de la boca
Los algoritmos de aprendizaje automático son incapaces aún de copiar exactamente la lengua, los
dientes o el interior de la boca al hablar.
Es importante fijarse en los detalles, un diminuto desenfoque en el interior de la boca puede
demostrar que esa grabación es falsa.
La Inteligencia Artificial todavía está luchando para representar correctamente los dientes, la lengua
y la cavidad bucal cuando habla.
CÓMO DETECTAR LOS DEEPFAKES (V)

El uso de deepfake de forma personal, como herramienta de entretenimiento y diversión no
constituye ningún delito. Utilizar cualquier app deepfake no es ilegal, pero sí algunos de los usos de
las imágenes y vídeos creados con esta inteligencia artificial. En este sentido, cualquier uso que tenga
como objetivo estafar, extorsionar, cometer delitos contra el honor o realizar denuncias falsas está
penado.
De la misma forma, usar el rostro de una persona sin su consentimiento es ilegal. Estarás
cometiendo delito de difamación y de derechos de imagen.
Algunos países como Canadá, China o Reino Unido y algunos estados de los Estados Unidos de
América han modificado sus leyes para contemplar el uso del deepfake como delito. Por ello, si
quieres utilizar algunas de las herramientas, te recomendamos que sea solo para uso personal.
Diviértete y no dañes a nadie. El delito está en la difusión sin consentimiento
Los juristas especializados en ciberdelitos alertan de las importantes amenazas que esta tecnología
acarrea: vulneraciones al honor, la identidad y la propia imagen (especialmente en el caso de las
denominadas ‘pornovenganzas’) y, cómo no, el peligro de desinformación.
Una experta menciona, “las entidades usuarias de un sistema de inteligencia artificial que genera o
manipula contenido de imagen, audio o video que se asemeja apreciablemente a personas, objetos,
lugares u otras entidades o eventos existentes, y que a una persona le parecería falsamente
auténtico o veraz ('deepfakes'), deberá revelar y declarar que el contenido ha sido generado o
manipulado artificialmente”.
CONSIDERACIONES LEGALES

CONCLUSIONES
La Inteligencia Artificial tiene muchas aplicaciones que pueden considerarse beneficiosas y
constituyen un avance para el desarrollo de nuestra sociedad. Sin embargo, en ocasiones, las
posibilidades que ofrecen las herramientas de IA dan lugar a diferentes técnicas cuyo uso no está
todavía legítimamente aceptado, cómo el DeepFake
El miedo a ser espiado a través de las cámaras de los dispositivos móviles ha aumentado en la última
década y lo cierto es que es una realidad. Durante los últimos años se ha generado una gran paranoia
entre los usuarios de dispositivos móviles, ya que han corrido rumores y teorías alrededor del
espionaje mediante las cámaras de los celulares y computadoras portátiles.
Este miedo ha sido causado gracias a diversos factores y hechos que han ocurrido a través de los años,
uno de ellos es que en 2013 Edward Snowden, exanalista de inteligencia, declaró que la agencia de
seguridad nacional de EE.UU. tenía softwares y programas que dejaban acceder a las cámaras y
micrófonos de los ciudadanos sin que ellos se dieran cuenta.
Personas como Mark Zuckerberg, ya han optado por bloquear su cámara con cinta adhesiva, para así
evitar que los malwares (softwares maliciosos) tengan acceso a su dispositivo y evitar robo de imagen.
El impacto más engañoso de las ‘Deepfakes’, junto con otros medios artificiales, es crear una sociedad
de confianza cero, es decir, una sociedad en la que la gente no puede, o ya no se moleste, en distinguir
la verdad de la mentira. Y cuando la confianza se erosiona, es más fácil plantear dudas sobre eventos
específicos.

WEBGRAFÍA (I)
https://es.wikipedia.org/wiki/Deepfake
https://computerhoy.com/reportajes/tecnologia/consiste-deepfake-446355
https://protecciondatos-lopd.com/empresas/deepfakes/
https://www.eltiempo.com/tecnosfera/apps/que-es-la-deepfake-y-como-funciona-374648
https://www.lisainstitute.com/blogs/blog/deepfakes-tipos-consejos-riesgos-amenazas
https://www.xataka.com/robotica-e-ia/dentro-dos-anos-va-a-ser-imposible-saber-que-realidad-que-no-reto-regular-deepfakes
https://www.abc.es/tecnologia/consultorio/abci-deep-fake-mas-aterrador-para-mujeres-como-puede-desnudarte-manera-realista-
202010240127_noticia.html?ref=https%3A%2F%2Fwww.google.com%2F
https://www.infobae.com/america/tecno/2021/04/26/enganaron-a-varios-politicos-europeos-a-traves-de-videollamadas-con-un-deepfake/
https://www.muyinteresante.es/cultura/arte-cultura/articulo/que-es-un-video-deepfake-701571648693
https://www.educaciontrespuntocero.com/tecnologia/deepfakes/
https://www.osi.es/es/actualidad/blog/2020/04/01/deepfakes-como-se-aprovechan-de-esta-tecnologia-para-enganarnos
https://www.threepoints.com/int/deep-fake-y-fake-news-la-manipulacion-del-futuro
https://www.20minutos.es/noticia/4647604/0/que-es-deepfake-tutorial-como-se-hace-apps/
https://www.argentinacibersegura.org/como-detectar-deep-fakes_248
https://estadodiario.com/al-aire/deepfake-mom-desafios-tecnologicos-y-derecho/
https://www.elmostrador.cl/agenda-pais/2021/05/19/deepfake-la-inteligencia-artificial-que-puede-imitar-tu-rostro-y-voz/
https://www.rtve.es/noticias/20210321/deep-fakes-debate-suplantacion-identidad-inteligencia-artificial/2082845.shtml
https://revistadigital.inesem.es/informatica-y-tics/deepfake/
https://telos.fundaciontelefonica.com/imprimir-pdf/7123/
https://cincodias.elpais.com/cincodias/2021/04/06/lifestyle/1617722962_273572.html
https://culturageek.com.ar/fakeapp-que-es-deepfake/
https://www.torrysoft.com/index.php/2020/05/13/4-aplicaciones-para-hacer-tus-mejores-deepfakes/
https://respontodo.com/3-aplicaciones-faciles-para-crear-videos-y-gif/

WEBGRAFÍA (II)
https://inteligenciaartificial.io/crean-una-aplicacion-capaz-de-ver-por-debajo-de-la-ropa/
https://clipset.com/deepnude-ia-desnudar-mujeres-vestidas/
https://www.swissinfo.ch/spa/ciencia/c%C3%B3mo-los--ultrafalsos--cambian-nuestra-visi%C3%B3n-de-la-realidad-
46866008?utm_campaign=own-
posts&utm_source=facebook&utm_medium=socialflow&utm_content=o&fbclid=IwAR2ZjkmTtdOydOcf_LRhgvGUOdEb8Ldd3NExqz47R
QcYDzjA48zTM1xFMQc
https://nuso.org/articulo/el-fin-de-la-realidad/
https://www.iebschool.com/blog/deepfakes-como-detectarlas-business-tech/
https://www.threepoints.com/int/deep-fake-y-fake-news-la-manipulacion-del-futuro
https://www.xatakandroid.com/listas/cinco-aplicaciones-para-crear-divertidos-deepfakes-android
https://www.ecured.cu/Deepfake
https://folou.co/internet/deepfakes-aplicaciones-sitios-web/
https://andro4all.com/noticias/apps-android/aplicaciones-crear-deepfakes
https://elandroidefeliz.com/mejores-apps-y-webs-para-hacer-deepfakes/
https://hipertextual.com/2020/09/apps-gratuitas-crear-deepfakes
https://www.entrepreneur.com/article/353418

DEEPFAKE

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Similar a DEEPFAKE

Similar a DEEPFAKE (20)

Más de EnmerLR

Más de EnmerLR (20)

Último

Último (20)

DEEPFAKE