Deepfakes: los alcances y límites tras la técnica digital de moda

Hace unos días la princesa de Gales, Kate Middleton, informó personalmente a través de un video que se encontraba en tratamiento de quimioterapia debido al cáncer que padece. La noticia causó conmoción a nivel mundial, pero hubo un detalle que llamó la atención.

Los usuarios de redes sociales señalaron que el registro había sido realizado con Inteligencia Artificial (IA), ya que tiempo atrás la royal había grabado un video en la misma locación y con el mismo suéter de rayas que estaba usando en la plataforma actual. Ante ello, se instaló la duda acerca de la veracidad del archivo ya que se podría tratar de deepfake, tecnología propia de la IA que fusiona, combina, reemplaza y superpone imágenes y videoclips para crear videos falsos que parecen auténticos.

Creado por el investigador Ian Goodfellow en 2014, este modelo utiliza dos algoritmos que se entrenan entre sí: el primero busca que los intentos de falsificaciones sean lo más fiables posible. Mientras que el segundo algoritmo intenta detectar las alteraciones generadas. “Ambos se potencian de manera conjunta, con el propósito de mejorar los resultados de su respectivo entrenamiento para generar, por ejemplo, videos hiperrealistas. Por lo tanto, cuantas más muestras estén al alcance de esta tecnología; mayor será la mejora de los resultados”, sostiene Pedro Vargas, jefe de Ingeniería en Realidad Virtual y Diseño de Juegos Digitales de la Universidad Bernardo O´Higgins (UBO).

Mechón de pelo sugiere que animal declarado extinto hace más de 15 años seguiría existiendo en estado salvaje en Indonesia

Detectan fenómeno inesperado en un mundo alienígena

Si bien es una tendencia más desarrollada en países como México, Estados Unidos, Corea del Sur, Japón y en gran parte de Europa, el CEO de WISE Innovation Studios, Igal Weitzman, plantea que en Chile llegará con fuerza “cuando vivenciemos alguna campaña que aborde el uso de esta tecnología en un contexto que se vuelva viral”, detalla el ejecutivo. Las cifras, de hecho, corroboran el aumento de este fenómeno digital de moda: según el sitio DeepMedia, una plataforma estadounidense especializada en IA, alrededor de 500.000 videos y audios con deepfakes se habrían compartido a nivel global durante el 2023.

Amenazas y desafíos

Uno de los puntos que se han instalado en el debate es si estas aplicaciones pueden representar una amenaza en la actualidad. Para el académico de la UBO, el problema surge cuando los deepfake se vuelven cada vez más realistas a medida que avanzan los desarrollos tecnológicos.

“Ello llama a regular su uso más aún con la llegada de las Fake News (noticias falsas), considerando su impacto negativo en las redes sociales”, precisa Vargas, asegurando que hoy existen formas muy simples para detectar los deepfake, como poner atención a las incoherencias visuales del rostro de la persona que aparece en el video (líneas expresivas) o en la cantidad de parpadeo por segundo.

Weitzman, por su parte, coincide en que este tipo de contenidos pueden ser negativos cuando se suplanta la identidad de rostros públicos reconocidos dando a conocer discursos falsos sobre distintas temáticas, lo que puede generar confusión e incluso, impactar en los derechos digitales de las personas. Aunque también, agrega el ejecutivo de WISE Innovation Studios, se han desarrollado acciones positivas como “revivir” a deportistas que alientan a selecciones de fútbol o a científicos que impulsan estudios en distintas áreas de las ciencias.

¿Dónde está la diferencia con los FOOH?

A tal punto han avanzado los deepfake que cabe preguntarse si son lo mismo que un Fake Out Of Home (FOOH). En opinión del CEO de WISE, técnicamente hablando son similares, pero son sustancialmente distintos.

“Los FOOH tienen un uso vinculado al marketing y son videos que se enfocan en mostrar situaciones impactantes que podrían ser reales y lograr comunicar un call to action, un claim de marca y una situación soñada al público que puede ver estas activaciones en sus smartphones vía redes sociales, generando alto alcance, impacto e interacción”, explica Igal Weitzman.

Al respecto, el ejecutivo destaca que WISE IS. ha sido pionero en mezclar la técnica de AI. + FOOH, cuya concepción de la idea hasta su desarrollo permite trabajar con AI. y sus distintas capas. Posteriormente se entra en el proceso de video, CGI, y 3D, los que también tienen desarrollos cada vez más importantes. “Hoy esta apuesta liderada por WISE IS. en toda América Latina ha evidenciado exitosos resultados gracias a las estrategias de innovación y comunicación”, comenta el especialista.

En cuanto a las proyecciones que se manejan, se ha señalado que los deepfakes están siendo utilizados de manera experimental sin un contexto de alto éxito de engagement. “Sin embargo, sí creemos que prontamente llegarán a ser parte de campañas de FOOH, ya que lo único que los separa hoy es el escenario creativo para su integración en una campaña”, concluye Weitzman.