Ciudadano ADN. ¿Qué es el deepfake y cuáles son sus riesgos? Experta de Kaspersky advierte sobre peligro e impacto de la Inteligencia Artificial en redes sociales

En el marco del Congreso de Seguridad Internacional 2024 celebrado en Cartagena de Indias, Isabel Manjarrez, investigadora y analista de Kaspersky, abordó los crecientes desafíos que representan los deepfakes y la inteligencia artificial en el ámbito de la ciberseguridad.

En una conversación con Ciudadano ADN, la especialista proporcionó una visión profunda sobre cómo estas tecnologías pueden ser mal utilizadas y las medidas que los usuarios deben tomar para protegerse.

Revisa también

• Ciudadano ADN. América Latina en la mira de cibercriminales: Kaspersky presenta soluciones en Congreso Internacional de Seguridad 2024
• TU NUEVO ADN. CEO de ISecurity apunta a “mejorar nuestras capacidades de defensa” frente a las amenazas que se abren con la inteligencia artificial”

Los deepfakes, combinaciones de “deep learning” y “fake” (falso), son contenido multimedia que puede parecer auténtico, pero que ha sido generado artificialmente. Según Manjarrez, “para identificar un deepfake, hay que prestar atención a los detalles. Si el contexto no es familiar, si los labios no coinciden con lo que se dice, o si la iluminación parece extraña, esos son indicios de que el contenido podría no ser genuino”.

La investigadora de Kaspersky también destacó los tres principales ámbitos en los que los deepfakes son particularmente peligrosos: aplicaciones bancarias, pornografía y estafas. “En Latinoamérica, estos tres focos son igualmente preocupantes. Las estafas financieras pueden involucrar la suplantación de identidad para transferencias fraudulentas, mientras que los deepfakes pornográficos pueden comprometer la privacidad y la dignidad de las víctimas. En algunos casos, incluso se utilizan para chantajes y extorsiones”, explicó.

Ampliar

Un aspecto alarmante discutido en el seminario fue el uso de deepfakes en la pornografía infantil. Manjarrez hizo hincapié en que “el uso de la inteligencia artificial en estos contextos plantea serios dilemas éticos. La ética es crucial cuando se trata de procesar y manejar datos, y en casos tan graves como la pornografía infantil, es fundamental que existan regulaciones estrictas”.

La investigadora también abordó el impacto de la clonación de voz, un fenómeno que permite a los atacantes imitar la voz de personas famosas o desconocidas para llevar a cabo fraudes. “El ‘Deep Voice’ puede recrear voces con diferentes emociones y acentos, y está al alcance de aplicaciones tanto libres como de pago. Es crucial ser cautelosos con el contexto y la calidad del contenido”, advirtió.

Consejos ante la amenaza

Además de los riesgos, Manjarrez ofreció consejos para educarse sobre estas amenazas. “Hay que estar atentos a los detalles y validar la información que consumimos. La inteligencia artificial puede ser una herramienta poderosa, pero debemos usarla de manera ética y responsable”, destacó.

El papel de los sectores público y privado en la educación sobre ciberseguridad y el uso de inteligencia artificial también fue un tema clave en la discusión. La experta subrayó que “es necesario que tanto las autoridades como las empresas se impliquen en la educación y en la implementación de regulaciones que mantengan el ritmo con el avance tecnológico”.

Finalmente, Isabel Manjarrez concluyó con una llamada a la acción: “Debemos ser proactivos y educar a todos, desde los más jóvenes hasta los adultos mayores, sobre los riesgos y las mejores prácticas para usar la tecnología de manera segura”.