Los peligros del Deepfake

Un hacker de la red social Reddit en el año 2017 usó el alias “deepfake” por ser el mix entre fake (falso) y deep (deep learning, una técnica digital de análisis profundo que se utiliza en inteligencia artificial) para difundir contenidos falsos en los que trucaba imágenes faciales.

No necesitó costosos recursos, solo una computadora hogareña y el algoritmo indicado para generar imágenes tan reales como las que vemos en las películas de Hollywood.

Corría el año 2018, era el momento previo a las elecciones presidenciales en los Estados Unidos y un video deepfake se hizo viral. En el mismo, Barak Obama lo tildaba de imbécil a Donald Trump y esas imágenes tomaron protagonismo mundial. En un primer momento, no fueron pocos quienes creyeron verídico el video, claro que no pasó mucho tiempo para que quedara claro de que todo era una mera ilusión. El truco del mago había sido descubierto, a las pocas horas de circular el video ya se sabía que se trataban de imágenes manipuladas.

Fueron los inicios, los primeros atisbos de la manipulación política a través de videos deepfake que comenzaron a crecer. Ya sea por tratarse de bromas, o buscando deliberadamente obtener alguna ventaja electoral, denostando al político contrario de turno, lo cierto es que con el correr del tiempo y el mejoramiento continuo de las técnicas de inteligencia artificial los videos crecieron en cantidad y en calidad.

¿Cómo identificar un deepfake?

Los periodistas chequean las noticias con diversas fuentes, para dilucidar si un video es falso o no, se deben aplicar los mismos principios. Lo ideal es acceder a la fuente principal, aquella que se encuentra directamente relacionada con la información, tal es el caso de los protagonistas de un hecho noticioso o de los testigos. Algo similar ocurre con los videos trucados. Si tenés dudas acerca de la veracidad de un video tenés que hacerte las siguientes preguntas:

¿Cómo obtuvo el video la persona que te lo envió?

¿Dónde y cuándo se grabó?

Si el video está online y no se sabe bien quién lo subió:

¿Quién supuestamente lo grabó?

¿Quién lo subió? ¿Quiénes los compartieron?

Como los videos están tan bien hechos, hace falta un análisis minucioso para hallar inconsistencias. Si se cuenta con los dispositivos necesarios, es recomendable hacer zoom en las imágenes y buscar fallas que hagan al video llamativo. Es decir, descubrir destellos de luz que no deberían darse o identificar imágenes borrosas que generalmente se profundizan en la boca y en la cara. Otra de las características de los deepfake es que incluyen iluminación no homogénea, desproporcionada y también contienen diferencias entre los tonos de piel. Todos ellos son indicios de que estamos ante un falso video.

¿Cuáles serían los peligros entonces?

Básicamente, a medida que los videos se van haciendo más sofisticados y con menos errores, o más difíciles de encontrarlos, se hace cada vez más fácil para los delincuentes digitales hacerse pasar por personas de relevancia para obtener ganancias ilícitas. Tal es el caso de una compañía en el Reino Unido. Los estafadores utilizaron un software de inteligencia artificial para imitar la voz del CEO de la empresa para facilitar una transferencia. Los ciberdelincuentes llamaron al director ejecutivo de la empresa británica haciéndose pasar por el director general de la empresa matriz en Alemania. Los atacantes exigieron que se realizara una transferencia bancaria urgente a un proveedor con sede en Hungría. Una vez que se transfirió el dinero, se reenvió a una cuenta en México y luego a otras ubicaciones, lo que dificultaba la identificación de los estafadores.

Exequiel Campos – Co-Founder