«Deep Fakes»: la era de la manipulación de la historia

Era 2016 cuando Barack Obama pronunciaba una frase que podría generar una gran polémica mediática: «El presidente Trump es un total y completo idiota». Las redes sociales se polarizaron. El problema es que no era verdad. No la dijo. Esas palabras no salieron de su boca, pero lo parecía. Fue un simple experimento de la universidad de Washington bautizado Synthesizing Obama, pero empezaba a demostrar la capacidad de manipular un vídeo por medio de algoritmos de inteligencia artificial. El resultado era tan real que asustaba.

Esta tecnología ha derivado en una tendencia, las llamadas «deep fakes», una terrorífica variación de las «fake news» que han causado tanto revuelo en los últimos tiempos. En manos de personas malintencionadas pueden alimentar el monstruo de las desinformación en redes sociales. Es la era en la que nuestros enemigos pueden hacer que cualquiera pueda decir algo en un momento. Un arma demasiado poderosa.

Esta tecnología empieza a estar al alcance de todo el mundo, incluso sin los conocimientos previos. Mark Zuckerberg, fundador de Facebook, lo ha sufrido también en sus propias carnes recientemente. Bill Posters y Daniel Howe, artistas de la agencia de publicidad Canny, generaron una secuencia manipulada. Instagram, red de fotografía de la que es propietario, se inundó de su siniestro discurso falso, aunque la compañía decidió mantener su difusión al amparo de la libertad de expresión.

Con anterioridad, se quiso hacer otra demostración de la capacidad de estas técnicas; un vídeo distribuido en redes sociales fusionaba el cuerpo y voz de la actriz Jennifer Lawrence con la cara de Steve Buscemi con un nivel de realismo que puede asustar. Hasta Scarlett Johansson ha sido víctima del fenómeno «deep fake», aunque en su caso se produjeron vídeos eróticos falsos con su rostro. Algo que también ha empezado a ser muy habitual.

Es algo con lo que los ciudadanos deben estar preparados. Y prevenidos, porque a partir de ahora será aún más fácil que nos la «cuelen». La tecnología está preparada para sembrar la confusión como nunca antes se ha hecho. Un algoritmo de Inteligencia Artificial desarrollado por el Instituto Tecnológico de Massachusetts (MIT), en Estados Unidos, ha sido capaz incluso de reconstruir el aspecto del rostro de una persona tomando como punto de partida únicamente su voz. A través de un extracto breve del habla, la herramienta es capaz de determinar factores como la edad, el género y la etnia de una persona.

Y, luego, se da una paradoja: si no te puedes fiar de nada, en nada vas a creer. Aunque puede haber contramedidas. El Pentágono, a través de la Agencia de Proyectos de Investigación Avanzada de la Defensa (DARPA, por sus siglas en inglés), está trabajando con varias instituciones de investigación para adelantarse a estos vídeos manipulados. El objetivo de estos nuevos mecanismos es adelantarse al fenómeno, aunque para ello hay que bajar al barro, conocer cómo funcionan.

Desde la Universidad de Colorado en Denver, un grupo de investigadores trabajan en un programa informático capaz de generar vídeos manipulados muy convincentes. Crear «deep fakes» en toda regla. Para contrarrestar el envite de las «infoxicación», otros investigadores están desarrollando una tecnología preparada, teóricamente, para detectar qué es real y qué falso.

Una medida, sin embargo, que permitiría agilizar la lucha contra los bulos en redes sociales. Pero, de momento, los algoritmos de detección no están tan perfeccionados como para bloquearlos de manera inmediata. El mayor problema es que la mentira ya no tiene las patas cortas; las mentiras van rápido que la verdad.

Reseña ABC