Un bot de Telegram falsificó imágenes de menores de edad con el fin de mostrarlas desnudas
Más de 100 mil imágenes de mujeres y niñas fueron falsificadas por este bot deepfake en Telegram, según un informe, utilizando Inteligencia Artificial.
Telegram no siempre está envuelta en polémicas en cuanto a hackeos por ser una aplicación muy sólida en cuanto a seguridad.
Sin embargo, desde hace unos días ha estado en el ojo del huracán, debido a que fueron descubiertos unos canales bots de la app de mensajería instantánea que han utilizado deepfake para falsificar aproximadamente, más de 100 mil imágenes de mujeres y niñas menores de edad y mostrarlas desnudas, según detalla un informe.
En total serían 10 mil las personas afectadas por este bot deepfake, el cual utiliza imágenes reales de estas personas y, con la ayuda de un sistema de Inteligencia Artificial, las muestra sin ropa.
La agencia Sensity fue la encargada de descubrir esta situación, la cual es penada legalmente. La mayoría de estas imágenes fueron tomadas desde las redes sociales. “Todas eran mujeres y algunas parecían visiblemente menores de edad”, señaló la compañía.
Estas imágenes fueron creadas por el bot entre julio de 2019 y 2020. En menos de 24 horas, estas fotos fueron borradas de Internet, según explica la firma de investigación. Apoyado en el principio de la libertad de expresión, Telegram permitió el uso de estas imágenes.
El mal uso de la Inteligencia Artificial
“La innovación aquí no es necesariamente la Inteligencia Artificial, es solo el hecho de que puede llegar a mucha gente y muy fácilmente”, explicó el CEO de Sensity, Giorgio Patrini, alertando al mismo tiempo sobre esta situación.
Los deepfakes son bots que usan la Inteligencia Artificial para crear cierto contenido multimedia manipulado. Este proceso se da alimentando un computador con un algoritmo, imágenes y audios de una persona en particular. Este programa tiene la capacidad de imitar las expresiones faciales, voz e inflexiones de esa persona y luego las muestra de forma falsificada.
El riesgo no existe solo en Telegram, sino en cualquier red
Según detalla Patrini, estas falsificaciones con Inteligencia Artificial son relativamente nuevas y ponen en riesgo a cualquier persona que tenga presencia en las diferentes redes sociales. “Si compartes imágenes o videos de ti mismo y no eres consciente de la privacidad puedes ser atacado”, recalca Patrini.
“Es devastador para las víctimas de porno falso”, afirmó por su parte Nina Shick, investigadora, en una entrevista con la BBC. “Puede afectar completamente su vida, porque se sienten violados y humillados. Nosotros como sociedad no hemos decidido cómo regularlo”.
Con información de FayerWayer.
