Descubren «ecosistema deepfake» en bots de Telegram que generan falsos desnudos
Las imágenes las toman de redes sociales, las pasan al canal y se genera una nueva fotografía con otro cuerpo desnudo que luego es difundido en otros grupos.
En Telegram no siempre hay polémicas, pero la que ha surgido recientemente debe encender las alarmas de aquellos que usan esta app.
Los investigadores de la empresa de seguridad Sensity han alertado acerca de la difusión de imágenes manipuladas con tecnología «deepfake» mediante canales bots de Telegram. Sensity descubrió cerca de 100.000 imágenes alojadas en canales públicos de Telegrama (el 70% de éstos se encuentran ubicados en Rusia) hasta julio de 2020, lo que significa que ese número probablemente haya aumentado, debido a que muchos de esos canales permanecen aún activos en la plataforma.
¿Cómo funcionan los canales bots?
Telegram se destaca precisamente por estos canales bots que son desarrollados por terceros y que ofrecen todo tipo de contenidos. En este caso, existen canales bots con fines lucrativos y cuya función es crear una foto falsa de desnudos colocándole la cara de otra persona.
«Los usuarios puede pagar una tarifa igual a sólo unos pocos centavos para «descubrir» las imágenes por completo. Una «tasa para principiantes» cobra a los usuarios 100 rublos (alrededor de $1.28) para generar 100 desnudos falsos sin marcas de agua durante un período de siete días», así lo señala la investigación de Sensity, la cual, además, agrega que «un número limitado» de los objetivos de la función de imágenes generadas por bots «que parecían ser menores de edad».
Estos canales recurren al uso de un software llamado DeepNude, el cual, además de alimentar los bots de Telegram, también manejan los pagos de forma automática para así generarle ingresos a sus creadores.
«La diferencia clave es la accesibilidad de esta tecnología», expresó el CEO de Sensity y coautor del informe, Giorgio Patrini, en declaraciones al medio estadounidense The Verge. «Es importante tener en cuenta que otras versiones del núcleo de IA de este bot, el procesamiento y la síntesis de imágenes, están disponibles libremente en los repositorios de código en línea. Pero usted necesita ser un programador y tener un poco de comprensión de la visión por computadora para que funcionen, aparte de hardware de gran alcance. En este momento, todo esto es irrelevante, ya que es atendido por el bot incrustado en una aplicación de mensajería».
Sensity ha advertido a los usuarios de Telegram que esta tecnología potencialmente representa «una amenaza de serie para la reputación personal y la seguridad» dentro de dicha app.
Con información de FayerWayer.
