Una red de bots está creando desnudos deepfakes en Telegram

Una empresa de seguridad llamada Sensity dice que recientemente descubrió una red de bots deepfake en la aplicación de chat Telegram que crea imágenes de mujeres desnudas generadas por computadora, a pedido. En julio de 2020, la firma descubrió que los bots habían generado deepfakes de aproximadamente 104.000 mujeres. 

En los últimos tres meses, su producción ha aumentado en casi un 200 por ciento. Es de esperar que el software dedique la mayor parte de su tiempo a procesar imágenes de celebridades, pero parece que la mayoría de la gente lo usa para crear fotos de mujeres que conocen en la vida real. En cualquier caso, es probable que la mayoría de las víctimas no sepan que hay imágenes falsas de ellas flotando en Internet. La firma también descubrió que un “número limitado” de fotos muestra a niños menores de edad.

La mayoría de las personas que usan el software, alrededor del 70 por ciento, provienen de Rusia, un país que hasta hace poco había prohibido Telegram. En Rusia, el bot también llegó a VK, la red social más grande del país. Una encuesta que Sensity encontró en una de las comunidades públicas de Telegram dedicadas al software sugiere que el bot no ha encontrado un uso generalizado en países de habla inglesa como Reino Unido o Canadá, al menos no todavía.

El bot es de uso gratuito, pero los usuarios pueden comprar "monedas premium" que eliminan una marca de agua generada por el software y aceleran el procesamiento. Sensity dice que el software que sustenta las capacidades del bot es probablemente una versión de código abierto de DeepNude. El algoritmo de aprendizaje automático ganó notoriedad el año pasado cuando su creador lo vendió brevemente en línea.

Desde entonces, el software ha llegado a repositorios de código abierto y sitios web de torrents. Normalmente, el algoritmo DeepNude requiere una PC con una GPU dedicada para funcionar. Sin embargo, todo el ecosistema de bots de Telegram se ejecuta desde servidores en línea, lo que permite que cualquier persona con un teléfono acceda al software. Esa es una de las principales razones por las que el bot ha tenido tanto uso en tan poco tiempo. También subraya lo difícil que será contener el software.

Sensity dice que Telegram no ha respondido a sus intentos de comunicarse.