Grok AI: controversia por videos deepfake de celebridades
La función “spicy” de Grok permite crear videos con imágenes de celebridades, incluyendo contenido sugerente sin controles. Esto ha generado polémica en usuarios de la red social.
Grok sigue sin corregir este problema
La herramienta de generación de video Grok Imagine incluye un modo denominado “spicy” que permite a cualquier usuario crear clips de celebridades con contenido sugestivo. Según un reporte publicado en The Verge, fue posible generar un video de Taylor Swift con desnudos parciales sin solicitarlo explícitamente.
El modo “spicy” de Grok Imagine permite generar videos con imágenes realistas de celebridades.
Grok Imagine carece de filtros adecuados para proteger identidades
El generador de imágenes y videos Grok Imagine, desarrollado por xAI, ofrece cuatro modos predeterminados: “Custom”, “Normal”, “Fun” y “Spicy”. A diferencia de herramientas como Sora (OpenAI) o Veo (Google), esta aplicación permite generar videos con apariencias reconocibles de figuras públicas y agregarles animaciones sugerentes.
En pruebas realizadas por la periodista Jess Weatherbed, Grok Imagine produjo más de 30 imágenes de Taylor Swift con atuendos llamativos. Al seleccionar una imagen y activar el modo “spicy”, el video resultante mostró una animación con desnudos parciales sin que se solicitara explícitamente. El proceso no incluyó validaciones de edad estrictas. Bastó con ingresar una fecha de nacimiento sin verificación adicional para acceder al contenido, a pesar de las regulaciones vigentes en países como el Reino Unido.
xAI enfrenta críticas por falta de protección contra deepfakes
Aunque la política de uso de xAI prohíbe generar contenido pornográfico con personas reales, el sistema no impide que Grok Imagine cree clips con similitudes evidentes a celebridades. La función de video también puede aplicar movimiento a imágenes de menores, aunque en estos casos el resultado fue más genérico.
Según Elon Musk, CEO de xAI, más de 34 millones de imágenes se generaron desde el lunes tras el lanzamiento de la función. La rápida adopción preocupa a especialistas por la facilidad con la que se pueden producir deepfakes con rasgos reconocibles. Las críticas apuntan a la falta de filtros, la débil validación de edad y la exposición de personas públicas —especialmente mujeres— a usos indebidos de sus imágenes en entornos digitales.