La plataforma dentro de X incluye su propio “modo picante” que permite crear contenido para adultos, lo que generó cierto revuelo en redes sociales.
Elon Musk anunció que Grok, su inteligencia artificial, le permitirá a los usuarios de Estados Unidos acceder de forma gratuita a la herramienta de generación de video. Este anuncio llegó en medio de la polémica por el uso de la plataforma para crear deepfakes de celebridades ya que incluye un “modo picante”, en el cual se puede crear todo tipo de contenido como material sexual.
Con la nueva función de Grok se pueden realizar videos a partir de texto, similar a otras herramientas de inteligencia artificial como Sora de OpenAI. Los usuarios pueden escribir una descripción y la IA crea una animación o video corto basado en esa indicación.
Sin embargo, durante las pruebas, TechCrunch encontró que algunas creaciones se generaban “borrosas” o con moderación intencional y en muchos casos, se logró crear contenido con semidesnudos, lo que plantea riesgos éticos y de privacidad.
Elon Musk
De qué se tratan los deepfakes creados por Grok, la IA de Elon Musk
Los deepfakes son imágenes, audios o videos creados con inteligencia artificial que imitan de forma muy realista a personas reales.
Respecto a la plataforma Grok puede generar deepfakes de figuras públicas al activarse el nuevo “modo picante”. Jess Weatherbed, un periodista de The Verge, probó esta función y descubrió que bastaba con pedir imágenes de “Taylor Swift celebrando Coachella con los chicos” para obtener más de 30 fotos donde se la veía, en muchas de ellas, con muy poca ropa.
Por otro lado, al usar la herramienta de generación de video con el mismo modo activado, se creó un clip falso en el que una figura similar a Swift se quitaba el vestido y bailaba en ropa interior frente a una multitud generada por inteligencia artificial. A pesar de ello, Elon Musk asegura que la tecnología seguirá mejorando en las próximos meses.
Cabe recalcar que para crear contenido de video con Grok Imagine es necesario tener la aplicación de iOS del chatbot.
Fuente
Ambito
