Grok aún aloja a deepfakes sexualizados de mujeres famosas

Dos indicaciones que se utilizaron para generar material en Grok fueron rechazadas por ChatGPT de OpenAI, Meta AI y Claude de Anthropic como inadecuadas cuando las probó WIRED. Gemini de Google creó una imagen de una celebridad en la mano de un gigante, aunque rechazó otra indicación. Google se negó a comentarlo.

Un vídeo de Grok Imagine, que también se publicó en X, parecía representar a Ashley St. Clair alterada por estar bailando en bikini. St. Clair tuvo una relación anterior con Musk y es madre de uno de sus hijos. En enero, inició acciones legales contra xAI después de que presuntamente aparecieran falsificaciones sexuales de ella en X. Después de que WIRED contactó con X, la publicación se eliminó de la plataforma de redes sociales para infringir sus normas.

Los representantes legales de St. Clair en el caso X no respondieron de inmediato a la solicitud de comentarios.

"Elon Musk añadió conscientemente una función perversa a su plataforma que ayuda a los usuarios a desnudar a mujeres y niños con un clic, sin tener en cuenta el daño previsible que causaría", afirma Imran Ahmed, director general y fundador del Center for Countering Digital Hate, que en enero estimó con un alto grado de confianza que Grok creó 3 millones de imágenes. "Ahora parece que todavía se aloja contenido explícito en Grok y se comparte en X, incluidas imágenes ridiculizando a la madre del hijo de Musk".

A diferencia de otros sistemas de IA generativa de OpenAI y Google, Musk's Grok y xAI no se han retirado de permitir el contenido sexual en general, después de haber introducido anteriormente los modos "Spicy" y "Unhinged" e inicialmente incluyeron menos barandillas de seguridad. Musk ha afirmado que Grok "se supone [to] permitir la desnudez de la parte superior del cuerpo de los humanos adultos "imaginarios" y ser coherente con lo que los espectadores podrían ver en las películas con clasificación R. Las condiciones de servicio más recientes de xAI dicen que el sistema puede responder con "situaciones sexuales". Sin embargo, la documentación de la empresa dice que no permite que las personas utilicen sus actividades para "caus.

Otros vídeos de Grok Imagine vistos por WIRED muestran a mujeres, que probablemente son completamente generadas por IA, se desnudan o están involucradas en actos sexuales, algunos de ellos totalmente explícitos. Las solicitudes del usuario para muchos de los vídeos no describen necesariamente directamente los actos sexuales, pero los describen de forma indirecta, un probable intento de eludir las garantías que se despliegan en la plataforma Grok.

Varios investigadores dicen en WIRED que desde enero parece que los cambios introducidos por X y Grok han dificultado la creación de imágenes de "nudificación" o "despojo" de personas reales. El número de estas imágenes que se publican en X parece haber disminuido en los últimos meses. En Reddit y un foro dedicado a la falsificación profunda de IA, los usuarios se han quejado del aumento de la moderación de las empresas propiedad de SpaceX.

Sin embargo, en mayo, SpaceX advirtió a los posibles inversores de que había reservado 530 millones de dólares para gestionar las quejas legales en curso, incluidas las vinculadas a Grok. "Como estos modos pueden ser más irreverentes y más duros que nuestras ofertas estándar, presentan riesgos más elevados, tales como daños a la reputación, la generación de contenido potencialmente explícito y desinformación o resultados engañosos, imágenes potenciales no consensuadas o de explotación, infracción de la propiedad intelectual o contenido que se podría considerar explotador,"