Taylor Swift quiere marcar su semejanza. Estos anuncios de TikTok Deepfake muestran por qué

La semana pasada, Taylor Swift presentó un trío de solicitudes de marca registrada para proteger su imagen y su voz. Una está pensada para cubrir una fotografía conocida de la cantante pop sosteniendo una guitarra rosa durante un concierto de su gira Eras, que batió récord, mientras que las dos marcas sonoras son para frases identificativas sencillas: "Hey, it's Taylor Swift" y "Hey, it's Taylor".

El movimiento llega cuando los deepfakes de IA siguen proliferando en las redes sociales. Cualquier individuo puede aprovechar su semejanza en la creación de material generado por IA sin consenso; A principios de ese mes, un hombre de Ohio fue la primera persona condenada por una nueva ley federal que criminalizaba los engaños visuales "íntimos" de este tipo. Mientras, las celebridades se encuentran en riesgo tanto de falsificaciones explícitas como de falsos avales.

Un nuevo informe de la empresa de detección de IA Copyleaks muestra que Swift y otras estrellas se han utilizado recientemente sus semejanzas en anuncios estafadores. Los investigadores identificaron un grupo de vídeos patrocinados en TikTok que parecían mostrar Swift, Kim Kardashian, Rihanna y otros que promocionaban "servicios potencialmente fraudulentos o maliciosos", con los clips haciendo uso de lo que los investigadores llaman "voces de sueño realista", así como "filtros con texturas visuales" el IA".

Los anuncios falsos muestran Swift et al. en lo que parecen ser escenarios habituales de entrevistas: eventos de alfombra roja o programas de tertulias. Sin embargo, en lugar de responder a preguntas, las celebridades generadas por IA hablan de supuestos programas de recompensas en los que los usuarios de TikTok reciben por ofrecer comentarios sobre el contenido que se les ofrece.

"Estaba leyendo sobre el comportamiento digital esta semana y me encontré con una función de prueba llamada TikTok Pay", dice un Swift falsificado en un anuncio que utiliza imágenes manipuladas de una apariencia que realizó el Swift real. The Tonight Show protagonizado por Jimmy Fallon en octubre. "Se está invitando a ciertos usuarios a ver vídeos y enviar opiniones". El deepfaked Swift sigue diciendo que el programa está en "lanzamiento limitado" de momento, pero anima a los espectadores a ver si cumplen los requisitos, y añade: "Si la página se abre para ti, no te lo pienses demasiado".

Naturalmente, se acepta a cualquier persona que haga clic. Estos anuncios finalmente conducen al usuario a un servicio de terceros que, a pesar del nombre y el logotipo de TikTok, evidentemente se ha codificado con la vibración mediante la plataforma de IA Lovable, cuya marca propia aparece en la página y en la URL. En este punto, dicen los investigadores, se le pide al usuario que empiece a introducir su nombre e información personal.

Aunque no está claro qué pretenden hacer los anunciantes con todos los datos extraídos a través de su promoción deepfake de celebridades, los anuncios de timo con objetivos similares son muy habituales. La semana pasada, la Federación de Consumidores de América sin ánimo de lucro demandó a Meta, alegando que el gigante tecnológico engañó a los usuarios de Facebook e Instagram sobre sus esfuerzos por reprimir los anuncios estafadores y se benefició al permitirles proliferar. El lunes, la Comisión Federal de Comercio de Estados Unidos informó de que las estafas en las redes sociales han aumentado en general, con las estafas de Facebook que representan el mayor total de pérdidas financieras.

No es de extrañar que Swift y sus compañeros estén tomando medidas legales para distanciarse de esa economía fraudulenta. Aunque Swift no ha comentado públicamente el razonamiento detrás de la presentación de sus marcas registradas, difícilmente puede pasarse por alto el daño a la reputación de que las falsificaciones engañosas suponen a su marca de mil millones de dólares. El problema es que todos los días se hacen más sofisticados.