¿Está Shein secuestrando TikTok con voces falsas y bots engañosos?

En el comunicado, Johansson dijo que le sorprendió escuchar el parecido en la última demostración de la empresa del modelo GPT-4o. Poco después, OpenAI anunció que pondría en pausa el uso de esta voz en particular, conocida como ‘Sky’. La empresa afirmó que la voz pertenecía a otra actriz profesional, pero no quiso revelar a quién.

Aunque la industria de la moda todavía tiene que ver cómo el uso indebido de las voces de IA se convierte en un problema a escala, ya es un problema para los creadores de TikTok e Instagram. El problema ha ido creciendo en los últimos meses, junto con la actividad de los bots. Los bots de las redes sociales realizan interacciones automatizadas como publicar, dar a me gusta y seguir, que pueden utilizarse con fines de marketing o para manipular la opinión pública.

Por ejemplo, los vídeos de TikTok y las secciones de comentarios que promocionan a Shein han demostrado que los bots y las voces de la IA se están poniendo de moda. En los últimos seis meses, cada vez que se ha mencionado negativamente a Shein en TikTok, una oleada de cuentas de bots ha inundado los comentarios con mensajes positivos que son rápidamente upvoted, (reciben votos a favor) creando una narrativa engañosa sobre la popularidad de la marca y la satisfacción del cliente. Shein no hizo ningún comentario a tiempo para la publicación de este artículo.

Si no se regulan, estas prácticas tienen el potencial de manipular la percepción pública hacia una visión más favorable de Shein y promocionar sus productos.

Al hacer clic en los perfiles, estas cuentas de bots suelen ser perfiles vacíos con nombres de usuario sospechosos. Las cuentas suelen ser nuevas y enlazan con perfiles de Instagram inexistentes o fraudulentos. Y también promocionan a Shein en publicaciones positivas. Por ejemplo, en TikTok, un vídeo viral del año pasado, ya eliminado, en el que se sugería a los compradores que compraran su ropa de verano en Shein, recibió una avalancha de comentarios a favor de Shein procedentes de cuentas que, tras una inspección más detallada, parecían ser bots.

Los bots y la simulación de voz por IA también están afectando directamente al contenido de los creadores. Shein, por ejemplo, está siendo acusada de robar alegadamente contenidos de influencers populares sin su conocimiento. Supuestamente descarga vídeos, elimina marcas de agua, superpone su propio texto promocional y utiliza el contenido alterado en anuncios de la plataforma.

Danielle Vermeer, experta en tecnología de la moda, afirma que esta táctica se utiliza en TikTok, donde los vídeos alegadamente robados se reutilizan para dirigir tráfico a encuestas fraudulentas que prometen $750 dólares en créditos Shein. Estas encuestas, probablemente fraudulentas, explotan el alcance de las personas influyentes haciendo que sus espectadores participen en enlaces fraudulentos. Como resultado, la credibilidad del creador disminuye.

“Estos creadores a menudo ni siquiera saben que su contenido ha sido alterado y reutilizado hasta que sus seguidores empiezan a etiquetarlos y a preguntarles si realmente son ellos”, explica Vermeer. “Una creadora a la que sigo dijo que tuvo que acosar a TikTok y TikTok Shop durante una semana para que retiraran sus vídeos alterados por la IA, a pesar de estar en el Programa de Creadores y esperar que la protegieran de situaciones como esta”.

El uso indebido se extiende a la alteración de las voces de los influencers mediante IA para promocionar productos que nunca han respaldado. En febrero, la influencer Ida Giancola (@dionysiangirl) sufrió el alegado robo de sus vídeos y la alteración de su voz para promocionar productos de moda rápida. A pesar de informar de ello a TikTok y TikTokShop, el contenido tardó varios días en ser retirado.

Sara Walker, la creadora de @styledsara en TikTok, también tuvo una experiencia similar en febrero. La falsa marca detrás de las publicaciones la bloqueó en la plataforma y no respondió a las peticiones de retirar el vídeo de voz de IA.

“No es sorprendente que los malos actores utilicen la manipulación de la voz artificial para intentar vender a los consumidores más basura, pero es desalentador ver que las plataformas no protegen a los creadores de esta nueva forma de robo de identidad”, afirma Vermeer.

Sin embargo, actualmente no existe ninguna normativa centrada en la estafa de contenidos y el uso de la voz de la IA. En su lugar, creadores como Giancola se ven obligados a recurrir a una estrategia de “golpear al topo” para conseguir que se retiren los vídeos.

Para Shein, estos abusos llegan en un momento crítico, ya que la empresa, según reportes, se está preparando para una oferta pública inicial en Londres. Esta noticia afectaría a su valor de marca y a su credibilidad como futura empresa pública.