Una red coordinada de cuentas de TikTok generadas por inteligencia artificial y aparentando ser rabinos, está difundiendo sistemáticamente contenido antisemita, según un informe publicado el miércoles por el Movimiento para Combatir el Antisemitismo (CAM, por sus siglas en inglés).
“El peligro es evidente. Al hacerse pasar por voces judías auténticas, estos “rabinos” erosionan la confianza, normalizan el odio e incitan a la violencia real contra los judíos”, señala el informe. “Al difundir este contenido entre un público joven e influenciable, TikTok contribuye a acelerar la radicalización en una era en la que la IA dificulta cada vez más la detección de la desinformación”.
El estudio, realizado por el Centro de Investigación sobre Antisemitismo (ARC) de la organización sin fines de lucro estadounidense, identificó 49 cuentas de TikTok que suplantaban la identidad de figuras religiosas judías mientras difundían teorías conspirativas y discursos antisemitas clásicos. En conjunto, estas cuentas acumularon más de 950 mil seguidores y generaron más de 10 millones de “me gusta”.
La red se basa en avatares generados por IA e identidades falsas diseñadas para imitar voces judías creíbles. Investigadores que realizaron un análisis exhaustivo de cuatro cuentas -@rabbirothstein, @rabingoldmaan, @rabbistirberg y @rabbi_silverstein- descubrieron patrones de coordinación, como un encuadre narrativo idéntico, un lenguaje compartido y un enfoque temático coherente.
Según el informe, esta coherencia “sugiere un esfuerzo organizado para introducir ideas antisemitas en el discurso dominante, en lugar de una creación de contenido orgánica o fortuita”.
Entre los hallazgos más preocupantes del informe se encontraba la táctica de presentar estereotipos antisemitas como consejos financieros supuestamente ofrecidos por figuras religiosas de autoridad. El informe advertía que este enfoque “elude el escepticismo habitual ante acusaciones externas, haciendo que los estereotipos antisemitas parezcan hechos irrefutables”, introduciendo así el odio en el discurso público bajo la apariencia de consejos.
Los investigadores también advirtieron sobre el peligro que representa la base de usuarios predominantemente jóvenes de TikTok. Según el informe, la amplificación algorítmica “garantiza que estos videos lleguen a usuarios que ya consumen contenido de ‘superación personal’ cargado de teorías conspirativas”, normalizando el antisemitismo como una verdad oculta y reduciendo el umbral para creencias más extremas.
No es la primera vez que se descubren este tipo de tácticas. ARC identificó previamente una red de más de 70 “rabinos” generados por IA que difundían contenido antisemita en Instagram. Tras la intervención de Meta, muchas de las cuentas fueron eliminadas, según informó CAM.
CAM insta ahora a TikTok a que haga lo mismo, eliminando de inmediato las cuentas identificadas, invirtiendo en herramientas de detección de IA entrenadas para identificar la suplantación de identidad religiosa sintética y lanzando una campaña de concienciación pública para ayudar a los usuarios a identificar la propaganda generada por IA.
“El contenido generado por IA es barato, escalable y difícil de distinguir para los moderadores del producido por seres humanos reales”, concluyó el informe.