Abordando la Radicalización Juvenil 5: La Explotación Extremista de la Inteligencia Artificial
Una "Oda a la Violencia"
Silvano Rizieri Lucini, Alessandra Pugnana y Grazia Ludovica GiardiniRed Global sobre Extremismo y Tecnología
26 de febrero de 2026
Parece que constantemente surgen nuevas y singulares plataformas en línea, a menudo propicias para la explotación extremista, incluso con políticas de moderación vigentes. Una plataforma, Viggle AI, se lanzó en marzo de 2024 y ya cuenta con más de 40 millones de usuarios, con un rápido aumento tanto entre usuarios legítimos como maliciosos. Al monitorear tres ecosistemas extremistas en línea diferentes (extrema derecha, Comunidad de Crímenes Reales (TCC) y salafista-yihadista), se observó un uso recurrente y común de Viggle, una plataforma de Inteligencia Artificial (o AI por sus siglas en inglés) generativa, para difundir propaganda.
En todos los ecosistemas, se han explotado las funciones de Viggle para producir videos de atacantes famosos bailando, a la vez que se destaca el número de víctimas asesinadas en ataques perpetrados por ellos. Aunque los tres ecosistemas detectados difieren en sus ideologías, utilizan Viggle AI con el mismo propósito: crear contenido atractivo y cautivador que glorifica la violencia y la muerte. Se ha observado que este último contenido se difunde tanto a través de la aplicación Viggle AI como en plataformas de redes sociales, especialmente aquellas populares entre los jóvenes, como TikTok.
Por lo tanto, este análisis se centrará en cómo las herramientas de Inteligencia Artificial generativa, como Viggle AI, pueden utilizarse para crear propaganda extremista dirigida a los jóvenes, centrada en la glorificación de la violencia por parte de los tres ecosistemas extremistas en línea objetivo. En particular, el análisis se centrará en el contenido audiovisual relacionado con Viggle AI que representa a atacantes populares y figuras asociadas con la extrema derecha, la True Crime Community (Comunidad de Crímenes de Derecha o TCC por sus siglas en inglés) y el ecosistema salafista-yihadista.
¿Qué es Viggle AI?
Viggle AI es un generador gratuito de Inteligencia Artificial de imagen a vídeo que permite a los usuarios convertir cualquier imagen en un vídeo. Se puede utilizar con plantillas de movimiento o con vídeos originales que sirvan como referencias de movimiento. La Inteligencia ofrece varias opciones para crear vídeos. Entre ellas se encuentra un Generador de Bailes con Inteligencia Artificial, que puede animar una imagen subiéndola a la app y seleccionando una plantilla de baile disponible, o subiendo un nuevo clip de referencia.
La app Viggle AI cuenta con un feed dividido en tres secciones: "Tendencias", "Explorar" y "Seguidos". Este, junto con una barra de búsqueda, permite al usuario explorar libremente todo el contenido creado con Inteligencia Artificial. A través de la app, los usuarios también pueden consultar los perfiles de otros usuarios y ver estadísticas como "Mix", "Me gusta", "Seguidores" y "Seguidos".
El contenido producido en la app conserva la marca de agua de Viggle AI cuando se usa la versión gratuita y puede descargarse, actualizarse o compartirse directamente en otras plataformas, como Instagram o TikTok. Ambas plataformas se mencionan en una entrada de blog en el sitio web de Viggle AI, que destaca cómo "Viggle AI se ha convertido en un importante impulsor de tendencias en TikTok" gracias a sus funciones.
Viggle AI y el ecosistema online de la extrema derecha
En la aplicación Viggle AI, se identificó fácilmente contenido relacionado con famosos asesinos de extrema derecha como Brenton Tarrant, Anders Breivik y Payton Gendron. A través de la barra de búsqueda, fue posible encontrar tanto vídeos como usuarios que incluían o hacían referencia a estas figuras. La mayoría de los vídeos encontrados mostraban a los tiradores bailando y se utilizaron en TikTok como parte de la tendencia "Rampage dance".
La gran mayoría del contenido encontrado estaba dedicado a Tarrant, quien mantiene una gran relevancia en los ecosistemas online de la extrema derecha gracias a la transmisión en directo de su ataque, que posteriormente inspiró a otros atacantes.
Normalmente, los tiradores aparecen bailando en lugares fácilmente asociados con sus ataques: Tarrant suele aparecer cerca de la mezquita Al Noor, mientras que Gendron suele aparecer cerca del mercado Tops Friendly. Otro elemento común suele ser la referencia a sus víctimas, que suele ser el número de personas asesinadas junto con un emoji para indicar su afiliación religiosa: en el caso de Tarrant, en pantalla también suele aparecer "-51" seguido del emoji "", explicando tanto el número de víctimas del ataque como su religión en una glorificación islamófoba.
Viggle AI y el ecosistema online de la extrema derecha
En la aplicación Viggle AI, se identificó fácilmente contenido relacionado con famosos tiradores de extrema derecha como Brenton Tarrant, Anders Breivik y Payton Gendron. A través de la barra de búsqueda, fue posible encontrar tanto vídeos como usuarios que incluían o hacían referencia a estas figuras. La mayoría de los vídeos encontrados mostraban a los tiradores bailando y se utilizaron en TikTok como parte de la tendencia "Rampage dance".
La gran mayoría del contenido encontrado estaba dedicado a Tarrant, quien mantiene una gran relevancia en los ecosistemas online de la extrema derecha gracias a la transmisión en directo de su ataque, que posteriormente inspiró a otros atacantes.
Normalmente, los tiradores aparecen bailando en lugares fácilmente asociados con sus ataques: Tarrant suele aparecer cerca de la mezquita Al Noor, mientras que Gendron suele aparecer cerca del mercado Tops Friendly. Otro elemento común suele ser la referencia a sus víctimas, que suele ser el número de personas asesinadas junto con un emoji para indicar su afiliación religiosa: en el caso de Tarrant, en pantalla también suele aparecer "-51" seguido del emoji "", explicando tanto el número de víctimas del ataque como su religión en una glorificación islamófoba.
Viggle AI y el ecosistema en línea de la Comunidad de Crímenes de Derecha (TCC)
Los autores también han identificado el uso masivo de Viggle AI por parte de la Comunidad de Crímenes de Derecha (TCC). En este peculiar ecosistema, algunas personas desarrollan una fuerte fascinación y obsesión por los asesinos, sus vidas y sus crímenes, y crean materiales para celebrarlos. Si bien a menudo no se comparte una ideología, sí se glorifica la violencia y se promueve. Este último proceso puede facilitarse y acelerarse mediante el uso de herramientas de Inteligencia Artificial.
En concreto, algunos miembros del ecosistema en línea de TCC utilizan Viggle AI para crear vídeos que muestran a asesinos en serie y tiradores escolares bailando frente a los lugares de sus ataques. Estos videos también muestran el número de víctimas asociadas a cada ataque. Dentro de esta comunidad, el contenido relacionado con la violencia se despoja de su significado negativo y se presenta como alegre y memorable. Además, según las secciones de comentarios de las plataformas de redes sociales mencionadas, algunos videos incluso se producen por encargo.
Los temas más comunes son los tiroteos escolares, probablemente debido a la facilidad con la que los jóvenes usuarios pueden identificarlos, seguidos de otros tipos de delincuentes con múltiples homicidios. Se pudo acceder en línea a contenido relacionado con los autores del ataque a la escuela secundaria Columbine, el ataque a la escuela primaria Sandy Hook y el ataque a la escuela cristiana Abundant Life, además del de varios asesinos en serie estadounidenses.
Sin duda, estos videos no incitan explícitamente al asesinato, sino que conducen a la normalización de la violencia. Esta creación de contenido, como señalan Ondrak y Vitelli, puede llevar a la "valorización del acto de estos ataques, reduciendo la violencia a una acción estética", celebrando a los asesinos. Por lo tanto, la idea es que compartir dicho contenido no promueva una ideología específica, sino la violencia como entretenimiento. Viggle AI y el ecosistema online salafista-yihadista
Los vídeos generados por Viggle AI también se difunden ampliamente en el ecosistema online pro-salafista-yihadista. Estos vídeos, al igual que los otros descritos, glorifican principalmente atentados terroristas famosos. Normalmente, los protagonistas son muyahidines famosos en los medios, como Jihadi John y/o el llamado "Barbero Francés", y otros terroristas conocidos. Estas figuras suelen ser retratadas adoptando actitudes violentas mientras bailan la tendencia viral de baile conocida como "rampage".
Esta tendencia consiste en una combinación viral de baile callejero de corta duración que combina animación robótica con deslizamientos basados en ilusiones. Los autores observaron el uso recurrente de imágenes de individuos relacionados con atentados terroristas conocidos, como el 11-S, el atentado contra el Ayuntamiento de Crocus y, más recientemente, el atentado de Bondi Beach.
Estos vídeos se caracterizan consistentemente por indicadores visuales que muestran el número de víctimas asociadas a cada atentado.
Por ejemplo, dos vídeos representan respectivamente a Zahran Hashim (izquierda) y Omar Mateen (derecha), reproduciendo la mencionada "danza de la masacre" con cifras que indican las víctimas asesinadas durante los ataques perpetrados por ellos. Viggle AI también se utilizó para producir vídeos con yihadistas y muyahidines conocidos, diseñados para atraer especialmente al público más joven en plataformas como TikTok.
Si bien Viggle AI parece ser la "fábrica creativa" donde se producen los vídeos, el material audiovisual también se difunde directamente en la propia plataforma. Mediante el uso de palabras clave relacionadas con el Estado Islámico (ISIS por sus siglas en inglés) o con individuos asociados al ecosistema salafista-yihadista, fue posible detectar contenido extremista en la plataforma.
En concreto, hay vídeos que muestran a terroristas realizando la "danza de la masacre" sobre fondos vinculados a los lugares de los ataques o sobre pantallas verdes, lo que permite a los usuarios generar fácilmente nuevo contenido.
En particular, los autores identificaron la presencia masiva de imágenes y/o vídeos relacionados con las figuras de atacantes como Omar Mateen, Zahran Hashim y Muhammadsobir Fayzov, respectivamente, relacionados con los atentados terroristas de Orlando en 2016, la Iglesia de Sri Lanka en 2019 y el Ayuntamiento de Crocus en 2024. Con frecuencia, este contenido audiovisual se combina con el uso de hashtags explícitos que hacen referencia al entorno salafista-yihadista y al número de víctimas, sin ningún tipo de censura. Además, los autores observaron vídeos con propaganda institucional pro-ISIS. Por ejemplo, se detectó un vídeo relacionado con el medio de comunicación institucional pro-ISIS, Al-Furqan.
En particular, el conocido vídeo "Un mensaje a América", producido por el mencionado medio de comunicación oficial al-Furqan, se utilizó para crear memes superponiendo la figura del conocido "Yihadista John", dejando visible el logotipo del medio de comunicación de ISIS. Conclusión
Actualmente, es evidente que Viggle AI, al igual que otras Inteligencia Artificial generativas similares, representa una nueva frontera en la creación de propaganda extremista espontánea. La plataforma cumple una doble función en el entorno digital. Por un lado, Viggle AI funciona como una herramienta creativa para el desarrollo de material audiovisual alternativo en los tres ecosistemas extremistas.
Así, al utilizar esta plataforma de Inteligencia Artificial generativa, los seguidores de los tres ecosistemas pueden atraer al público más joven, especialmente activo en redes sociales. Por otro lado, gracias a las funciones sociales que ofrece la propia plataforma, se ha observado que los usuarios comparten los productos finales generados por Inteligencia Artificial directamente en Viggle AI. Por lo tanto, la plataforma funciona como un repositorio de este tipo de contenido, sin obligar necesariamente a sus usuarios a buscarlo en otras plataformas, como TikTok.
Además, cabe destacar que Viggle AI sirve como un denominador común en el nexo extremista en cuestión. Al examinar el contenido audiovisual producido por los seguidores de los tres ecosistemas, se observa una tendencia común a idolatrar y glorificar la violencia. En consecuencia, mediante el uso de figuras conocidas y populares relacionadas con el terrorismo que enfatizan el aspecto violento, es posible generar una "oda a la violencia pura" moderna y atractiva para jóvenes, sin ninguna afiliación particular a la causa extremista directa representada por los tres ecosistemas objetivo.
Cabe destacar que TikTok se centra en el desmantelamiento de material relacionado con el terrorismo en la plataforma mediante una "combinación de tecnología, expertos y profesionales de la seguridad, junto con socios en detección de amenazas". De igual manera, Viggle AI está diseñada para proporcionar un espacio seguro dentro de la plataforma mediante la evaluación de contenido problemático y violento.
A pesar de esto, el tipo de contenido detectado y analizado por los autores es, en algunos aspectos, más difícil de detectar porque no es tan explícitamente violento como otros tipos de contenido extremista presentes en redes sociales. Por lo tanto, las plataformas deberían comenzar a monitorear otros elementos relevantes que permitan identificar este tipo específico de video: palabras clave, números o lugares que hacen referencia a un ataque se mencionan con frecuencia en las descripciones de los videos, así como los nombres modificados de los extremistas.
En este sentido, las plataformas mencionadas podrían ampliar su enfoque para identificar imágenes relacionadas con los atacantes, a menudo combinadas con otros elementos, que contribuyen decisivamente a la creación de esta particular y sutil forma de propaganda en línea. Finalmente, se debería prestar mucha más atención a controlar cómo se explota la Inteligencia Artificial generativa y a regular el contenido que genera por parte de diversos actores, más allá de las propias empresas tecnológicas.
Enlace a artículo original con imágenes y vídeos de Gnet-Research.org
