Una bomba de relojería ‘sobrealimentada’ por la pandemia: cómo los nacionalistas blancos utilizan los juegos para reclutar para el terror

Ta foto de perfil del jugador no levantó banderas rojas: sólo la cara sonriente de un avatar típico de Roblox, poco diferente de los 220 millones de personas que se calcula que se conectan al menos una vez al mes a la popular plataforma de videojuegos para niños.

Sin embargo, si se examina con más detenimiento, la lista de “favoritos” del jugador se ha organizado en un mosaico improvisado con las palabras: “Frente Patriótico. Vida, libertad, victoria. Recupera América”. El Frente Patriótico es un grupo norteamericano de luchadores callejeros fascistas, que utilizan “recuperar América” como lema.

El jugador también formaba parte de un grupo del juego llamado Justice 4 Floyd, cuyo logotipo parecía estar basado en el escudo negro de las divisiones de combate de las SS alemanas nazis en la Segunda Guerra Mundial. Ese grupo estaba vinculado mediante “alianzas” a otros grupos de Roblox con nombres como la Vanguardia Nacionalista Británica, la División Cóndor (similar a la Legión Cóndor de los nazis) y el 2º Pelotón de Infantería de New Hampshire, cuya descripción tenía referencias a conocidos grupos neonazis.

Esta es sólo una de las redes sospechosas descubiertas en videojuegos populares y redes sociales relacionadas con el juego por Alex Newhouse, investigador del Instituto Middlebury de Estudios Internacionales en Monterey, California. En una charla la semana pasada en la Game Developers Conference de San Francisco, él y la psicóloga especializada en juegos Rachel Kowert expusieron las pruebas de cómo el auge de los juegos en la era de la pandemia ha proporcionado a los extremistas de extrema derecha, que durante mucho tiempo han estado activos en las comunidades de juegos, nuevas oportunidades para reclutar y organizarse.

Y lo que es peor, el Sr. Newhouse sostiene que las principales empresas de juegos, en su afán por atraer y retener a los usuarios, están ampliando las características que los extremistas pueden utilizar como armas, al tiempo que no aumentan sus esfuerzos de seguridad al mismo ritmo, creando una bomba de relojería en línea que podría conducir a la violencia fuera de línea.

“Sabemos que los extremistas estructuran intencionadamente estas redes para movilizar a la gente hacia la violencia. Lo dicen, y hemos entrevistado a antiguos extremistas que hablan de esto… hay individuos que están activamente a la búsqueda o gente que creen que puede convertirse en un tirador de masas o en un terrorista.”

Los extremistas acuden a Steam, Discord y Roblox

Los juegos no son ajenos a la extrema derecha. La gran cantidad de jóvenes desafectos y socialmente aislados que tiene este pasatiempo ha demostrado ser atractiva para los grupos extremistas, que tienen un patrón histórico de explotación de servicios en línea inesperados para difundir su mensaje.

El señor Newhouse era reportero en GameSpot en 2014, cuando el resentimiento por la creciente prominencia del feminismo y la defensa de las minorías en las comunidades de jugadores estalló en un movimiento reaccionario conocido como Gamergate. La controversia generó intensas campañas de acoso contra desarrolladores de juegos femeninos y no blancos e impulsó las carreras de activistas e influenciadores que luego se convirtieron en figuras clave de la “alt right”.

El Gamergate también dio lugar a 8chan, un tablero de mensajes en línea, que desde entonces se ha convertido en un espacio central de organización para los terroristas de todo el mundo. Aquí fue donde el pistolero de la mezquita de Christchurch en 2019 publicó su manifiesto, salpicado de referencias a la cultura de los juegos, y donde “Q” -el misterioso mesías del movimiento QAnon- publicó casi todas sus profecías conspirativas.

“En un cruel giro del destino, los críticos de juegos y los medios de comunicación de juegos están todavía hoy, en cierto modo, mucho mejor equipados para manejar el panorama actual del extremismo y la desinformación que la gente que cubría a los terroristas en la década de 2000, a principios de 2010”, dice Newhouse, que más tarde trabajó en la privacidad de datos en Sony Playstation y ahora es subdirector del Centro de Terrorismo, Extremismo y Contraterrorismo de Middlebury.

El año pasado, el Sr. Newhouse observó una “cantidad creciente de conversaciones” en las redes extremistas que sugerían que sus miembros se estaban trasladando en gran número a servicios como Discord, una aplicación de chat de grupo popular entre los jugadores, y Steam, una plataforma de juegos en línea polivalente que combina tienda, red social y biblioteca de juegos.

El momento coincidió con una serie de medidas drásticas por parte de las principales redes sociales a raíz deataques violentos vinculados a comunidades extremistas como QAnon y Boogaloo, que culminaron con el asalto al Capitolio de Estados Unidos en enero de 2021. El Sr. Newhouse sospecha que ese fue uno de los motivos de la migración, aunque no puede estar seguro.

La discordia, dijo a la audiencia de la GDC, “se ha convertido probablemente en el principal lugar para la iniciación de alguien desde las primeras etapas de la radicalización en cada vez más robusto [far-right] socialización e identidad”. Dice que las comunidades extremistas suelen utilizar un “servidor” de Discord -en realidad un grupo de salas de chat vinculadas, que pueden ser públicas o privadas- como centro de actividad en varios videojuegos.

¿Por qué Discord? En parte porque ya es popular, especialmente entre los hombres blancos y los chicos de entre 15 y 22 años a los que suelen dirigirse los grupos de extrema derecha. Pero el Sr. Newhouse también dice: “Discord ha demostrado que está relativamente poco dispuesto a tomar medidas significativas contra estos grupos.

“Son capaces de publicar bajo el radar lo suficientemente bien como para que no reciban tanta atención como las grandes redes de Telegram o Facebook… es probablemente la plataforma más popular y con menos medidas”.

‘Preparado a través de los juegos en línea’

En 2017, el personal de Discord se enteró de que su aplicación había sido uno de los principales lugares de organización de la concentración de supremacistas blancos Unite the Right en Charlottesville (Virginia), en la que un neonazi declarado mató a una persona e hirió a 35 en un ataque con un vehículo.

En ese momento, el equipo de “confianza y seguridad” de Discord estaba formado por una persona. El suceso provocó un cambio dentro de la empresa, y el pasado mes de mayo el equipo de seguridad se había ampliado a unas 60 personas.

Sin embargo, el problema persiste. Una investigación realizada en agosto por el Instituto para el Diálogo Estratégico (ISD), un grupo de expertos británico, encontró 24 servidores de extrema derecha en Discord; 100 canales de este tipo en el servicio de livestreaming DLive; 91 canales en Twitch, un servicio de livestreaming más conocido y propiedad de Amazon; y 45 grupos públicos en Steam.

Steam parecía albergar las redes más arraigadas y duraderas, actuando como centro de la comunidad, mientras que los servidores de Discord tenían ciclos de vida cortos debido a las represiones de la compañía y se utilizaban para proporcionar “espacios seguros” para que los jóvenes exploraran ideas extremistas y para coordinar campañas de acoso contra grupos minoritarios.

Mientras tanto, los periodistas han encontrado numerosos ejemplos de grupos de extrema derecha que construyen contenidos de propaganda en videojuegos, como campos de concentración nazis interactivos en Minecraft y Roblox.

Informe de la DSI también encontró pruebas de que varios servidores de Discord de extrema derecha albergaban a muchos menores de 17 años, “lo que hace temer que la plataforma se utilice para la radicalización de menores”. Encontró pocas pruebas de que los extremistas utilizaran las comunidades de juegos para captar nuevos miembros, y concluyó que la mayoría las utilizaban para establecer vínculos con otros radicales y movilizar la acción.

Un portavoz dijo que esas personas no podían ser entrevistadas porque Exit Hate recomienda que sus alumnos esperen 12 meses antes de hablar con la prensa, pero añadió: “Algo más del 70% de las personas con las que hablamos han sido reclutadas en línea, con un número creciente influenciado por los juegos de extrema derecha.”

Aunque no hay datos suficientes para saber cómo ha afectado la pandemia a este panorama, las principales redes sociales han sufrido fuertes repuntes de extremismo. Moonshot, una empresa británica que trabaja con empresas tecnológicas y organismos gubernamentales para diseñar y medir el rendimiento de los programas de lucha contra el extremismo, afirma haber observado un aumento de la actividad extremista en todos los ámbitos.

“Hemos constatado sistemáticamente una conexión entre el aislamiento social y el extremismo, por lo que creemos que el aumento del aislamiento durante la pandemia también hizo a la gente más vulnerable”, afirma Ross Frenett, cofundador y codirector ejecutivo de Moonshot, que ha ayudado a redactar informes sobre el extremismo en las comunidades de jugadores para la Comisión Europea.

“La pandemia [also] permitió que se fusionaran varias ideologías diferentes, anteriormente poco conectadas o inconexas. La fusión de algunas de las narrativas de conspiración anti-vax con QAnon y las ideas neo-nazis – todo eso se sobrealimentó durante la pandemia.”

‘Cuando me enteré de esto, mi mandíbula cayó al suelo’

Para el Dr. Kowert, que es director de investigación en la organización benéfica de salud mental centrada en el juego Take This, esta investigación fue una alarmante llamada de atención.

“La primera vez que hablé con Alex sobre su investigación, se me cayó la mandíbula al suelo”, dice. “Muchas veces, cuando se habla de extremismo en los juegos, lo que la gente imagina es una esvásticaponer en un chat de Discord. No están pensando en que, en realidad, estas redes son personas que están siendo reclutadas, preparadas y movilizadas dentro de estos espacios.”

Mientras que los políticos y los periodistas se han preocupado tradicionalmente por el contenido de los videojuegos -temiendo, por ejemplo, que los shooters sangrientos hicieran a sus jugadores más proclives a la violencia-, el Dr. Kowert dice que el verdadero peligro es más sutil.

Critica el medio por su visión del mundo históricamente “etnocéntrica”, con personajes blancos que luchan contra enemigos extranjeros estereotipados, pero argumenta que esas narrativas proporcionan herramientas retóricas útiles para los extremistas en lugar de preparar a los jugadores para que acepten directamente ideas deshumanizadoras.

También distingue entre las personas que juegan, que ahora constituyen una enorme proporción de la población del mundo rico, y los “jugadores”, que se han convertido en una identidad cultural distinta. “Mi madre juega a Wordle todos los días. Si le preguntaras si es una jugadora, nunca, nunca diría que lo es”, dice el Dr. Kowert. “Yo tengo tres hijos pequeños, no he jugado propiamente a un juego en años, y diría absolutamente que soy un gamer”.

Sin embargo, el Dr. Kowert cree que este sentido de cultura compartida es parte de lo que hace a los jugadores vulnerables a la radicalización. Para muchos, “gamer” es una identidad fuerte que induce sentimientos de solidaridad y abnegación hacia otros miembros del grupo. Algunos sufren un proceso de “fusión de identidades”, lo que significa que su pertenencia al grupo social de los “gamers” se convierte en el núcleo de su ser fundamental.

Aunque la mayoría de las investigaciones sobre la fusión de identidades se han centrado en los grupos nacionalistas o militares, la investigación del Dr. Kowert ha descubierto que la fusión de identidades de los jugadores está relacionada con la identidad de la extrema derecha.

Cita estudios que demuestran que los vínculos sociales entre los jugadores tienden a ser más estrechos, más íntimos y más duraderos que el compañerismo más flojo típico de otras relaciones en línea, en parte porque se forjan a través de batallas y luchas simuladas.

“Las amistades en los juegos se forman al revés”, dijo a la GDC. “Se ponen en marcha emocionalmente gracias a esta actividad compartida. Primero se establece la confianza y luego se llega a conocer a alguien, mientras que tradicionalmente se llega a conocer a alguien y luego se puede determinar si se confía en él… eso es una vulnerabilidad potencial cuando se trata de radicalización y reclutamiento”.

Las empresas de juegos pueden estar agravando el problema

Según el Sr. Newhouse, el libro de jugadas de la radicalización de la extrema derecha tiende a seguir tres pasos básicos. Primero viene la fase de “escopeta”, en la que los extremistas lanzan propaganda y provocaciones a las comunidades de jugadores, a menudo disfrazadas de humor “nervioso” o irónico. Su objetivo es tanto normalizar sus ideas, difuminando los límites entre el espectador y el verdadero creyente, como llegar a individuos que podrían estar predispuestos a aprender más.

Jim Whitley, moderador voluntario de uno de los foros de Reddit de Reddit sobre la Segunda Guerra Mundialdescribe una dinámica similar. Los neonazis intentan varias tácticas para insertar sus ideas en la discusión, desde hilos insinceros de “sólo preguntas” que “encubren las opiniones de uno en preguntas que parecen inocuas” hasta argumentos de propaganda “indirecta” que disfrazan la apología fascista de erudición histórica.

Luego viene la fase de “creación de redes sociales e identidades”, en la que los usuarios simpatizantes se ven arrastrados a estrechar lazos con los extremistas. Estos grupos ofrecen un verdadero apoyo y una comunidad al tiempo que animan a sus miembros a someterse a la fusión de identidades de extrema derecha, pasando a la tercera fase: la “movilización”.

Aquí, los miembros más aguerridos y comprometidos pasan a formar parte de los esfuerzos por organizar acciones materiales para la causa, como protestas, concentraciones, escaramuzas con activistas antifascistas, vandalismo, campañas de acoso o incluso tiroteos y atentados terroristas. El Sr. Newhouse ha encontrado probables redes de este tipo en Roblox, Steam y Discord.

Todo este proceso se ve facilitado por la proliferación de lo que el Sr. Newhouse denomina “ganchos sociales”, es decir, características que permiten a los jugadores crear redes conjuntas que pueden abarcar múltiples juegos y plataformas. Los grupos, las listas de amigos, las alianzas y enemistades, y los vínculos entre los juegos y las redes sociales son herramientas que pueden ser explotadas por los extremistas, y todas ellas son cada vez más comunes.

Estas características no son nuevas, ya que aparecen en los juegos “multijugador masivo” de los años noventa, como Everquest y World of Warcraft, pero los cambios en la industria del juego las han convertido en omnipresentes. Hoy en día, los videojuegos están totalmente generalizados y son ineludibles para la Generación Z, mientras que la mayoría de los juegos más importantes están ahora en línea y son gratuitos.

Mientras que en los años noventa la mayoría de los juegos eran para un solo jugador por defecto, y los combates multijugador requerían un esfuerzo especial, ahora es la norma que grandes títulos como Fortnite, Minecraft y Destiny estén continuamente conectados a Internet, ofreciendo un flujo interminable de nuevas actualizaciones, interacciones con otros jugadores y oportunidades de comprar bienes digitales por dinero real.

“Es una cuestión de escala”, dice el Sr. Newhouse. “Todos estos juegos son cada vez más accesibles y, al mismo tiempo, traen consigo millones y millones de jugadores más. Es [at] el punto en el que, para mucha gente, los juegos son su plataforma social de facto: es donde más interactúan.

“Es casi como si los jugadores más acérrimos de World of Warcraft fueran más la norma que la excepción en estos días, debido a lo arraigados que están estos juegos en la cultura y a lo omnipresentes que son esas características de creación de comunidad en ellos”.

‘Estamos diez años por detrás de donde deberíamos estar’

¿Están haciendo lo suficiente las empresas que albergan estas comunidades? El Sr. Newhouse cree que no, ya que afirma que “la moderación de contenidos en los juegos no está tan avanzada como en otras formas de medios sociales” y que Discord ha fallado en repetidas ocasiones a la hora de detectar servidores que están “abiertamente afiliados a movimientos extremistas”.

Además, sostiene que muchas empresas siguen tratando el problema como un problema de moderación de contenidos -encontrar y eliminar los contenidos que incumplen una serie de normas- en lugar de como un problema de recopilación de información y ruptura de redes, que requiere estrategias diferentes.

El Dr. Kowert afirma igualmente: “Esto está supurando en las comunidades de jugadores, y estamos diez años por detrás de donde deberíamos estar en términos de cómo combatirlo.”

El Sr. Frenett cree que la industria de los juegos está atenta al problema, pero advierte que las empresas deben igualar lo que hacen las redes sociales más grandes lo mejor que puedan en su tamaño. Eso significa tener algún tipo de capacidad de inteligencia dedicada, prohibir la actividad extremista aunque no infrinja la ley, y crear inteligencia artificial para detectar automáticamente indicios de organización extremista, entre otras soluciones específicas para el tipo de plataforma.

“Las plataformas deberían buscar proactivamente los daños”, dice. “No deberían sentarse a esperar a que se les comuniquen los daños. Cualquiera que sea su capacidad, existe la responsabilidad ética de garantizar que el producto que está poniendo en el mundo es seguro por su diseño”.

“No esperamos que las empresas de automóviles se limiten a sacar al mercado coches inseguros y que sólo hagan cambios cuando mueran personas. Pero con demasiada frecuencia en el mundo de la tecnología, la idea es ‘constrúyelo y vendrán, y cuando haya quejas, lo solucionaremos’.

“Tal vez era excusable cuando Internet estaba en sus inicios, pero todos llevamos ya el tiempo suficiente para saber que si construyes una nueva plataforma, y ésta permite la conexión social, será abusada por actores de la desinformación, teóricos de la conspiración y terroristas.”

Los esfuerzos de las empresas, y su franqueza al describirlos, varían. Discord, Twitch y Microsoft, propietaria de Minecraft, se han unido al Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT), una organización sin ánimo de lucro fundada por Facebook, Microsoft, Twitter y YouTube en 2017 para coordinar los esfuerzos antiterroristas entre las empresas tecnológicas.

Como condición para ser miembro, todas publican informes regulares de transparencia que dicen cuánto contenido han retirado y en qué categorías, así como cómo lo encuentran en primer lugar. Roblox y Valve, la empresa matriz de Steam, no forman parte del GIFCT, aunque Roblox afirma que está “en diálogo” con el organismo.

“Es la máxima prioridad de Discord garantizar una experiencia segura para nuestras comunidades, y estamos invirtiendo continuamente en nuestras capacidades de seguridad”, dijo el portavoz. “Nuestro dedicado equipo de seguridad utiliza una mezcla de herramientas proactivas y reactivas paramantener fuera del servicio la actividad que infrinja nuestras políticas, incluida la tecnología avanzada como los modelos de aprendizaje automático.”

La empresa también ha empezado a tener en cuenta el comportamiento offline de los usuarios a la hora de decidir si se han infringido sus normas sobre extremismo (Twitch ha hecho lo mismo). Cualquier prueba creíble de participación fuera de la red en grupos violentos conocidos, o de amenazas de violencia, podría llevar a una prohibición en línea.

Roblox dio la respuesta más completa. “Aborrecemos las ideologías extremistas y tenemos tolerancia cero con los contenidos extremistas de cualquier tipo en Roblox”, dijo el vicepresidente de confianza y seguridad de la firma, Remy Malan. “Debido a las medidas rápidas y proactivas que tomamos, el contenido extremista es extremadamente raro en nuestra plataforma y, por lo tanto, para la gran mayoría de la comunidad de Roblox que no busca este tipo de contenido, es muy poco probable que estén expuestos a él….

“Reconocemos que los grupos extremistas están recurriendo a una variedad de tácticas en un intento de eludir las normas en todas las plataformas, y estamos decididos a estar un paso por delante de ellos. Somos deliberadamente ágiles en nuestros esfuerzos: reforzamos constantemente las herramientas y los filtros que utilizamos para rastrear a los malos actores y ampliar la gama de contenidos bloqueados por nuestros sistemas de moderación.”

Añadió que Roblox cuenta con “miles” de moderadores de contenido que cubren todas las horas, y utiliza la inteligencia artificial (IA) para escanear “cada una de las imágenes, vídeos y archivos de audio” subidos por los usuarios. También agradeció al Dr. Kowert y al Sr. Newhouse su trabajo, y dijo que la empresa está en “diálogo activo” con ellos, con el GIFCT y con otras organizaciones como la ADL.

La cultura del juego puede ser parte de la solución

La moderación de contenidos por sí sola no puede desmantelar las redes extremistas ni resolver los problemas sociales o psicológicos subyacentes que las llevan a formarse. Una mejora duradera podría provenir de los mismos elementos singulares de la cultura del juego que los extremistas tratan de explotar.

“Sabemos que los juegos ofrecen un gran apoyo social y emocional positivo”, afirma el Dr. Kowert. “Se asocian a la reducción de la soledad; producen vínculos y capital social… He sido amigo de algunas de las personas con las que juego [with] durante décadas…”

La cuestión, entonces, es por qué este mismo proceso de vinculación lleva a la mayoría de las personas a tener relaciones sanas y positivas y a una minoría al extremismo político. Una posible respuesta, que el Dr. Kowert está investigando en la actualidad, es que los altos niveles de acoso, discurso de odio o comportamiento tóxico en una comunidad hacen que sus miembros sean más propensos a radicalizarse en el futuro, convirtiendo el proceso de fusión de identidades en algo malo.

Moonshot ha descubierto que, en palabras del Sr. Frenett, “participar en el discurso del odio suele ser un indicador de que se está en el camino del extremismo”. De ser así, las empresas de videojuegos tendrían que ver el acoso y el extremismo violento como problemas vinculados, adoptando un enfoque coordinado para ambos.

En cualquier caso, el Dr. Kowert advierte que los investigadores deben tener en cuenta las necesidades reales que la gente busca satisfacer cuando se une a las comunidades extremistas. “Lo más importante de estos grupos de radicalización es que te hacen sentir bienvenido y que perteneces a ellos”, afirma. “El valor de la conversación es obviamente hacia el odio y la violencia, pero están ahí para hacerte sentir bien y hacerte sentir incluido y hacerte sentir especial”.

El Sr. Frenett defiende firmemente que los juegos y la cultura del juego son parte de la solución, y afirma que no hay pruebas sistemáticas de que los jugadores o las comunidades de jugadores corran más riesgo de radicalización que cualquier otro grupo.

“Desde hace décadas, grupos como la Asociación Nacional del Rifle han intentado relacionar los juegos con la violencia para desviar la atención de la idea de que el control de las armas [could reduce] la violencia de masas, y por desgracia se ha filtrado esa percepción de los jugadores como vulnerables en sí mismos”, afirma. “Es francamente, en el mejor de los casos, erróneo, y en el peor, increíblemente peligroso”.

Por el contrario, cree que los responsables políticos deberían considerar cómo los juegos podrían ayudar a prevenir la radicalización, diciendo: “Que la gente se sienta conectada, que se sienta parte de un grupo, que sea capaz de expresarse: todos estos son los tipos de razones por las que los deportes se utilizan muy a menudo para prevenir y contrarrestar el extremismo violento. No se ha trabajado lo suficiente para utilizar los eSports en el trabajo de prevención de la violencia”.

Para la Dra. Kowert, el poder de los videojuegos para forjar vínculos estrechos -para bien o para mal- le recuerda algo que su madre solía decirle cuando era niña. “Eres con quien pasas el tiempo”, dice. “El consejo de mi madre sigue vigente”.