[ Cargando por favor espere... ]
Conciencia Digital es un equipo de profesionales de distintas disciplinas dedicado a investigar, comprender y abordar el impacto de los entornos digitales en la vida cotidiana, especialmente de niños, niñas y adolescentes.

Límites a las redes sociales: ¿En manos de las familias, la escuela o el Estado?

Home > Conciencia Digital > Límites a las redes...
A casi un mes del tiroteo de San Cristóbal (Santa Fe) seguimos encontrando un hecho que parece seguir oculto en un celular.

En un pueblo de 16 mil habitantes, el joven “G” de 15 años sin antecedentes de violencia ataca con un arma de fuego a sus compañeros de escuela, hiriendo a seis y asesinando a Ian Cabrera. El arma había sido tomada de su abuelo. El joven, en apariencia, no poseía motivos personales para atacar a sus víctimas.  

Inmediatamente, desde un lugar de conexiones invisibles el hecho se traslada, ramifica y disipa emergiendo por todo el país. A través de una consigna oscura varios adolescentes levantan el guante para participar de una psicosis colectiva: en los baños de las escuelas escriben “Mañana tiroteo: no vengan”. La sociedad se aterroriza.

Aún se desconoce el medio de difusión por el que esta consigna se esparce entre jóvenes que se encuentran a miles de kilómetros entre sí. Las hipótesis apuntan a un “desafío” de TikTok pero no hay pruebas de que haya sido así. 

Entonces ¿Cómo se disemina la consigna de la masacre de San Cristóbal? ¿Cómo es que un adolescente toma la decisión de tomar un arma y disparar sin siquiera tener motivos personales? 

Partamos de lo que se sabe. 

“G”, el autor del crimen, era un participante activo del fandom “True Crime Community” dedicado a la veneración y promoción de masacres escolares. True Crime Community socializa y promueve sus contenidos procurando los intersticios virtuales y las fallas de la protección y regulación digital. Y encuentra ese espacio en las plataformas digitales. 

Sin embargo, no es cualquier plataforma donde se socializan estos contenidos, sino aquellas que se proponen “más indulgentes”, defensoras de la “libertad de expresión”. Es decir aquellas plataformas que ofrecen accesos irrestrictos a sus usuarios, sin verificación de edad, y sin moderación de lo que se consume. En el caso de G, el puente con los contenidos de True Crime Community se producen en una red social prácticamente desconocida para el mundo adulto llamada: Discord. 

Se trata de una red social de la cual la empresa no ofrece datos públicos de la composición demográfica de sus usuarios, pero según los registros voluntarios de sus usuarios, su audiencia se compondría en su gran mayoría por jóvenes y adolescentes hombres. 

Segmentación demográfica del consumo de Discord según Similarweb.

La plataforma salió al público en el 2015, es decir, cuando G tenía 5 años. 

Desde entonces, el tiroteo de San Cristóbal no es el único evento de estas características que se vincula a la empresa. 

Desde sus comienzos Discord es un espacio donde, por una parte, se otorga acceso a videojuegos en línea, y en simultáneo se convive en un espacio donde el comportamiento hostil, el abuso y el ataque dentro de sus chats forman parte intrínseca de una subcultura digital integral. Esta subcultura se caracteriza por convivir con la promoción de contenidos de odio donde confluye la raza, la religión, la política y la pornografía. 

Temas de interés de los usuarios de Discord según Similarweb.

Discord asume esta situación. Y declara haber implementado medidas mediante su departamento de Confianza y Seguridad. Sin embargo uno de los núcleos de su propuesta a los usuarios trata de ofrecer espacios para la creación de comunidades privadas, con posibilidades de acceso anónimo y sin monitoreo de contenidos. 

Esta posibilidad otorgó una herramienta con condiciones ideales para el cultivo de grupos extremistas. Facilitando un espacio a las comunidades de odio donde poder encontrar nuevos interlocutores, Discord se convirtió en una plataforma de gran popularidad entre facciones promotoras de la ultra violencia.   

En los Estados Unidos, el país donde Discord posee su mayor volumen de audiencia, la plataforma ha operado de forma recurrente facilitando herramientas a grupos del “supremacismo blanco” y el “neonazismo”.

Ante los numerosos eventos violentos que se vinculan a Discord, la empresa se manifiesta públicamente en contra de las expresiones que toman forma en su espacio, pero los eventos continúan y las condiciones que facilita la plataforma no son alteradas.

En 2022, un tiroteo en Buffalo, Nueva York, protagonizado por grupos racistas dejó un saldo de 10 muertos. Posteriormente al evento se descubre que la infraestructura de Discord había sido utilizada en la programación del ataque. Discord respondió a la situación argumentando que cooperaría en la resolución del caso.

En paralelo, también los delitos sexuales encuentran un medio de cultivo en Discord.

En 2023, se identificaron 35 casos de adultos acusados ​​de secuestro, manipulación o agresión sexual relacionados con Discord. 

También se descubrieron 165 casos de difusión de material de explotación sexual infantil.

 

Tras el tiroteo en Santa Fe la atención gubernamental se coloca en los contenidos del grupo True Crime Community, promovidos a través de Discord, pero no se atiende al medio que facilitó a G un acceso a contenidos no aptos para menores de edad. Es decir, desde una perspectiva gubernamental se elige colocar el peso en el abordaje de las consecuencias y no en las condiciones relacionadas con la causa del hecho. 

Pero en la medida en que estas condiciones no sean abordadas desde una perspectiva integral desde el Estado nada impide que el hecho se repita. Y nada imposibilita que el hecho se disemine como lo está haciendo a lo largo de todo el país. Las demandas por mayor acompañamiento estatal en materia de salud mental, es lo que más se ha escuchado estos días en boca de los jóvenes. Las problemáticas los desbordan y las familias e instituciones escolares atravesadas por una fuerte crisis social no logran contener dicha demanda.       

Discord es una plataforma que se encuentra bloqueada en países de Europa y Asia debido al riesgo que sus contenidos conllevan para sus poblaciones. Esta plataforma constituye un ejemplo más de las regulaciones que los Estados, tanto nacionales como locales, están implementando sobre el uso de pantallas y redes sociales. La tendencia mundial avanza hacia la prohibición de los teléfonos celulares en las escuelas y comienza a establecer restricciones respecto a la edad mínima para la creación de cuentas en redes sociales:

Ver mapa de regulaciones

Tanto en el Reino Unido como en Australia se aplicó una ley para que la plataforma aplique controles de verificación de edad más restrictivos. A principios de este año Discord se comprometió públicamente a que los controles utilizados en el Reino Unido se harían extensivos al resto de los países. Pero esto aún no sucedió.

Si estos controles se hubieran aplicado en Argentina, quizás otra hubiera sido la historia para el pueblo de San Cristóbal y el joven Ian. Esto es una hipótesis contrafáctica. Lo que sí sabemos es que algo pasa en los celulares, algo que nos aterroriza y que se escapa al control de las familias y las escuelas. 

Si bien la promoción y circulación de contenidos entre menores de edad debería ser moderada operativamente por las empresas, su cumplimiento debe ser exigido desde el Estado a través de una legislación clara y contundente. Es el Estado el único actor capaz de equilibrar la asimetría de poder que existe entre las empresas y los ciudadanos. Esta responsabilidad excede a las familias y las escuelas. La falta de regulación deja a la comunidad en una situación de carencia y vulnerabilidad que no admite más demoras.