En la jungla digital, cada click, cada «me gusta» y cada comentario construyen un universo personalizado a medida. Es como si los sujetos vivieran en burbujas digitales propias, creadas por los algoritmos detrás de los sitios web, rodeados sólo por lo que confirma sus creencias y preferencias habituales.

Este fenómeno, conocido como las burbujas de filtro, instaurado por el emprendedor y activista político estadounidense, Eli Pariser, en su provocador artículo “Cuidado con la burbuja de filtros en la red” estrechamente relacionado con su libro «La burbuja de filtro: lo que Internet te oculta», donde argumenta que, si bien la personalización puede ofrecer beneficios al proporcionar contenido relevante, también tiene consecuencias negativas al limitar la diversidad de perspectivas y reducir la exposición a ideas nuevas y diferentes. ¿El resultado? Una sociedad cada vez más fragmentada donde el diálogo se ve obstaculizado, donde se promueven los discursos de odio y la construcción de consensos se vuelve una tarea titánica.

La libertad de expresión, ese principio sagrado de la democracia, choca frontalmente con los límites morales cuando el discurso se convierte en un arma para promover el odio y la discriminación. En las redes sociales, donde los límites son difusos, los discursos de odio pueden proliferar sin control, incluyendo mensajes discriminatorios, xenófobos y/o racistas que pueden propagarse rápidamente a través de estas plataformas, alimentando la discordia y debilitando el tejido social. Según un estudio del Observatorio de Internet en Argentina del año 2020, el 62% de los encuestados reportó haber experimentado algún tipo de discriminación o discurso de odio en línea. A su vez, a estas personas que son objeto de ataques, les pueden significar un impacto psicológico significativo, manifestándose en forma de estrés, ansiedad, depresión y otros problemas de salud mental.

En este contexto, vale preguntarse ¿Hasta qué punto la personalización algorítmica de la información está moldeando la percepción del mundo y fracturando la sociedad? Según un estudio digital realizado en 2024 por la Fundación Colsecor, el 50,4% de los encuestados declararon que utilizan las redes sociales como fuente de noticias. Este hallazgo es revelador, ya que sugiere que muchas personas confían en obtener información mientras están inmersas en un círculo restringido de las burbujas de filtro y sus algoritmos, incorporando sólo aquello que reafirma sus convicciones e ideologías, obstruyendo incorporar otros puntos de vista.

Los desafíos que la sociedad enfrenta en el ámbito de las redes sociales, los cuales fomentan la producción de discursos de odio y la desinformación, encuentra a la propagación de noticias falsas, potenciada por la capacidad de la inteligencia artificial (IA) para generar este tipo de contenido manipulado, lo que dificulta aún más la tarea de discernir la verdad de la mentira; la manipulación de la opinión pública y la polarización del discurso. Al respecto de este último, a finales del 2023, la figura del Presidente Javier Milei dividió aguas y encendió pasiones, generando una brecha cada vez más profunda entre quienes lo apoyaban y quienes lo criticaban, como consecuencia una gran confrontación en las redes que implicaba ira, odio y amenazas. Según una encuesta realizada en 2021 por el Centro de Estudios de Opinión Pública (CEOP) en Argentina el 72% de los encuestados considera que las redes sociales tienen un impacto negativo en la calidad del debate político en el país.

Manuel Castells, sociólogo y economista español conocido especialmente por su trilogía «La era de la información» y por otra de sus obras como «La sociedad red: una visión global», donde argumenta que las nuevas tecnologías facilitan la difusión de ideas y opiniones a una escala global y a una velocidad sin precedentes. Esto significa que los discursos de odio pueden propagarse rápidamente a través de las redes sociales, los blogs y otros medios en línea, llegando a un público amplio en poco tiempo. Castells destaca cómo las redes digitales pueden facilitar la formación de comunidades virtuales basadas en intereses compartidos, identidades culturales o creencias políticas. Estas comunidades en línea pueden servir como espacios donde los discursos de odio encuentran un terreno fértil para prosperar, ya que los individuos que comparten puntos de vista extremistas pueden reforzarse mutuamente y radicalizarse aún más en ese entorno.

Actualmente, existe una encrucijada entre equilibrar la libertad de expresión con la responsabilidad social en redes; por tanto ¿Quién decide dónde trazar la línea entre la libertad de expresión y el discurso inaceptable? ¿Cómo se pueden implementar medidas efectivas para combatir el discurso de odio sin menoscabar la libertad de expresión? ¿Cómo modificar la burbuja de filtros para generar sujetos mejor informados? Estos interrogantes deben abordarse con urgencia para garantizar un debate público informado, inclusivo y democrático en Argentina, fomentando la cohesión social del país.

Las burbujas de filtro representan un desafío para repensar nuestra relación con la tecnología y la información. En este laberinto digital, se debe ser consciente de las trampas y desafíos que los sujetos enfrentan, pero también de las oportunidades sin precedentes que se les presentan para construir un mundo más justo e inclusivo. En última instancia, la responsabilidad recae en cada una de las personas que tomarán la decisión de qué hacer dentro de la red: ¿optarán por perpetuar la división y el odio, o se comprometerán a construir puentes hacia un futuro común? La elección es de todos, esto es, un llamado a la acción dirigido a la capacidad de las personas, para influir en un mundo digital, ya sea desaprobando los discursos de odio sin alimentarlos o reflexionando sobre las consecuencias que pueden acarrear. Sólo el tiempo dirá si se ha tomado conciencia social de las atrocidades que se perpetúan en las redes sociales.

Camila Verónica Mallo

Licenciada en Ciencia Política por la Universidad de Buenos Aires (UBA). Actualmente se desempeña como docente adscripta en la materia Opinión Pública en la Facultad de Ciencias Sociales de la UBA y forma parte de la consultora Politólogos Digitales como pasante. Integró el grupo de investigación en comunicación política en la UBA, asistió y colaboró en las I Jornadas de Opinión Pública y Comunicación Política en la misma institución, y participó como asistente en el XVII Congreso Internacional de Comunicación Política. Fue ponente de su trabajo “Del click al compromiso: repercusiones de la tecnología en la acción social” en las Jornadas de Ciencia Política de la UBA.