¿Qué es una burbuja de filtro?

Miramos, comemos, olfateamos, leemos, amamos, interactuamos, consumimos un eco amplificado. Los algoritmos se han adueñado de nuestras vidas. Son nuestra religión. El espejo negro devuelve contenidos en base a nuestros perfiles. Algo así sucede en “Black Mirror: Bandersnatch”, que mientras nos hace pensar por un instante que tenemos el control, nos introduce en un loop en el que Stefan Butler termina por estar al mando de la relación usuario/producto.

Eli Pariser advierte, en su charla TED, sobre la proliferación de las “burbujas de filtros”, por las que nos vamos sumergiendo en una cámara de eco que nos impide salir fuera de los límites de la misma. No vemos ni conversamos con quienes piensan distinto. Elegí seguir el mismo procedimiento de Pariser, y les pedí a amigos y amigas que googlearan “Brasil” y me enviaran las capturas de pantalla de los resultados. La idea de personalización quedó clara: entre los primeros resultados, a algunes se les exhibió primero el artículo de Wikipedia, a otres noticias políticas sobre el país, y a otro grupo paquetes turísticos.

El mito triunfalista de la hiperpersonalización nos sitúa frente a una serie de interrogantes nodales para pensar la democracia y las libertades fundamentales. Ello debe formar parte de las agendas públicas, o correremos el riesgo de que los autoritarismos digitales terminen por imponer guetos algorítmicos, burbujas que redunden en aislamiento, exacerbación de prácticas discriminatorias, de odio hacia las otredades, de intolerancia frente a las diversidades.

El algoritmo lo diseña una persona. El fetichismo de la mercancía

Googleo “Alexa” y en microsegundos emerge una noticia que afirma que el dispositivo de comando por voz “ya habla español”. Nuestros teléfonos inteligentes, o los cientos de miles de robots que han comenzado a regir nuestros hábitos, son presentados como entidades a quienes les asignamos atributos humanos.

Sin embargo, el proceso de diseño de los algoritmos ( que se puede definir como una serie de instrucciones sencillas para resolver un problema ) lo lleva adelante alguien de carne y hueso. Sus reglas, variables, condiciones o modo de estructuración los establece una persona con su historia, formación, características y prejuicios a cuestas. En dicho sentido, uno de los principales desafíos que enfrentamos es comprender que en la programación hay un componente humano. Un sentido asignado a las operaciones matemáticas, a las reglas, a esa traducción de experiencias a números.

¿Y entonces? Hay que bucear en los llamados sesgos algorítmicos. ¿Qué es lo que hace que las personas que buscaron “Brasil” tuvieran un resultado distinto en cada caso? Fácil. Google, a partir de nuestra huella digital, asume que nos puede interesar más un paquete turístico que conocer aspectos demográficos del país vecino. Ello surge de definiciones previas del tipo: “si una persona X buscó tal cosa en otras oportunidades, debemos mostrar Y frente a determinadas prácticas”. El problema es que aquello se trasladó a nuestros consumos de información, a nuestras redes de relaciones, y es así que paulatinamente nos aislamos y homogeneizamos como consecuencia de definiciones que tomaron otros.

¿Y la democracia qué?

La práctica democrática supone la coexistencia de pluralidades. Si bien podrá decirse (y con razón) que en el mundo analógico, con la prensa gráfica, la televisión tradicional o la radio, hay lógicas distorsivas de aquel ideal de esfera pública que se supone debería tender a reproducir el ágora, también es admisible pensar que la hiperpersonalización acrecienta todavía más las distancias.

Las cámaras de eco son contrarias a una sociedad deliberativa, y bastante tóxicas para forjar políticas de Estado que requieran consensos o puntos de acuerdo. En Twitter, por ejemplo, el mundo suele dividirse entre malos (que son siempre otros), y los buenos (que somos siempre nosotros, obvio – jejeje -). Si pensamos en Netflix, o Spotify, el funcionamiento no varía. Los algoritmos se adueñan de nuestra experiencia vital y la democracia, por el contrario, requiere cierto margen de toma de decisiones, de experiencias múltiples, de ejercicios de libertades.

Pensar en estos desafíos nos debe llevar ineludiblemente a debatir respecto a nuestro sistema electoral, los modos en que los Estados (nacional, provinciales y municipales) dialogan con nosotros, o las formas de construir nuevos puentes entre ciudadanes, y entre éstos y las instituciones. De lo contrario, corremos el riesgo de introducirnos en un fenómeno de aceleración que culmine con Skynet gobernando, a lo Terminator, tomando las decisiones que dejamos libradas al Dios Algoritmo, manejando los portales de acceso a nuestros guetos culturales.