Adicción, algoritmos y manipulación: tres ideas sobre “El enemigo conoce el sistema” de Marta Peirano

Un ensayo sobre lo poco y nada que sabemos de internet y de sus dueños.

Foto: Patricio Contreras

El enemigo conoce el sistema
Marta Peirano
Debate
2019


Resumen ejecutivo

La infraestructura más grande creada por la humanidad —internet— es cada vez más opaca, opresiva, manipuladora. Su propiedad está en manos de un puñado de empresas que no vacilan en actuar promiscuamente con regímenes autoritarios para vigilar y controlar. Y su funcionamiento es secreto, invisible. Por lo tanto, no podemos entenderlo. Marta Peirano se propone iluminar los intersticios, los vasos comunicantes, los códigos, los mapas de relaciones y los proyectos ideológicos detrás de la red.


1.Somos adictos

La industria de la economía de la atención no se diferencia de la industria alimentaria sostenida por la adicción al azúcar: ambas activan zonas cerebrales que hacen sentir bien y que nos recuerdan que siempre queremos más de aquello tan placentero. Como el sexo o las drogas. Hoy estamos en un equilibrio precario entre los hábitos y la adicción. Imaginar una vida sin Google es difícil. Interactuamos en redes estimulados por el deseo de ser aceptados. Nos contenemos para evitar ser rechazados. Nos indignamos velozmente y le hacemos saber al mundo —nuestro reducido mundo algorítmico— que estamos enrabiados. Como si fuera una máquina tragamonedas, con nuestro pulgar deslizamos incesantemente hacia abajo para actualizar las aplicaciones, esperando que caiga un premio. Y puede que no caiga nada. Ante la decepción, reanudamos esa rutina que deviene en adicción. Así se nos va la vida mientras caemos en el “agujero del conejo”, la metáfora tomada de Alicia en el país de las maravillas para describir esa interacción de nuestras vidas anclada en el presente, sin techo, muro ni fondo ni pasado ni futuro. Y lo que la autora nos advierte es que desconocemos cómo la maquinaria ha experimentado con nosotros. “Lo único que facilitan las herramientas —escribe Peirano al comienzo del libro— es el uso de las herramientas. Y cada pequeño aspecto de su funcionamiento ha sido diseñado por expertos en comportamiento para generar adicción” (p. 22).


2. Algoritmos que rigen el mundo

En Silicon Valley la idea de progreso ineludible toma cuerpo y alma en el algoritmo, ese “conjunto de instrucciones” que busca resolver un problema. Puede ser uno pequeño, cotidiano, como elegir una canción para empezar el día. O mayores, como agilizar los procesos del sistema judicial en Estados Unidos. El problema, escribe Peirano, es que esta automatización de la toma de decisiones se ha convertido en un oportuno chivo expiatorio para el mathwashing: “higienizar una conducta discriminatoria y vejatoria con la mano limpia del código” (p. 133). ¿La aerolínea te expulsa del avión por ser el pasajero menos valioso? “Fue el algoritmo”. ¿Flickr etiquetó a un hombre de color como “mono”? “Fue el algoritmo”. Deus ex machina. A esta justificación se suma la opacidad de estos conjuntos de instrucciones: no sabemos cómo son ni qué intentan resolver. Tampoco existen mecanismos para auditar o supervisar cómo las empresas —que prestan servicios a los gobiernos— diseñan y programan estos algoritmos, trasvasando sus propios sesgos, valores y prejuicios. Y el problema es que, con el tiempo, eso nos puede conducir a zonas cada vez más oscuras, como el sistema de crédito social en China, que materializa un sistema de vigilancia digital alimentado por el reconocimiento facial y más de 400 millones de cámaras que espían, y estigmatizan, a sus ciudadanos.


3. Manipulados

Marta Peirano describe otros niveles del sistema: el origen científico-militar de la infraestructura, su capacidad de vigilancia, su oportunismo revolucionario y su gallina de los huevos de oro: la venta del tiempo de atención de las personas. Pero el libro cierra con el que es, quizás, el nivel más urgente: la manipulación. En esta distopía capitalista, escribe la autora, donde nuestra capacidad de distracción es infinita, donde la catarata de información no se detiene, donde existen “hechos alternativos” y donde existen maquinarias institucionales de desinformación y mentira, no existe posibilidad de diálogo. Vivimos y nos indignamos en realidades paralelas que no se intersectan en el infinito. Los populismos, racismos y supremacismos han aprovechado este caldo de cultivo en contextos eleccionarios como el Brexit. Y se han movido paulatinamente hacia las redes cerradas —Whatsapp— donde la opacidad y el descontrol es aún más incierto. Son plataformas imposibles de auscultar. No conocemos su sistema nervioso, por dónde bombea la sangre, por donde se desgarran sus músculos ni cómo se mueven los virus. Es el agujero del conejo al que los manipuladores arrojan mentiras. Una letrina encriptada, donde nadie sabe lo que sucede. “Y estas infraestructuras de poder centralizado, persistente y oscuro —sentencia Peirano— no están diseñadas para ayudarnos a gestionar esa crisis. Están diseñadas para gestionarnos a nosotros durante la crisis. No nos van a servir para hacer frente al poder. Las herramientas del poder nunca sirven para desmantelarlo” (p. 290).


Agradecimientos a Penguin Random House por facilitarnos un ejemplar del libro. En su sitio web puedes leer un fragmento del primer capítulo: «Adicción».

Sigamos en contacto

Sitio diseñado con por Mariano Xerez