Ojo en Tinta

Desde los excesos y peligros de la extracción por las empresas tecnológicas pasando por la automatización y la racionalización de los lugares de trabajo, hasta llegar a las grandes cantidades de datos arrancados de los usuarios y las prácticas de vigilancia, este atlas de la inteligencia artificial es, según la reseñista, imprescindible para toda persona interesada en el tema.

Atlas de Inteligencia Artificial es un libro que toca fibras profundas en el lector. Es tanto un ejemplo bien investigado del campo de la inteligencia artificial (IA) como una guía instructiva sobre cómo pensar de manera “perspicaz” sobre el tema. El hábil uso que hace Kate Crawford de un mapa planetario geográfico de tierras baldías tecnoindustriales sitúa y problematiza el auge de los gigantes tecnológicos. Ella comienza con San Francisco, donde la minería de oro en el siglo XIX creó una avalancha de barones ladrones y una era de apogeo de la “extracción” que coincide con el estrujamiento excesivo de los datos de todas las personas desde nuestra interfaz actual, el “dispositivo” tecnológico. A lo largo del texto de Crawford, los tecno-mecanismos que afirman tener una estatura heroica se ven como una casi explotación de una subclase de “usuarios” y la eficiencia sin fisuras de la IA se ve como un telón de fondo fuertemente privatizado, si no secreto, de poder invisible, primero, en su breve visita a un lago que alguna vez fue exuberante y se secó por la lujuria por el litio, un material de tierras raras requerido por Tesla para fabricar baterías de automóviles o el uso de países del tercer mundo como fuentes de otros materiales de tierras raras cada vez más demandados por las empresas tecnológicas. Ella no sólo habla de litio, sino también de carbón y petróleo, con los verdaderos costos de extracción pasando factura a los árboles de caucho de Malasia y un “gigante lago artificial de residuos tóxicos en la Mongolia Interior».

Estas historias de destrucción que las corporaciones de energía y comercio han causado en muchos entornos se enmarcan dentro de un contexto de inculpación directa en base al cuento de hadas del “crecimiento económico” sin fin, una posición sobre el ambientalismo, la industria y la sociedad que, se puede argumentar, está cada vez más en desacuerdo con las poblaciones que no se están beneficiando y ciertamente pueden verse perjudicadas por la crisis climática y la pobreza.

El libro se presenta como un viaje de investigación que comienza en el corazón del desierto del oeste de los Estados Unidos y se extiende a la historia industrial en Gran Bretaña y las ideas de Charles Babbage; a las prácticas de gestión científica de Frederick W. Taylor y Henry Ford; a los archivos del Instituto Nacional de Estándares y Tecnología (NIST, por su siglas en inglés) y al proyecto Truetime de Google, un esfuerzo por controlar todo el tiempo en virtud de la cuantificación individual. Cada capítulo es un componente poderoso en un argumento integrado e informativo sobre los efectos invisibles de la IA sobre las personas y el planeta compartido. Crawford acusa a la “cuarta revolución industrial” que, desde dentro, va socavando la revirtualización a través de un giro comercial en torno al «valor y los beneficios» de la tecnología, esto es, un problema del primer mundo. Sus preocupaciones, en cambio, hablan de los espacios, los pueblos y las culturas que, al ser invisibilizados, se destruyen inadvertidamente en la senda de la sociedad industrial y de consumo del primer mundo.

Los capítulos son: la tierra, el trabajo, los datos, la clasificación, las emociones, el Estado, el poder y el espacio. Remontándose a Charles Babbage, los momentos en el “desarrollo” tecnológico se comparan con el interés actual en la IA por sus similares apelaciones hacia la automatización, la racionalización de los lugares de trabajo y la construcción de sistemas de eficiencia dentro de un régimen de control social del trabajo humano. Desde esta perspectiva, la autora señala una de las características más significativas de la IA, “producir un resultado determinado”, pero “ocultando” el trabajo por el proceso como conjunto.

A partir de esta crítica de la intercomunicación entre humanos y máquinas en la que se basa la producción de IA, Crawford establece una base incisiva para problematizar el papel de la tecnología y su presentación en la cultura. Citando el comentario de Astra Taylor, “el tipo de eficiencia al que aspiran los tecno-evangelistas pone énfasis en la estandarización, la simplificación y la velocidad, no en la diversidad ni la complejidad o la interdependencia”, Crawford escribe: “Estamos viviendo el resultado de un sistema [el capitalismo] en el que las compañías deben extraer todo el valor posible”.

Estos puntos de vista nos llevan a una sección detallada sobre TrueTime de Google, el “proceso de coordinar el tiempo estuvo en el centro de la gestión del lugar de trabajo” que implica un control de los cuerpos. Esta crítica de la gestión del lugar de trabajo se combina hábilmente con la crítica de la “extracción” a través de la lente de la recolección de datos. Los enormes conjuntos de datos sobre los que se ha apoyado la IA hasta recientemente, y que fueron desarrollados por científicos informáticos en capacidades de investigación, están “llenos de selfis, gestos con la mano, gente manejando, bebés llorando, conversaciones de grupos sobre noticias de la década de 1990”. Todas estas imágenes y bits de datos —donde cualquier cosa puede ser un dato— equivalen a material gratuito arrancado de los “usuarios” para mejorar el rendimiento de los algoritmos y sus funciones en “reconocimiento facial, las predicciones de lenguaje y la detección de objetos». Ella señala que una vez que estos conjuntos de datos se integran en las bases de datos de IA, la imagen en sí pierde sentido. Colecciones gigantescas de rostros de delincuentes sin nombre ni identidad se utilizan de esta manera para el reconocimiento facial de delincuentes “activos”.

Los actuales sistemas de IA son más una herramienta del poder estatal que cualquier otra cosa. El largo brazo del capital ha llegado una vez más a nuestras vidas personales.

Ningún análisis de “puerta trasera” de los sistemas de IA estaría completo sin una discusión sobre el pasado y el presente militar de la IA que ha dado forma a las prácticas de vigilancia.

Abundan las conexiones profundas entre el sector tecnológico y la ciberseguridad militar, pero no necesariamente en términos de sistemas completamente computacionales y analíticos. Alguna vez fue novedad el poder de transmisión de telecomunicaciones generalizada, pero ahora los satélites son nodos en redes desarrolladas que cubren y controlan el mundo, ya sea para “mapeo”, espionaje o transmisión. El mundo satelital del GPS, junto con los enormes requerimientos de “seguridad”, los softwares de predicción se están desarrollando ampliamente para comprender la posibilidad en cada acto, desde lanzamientos de misiles hasta delitos locales y deseos de compras. “Los sistemas actuales utilizan etiquetas para predecir la identidad humana, por lo general, a partir de géneros binarios, categorías raciales catalogadas como esenciales y valoraciones problemáticas de personalidad y solvencia”. Las expresiones faciales, leídas por IA, pueden revelar el estado emocional interno de una persona según el psicólogo Paul Eckman, cuyo modelo de estados emocionales universales “que se pueden leer directamente en el rostro” está siendo utilizado por empresas de tecnología en “sistemas de reconocimiento emocional» como parte de “una industria que, se predice, estará valorada en más de 17.000 millones de dólares”. Crawford luego se ocupa de Eckman y su premisa.

Así llegamos a lo que hemos sospechado siempre. Los actuales sistemas de IA son más una herramienta del poder estatal que cualquier otra cosa. El largo brazo del capital ha llegado una vez más a nuestras vidas personales, cada uno de nosotros como datos de carne blanda controlados en una especie de futuro de pesadilla donde fragmentos de datos producidos por humanos (a partir de vivir nuestras vidas) se alimentan continuamente en un aparto “diverso” y “extendido” tan espectacular en su “capacidad” para representar, como nunca antes, todo el mundo como espejo y su matriz. Presentando el capital y la colusión militar en el contexto de una fuerte agenda “nacionalista”, Crawford vuelve a la ciudad de San Francisco como un centro para la extracción de oro, ahora una ubicación central para las grandes empresas tecnológicas —Facebook, Twitter, Google, Salesforce— donde la distopía de la “gestión del trabajo” y el “control gubernamental” es demasiado obvia. Los sistemas militares son ahora el aparato de funcionamiento de los gobiernos municipales, argumenta, desdibujando aún más las líneas divisorias entre los Estados y los súbditos. Como los sectores superpuestos comparten los mismos objetivos de interés nacional, los sistemas de IA amplían las asimetrías de poder existentes. Mientras la IA siga siendo la “nueva” herramienta del complejo militar-corporativo-industrial, uno que protege el capital y la propiedad mientras exige la explotación del tercer mundo, hay pocas esperanzas de cambio social. La tecnología es demasiado omnipresente, demasiado rápida y demasiado privatizada.

Sin embargo, Crawford amablemente deja al lector con una nota positiva. Ella cree que a medida que las condiciones en la Tierra cambien, presumiblemente para peor debido al cambio climático y la explotación de los trabajadores por parte del capital de Big Data, “los llamados a proteger datos, derechos laborales, justicia climática y equidad racial” serán oídos y se oirán juntos. Se volverán más organizados y más superpuestos; la mezcla de formas desfiguradas que la IA una vez creó más o menos como “arte” ahora se alzará para asumir sus figuras más poderosas hasta entonces, y el sistema cambiará.

Una buena lectura y un artículo imprescindible en el estante de cualquier persona interesada en la IA, el trabajo y el medio ambiente, la crisis más importante de nuestros días.

[Artículo aparecido en revista “Leonardo” diciembre 2021. Traducción: Patricio Tapia.]

Molly Hankwitz

Molly Hankwitz es escritora, diseñadora, artista visual. Es profesora de artes e historia del arte en la Universidad Estatal de San José, California. Tiene un marcado interés en la cultura mediática y digital (que incluye el cine y la performance). Actualmente trabaja en varios proyectos que exploran la inclusión, la equidad y la interseccionalidad en las artes y las ciencias.