Fragilidad del algoritmo

La economía contemporánea se basa en una parte sustancial en una forma de la sociedad de la información y la digitalización que es la economía de los grandes datos. No solamente las empresas más importantes se sostienen sobre los grandes datos (plataformas, telefónicas, seguros y banca) sino que todas las grandes empresas están sometidas a un estrés permanente o ansiedad por la información. Es conveniente reparar en algunas diferencias que introduce esta modalidad respecto a las formas anteriores en las que se ha basado el capitalismo, el capitalismo industrial en particular.

El capitalismo que estudió Marx en el siglo XIX se basaba en la producción de mercancías por el capital a través de la previa mercantilización de la fuerza de trabajo, de las materias primas (o también de las materias ya transformadas sin acabar) y de las máquinas, que no eran sino trabajo fosilizado y convertidas en ingenios de transformación de la energía. El capitalismo que describió Marx en su ciclo incansable capital-mercancía-capital se sostenía sobre la transformación de la energía: la reproducción del obrero entendida como metabolismo de su cuerpo, la transformación de la materia a través del trabajo, concebido como energía y la propia máquina como transformadora de energía. El principio de conservación de la energía (dejando al lado el segundo principio de la termodinámica) constituía la base material sobre la que “sobrevenía” el ciclo C-M-C. El término “sobreveniencia” es un término de la metafísica analítica que describe los niveles que por sí mismos no tienen existencia sin una base. Así, el proceso sobreveniente S se distingue del proceso S’ si y solo si la base material de S, M presenta alguna diferencia de la base material de S’, a saber, M’. Por ejemplo, los estados mentales sobrevienen sobre los estados energéticos de las redes neuronales (o de su interacción con el medio) de forma, por citar un caso, que el pensamiento P se distingue del pensamiento P’ si y solo sí la base neuronal N de P se diferencia de N’ de P’.  El circuito del valor que describe Marx sobreviene sobre transformaciones de energía y metabolismo en la naturaleza y en la sociedad. Marx sostiene que sobreviene sobre relaciones sociales, y es cierto, pero estas, al final, sobrevienen a su vez sobre transformaciones de energía.

Marx era consciente de esta base material. Así, en el tomo III de El Capital, (Capítulo XLVIII, sección “La fórmula trinitaria”)  cuando se plantea cómo podría ser una sociedad sin valor de cambio, donde el trabajo ya no esté alienado, tiene que reconocer que los trabajadores necesitarán donar un trabajo excedente para reproducir a la sociedad. Este trabajo excedente, afirma, pertenece al “reino de la necesidad”, es decir, a cubrir las necesidades de la sociedad, que, afirma con toda la razón, son cambiantes y dependientes de la cultura. En el capitalismo, recuerda, es necesario producir necesidades “artificiales” para que las mercancías sean consumidas, pero en una sociedad liberada estas necesidades podrían transformarse. Esta parte corresponde a la dimensión utópica de Marx que nunca desapareció, pese a él mismo quizás. La Escuela de Frankfurt profundizó este análisis al sostener que en el capitalismo avanzado, a través de la industria cultural y la propaganda, se creaba un productor-consumidor que deseaba nuevos productos. Es decir, que el capitalismo avanzado se sostenía sobre una producción a la vez de mercancías y de deseos.

Estos cambios se siguen manteniendo todavía dentro de los límites de la base material de la energía, por cuanto los deseos básicamente deseos de cacharros. ¿Qué ocurre, sin embargo, en el capitalismo contemporáneo? Negri y Hardt han analizado muy bien que se ha producido un giro biopolítico que caracterizan por tres rasgos: 1) la producción es principalmente producción inmaterial de elementos simbólicos y sobre todo de “experiencias”; 2) la producción se ha “feminizado” (usan irónicamente el adjetivo): se ha hecho más flexible, se basa en el control de los cuidados y afectos, en la precariedad de los trabajos; y 3) implica un flujo constante de emigraciones. Todo esto se relaciona con lo que llaman: producción de seres humanos por seres humanos. En esta producción los conocimientos, la información y los datos son centrales. Ellos sostienen (y yo estoy de acuerdo, le he dedicado mis dos últimos libros Puntos ciegos y Conocimiento expropiado) que el nuevo capitalismo se basa en una continua expropiación de lo que es una producción de bienes comunes en las nuevas formas de producción. Pero hay cambios de fondo en la base material de la circulación del valor que aún tenemos que pensar.

Vayamos a los datos. Todo lo que hacemos se ha convertido en datos explotables, como explica muy bien Carissa Véliz en su libro Privacy is power: cuando te levantas y miras el teléfono las telefónicas o quien sea ya sabe algo de tus hábitos de sueño, con quién duermes (porque el otro teléfono también está localizado) y dónde duermes. A partir de entonces cada acto de tu vida produce datos que alguien explota a través de los poderosos algoritmos que tratan inmensas cantidades. Salvo que seas alguna persona particularmente interesante, al sistema no le interesas tú como persona, sino lo común de tu privacidad: los patrones y perfiles que son los objetos económicamente útiles.

Estos perfiles son los objetos convertidos en mercancías por los que compiten las empresas depredadoras de datos. Sin embargo, obsérvese que la información tiene algunas características particulares. Como todo lo que ocurre en el mundo, la información tiene una base material en la energía: la cámara que te observa capta frecuencias luminosas, las transforma en señales eléctricas que acaban en circuitos en los almacenes de la nube y son procesados por otros circuitos que almacenan programas o algoritmos. Pero, a diferencia de la energía que nunca desaparece sino que se transforma, la información sí desaparece. Al menos la información útil. La información es datos interpretados por los procesadores algorítmicos que crean a su vez patrones. Pero este proceso es increíblemente frágil: los datos pueden estar corruptos en el sentido de que produzcan información incorrecta, pero, sobre todo, los procesadores de información, por el momento, solamente son sensibles a los datos inmediatos y actuales,  no a lo que puede cambiar: observan patrones que dependen de lo que hacemos y de lo que hemos hecho. Por ejemplo, las recomendaciones de Amazon, Spotify o de Google, dependen de perfiles que tienen dos bases: tus últimos consumos y tu historia de consumo. Esta base es sumamente frágil porque como todos sabemos, depende de muchos factores contingente como lo es nuestra propia historia.  

Los algoritmos como tales no serían particularmente útiles si no fuese porque interactúan con nuestros cerebros, cuerpos y afectos generando un efecto secundario: no solamente extraen datos de nuestra privacidad, pero esto no sería demasiado peligroso porque siempre estamos cambiando. Lo que hace útiles a los datos es que los algoritmos también producen privacidad. Las listas de Spotify no solamente difunden música, también crean fono-identidades. Las listas de reproducción son objetos con los que creamos nuestra propia subjetividad, las “bandas musicales” de nuestra vida. Lo mismo ocurre con las plataformas visuales y las plataformas de experiencias: Uber y Ryanair nos constituyen como viajeros previsibles, ordenan los movimientos de nuestros cuerpos, Zara o las franquicias nos constituyen como identidades sociales. Recuerdo que, hace tres décadas, en la era del “gimme two” de los outlets de Estados Unidos,  cuando alguien me dijo “¡Tommy Hilfiger!, ¡eso es ropa de negros!” (en el barrio Salamanca se escuchan cosas de estas cada momento). 

Foucault intuyó estos cambios en su idea de la biopolítica. En estadios primitivos del capitalismo pensaba en prácticas discursivas, en cambios que se reflejasen en el discurso. Fue su etapa genealógica, algo que cambia en sus últimos años cuando comienza a pensar que la creación de instituciones y el saber del estado se sostienen o caen juntas: el estado necesita establecer instituciones que normalicen para que sus clasificaciones se hagan verdaderas. Es un problema básico de información y no de energía. La información desaparece rápidamente, como bien saben los servicios de inteligencia: los secretos no son más que estadios efímeros antes de aparecer en la prensa. Para que la información sea económicamente útil (a diferencia de los secretos sobre lo particular de los servicios de inteligencia) tiene que venir de bases normalizadas y robustas. Los algoritmos son eficientes si y solo si producen identidades, subjetividades inducidas, si no son simples representaciones de datos sino productores de sistemas que producen datos. La base material sobreviniente del complejo C-M-C en el capitalismo global de los big data ya no es solamente un ejercicio de la conservación de la energía. Tiene que controlar continuamente el flujo de datos para que estos produzcan información útil.  Obviamente este ciclo se sigue manteniendo sobre nuevas formas de trabajo de las que los algoritmos son solamente colaboradores. Y pensar en estas formas es sin duda una de las tareas más urgentes para entender nuestro tiempo.

Cabrían muchos ejemplos, pero quizás, muy rápida y descuidadamente propondría dos: las subprime que crearon la crisis del 2008 eran producto de la producción de subjetividades neoliberales. La burbuja inmobiliaria no habría existido sin la producción de la identidad: individuo-familia-vivienda. La burbuja actual de la educación no existiría sin la producción de biografías-currículo en las que el deseo de ser una historia normalizada ordena las trayectorias y los préstamos para obtener títulos. Todo eso sería imposible si solo fuesen los algoritmos: se necesitan subjetividades ahormadas. Otro ejemplo próximo ha sido el uso que ha hecho Trump de la información (que pasará a la historia como un genio de la manipulación de los nuevos sistemas informacionales): Trump sabía muy bien del poder performativo de los algoritmos. Sus tuits "fake news!" tenían el objetivo de producir desconfianza de la información y por tanto inutilización de las armas del adversario, al tiempo que sus continuos mensajes producían subjetividades proclives al consumo de sus productos como las teorías de la conspiración. Nadie como él entendió tan bien la fragilidad del algoritmo.