El precio oculto de la experiencia humana
En nuestra entrega anterior, establecimos que la identidad (subjetividad) es una construcción dinámica, moldeada por las relaciones de poder y las formas de entender y narrar la realidad en un momento dado. Hoy, esa construcción se enfrenta a un nuevo actor: el Capitalismo de la Vigilancia (CV).
Como afirma Shoshana Zuboff en “La era del Capitalismo de la Vigilancia:la lucha por un futuro humano frente a las nuevas fronteras del poder” (2020), el CV es un mecanismo que “reclama unilateralmente para sí la experiencia humana, entendiéndola como una materia prima gratuita”. Aunque usés Google o Facebook para -en apariencia- mejorar o simplificar algunos aspectos de tu vida, tu actividad (lo que mirás, dónde vas, lo que sentís) se convierte en datos de comportamiento. Esos datos se usan para fabricar productos predictivos que anticipan lo que harás “ahora, en breve y más adelante”. Y, si, ya sabemos que es un lugar común el de restarle importancia a los datos sobre nuestros pequeños actos cotidianos (quién va a estar interesado en lo que comiste, en cierto chisme, o en cierta inclinación tuya). Pero no es tan así. Porque lo que se analiza mediante sistemas de IA son los metadatos; la suma de todos los datos sobre tus acciones, sentires y pensares cotidianos, que desnudan bastante más tu personalidad que cuando se analizan de forma aislada. En pocas palabras, no es relevante el dato de que hayas comido ravioles, dice mucho más de vos el hecho de compartir qué comiste, y eso es lo que interesa al CV. Con esos metadatos se construyen y entrenan algoritmos que entregan un producto -la descripción precisa de tus intereses- listo para la venta en lo que Zuboff denomina Mercados de Futuros Conductuales.
Y esta no es una simple evolución del capitalismo; es una amenaza a la soberanía individual, construida a partir de una demanda social que tiene siglos de gestación: la individualización.
1. La larga marcha hacia la Individualización
El Capitalismo de la Vigilancia solo pudo nacer porque la sociedad estaba preparada para ello. Zuboff traza una historia de la modernidad donde la vida se transformó, paulatina pero sostenidamente, de un destino fijo (sociedad feudal, regida por el linaje y el estamento) a una libre determinación.
Primera Modernidad (finales del SXIX): El nacimiento del individuo-consumidor
Frente a la rigidez que suponía el viejo mundo, y frente a la necesidad del individuo por procurarse una vida eficaz, comienza una dinámica tendiente a liberarse de las ataduras del clan. Esta necesidad impulsó cambios económicos (como el fordismo), que, a su vez, reforzaron la conciencia individual a través del acceso a bienes y servicios. Las personas ya no podían tener una vida eficaz según las normas de clan de la sociedad feudal, y en su búsqueda de nuevas formas, de alguna manera forzaron el surgimiento de un nuevo tipo de organización social y económica.
Aunque la sociedad de masas promovió roles rígidos (el hombre proveedor, la mujer cuidadora), la conciencia individual se consolidó. Se esperaba que el “yo” se reprimiera en favor del rol social, pero las semillas de la autonomía ya estaban sembradas.
Segunda Modernidad (Mediados del SXX): La soberanía psicológica
El cumplimiento de las promesas de la primera modernidad (acceso a educación, salud, renta disponible) liberó una fuerza imparable: el individuo comenzó a sentir tanto el derecho como el deber de elegir y diseñar su propia vida.
Para este momento ya nada es incuestionable. Sexo, religión, carrera profesional, pertenencia político-partidaria, moral: todo es sujeto a revisión, renegociación y reconfiguración surgida de la libre determinación individual. Y hasta aquí podemos distinguir dos ideas muy interesantes; por un lado, la necesidad humana de tener una vida digna de ser vivida es el motor invisible de las transformaciones sociales y económicas -lo cual nos coloca como agentes activos del cambio y no como meros espectadores-, y por otro, desde la soberanía psicológica pueden crearse nuevos formas de orden. Para Zuboff el auge de la internet y el nuevo orden digital que trajo aparejado, fue el producto de ese largo proceso de construcción de la soberanía individual. Y en sus propias palabras, para nuestro gusto o disgusto, “El individuo como autor de su propia vida es el protagonista de nuestro tiempo”.
2. Poder Instrumentario: El Gran Otro y el dato
En este escenario de individuos soberanos pero profundamente golpeados por los resultados materiales de varias décadas de neoliberalismo, la IA y los grandes aparatos digitales pretenden llenar el vacío dejado por las instituciones democráticas desacreditadas por no ser útiles para la gestión de una vida eficaz.
El Capitalismo de la Vigilancia ejerce un Poder Instrumentario (el instrumento es el Gran Otro, el conjunto de sistemas dotados de IA presente en nuestras vidas 24×7) con una lógica simple y aterradora:
- Objetivación Indiferente: Observa la experiencia humana (nuestros cuerpos, pensamientos, emociones y acciones) con indiferencia absoluta. El único interés no es su significado humano, sino su valor como metadato medible (el Excedente Conductual). Tu singularidad no sólo es indiferentes, sino que eventualmente se convierte en amenaza.
- Ingeniería de la Conducta: Utiliza la IA para reducir la complejidad humana a patrones predecibles. Lo que verdaderamente es de los peores vicios de la IA, el hecho de simplificar, homogeneizar y armonizar todo aquello que es complejo y problemático. El objetivo final es la modificación conductual para alinear nuestras acciones con los intereses del mercado (¿los anuncios adivinan lo que pensás, o han llegado a predecir mediante tu recorrido digital lo que vas a querer ver mañana, y en consecuencia te mostrarán algo similar?)
- El Mayor Despojo: La consecuencia más grave es la amputación de la conducta y la pérdida del derecho al tiempo futuro, ya que nuestras acciones terminan por ser una predicción, y son moduladas antes de que tengamos la oportunidad de ejercer nuestra libre voluntad.
El riesgo antidemocrático
El Capitalismo de la Vigilancia se mueve bajo el umbral de la conciencia, reemplazando nuestra libertad individual por el conocimiento predictivo que se ha generado sobre nosotros mismos, y nuestra forma de organizarnos en sociedad por una certeza algorítmica que promete ordenarnos mejor. Este sistema y sus dinámicas son, en esencia, antidemocráticos. Porque secuestra la división del aprendizaje social, monopolizando el conocimiento, y decidiendo quién tiene derecho a decidir.
Esta es la tormenta perfecta que nos obliga a cuestionar la propia estructura del poder en la era de la IA.
➡️ Algunas estrategias para construir nuevas alternativas
Si te interesa profundizar en la anatomía completa de este sistema, desvelando la conexión entre la dividualidad que propuso Deleuze y el poder instrumentario descripto por Zuboff—y entender las tres rendiciones-conversiones (cuerpo, personalidad y Yo íntimo) que el Capitalismo de la Vigilancia exige— tenemos un análisis específico en nuestra membresía PoliteIA.
