PORTADA

“Muchos ciudadanos se dan cuenta de que existen dos grupos de personas que son vigilados regularmente a medida que se mueven por el país. El primer grupo es vigilado involuntariamente en base a la orden de un juez, que requiere que lleven una tobillera. El segundo grupo incluye al resto de la gente”.
Shoshana Zuboff

Desde comienzos del siglo, junto con la transformación digital que ha traido innumerables cambios positivos en múltiples niveles, se ha venido desplegando una nueva etapa en el orden económico y social global, el «capitalismo de vigilancia», que se analiza y describe en esta nota. Éste ha madurado hasta el punto de hacer posible ahora un “Gran Reseteo” -como lo llaman los tecnócratas del Foro Económico Mundial y las Naciones Unidas, tomando un término que daba título a un libro de Richard Florida en 2008. En su origen el término hablaba de un reseteo económico ante aquella crisis, pero ahora la situación va por todo. El reseteo ya está en curso, parece ser la esencia de esta crisis de 2020, y parece ser una especie de aceleración e instalación definitiva de muchas cosas que venían creciendo hace años, que estaban como esperando una oportunidad para dar su salto final. Un futuro concebido por la tecnocracia requiere de un pasaje masivo a lo digital, y requiere una concentración de la riqueza, la información, y los medios para toma de decisiones, mucho mayor que la que hemos conocido hasta aquí. La utopía concebida para implementar de golpe cambios sustanciales a tres niveles -global, corporativo, e individual- se está procesando ahora mismo, mientras muchos piensan que los cambios jurídicos y económicos que vemos se están dando exclusivamente debido al combate a la pandemia. 

El capitalismo de vigilancia representa una novedad, al menos en un punto: el tipo de tecnología que le da sustento es capaz de cambiar la percepción masiva de lo real. Mientras la «pandemia» da la oportunidad para la instalación de una dictadura soft de los tecnócratas, la duda es si estamos ante algo radicalmente nuevo, o ante una nueva instancia de un viejo problema: cuánto tiempo demora el ingenio y la libertad humana para dominar sus propias herramientas.

Esta nota se ocupa de mostrar algunas pistas de por qué nuestra existencia social difícilmente vuelva -al menos por mucho tiempo- a ser la que conocimos antes de marzo. Ese cambio masivo en la sociabilidad está a su turno generando cambios profundos en nuestro concepto de lo que es el ser humano.

Por Aldo Mazzucchelli

Parte I –  Nuestra nueva vida algorítmica

¿Cómo describir un aspecto fundamental de la condición digital contemporánea? Un ejemplo en contraste puede ayudar más que una larga definición. 

En un sistema económico y social que incluya, digamos, la esclavitud, como el que funcionó en toda América hasta el siglo xix, un ser humano es vendido para que el propietario lo use como fuerza de trabajo. En principio, la conciencia del esclavo permanece libre, al menos en el sentido en que sabe que está esclavizado. 

En el sistema económico y social que va dominando el mundo desde hace menos de dos décadas, en cambio, lo que se esclaviza es, en parte, la conciencia misma del usuario (al que no llamamos esclavo).

Ese usuario ni siquiera vende su conciencia, puesto que no cobra por la parte de ella que le es tomada. El modelo de negocios promueve un usuario con algún nivel de adicción a las pantallas y las redes sociales. Es su atención a esas pantallas, la modificación de su ser en el mundo que los silenciosos algoritmos a los que se expone propician, y la información que así le es extraída, lo que es vendido por terceros -las plataformas tecnológicas. El hecho de que el usuario que cede gratuitamente, no ya su fuerza de trabajo, sino su atención y su conciencia, no pueda saber hasta qué punto lo está haciendo, viene generando a toda velocidad un nuevo cambio civilizatorio, que ahora viene a combinarse con la gigantesca crisis inducida en toda la tierra durante 2020. Una cosa refuerza la otra.

A diferencia de los regímenes de esclavitud abierta, ahora el usuario ya no sabe bien qué parte de su ser -ni en qué medida- le pertenece. La retórica -el arte de la persuasión- funciona hoy masivamente a un nivel mayormente no consciente. A este cambio civilizatorio se le está llamando, cada vez con mayor frecuencia, capitalismo de vigilancia [surveillance capitalism].

1 Capitalismo de vigilancia. La definición.

Podemos, ya que se trata de empezar por alguna parte, aconsejarnos con el brillante volumen de Shosanna Zuboff del año 2019, La era del capitalismo de vigilancia, y que agrega como subtítulo: “La lucha por un futuro humano en la nueva frontera del poder”. Zuboff es en general considerada la mayor investigadora y teórica de este fenómeno. La autora egresó primero de la universidad de Chicago, y obtuvo luego su doctorado en la de Harvard, es madre de dos hijos, y autora de tres libros importantes. Es al último, antes citado, al que recurro aquí para una primera definición:

“Ca pi ta lis mo de vi gi lan cia”:

“1. Un nuevo orden económico, que define la experiencia humana como materia prima gratis para usarla en prácticas comerciales ocultas de extracción, predicción, y ventas.

2. Una lógica económica parasitaria, en la cual la producción de bienes y servicios está subordinada a una nueva arquitectura de modificación del comportamiento.

3. Una mutación descontrolada del capitalismo, marcada por concentraciones de riqueza, conocimiento y poder sin precedentes en la historia humana.

4. El marco fundacional de una economía basada en la vigilancia.

5. Una amenaza contra la naturaleza humana en el siglo veintiuno, equivalente a la que significó el capitalismo industrial para la naturaleza en el siglo veinte.

6. El origen de un nuevo poder instrumentalizador, que asegura el dominio sobre la sociedad, y presenta desafíos sorprendentes a la democracia de mercado.

7. Un movimiento que busca imponer un nuevo orden colectivo basado en la certeza completa.

8. Una expropiación de derechos humanos críticos, que se entiende mejor si se la piensa como un golpe dado desde la cúpula: la destrucción de la soberanía popular.

2 – De la inocencia inicial de Page y Brin a la necesidad de sobrevivir

¿Cómo se llegó, en tan poco tiempo, a una modificación tan radical del panorama social y de negocios? La mezcla de tecnología innovadora y constricciones impuestas por la necesidad de mantenerse a flote en un mercado competitivo lo explican, sin necesidad alguna de suponer malas intenciones o cálculos de largo alcance por parte de los agentes principales. 

En el comienzo, las compañías digitales vendían aparatos, o programas, que brindaban servicios a la gente, y cobraban por ellos. Uno pagaba un computador, u otra pieza de hardware, y pagaba por programas como Word o Photoshop. En determinado momento las compañías reconocieron que podían emplear el medio digital para transformar fundamentalmente las dimensiones de un mercado determinado. La entrada de Apple al mercado de la música es gran ejemplo de ello. Con el iPod y similares, el cliente obtuvo la música que quería, cuando la quería, y a un precio relativamente muy bajo, y al mismo tiempo la tecnología digital permitió que la reunión de una demanda que terminó siendo inmensa generase la posibilidad de que ésta se encontrase con la oferta requerida y al precio requerido. Un producto físico, un cliente, y un intermediario que trabajaba a la vez para ambos, muestra que en ese caso no había un cambio sustancial de las reglas del capitalismo de mercado tradicional.

Todavía en esa vieja era, a fines de los años noventa, Larry Page y Sergei Brin, dos jóvenes estudiantes de la Universidad de Stanford, en el corazón de silicon valley, comenzaron a trabajar en un buscador para internet. Le llamaron Google. Los algoritmos de búsqueda que desarrollaron eran tan buenos que rápidamente obtuvieron visibilidad, algunos inversores, e hicieron crecer mucho los usuarios de su buscador. Pero no tenían forma de cobrar por ello. Según la ética de aquellas generaciones pioneras, todo en internet debía ser colaborativo, y gratis. Originalmente, Page y Brin estaban en contra de lo que llamaron “motores de búsqueda financiados por publicidad”, pensando que ésto los sesgaría y haría peor el servicio. Como recuerda Zuboff, en esos primeros años, Google no tenía realmente nada que vender. Su departamento de publicidad tenía siete personas. Google no tenía un “modelo de negocios” rentable. Un analista de Forrester Research creía, en 1999, que solo había unas pocas formas en las que Google podría hacer dinero a partir de su motor de búsquedas: “construir un portal [como Yahoo!]… asociarse con un portal… licenciar su tecnología… esperar que una compañía grande los compre”. 

La crisis de la burbuja financiera de las “.com” en el año 2000 no ayudó para nada a que llegasen nuevos inversores a Google. Para sobrevivir en ese clima, la compañía tuvo que encarar el problema de cómo obtener ganancias. Además de los pioneros y sus ingenieros iniciales, a la compañía se habían unido un conjunto de inversores cuyo interés natural y prioritario era hacer dinero. Fue entonces que los inversores doblaron la mano al encare purista de los fundadores, y que éstos tuvieron que ordenar al departamento de publicidad que encontrase formas de hacer dinero a partir del conocimiento de los usuarios que la compañía ya había venido acumulando. Esto significó además ofrecer un proceso simplificado para el anunciante. Los “datos colaterales” dejados por cada usuario al hacer una búsqueda, hasta entonces usados para mejorar el servicio de búsquedas, comenzaron a usarse para personalizar la publicidad. Esto decidió en cierto modo el futuro: Google comenzó a tener ganancias sostenidas, y exponenciales. Eric Schmidt, un ejecutivo experiente contratado en 2002, comandó el redireccionamiento de Google hacia una compañía for-profit, pero de nuevo tipo. 

Google hacía aparentemente lo mismo que un competidor como Overture, linkeando compañías y productos al lado de búsquedas de ese producto o similares, pero Google agregó un giro que, gracias al conocimiento en el análisis de big data, probó ser decisivo: comenzó a dar la posición de privilegio en la visualización de una página de búsqueda (el lugar al tope) al anunciante dispuesto a pagar más, basándose en el precio por click “multiplicado por la estimación de Google sobre la probabilidad de que alguien realmente hiciese click en el aviso”. Google era la única que sabía calcular, con una precisión inaudita, esa cantidad de clicks que realmente la compañía anunciante recibiría. Esto venía de su sabiduría calculística a la hora de predecir el comportamiento efectivo de sus usuarios. 

Aquel mecanismo pionero funciona de hecho como una subasta de avisos, en donde el que navega por internet tiene simplemente la opción de hacer click en un aviso, o no hacerlo. Si lo hace, la compañía que recibe el click en su producto o página deberá pagar a Google una cifra, que es muy baja por click. Pero Google tiene para ofrecer varios avisos literalmente a cada usuario -primero lo hizo en su propio sitio, luego pasó a hacerlo en toda clase de sitios en la web. Con lo cual su público es literalmente de cientos de miles de avisadores, y de miles de millones y luego millones de millones de remates simultáneos. Este tipo de escala explica la dimensión del negocio. Lo que a partir de ello se está rematando, en realidad, son “derivadas de plusvalía comportamental”, como lo bautiza Zuboff. Google comenzó a vender exitosamente a los anunciantes un comportamiento futuro del usuario. En esos mismos tiempos pioneros, la clave que dio a Google esa capacidad predictiva que aplicó a la subasta de avisos, consistió en comenzar a procesar algorítmicamente un conjunto creciente de variables de información obtenida de los usuarios mismos cuya conducta intentaba predecir. Amit Patel, un estudiante de doctorado en Stanford empleado por Google, sugirió que se podría usar la información subsidiaria que se obtenía de las búsquedas para conformar una especie de “historia” acerca de los intereses, pensamientos, sentimientos, de quienes hacían búsquedas. Los ingenieros de Google se dieron cuenta entonces que el motor de búsqueda podía aprender, recursivamente, usando ese material, para hacer más rápidas y personalizadas las búsquedas. El chequeo de ortografía de las búsquedas (eliminar errores involuntarios), la traducción, el reconocimiento de voz, fueron subproductos que se fueron desarrollando sobre la marcha. En una nota en The Economist Kenneth Cukier observó que, a diferencia de sus competidoras que la precedieron en el negocio de las búsquedas, como Yahoo y similares, “fue Google la que reconoció el oro entre los detritos de sus interacciones con los usuarios, y se tomó el trabajo de coleccionarlos«.

El mecanismo entero fue bautizado AdSense. Ya para 2004, AdSense le reportaba a Google 1 millón de dólares por día; para 2010, la cifra superaba los 10 mil millones al año. El comercio entero de la tierra pasó, en buena parte, a depender de la predicción algorítmica del comportamiento de cada usuario de internet. 

Esto representa un pilar fundamental en el cambio civilizatorio, el cual acaso sea el más silencioso que hasta ahora se haya producido. Puesto que, si bien esta explosión de ganancias y este mecanismo es lo visible, el cambio civilizatorio no consiste para nada en ello: consiste en la modificación del modo en que percibimos la realidad, la pensamos, y nos comunicamos; en que elegimos y creemos. Consiste, en fin, en algo que incide directamente tanto en el ser social como en la contextura íntima de las personas.

3 – El oráculo digital de negocios

“Adivinar el futuro por medio de la computadora, y vender ese futuro” es la fórmula. La filosofía inicial de servir a los usuarios dio paso a otra en que Google comenzó, también, a vigilarlos. La “plusvalía comportamental” que obtiene es una de las claves del crecimiento exponencial de Google. La compañía empezó a desarrollar esta línea en todos sus productos, y a crear productos nuevos para minar más datos y a la vez usarlos para vender más. Esos productos formatean, además, la experiencia digital de los usuarios, permitiendo que el juego de la predicción de comportamientos -que se mezcla con el de la creación de comportamientos- crezca paralelamente. 

Se puede describir que Google inventó el capitalismo de vigilancia, así como se puede decir que Ford inventó la producción en masa en el capitalismo industrial moderno. Este nuevo modelo es extraño al funcionamiento anterior de muchas empresas. Cuando un capitalista contrata trabajadores les da salarios y medios de producción, los productos que éstos producen pertenecen al capitalista, que los vende para hacer una ganancia. No ocurre eso aquí. Es inexacto pensar en los usuarios de Google como sus clientes: no hay un intercambio económico con ellos, ni un precio, ni una ganancia. Tampoco los usuarios funcionan como trabajadores. A los usuarios no se les paga por su trabajo, ni operan los medios de producción…  ¿Cuál es el negocio entonces? 

4 La realidad misma ha pasado a entreverarse con el modelo de negocios

¿Es el mundo lo que los usuarios vemos, o es una representación manipulada del mundo en la cual nuestra conciencia intenta abrirse paso, al tiempo que de alguna forma sabe que no sabe, y que no puede orientarse? No tenga usted duda: es lo segundo. La imposibilidad absoluta de conocer todas las formas en las que los algoritmos a los que nos exponemos manipulan la presentación de la realidad, no es conocida ni siquiera por quienes programaron los algoritmos. Pues, como inteligencia artificial que son, los algoritmos están programados para aprender sobre la marcha, e ir modificando y ajustando su propio funcionamiento. 

Podemos no saber por qué un algoritmo hace lo que hace, pero sí sabemos cuál es el objetivo por el cual lo hace: aumentar el involucramiento del usuario, y obtener de él -es decir, de usted- más tiempo de pantalla, más clicks, más datos. ¿Cuál es, pues, el producto, o el negocio? Para saber la respuesta puede escucharse, por ejemplo, a un conjunto de ex ingenieros y ex ejecutivos de las compañías tecnológicas, que aparecen reunidos en una excelente docu-ficción que estrenó hace poco en Netflix sobre el aspecto “redes sociales” dentro del capitalismo de vigilancia: The Social Dilemma. Allí, por ejemplo Tristan Harris, quien trabajó durante años en “ética de diseño” en Google hasta que, desengañado de la posibilidad de que la gran compañía se tomase en serio el problema, decidió fundar su propio emprendimiento, Center for Humane Technology, recuerda: “Mucha gente piensa que Google es simplemente un buscador, o que Facebook es un lugar para mirar lo que mis amigos están haciendo o pensando y ver sus fotos. Lo que no se dan cuenta es que estas plataformas están compitiendo para obtener su atención.» Este modelo de negocios, iniciado como vimos por Google, ya ha sido implementado por Facebook, Snapchat, Twitter, Instagram, YouTube, Tiktok, Pinterest, Reddit, Linkedin… Justin Rosenstein, ingeniero en Facebook (fue entre otras cosas el inventor del botón de «Like”), y también trabajó en Google hasta convertirse en co-fundador de su propia compañía, Asana, confirma: «Los pensamos como servicios gratis, pero no son gratis. Son pagos por los anunciantes. ¿Por qué pagan? Pagan a cambio de que esas compañías nos muestren los avisos de esos anunciantes. Nosotros somos el producto. Nuestra atención es el producto que se vende a los anunciantes.»

5 La realidad del confort es una aspiradora de datos personales

Se ofrece comodidad y entretenimiento, ambas cosas cada vez más baratas. A cambio, se exige datos comportamentales a todo nivel, y con ellos se modifica la conciencia de la gente. Este es el modelo de negocios, y este modelo implica, antes que nada, que toda clase de software y hardware tenga, además de su función declarada, la función -que es en realidad su objetivo primario- de recolectar datos y transmitirlos a la compañía responsable del dispositivo, y normalmente además a terceros. La inmensa mayoría de este minado de información permanece oculto al usuario, que no puede saber en qué medida ni cómo esto está ocurriendo. Los manuales y documentación no lo informan, y los contratos que el usuario debe firmar o aceptar al instalar los equipos sólo indican que se debe aceptar la política de privacidad. Un estudio hace un año hecho por un prestigioso estudio de abogados norteamericano estimó que si el usuario quisiese realmente leer todos los contratos de terceros implicados en la más simple app, debería recorrer mil páginas del más espeso texto técnico, el cual además siempre incluye la cláusula de que la compañía no se hace cargo de lo que hagan terceros con la información que les brinda, y que puede cambiar los términos a su gusto, sin aviso. Usar cualquier producto tecnológico, es aceptar la voluntad de las compañías.

Bajo todas clase de formas, Google -por ejemplo- está exigiendo que le demos información cuando usamos su correo electrónico Gmail, un teléfono Android, encontrando el camino a través de Google Maps, calculando áreas y desarrollando software de escenarios terrestres realistas a través de Google Earth, mirando videos en YouTube, descargando lo que sea de Google Play Store. Todos los productos anteriores ya pasaron los mil millones de usuarios. A esto se debe agregar el hardware que produce la compañía, por ejemplo la línea de productos Google Nest, vinculados al hogar -cámaras, pantallas y parlantes inteligentes, termostatos, detectores de humo, sistemas de vigilancia, etc.-, más teléfonos, tabletas, laptops (Google Nexus, Google Pixel), Google Glass que incorpora en base a unos lentes especiales interactividad directa del propio cuerpo al computador, controladores para juegos (Stadia), pizarrones interactivos (Jamboard), etc. Las compañías que están en el negocio de la predicción comportamental invierten en toda clase de áreas de la vida allí donde pueda instalarse un software que alimente con datos de comportamiento los inmensos repositorios de las compañías. Así, cada uno de estos emprendimientos, según Zuboff “es una configuración ligeramente distinta de hardware, software, algoritmos, sensores, y conectividad diseñada para simular un auto, una camiseta, un teléfono, libro, video, robot, chip, dron, cámara, córnea, televisión, reloj, nanobot, flora intestinal, o cualquier servicio online, pero todos comparten el mismo propósito: capturar plusvalía comportamental”.

La estrella de esta minería global de datos personales es, naturalmente, el smartphone. El teléfono inteligente se ha convertido en un dispositivo inmensamente generalizado. Para 2020 hay 3.500 millones de teléfonos inteligentes en uso en el mundo (https://techjury.net/blog/smartphone-usage-statistics/#gref), lo que significa que ya uno de cada dos habitantes del planeta lo tienen. El mercado de avisos dentro de los apps llegará en 2021 a los 201 mil millones de dólares. ¿Cómo es que los teléfonos personales se volvieron algo tan aparentemente imprescindible? En parte, eso responde a una decisión de las mismas compañías.

La estrategia Android es característica del tipo de aproximación de Google. Los teléfonos que llevan Android no son un producto en sentido clásico, sino un elemento que Google contribuye al mundo para capturar usuarios, con el fin de obtener su información. Al ser un software libre, eso facilita que múltiples desarrolladores lo adopten y produzcan apps para Android. Google -que tiene el trademark– se asegura de que los teléfonos vengan con los programas de Google instalados, y de ese modo ofrece un teléfono a un costo de sistema operativo marginal, con lo que obtiene los más de dos mil millones de clientes que el sistema operativo tiene al presente: cada uno de ellos contribuye su información a Google. Google incorpora, además, los apps desarrollados por cualquiera, a su tienda Google Play, y los fabricantes de teléfonos que quieran incorporar Google Play en sus aparatos adquieren la obligación de preinstalar todo el ecosistema Google en sus teléfonos. “Un teléfono relativamente barato con un navegador es todo lo que usted necesita para tener toda la información del mundo”. Esa es la síntesis. A cambio, usted entrega a Google toda la información de su vida. Los usuarios están satisfechos y Google también.

El conocido Edward Snowden -hoy prófugo en Rusia- ya había explicado en 2014 (https://www.wired.com/2014/06/nsa-bug-iphone/) cómo cualquier iPhone podía ser hackeado, por ejemplo, por la Agencia Nacional de Seguridad norteamericana, sin que su dueño se percatase. Esto luego fue investigado en mayor detalle por el mismo Snowden junto a Andrew Huang. En diversas entrevistas Snowden explicó los resultados de la investigación: aun estando aparentemente apagado, un teléfono inteligente puede estar escuchando y enviando información a muchos sitios. No se trata de espionaje, ni esa es la alerta principal para la inmensa mayoría de la gente. Se trata de negocios e invasión de la privacidad. Esta información, normalmente, desemboca en que el usuario obtenga promociones, links, sugerencias de lectura, etc., que conectan con aquello de lo que está hablando, o con su estado de ánimo de acuerdo al tono de su voz, etc. Algunos mecanismos de monitoreo de la acción del cliente se han generalizado en toda la industria. Las llamadas cookies, por ejemplo. Las cookies se intentaron regular hasta iniciado el siglo XXI, pero finalmente rompieron todas las limitaciones y hoy son parte integrante de  prácticamente todos los sitios web. En 2015, quien visitase los 100 sitios más populares de la web juntaría 6000 cookies en su computador, un 83% de las cuales serían de terceras compañías, no relacionadas con los sitios visitados. 

Los dispositivos de minado de información llegan incluso a su dormitorio. Por ejemplo un producto, la cama Slepp Number, incluye «smart bed technology and sleep tracking» («tecnología inteligente para camas y rastreo del sueño”). La cama y el colchón se pueden personalizar, y son capaces de proveer información sobre ritmo cardíaco, respiración, y movimiento. También graban todos los sonidos del dormitorio. «Cada mañana tendrás tu SleepIQ® score, representando la calidad individual y la duración de tu sueño…tu sueño reparador, tu sueño inquieto y el tiempo fuera de la cama…y sabrás qué ajustes puedes hacer.» La compañía sugiere que uno conecte su aplicación para dormir a su rastreador de fitness y a su termostato, para ver cómo su nivel de entrenamiento o la temperatura de su habitación afectan a su sueño. De no aceptar el contrato (que no promete nada sobre los datos, y en cambio avisa que los compartirá con terceros) el sistema pierde parte de su funcionalidad. 

El lector interesado en profundizar encontrará valioso el sitio personal de Hal Varian, el Economista Jefe de Google, quien explica en diversos trabajos algunas de las extraordinarias innovaciones de la compañía. Su artículo “Computer Mediated Transactions”, publicado en 2010 en la American Economic Review es considerado un hito en la formulación de algunos de los principios del capitalismo de la vigilancia.

6 ¿Privacidad? No es un concepto con demasiado futuro

Mark Zuckerberg es famoso, entre otras cosas, por haber anunciado que el futuro de Facebook será privado, lo cual es una gigantesca ironía. Larry Page fue más directo y ha planteado desafiantemente, ante un jurado de la Unión Europea, que su compañía tiene derecho a la información que obtenga. Obviamente, a mucha gente no le importa demasiado entregar información personal, puesto que «no tenemos nada que ocultar». Pero esa actitud podría estar dejando de ver todas las consecuencias del mundo que se ha abierto a partir de estos mecanismos. De todos modos, los intentos de cambiar o regular esto han fracasado escandalosamente hasta ahora. Todo un capítulo legal podría abrirse aquí, que esta nota no tiene espacio para cubrir. Baste mencionar un concepto: el capitalismo de vigilancia ha ido, por el momento, mucho más rápido que los intentos de los gobiernos por limitarlo. Su ventaja inherente es que conoce y puede operar sobre la tecnología misma que los gobiernos, que apenas la van conociendo parcialmente, intentan regular. Una tecnología que es en su mayoría totalmente opaca, debido al intenso secreto que es una de las políticas constantes impuestas por las propias compañías tecnológicas. 

Así, mientras un lento juicio se va produciendo respecto de un punto determinado en litigio, las compañías incorporan en sus dispositivos muchas otras líneas, apps, y formas de extraer información, de modo que siempre están muchos pasos adelante de casi cualquier limitación. Luego de algunos años de experiencia, han sistematizado su procedimiento en cuatro etapas, destinadas a consolidar la desposesión y pelear contra los límites que usuarios y gobiernos intentan imponerles. 

Las cuatro etapas en la operación de desposesión son: incursión [en su dispositivo actividad o espacio vital: teléfono, laptop, una búsqueda, hogar, caminata, su hogar, un compartir en Facebook o Twitter, etc. etc. etc.; cuando hay resistencia, la compañía seduce, ofrece, pasa por arriba, o deja exhausto al usuario intentando desinstalar, apagar, cancelar una afiliación, etc. Esto ha metido, por ejemplo a Google, en miles de juicios (nadie sabe cuántos), pero ellos no lo han detenido]; habituación [el usuario se acostumbra a la invasión de que ha sido objeto, incluso aunque la haya resistido, y deja de prestarle atención]; adaptación [la compañía hace como que hace modificaciones, que en realidad son cosméticas, cuando se lo exige una ley o gobierno]; y redirección [se redirigen aquellas operaciones que parecían haber sido adaptadas a los requerimientos legales, para que sigan cumpliendo con sus funciones de recolección, ubicación, seguimiento, etc., contra el espíritu de la ley que las regula].

7 Conductismo a gran escala, y solucionismo

Todo esto tiene consecuencias muy serias para la vida, especialmente de los “nativos digitales” que son quienes tienen relativamente menos herramientas de comparación respecto a lo que el nuevo entorno importa. Para parte de una generación que accedió al smartphone en la escuela primaria, el entorno digital es la vida misma y no hay nada afuera. Hay tres generaciones más aun en actividad en la tierra, que interactúan entre sí con niveles bastante distintos de incidencia de ese entorno digital modificado en la conciencia. Esto podría ser una oportunidad, pero parte del mensaje algorítmico es la celebración de la juventud y el aislamiento de los veteranos que podrían ofrecer perspectiva respecto de la diferencia entre el mundo de los hechos -de los hechos económicos, filosóficos y educativos, por lo menos- y el mundo inventado en la descomunal burbuja digital que engloba la tierra entera.

Algunos psicólogos vienen advirtiendo sobre lo que sería una nueva generación más ansiosa, más frágil, más tendiente a la depresión, menos capaz de encarar y tomar riesgos en el mundo real fuera de lo digital. Jonathan Haidt -conocido estudioso de los efectos de lo digital en la sociedad contemporánea- recuerda que los ingresos a hospitales por cortes y heridas autoinflingidas no mortales en adolescentes mujeres creció un 189% en niñas de 10 a 14 años, a partir de 2010-11. Antes de esa fecha, que coincide con la generalización de las redes sociales, el número se mantuvo históricamente estable. En cuanto al suicidio adolescente, en mujeres entre 15 a 19 años, está un 70% arriba; y en las de 10 a 14 años, un 151% arriba, en la segunda década del siglo xxi, comparado con los datos anteriores a esa fecha. 

La capacidad de provocar respuestas, inducirlas, sin que el que las actúa sepa a qué atribuir su conducta, es un efecto de que el capitalismo de vigilancia se haya movido hasta ahora en general dentro de un marco conductista. El conductismo reduce el número de variables en el entrenamiento de un organismo, de modo de poder caracterizarlas rigurosamente y reproducir determinados efectos. Busca la eficiencia a costo de simplificación y manipulación. Esto tiene, como consecuencia, una creciente simplificación del «mundo» que las compañías y sus algoritmos vienen presentando.

No todo en la experiencia humana genuina tiene la estructura de un «problema» -es decir, un conjunto de elementos discretos operables para ser finalmente resueltos y superados-, ni tampoco muchas cuestiones humanas son comprensibles por el mero expediente de reducirlas a un puñado de elementos discretos. Pero eso parece ser lo que se está haciendo. No solo este enfoque lleva en sí la inmensa limitación del “solucionismo” que menciona y critica, por ejemplo, James Bridle en La nueva edad oscura. La tecnología y el fin del futuro. [Debate, 2020] -creer que toda la experiencia puede formatearse según la estructura de un “problema a resolver”, cosa que es evidentemente falsa y que elimina de la experiencia vital todas las dimensiones enigmáticas y trascendentes de la existencia- sino que también va formateando la realidad -digamos mejor, el entorno cada vez más editado por el mundo virtual que un usuario se va acostumbrando a considerar “la realidad”- de modo de reducirla a lo que la tecnología puede “resolver”. 

8 Afinar, pastorear, condicionar

En esa línea, se pasa a la intervención directa en el comportamiento del usuario. «Ya no se trata solo de computación ubicua- Ahora el objetivo es intervencion ubicua, acción, y control«. Zuboff observa que “el poder real es que ahora es posible modificar acciones en tiempo real, en el mundo real… Esta capacidad de actuación define una nueva fase del imperativo de predicción que hace hincapié en las economías de acción. Esta fase representa la culminación de los nuevos medios de modificación del comportamiento…” 

Un ingeniero de rango superior de una de las principales compañías explicaba a Zuboff el asunto, agregando algunos ejemplos: 

“Los sensores se utilizan para modificar el comportamiento de las personas tan fácilmente como modifican el comportamiento del dispositivo. Hay muchas cosas geniales que podemos hacer con el internet de las cosas, como bajar la calefacción en todas las casas de una cuadra para que el transformador no se sobrecargue, u optimizar toda una operación industrial. Pero a nivel individual, también significa el poder de tomar acciones que pueden anular lo que estás haciendo, o incluso ponerte en un camino que no elegiste.»

Los científicos e ingenieros entrevistados por Zuboff identificaron“tres enfoques clave» para las economías de acción, cada uno dirigido a lograr la modificación del comportamiento. A los dos primeros los llaman «afinación» (tuning) y «pastoreo» (herding). El tercero ya es conocido como lo que los psicólogos del comportamiento se refieren como «condicionamiento». La «afinación»puede implicar claves subliminales diseñadas para moldear sutilmente el flujo de la conducta en el momento y lugar precisos para una influencia máxima y eficiente. Otro tipo de afinación involucra lo que los economistas conductuales Richard Thaler y Cass Sunstein llaman dar un «toque” o “golpecito” [nudge], que definen como «cualquier aspecto de una arquitectura de elección que altera el comportamiento de las personas de manera predecible”. El uso de este término es otra forma de decir en el lenguaje conductista que las situaciones sociales están siempre llenas de intervenciones de afinación, la mayoría de las cuales operan fuera de nuestra conciencia. 

El «pastoreo» es un segundo enfoque que se basa en el control elementos clave en el contexto inmediato de una persona. El pastoreo permite la orquestación remota de la situación humana, excluyendo alternativas de acción y por lo tanto moviendo el comportamiento por un camino de mayor probabilidad que se aproxima a la certeza. «Estamos aprendiendo a escribir la música, y luego dejamos que la música los haga bailar«, explica un desarrollador de software de «internet de las cosas», añadiendo: «Podemos diseñar el contexto alrededor de un comportamiento particular y forzar el cambio de esa manera. Los datos que tienen en cuenta el contexto situacional nos permiten vincular entre sí las emociones, las funciones cognitivas, los signos vitales, etcétera. Podemos saber si no deberías estar manejando, y podemos simplemente apagarte el auto. Podemos decirle a la heladera, «Cierra con llave, porque tu dueño no debería estar comiendo», o le decimos al televisor que se apague y te deje dormir, o a la silla que empiece a temblar, porque no deberías estar sentado tanto tiempo, o a la canilla que se abra porque necesitas tomar más agua

El «condicionamiento”, finalmente, es un enfoque bien conocido para inducir cambio de comportamiento, principalmente asociado con el famoso conductista de Harvard B. F. Skinner. Éste argumentó que la modificación de la conducta debería imitar el proceso evolutivo, en el cual las conductas que ocurren naturalmente son «seleccionadas» para ser exitosas de acuerdo con las condiciones ambientales. El jefe científico de datos de una muy admirada compañía educativa de Silicon Valley lo dijo sencillo: «El condicionamiento a gran escala es esencial para la nueva ciencia del comportamiento humano masivo». Las compañías creen que “los teléfonos inteligentes, los dispositivos portátiles y el gran conjunto de nodos de red siempre conectados permiten a su empresa modificar y gestionar una parte sustancial del comportamiento de sus usuarios. A medida que las señales digitales monitorean y rastrean las actividades diarias de una persona, la compañía gradualmente domina el programa de refuerzos – recompensas, reconocimiento o elogios que pueden producir de manera confiable los comportamientos específicos de los usuarios que la compañía elige dominar… El objetivo de todo lo que hacemos es cambiar el comportamiento real de las personas a escala. Queremos averiguar el construcción de cambiar el comportamiento de una persona, y luego queremos cambiar la forma en que muchas personas toman sus decisiones diarias. Cuando la gente usa nuestra aplicación, podemos capturar sus comportamientos e identificar los buenos y los malos. Luego desarrollamos «tratamientos» o «pellets de datos» que seleccionan buenas conductas. Podemos probar y ver cuán procesables son nuestras pistas para ellos, y cuán rentables son ciertos comportamientos para nosotros.» 

9 ¿Qué clase de nuevo individuo surge de todo esto?

¿Es esto un nuevo paso en el proyecto ilustrado moderno de generar individuos cada vez más críticos y autónomos, o es un modo de destruir completamente ese proyecto? Jaron Lanier es un ingeniero considerado uno de los pioneros de la realidad virtual allá por los ’90 -ahora trabaja para Microsoft. En sus escasas y finas intervenciones en la citada película Social Dilemma, y en un par de jugosas conferencias disponibles en YouTube, apunta al fondo de la situación en que nos hemos colocado, cuestionando que el drama sea la ganancia de las compañías, o que el problema del producto esté en que surge de la extracción no autorizada de datos: 

«Esas definiciones son un poquito simplistas. Es el cambio gradual, solapado, imperceptible, del propio comportamiento y percepción de uno mismo, el que es el producto. Y ese es el producto. Es el único producto posible. No hay nada más en el asunto que pudiera ser llamado el producto. Esa es la única cosa de la que pueden sacar plata: cambiar lo que usted hace, cómo piensa, y lo que usted es».

En qué consiste lo real, y quién está al mando de la percepción y de las herramientas para la navegación en ella, son dos gigantescas consecuencias de todo esto. Como lo observa Tristan Harris, uno de los problemas filosóficos que enfrentamos es el borroneo de nuestro concepto tradicional de herramienta -algo que nosotros usamos-. Esto se va fusionando con algo ahí afuera que nos usa y nos manipula, aunque aun tendemos a pensarlo como herramienta: 

«Si algo es una herramienta, lo único que tiene que hacer es quedarse quieta ahí, esperando pacientemente. Si algo no es una herramienta, está exigiendo cosas de uno. Seduciéndolo a uno. Manipulándolo. Nos mudamos, de un entorno tecnológico basado en herramientas, a otro basado en adicción y manipulación… Las redes sociales no son una herramienta esperando que la usemos. Tienen sus propias metas, y sus propios medios para alcanzarlas, usando la propia psicología de uno, contra uno mismo.» 

10 Polarización

La gente siempre ha tenido tendencias tribales. La polarización, radicalización y negación del otro siempre han acechado, y muchas veces han dado lugar a grandes conflictos y guerras. Se supone que una de las ventajas de una civilización avanzada es disminuir esos factores, gracias a la educación más compleja de los ciudadanos, que enseña a tener capacidad para debatir y llegar a acuerdos en un marco político e institucional refinado. Lo que el capitalismo de vigilancia contribuye a este tipo de civilización parece ser, por ahora, escaso. 

En efecto, las redes y las búsquedas google lo dirigen a uno a aquellas cosas que el algoritmo considera que lo mantendrán a uno interesado. Esto implica una distorsión (auto)confirmatoria de la realidad. La máquina por un lado le confirma a uno lo que uno quiere oír, reforzándolo pues en su visión y separándolo de la de otros. Esto es una de las fuentes de la actual creciente polarización política y social. La gente no puede aceptar las ideas del otro, no porque sean simplemente formas distintas de interpretar una misma realidad, sino porque cada bando está siendo alimentado con «realidades» diferentes, que convierten a lo que el otro cree en una aparentemente obvia extravagancia o idiotez.

El mecanismo de simplificación y posterior bifurcación binaria conductista que está en la esencia de los algoritmos que controlan la nueva realidad, produce necesariamente tres fenómenos interconexos: selección de información (el usuario es cada vez menos capaz de saber qué es real y qué es un invento o edición de las fuentes de información en las que confía); simplificación de las opiniones respecto de ese mundo ya preseleccionado; reacción emocional respecto de ese mundo simplificado. La reacción es más intensa cuanto más simples y rotundas parecen las opciones. Esto ha llevado a un mundo políticamente más polarizado que nunca, donde los algoritmos operan de modo de profundizar la polarización.

Esto lo detalla por ejemplo Guillaume Chaslot, ingeniero que trabajó para YouTube. Este ingeniero explica que los algoritmos de recomendación aumentan la polarización, pero son buenísimos para mantener a la gente conectada. «La gente piensa que el algoritmo está diseñado para darles lo que realmente quieren. Pero no es así. El algoritmo está tratando de encontrar unas pocas «madrigueras de conejo» que sean bien profundas y poderosas, y ver cuál de ellas está más cerca de los intereses de cierto usuario. Luego, si el usuario ve uno de los videos que lo meten en ese agujero, recomendará una y otra vez por ese lado. Por ejemplo, la teoría conspirativa de la tierra plana fue recomendada cientos de millones de veces por el algoritmo. Es fácil creer que se trata simplemente de unos pocos idiotas que se dejan convencer. Pero el algoritmo se va volviendo más y más astuto cada día. Así que hoy, están logrando convencer a gente de que la tierra es plana, pero mañana lo convencerán a usted de algo falso.»

Tristan Harris sintetiza la situación en que nos hemos puesto en una conferencia: “Antes de llegar a la «singularidad» en que la tecnología controla el mundo, se cruza (ya se cruzó) el punto de la debilidad humana. Esto implica que la tecnología es más fuerte que las debilidades humanas. Al cruzarse este punto se está en la raíz de las adicciones, la polarización, la radicalización, el punto donde todo se considera ofensa, el narcisismo. Es vencer a la fuerza la naturaleza humana, y es jaque mate a la humanidad.” 

El individuo que va surgiendo a partir de este modelo no es un individuo que “piensa y debate” según el modelo racional lineal y letrado de la modernidad. Es un individuo que está dispuesto a reaccionar y actuar, y lo hace, en base a estímulos calculados mayormente por terceros. Es un individuo que creyendo que persigue sus propios fines, está en realidad persiguiendo los fines de terceros. Sea para comprar, para viajar, o para ponerse un tapabocas, la capacidad de desarrollar un “pensamiento crítico” que amplifique el examen de las opciones que incidirían en su realidad deja lugar a un modelo en el cual al sujeto le basta, para orientarse, con aquellos signos limitados que la esfera semiótica dispuesta para él en el universo de comunicación digital al que se ha mudado, casi exclusivamente, a vivir. 

11 La pérdida acelerada de contacto con el mundo

Quizá el problema principal de toda la situación es que estamos cada vez más desconectados del mundo de los hechos, y más conectados a hechos manipulados. El capitalismo de vigilancia ha colocado el engaño, el secreto y los propósitos ocultos de terceros en el alma de cada acto comunicativo. Nos comunicamos sin saber cuánto de lo que está en juego en ello como creencias, “datos” o intereses, está ahí porque nos hemos convencido, ayudados por un entorno de burbuja más o menos artificial, para que se nos aparezca como creencia auténtica, dato seguro, interés propio. 

Pero nada de esto viene sin un esfuerzo filosófico. El capitalismo de la vigilancia se presenta como una inevitabilidad de la tecnología. En lugar de informarnos que está usando la tecnología de determinado modo -para aumentar a niveles delirantes sus propias ganancias, a través de un aumento delirante del control y una reducción pareja de los márgenes de libertad individual- nos dice que es la tecnología misma la que hace inevitable este tipo de prácticas. Esto es falso. Que una tecnología pueda usarse para algo no significa que deba usarse para ello. La ausencia de una educación generalizada en la comprensión crítica de la tecnología es desde luego una de las materias pendientes en la educación general.


Las humanidades del futuro deberían incluir como capítulo central esa crítica de la tecnología, la cual no es ni más ni menos que la nueva metafísica -es decir, el modo actual de determinar y categorizar la exploración del Ser a través de la experimentación en los Entes. Sin este tipo de educación popular, la población seguirá desarmada frente a este dominio abrumadoramente asimétrico del capitalismo de la vigilancia sobre las vidas individuales.

El problema no es la tecnología que desarrollamos. De hecho, estas tecnologías podrían ser buena parte de la solución, si sirviesen para eliminar este tipo de desaforado deseo de ganancia y ocultamiento. Si este es el significado del “gran reseteo” en el que se nos ha embarcado, éste podría tener un final feliz. Pero para ello habría que devolver a los sujetos su capacidad crítica. Leyendo el modo como la prensa adepta al “gran reseteo” maneja la información -y el tipo de lector desinformado y zombi que parece tener en mente, al que no respeta, sino que se empeña en desinformar y aterrorizar-, no parece haber ningún indicio, ni el más tenue, de que esto esté en los planes.

Parte II – El Gran Reseteo

La acumulación que el capitalismo de vigilancia ha producido, permite que la crisis de 2020 sea vista por algunos agentes importantes a nivel global como la oportunidad para producir un cambio revolucionario. 

Igual que lo ha sido la imposición paulatina del capitalismo de vigilancia, la de 2020 es una nueva revolución impuesta desde arriba. Una revolución adentro de otra. La capacidad de instrumentalizar a la gente para fines ajenos está pronta para dar un nuevo paso, excediendo ya con creces las fronteras tradicionales del capitalismo, que se concentraban en la ganancia. Ahora esta nueva fase se concentra en instalar el dominio sobre los terrenos directamente humanos, políticos o sociales. “Como resultado -afirma Zuboff- el capitalismo de vigilancia se describe mejor como un golpe de Estado dado desde arriba, no un derrocamiento del Estado, sino un derrocamiento de la soberanía popular, y una fuerza decisiva en el peligroso deslizamiento hacia la desconsolidación de la democracia que amenaza hoy a occidente”. 

Esta oportunidad tiene un nombre, propuesto con toda deliberación por el Foro Económico Mundial en uno de sus documentos de este año: El Gran Reseteo. La metáfora lo dice casi todo por sí misma. Para que la humanidad, su sociedad, su economía, su cultura y su concepto de individuo, puedan ser reseteadas, primero hubo que de alguna forma convertirlas en un sistema informático. Ese proceso de conversión es el que venimos describiendo. Ahora, pues, se está en condiciones de proceder a subir el siguiente escalón. 

El Foro Económico Mundial y las Naciones Unidas declaran en una serie de documentos los rasgos de una estrategia difusa, generalizada, y totalmente lógica y natural para los actores principales de la nueva economía, que es la de imponer una «nueva normalidad» de aquí en más. Con la excusa de la pandemia, el mundo se digitaliza, los empleos de baja calificación son sustituidos por robots, el contacto cara a cara se disminuye al mínimo, el turismo, la educación presencial, y los viajes quedan reducidos a una elite, se imponen toda clase de reordenamientos en la economía bajo el pretexto del cambio climático, y cada miembro de la sociedad es vigilado detalladamente por vía digital -ubicación, movimientos, gastos, opiniones, y obediencia al poder-, según el modelo ya vigente en el régimen chino.  

Mostremos algunos indicios de ejemplo. 

Como lo organiza un estudio de relevamiento de Jacob Nordangård (https://www.factuality.se/hem/https/wwwfactualityse/thegreatreset) que parcialmente transcribiremos aquí, el 13 de junio de 2019, Klaus Schwab, Presidente del Foro Económico Mundial (FEM) y el Secretario General de la ONU, António Guterres, firmaron una asociación entre sus dos organizaciones. El acuerdo incluyó seis áreas de enfoque:

-Financiación de la Agenda 2030 de las Naciones Unidas

-Cambio climático

-Salud

-Colaboración digital

-La igualdad de género y la liberación de la mujer

-Educación y desarrollo de habilidades.

El objetivo de la asociación es acelerar el programa de sostenibilidad de las Naciones Unidas, y sus 17 objetivos mundiales. El acuerdo también establece que la cuarta revolución industrial del FEM es un componente importante en la aplicación del programa. La digitalización se considera la clave.

Unos meses más tarde, durante la reunión de Davos en enero de 2020, esto quedó muy claro con el lanzamiento del informe Unlocking Technology for the Global Goals, compilado por PWC. Esto significa que los gigantes de la tecnología mundial (que forman parte de los grupos de trabajo del FEM) resolverán los problemas del mundo mediante el uso de la Inteligencia Artificial (IA), los satélites, la robótica, los drones y el Internet de las cosas, y con alimentos sintéticos en el menú. Al declarar el Covid-19 como pandemia el 11 de marzo, la Organización Mundial de la Salud (OMS) abrió una ventana de oportunidad para que el FEM implementara rápidamente su nuevo orden mundial.

La lógica del Gran Reseteo: todo el poder a los que ya lo tienen

El 3 de junio de este año, Klaus Schwab y António Guterres, junto con el Príncipe Carlos, entre otros, ofrecieron una solución a todos los problemas: «El Gran Reseteo”. La lógica general del asunto es muy clara:

«La crisis de COVID-19 nos ha mostrado que nuestros viejos sistemas no están adaptados para el siglo XXI. Ha puesto de manifiesto una falta fundamental de cohesión social, justicia, inclusión e igualdad. Ahora ha llegado el momento histórico, no sólo de luchar contra el verdadero virus, sino también de remodelar el sistema según las necesidades del legado del coronavirus. Tenemos la opción de permanecer pasivos, lo que reforzaría muchas de las tendencias que vemos hoy en día. La polarización, el nacionalismo, el racismo y, en última instancia, el aumento del malestar social y el conflicto. Pero tenemos una opción diferente, podemos construir un nuevo contrato social, que integre específicamente a la próxima generación, podemos cambiar nuestros comportamientos para estar en armonía con la naturaleza de nuevo, y podemos asegurar que la tecnología de la Cuarta Revolución Industrial se utilice mejor, para darnos una vida mejor».

Esta declaración es ampliada en un libro publicado por Schwab y Thierry Malleret, el director de la Red de Riesgo Global del FEM. El libro se divide en tres partes. La primera sobre el llamado Macro Reset, que analiza el impacto en la economía, la sociedad, la geopolítica, el medio ambiente y la tecnología. La segunda, Micro Reset, que analiza las consecuencias para las industrias y negocios. La tercera, Individual Reset, que discute las consecuencias a nivel individual. En cada uno de estos niveles, el Gran Reseteo tendrá su forma particular.

Según los autores, el reseteo a nivel macro parte de la creencia de que el COVID-19 ha demostrado al mundo que los problemas son globales (“cambio climático, pandemias, terrorismo”…), pero que no tiene los organismos internacionales lo suficientemente fuertes como para resolverlos. Por tanto, aboga por fortalecer el gobierno global por encima de los gobiernos nacionales. «Por lo tanto, la preocupación es que, sin una gobernanza mundial adecuada, se paralicen nuestros intentos de abordar y responder a los desafíos mundiales«. 

Advierten acerca de la crisis creada este año -siguiendo, entre otras, las recomendaciones de la OMS, que es una división de Naciones Unidas, gran aliada en esto al FEM- “Cualquier bloqueo o crisis sanitaria causada por el coronavirus podría crear rápidamente una desesperación y un desorden generalizados, lo que podría desencadenar un malestar masivo con efectos devastadores a nivel mundial. La violencia, el hambre, el desempleo y el caos vienen atrás. Pueden ocurrir desastres de hambruna de proporciones bíblicas. Se corre el riesgo de crear una nueva ola de migración masiva.” 

¿El remedio? El mundo se convertirá en un lugar más peligroso y más pobre si no creamos instituciones globales, según Schwab y Malleret. Sin ellas, la economía mundial no puede ser reiniciada. Es decir, la receta es: ‘ante la crisis que en parte nosotros con nuestras recomendaciones ayudamos a crear, lo que ustedes deben hacer es darnos más poder a nosotros’. El poder exigido es para que lo maneje una tecnocracia global: 

“Dado que los gobiernos pueden sentirse tentados a volver al viejo orden, se deben utilizar cuatro áreas clave para dirigir el desarrollo en la dirección «correcta»:

A- Liderazgo ilustrado – Líderes que están a la vanguardia de la lucha contra el cambio climático (el libro señala, entre otras cosas, al Príncipe Carlos).

B- Conciencia del riesgo – La atención que COVID-19 nos ha prestado sobre la interdependencia y las consecuencias de no escuchar a los expertos científicos ha aumentado la conciencia.

C- Cambio de comportamiento – La pandemia nos ha obligado a cambiar nuestros patrones de viaje y consumo y a través de ella hemos adoptado una forma de vida más «verde».

D- Activismo – El virus Corona ha inspirado el cambio y ha creado nuevas estrategias para el activismo social. Los activistas climáticos que han visto reducida la contaminación del aire durante el cierre doblarán su presión sobre las empresas y los inversores.

Desde luego, y como lo hemos anticipado, la conexión entre un pasaje masivo a una especie de vida digital en red está entre los titulares. «La crisis del coronavirus ha hecho que el desarrollo digital haya dado, en un mes, un paso que de otra forma llevaría hasta dos años. Todo se ha mudado en gran medida a funcionar en línea. Las empresas tecnológicas son las ganadoras, y sus méritos durante la crisis han sido masivos, mientras que todas las ideas de negocio basadas en encuentros cara a cara (como el sector cultural y los restaurantes) son las perdedoras.» 

Esto es algo que, de acuerdo con Schwab y Malleret, se mantendrá de aquí en más. La crisis del virus ha causado un impacto duradero en el trabajo, la educación, el comercio, la medicina y el entretenimiento. Además, ha causado una gran intrusión en nuestra privacidad, lo cual los autores observan -casi se diría que celebran- como un hecho ya inmutable:

«… la pandemia acelerará aún más la innovación, catalizando los cambios tecnológicos que ya están en marcha y “turbocargando” cualquier negocio digital, o la dimensión digital de cualquier negocio… Veremos cómo el rastreo de contactos tiene una capacidad inigualable y un lugar casi esencial en el arsenal necesario para combatir la COVID-19, mientras que al mismo tiempo se posiciona para convertirse en un facilitador de la vigilancia masiva.«

2 – El refinamiento del control y el aumento de la separación

El supuesto desastre sanitario, según los autores, hace necesario incrementar la vigilancia individual, el rastreo de contactos donde todos nuestros movimientos pueden ser rastreados (tracking) y analizados (tracing) para poder poner en cuarentena a las personas infectadas. «Una aplicación de rastreo obtiene conocimiento en tiempo real, por ejemplo, determinando la ubicación actual de una persona a través de geodatos mediante coordenadas GPS o señales de radio«. Los autores hacen el argumento de que si algún ciudadano se negase a proporcionar voluntariamente sus contactos, esto llevaría a un perjuicio para todos los demás -de donde se deduce que la obligatoriedad de forzar legalmente que cada ciudadano entregue toda su privacidad al Estado está a un paso nomás. Los autores, según Nordangård, “describen cómo las empresas de todo el mundo (a medida que los países empiezan a abrirse) han empezado a introducir el seguimiento digital de sus empleados para no arriesgarse a nuevas infecciones. Esto, por supuesto, va en contra de todas las normas éticas y los derechos humanos. Los autores también señalan que una vez que los sistemas están en funcionamiento, es poco probable que se eliminen (incluso si el riesgo de infección desaparece).

En cuanto al segundo nivel, el del Micro-Reseteo, es decir el nivel empresarial y corporativo, “ya no hay vuelta al sistema que existía antes. El COVID-19 lo ha cambiado todo. Al enfrentarse a ello, algunos líderes de la industria y altos ejecutivos pueden sentirse tentados a equiparar el reinicio con una reanudación, con la esperanza de volver a la antigua normalidad y restaurar lo que funcionó en el pasado: tradiciones, procedimientos probados y formas familiares de hacer las cosas. En resumen, un retorno a la normalidad. Esto no sucederá, porque no puede suceder. En su mayor parte, el «business as usual» murió de (o al menos fue infectado por) COVID-19.«

Luego de este cínico comentario, he aquí lo que según los autores debemos pasar todos a hacer de aquí en más: 

– Teletrabajo

– Reuniones virtuales

– Procesos de toma de decisiones más eficientes

– Aceleración de la digitalización y las soluciones digitales

Las empresas que no sigan las recomendaciones de estos tecnócratas para una transformación digital total tendrán dificultades para sobrevivir. 

Algunos de los ganadores de la pandemia son, está claro desde hace tiempo, las principales empresas de comercio electrónico y servicios de streaming como Alibaba, Amazon, Netflix y Zoom. El comercio ha sido tomado en poco tiempo por unos pocos parásitos monopolistas. Lo mismo ocurre con la empresa de videoconferencias Zoom. Su aumento en la primavera de 2020 es excepcional. Se prevé que casi todo se trasladará a la ciberesfera. 

En 2019, el 1% de las consultas médicas en Inglaterra ocurrieron online. Durante la crisis de la Corona, la cifra ha sido cercana al 100%. También se espera que el comercio electrónico crezca a medida que los clientes se vean forzados a entrar en línea. Es pues la Big Tech, y la industria de la salud, las que salen más victoriosas: “Tres industrias en particular florecerán (en conjunto) en la era post-pandémica: la gran tecnología, la salud y el bienestar

En la era post-pandémica, se espera que los gobiernos tengan un mayor control sobre el espíritu empresarial. Los paquetes de estímulo vienen con condiciones para la realización de los negocios. Lo que, según los autores, será el capitalismo de las partes interesadas con un gobierno ambiental, social y corporativo.

A nivel individual, finalmente, detectan el miedo, la separación, la ansiedad, el egoísmo, la culpa y la vergüenza, como efectos principales de la “pandemia”. Y, encima de ello, advierten que “la pandemia puede seguir volviendo”, indicando así que es preciso que los individuos acepten el nuevo estado de cosas y se preparen para aceptarlo, adaptarse y sobrevivir en él. 

Como consecuencia, informan, los individuos con problemas mentales previos tendrán peores ataques de ansiedad. La distancia social aumentará los problemas mentales incluso después de que se hayan retirado las medidas. La pérdida de ingresos y trabajos aumentará el número de muertes por suicidio, sobredosis y alcoholismo, etc. La violencia doméstica aumentará a medida que la pandemia continúe. Las personas «vulnerables» y los niños, los cuidadores, las personas socialmente desfavorecidas y los discapacitados, tendrán más problemas de salud mental.

Los autores señalan que esto reflejará la necesidad de atención de la salud mental en los años siguientes para hacer frente al trauma. Así pues, esa zona de los profesionales de salud tendrá una gran prioridad para los encargados de adoptar decisiones tras la crisis del SARS-Cov-2. 

***

El vislumbre es de una humanidad masivamente más controlada, y concebida casi como máquinas sobre las que se puede calcular, en la aplicación utópica de un intenso “solucionismo”, lo que “es mejor” para cada uno -más allá, desde luego, de la opinión de cada uno. Como para todas las demás industrias, aquí también lo digital jugará un papel importante en la conformación del futuro del bienestar. “La combinación de la IA, la IO y los sensores y la tecnología portátil producirá nuevos conocimientos sobre el bienestar personal. Controlarán cómo estamos y cómo nos sentimos, y desdibujarán progresivamente los límites entre los sistemas de salud pública y los sistemas de creación de salud personalizados...» La tecnología también debería ser capaz de medir nuestra huella de carbono, nuestro impacto en la biodiversidad, y la supuesta toxicidad de todo lo que tocamos o nos ponemos.

Es curioso pensar que una descripción de un mundo futuro idealizado sea sospechosamente parecida al sueño húmedo de un tecnócrata, y que quienes lo proclaman sean individuos a quienes nadie eligió para ostentar ningún poder. Es en efecto una característica saliente del mundo contemporáneo, que cada vez tienen más poder las personas no electas, desde los líderes de las grandes compañías tecnológicas, a los grandes “filántropos” y magnates conocidos por todos, a este tipo de corporaciones globales. El poder real de facto se muestra este año directamente ante el mundo. 

La encantadora utopía de Ida Auken

El propio Foro Económico Mundial ha venido anticipando esto desde hace tiempo, y ofrece en su sitio web -una riquísima fuente de datos para cualquiera que quiera entender mejor lo que se está imponiendo ante nuestros ojos- una pequeña descripción del mundo que -según el FEM, inevitablemente- viene. 

La descripción es obra de la ex Ministra de Medio Ambiente y parlamentaria, la danesa Ida Auken. La pieza, publicada en noviembre de 2016, se titula “Bienvenidos a 2030. No poseo nada, no tengo privacidad, y mi vida nunca fue mejor”, y enseña a qué se parecerá el mundo si todo esto sigue como viene, y si a alguien se le ocurre como solucionar efectivamente la pequeña cuestión de quién será el que trabaje para producir todo aquello que los utopistas disfrutarán en sus ciudades perfectas e igualitarias.

La autora describe la vida en una ciudad dentro de diez años. No es propietaria de nada, de un auto, ni de una casa, ni tampoco de su ropa o electrodomésticos. Todo ello ha dejado de ser considerado un producto, para ser considerado un servicio. Es decir, el Estado o Alguien no especificado, quizá una alianza mutuamente beneficiosa entre Estado y grandes corporaciones globales monopólicas, proveen todo lo que cada uno necesita. 

Tenemos acceso al transporte, la vivienda, la comida y todo lo que precisamos cada día. De a una, esas cosas se fueron volviendo gratis, hasta que dejó de tener sentido intentar poseer mucha cosa. Primero, la comunicación se liberó y volvió gratis para todo el mundo. Luego, cuando la energía limpia se ofreció gratis, las cosas se empezaron a mover a toda velocidad.” Dejó de tener sentido tener un vehículo pues “podemos llamar en minutos a un vehículo sin chofer, o un auto volador en el caso de viajes más largos”. Las bicicletas, caminar, cocinar, criar plantas, son ejemplo de algunas de las actividades que “nunca pierden su atractivo” y a las que todo el mundo se dedica todavía. 

En ese mundo sin problemas ambientales, si una elige cocinar para sí misma, dice Auken, simplemente lo pide y el equipo necesario es entregado en la puerta de su domicilio en minutos. No tiene sentido ocupar lugar en casa con ollas y demás, que pueden pedirse cuando se las necesita. 

Cuando los productos se vuelven servicios, nadie está interesado en cosas que tengan un ciclo vital corto. Todo es ahora diseñado para durar mucho, ser reparable y reciclable. Los materiales fluyen más fácil en este tipo de economía, y pueden ser transformados bastante fácilmente para hacer otros productos.” 

Es una vida urbana. “A nadie se le ocurre tocar las áreas protegidas de la naturaleza, puesto que tienen tan inmenso valor para nuestro bienestar. En las ciudades ya tenemos suficientes espacios verdes, plantas y árboles por todos lados”. 

No existe más el concepto de ir de compras. Simplemente uno elige lo que quiere usar. “A veces, lo encuentro divertido, y otras simplemente dejo al algoritmo que lo decida por mí. A esta altura, ya sabe mis gustos mejor que yo misma”. 

La inteligencia artificial se ocupa ya de casi todo. La gente tiene todo el tiempo libre para hacer lo que se le antoje. Eso no es visto por Auken como una caída necesaria en el mero entretenimiento -cosa que sí ocurre ahora. “Por un tiempo todo se volvió entretenimiento y la gente no quería preocuparse con cosas difíciles. Fue sólo en el último minuto que descubrimos cómo usar todas estas nuevas tecnologías para propósitos mejores que solo matar el tiempo”.  

La pieza concluye con un toque de compasión para los seres humanos atrasados que se negaron a entrar en la utopía. “Mi mayor preocupación es para la gente que no vive en nuestra ciudad. Los perdimos en el camino. Los que decidieron que toda esta tecnología era demasiado. Los que se sintieron obsoletos e inútiles cuando los robots y la IA los reemplazó en la mayoría de sus tareas. Los que se enojaron con el sistema político y se pusieron en contra. Viven vidas diferentes fuera de la ciudad. Algunos han formado pequeñas comunidades autosustentables. Otros simplemente se quedaron en las casa vacías y abandonadas de pequeños pueblitos del siglo xix.”

Cada tanto, -observa enigmáticamente Ida Auken al final- me molesta el hecho de que no tengo privacidad ninguna. No hay lugar a donde pueda ir que no quede registrado. Sé que, en algún lado, todo lo que hago, pienso y sueño está siendo registrado y guardado. Sólo espero que nadie lo use contra mí en el futuro”.

III La máquina de gobernar (o el Leviatán tecnológico)

Los pioneros de la teoría de la información ya habían previsto las cadenas causales que llevarían a este cambio de era. Leyendo un genial y anticipatorio libro de Norbert Wiener -el matemático a quien le debemos la cibernética y mucho de lo que vino con ella- uno se fija primero en el título. El título es exactamente este: El uso humano de los seres humanos [The Human Use of Human Beings], publicado por primera vez en los años 50.

Hacia el final del libro, Wiener anticipa el problema de cómo la tecnocracia -el gobierno de un conjunto de especialistas que intentarán interpretar y regir a la humanidad según los limitados horizontes racionalistas de su propia especialización- será el efecto a esperar.

La ignorancia debida al aumento brutal de la especialización, proceso muy avanzado hoy, y ya muy visible en tiempos de Wiener, que también lo critica en su libro, deja a cada especialista preparado para ser capturado por cualquier “iglesia” que le ofrezca reconocimiento por su microscópico saber: 

“Poco importa si el bando militar al que uno le jura obediencia es el de Ignacio de Loyola o el de Lenin, con tal de que el que la jura considere más importante que sus creencias estén del lado correcto, antes que mantener su libertad, e incluso su inocencia profesional. El que hace eso no está preparado para el alto vuelo de la ciencia, no importa a quién le sea fiel, puesto que su fidelidad es algo absoluto. En el momento actual, en el que casi todos los poderes reinantes, sean en la izquierda o la derecha, exigen al científico conformidad en lugar de mente abierta, es fácil entender de qué modo la ciencia ya se ha perjudicado, y qué clase de degradaciones y frustraciones habrá que esperar de la ciencia en el futuro” (p. 190).

Pero la profecía más espectacular no la hizo el propio Wiener, sino uno de sus olvidados críticos, Pere Dubarle (un cura domínico), el cual publicó en Le Monde, el día 28 de diciembre de 1948, una reseña de otro libro anterior de Wiener, Cybernetics, reseña que el mismo Wiener considera “muy penetrante”. 

Comentando la discusión que Wiener presenta, sobre una entonces aun hipotética IA capaz de jugar y ganar al ajedrez, y comentando sobre la teoría de juegos -por entonces aun una novedad- Dubarle describe algo que se parece horriblemente al complejo dilema humano que esta nota ha intentado resumir, porque está desplegándose ante nuestros ojos. El lector puede verse tentado a pensar que hemos inventado este pasaje. Le pedimos que no crea eso, y revise la traducción que hacemos del mismo en las páginas 178 y siguientes. 

Es rara la ocasión humana como esta, en que una reseña de libro en un periódico alcanza el estatus de predicción iluminada:  

“Uno de los prospectos más fascinantes así abiertos es el de la conducción racional de los asuntos humanos, y en particular aquellos que interesan a las comunidades y parecen presentar cierta regularidad estadística, tales como el fenómeno humano del desarrollo de la opinión. ¿No podríamos imaginar una máquina que recolecte este o aquel tipo de información, como por ejemplo información sobre la producción o el mercado, y luego determinar, como función de la psicología promedio de los seres humanos, y de las cantidades que es posible medir en determinada instancia, cuál podría ser el desarrollo más probable de la situación? ¿No puede uno concebir un aparato del Estado que cubra todos los sistemas de decisión política, sea bajo el régimen de varios estados distribuidos por la tierra, o bajo el régimen aparentemente mucho más simple de un único gobierno humano del planeta entero? Hoy nada nos impide pensarlo. Podemos soñar con el tiempo en que una machine a gouverner pueda venir a suplantar, para bien o para mal, la actualmente obvia inadecuación del cerebro cuando éste se ocupa de la maquinaria habitual de la política.  […]

Las machines a gouverner definirán al Estado como el jugador mejor informado en cada nivel particular; y el Estado será el único coordinador supremo para todas las decisiones parciales. Estos son privilegios enormes; si se obtienen científicamente, permitirán al Estado, bajo cualquier circunstancia, vencer a cualquier jugador de un juego humano que no sea él mismo, poniéndolo ante este dilema: cooperación planificada, o ruina instantánea. Estas serán las consecuencias del juego mismo, sin violencia externa. ¡Los amantes del mejor mundo posible tienen, sin duda, algo con qué soñar!  

Pese a todo esto, y acaso por suerte, la machine a gouverner no estará pronta en ningún futuro cercano. Por lo que uno puede juzgar, solo dos condiciones podrían garantizar aquí la estabilización, en el sentido matemático del término. Estas son, por un lado, una ignorancia suficiente de parte de las masas de jugadores explotadas por un jugador hábil, el cual puede encima planificar un método para paralizar la conciencia de las masas; por otro, la suficiente buena voluntad como para permitirle a uno, en bien de la estabilidad del juego, referir sus decisiones a uno o unos pocos jugadores que tengan privilegios arbitrarios. 

Esta es una lección dura para las frías matemáticas, pero arroja cierta luz sobre la aventura de nuestro siglo: la oscilación entre una indefinida turbulencia en los asuntos humanos, o el surgimiento de un prodigioso Leviatán. En comparación con éste, el Leviatán de Hobbes no fue más que una broma. Corremos el riesgo hoy de un gran Estado Mundial, en donde una deliberada y consciente injusticia primitiva pueda ser la única condición posible para lograr felicidad estadística para las masas: un mundo peor que el infierno para cualquier mente capaz de pensar con claridad.” 

Compartir