Big data, sueño y pestilencia

Basta de conspiranoia: nadie nos controla, salvo nuestra creciente incapacidad para pensar

ENSAYO

Por Aldo Mazzucchelli

Es un lugar común que vivimos en un contexto en donde el manejo masivo de datos se volvió central. También se repite constantemente que esta centralidad del big data de alguna forma moldea, incide, condiciona la vida contemporánea. Esto es fácil de ver cuando se piensa en la promoción del comercio online o en el direccionamiento y jerarquización de mensajes a través de algoritmos en redes sociales.

Quizá no sea tan fácil ver cómo estas formas de procesamiento de información afectan la ideología hegemónica, es decir, el conjunto de creencias según las cuales los agentes principales de poder social organizan y comunican su visión del mundo a la mayoría.

Lo que sugiero aquí es que el big data altera sustancialmente una de las funciones de la comunicación, que es la función referencial. Al trabajar sobre corpus de datos parciales, el aprendizaje de máquina toma ese corpus como todo lo que hay en el mundo. Y sus conclusiones, por tanto -y por más “inteligente” que sea el algoritmo- tienen la limitación de que desconocen una serie de dimensiones que hacen parte normal del pensar natural humano. Por tanto, si bien la inteligencia artificial aumenta -aparente o efectivamente- el funcionamiento de operaciones mentales dirigidas a fines acotados, es incapaz por definición de comprender, tener en cuenta o integrar contextos más amplios que los del corpus sobre el que trabaja -salvo que esos contextos hayan sido integrados, como datos, al corpus. Esto tiene vastas consecuencias para el pensar como función social, para la crítica de la información recibida, y para el concepto mismo de realidad.
El problema es que el pensamiento no basado en la realidad lleva, a la corta o a la larga, al fracaso -no por ineficacia, sino por engaño generalizado.

Realidad versus Corpus

Quizá un ejemplo reducido de cómo funciona el aprendizaje de máquina sea ilustrativo. Sea un corpus determinado. Por ejemplo, el conjunto de textos publicados en redes sociales que incluyen un determinado artículo comercializable -una pelota de fútbol- dentro de determinados límites temporales -por ejemplo, los tres meses previos a que se disputase el Campeonato del Mundo FIFA 2022. Ignoro cuál es el número de palabras de ese corpus, pero supongamos que son 5.000.000 de palabras. Con alguna de las tantas aplicaciones o programaciones que permiten hacer este tipo de operaciones sobre cuerpos masivos de datos -en este caso, de lenguaje- es posible que la inteligencia artificial elabore mapas conceptuales, por ejemplo, los cuales pueden desplegarse en gráficos tridimensionales en los cuales uno puede observar términos y sus vínculos, cercanías, intensidades, centralidad respecto del total. También se puede hacer cosas más simples como conocer la frecuencia de determinados términos, y los términos cercanos, etc. Pero lo más interesante es que, siguiendo algoritmos muy complejos y que incluso los programadores pueden no conocer en su totalidad, la inteligencia artificial es capaz de detectar conexiones -o acaso ‘imaginarlas’ debido a fenómenos algorítmicos combinados difíciles de aislar- que revelan cercanías conceptuales que para la mente serían muy difíciles de realizar. Lo peculiar de este tipo de análisis es que frecuentemente funciona con un alto grado de eficacia en ese establecimiento de conexiones ocultas. Todo ello permite proyectar, desde estos 5.000.000 de palabras, el comportamiento entero de una sociedad, su atracción, simpatía o antipatía y muchos más componentes de ese tipo, respecto de una pelota de fútbol.

¿Qué quiere decir que funciona? La pregunta tiene gran importancia. En los entornos en los que la información puede hacerse discreta, precisa y por ende traducible a números o variables binarias eficaces 0-1, y donde el objetivo es producir -o al menos predecir- determinado cambio en un aspecto de la realidad, “funcionar” quiere decir que con la información (y su aplicación eventual) que arrojan esos procedimientos de inteligencia artificial, puedo obtener esos resultados deseados. 

En nuestro ejemplo, si mi objetivo es promocionar una nueva pelota de fútbol, puedo saber qué elementos conceptuales son valorados por los potenciales compradores, cuáles son esos potenciales compradores, cómo y con qué conceptos positivos y negativos está, en su lenguaje, conectado el concepto de “pelota de fútbol”, etc. Esa información sirve para conectar potenciales clientes con los productos y sus vendedores, diseñar nuevos productos mejor adaptados a la demanda o capaces de generarla, pensar campañas de marketing que sean eficaces y bien dirigidas, etc. 

“Funcionar” significaría, en ese ejemplo, vender pelotas de fútbol, a mejor precio, en la cantidad deseada, etc. 

Una clave en estos mecanismos parece ser la siguiente: el “universo” está, para la inteligencia artificial aplicada a un “corpus”, reducido a ese corpus -o a los elementos de fuera de ese corpus que entren en ese corpus como lenguaje concreto. Los mecanismos de la inteligencia artificial son así capaces de soñar una realidad acotada y numerizable: cocinan primero, clasifican y dan valor numérico y operable primero (en base a una inteligencia previa) la “realidad” con la que operan y el mundo que sueñan. Esta realidad es, por definición pues, tributaria de otra desde donde sí se piensa. Los mecanismos de inteligencia artificial pescan en un charco. No se engañe: ese charco puede ser inmenso, y casi abarcar todo lo que existe. Pero lo fundamental no es eso: lo fundamental es que tiene una estructura determinada, que consiste en tener orillas, y en que, el ser humano sabe que esas orillas existen y que hay algo que no es el charco. Ser persona, ser capaz de pensar, es entender y manejar el fenómeno de que existe una orilla, de que existe un charco y algo que ya no lo es.

Por cierto que la inteligencia artificial puede detectar relaciones conceptuales órdenes de magnitud más complejas y recónditas -pero significativas- que las que a primera vista se nos ocurren cuando miramos un corpus. Pero, en general, un análisis de este tipo está orientado a una forma de rendimiento que está orientada de comienzo, y busca detectar conexiones emocionales, de gusto o disgusto, valorativas, antes que relaciones de grado más lejano con esos campos -es decir, relaciones de tipo racional más estricto, o inferencial, que tienen que ver con cuestiones físicas, antecedentes mediatos, herencia histórica, jerarquización por tradiciones de calidad intrínseca, etc. 

En fin, dado que el corpus es todo lo que la máquina “sabe”, la inteligencia artificial es extraordinariamente buena para predecir y estructurar un campo de datos estrictamente limitado a lo que entra en el corpus. 

Pero la realidad no es el corpus. La realidad le da diez mil vueltas a cualquier corpus. Pensar es estar en contacto total y absoluto con lo real, porque la conciencia no piensa lo real, sino que lo real es donde la conciencia existe. La conciencia, dicho de otro modo, es lo real. La filosofía actual que alimenta la tecnología de inteligencia artificial, por su origen dualista y materialista al mismo tiempo, se tiene necesariamente que basar en la noción de que la conciencia es una cosa doble, un sujeto que piensa y una cosa pensada. En esa lógica, la conciencia queda reducida a “inteligencia”, y esta será un conjunto de operaciones hechas con elementos discretos: perceptos, palabras, lemas, etc. Esto es invertir las cosas, y es pescar en el charco irremediablemente, porque la conciencia no puede pretender querer existir en un aislamiento numerizado irreal desde el cual manipular lo real. Es como querer levantarse a uno mismo por los pelos. No quiere decir que en el futuro no surja una “inteligencia artificial” capaz de pensar. Pero si surge, tendrá que ser un desarrollo orgánico del pensar, y no una sección numerizada y operacional del mismo.

Usar lo virtual virtuosamente, o virtualizarse enfermizamente

Con esta tecnología tal como es hoy, estamos ante el peligro doble de “visión de túnel” por un lado, y recursividad no referencial por otro. 

El primero es el fenómeno por el cual sólo seré capaz de dar realidad, existencia en mi mundo, a lo que está ya dentro de él -es decir, a lo que me está dado dentro de los límites de mi corpus. El segundo es: un grupo o comunidad de cualquier tipo -chico o grande- que comience a guiarse por una retroalimentación compleja de su corpus, y que dedica esa retroalimentación a cosas como comprar, vender, o  promover y destruir reputaciones (ambas cosas están íntimamente vinculadas), corre el riesgo de virtualizar cada vez más su mundo, hasta el punto de perder contacto progresivamente con la realidad que existe fuera de lo que ese mundo virtual le indica. En este caso, el “mudarse al mundo virtual” implica una pérdida de contacto efectiva con el mundo real que puede tener muy importantes -y potencialmente catastróficas- consecuencias.

Esto no es, desde luego, un problema ni del big data como tal, ni de ninguno de los actores en particular: es la consecuencia de pretender generalizar nuestro conocimiento del mundo a partir de un marco referencial al cual le faltan componentes esenciales para el pensar humano correcto: marco histórico, antecedentes, cálculo de consecuencias no materiales ni monetarias, y consideraciones filosóficas y morales, por nombrar algunos de los más importantes. 

Toda aplicación acotada de las tecnologías de análisis de big data puede ser beneficiosa y no incurrir en perjuicios o problemas del tipo esbozado antes. Un nuevo ejemplo puede servir. Un amigo -que trabajó en ello- me contaba cómo se aplicó análisis de big data para permitir a una importante compañía forestal determinar y optimizar una variable logística. Se trataba del grado de humedad con el que transportaba la madera, pues la madera que se deja secar determinado tiempo antes de transportarla, obviamente pesa menos, pero esto debe compatibilizarse con una serie de otras variables relevantes al proceso industrial, comercial y logístico completo. En ese ejemplo, el análisis y combinación de cantidades enormes de datos no afecta ninguna “visión general del mundo”, ni tiene por qué contar con otras variables distintas a las que son relevantes al proceso material, cuantificable, del que se ocupa. Este podría ser un ejemplo de un uso virtuoso del big data: acotado, sobre un universo definible y operable, y con resultados que son aplicados a procesos dentro de ese mismo universo.

Pero ¿qué pasa cuando es la comunicación social -no la humedad de la madera- la que se somete a algoritmos que sirven de insumo a propagandistas, ideólogos, políticos y personas poderosas con intereses? ¿Y qué pasa cuando incide en la información y -por tanto- en la percepción del mundo de la mayoría?

En este caso estamos frente a un fenómeno muy diferente al del cálculo de un proceso industrial. Aquí estamos frente a una inteligencia artificial que toma el “corpus” de -por ejemplo- todos los datos acumulados en la comunicación individual en el entorno digital -desde posteos en redes sociales a conversaciones privadas en el dormitorio “escuchadas” por el teléfono u otros dispositivos, desde rutinas de caminata, gimnasia, meditación o actividad sexual, sueño, alimentación -todo eso puede ser registrado por diversas aplicaciones de su teléfono móvil, y la mayoría con seguridad ya lo es la mayoría de los casos particulares- ni qué hablar sus relaciones con los objetos, compras, ventas, consumo, etc. Y una vez que la inteligencia artificial tiene ese inmenso corpus de “la humanidad” que crece monstruosamente segundo a segundo, los algoritmos aprenden, procesan, e intervienen en la conversación. Orientan a un usuario en especial hacia determinadas conversaciones, productos, ideas; conectan y desconectan gente, grupos, nociones. “Saben” que de alguna forma el asunto x está conectado con el asunto y. Por tanto “involucrará” a y, lo hará aparecer una vez que detecta la aparición de x. 

La inteligencia artificial es, por tanto, capaz de operar, y capaz de conectar. Pero no es capaz de pensar, porque pensar involucra establecer cálculos teleológicos -es decir, orientados por fines- pero que además deben estar limitados por conexiones valorativas -y no de mejor peor solamente, como quisiera un utilitarista, sino también de bueno malo. Y, además, muchos otros cálculos complejos y abstractos de órdenes más alejados de los datos presentes, y que tienen que ver, por ejemplo, con la valoración de qué sería justo en función de los antecedentes. Este tipo de operaciones, y otras, tienen que ver con una capacidad de la mente humana que no opera por cercanías, semejanzas ni tampoco por frecuencia de ocurrencias, como sí operan a menudo los algoritmos. Tampoco por un filtrado abstracto que descubre en la cuadragésima categoría adosada a una palabra, una frecuente asociación con la vigésimo quinta categoría asociada a otra aparentemente inconexo. 

El tipo de mundo que surge de este juego combinatorio parece inteligente, y puede ser eficaz, pero no es capaz de pensar. Es decir, no es capaz de integrar múltiples capas concretas y abstractas, perceptuales e inferenciales e intuitivas, que desembocan de modo no totalmente consciente en un estado de ánimo o una decisión. No es capaz de entender el corpus, y lo que está confinado a él, desde un conjunto complejo y no totalmente definible de otros elementos que no están en el corpus.

Las personas sí lo somos porque tenemos memoria, racionalidad, fines, prioridades, prejuicios, principios, caprichos significativos, creencias, intuiciones seguras pero incomprobables… Y todos estos ingredientes son, además, dinámicos, y se van ajustando -unos más rápido, otros mucho más lentamente- sobre la marcha. Pero el tipo de “realidad” que la virtualización del mundo recomienda nos está sacando muy rápido del ejercicio efectivo de nuestra función referencial. O, para decirlo casi metafísicamente, está chapucereando con nuestra realidad.

Sin capacidad referencial, sin “saber donde estamos parados” como dice el dicho, no tenemos sensatez para decidir, de la miríada de intercambios, cuáles corresponden a algo que nos importa, algo que es relevante para nosotros. No sabemos distinguir la noticia de la falsa noticia, e inventamos -como corresponde a alguien que ya no sabe pensar- una institución nueva, los verificadores de noticias, para alejar de nosotros un grado el problema, sin resolverlo, pero generando dinero en la movida. El mundo será pues representado según conexiones artificiales, ideológicas, en el sentido de que nos ocultan elementos fundamentales del juego. Y la mudanza de la vida a intereses “virtuales” que se ha producido con vertiginosa velocidad en las sociedades más tecnológicas de Occidente, está incidiendo de modo visible en la incapacidad manifiesta de la mayoría de la población para distinguir entre lo que es real y la está afectando realmente, de lo que no existe pero le es presentado insistentemente como lo importante.

La Singularidad no está cerca

Ray Kurzweil, uno de los pioneros propagandistas de la inteligencia artificial, publicó hace unos veinte años un libro titulado La Singularidad está cerca en donde anunciaba que, debido a los avances exponenciales en las tecnologías que nos ocupan, llegará un momento en el que la inteligencia artificial sobrepasará al conjunto de la inteligencia de todos los seres humanos combinados. Según la Wiki, “luego de ello, predice que la inteligencia irradiará hacia fuera del planeta hasta saturar el universo. La Singularidad es también el punto en el cual las inteligencias de hombres y máquinas se fundirán en una sola.” Kurzweil le pone fecha concreta a su predicción: el año 2045.

Quizá Kurzweil haya sido demasiado conservador con la fecha. Es evidente que algo del proceso que él describe ya se ha cumplido cuando uno ve que basta con programar correctamente las conexiones comunicativas dentro de una comunidad, para tener a millones de bípedos implumes hablando de lo que no es real como si lo fuera, teniendo fuertes actitudes “éticas” al respecto, y tomando medidas de suicidio colectivo con la vista apuntando emocionada al horizonte. El problema es que Kurzweil le llama inteligencia a una cosa que se puede medir en cantidad -él la suma y la resta y la apila-, y no a una cosa que es mejor que otra. No tiene por un momento en cuenta que una persona inteligente está simplemente en un estado de conciencia inconmensurablemente superior que una persona que sólo sabe contar y apilar, cosa que puede hacer cualquier robot barato. Tampoco ignorará Kurzweil las complejidades de la integración del pensamiento maquinal y el aprendizaje maquinal a las sociedades contemporáneas, que cuando esto ocurrió estaban quizá en el pináculo en materia de alfabetización y distribución democrática de los conocimientos. Pero claro, saberes de baja resolución como lo son los saberes humanísticos no son numerizables ni cuantificables ni operables sin una inteligencia superior capaz de pensar, que use la inteligencia artificial a lo sumo como herramienta. En la Singularidad la productividad humana habrá quedado -quién sabe- relegada a los robots o a una casta de intocables que se amontonen en países que les impongan condiciones de trabajo esclavistas. Esto es, la Singularidad habrá eliminado por fin todo contacto de la “mente” con la naturaleza, el trabajo, el esfuerzo o los límites. Justamente, la utopía que se vende no se preocupa mucho en ocultar su único mantra: Eliminar todos los límites -¿no nos dice la Wiki que “irradiará fuera del planeta hasta saturar el universo”? Ya tenemos un ejemplo cercano de esto: la estupidización colectiva llamada covid19 no ha logrado irradiar fuera de la atmósfera -que sepamos- aun, pero sí que ha conseguido saturar el globo terráqueo.

¿Cómo es posible que estas cosas estén ocurriendo?

No es tan difícil, y sobre todo, no es la obra de un grupo de conspiradores. Junte usted una transformación de la comunicación en la que el plano de los hechos y el plano de la reflexión, antes bastante claramente distintos, se funden en uno solo, llamado “información” o “datos”, es decir en una suma, algo cuantificable -y que determina la cantidad de dinero que los interesados en mover esa masa cobran. Agréguele una población con educación para comunicarse (viajada, y que sabe algo de “informática” e “idiomas”), y sin educación para pensar (que no sabe de historia ni filosofía). Agréguele que esa población está más cómoda materialmente de lo que nunca estuvo generación alguna. Pero, además, tiene mucho tiempo libre para intercambiar datos (el teléfono está 24 horas a disposición), los cuales hacen que esté hiperestimulada en la comparación con lo ajeno -a veces en la envidia de ello-, y también hiper estimulada en la autopromoción de su imagen pública, su ego, su foto, o como le quiera llamar. Esa persona va a tender a verse a sí misma como un objeto representable y cuantificable entre otros -y querrá verse como el objeto más valioso, sin darse cuenta de que ha construido una estructura artificial que se interpone entre ella y su conexión con lo real, único lugar donde -como decíamos- puede estar su conciencia. Y mientras la realidad material en la que vive -hecha de cosas en general invisibles para la virtualidad, tales como la capacidad de comprar comida o pagar la cuenta de electricidad- lo permitan, tenderá a defender una ecología comunicativa como esa, donde sueña que le va yendo bastante bien.

Ninguna de las anteriores condiciones promete grandes hazañas en materia de fortaleza, valor, capacidad de sufrimiento, o ecuanimidad respecto del valor único de los otros. Es decir, no promete que uno esté expuesto a las realidades de la vida/conciencia humana y a los aprendizajes que nos obliga a tener. ¿Cuáles serán las formas en que la realidad se asegurará de que aun este tipo de existencia blanda y fácil y autocentrada y fundamentalmente débil y cobarde, también aprenda?

La virtualidad está eliminando el normal chequeo referencial al que el pensamiento debería someter a cada una de sus instancias. El mundo virtualizado es un mundo abstracto y auto-confirmatorio. Si se trata del virus, es la misma red la que te informa de los hechos y la que te provee las “pruebas” de los mismos. Algo semejante ocurre con el cambio climático, la victimización LGBTQ+, la guerra en Ucrania, y otros tantos temas de agenda. Sobre esos asuntos no hay chequeo posible para la inmensa mayoría. Por su misma naturaleza son temas que se vuelven centrales, pero cuya comprobación directa es o imposible por su naturaleza esencialmente ambigua, o -como en el caso de Ucrania- difícil por la lejanía y limitaciones naturales de acceso. En todos esos temas y en muchos otros se puede crear una realidad virtual hecha de imágenes, testimonios y “datos” que resulten auto-confirmatorios. 

Amplios sectores de la sociedad que se han alejado significativamente de las realidades más elementales de la producción, el comercio o el poder, no tienen cómo saber ni comprobar -salvo que se dediquen seriamente a investigarlo- nada de estos asuntos que se presentan como las verdades más fundamentales del momento.

Todo el mundo quiere, sin embargo, conservar su lugar de relevancia en el mundo -un lugar, es obvio decirlo, también virtual, meramente representado. La virtualidad ofrece algunas coartadas en ese sentido. Uno puede, por ejemplo, repetir las narrativas hegemónicas. Las redes están diseñadas para premiarlo. La virtualidad le da aplausos, likes, y le da también escapes de distinto tipo, le da grupos de gente que piensa lo mismo y lo confirma, y le da premios en popularidad e “influencia” que más o menos fácilmente pueden transformarse en aumentos de ingresos. 

Este mundo occidental de clase media y para arriba, que vive basado ahora en lo que podríamos decir una “filosofía del corpus”, elimina la realidad y la reemplaza por la tranquilidad de la confirmación, o de la amenaza que refuerza el retrasarse de nuevo a la pertenencia grupal. La referencialidad está ausente y reemplazada por los links a otros documentos y otras zonas del corpus. El mundo ve hoy -aunque no lo perciba así- un conflicto en que los elementos de la economía primaria -energía, minerales, alimentos- son los determinantes, y junto a ellos vemos marcadamente civilizaciones asiáticas cuyo centro actual es la actividad extractiva y transformadora, cada vez más claramente enfrentadas a un Occidente cuyo centro es la actividad virtualizadora y representativa. 

Vivir en el segundo espacio comprendiendo esta desconexión con lo real en la que hemos venido a vivir es un gran ejercicio para despertar el pensamiento y hacerle ver que sin historia, sin una centralidad teleológica, y de antecedentes y factores abstractos, y sin un norte moral, es imposible ya no pensar, sino ser como animales y humanos. Es obvio que el transhumanismo será la coartada que se nos ofrezca, el cebo operacional supremo -ser más poderosos que los demás simples mortales, ser como dioses-, y la metáfora biopolítica fundamental que organiza toda esta época pestilenta, y llena a la vez de oportunidades de reconectar con la conciencia.