* IA: “Invasión Algorítmica”, una invasión, a base de algoritmos, de nuestras profesiones, de nuestras relaciones y del conjunto de nuestras vidas

PENINSULAe

Filósofo y escritor, Jordi Pigem es pionero a nivel internacional en el estudio y divulgación del nuevo paradigma científico. Doctor en Filosofía por la UB, dedicó su tesis al célebre filósofo Raimon Panikkar con quien colaboró en varias publicaciones. Jordi ha sido entre 1998 y 2003 profesor y coordinador del área de filosofía del prestigioso Masters in Holistic Science del Schumacher College en Inglaterra, pero volvió a Cataluña para volcarse en la escritura sin ataduras académicas. Profesor invitado en diversas universidades de Europa y las Américas, el pensamiento de Pigem nace de la confluencia entre conocimiento científico (psicología, neurociencia, sociología de las nuevas tecnologías, historia de la ciencia) y humanismo (filosofía, literatura, poesía) y asoma como una isla de lucidez necesaria en medio de la confusión reinante. Ha recibido reconocimientos como el Premio de Filosofía del Instituto de Estudios Catalanes (1999), el Premio de Ensayo de Resurgence y la Scientífic and Medical Network (2006) o el Joan Maragall (2016). Desde su primer libro, La odisea de occidente (1994), ha publicado una veintena de ensayos entre los que destacan Buena crisis (2009), La  nueva realidad (2013), Inteligencia vital (2016) y Ángeles o Robots (2018), textos en los que reflexiona sobre la relación entre las tecnologías digitales y el ser humano, las contradicciones de la economía contemporánea, el concepto de ecosofía…  y nos propone estrategias para un inexcusable cambio de visión que permita entender y superar las diversas crisis que afrontamos.

Por Xisela Franco

Esta es la segunda entrevista en eXtramuros con el filósofo catalán Jordi Pigem. Recomendamos consultar aquí la anterior. Acompañamos esta entrevista con la propia palabra escrita de Pigem publicando los primeros capítulos de su libro Técnica y totalitarismo. Digitalización, deshumanización y los anillos del poder global (Fragmenta 2023) (aquí). Su pensamiento resulta profundamente necesario en estos tiempos de desasosiego y malestar para entender lo que está ocurriendo y por qué. La digitalización del mundo, bajo la apariencia de progreso, seguridad y eficiencia ha impuesto un modelo preocupante de vigilancia, control y deshumanización. La realidad humana se encuentra invadida por el algoritmo, hechizada por el paradigma tecnocrático y materialista. Reina la confusión, y a corto plazo vienen curvas. Sin embargo, Pigem consigue convertir este diagnóstico preocupante en algo liberador, que al ser nombrado nos invita a romper el hechizo. Junto a la descripción alarmante del presente y la invitación a la toma de conciencia, este pensador con el que hablé nuevamente por videoconferencia dos horas que se me hicieron cortas, nos propone salidas desde su visión triple, científica, filosófica y espiritual. Bebiendo de diferentes tradiciones de Oriente y Occidente, partiendo de la filosofía, la literatura o la poesía, Pigem nos abre a los nuevos paradigmas científicos de los que es pionero en su estudio y nos invita a una actitud sincera, consciente, holística y relacional.
 
Antes de ser profesor en el Master en Holistic Science del Schumacher College (1998-2003), Inglaterra, centro de estudios pioneros en ciencia de vanguardia, coordinó muy joven la revista de ecología Integral (1989-92), escribió el primer libro de una larga lista, La odisea de occidente. (Kairós. 1994), y realizó su tesis doctoral por la Universidad de Barcelona titulada El pensamiento de Raimon Panikkar. Una filosofía de la interdependencia (1998). Conoció en profundidad a este reputado filósofo índico-catalán, su pensamiento y persona, profesor en Harvard y en la Universidad de California, gran impulsor de la filosofía intercultural y del diálogo interreligioso. Colaboró con él en los años 90 y recientemente editó, tradujo y prologó su obra Ecosofía. La sabiduría de la tierra (2021).
 
Jordi Pigem nos explica de forma imaginativa ideas filosóficas complejas, se expresa desde la claridad y el asombro, y nos invita a recuperar el valor de la dignidad y la existencia auténtica de cada ser humano.
 
Realizaste tu tesis sobre Raimon Panikkar pero al inicio era sobre Heidegger, ¿cómo sucedió que decidiste cambiar tu investigación?
 
Sí, en aquella época, inicios de los años 90, me preocupaba que el lenguaje iba siendo reducido a la mera transmisión de signos. Por eso me adentré en filosofías del lenguaje que intentan restituir esa dignidad especial que tiene la palabra. Una de ellas es la de Heidegger, que aborda el tema en sus reflexiones sobre la poesía de Hölderlin y en obras como Unterwegs zur Sprache (De camino al habla). En aquella época asisto a una conferencia crítica con la celebración del V Centenario de la llegada española a las Américas. Al entrar en la sala veo que solo queda un asiento libre, junto a un señor de pelo blanco, que reconozco que es Raimon Panikkar, filósofo internacionalmente reconocido, de padre indio y madre catalana, pero al que apenas había leído (aunque, casualmente, el día que entré a trabajar en la revista Integral me tocó redactar una líneas sobre él). Entablamos una conversación y cuando le digo que quiero hacer mi tesis sobre Heidegger, su rostro se ilumina: “¡Heidegger, si éramos muy amigos!”, exclama. A las tres semanas me llega un sobre con el capítulo que Panikkar escribió en alemán en una obra colectiva de homenaje a Heidegger, tras su muerte en 1976, y ese capítulo incluye la reproducción facsímil de uno de los últimos poemas de Heidegger, Sprache (‘Lenguaje’), que resulta que está dedicado a Panikkar y condensa gran parte lo que quería investigar en mi tesis.


Poema autógrafo original de Martin Heidegger dedicado a Raimon Panikkar
Lenguaje
¿Cuándo serán las palabras
de nuevo Palabra?
¿Cuándo anidará el viento en un giro revelador?
Cuando las Palabras, dación lejana,
hablen
–no indiquen mediante signos–,
cuando mostrando lleven
al lugar
primordial y propicio
–hábito propicio al mortal–
donde clama el son de la calma
y la llamada de lo pensado al alba
dócil y clara se levanta.
*
Para el Prof. R. Panikkar y sus alumnos. 
Saludos cordiales,
Martin Heidegger
18 de marzo de 1976
(Traducción de Jordi Pigem)

Así que planteo a Panikkar que dirija mi tesis sobre Heidegger, pero al cabo de un tiempo cambio los papeles y decido que el tema de mi tesis sea el pensamiento de Raimon Panikkar. Ello me alejó de los senderos convencionales del mundo académico, pero fue para bien.
 
¿Ya te interesaba el orientalismo de Heidegger?
 
Lo que me interesaba de Heidegger era sobre todo su filosofía del lenguaje. Heidegger estaba influido por el pensamiento oriental. Pese a que casi nunca cita sus fuentes, sabemos que desde su juventud Heidegger sacaba de las bibliotecas clásicos del pensamiento oriental, y ese interés por Oriente lleva también a Heidegger a entablar numerosas conversaciones con Panikkar en su cabaña de Todtnauberg. Yo en aquel momento también me había sumergido en el pensamiento oriental y en la práctica del zen. Cuando conozco a Panikkar encuentro a una persona que reúne las tres vías que voy siguiendo: la filosofía occidental que he estudiado en la universidad, la filosofía oriental que he ido estudiando por mi cuenta y el conocimiento científico que me ha interesado desde siempre. Además de sus facetas como filósofo y teólogo, Panikkar era doctor en Química y tenía amistad con destacados científicos de lo que se llamaba en ese momento el “nuevo paradigma” científico.
 
Panikkar había vivido en diversos lugares de Europa, de la India y de Estados Unidos (fue profesor en Harvard y en la Universidad California), pero acabó retirándose en un pequeño y remoto pueblo de Cataluña, Tavertet. Allí viví yo un par de años, preparando mi tesis y ayudando a Panikkar en la edición de sus nuevas obras. Después de haber profundizado en autores de diversos países y lenguas, acabé estudiando a uno que había nacido en la misma ciudad que yo. A veces hay que ir lejos para acabar encontrando lo que está cerca.
 
Para aquellos que no conocen el pensamiento de Panikkar, ¿podrías mencionar  algunos conceptos significativos de su filosofía?
 
El pensamiento de Panikkar se asocia sobre todo al concepto de interculturalidad. De hecho él se veía a sí mismo al mismo tiempo como cristiano, hindú, budista y secular. Era sacerdote, reconectó con sus raíces hindúes durante sus años en la India, y a través del hinduismo llegó al budismo. Escribió obras importantes sobre budismo e hinduismo. Y secular porque, como doctor en Química, conocía perfectamente el lenguaje laico del mundo moderno. Se consideraba habitante de estos cuatro mundos, y no un 25 % de cada, sino 100 % de todos ellos.
 
Ligado al tema de la interculturalidadestá el concepto de pluralismo. No hay una perspectiva única, definitiva, sobre las cuestiones últimas de la realidad. En la tradición india esto se expresa con el concepto de anekantavada (literalmente, “doctrina de que no hay un solo lado”), que significa no-absolutismo: no hay una visión única y absoluta de las cosas. Pero eso no significa caer en el “todo vale” del relativismo posmoderno. El anekantavada o el pluralismo en el sentido de Panikkar son una vía media entre relativismo y absolutismo.
 
Otra idea importante de Panikkar, muy clara en el budismo y el hinduismo, y que también está presente en el cristianismo, es la interdependencia: todo está conectado con todo. No solo las cosas están relacionadas, sino que dependen profundamente las unas de las otras. La física cuántica muestra que un simple electrón depende de todos los demás electrones. Lo que encontramos en el mundo subatómico no es una suma de bolas de billar aisladas, sino una intrincada red de relaciones entre entidades efímeras y profundamente interdependientes. En el plano antropológico, la interdependencia, implica que cada persona es un microcosmos del conjunto de la realidad.
 
En la base de todo ello encontramos la no-dualidad. Todo es uno, y al mismo tiempo todo es único, todos somos únicos. Y una cosa no anula a la otra. Como decía el filósofo japonés Keiji Nishitani, la mirada de la no-dualidad, es como una fotografía de doble exposición: con un ojo ves que todo es uno, pero con el otro ojo ves diferencias y distinciones. Podemos, y a menudo debemos, distinguir. Pero no podemos separar de manera absoluta. 
 
La ciencia contemporánea confluye a veces con antiguas intuiciones de Oriente. Eso ya aparece en tu primer libro, que publicaste muy joven, en 1994, La Odisea de Occidente. Modernidad y ecosofía (Kairós. 1994).
 
Esa confluencia ya fue señalada por físicos de la talla de Schrödinger y Heisenberg. Con poco más de veinte años leí El Tao de la Física, de Fritjof Capra, que muestra como la física contemporánea, apunta una visión de la realidad que coincide con las enseñanzas básicas del hinduismo, el budismo y el taoísmo, como el hecho de que la realidad es en el fondo profundamente dinámica e interdependiente. Cuando escribo La odisea de Occidente soy consciente de esa confluencia y evoco el periplo de Ulises en la Odisea, para referirme al largo recorrido que hace Occidente para acabar constatando lo que otras culturas hace tiempo que sabían. En ese recorrido, desde luego, emerge la pintura del Renacimiento, la música de Bach y muchas otras creaciones maravillosas. Pero también hemos desarrollado muchas maneras de destruir y arruinar el prodigio de la vida. Ahora se trata de ver si podemos cosechar lo bueno y desechar lo destructivo.
 
¿Crees que nos estamos encontrando entre Oriente y Occidente, en el sentido de un necesario encuentro entre estos dos mundos?
 
Nos estábamos encontrando, hace treinta años. Cuando escribo La Odisea de Occidente sí que en muchos autores había una percepción de que podíamos hacer confluir lo mejor de Oriente y de Occidente. Pero la mayoría de culturas orientales han pasado a creer en ideales occidentales. La China de hoy es una fusión de lo peor del capitalismo con lo peor del marxismo; es decir, no es un país inspirado no por el taoísmo o el confucianismo, sino por dos filósofos occidentales, Adam Smith y Karl Marx. Por otro lado, aquel despertar de la conciencia que mucha gente percibíamos en la segunda mitad del siglo XX, ha sido eclipsado por el tecnocapitalismo y por los centros del poder global. Iba creciendo una conciencia genuina en temas de autoconocimiento, ecología y justicia social, que parecía imparable. Nos alejaba de la idea de que hemos venido al mundo para consumir y competir y nos llevaba a una visión del mundo mucho más holística, sana y humana. Al contrario de lo que el sistema pretende hacernos creer, el propósito de la vida no es competir, sino celebrar, compartir, crecer y crear. El mundo es una red de relaciones llena de vida y de conciencia.
 
A finales del siglo XX estaba emergiendo un nuevo paradigma científico, muchos de cuyos representantes más destacados pude conocer cuando era profesor en Inglaterra. Pero ese nuevo paradigma no se ha consolidado. Ha habido nuevos desarrollos, por ejemplo en neurociencia o en estudios sobre la inteligencia de las plantas. Pero ese avance hacia un mundo mucho más basado en lo vivo, lo cualitativo, lo relacional y lo holístico, etcétera, ha sido eclipsado en gran medida por esta obsesión contemporánea por lo mecánico, programable y controlable. La tecnocracia ha ido capturando y colonizando todo lo que hace treinta años podía parecer esperanzador. Por ejemplo la ecología, que se basaba en una conexión personal con la naturaleza, ha sido reconvertida en un negocio llamado sostenibilidad.
 
¿Qué le ocurrió a la ciencia?, ¿cómo derivó en cientificismo y pudo vencer la ciencia mercantil? 
 
La ciencia ha existido en muchos lugares y épocas, no es un invento de los últimos siglos en Europa. Hay ciencia en la China clásica, en la India clásica, en la Grecia clásica y en la cultura maya. Todas ellas, por ejemplo, eran capaces de predecir la fecha en que se produciría un eclipse, cosa que requiere un registro de un enorme conjunto de observaciones astronómicas precisas y conocimientos matemáticos sofisticados. Se trata de ciencia, entendida  como conocimiento riguroso, comprobable y reproducible. Ahora bien, la ciencia occidental moderna, la que nace con el método cartesiano, tiene características peculiares. Tanto Descartes como Galileo afirman explícitamente que solo es real lo que es cuantificable, lo que se puede medir. Por ejemplo, peso, velocidad y longitud son entidades reales, porque se les puede atribuir un número preciso. En cambio, olores, colores y sabores, justicia y belleza, placer y dolor y todo lo que en nuestra vida nos interpela directamente, se consideran entidades imaginarias, subjetivas —”simples palabras” como escribe Galileo.
 
Descartes llega al extremo de afirmar que si una espada corta un brazo, el dolor que causa ese corte no es real. Lo que es real es el ángulo con el que corta la espada y la profundidad de ese corte. A partir de ahí hemos creado un mundo en que solo atendemos a lo que se puede medir, un mundo lleno de cifras, estadísticas y códigos de barras. Un mundo en el que todo se puede medir también es un mundo dominado por ese artilugio que pone un número a todo: el dinero. Se puede poner precio a un bosque, a un río y al esfuerzo de una persona. Y una vez tienen precio, dejan de ser únicos y pueden sustituirse por una determinada cantidad de dinero. Lo que se cuantifica, se cosifica. Y en un mundo que aspira a cuantificarlo y a cosificarlo todo, no es sorprendente que la ciencia sea presa cada vez más de intereses mercantiles. Las grandes compañías farmacéuticas llevan décadas capturando la investigación médica, las agencias reguladoras de medicamentos, los ministerios de sanidad de los gobiernos, e incluso las revistas médicas.
 
Pasemos a otro de tus libros, Ángeles o robots, la interioridad humana en la sociedad hiper-tecnológica (2018). En este libro defines diversos espejismos, como el espejismo de la aceleración, el espejismo consumista, el espejismo de la seguridad, el espejismo dataísta y el tecnoutópico. Pareciera que todo tu pensamiento anterior estuviera encaminado a explicar lo que ocurrió en estos últimos años.   
 
Cuando te das cuenta de estos espejismos, lo que ocurrió durante el covid-19 resulta menos sorprendente, porque ya había calado ese espejismo de la seguridad, o el espejismo de reducirlo todo a datos (el dataísmo, como lo llama Byung-Chul Han). Del mismo modo que si eres consciente de como Big Pharma ha estado corrompiendo durante años todo lo relacionado con la salud, no es sorprendente la actuación que vimos durante el covid.
 
Los espejismos que señalo en Ángeles o robots son parte del hechizo bajo el que hoy vivimos, del que hablo en Conciencia o colapso. Estamos bajo un hechizo (under a spell, que tiene connotaciones más amplias, es la frase que me vino originalmente) que nos hace creer que siempre es bueno sustituir lo vivo, humano y espontáneo por lo mecánico, programable y controlable. Este hechizo preside prácticamente todo lo que hoy hacemos, en educación, en sanidad, en las relaciones humanas: todo se ha querido sustituir por su versión artificial, mecánica, controlable y programable. Y eso se supone que es progreso. En realidad es tecnolatría, idolatría de la tecnología,  la creencia en que todo problema o cuestión tiene una solución tecnológica. La gran religión contemporánea no es el cristianismo, o el Islam, sino la tecnolatría. Esta se manifiesta, por ejemplo, en la “transformación digital” que impulsa la Unión Europea. O en la medicalización de todos los aspectos de la vida humana. Ahora tenemos medicamentos para todo tipo de procesos que antes formaban parte del camino normal de la existencia. Por ejemplo, para el procesos de duelo cuando ha muerto una persona querida. Todo lo humano ha de ser medicalizado y todo ha de tener una solución tecnológica. Es una fe irracional y es evidente que no da resultados, o que a la larga resulta contraproducente. Y cuando queda claro que una solución tecnológica produce efectos adversos, se intentan resolver con otra nueva solución tecnológica que generará otros procesos adversos, que requerirán otra solución tecnológica. Es un círculo vicioso en el corazón de la tecnolatría.
 
Vayamos a tu libro Técnica y totalitarismo. Digitalización, deshumanización y los anillos del poder global. (Fragmenta 2023) ¡Qué buenos títulos tienes! Es el segundo libro de la trilogía que acabas de terminar y del que en eXtramuros publicamos, junto a esta entrevista, sus primeros capítulos. ¿Cómo relacionas todos estos conceptos que propones en el título y subtítulo del libro?
 
La tecnolatría se manifiesta políticamente en una tecnocracia que ha sustituido a las democracias en las que creíamos estar viviendo. El poder no lo ostenta el pueblo sino la técnica. Lo que importa no es la calidad de la vida de las personas, sino la eficiencia tecnológica expresada en parámetros cuantificables. Y cuando lo que importa no es lo humano, sino la eficiencia tecnológica y la burocratización de todas las cosas, se considera que es más eficiente una sociedad en la cual todo está controlado. Y qué mejor, por ejemplo, que todo el mundo esté obligado a permanecer en arresto domiciliario, o que necesite un pasaporte covid para entrar en espacio público. Durante el covid, la mayoría de la gente, presa del miedo, creyó que era bueno maximizar el control, y así se aplaudieron medidas contrarias a la buena ciencia como los confinamientos masivos, los enmascaramientos y la inoculación masiva de productos experimentales con instrucciones genéticas. Se nos dijo que eso decía “la ciencia”, cuando en realidad se trataba de marketing y superstición. O algo peor. Era evidente que el arresto domiciliario de los adolescentes, semana tras semana, iba a pasar una factura terrible a nivel de salud mental, como estamos comprobando desde entonces. Muchos intentamos avisar, pero el miedo y los grandes medios, el marketing y los mercenarios que se autodenominan “verificadores”, eclipsaban todo intento de razonar sobre lo que estaba sucediendo.
 
La digitalización tiene sus ventajas, sin duda. Gracias a ella accedemos a medios digitales como eXtramuros. Pero hay una aspiración a remplazar con artilugios digitales todo lo vivo y encarnado en el aquí y ahora. Y esa es una aspiración totalitaria. Es evidente que el despliegue de la digitalización multiplica exponencialmente las adiciones, en los adolescentes y en todo el mundo. A la vez que han crecido las comunicaciones instantáneas, ha crecido también la incomunicación, la polarización y el número de personas que se sienten solas y aisladas. A fin de cuentas, la digitalización está generando deshumanización.
 
Me preguntabas también por el subtítulo. Lo de “los anillos del poder global” es porque, así como en Pandemia y posverdad recurro a las distopías de Huxley y Orwell para explicar la gestión del covid, aquí uso muchas referencias a El señor de los anillos y, sobre todo, a las cartas de J. R. R. Tolkien, donde desarrolla muchos temas que sólo están implícitos en su obra literaria. En la obra de Tolkien hay unos anillos que otorgan poder, pero quienes los usan quedan bajo el control y el poder del Anillo Único, que puede esclavizar a quien use los anillos menores. Hoy tenemos unas tecnologías digitales que nos dan un poder extraordinario, pero al mismo tiempo, cada vez que nos conectamos a internet, todos nuestros datos están siendo absorbidos y registrados: quedamos bajo la vigilancia de algo que tiene algún paralelismo con el Anillo Único de Sauron. Sauron también me sirve, igual que le sirve a Tolkien, como metáfora de la maldad que hemos visto emerger en 2020. Me refiero a ella también con el concepto de “mal radical” que Hannah Arendt usa en Los orígenes del totalitarismo y en su correspondencia con Karl Jaspers. Habla de un “mal radical” que no estaba previsto en el mundo contemporáneo y para el que no nos había preparado nuestra tradición cultural.
 
Lo que hemos vivido estos últimos años a muchos nos ha hecho precisamente volver a leer a Arendt para tratar de entender cómo fue posible que se actuara así, a nivel global, con el apoyo de la mayoría, los medios, los políticos, la academia, incluso la intelectualidad o la cultura. A quien cuestionara una coma se le llamaba conspiranoico. ¿Cómo el miedo pudo llevar a tal desvarío colectivo?
 
Tal vez la mejor manera de responder sea leer dos pensamientos de Arendt que cito en Técnica y totalitarismo. Arendt señala que “El mal radical ha surgido en conexión con un sistema que hace que todas las personas sean igualmente superfluas. […] En todas partes, acontecimientos políticos, sociales y económicos se hallan en una conspiración silenciosa con instrumentos totalitarios diseñados para hacer que las personas se vuelvan superfluas”. Fíjate que en 1951 Arendt puede hablar de conspiración sin que se la tache de conspiranoica, porque es de sentido común que a lo largo de la historia ha habido conspiraciones. Es de lo más habitual en la historia del poder, que se tomen decisiones a puerta cerrada para dar a entender una cosa que no es.

La otra cita de Los orígenes del totalitarismo (1951) que me parece relevante es esta: “No sabemos qué ocurrirá cuando el auténtico hombre masa tome el poder, pero podemos suponer que estaría más cerca de la corrección calculada y rigurosa de Himmler que del fanatismo histérico de Hitler, se parecerá más a la sosería plomiza de Mólotov que a la crueldad sensual y vengativa de Stalin”. Arendt entiende que el totalitarismo del futuro, el de nuestros días, será menos estridente y más tecnocrático, basado en una corrección calculada y sonriente. ¿No es eso lo que vemos en los grandes líderes globales de nuestros días? 
 
Pregunto a ChatGPT quién es Jordi Pigem y le pido que te lance unas preguntas, y este es el resultado de la versión de pago (probé también en la gratuita y en este caso no hay gran diferencia). ChatGPT te permite exportar la conversación (aquí: https://chatgpt.com/share/1bfd1b2f-788b-43dc-855f-f8b39b3d7e49) Impresiona la apariencia de inteligencia, ¿qué me dices?
 
Primero, yo me niego a llamar a la IA “inteligencia artificial”, porque ahí no hay ninguna inteligencia. Lo que hay es cálculo mecánico basado en algoritmos. Una máquina nunca podrá ser capaz de pensar. Una calculadora puede hacer una raíz cuadrada en un instante, pero no entiende el Teorema de Pitágoras. Un traductor automático puede traducir un poema pero nunca entenderá su significado. Nunca puede haber en la IA experiencia, entendimiento o conciencia, por tanto no puede haber inteligencia. La palabra “inteligencia” remite a “entender”, y la máquina no entiende nada. Hoy en día, con todas estas nuevas herramientas de grandes modelos de lenguaje, lo que hay es una imitación de la inteligencia humana. Alan Turing ya hablaba de “imitation game” jugar a imitar la inteligencia, por cierto ese Imitation Game da título a una película sobre la vida de Turing. Efectivamente ChatGPT puede hacer una redacción larguísima, adecuada al tema que propongas, y normalmente costará distinguir si lo ha hecho una persona o una máquina, pero es necesario insistir en que la máquina no entiende nada, simplemente sintetiza de manera mecánica, a una velocidad vertiginosa, frases relacionadas con el tema, y las estructura de la manera que estadísticamente sería más probable. Cuando preguntas a ChatGPT por mí, la descripción general que es plausible. Si alguien me presenta en un acto público leyendo algo así, no le interrumpiría para decir que se equivoca. Yo no diría: usted se equivoca completamente. Pero en cambio hay errores objetivos acerca de datos que pueden hallarse en fuentes tan convencionales como Wikipedia. Por ejemplo, me atribuye premios que nada tienen que ver conmigo, en vez de los que realmente me han otorgado.
 
Propongo leer el acrónimo IA como “Invasión Algorítmica”: una invasión, a base de algoritmos, de nuestras profesiones, de nuestras relaciones y del conjunto de nuestras vidas.
 
A veces se equivoca ChatGPT en datos fáciles de encontrar. Pero quizás solo por ahora…
 
El año pasado, uno de los diccionarios online más usados, Dictionary.com, escogió como palabra del año “alucinar” (hallucinate) en su acepción aplicada a los sistemas de IA, refiriéndose a cómo ChatGPT y similares a veces se inventan cosas sin pies ni cabeza. Hubo un día en febrero de este año en que ChatGPT empezó a delirar: empezaba respondiendo a lo que se le había preguntado y luego empezaba a enrollarse con frases de estructura gramatical correcta pero de contenido totalmente absurdo y a veces inquietante. Muchos usuarios se asustaron. Al cabo de unas horas se resolvió anulando la actualización más reciente.
 
En el verano de 2022, una revista que se llama AI Impacts, hizo una encuesta a expertos en IA, y una de las preguntas que formuló es: “¿Qué probabilidad cree que hay de que adelantos futuros en IA causen la extinción de la humanidad, o que lleven a la especie humana a una ruina permanente y severa?”. De 738 personas que respondieron a esa pregunta, la mitad de ellas dijeron que hay como mínimo un 10% de probabilidades de que la IA lleve a la extinción de la humanidad. Que esa pregunta sea concebible ya es espantoso. A medida que crece el poder de estas herramientas, su capacidad para generar desastres también aumenta.
 
Imagínate lo que ya está pasando, IA aplicada a la justicia. Hay un documental que se titula Justicia artificial (Simón Casal, 2022) que explora cuestiones turbadoras. Imaginemos un futuro cercano donde el sistema judicial está en manos de la IA.
 
En el caso de la justicia lo que pueden hacer estos sistemas es combinar todos los datos relevantes y toda la jurisprudencia que existe sobre un caso, pero nunca tendrán el sentido ético, el sentido de la justicia, que debería caracterizar a un buen juez, que va más allá de los datos y de la letra pequeña de la ley. Existe un sentido ético que una máquina no podrá tener y que, si eres una persona suficientemente honesta y justa, te lleva a inclinarte hacia un lado u otro.
  
En referencia a esta digitalización, la IA, esa invasión algorítmica, vemos que está ya aquí y parece que está transformándolo todo. En ese sentido, ¿cómo te imaginas un futuro cercano?
 
Se nos dice que la IA ha venido para quedarse y que es el futuro. Pero el futuro no tiene porque ser la proyección lineal del presente. Por ejemplo, a medida que aumenta la capacidad de cálculo la IA, aumenta muchísimo más su consumo energético. O sea, el consumo energético crece mucho más rápidamente que la capacidad de cálculo. Es algo que saben los expertos en IA, pero apenas se menciona en los grandes medios de comunicación. Hay estimaciones de que en quince años los sistemas de IA podrían consumir por sí solos el 100 % de la energía eléctrica que se produce en el mundo. Es decir, que no quedaría energía eléctrica para nada más, ni para encender una luz. Naturalmente, la tecnolatría lleva a creer que aparecerán formas mágicas de producir electricidad ilimitadamente. Pero eso se viene diciendo desde hace muchas décadas y  lo que acaba imperando son los límites del mundo real y las leyes de la física. Y las renovables pueden ser un parche, pero no son una panacea. En cualquier caso, hay límites energéticos muy claros al desarrollo de la IA. También hay límites materiales porque requiere una serie de elementos químicos que son de difícil extracción. Hasta no hace mucho la humanidad vivió con poco más de una docena de elementos de la tabla periódica (hierro, cobre, etcétera). Hoy en día las prestaciones de un smartphone requieren la mitad de los elementos de la tabla periódica. Muchos elementos clave para las tecnologías digitales son cada vez más escasos.
 
Podríamos añadir los límites psicológicos de lo que vamos a poder soportar. Hasta qué punto vamos a tolerar que nuestros hijos estén enganchados a las pantallas. Los niños que empiezan a utilizar el móvil a una edad temprana, tienen falta de empatía, porque les ha faltado contacto con personas reales. Las tecnologías digitales están generando unos niveles de adicción que si los generara una sustancia física, se prohibiría. Pero  como nos han dicho que es el futuro, se acepta como un precio del progreso. ¿Progreso de qué? 
 
¿Y la brecha digital?
 
Por más que los políticos hablen y hablen de superar la brecha digital, inevitablemente estas tecnologías darán más poder a quien tenga los ordenadores y servidores más potentes. Por eso Amazon se come a las pequeñas empresas. En el primer mes después de la declaración de la pandemia, Amazon ganó la mayor fortuna que se había ganado hasta entonces en la historia de la humanidad. Con una herramienta tan poderosa, el pez grande se come al chico. Y eso hace que se disparen todavía más las desigualdades económicas. La dinámica de los grandes fondos de inversión sería imposible sin la IA.
 
Es decir que al final, parece no ves el triunfo total de la invasión algorítmica. ¿Te estás imaginando una sociedad futura más consciente, más responsable?
 
No concibo que el mundo dentro de 25 años esté repleto de pantallas y de ordenadores por todas partes. Como decía, creo que hay límites energéticos, materiales y psicológicos que lo hacen imposible. A una sociedad más consciente se puede llegar porque reaccionamos a tiempo, que de momento no lo parece, o porque esto revienta, colapsa, y entonces nos tenemos que espabilar con lo que quede. Y ahí toda una generación que ha aprendido a través de los vídeos y que apenas lee, tendrá que volver a leer para reaprender a estar en el mundo.
 
Todo el sistema tecnológico es como un gigante con pies de barro. Toda tecnología, cuanto más sofisticada, también más frágil es. Lo que estamos haciendo es un gran experimento, con tecnologías muy sofisticadas, pero que pueden fallar por muchos lugares. 
 
Quizás podríamos recuperar la tecnología de las manos del poder, y usarla para hacer el bien, utilizar la inteligencia artificial para hacernos más libres, reconquistar Internet y recuperar aquella ilusión inicial.
 
Toda tecnología teóricamente puede usarse para fines buenos o no tan buenos. Lo que ocurre es que también toda tecnología nos orienta en cierta dirección. La flauta te invita a hacer música. Puedes dar golpes con ella, pero no irá muy bien. En cambio, una porra sirve para golpear. Puedes intentar usarla para hacer música, pero nada hermoso saldrá de ahí. Cada herramienta te orienta en una dirección, pero eso no anula tu libertad. En el caso de internet, al principio parecía que podría ser utilizado para crear un mundo de personas mucho más libres, autónomas y creativas. Pero treinta años después lo que vemos que predomina es un mundo de personas mucho más adictas, atrapadas y dependientes. ¿Por qué? En parte porque fuerzas económicas lo han impulsado hacia aquí. Pero también, tal vez, porque lo virtual tiende a desvirtuar el mundo real. Lo digital nunca será un sustituto genuino de lo experiencial, lo encarnado, lo presencial. Sin duda es una maravilla poder escuchar una pieza exquisita de música clásica en internet, o encontrar textos clásicos de la historia del pensamiento o artículos científicos que te puedes bajar en un instante. Y desde luego que podemos hacer un buen uso de estas herramientas, pero no es lo que predomina, no es lo que vemos a nuestro alrededor.
 
No lo tienes ahora pero ¿nunca tuviste un teléfono móvil?
 
Nunca me interesó. Cuando aparecieron, vi que tenían un enorme impacto contaminante, cada vez mayor, en su fabricación y cuando son desechados. Vi el aspecto psicológico, que son una fuente de adicción. Si tú tienes un gran autocontrol, seguro que puedes usarlo bien, pero la inmensa mayoría de las personas y sobre todo los niños pequeños y adolescentes difícilmente van a poder usarlo con autocontrol. Luego fui viendo también su dimensión de manipulación, de vigilancia, de control. De manera que prefiero vivir sin ese artilugio, como el conjunto de la humanidad hizo hasta hace muy poco. No es que sin él la vida sea más fácil, pero tal vez es más genuina.
  
Habrás tenido problemas al hacer gestiones con la administración, empresas o instituciones.
 
A veces, pero casi siempre he conseguido hablar con una persona que lo ha podido resolver. Lo que no hay garantía es que esto se vaya a producir siempre, y en cualquier caso sí que complica la vida respecto a una manera más humana que teníamos antes de hacer las cosas. Se pretende que el papeleo que antes hacía la burocracia lo acabe haciendo el ciudadano.
 
¿Sabes de esas alarmas vergonzantes que testaron en la población, mediante las que acceden a tu teléfono móvil, sin permiso, y activan una alarma inevitable que no cesa hasta que hayas respondido que has leído el mensaje de alarma?
 
Eso tiene que ver con el título de uno de los capítulos de mi nuevo libro Conciencia o colpaso (2024. Fragmenta), “El estado de excepción como modelo de gestión”. Cada vez más los gobiernos, sean de izquierdas o de derechas, se orientan hacia el control y a aprovechar todo tipo de circunstancias reales, semirreales o ficticias para crear estados de excepción en los cuales los ciudadanos pueden ser controlados más directamente. De ello ya advirtió Giorgio Agamben.
 
Toda esta deriva orwelliana, este ir de crisis en crisis, ¿no puede, de tanta presión provocada a la población, provocar una oportunidad de toma de conciencia y cambio de rumbo?
 
La posibilidad de lo inesperado siempre está ahí. Yo estuve en Berlín Oriental y en Berlín Occidental tres meses antes de la caída del muro que los separaba. En ese momento no se podía predecir que ese muro caería. Veías a los soldados vigilando el muro, con órdenes de disparar a matar a quien se acercara. Pero de forma inesperada, tres meses después, ciudadanos de uno y otro lado se acercaron a golpear el muro. Y los soldados no dispararon. Y sus oficiales les dejaron hacer. El muro se cayó solo, sin derramar sangre. En uno y otro lado hubo un cambio de conciencia, se dieron cuenta de que aquello no tenía sentido. La Revolución Francesa tampoco era previsible dos años antes.
 
La historia está hecha de momentos imprevisibles, al igual que la vida de cada persona. Ocurren cosas inesperadas, malas y buenas, con las que no contabas. Con la historia colectiva pasa lo mismo, no es predecible. Estamos en una época de confusión sin precedentes, hay signos de que las cosas están yendo a peor. El sistema se está volviendo más totalitario, tal vez porque ve que se acerca su fin. A corto plazo parece que vienen curvas. Qué hay detrás de ellas no podemos saberlo.
 


Comments are closed, but trackbacks and pingbacks are open.