La elección de León XIV como papa constata la existencia de una geopolítica de las almas en la era de la inteligencia artificial (IA). Un fenómeno que tiene que ver con la intensificación del poder que despliega la IA sobre la configuración futura del mundo. Se abre junto a la lucha hegemónica que libran sobre ella Estados Unidos y China, una dialéctica de raíz platónica entre el valor material que tienen las tierras raras en el desarrollo de la infraestructura que soporta la IA y el valor inmaterial de las creencias impresas inconscientemente en los datos que se destinan al entrenamiento de aquélla. Un pulso geopolítico espiritual dentro del capitalismo cognitivo que nace de la esencia ex nihilo que está en el ADN creativo de la IA. Esto explica por qué esta semana suspendemos la serie de artículos dedicados en esta sección a analizar qué hacer ahora bajo el populismo.
Que la Iglesia católica muestre no solo su inquietud ética, sino también su malestar moral acerca de cómo avanza el desarrollo de la IA es relevante. Evidencia la potencialidad maléfica y la iniquidad que encierra el utilitarismo nihilista que nutre su diseño. Un factor de enorme impacto que, además, coincide con la ingenuidad utópica de los tecnólogos que la impulsan y con la ceguera regulatoria de los legisladores que piensan que, controlando los riesgos que comporta la IA para los derechos fundamentales, se allana el camino para su desarrollo equitativo.
La IA aloja la posibilidad de un poder leviatánico con mayúsculas. Algo sobre lo que ha alertado la Iglesia al reconocer que favorece la instauración de una IAcracia irresistible si no se limita. Para evitarlo, hay que recordar que en el pensamiento lógico-calculador que opera sobre el conocimiento algorítmico se libera un automatismo que puede constreñir la acción humana de manera totalizadora y absoluta. De esta manera se abre un riesgo de inhumanidad totalitaria entre el peso de las tierras raras que nutren los chips y la gravedad de las almas que dejan la impresión del espíritu humano sobre los datos.
Un riesgo que fue denunciado por el papa Francisco en su nota Antiqua et nova de 28 de enero del 2025, cuando advirtió que la IA no tiene “carácter neutro”, pues es “una empresa humana que pone en cuestión las dimensiones humanísticas y culturales del ingenio humano”.
Que León XIV retome esta denuncia de su predecesor es sintomático de por dónde puede ir su pontificado. Y que lo haga nada más llegar desvela la urgencia que ve la Iglesia en abordar un cambio de modelo en la manera de relacionarnos los seres humanos con la IA. Tanto, que lo ha hecho con una energía narrativa que anuncia lo que podría ser una futura encíclica sobre la IA. Resulta llamativo que proclame la dignidad insustituible que aporta el sentido humano al poder del conocimiento. Algo que da a entender que está amenazado por la nueva revolución industrial que protagoniza la IA. Básicamente porque arrincona al libre albedrío del razonamiento humano mediante un automatismo algorítmico que se impone a aquél, debido a la eficiencia competitiva que muestra en los procesos productivos.
Una advertencia urbi et orbi de que la Iglesia no se quedará de brazos cruzados ante el riesgo de que la máquina sustituya al ser humano cuando piensa y decide.
La Iglesia ve urgente un cambio de modelo en la manera de relacionarnos los seres humanos con la IA
No lo hizo León XIII cuando denunció la deshumanización del capitalismo industrial que trajo la máquina de vapor y parece que no lo hará León XIV ante la barbarie nihilista de un capitalismo cognitivo liderado por chinos y norteamericanos a través de sus modelos de IA.
En Civilización artificial (Arpa, 2024) relacioné la geopolítica de las máquinas que protagonizan EE.UU. y China con los modelos culturales que les sirven de base moral: el calvinismo de silicio de Silicon Valley y el confucionismo nihilista del Partido Comunista Chino. Una geopolítica espiritual que inspira inconscientemente el sentido de lo creado que late en la IA. He insistido en ello en estas páginas.
Pienso que los sesgos culturales de base religiosa que actúan en el diseño que ambas superpotencias proyectan sobre sus sistemas de IA se hacen especialmente patentes en los llamados modelos generativos. Entre otras cosas, porque imitan cómo crea en su sentido más amplio el ingenio humano. Por eso, he sostenido que la reflexión europea sobre la IA es notoriamente insuficiente (hablé de ello en “Europa: un reglamento fallido sobre IA”, 27/I/2024).
Y es que los déficits del marco legal pensado a través del Reglamento sobre IA nacen de la pobreza de un utilitarismo humano-céntrico de evitación de riesgos que actúa como soporte inspiracional de sus normas. Proyectar sobre ellas un positivismo ético basado en los derechos fundamentales es insuficiente ante la envergadura prometeica y mefistofélica que aloja la IA.
Lee también¿Y ahora qué bajo el populismo? (I)
Por resumir, conocer los riesgos para evitarlos como modelo de gobernanza de la IA no servirá de nada. Los límites no están solo en neutralizar los riesgos cívicos que comporte el uso de la IA, sino en definir propósitos que contribuyan al bienestar de las personas que la empleen. Algo que solo puede producirse si, además de los derechos fundamentales, se tiene en cuenta la profundidad ética que subyace en la autenticidad que encierra la persona como individuo dotado de conciencia y responsabilidad natural para ejercer su libertad.
Cuando Silicon Valley y Shenzhen quieren crear una inteligencia ex nihilo, y Bruselas se conforma con un diseño técnico humano-céntrico de la IA, afortunadamente nos queda la Roma de León XIV para recordar a los 1.400 millones de católicos del mundo qué deben hacer y cómo han de influir políticamente para impedir que la humanidad sea sacrificada en una cruz de silicio.