Octavio Islas
En su reciente y disruptiva encíclica, Magnifica humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, el papa León XIV formula una advertencia de gran alcance sobre la inteligencia artificial (IA). No se trata de una observación marginal, sino de una intervención que sitúa la IA en el centro de una discusión ética, política y antropológica.
Su mensaje no interpela únicamente al mundo religioso. También alcanza a los centros neurálgicos de poder tecnológico en Silicon Valley y a las estructuras de defensa de las grandes potencias, donde la inteligencia artificial ya no se percibe solo como una herramienta, sino como un factor decisivo de poder.
No estamos ante una simple advertencia ludita contra el progreso. León XIV no teme a la máquina por su capacidad de cálculo, sino por lo que revela sobre una posible abdicación del espíritu humano frente a una autonomía sin conciencia. Al exigir el «desarme» de la IA, el Pontífice desplaza el debate hacia un terreno en el que convergen, y a veces colisionan, la ética de la guerra, la economía del cuidado y la metafísica de la identidad.
La autonomía letal: el vacío de la responsabilidad moral.
La principal advertencia de León XIV se sitúa en el terreno militar. El Papa rechaza de forma explícita la autonomía letal: la posibilidad de que sistemas de armas decidan sobre la vida y la muerte sin la mediación del juicio humano. A su entender, ese escenario no solo transforma la guerra, también erosiona el principio de responsabilidad moral sobre el que se ha sostenido buena parte de la civilización occidental.
La pregunta decisiva es inmediata: si un algoritmo ordena disparar a partir de una probabilidad estadística de amenaza, ¿quién asume la culpa del error o la responsabilidad del crimen? No puede ser la máquina, que carece de conciencia y, por tanto, de culpabilidad moral o jurídica. (…) El resultado es un vacío de responsabilidad: una zona gris en la que la decisión letal ocurre sin un sujeto plenamente imputable.
La anestesia moral de la guerra automatizada.
León XIV formula aquí una segunda advertencia decisiva: una guerra conducida por máquinas no solo puede volverse más eficiente, sino también moralmente insensible.
Cuando desaparecen el riesgo asumido por el soldado y la angustia de quien aprieta el gatillo, la violencia deja de sentirse como una decisión trágica y corre el peligro de reducirse a una operación de cálculo, distancia y optimización logística.
El desarme de la intención: la colonización de la atención.
Pero el «desarme» al que alude el Pontífice va mucho más allá de los drones asesinos o los misiles hipersónicos. Su advertencia se dirige también a un campo menos visible y no por ello menos decisivo: los mecanismos de manipulación cognitiva. En ese terreno, la inteligencia artificial opera como una tecnología de ocupación de la atención, capaz de modelar hábitos, preferencias y percepciones desde el interior mismo de la experiencia cotidiana.
«La verdadera amenaza no es que la máquina aprenda a pensar como el hombre, sino que el hombre termine por pensar como la máquina: de forma binaria, optimizada y carente de misterio.»
Ese es el verdadero «imperialismo de los datos», un régimen de influencia en el que los algoritmos de recomendación y las arquitecturas de persuasión digital terminan por decidir qué leemos, qué compramos, en qué creemos e incluso a quién tememos o rechazamos.
Hacia una gobernanza global: el “Tratado de No Proliferación Digital”.
El artículo papal no se instala en las nubes de la teología, aterriza con una propuesta política audaz. León XIV hace un llamado a la creación de una agencia internacional para la IA, similar a la OIEA para la energía atómica. El objetivo: un Tratado de No Proliferación de IA Autónoma.
El control no puede quedar en manos de las juntas directivas de cinco o seis empresas transnacionales cuyo único mandato moral es el crecimiento del valor de sus acciones. El Papa argumenta que la IA es un «bien común de la humanidad» y que, como tal, su desarrollo afecta la «ecología humana».
Por tanto, propone:
*Zonas libres de algoritmos: espacios públicos, procesos judiciales y centros educativos donde la mediación de la IA esté prohibida por ley, preservando la soberanía del juicio humano.
El riesgo del «Dios en la máquina».
Finalmente, León XIV dirige su atención hacia un riesgo de orden espiritual. A su juicio, comienza a consolidarse una nueva religión secular que contempla la inteligencia artificial como una deidad incipiente: una inteligencia presentada como omnisciente, omnipresente y, en un horizonte cercano, potencialmente omnipotente.
Por eso, el control de la IA no se reduce a una cuestión técnica o regulatoria, también implica restablecer una jerarquía de fines. La máquina debe servir al ser humano, y el ser humano debe servir a la vida, no a la eficiencia convertida en absoluto.Sun
