Desarmar la Inteligencia Artificial y otras estrategias para la nueva era: lo más destacado de la primera encíclica del papa León XIV
El papa León XIV dedicó su primer documento solemne a los efectos de la Inteligencia Artificial sobre la dignidad humana. Estos son los puntos centrales del texto y lo que más debate ha generado.
Por: Juan David Cano
El papa León XIV publicó su primera encíclica, Magnifica Humanitas, un documento dedicado a los efectos de la Inteligencia Artificial (IA) sobre la dignidad humana. El texto, firmado el 15 de mayo, no es un tratado técnico ni una condena de la tecnología, sino una actualización de la doctrina social de la Iglesia para esta época.
Las encíclicas son los documentos de mayor rango que emite un pontífice y fijan la posición de referencia de la Iglesia sobre cuestiones sociales, morales o políticas.
Dada su relevancia, León XIV lo presentó él mismo acompañado de expertos en IA, entre ellos el cofundador de la empresa Anthropic, Christopher Olah.
La IA no es "moralmente neutra"
El planteamiento central del documento es que la tecnología nunca es un instrumento neutro, porque refleja los valores de quien la diseña, la financia y la utiliza. Sobre esa base, el papa rechaza la idea de que la IA pueda juzgarse solo por el uso que se le dé.
"No podemos considerar a la IA como moralmente neutra. En realidad, todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones", señala la encíclica.
A partir de ahí, introduce el concepto que más atención ha generado y es el de "desarmar" la Inteligencia Artificial. El término —aclara— no significa rechazar la tecnología, sino impedir que se convierta en un instrumento de dominio sobre las personas y una herramienta de guerra.
"Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable", afirma el texto.
La concentración de poder, el núcleo de la crítica
Uno de los ejes del documento es la advertencia sobre quién controla hoy la tecnología. El papa sostiene que el poder ya no está principalmente en manos de los Estados, sino de grandes actores privados, y que esa concentración genera nuevas desigualdades.
"El control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación", indica.
En esa línea, la encíclica plantea que los datos no pueden quedar solo en manos privadas, ya que son fruto del aporte de muchos, y reclama que su gestión se regule como un bien común.
El papa pide controles efectivos, transparencia en los algoritmos y la posibilidad de que las personas puedan apelar las decisiones automatizadas que las afectan.
Sobre el trabajo, la guerra y la esclavitud
El documento no se limita a la IA en abstracto, sino que recorre sus efectos concretos. Sobre el empleo, advierte de que la automatización puede terminar adaptando al trabajador a la máquina, y no al revés, y reclama proteger los puestos de trabajo frente a la sola lógica del beneficio.
"Por ello, es necesario detenerse en algunos ámbitos en los que estas transformaciones tienen repercusiones muy concretas, a veces dramáticas. A la luz de los principios de la doctrina social de la Iglesia, la transformación digital nos pide redescubrir la verdad como bien común, proteger la dignidad del trabajo y salvaguardar la libertad frente a toda dependencia y mercantilización", dice el papa.
Uno de los apartados más fuertes es el dedicado a la guerra. El papa cuestiona que se delegue en sistemas automáticos la decisión sobre la vida y la muerte, y reitera la superación de la teoría de la "guerra justa", invocada, dice, con demasiada frecuencia para justificar conflictos.
"No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable. La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos. Así, nos acostumbra a la idea de que la violencia sea inevitable y sólo deba optimizarse", dijo.
Y añadió: "Por tanto, es de máxima importancia infundir valores y un juicio prudente en la programación de los sistemas artificiales que construimos; estos pueden contribuir a un ecosistema moral en el que los seres humanos estén mejor preparados para escuchar su propia conciencia y en el que los modelos de IA establezcan límites adecuados".
El texto también señala las "nuevas formas de esclavitud" que sostienen la economía digital: el trabajo mal pagado de quienes etiquetan datos y moderan contenidos, y la extracción de minerales en condiciones peligrosas, a veces con menores de edad.
"Es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y humillación que la esclavitud ha significado para tantas personas, en contraste con la dignidad sin límites de cada una de ellas, amadas infinitamente por el Señor. Por eso, en nombre de la Iglesia, pido sinceramente perdón", escribió el pontífice, tras reconocer que hubo que esperar hasta el siglo XIX para una condena formal y absoluta de esa práctica.
Dos imágenes para entender el mensaje
Para ordenar el documento, León XIV recurre a dos imágenes bíblicas: la torre de Babel, símbolo de una construcción guiada por el orgullo y el dominio que termina deshumanizando, y la reconstrucción de Jerusalén por parte de Nehemías, presentada como modelo de una obra hecha desde la responsabilidad compartida.
La elección entre ambas —plantea el papa— define el rumbo de la era digital. "Todos somos a menudo artífices inconscientes y arquitectos desunidos, capaces de gestos generosos pero carentes de una visión de conjunto: es una construcción más lenta, menos visible y menos llamativa, que espera ser mejor comprendida y más coordinada, para convertirse así en el compromiso consciente y articulado de cada comunidad, desde la familia hasta el gobierno de los Estados y sus relaciones. Es a este horizonte de compromiso, a esta obra de esperanza, al que damos el nombre de “civilización del amor", concluye.
Lea los comentarios
