La encíclica Magnifica Humanitas de León XIV aborda cuestiones clave como el trabajo, la verdad, la concentración de poder tecnológico, la educación, la regulación y el uso militar de la IA.

Su mensaje central es claro: la tecnología debe estar al servicio de la persona y del bien común.

¿Creéis que estamos desarrollando la IA con suficientes criterios éticos?

Magnifica Humanitas: León XIV ante el desafío de la inteligencia artificial

La inteligencia artificial está entrando con rapidez en el trabajo, la educación, la información, la medicina y muchas actividades de la vida diaria. Sus posibilidades son enormes, pero también empiezan a aparecer problemas que hace pocos años apenas se planteaban.

La encíclica Magnifica Humanitas, de León XIV, trata precisamente de estas cuestiones. Es la primera encíclica de su pontificado y está dedicada a la persona humana en la época de la inteligencia artificial.

La referencia a Rerum Novarum está muy presente. Aquella encíclica de León XIII, publicada en 1891, trató los problemas sociales provocados por la Revolución Industrial. Ahora el escenario es distinto, pero vuelve a plantearse algo parecido: qué consecuencias tiene un gran cambio tecnológico sobre las personas, el trabajo y la sociedad.

La idea de fondo de Magnifica Humanitas es sencilla: la inteligencia artificial puede ser muy útil, pero su desarrollo necesita límites y responsabilidades.

1. La IA no es neutral

La encíclica no presenta la inteligencia artificial como algo malo en sí mismo. Tampoco acepta que la tecnología sea completamente neutral.

Los sistemas de IA son creados por personas y empresas que deciden qué datos utilizan, qué objetivos persiguen y para qué van a emplearse. Por eso, detrás de cualquier tecnología hay decisiones humanas.

No es lo mismo utilizar una IA para ayudar a un médico que emplearla para vigilar a trabajadores o tomar automáticamente decisiones que afectan a una persona.

2. Una máquina no es una persona

León XIV insiste en diferenciar la capacidad de una máquina para procesar información de la inteligencia humana.

Una IA puede analizar enormes cantidades de datos, encontrar relaciones difíciles de detectar y producir textos o imágenes con mucha rapidez. Pero eso no significa que tenga conciencia ni responsabilidad moral.

Esta diferencia importa especialmente cuando los algoritmos intervienen en decisiones sobre personas. Una máquina puede servir de ayuda, pero sus resultados no deberían convertirse en decisiones indiscutibles.

Las personas no somos solamente datos que puedan clasificarse mediante una fórmula.

3. El trabajo

El impacto de la inteligencia artificial sobre el empleo ocupa una parte importante de la encíclica.

La automatización puede eliminar tareas repetitivas y aumentar la productividad, pero eso no garantiza que las condiciones laborales mejoren.

Algunas empresas ya utilizan sistemas automáticos para medir productividad, asignar tareas o controlar tiempos. Si estas herramientas se aplican sin límites, el trabajador puede acabar sometido al ritmo que marca un algoritmo.

También existe el riesgo de que determinados puestos desaparezcan con rapidez y de que los beneficios de la automatización queden concentrados en pocas empresas.

La tecnología debería ayudar al trabajador, no convertirlo en una pieza prescindible.

4. La concentración del poder tecnológico

El desarrollo de los sistemas más avanzados de IA necesita grandes cantidades de datos, enormes centros de cálculo y mucho dinero. Pocas empresas pueden permitirse esas inversiones.

Esto puede provocar que una parte importante de la tecnología quede controlada por un grupo reducido de compañías.

Y quien controla los datos, los algoritmos y las plataformas tiene también una gran capacidad para influir sobre lo que vemos, compramos o leemos.

Ese poder necesita controles y responsabilidades.

5. La IA y la verdad

Este es uno de los problemas que ya podemos comprobar personalmente.

Crear una fotografía falsa, imitar una voz o fabricar un vídeo convincente es cada vez más sencillo. Los deepfakes permiten mostrar a una persona diciendo algo que nunca dijo o apareciendo en una situación que nunca ocurrió.

La mentira siempre ha existido. Lo nuevo es la facilidad para fabricar contenidos falsos y distribuirlos a gran escala.

Además, la IA puede equivocarse sin intención de engañar. Los sistemas generativos producen a veces respuestas que parecen convincentes, pero contienen datos falsos.

Por eso sigue siendo necesario comprobar fuentes y no aceptar automáticamente como cierto todo lo que produce una máquina.

6. Niños, jóvenes y educación

La llegada de la IA a las aulas plantea problemas muy concretos.

Un estudiante puede utilizarla para buscar información, resolver dudas o recibir explicaciones. Bien empleada, puede ser una herramienta útil.

El problema aparece cuando sustituye al esfuerzo de aprender.

Si un alumno encarga a una IA todos sus trabajos, puede entregar ejercicios correctos sin haber aprendido demasiado. Lo mismo ocurre si deja de practicar la escritura, el cálculo o la búsqueda de información porque una máquina lo hace siempre por él.

La educación tendrá que adaptarse. Los estudiantes deberán aprender a utilizar estas herramientas sin perder la capacidad de pensar por cuenta propia.

7. La inteligencia artificial y la guerra

La aplicación militar de la IA es uno de los asuntos más delicados de la encíclica.

Ya existen sistemas capaces de localizar objetivos, analizar imágenes, dirigir drones o ayudar a tomar decisiones militares.

El problema se vuelve especialmente grave cuando una máquina puede participar de forma autónoma en una decisión sobre la vida o la muerte de una persona.

León XIV ha utilizado la expresión «desarmar la inteligencia artificial» para referirse a este peligro: evitar que la tecnología avance hacia sistemas en los que la responsabilidad humana desaparezca detrás de una decisión automática.

8. Hace falta regulación

La inteligencia artificial avanza mucho más deprisa que las leyes.

Las empresas deben responder por los sistemas que desarrollan y los gobiernos tienen que proteger los derechos de los ciudadanos. Cuando una decisión importante se toma mediante un algoritmo, la persona afectada debería poder saber cómo se ha llegado a ella y reclamar si considera que ha sido injusta.

También será necesaria la cooperación internacional, porque estas tecnologías no conocen fronteras.

Regular una tecnología que cambia continuamente será complicado, pero dejarla sin reglas tampoco parece razonable.

9. Babel y Jerusalén

La encíclica utiliza las imágenes bíblicas de Babel y Jerusalén para representar dos maneras de entender el progreso.

Babel aparece asociada a la concentración del poder y a la idea de que la capacidad técnica permite hacerlo todo. Jerusalén representa una sociedad en la que el progreso tiene en cuenta a las personas y el bien común.

Aplicado a la inteligencia artificial, el ejemplo se entiende con facilidad. Podemos utilizarla para controlar más a las personas y concentrar poder, pero también para mejorar trabajos, avanzar en medicina o facilitar la educación.

La tecnología puede ser la misma. Lo que cambia es cómo decidimos utilizarla.

Como diría mi abuelo: la IA puede ser una herramienta extraordinaria, pero nunca debería estar por encima de la dignidad, la libertad y la responsabilidad de las personas.

Magnifica Humanitas no propone frenar la inteligencia artificial ni regresar a un mundo anterior a ella. Plantea que pensemos en sus consecuencias mientras todavía podemos decidir cómo queremos utilizarla.

¿Estamos poniendo límites antes de que aparezcan los problemas, o solo reaccionaremos cuando ya los tengamos encima?