El pasado 15 de mayo el Papa León XIV publicó su primera encíclica, titulada Magnífica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, principalmente centrada en el valor del ser humano frente a las tendencias tecnológicas y en particular la inteligencia artificial IA. La conclusión de la encíclica inicia con el siguiente fragmento:
229. «Que cada cual se fije bien de qué manera construye» (1 Co 3,10): son palabras de san Pablo, que exhorta a los cristianos de Corinto a custodiar la unidad. Amadísimos hermanos y hermanas, nos hemos interrogado sobre el mundo que estamos construyendo, preguntándonos qué significa custodiar a la persona humana en el tiempo de la IA.
¿Nos fijamos en las consecuencias que tienen nuestras acciones para los demás? ¿Se fijan los poderosos en las consecuencias de sus decisiones y acciones? ¿Nos fijamos (se fijan) en lo que estaba antes, los fundamentos, la arquitectura (siguiendo la cita de Corintios)? Es muy probable que no, cada quien vive en la burbuja de sí mismo y ahí está el riesgo actual frente a la IA.
El capítulo 3 se centra totalmente en la IA, pero más que el artefacto revisa las acciones humanas en torno a ese artefacto y más específicamente revisa lo relacionado con el poder:
93. Este paradigma se ha extendido rápidamente en los últimos años, también como efecto de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología. En sí mismas, dichas innovaciones pueden ser una gran ayuda para el desarrollo humano integral y el cuidado de la Casa común. Pero, precisamente por su poder, pueden actuar como un acelerador del paradigma tecnocrático y, por ello, necesitan un nuevo marco espiritual, ético y político. Más poderoso no significa necesariamente mejor. En este sentido, siguen siendo actuales las palabras de Romano Guardini: «El hombre moderno no está preparado para utilizar el poder con acierto».
Entonces, como ya lo han dicho muchas personas, la cuestión de la inteligencia artificial es política y por esa razón requiere transparencia, comunicación, colaboración, el concurso de todas las personas en cada contexto, en lugar de la supremacía de unos pocos. Como dice más adelante en el mismo capítulo:
103. Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. Lo que disminuye, en este proceso, no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte.
¿Qué hacer entonces? La misma encíclica nos ofrece respuestas:
105. Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad” (accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas.
106. Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos. No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea. De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo.
Conviene comenzar por leer toda la encíclica, que debería considerarse por las personas en posición de poder y también debería ser una lectura en las clases universitarias. Hay mucha sabiduría en este documento, como el penúltimo párrafo de ese tercer capítulo:
129. El humanismo cristiano no rechaza la ciencia ni la técnica, sino que las asume con gratitud y realismo, y las sitúa “con los pies en la tierra” dentro de una vocación más alta. La inteligencia creativa del ser humano es un don que puede aliviar sufrimientos y abrir nuevas posibilidades, pero debe permanecer ordenada al bien común, a la justicia, al cuidado de los frágiles y de la creación. En este sentido, la verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos modos de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los doblega a lógicas de poder. Al final, la pregunta decisiva sigue siendo la indicada por san Juan Pablo II: la IA, ¿«hace la vida del hombre sobre la tierra, en todos sus aspectos, “más humana”?; ¿la hace más “digna del hombre”?». [138] Si la respuesta es “sí”, entonces podemos reconocer en ella una posibilidad buena para usar con responsabilidad, en un camino de reconstrucción compartida y paciente, según el modelo del renacimiento de Jerusalén narrado en el libro de Nehemías. Si, en cambio, el poder crece mientras el corazón se marchita y los vínculos se rompen, entonces estamos frente a una nueva versión de Babel: una construcción grandiosa, pero inhumana.
Dejo por aquí una copia en PDF del documento y ojalá existan espacios de diálogo y construcción colectiva al respecto...
.png)
.png)
.png)