Este teólogo romano, el consejero del Papa sobre inteligencia artificial, asegura que el peligro no está en la tecnología, sino en quien la aplica.
6 de febrero 2025.- El Vaticano ha solicitado medidas para que la inteligencia artificial (IA) «se ordene al bien de las personas y no contra ellas». Por ejemplo, que se garantice que ninguna tecnología militar pueda decidir autónomamente contra quién disparar o que los algoritmos no tengan la última palabra en los tribunales, compañías de seguros o bancos. Lo ha hecho con una extensa nota titulada Antiqua et nova, que lleva la firma de los cardenales Víctor Manuel Fernández y José Tolentino de Mendonça, prefectos de los dicasterios para la Doctrina de la Fe y para la Cultura y la Educación. El documento ha sido aprobado por el Papa Francisco y avisa del riesgo de que la humanidad se convierta «en esclava de su propia obra».
Hablamos de la nota con el teólogo y franciscano Paolo Benanti (Roma, 1973), consejero del Papa sobre inteligencia artificial y uno de los 37 expertos que asesoran a la ONU en esta materia.
¿Cuál es el papel de la Iglesia ante la inteligencia artificial?
La Iglesia no es una industria tecnológica ni un organismo internacional, pero está llamada a sembrar condiciones que favorezcan el encuentro entre las personas para mitigar los efectos negativos de la tecnología.
Empecemos mencionando algo bueno de la IA.
Esta tecnología participa de ese espíritu humano que es un reflejo del espíritu divino. Al ser un producto del hombre, muestra esa capacidad de ir más allá de las condiciones materiales. Si la inteligencia artificial se pone al servicio de este espíritu, humaniza el mundo, potencia nuestra capacidad de cuidarnos unos a otros, de mejorar las condiciones de vida de los habitantes del planeta. Toda forma de inteligencia artificial que participa en el bien común ha de ser apreciada, valorada y fomentada.
En la reciente nota del Vaticano sobre la IA, dice que existe el peligro de convertirnos en sus esclavos.
El peligro es idolatrar la tecnología, darle un papel que no tiene, convertirla en un ídolo. Ya hay algunos que idolatran la esfera tecnológica, como si fuera una esfera divina.
Entonces lo de ser esclavos no es un escenario apocalíptico en el que mandarán las máquinas.
En la nota esa frase es una advertencia, no algo que deba ser tomado literalmente. La idea es recordar que podemos caer en adicciones a la tecnología, que coarten o nieguen nuestra libertad y voluntad.
También el Vaticano reivindica mostrar lo propio de las personas ante una tecnología que se reduce a eficacia y velocidad de cálculo.
Lo interesante es que cuanto más nos interrogamos sobre las máquinas, más interés recuperamos sobre lo humano. Es un momento muy bueno para volver a poner en el centro cuestiones que parecían innecesarias; esa pregunta que dice el salmo: «¿Qué es el hombre para que te acuerdes de él?».
¿Qué es lo que no podremos delegar a la inteligencia artificial?
Hay una sabiduría que no se puede encontrar en las máquinas. Lo dijo el Papa ante el G7. La decisión humana y la opción que toma una máquina son dos acciones profundamente diferentes.
La nota solicita identificar quién diseña el algoritmo y cuáles son sus fines.
La tecnología ha pasado de ser una opción para cada persona a una infraestructura. El problema es que la infraestructura puede hacer opaca la cadena de responsabilidades.
¿Por ejemplo?
Pensemos en la tecnología médica, cuando se pierde la relación directa entre médico y paciente y se difumina en una serie de mediaciones tecnológicas. El documento pide que se recuperen esos procesos humanos.
¿Cómo educar a nuestros hijos para que no pierdan esa humanidad?
Se educa a través de experiencias y ahora nuestra tarea es ofrecer experiencias de humanidad a los jóvenes. Sin embargo, a menudo optamos por delegarlo en la tecnología y abandonamos a los niños ante pantallas para permitir que los adultos puedan hablar. Los jóvenes interactúan mucho mejor que nosotros con estas herramientas. A nosotros nos corresponde ayudarlos a darle sentido. No se trata de castrar su relación con la tecnología, porque con ella se ganarán la vida y tendrán un empleo. Se trata de acompañar, sin prohibicionismo y sin abandonarlos.
¿Qué es lo que más teme de la IA?
Más que la inteligencia artificial, me preocupa la «estupidez humana», es decir, que los humanos puedan utilizarla en áreas o ámbitos que no son buenos o fiables para ese tipo de máquinas. La inteligencia artificial por sí misma no se aplica a nada, siempre hay alguien que decide aplicarla a un área determinada, así que el problema somos nosotros.
Muchos llevan tiempo alertando sobre sus peligros, pero parece que nadie hace nada concreto.
Es porque se desarrolla muy rápidamente y para reaccionar hace falta tiempo. Pero no es cierto que nadie haga nada. El Vaticano lanzó en 2020 la Rome Call for AI Ethics, que han suscrito 21 líderes religiosos de todo el mundo y grandes empresas tecnológicas. Esta corriente está en marcha.
¿Estamos aún a tiempo de impedir que la IA se nos vaya de las manos?
Siempre es posible convertir la tecnología. Permítame citar al profeta Isaías, que habla de lanzas y espadas que se convierten en hoces y arados, de instrumentos de muerte que se convierten en instrumentos para dar vida. Es una misión que tenemos que vivir siempre, ni basta hacerlo una vez ni es una tarea que se puede dar por perdida. Es una constante que tenemos que vivir y aplicar en nuestra propia historia.
JAVIER MARTÍNEZ-BROCAL
Alfa y Omega
