Fabio Colagrande – Ciudad del Vaticano
¿Cuánto poder estamos dispuestos a confiar a las máquinas? ¿Y qué garantías tenemos de que los sistemas de inteligencia artificial, cada vez más sofisticados, seguirán actuando en interés de las personas? Estas son las preguntas que centraron el encuentro celebrado el 30 de octubre en la Casina Pío IV, en el Vaticano, entre representantes de la Santa Sede y destacados investigadores internacionales dedicados al estudio de las nuevas tecnologías.
El encuentro, titulado The Future of AI: A Dialogue Between the Vatican and the Scientific World (El futuro de la IA: un diálogo entre el Vaticano y el mundo científico), fue promovido por la Pontificia Academia para la Vida y el Future of Life Institute, una organización independiente que estudia los riesgos de las tecnologías avanzadas. Su objetivo era favorecer un intercambio directo entre la comunidad científica y la Comisión Interdicasterial sobre Inteligencia Artificial, presidida por el cardenal Michael Czerny, acerca de las consecuencias antropológicas, éticas y sociales de una innovación cada vez más acelerada. Un grupo de participantes en el encuentro The Future of AI fue recibido en audiencia por el Papa durante la mañana.
El diálogo se inscribe, en efecto, en la línea de la encíclica Magnifica humanitas, publicada por León XIV el pasado 15 de mayo, sobre la protección de la persona humana en la era de la inteligencia artificial. El Pontífice invita a no considerar el progreso tecnológico como un fin en sí mismo, sino a salvaguardar la primacía de la conciencia y de la libertad.
De la reflexión ética a las decisiones concretas
Los encargados de abrir los trabajos fueron la hermana Helen Alford, presidenta de la Pontificia Academia de Ciencias Sociales, y el cardenal Czerny. Alford advirtió sobre la concentración del poder tecnológico y económico en manos de unos pocos: "La justicia social no es solamente un objetivo que deba garantizarse después de la introducción de las tecnologías, sino una condición que debe orientar su diseño desde el principio".
Czerny recordó que la Comisión no puede desempeñar su tarea sin dialogar con quienes desarrollan la inteligencia artificial y con las comunidades eclesiales que ya están experimentando sus transformaciones. "Tenemos un especial interés en pasar de las palabras y las ideas a posibles políticas y acciones concretas", explicó. "¿Quién debería hacer qué? ¿Cómo podemos ejercer una función de orientación?". Al referirse a Magnifica humanitas, reiteró que "la Iglesia no teme el diálogo con el saber humano".
En su introducción al debate, el arzobispo Renzo Pegoraro, presidente de la Pontificia Academia para la Vida, afirmó que el desafío consiste en "preservar una responsabilidad humana claramente identificable" y traducir los principios éticos en instrumentos de evaluación y gobernanza. Como señaló, las cuestiones afectan al trabajo, la libertad, las desigualdades y la relación entre innovación y dignidad: no se trata solamente de hasta dónde podrá llegar la inteligencia artificial, sino de si seremos capaces de orientarla al bien común.
Entre los participantes en el encuentro se encontraban Max Tegmark, físico del Instituto Tecnológico de Massachusetts (MIT) y presidente del Future of Life Institute; Stuart Russell, profesor de la Universidad de California en Berkeley; Gary Marcus, científico cognitivo de la Universidad de Nueva York; y Valérie Pisano, presidenta y directora ejecutiva de Mila, un instituto canadiense de investigación sobre inteligencia artificial fundado por Yoshua Bengio, científico pionero en este campo. La sesión de la mañana estuvo moderada por el padre Paolo Benanti, teólogo franciscano y director científico de la Fundación RenAIssance.
El riesgo de perder el control
La cuestión más controvertida se refiere a la posibilidad de que los sistemas artificiales adquieran capacidades superiores a las humanas y escapen al control de quienes los han creado. Russell denunció la trayectoria emprendida por los principales desarrolladores hacia la creación de "máquinas dotadas de capacidades superiores a las humanas" e invitó a abandonarla y a buscar alternativas que garanticen sistemas sometidos a nuestro control y orientados a los intereses de la humanidad.
Tegmark recordó las predicciones de algunos directivos de las grandes empresas tecnológicas, según las cuales "será la IA la que mande, y no los seres humanos". Ante este escenario, señaló que el "firme liderazgo moral" del Vaticano podría contribuir a orientar el desarrollo tecnológico hacia un camino "verdaderamente favorable al ser humano".
Un paso decisivo es el que lleva de los sistemas que procesan información y producen respuestas a herramientas capaces de realizar operaciones, utilizar recursos y perseguir objetivos con una intervención humana cada vez más limitada. Los expertos subrayaron el riesgo de que las capacidades de la inteligencia artificial crezcan más rápidamente que los instrumentos necesarios para comprender su funcionamiento. Por ello, se necesitan evaluaciones independientes y cooperación internacional.
"Desde hace años estamos de acuerdo en los principios", señaló Benanti. Sin embargo, la petición que ahora plantean quienes estudian y desarrollan estos sistemas es más exigente: "normas vinculantes, instituciones capaces de verificar y una persona que responda de cada decisión en la que intervenga una máquina". Se trata del paso de una ética declarada a una responsabilidad efectiva, especialmente en los ámbitos en los que los algoritmos inciden en los derechos, la seguridad e incluso en las decisiones de vida o muerte, como ocurre en el caso de las armas autónomas.
En una entrevista concedida a los medios vaticanos, Benanti advirtió de que "el riesgo no es la inteligencia artificial, sino la estupidez natural", es decir, la incapacidad humana para comprender sus límites. Asimismo, calificó de "deseable" y "urgente" una regulación internacional y alertó contra el ethical washing, es decir, el recurso a apelaciones éticas que carecen de garantías vinculantes.
Volver a situar la inteligencia humana en el centro
Pero el futuro de la inteligencia artificial no se agota en sus riesgos. En una entrevista concedida a los medios vaticanos, Valérie Pisano recordó las oportunidades que ofrecen las nuevas capacidades cognitivas, desde los descubrimientos científicos hasta la lucha contra la crisis climática. Sin embargo, afirmó que es necesario "invertir la perspectiva": en los últimos años nos hemos quedado fascinados por lo que la inteligencia artificial es capaz de hacer, prestando demasiada poca atención "a las inteligencias humanas, a las emociones humanas, a la creatividad humana" y al modo en que la tecnología puede ponerse a su servicio.
Para Pisano, la seguridad requiere dos respuestas complementarias. La primera tiene que ver con el diseño técnico de sistemas intrínsecamente más seguros; la segunda, con la sociedad: "Necesitamos directrices, necesitamos leyes, necesitamos tratados internacionales, necesitamos políticas públicas". Desde esta perspectiva, el diálogo con el Vaticano es importante porque amplía el debate más allá de los desarrolladores y los gobiernos, e incorpora a quienes reflexionan sobre la experiencia humana y las generaciones futuras.
En su intervención, Pisano subrayó que la inteligencia artificial puede procesar el lenguaje, predecir escenarios y afrontar desafíos complejos, "pero lo que no puede hacer, y nunca hará, es estar viva". Le falta lo que ella define como "inteligencia viviente", moldeada por el deseo, la duda, la alegría y las relaciones: un patrimonio que no puede programarse, sino únicamente cultivarse a través de la experiencia y del encuentro auténtico con los demás.
También el trabajo, la escuela, las relaciones y la distribución del poder económico formaron parte del debate. El aumento de la productividad debe ir acompañado de la posibilidad de poner en valor las capacidades de las personas, el tiempo dedicado al cuidado, la creatividad y la participación. Sigue abierta, asimismo, la distinción entre persona y máquina: simular una conversación o una emoción no significa necesariamente poseer conciencia o responsabilidad moral.
Una responsabilidad compartida
El encuentro de la Casina Pío IV da continuidad al compromiso de la Santa Sede con el análisis de las implicaciones de la inteligencia artificial, ya expresado en la Rome Call for AI Ethics, un llamamiento internacional para el desarrollo y el uso ético de la inteligencia artificial, promovido por la Pontificia Academia para la Vida y firmado por primera vez en Roma el 28 de febrero de 2020.
El encuentro no eliminó las diferencias de valoración entre los investigadores, pero permitió identificar un terreno común: la urgencia de traducir los principios en garantías verificables, responsabilidades jurídicas y decisiones compartidas. Lo que está en juego no es detener la innovación, sino conseguir que, incluso ante máquinas cada vez más capaces, la libertad de decidir y la responsabilidad por las consecuencias sigan siendo humanas.
El congreso concluyó con un nuevo momento de diálogo, moderado por el sacerdote Andrea Ciucci, canciller de la Pontificia Academia para la Vida, y con la proyección de Moloch, un cortometraje escrito y dirigido por el cineasta británico Tom Cozens, producido por Owl In Space en colaboración con el Future of Life Institute.
La película narra los riesgos de una carrera por el desarrollo de la inteligencia artificial en la que la competencia económica prevalece sobre la evaluación de las consecuencias humanas. En el filme, como explica Cozens, el "villano" no es la inteligencia artificial en sí misma, sino los incentivos que empujan a las personas y a las empresas a desarrollarla y distribuirla incluso cuando son conscientes de sus peligros.
.