Congreso sobre “AI & Faith dialogues”

Ética, responsabilidad y dignidad en el centro del futuro digital

Las “Directrices en materia de Inteligencia Artificial” de la Gobernación se apoyan en pilares sólidos, que no son meras palabras, sino principios operativos.

Así lo subrayó Davide Giordano, de la Dirección de Telecomunicaciones y Sistemas Informáticos de la Gobernación del Estado de la Ciudad del Vaticano y miembro de la Comisión para la Inteligencia Artificial, en su intervención durante el congreso sobre el tema “AI & Faith dialogues”, organizado por el Pontificio Colegio Filipino el lunes 8 de septiembre. Giordano pronunció un discurso detallado para exponer los contenidos y las motivaciones de dichas Directrices sobre Inteligencia Artificial, hechas públicas en 2024 por la Gobernación del Estado de la Ciudad del Vaticano.

Su intervención, rica en referencias históricas, culturales y éticas, puso de relieve una visión profunda y clarividente: la Inteligencia Artificial no es solo un desafío tecnológico, sino también un cruce de caminos antropológico, social y moral.

El discurso se abrió con una reflexión histórica: cada gran revolución tecnológica —desde la imprenta hasta la máquina de vapor, desde la revolución copernicana hasta la era digital— ha transformado la sociedad, aportando progreso pero también riesgos y desigualdades. Del mismo modo, hoy la Inteligencia Artificial exige una toma de posición clara.

Las Directrices, explicó Giordano, no constituyen un gesto simbólico, sino una opción concreta y operativa, basada en principios sólidos que sitúan al ser humano en el centro de la transformación digital.

En el corazón del documento se encuentran cuatro principios fundamentales. En primer lugar, la dignidad humana: el ser humano es insustituible. Ninguna máquina puede ni debe tomar decisiones últimas en cuestiones que afectan a la vida, la salud o la libertad. El médico, el juez, el ciudadano: cada uno conserva su papel irreemplazable.

En segundo lugar, el bien común: la Inteligencia Artificial debe estar al servicio de toda la comunidad y no convertirse en un instrumento de lucro para unos pocos. El uso de los datos —definidos como “la nueva moneda”— debe orientarse al interés colectivo, no al poder ni al mercado.

El tercer principio es la transparencia: las tecnologías deben ser comprensibles, explicables y accesibles. Solo la transparencia puede generar confianza e inclusión. Finalmente, la responsabilidad: aunque se delegue en la máquina, la responsabilidad nunca puede descargarse en un algoritmo. La respuesta ha de ser siempre humana.

Las Directrices no se limitan a enunciar principios generales, sino que fijan también límites y prohibiciones precisas. La Inteligencia Artificial no puede sustituir el juicio humano: en el ámbito jurídico o sanitario, la IA puede acompañar, pero no decidir. Una sentencia o un diagnóstico requieren empatía, comprensión del contexto, capacidad de escucha: cualidades humanas que ninguna máquina posee. Existen, además, prohibiciones explícitas: está vetado utilizar la IA para discriminar, excluir o dañar. Incluso de forma involuntaria, un algoritmo puede convertirse en instrumento de exclusión, como sucede con los sistemas de reconocimiento facial o con los procesos automatizados de selección de personal basados en datos sesgados.

De particular importancia es la protección de los datos biométricos: urge salvaguardar información como huellas digitales o escaneos faciales. Se trata de “llaves únicas” e irreemplazables. Un uso indebido puede comprometer irreversiblemente la seguridad y la dignidad personal. En lo referente a la cultura y la creatividad, la Inteligencia Artificial puede contribuir a la conservación del patrimonio cultural, pero no puede sustituir la sensibilidad artística. Las obras de arte, así como los contenidos creativos, deben ser tratados con respeto. Incluso los contenidos generados artificialmente han de ser claramente identificables. En lo relativo a la justicia y a la administración, la Inteligencia Artificial puede agilizar trámites burocráticos y apoyar la actividad judicial —por ejemplo en la investigación jurisprudencial—, pero la decisión final corresponde siempre al ser humano. Ningún algoritmo debe redactar sentencias ni decidir sobre los derechos y deberes de las personas.

Para garantizar el cumplimiento de estas directrices, se ha instituido en la Gobernación una Comisión sobre Inteligencia Artificial. Se trata de un organismo operativo, encargado de supervisar el uso de las tecnologías, proponer actualizaciones normativas y evaluar riesgos y efectos de las innovaciones. Un paso concreto, que confirma la voluntad del Vaticano de pasar de la teoría a la práctica. En el mensaje de Su Santidad el Papa León XIV, leído durante el “AI Governance Day” en la cumbre AI for Good Global Summit 2025 de Ginebra, se reiteró el sentido último de esta posición: la Inteligencia Artificial debe favorecer el diálogo, la fraternidad y la justicia; no sustituir al hombre, sino ayudarle a vivir mejor su propia humanidad.

El discurso concluyó con una llamada apremiante: el verdadero progreso no consiste en correr más rápido que las máquinas, sino en custodiar lo que nos hace humanos: la dignidad, la libertad, la capacidad de amar y de servir a los demás. En un tiempo en el que muchos se preguntaban si seríamos capaces de controlar la Inteligencia Artificial, la verdadera cuestión es ahora: ¿cómo verificaremos los avances reales que estamos logrando hacia un futuro ético y humano?

Con estas Directrices, el Estado de la Ciudad del Vaticano se presenta como voz moral y cultural en un debate cada vez más urgente. No para frenar la innovación, sino para orientarla. Porque la tecnología, incluso la más avanzada, sigue siendo un instrumento. Y como todo instrumento, debe usarse con responsabilidad, visión y respeto a la persona.

En un tiempo en que la Inteligencia Artificial parece prometer soluciones para todo, la contribución de la Iglesia recuerda a todos, creyentes o no, que el verdadero desafío no consiste en construir máquinas perfectas, sino en seguir siendo humanos.