Los principios de las Directrices sobre Inteligencia Artificial

Dignidad humana, ética, seguridad y transparencia

Respeto a la dignidad humana, a la seguridad, a la transparencia y a la ética. Estos son los principios que han inspirado la redacción de las Directrices sobre Inteligencia Artificial. A quince días de su entrada en vigor, con el Decreto n.º DCCII de la Pontificia Comisión para el Estado de la Ciudad del Vaticano, y en espera de las leyes y reglamentos de aplicación para su implementación, es oportuno revisar los puntos fundamentales.

Estas Directrices fijan principios y normas para un uso ético, responsable y controlado de la Inteligencia Artificial (IA) en el Estado de la Ciudad del Vaticano. Su propósito principal es garantizar que la investigación, el desarrollo y la aplicación de la Inteligencia Artificial estén orientados al bien común, poniendo a las personas en el centro de cada uno de sus usos.

Las Directrices abordan algunos aspectos de gran actualidad. Entre estos, la ética y la transparencia. Esto implica no solo la protección de la dignidad humana, sino también la adopción de sistemas que sean fácilmente accesibles y controlables por los usuarios. En este contexto, la transparencia es absolutamente fundamental para fomentar la confianza en el uso de la Inteligencia Artificial y para asegurar que las decisiones tomadas por los sistemas automatizados sean claras y estén en línea con los principios éticos.

Otro aspecto del que se ocupa el documento es la dimensión antropocéntrica y la fiabilidad. La Inteligencia Artificial nunca podrá sustituir al ser humano y debe respetar su autonomía. En efecto, debe estar al servicio de la persona y no dominarla, de manera que las decisiones finales correspondan siempre al ser humano.

Un aspecto muy importante es la seguridad y la protección de los datos. Las Directrices subrayan la necesidad de garantizar la seguridad y la confidencialidad de los datos, en particular los biométricos. En este sentido, la adopción de la Inteligencia Artificial debe llevarse a cabo siempre bajo criterios de protección para evitar un uso indebido de los datos.

Existe, además, la necesidad de evitar la discriminación y garantizar la sostenibilidad. La no discriminación tiene como objetivo evitar prejuicios contra las personas. Además, la sostenibilidad económica y ambiental es una inversión necesaria para adoptar tecnologías inteligentes que tengan impactos positivos a largo plazo.

Otro aspecto a considerar es la vigilancia y el control. En este ámbito, se requiere un monitoreo continuo de los procesos de gestión y tratamiento de datos. El objetivo es asegurar que los resultados obtenidos sean correctos y apropiados, en línea con los principios de transparencia y proporcionalidad.

Respecto a la compatibilidad con la misión de la Iglesia y de la Gobernación, es interesante notar cómo las Directrices imponen que el uso de la Inteligencia Artificial no debe perjudicar la misión pastoral del Papa, ni comprometer a la Iglesia, ni entrar en conflicto con las actividades institucionales de la Gobernación.

Por esta razón, se requiere una atención particular en el uso de las tecnologías en un contexto que tiene exigencias éticas y morales específicas.

Las Directrices también prevén algunas prohibiciones en la aplicación de la Inteligencia Artificial.

En primer lugar, en lo que respecta a la discriminación y al daño psicológico. Está absolutamente prohibido utilizarla para llevar a cabo actos discriminatorios, como afirmaciones que puedan vulnerar los derechos humanos o causar daños psicológicos o físicos. Otro punto importante concierne el acceso de la Inteligencia Artificial a las personas con discapacidad. Queda taxativamente prohibido su uso si impide el acceso a esta categoría de personas.

Además, un factor fundamental es que el uso de la Inteligencia Artificial debe respetar la seguridad del Estado, el orden público y no puede estar en contraste con la misión de la Iglesia Católica.

Las Directrices ofrecen también un capítulo dedicado a los Principios generales por materia.

Empezando por la información y el tratamiento de datos. En este sentido, se subraya el uso ético y transparente de los datos, incluida la protección de los datos personales. Se deben respetar las normativas sobre privacidad, sin causar discriminaciones ni afectar la dignidad humana. Además, el lenguaje debe ser claro y comprensible para los usuarios, garantizando el derecho a oponerse a tratamientos incorrectos de los datos.

En el ámbito de la investigación científica y de la sanidad, la Inteligencia Artificial debe ser utilizada para mejorar la atención a la salud y la protección sanitaria, pero sin condicionar la libertad de decisión de los médicos.

Otro punto a tener en consideración es la prohibición de violar los derechos de autor en las obras creativas y artísticas. Las Directrices subrayan que los contenidos generados mediante Inteligencia Artificial deben ser reconocibles y que la Gobernación debe poseer los derechos económicos y de autoría sobre dichos contenidos creados en su territorio.

Otro ámbito es el de los bienes culturales. La introducción de la Inteligencia Artificial en la gestión del patrimonio cultural debe respetar la integridad de los bienes y las normativas internacionales sobre restauración y conservación.

Respecto al ámbito de infraestructuras y servicios, la Inteligencia Artificial puede ser utilizada para mejorar la sostenibilidad económica y ambiental, pero nunca debe comprometer la seguridad ni limitar las decisiones de los expertos.

En los procedimientos administrativos, puede ser utilizada para simplificarlos y mejorar su eficiencia, pero la elección decisional sigue siendo siempre humana. También está previsto un monitoreo del impacto de las regulaciones relacionadas con su uso.

En el sector laboral, la Inteligencia Artificial puede ser empleada para mejorar la formación del personal y la seguridad en los lugares de trabajo. Además, debe caracterizarse por la transparencia en la selección del personal, evitando discriminaciones y respetando la dignidad humana.

En el ámbito de la actividad judicial, la Inteligencia Artificial puede ser utilizada solo para la organización y la simplificación del trabajo judicial y para la investigación jurisprudencial. En efecto, nunca podrá tener un papel en las decisiones finales ni podrá sustituir al magistrado en su juicio.

En el ámbito de la seguridad, se establece que el uso de la Inteligencia Artificial será regulado por un reglamento de aplicación específico. Esto implica que habrá una normativa específica para disciplinar su uso en el ámbito de la protección y la seguridad.

A este respecto, las Directrices prevén la constitución de una Comisión sobre Inteligencia Artificial, que es nombrada por el Presidente de la Gobernación y está compuesta por cinco miembros, entre ellos funcionarios de la Oficina Jurídica, de Telecomunicaciones y Sistemas Informáticos, y de los Servicios de Seguridad y Protección Civil.

Las principales tareas de la Comisión incluyen la redacción de leyes y reglamentos de aplicación para el uso de la Inteligencia Artificial; la evaluación de las propuestas de experimentación y aplicación de los sistemas en el territorio vaticano; y la identificación de los potenciales riesgos para la Gobernación. También se requiere la redacción de un informe semestral sobre el impacto del uso de la Inteligencia Artificial en el Estado de la Ciudad del Vaticano.

La duración del mandato para los miembros de la Comisión es de tres años, con posibilidad de renovación o sustitución por parte del Presidente de la Gobernación.

Las nuevas disposiciones establecen claramente que la Inteligencia Artificial en el Vaticano debe ser utilizada con mucha cautela y de manera limitada a determinados sectores, como la organización del trabajo judicial y la investigación, pero nunca para sustituir decisiones humanas.

Es fundamental para las Directrices que la Inteligencia Artificial sea una ayuda para las decisiones humanas y no un sustituto, en línea con la misión institucional del Estado de la Ciudad del Vaticano.