En su reciente documento Antiqua et Nova sobre la relación entre la inteligencia artificial y la inteligencia humana (2025), la Congregación para la Doctrina de la Fe señala que “tanto los fines como los medios utilizados en una determinada aplicación de la IA, así como la visión global que encarna, deben evaluarse para garantizar que respetan la dignidad humana y promueven el bien común” (Antiqua et Nova, 42). Dignidad humana y bien común son los dos grandes principios éticos bajo los cuales evaluar las aplicaciones de la denominada “inteligencia artificial”. Aquí propongo algunas reflexiones sobre estos dos principios
En general, existe amplio acuerdo hoy en reconocer la centralidad de la dignidad humana como eje de reflexión en torno a la inteligencia artificial. En el Reglamento Europeo sobre Inteligencia Artificial, la dignidad es mencionada seis veces, siempre como uno de los principios fundamentales en la materia.
Ahora bien, si existe acuerdo sobre la importancia de la dignidad, existe un importante desacuerdo sobre lo que esa dignidad implica en concreto. Se verifican dos visiones contrapuestas. Por un lado, una visión que asimila dignidad con autonomía y que, por tanto, tiende a convertir al consentimiento de la persona en el criterio ético decisivo. Por otro, la visión de la dignidad como excelencia en el ser, como una verdad ontológica que exige el respeto de la persona en cuanto tal. Esta visión, por cierto, no niega la importancia del consentimiento, pero enfatiza que en muchas ocasiones el consentimiento es necesario, pero no suficiente. Además, la autonomía como tal no puede considerarse como un criterio ético suficiente, máxime cuando es entendida como poder de auto-legislación, en tanto carece de fundamentos fuertes y objetivos, como bien ha demostrado Massini-Correas.
En estos momentos en que la analogía entre la revolución de la IA y la revolución industrial está muy presente en la opinión pública por la elección del Papa León XIV, es oportuno recordar que las leyes laborales que defendieron los derechos de los trabajadores en razón de su dignidad suponen la superación del intento de legitimar una práctica por el hecho de que ella fuera “consentida”. De hecho, los trabajadores que pasaban largas horas antes de la limitación de la jornada de trabajo estaban consintiendo tales relaciones laborales, aun cuando la situación clamaba al cielo por la explotación objetiva.
Llevando este debate a uno de los tantos ejemplos de IA, podemos considerar el tema del acceso a los datos personales. Los datos son el insumo fundamental de los sistemas algorítmicos y se asiste a una competencia despiadada y voraz por la captación de todo tipo de datos, en todas partes, todo el tiempo. En tal contexto, cuando se trata de datos sobre una persona, la exigencia de contar con su consentimiento para obtener, procesar, almacenar, transferir y usar de cualquier forma esos datos se convierte en una exigencia ética ineludible. Pero, para algunos, una vez que se obtiene el consentimiento, todo es lícito. Ello plantea algunos problemas vinculados con el consentimiento en sí (si fue esclarecido, informado, si fue expreso o tácito, si fue restrictivo o amplio, si fue presunto, etc.).
Pero, además, en algunas ocasiones, el consentimiento es necesario pero insuficiente. Esto se advierte con claridad en los debates sobre los datos personales de salud, donde el consentimiento tiene que ir acompañado de otras condiciones vinculadas con la dignidad ontológica de la persona, como la necesidad de un contexto médico para el procesamiento de datos, la proporcionalidad de los datos en relación con la salud de la persona, el principio de no-discriminación, los criterios éticos de utilización de los datos y de la comunicación de los resultados, etc.
Junto con estas consideraciones de fondo sobre la noción misma de dignidad y sus alcances, quisiera señalar brevemente cuatro proyecciones éticas del principio de respeto a la dignidad de la persona humana, que se pueden extraer del documento de la Santa Sede:
- La primera proyección es el rechazo a antropomorfizar la IA (ver Antiqua et Nova, nros. 59-63). En este aspecto, se pueden visualizar dos dimensiones de la cuestión. En algunos casos, la discusión se da a partir de los “robots” que vendrían a cumplir funciones de asistencia y compañía, donde la antropomorfización se verifica a partir de discusiones sobre los “sentimientos” de la IA y sus semejanzas y diferencias con la persona humana. Este tipo de planteos, que vienen dados sobre todo en películas y series audiovisuales, claramente deben ser rechazados por el empobrecimiento relacional y humano que significan. Ciertamente la IA está llamada a enriquecer las experiencias personales y sociales, pero nunca puede ocupar el lugar de la persona humana. La otra dimensión del asunto se presenta en los casos en que los sistemas de IA despliegan actividad patrimonial relevante con cierto grado de autonomía y se deben determinar los alcances de la responsabilidad contractual y extracontractual, al modo como ocurre con las personas jurídicas. Aquí el debate se ubica en el plano de las herramientas técnico-jurídicas requeridas para garantizar justicia en las relaciones patrimoniales. Pero igualmente, debe evitarse todo tipo de antropomorfización.
- b) Una segunda proyección refiere al problema de la vigilancia. Es un tema sobre el que el documento “Antiqua et Nova” sorprende, al reconocer la importancia de la privacidad: “Aunque puedan existir formas legítimas y correctas de utilizar la IA en conformidad con la dignidad humana y el bien común, no es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos. El riesgo de un exceso de vigilancia debe ser supervisado por organismos de control adecuados, con el fin de garantizar la transparencia y la responsabilidad pública. Los responsables de dicha vigilancia nunca deberían exceder su autoridad, que siempre debe estar a favor de la dignidad y la libertad de cada persona como base esencial de una sociedad justa y a medida del hombre” (Antiqua et Nova, 93).
- La tercera proyección refiere a los sistemas de scoring de las personas o crédito social. También sobre estos sistemas se pronuncia con claridad el documento “Antiqua et Nova”: “De hecho, «el respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos». Esto se aplica especialmente a los usos de la IA relacionados con la evaluación de individuos o grupos sobre la base de su comportamiento, características o historial, una práctica conocida como “crédito social” (social scoring): «En los procesos de toma de decisiones sociales y económicas, debemos ser cautos a la hora de confiar juicios a algoritmos que procesan datos recogidos, a menudo subrepticiamente, sobre las personas y sus características y comportamientos pasados. Esos datos pueden estar contaminados por prejuicios sociales e ideas preconcebidas. Sobre todo, porque el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad. No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo»” (Antiqua et Nova, 94).
- Finalmente, en tiempos en que todo se convierte en dato y el paradigma tecnocrático tiende a considerar todas las cosas, incluyendo a la misma persona humana, como material disponible para fines de maximización de las utilidades (como denunciaba el Papa Francisco en Laudato Si’), es importante resaltar la dignidad del cuerpo. En efecto, la persona humana es una unidad de cuerpo y alma y considerar su dignidad supone reconocer que tanto cuerpo y alma participan de esa dignidad. De allí se siguen exigencias de justicia en el respeto al cuerpo y a la forma de transmisión de la vida que son decisivas en tiempos de IA aplicada al cuerpo humano.
Por supuesto, esta enunciación de algunas proyecciones de la dignidad humana en relación a la IA es meramente ejemplificativa y no pretende agotar todas las exigencias de justicia que surgen del principio de respeto a la dignidad de la persona.