El papa León hizo pública Magnifica humanitas, su primera encíclica, en la que se ocupa de las “cosas nuevas” de estos tiempos: especialmente de la IA. Una mirada profunda —valiosa para creyentes y no creyentes— sobre la tecnología que está cambiando nuestras vidas.
Los avances tecnológicos nunca fueron indiferentes para la Iglesia Católica. La imprenta generó primero entusiasmo, después cautela y más tarde —con Lutero y su Reforma—, recelo. Al final se impuso sin más resistencia. Siglos más tarde, la radio fue vista desde el principio como instrumento de evangelización. La tele, por su lado, suscitó sospechas en sus comienzos, pero pronto se convirtió en una herramienta eficaz para llegar a millones de hogares. Después de alguna desconfianza inicial, Internet mutó en un “nuevo continente digital” y una oportunidad histórica para difundir valores, aunque siempre hubo advertencias sobre los riesgos morales que podía traer consigo. Ahora le llegó el turno a la IA.
Acaba de publicarse Magnifica Humanitas , la primera encíclica de León XIV, sobre “la custodia de la persona humana en el tiempo de la inteligencia artificial”. Una invitación a construir la nueva Jerusalén, donde Dios y la humanidad habiten en armonía, por oposición a una nueva Torre de Babel que anula las diferencias y donde el género humano “pierde su rostro”. Metáforas poderosas y una denuncia explícita a algunos de los males que nos acercan a Babel: la concentración de poder, la manipulación de la verdad, la destrucción de empleos, las nuevas formas de esclavitud, la deshumanización de los conflictos con la IA tomando decisiones sobre la vida de las personas en contextos de guerra y un largo etcétera de pestes.
Pero el papa León no solo señala los males de estos tiempos. Ofrece también una propuesta ética, jurídica y política para superarlos. Acá, un posible resumen, inevitablemente incompleto:
- Accountability. Responsabilidades claras en todas las etapas del proceso: se debe garantizar la posibilidad de identificar a quienes deben rendir cuentas por las decisiones de la IA para poder cuestionarlas y, si es necesario, remediar los daños que provoquen.
- Responsabilidad jurídica y política. No basta con invocar una ética genérica. Hacen falta marcos jurídicos adecuados, vigilancia independiente y educación para los usuarios. León propone que la política ralentice los procesos cuando sea necesario y evite que las reglas sean dictadas sólo por quienes tienen los datos y las infraestructuras.
- Debate público sobre la ética. El código ético que guía a los sistemas de IA debe poder discutirse abiertamente —piensa el Papa— y someterse a criterios compartidos de justicia social. De otro modo, se corre el riesgo de que quienes controlan la tecnología impongan a toda la sociedad su perspectiva moral particular.
- Participación ciudadana y subsidiariedad. El uso de la IA debe estar sujeto a controles efectivos inspirados en la subsidiariedad: todo lo que puedan hacer las personas, las familias, las comunidades locales y los organismos intermedios no debe ser absorbido por instancias o poderes superiores. En ese sentido, los ciudadanos deben tener voz en el discernimiento y la vigilancia, en lugar de ser simples receptores pasivos de decisiones tomadas por otros.
- Datos: bienes comunes. La información y los datos, que son el resultado del aporte de muchas personas, no pueden dejarse exclusivamente en manos del sector privado. La Iglesia propone que la propiedad de los datos se reglamente y se gestione bajo una lógica colectiva, entendiéndolos como bienes comunes.
- “Desarmar” la inteligencia artificial: La vida humana es demasiado importante para estar en manos de la IA. La Iglesia Católica propone prohibir que los sistemas automatizados tomen decisiones sobre empleo de fuerzas letales, manteniéndolas siempre bajo el control humano efectivo, consciente y responsable.
El Papa explicó, al asumir su cargo, por qué elegía llamarse León: en homenaje a León XIII, a quien le tocó vivir profundas transformaciones tecnológicas, económicas y sociales y que, en 1891, propuso una mirada profunda e innovadora en su encíclica Rerum novarum (“las cosas nuevas”). El cardenal Prevost, sin alardes, parece consciente del rol histórico que le tocó: ser Pastor de 1.400 millones de católicos en tiempos de la IA, que no es un mero avance tecnológico. Es, probablemente, el hito que nos saca de la Era Contemporánea y nos pone de golpe en la siguiente, como fuera que vaya a llamarse.
Que Dios nos ayude.