Breve Reseña de la Carta Enciclica "Magnifica Humanitas" del Papa Leon XIV

 Breve Reseña de la CARTA ENCÍCLICAMAGNIFICA HUMANITAS DEL SANTO PADRE

LEÓN XIV SOBRE LA CUSTODIA DE LA PERSONA HUMANA
EN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL

Permanecer Profundamente Humanos

 En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos, custodiando con amor esa magnífica humanidad que se nos ha dado y revelado en plenitud en Cristo, y que ninguna máquina podrá jamás sustituir en su esplendor. El verdadero progreso nace siempre de un corazón abierto al otro, de una inteligencia dispuesta a escuchar, de una voluntad que busca lo que une más que lo que separa.( Numeral 15).

El uso de la Inteligencia Artificial

Ampliando la mirada al uso de la IA en nuestras sociedades, constatamos que ya está presente en procesos de decisión en todos los ámbitos y a diversos niveles: en la comunicación, la gestión y el control. Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental. Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía. Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común. (Numeral 101).

El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. Las decisiones delicadas que repercuten en el trabajo, el acceso a créditos y a otros servicios, y la reputación de las personas, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo»,  pudiendo así producir nuevas formas de descarte. Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado.(Numeral 102)

Responsabilidad e Inteligencia Artificial

Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad”( accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas.(Numeral 105).

Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos. No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea. De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo.( Numeral 106)

Desarmar la Inteligencia Artificial

Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.(Numeral 110).

Verdad y Democracia

El uso de las plataformas digitales y los sistemas de IA acelera los profundos cambios en la comunicación pública y política. Herramientas que podrían favorecer el debate y la participación se utilizan a menudo para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso, mezclando datos y opiniones. La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y vídeos expone a los ciudadanos a perspectivas parciales o engañosas. El problema afecta a la dimensión cultural y moral, ya que la calidad de la comunicación pública depende directamente de la confianza social y repercute en ella. Una información veraz, de hecho, no surge de un control centralizado o automatizado. En el discurso público, la verdad de los hechos tiene una dimensión racional, ya que requiere verificación, cotejo de fuentes y responsabilidad argumentativa; pero es aún más relacional: se construye a través de vínculos de confianza y prácticas compartidas, en un diálogo honesto con los demás y con el mundo. Sólo la búsqueda compartida de la verdad de los hechos, asumida como bien común, puede sentar las bases de una comunicación justa.( Numeral 132).

La búsqueda de la verdad es un elemento esencial para la democracia, que es en sí misma un instrumento de participación en el bien común. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad. El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo, para el cual, como escribió la filósofa Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)».(Numeral 134).

Alianza Educativa para la Era Digital

Los procesos educativos, en cambio, requieren tiempo para madurar, una confrontación con la realidad más allá de las apariencias y un camino paciente. La cuestión es fundamental, porque toda tecnología educa a quien la utiliza. Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla. La rapidez y la facilidad con las que se obtiene una respuesta o una síntesis hacen correr el riesgo de que se apague el deseo de plantear preguntas, que sólo da fruto con el tiempo. Como escribe Platón, las cosas más profundas e importantes sólo se aprenden tras mucho tiempo y mucho esfuerzo, comprometiéndose en la discusión con los demás para “frotar” los conceptos y las experiencias como si fueran pedernal, hasta que en nosotros salte la chispa de la comprensión. Debemos aprender a prescindir de la IA y proteger a nuestros jóvenes de la promesa de la máquina perfecta, de esa sutil seducción que hace parecer inútil el pensamiento humano precisamente cuando más se necesita.(Numeral 140)

En los últimos años, la literatura psicológica y psiquiátrica ha documentado con creciente insistencia cómo una exposición precoz y sin supervisión a los dispositivos digitales y a las redes sociales puede afectar negativamente al sueño, a la atención, a la regulación emocional y a las relaciones, especialmente en las edades más vulnerables, con consecuencias a veces dramáticas. A esto se suma la facilidad de acceso a escenas violentas o crueles que hieren la sensibilidad, a contenidos pornográficos e hipersexualizados, a mensajes que banalizan el cuerpo y la afectividad, y a propuestas que normalizan comportamientos de riesgo. En la red no son raros los fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y vídeos. Tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes, exponiéndolos a dinámicas de aislamiento, acoso y ciberacoso, así como a la presión para compartir imágenes íntimas o datos sensibles.(Numeral 141)

El Trabajo y la Inteligencia Artificial

Hoy en día, la combinación de la automatización, la robótica y la IA está transformando rápidamente la estructura misma del trabajo. Se dice que esto traerá grandes mejoras para todos. En realidad, los “nuevos modos” de trabajar no son necesariamente mejores, porque «mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la propia capacidad de obrar de los trabajadores y ahogar las capacidades innovadoras que están llamados a aportar en su trabajo». Precisamente para evitar esta deriva, es necesario diseñar sistemas centrados en la persona y no sólo en el rendimiento.( Numeral 150).

Diplomacia e Inteligencia Artificial

También el ciberespacio se ha convertido en terreno de enfrentamiento: los ataques informáticos, la manipulación de datos y las campañas de influencia orquestadas con la ayuda de la IA pueden desestabilizar países enteros, incluso antes de que se llegue a un enfrentamiento armado abierto. En este ámbito, además, la atribución de responsabilidades es a menudo incierta: cuando no está claro quién ha atacado, crece el riesgo de reacciones desproporcionadas, errore ¡Cuidemos las relaciones! En una época que tiende a acelerar y a fragmentar, la carne humana sigue pidiendo ser cuidada y reconocida por manos capaces de ternura, por mentes atentas y buenas palabras. La cultura digital multiplica las conexiones y ofrece nuevas posibilidades de encuentro; sin embargo, el corazón humano conserva una necesidad irrenunciable de proximidad. Invito a salvaguardar los espacios y los momentos en que la presencia física sigue siendo decisiva: la mesa compartida, la comunidad cristiana que se reúne, la visita a quien está solo, el servicio a los pobres. Son signos de una humanidad que sigue creyendo que cada cuerpo es templo del Espíritu y casa de Dios, y precisamente esta alianza entre gloria y fragilidad se convierte en criterio para evaluar los modelos antropológicos propuestos por la cultura actual.s de evaluación y espirales de escalada. Por eso hace falta una diplomacia capaz de operar también en este nuevo entorno, negociando reglas compartidas sobre el uso de las tecnologías digitales, protegiendo a los civiles y a los más vulnerables de formas de violencia invisibles, pero no por ello menos reales.(Numeral 225)

Conclusiones

 ¡Invirtamos en la educación que empieza por nosotros mismos! Todos necesitamos formarnos para vivir en el mundo digital de manera humana, como parte integrante de la educación en la fe y en la vida virtuosa del Evangelio. Debemos educarnos para considerar el mundo digital como un nuevo continente por evangelizar, que requiere misioneros generosos y maduros en la fe. De modo particular, además, se necesitan adultos que redescubran su vocación de artesanos de la educación, dispuestos a un trabajo diario, paciente y sostenido por amplias y compartidas alianzas educativas. Acompañar a los niños y jóvenes para que utilicen las tecnologías como espacio de relación responsable, ayudándoles a reconocer los riesgos y a elegir lo que hace crecer la libertad interior, representa hoy una forma concreta de caridad y de salvaguardia de su dignidad. Educar a las nuevas generaciones para que logren creer que la evolución de las tecnologías no sigue un camino inevitable, sino que puede estar orientada por la responsabilidad personal y colectiva, constituye uno de los servicios más valiosos al bien común. (Numeral 238)

 ¡Cuidemos las relaciones! En una época que tiende a acelerar y a fragmentar, la carne humana sigue pidiendo ser cuidada y reconocida por manos capaces de ternura, por mentes atentas y buenas palabras. La cultura digital multiplica las conexiones y ofrece nuevas posibilidades de encuentro; sin embargo, el corazón humano conserva una necesidad irrenunciable de proximidad. Invito a salvaguardar los espacios y los momentos en que la presencia física sigue siendo decisiva: la mesa compartida, la comunidad cristiana que se reúne, la visita a quien está solo, el servicio a los pobres. Son signos de una humanidad que sigue creyendo que cada cuerpo es templo del Espíritu y casa de Dios, y precisamente esta alianza entre gloria y fragilidad se convierte en criterio para evaluar los modelos antropológicos propuestos por la cultura actual.(Numeral 239)

 ¡Amemos la justicia y la paz! Las mismas tecnologías que facilitan la comunicación y el acceso a los recursos pueden sustentar modelos que explotan a los más vulnerables, alimentan nuevas esclavitudes y transforman el conflicto en oportunidad de lucro. Cada decisión técnica o económica se convierte en un punto de discernimiento espiritual, una ocasión para verificar si los avances de la IA abren espacios de justicia y participación o concentran la riqueza y el poder en manos de unos pocos. Invito a mirar con lucidez las redes de producción digital, las condiciones de trabajo ocultas detrás de nuestros dispositivos, los mecanismos que se aprovechan de la manipulación y la guerra y, al mismo tiempo, a buscar vías concretas para hacer crecer la equidad, la participación y el cuidado de la creación. «La esperanza que anunciamos […] viene del cielo, pero para generar aquí abajo una historia nueva»: precisamente por esto quien cree se compromete para que, en lugar de las desigualdades, haya más justicia y para que «en vez de la industria de la guerra se afirme la artesanía de la paz». (Numeral 240)