El Papa León XIV ha publicado su primera Encíclica. Lleva por título “Magnifica Humanitas” y en ella plantea los lineamientos que deben respetarse para el uso de la Inteligencia Artificial (IA) así como las problemáticas propias del campo digital, incluidas la sredes sociales. La desinformación , la comunicación y su impacto en el sistema democrático y en la convivencia propia de una sociedad humanista se encuentran en el centro del documento papal. En la presentación estuvo acompañado por Christopher Olah, uno de los fundadores de Anthropic. Algunos párrafos destacables son los siguientes.

El Espíritu Santo hoy nos interpela acerca de nuestra relación con la tecnología y con la revolución digital en curso. Los descubrimientos científicos son un talento entregado a la humanidad para que lo haga fructificar (cf. Mt 25,14-30). La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias. En abstracto, esta, en sí misma, no es una solución a los problemas de la humanidad, como tampoco es un mal en sí; pero, concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza. Por eso, la primera elección no es entre un “sí” o un “no” a la tecnología, sino entre construir Babel o reconstruir Jerusalén: entre un poder que pretende dominar el cielo y un pueblo que, en presencia de Dios, se pone a trabajar unido para levantar de nuevo las murallas de la convivencia fraterna.

Evitemos, por tanto, el “síndrome de Babel”: la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos. Este es el riesgo de la deshumanización —construir el futuro excluyendo a Dios y reduciendo al otro a un medio—, una tentación antigua y siempre nueva, que hoy también toma un rostro técnico. Elijamos, en cambio, el “camino de Nehemías”, que pone de relieve el valor del trabajo compartido para hacer que la ciudad de Dios sea un lugar seguro para los exiliados que regresaron. Hoy, reconstruir significa reconocer que, en la pluralidad de voces y visiones que a veces recuerda la dispersión de las lenguas, existe, sin embargo, una posibilidad luminosa: la de edificar juntos, transformando la diversidad en un recurso y haciendo de la escucha y del diálogo el terreno común en el cual hacer crecer la justicia y la fraternidad.

Escuchar los “diferentes lenguajes” no es una mera atención sociológica, sino que implica un discernimiento espiritual en el que, con la ayuda del Espíritu, el Pueblo de Dios reconoce en las transformaciones culturales y sociales tanto los signos de la presencia de Cristo, que viene y guía la historia hacia su plenitud, como aquellas desviaciones que oscurecen su rostro. Así, la Verdad revelada no se modifica en su núcleo esencial, sino que se explicita y se asume como criterio vivo para orientar elecciones concretas, inspirar caminos de conversión personal y comunitaria, promover reformas de las estructuras y apoyar nuevas formas de testimonio evangélico en la vida pública. La historia es, por tanto, uno de los lugares en los que la Iglesia se deja instruir por el Espíritu sobre el alcance humanizador del Evangelio y aprende a adaptar su enseñanza al servicio de la dignidad de cada persona y del bien de los pueblos.

La Doctrina social de la Iglesia se muestra en su faceta más auténtica: no es un manual de principios y normas que hay que aplicar, sino un camino de discernimiento comunitario. Nace del encuentro entre la verdad eterna del Evangelio y las preguntas de la historia, se deja interpelar por los signos de los tiempos; se nutre de la contribución de las ciencias, las culturas y las experiencias humanas. Por eso, cuando la dignidad de los hermanos se ve desfigurada, cuando la política no responde a los dramas de la humanidad, cuando la economía se vuelve contra la persona o la ciencia traspasa los límites de su método, [22] la Iglesia —junto con las demás confesiones cristianas y los creyentes de otras religiones— debe hacer oír su voz no para dominar, sino para servir a la comunión. 

El peligro de que la humanidad sea víctima de sus propias conquistas había sido ya percibido con lucidez por san Pablo VI, cuando advertía que «los progresos científicos más extraordinarios, las proezas técnicas más sorprendentes, el crecimiento económico más prodigioso, si no van acompañados de un auténtico progreso social y moral, se vuelven, en definitiva, contra el hombre». [121] Por eso el progreso técnico, valioso en sí mismo, requiere un discernimiento sobre la visión antropológica que lo guía y los fines que persigue. Si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad: se “tiene más”, pero no se “es más”, y la persona corre el riesgo de ser valorada principalmente en base al rendimiento que ofrece.

No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias. 

Ampliando la mirada al uso de la IA en nuestras sociedades, constatamos que ya está presente en procesos de decisión en todos los ámbitos y a diversos niveles: en la comunicación, la gestión y el control. Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental. Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. Con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía. Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común. 

El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad. 

Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas. Lo que disminuye, en este proceso, no es sólo la empatía hacia el excluido, que puede ser imitada artificialmente, sino la responsabilidad política, porque el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte.

Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad”( accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas.

Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. 

Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. 

Absolutizar una sola dimensión del ser humano es siempre erróneo. En efecto, no es sólo la carencia lo que genera desorden. También aquello que crece sin medida puede convertirse en una forma de pobreza. En un ecosistema, la armonía se rompe cuando una sola especie prolifera en detrimento de las demás; en lo humano, ocurre lo mismo cuando una facultad pretende ser la medida de todo. Así, la inteligencia, si se absolutiza, termina por velar otras dimensiones esenciales de la vida: el afecto, la voluntad, la entrega y la relación. El poder técnico, si no se equilibra, no nos hace más capaces; nos aísla, y nos expone aún más a lógicas de dominio y de exclusión. 

La calidad de una civilización se mide no por el poder de sus medios, sino por el cuidado que sabe ofrecer, por la capacidad de reconocer un rostro en el otro y no una función. La capacidad de saber cuidarnos los unos a los otros es una dimensión importante de nuestro ser humano. Esta capacidad se aprende y se perfecciona con la experiencia. 

El uso de las plataformas digitales y los sistemas de IA acelera los profundos cambios en la comunicación pública y política. Herramientas que podrían favorecer el debate y la participación se utilizan a menudo para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso, mezclando datos y opiniones. La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y vídeos expone a los ciudadanos a perspectivas parciales o engañosas. El problema afecta a la dimensión cultural y moral, ya que la calidad de la comunicación pública depende directamente de la confianza social y repercute en ella. Una información veraz, de hecho, no surge de un control centralizado o automatizado. En el discurso público, la verdad de los hechos tiene una dimensión racional, ya que requiere verificación, cotejo de fuentes y responsabilidad argumentativa; pero es aún más relacional: se construye a través de vínculos de confianza y prácticas compartidas, en un diálogo honesto con los demás y con el mundo. Sólo la búsqueda compartida de la verdad de los hechos, asumida como bien común, puede sentar las bases de una comunicación justa.

La búsqueda de la verdad es un elemento esencial para la democracia, que es en sí misma un instrumento de participación en el bien común. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita. Esta, en efecto, no se sustenta únicamente en normas y procedimientos, sino, ante todo, en una relación leal con los hechos y en una orientación real hacia el bien de las personas y del conjunto de la sociedad. El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo, para el cual, como escribió la filósofa Hannah Arendt, los súbditos ideales no son tanto aquellos ideológicamente convencidos, sino «las personas para quienes ya no existe la distinción entre el hecho y la ficción (es decir, la realidad de la experiencia) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)»

En este horizonte es importante recordar que la comunicación «no es sólo transmisión de informaciones, sino creación de una cultura». [144] Los contenidos que circulan en los entornos digitales influyen en la forma en que las personas perciben el mundo e introducen en la conciencia colectiva imágenes y relatos que orientan los deseos e influyen en las decisiones cotidianas. «No es un mundo paralelo o puramente virtual», [145] porque lo que surge en internet pasa a formar parte de la vida de las personas, sobre todo de los más jóvenes.

Por eso, quienes controlan las plataformas digitales y los medios de comunicación tienen una notable capacidad para influir en el imaginario colectivo y presentar como deseable una determinada visión de la realidad. Es un poder que debe ser continuamente iluminado por la búsqueda de la verdad y el respeto de la dignidad humana, para que la cultura que se genera en la red no se convierta en instrumento de distracción excesiva, de homogeneización y de dominio, sino en un espacio en el que puedan madurar la libertad interior y el pensamiento crítico.

Es necesario promover una ecología de la comunicación: en el ámbito de las normas públicas, esto significa establecer reglas que hagan más transparentes los criterios con los que se seleccionan y amplifican los contenidos y que protejan los datos personales; en el ámbito social y cultural, en cambio, implica el fortalecimiento de los organismos intermedios, un periodismo serio y espacios de debate en los que primen la argumentación y la verificación por encima de la reacción inmediata; en el ámbito de la escuela y la familia, la creciente necesidad de una nueva conciencia educativa y la formación en el uso correcto y crítico de las herramientas digitales, la IA y las plataformas de compra e inversión; en el ámbito de la universidad, el gran reto de la integración de los conocimientos, formando tanto en la capacidad de conectar y fusionar saberes para interpretar la complejidad, como en las técnicas de verificación de los hechos.

En una época en la que la verdad suele verse supeditada a intereses y estrategias comunicativas, el mundo de la educación adquiere una importancia decisiva. Sin embargo, las rápidas transformaciones tecnológicas ponen de manifiesto lo poco preparados que estamos en el ámbito educativo. La omnipresencia de los medios digitales genera una cultura de la inmediatez y la sobreestimulación, que alimenta el cansancio, el aburrimiento y la apatía ante el esfuerzo que supone buscar la verdad.

Hoy en día, la combinación de la automatización, la robótica y la IA está transformando rápidamente la estructura misma del trabajo. Se dice que esto traerá grandes mejoras para todos. En realidad, los “nuevos modos” de trabajar no son necesariamente mejores, porque «mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. 

Los modelos económicos que resaltan la eficiencia y el éxito individual tienden a considerar inútil o poco rentable invertir en las personas que parten de situaciones de desventaja o que siguen trayectorias de crecimiento más lentas, como si su destino dependiera exclusivamente de su capacidad para seguir el ritmo de los ganadores. En realidad, una sociedad justa requiere un Estado presente e instituciones civiles capaces de superar la mera lógica de la eficiencia, orientando explícitamente los recursos, la creatividad y las normas a favor de los más vulnerables. 

Más aún, en la era de la IA y de la robótica, ya no es posible confiar únicamente en la “mano invisible” del mercado: [164] la política tiene la tarea de orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación. Dado que muchas decisiones económicas traspasan las fronteras de los estados, también es necesaria una cooperación internacional capaz de definir estrategias comunes, sobre todo en favor de los países y los grupos más vulnerables, para promover el desarrollo y superar el asistencialismo. 

La raíz de estos problemas es una mentalidad tecnocrática y posthumanista, que tiende a considerar a la persona como un objeto manipulable o un recurso para optimizar, [172]eliminando todo lo que pone límites a la maximización del beneficio: lo que importa es la eficiencia, no el respeto a la libertad y a la dignidad humana. Algunas corrientes posthumanistas llegan incluso a plantear la existencia de seres humanos “de segunda clase”, al servicio de los intereses de élites que se perciben a sí mismas como superiores: una perspectiva inquietante, más grave aún si se combina con instrumentos tecnológicos que amplían de forma exponencial el poder de control y de selección. También ciertas lógicas de endeudamiento estructural, que mantienen a pueblos enteros en condiciones de dependencia, revelan la misma mentalidad que acepta, bajo nuevas formas, relaciones de subordinación cercanas a la esclavitud.

El colonialismo muestra en la actualidad un rostro inédito. No sólo domina los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable. Territorios enteros, sobre todo aquellos con menos relevancia geopolítica y mayor fragilidad estructural, se ven, en el presente, atravesados por una nueva lógica de extracción: la de los flujos sanitarios, perfiles epidemiológicos, mapas genéticos y datos demográficos. Estas son las nuevas “tierras raras” del poder: informaciones vitales que, una vez correlacionadas, pueden utilizarse para entrenar modelos predictivos, orientar estrategias de inversión, anticipar crisis y, sobre todo, seleccionar quién y qué importa. Quien posee los datos sanitarios de poblaciones enteras, hoy recopilados a menudo bajo el pretexto de la ayuda, la investigación o la innovación, posee en realidad una palanca estructural sobre el futuro: puede moldear las necesidades y los mercados. Y puede decidir, antes que los demás, a quién destinar medicamentos, inversiones y protecciones. 

La revolución digital está modificando la gramática de los conflictos. A la guerra visible se suman formas híbridas: ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas. La IA entra en estos procesos como factor de aceleración, en un contexto en el que muchas tecnologías son intrínsecamente ambivalentes: lo que nace para proteger puede convertirse rápidamente en ataque, y la frontera entre protección y agresión tiende a difuminarse. La IA puede potenciar la defensa y la protección de los civiles, pero también puede bajar el umbral del uso de la fuerza, hacer opacas las responsabilidades y alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un “daño colateral”. Ante estas transformaciones, debemos recurrir a los principios de la Doctrina social —dignidad de la persona, bien común, destino universal de los bienes, subsidiariedad, solidaridad y justicia— como criterios para juzgar si las tecnologías sirven realmente a la humanidad o terminan por someterla, y considerarlas como orientaciones para nuestras decisiones.

Se está consolidando una cultura del poder, en la que la disponibilidad de medios y la capacidad de dominar tienden a dictar la agenda y los criterios de decisión, relegando el bien común de la humanidad a un segundo plano y reduciendo el drama concreto de los pueblos en guerra a una variable secundaria respecto a los intereses estratégicos. Esta cultura del poder penetra en la sociedad, modifica las relaciones y los comportamientos, se expande normalizando la guerra, persiguiendo un poder militar cada vez mayor, aprovechándose de la crisis del multilateralismo y alimentando un falso realismo, el cual repite que no existen alternativas.

También asistimos a una preocupante pérdida de la memoria histórica. La desaparición gradual de los testimonios directos del Holocausto y de las dos guerras mundiales facilita la reescritura selectiva o distorsionada del pasado, en un clima en el que las noticias falsas y las manipulaciones narrativas empañan las lecciones aprendidas. Sin una memoria viva de los horrores de la guerra, las decisiones políticas corren el riesgo de tomarse sobre la base de cálculos de fuerza, carentes de una visión de las consecuencias a largo plazo.

Las redes de comunicación, los entornos informativos fragmentados y los algoritmos que premian el enfrentamiento pueden amplificar la polarización y el resentimiento, acelerar la propaganda y dificultar el discernimiento común. Así, la guerra no sólo se libra, sino que también se prepara culturalmente a través de narrativas simplistas, lógicas de amigo-enemigo, desinformación y miedo. Cuando se atenúa la memoria histórica y se debilitan los criterios éticos que protegen a los civiles y a los más frágiles, se vuelve más fácil presentar la violencia como necesaria, inevitable o incluso “limpia”. Es en este clima donde la humanidad está cayendo en la cultura violenta del poder, donde la paz ya no se presenta como una tarea por asumir, sino como un intervalo precario entre conflictos. Hoy más que nunca es importante reiterar la superación de la teoría de la “guerra justa”, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto. [182] La humanidad cuenta con instrumentos mucho más eficaces y capaces de promover la vida humana para afrontar los conflictos, como el diálogo, la diplomacia y el perdón. El recurso a la fuerza, a la violencia y a las armas testimonia una pobreza relacional que siempre tiene consecuencias desastrosas para las poblaciones civiles.