Magnifica humanitas

Aquest document pontifici va ser fet públic significativament en l'aniversari de l'encíclica Rerum novarum (Les coses noves) del papa Lleó XIII, de 1891. La qual fou una reflexió sobre l'impacte social, econòmic i religiós de la revolució industrial i obrí l'anomenada doctrina social de l'Església.^[5] L'enciclica depassa l'àmbit religiós i obra un debat públic, més enllà dels entorns eclesiàstics.La seva intencionalitat no és ser un manual de principis i normes que cal aplicar, sinó un camí de discerniment comunitari. Com assenyala Josep M. Lozano és una proposta per obrir una conversa pública imprescindible. Ja que, el document no fa invocacions genèriques a l’ètica si no de trobar criteris de discerniment. Assenyala una agenda de reptes que hem d’abordar sense dilació. Perquè en un món en profunda transformació hem de parlar d’educació, del treball, de la pau i els conflictes, de la comunicació i la veritat, de les desigualtats i l’exclusió social entre altres temes. 'Es Una proposta per a parlar amb llibertat i responsabilitat tant dels canvis que s’esdevenen com de l’horitzó que els orienta.^[6]

Com ha remarcat Francesc Torralba, el papa Prevost per la seva formació té les condicions per parlar amb rigor i coneixement de les conseqüències de la intel·ligència artificial sobre les persones i la societat. Sent matemàtic té unes condicions que li permeten entendre molt bé els mecanismes interns de la IA i els desafiaments i riscos de vulneració de la llibertat i intimitat. És des d'aquest coneixement que la Magnifica Humanitas reclama un govern ètic de la IA.^[7]

La gran pregunta que ens fa l'encíclica Magnifica humanitas és: Estem cridats a interrogar-nos sobre el gran projecte de la nostra època: què estem construint?” (Paràgraf 90). A partir de la Rerum Novarum la Doctrina social va anar evolucionat per adaptar-se als contorns canviants del món modern. Les encícliques socials posteriors van abordar, al segle XX, la devastació econòmica de la Gran Depressió, la reconstrucció de l'ordre internacional de la postguerra dels anys quaranta, la perillosa dinàmica nuclear de la Guerra Freda i les forces accelerades, sovint desestabilitzadores, de la globalització financera. A principis del segle XXI, la Doctrina social va procurar respondre als desafiaments la crisi ecològica, reconeixent que la degradació del medi natural i l'explotació sistèmica dels pobres en món i una economia profundament interconnectats.^[8]

Així com Lleó XIII va enfrontar l'impacte social i sobre les persones del capitalisme industrial defensant la dignitat del treball i la primacia de la persona sobre el capital, Lleó XIV, l'any 2026, veu la irrupció de la IA amb lògica idèntica. “Les res novae del nostre temps -algorismes, plataformes, dades, automatització- modelen la vida social, distribueixen poder i redefineixen les relacions humanes". Una pregunta de fons travessa tots dos moments històrics: com evitar que la tècnica concentri un poder capaç de debilitar la dignitat humana, la vida comunitària i l'horitzó democràtic? ^[9]

Lleó XIV adverteix que la humanitat es troba a hores d'ara en una transcendent cruïlla: deixar-se guiar per la tecnologia i el progrés com a únics principis sobre els quals construir la nostra civilització, o situar la dignitat de la persona en el centre. Per il·lustrar clarament el dilema el papa recorre a dues evocacions bíbliques que mostren dues imatges bíbliques que travessen el cor moral de l'encíclica: Babel i Jerusalem. Babel apareix com la metàfora d'un poder fascinat amb ell mateix, capaç d'ordenar, uniformar i centralitzar la vida humana des d'una lògica funcional en què importen poc les persones. Amb Jerusalem, en canvi, en la reconstrucció impulsada per Nehemies emergeix una ciutat aixecada col·lectivament, on cada família assumeix la responsabilitat del seu tram de muralla i converteix la comunitat en una obra compartida, arrelada en Déu.^[9] Babel representa l'orgull, la uniformitat, l'autosuficiència i la pretensió d'assolir el cel sense Déu. Nehemies, en canvi, simbolitza l'oració, el discerniment, el treball compartit i la responsabilitat comunitària.^[10]

Des d'aquestes imatges el papa analitza la guerra, les noves formes de comunicació contemporània, la IA, l'economia digital. Ens pertoca evitar construir un món inhumà i injust.Les "coses noves" del present, és a dir, les grans transformacions històriques que interpel·len la consciència cristiana, estan marcades per l'expansió accelerada de la digitalització, de la intel·ligència artificial i la robòtica, que incideixen profundament en les estructures socials, en els processos de presa de decisions i en l'imaginari col·lectiu. La tècnica ha de ser una dimensió autènticament humana, arrelada en la llibertat i en la creativitat, però el seu poder demanda una responsabilitat nova i inèdita. Ja que “mai la humanitat ha tingut poder sobre si mateixa” i cal amb urgència "orientar aquest poder vers el bé comú” (paràgraf 4). Les imatges bíbliques de Babel i de la reconstrucció de Jerusalem remarquen l'objectiu de la carta papal: l'alternativa no és entre acceptar o refusar la tecnologia, sinó entre un ús que desintegra o un altre que custodia tot allò de valuós que ens fa humans.^[11]

El primer capítol de Magnifica humanitas Sobre la custòdia de la persona humana en el temps de la intel·ligència artificial descriu l'evolució de la Doctrina social de l'Església i el seu diàleg amb el món contemporani, sobretot des de l'encíclica Rerum novarum (Les coses noves) del papa Lleó XIII i la seva construcció i evolució amb Pius XI i Pius XII, amb una molt notable aportació dels ensenyaments del Vaticà II (Gaudium et Spes), com també dels documents de Pau VI, Joan Pau II, Benet XVI i Francesc. Aquesta doctrina social, doncs, no és pas com un conjunt de regles, si no més aviat és un discerniment continu, viu i dinàmic a la llum de l'Evangeli sobre els reptes que sorgeixen a la societat.^[12]

El papa Prevost insisteix en tres idees essencials d'aquestes aportacions doctrinals: la fe cristiana ha d'il·luminar les mutacions del món modern, el progrés tècnic no és dolent en si mateix, sinó que ha d'estar orientat al bé i, finalment, l'Església desitja dialogar amb la ciència, l'economia i la política sense renunciar a l'Evangeli. A més, recorda que la persona humana continua sent superior a tota lògica econòmica o tecnològica. El text subratlla que la Doctrina social no és una ingerència inadequada en les qüestions temporals sinó que expressa la responsabilitat de l'Església amb el bé comú. No conté fórmules específiques sinó principis per a pensar, criteris per a discernir i jutjar i orientacions concretes per actuar on cada pontífex ha aportat la seva mirada a les “coses noves del seu temps” per orientar el discerniment en la vida personal i pública dels creients.^[11]

El segon capítol aborda els fonaments i principis d'aquesta Doctrina social que són essencials per construir i fer una societat més justa. El papa parla de la dignitat humana i del bé comú, de la solidaritat, de la subsidiarietat i de la justícia social. Tot remarcant el perill d'esdevenir una societat en què l'ésser humà es redueixi a un simple objecte de rendibilitat, i insisteix en l'acolliment i la protecció dels més vulnerables.^[12]

Lleó XIV remarca aquesta dignitat de la persona com a principi central i constant en tot el desenvolupament del Magisteri i és clau per jutjar rectament sobre el treball, l’economia, la política i la tecnologia. També fa referència al bé comú, que ha d'orientar tota acció social i política i contribueix a una convivència justa i fraterna. Un bé comú que s'orientarà sobre els principis de solidaritat, subsidiarietat i justícia social, així com el principi de la destinació universal dels béns. Aquests principis, considerats conjuntament, articulats amb prudència portaran al desenvolupament humà integral, adreçat a promoure tota la humanitat i a tota persona.^[13]

El papa reafirma que és deure de l'Església i és un servei a la humanitat alçar la veu per advertir si es qüestiona la dignitat humana i el futur de la humanitat. Tot recordant que cal vetllar aquesta gaudeixi de la destinació universal dels béns —materials, immaterials i culturals— i no siguin confiscats per una minoria. Un principi que recull la Doctrina social de l'Església, però també que el troben ja enunciat en Tomàs d'Aquino, Agustí d'Hipona o Ambròs de Milà.^[14]

Lleó XIV remarca que la persona ha estat creada a imatge i semblança de Déu. Cal recordar-ho, ja que «la pressió de noves ideologies i de determinats interessos molt poderosos» pot reduir la persona a «un recurs que es fa servir i s'explota» o «allò que fa o produeix» (paràgraf 51). Per contra, «la dignitat fonamental de cada persona no s'adquireix ni es mereix, ni cal demostrar-la» (paràgraf 53). Un segon fonament de la Doctrina Social de l'Església és la inviolabilitat dels drets humans, entre els quals el primer és el dret a la vida «des de la concepció fins al final natural»: en aquest sentit, Lleó XIV defineix l'avortament provocat, l'assassinat d'innocents i l'eutanàsia com a «decisions greument il·lícites» (paràgraf 55). El tercer fonament és el reconeixement dels drets de les minories, amb especial atenció a les dones: a favor seu, el pontífex demana «decisions concretes» a les lleis, a la feina, a l'educació, a les responsabilitats socials i polítiques, perquè siguin veritablement escoltades i valorades (paràgraf 57).^[15]

La encíclica destaca que la dignitat de la persona “no depèn de les capacitats que posseeix, de les riqueses o del rol que exerceix, ni de les decisions justes o equivocades que pren, sinó que és un do que la precedeix i l'excedeix, donat per Déu”, denunciant les ideologies que consideren les persones com a mers mitjans per obtenir resultats. Lleó XIV alerta del fet que moltes vegades la tutela dels drets humans es queda en una mera declaració formal i que, a més, s'eviti el fonament d'universalitat. És per això que fa una especial denúncia a les condicions de moltes dones al món, recordant que “doblement pobres són les dones que pateixen situacions d'exclusió, maltractament i violència, perquè sovint es troben amb menors possibilitats de defensar els seus drets” (…) “Mentre hi hagi aquesta disparitat”, destaca el papa Prevost, no podrem dir que la societat reconeix realment la igualtat entre dones i homes.

També el pontífex en aquest segon capítol posa el focus en les implicacions de la recerca del bé comú en l'àmbit polític recordant que “quan la política renuncia a una visió a llarg termini i es redueix a càlculs de curt termini o a polaritzacions estèrils, els discursos sobre el bé comú perden credibilitat i alhora creixen les desigualtats i les fractures socials”. En el camp de la cooperació i de les institucions internacionals reclama més eficàcia per a “cuidar el bé comú global sense anul·lar la legítima pluralitat dels pobles i dels estats”. En aquesta línia, destaca que “on la riquesa de les nacions depèn cada vegada més de coneixements i tecnologies, quan aquests béns queden concentrats a les mans d'uns quants, sense adequades formes d'intercanvi i d'accés, es crea un nou desequilibri que contradiu el destí universal dels béns i alimenta la bretxa entre inclosos i exclosos”. El papa exposa que el principi de solidaritat i fraternitat és “una forma social i política que s'ha d'encarnar en decisions i itineraris compartits, en les relacions entre persones, grups i pobles, i al·ludeix a la consciència d'una interdependència, per la qual cosa el bé de cadascú passa a través del bé dels altres. Com a virtut, en canvi, requereix una «determinació ferma i perseverant» de treballar pel bé comú”^[16]

En el tercer capítol, el papa explora els reptes que la intel·ligència artificial planteja a la humanitat. Ja que “no podem considerar a la IA com moralment neutra” en un món de concentració del poder en el món digital. Enfront dels quals “els grans principis de la Doctrina social es converteixen en criteris per a jutjar i discernir el nou escenari: la dignitat inalienable de la persona, el bé comú, el destí universal dels béns, la subsidiarietat, la solidaritat i la justícia social”.(paràgraf 96).^[12]

Adverteix del que anomena "el paradigma tecnocràtic" que ens porta a pensar que qualsevol problema humà pot ser resolt per la tècnica. Reconeix els beneficis de la intel·ligència artificial, especialment en camps com la medicina, l'educació, la investigació o l'organització social. Però adverteix dels límits que no s'han de superar per preservar la humanitat, ja que la IA no posseeix ni consciència moral, ni llibertat veritable, ni responsabilitat. L'ésser humà no pot ser reemplaçat per una màquina.Aquest capítol tercer replanteja la pregunta de fons: què estem construint a la nostra època? Mentre el desenvolupament tecnològic canvia ràpidament llenguatges, relacions, institucions i formes de poder, els cristians han de triar en quin projecte treballar i amb quin estil, per custodiar i valorar la magnífica humanitat que ens ha estat brindada com a do. No és una decisió sobre el futur, sinó sobre el present, perquè la IA ja és part de la nostra vida quotidiana. Cita Romano Guardini: «L'home modern no està preparat per utilitzar el poder amb encert».

Denuncia que el control de les plataformes, infraestructures, dades i capacitat de càlcul no és en mans dels estats, sinó de grans actors econòmics i tecnològics.Davant d'aquesta concentració de poder, els principis de la Doctrina social de l'Església de dignitat humana, bé comú, destinació universal dels béns, subsidiarietat, solidaritat i justícia social, esdevenen eines i criteris imprescindibles per a discernir el nou escenari.

Lleó XIV assenyala que no es pot donar una definició única i completa de la IA. Tot advertint que qualsevol afirmació sobre la IA corre el risc de quedar-se obsoleta en poc temps atesa la velocitat del seu desenvolupament. Adverteix que les IA modernes són cada cop més «cultivades» que «construïdes»: els desenvolupadors creen una arquitectura sobre la qual la IA «creix», i aspectes fonamentals com les representacions internes continuen sent desconeguts. Remarca la diferència entre la IA de la intel·ligència humana: la IA imita certes funcions, però no viu una experiència, no té un cos, no passa per l'alegria i el dolor, no té consciència moral, no jutja el bé i el mal. El seu aprenentatge és una adaptació estadística, no un creixement interior.

Mostra els tres riscos en l'ús personal de la IA: la facilitat per aconseguir resultats que ens pot acostumar a delegar massa i debilitar el judici personal; la impressió d'objectivitat que ens pot fer oblidar que les respostes reflecteixen els paràmetres culturals dels qui les han dissenyat; i la simulació de comunicació humana que pot induir a engany, especialment en contextos pobres de relacions reals.Sense oblidar els greuges ambienta dels sistemes d'IA que consumeixen recursos de manera intensiva. És essencial desenvolupar solucions tecnològiques més sostenibles. L'ús de la IA mai no és un fet purament tècnic: quan entra en processos que incideixen en la vida de les persones, afecta els seus drets, oportunitats, reputació i llibertat. Confiar a un algorisme el poder de seleccionar qui és digne i qui no, sense que ningú assumeixi el pes de la decisió, significa revestir la injustícia d'una neutralitat i objectivitat davant les quals és impossible protestar. La IA no és moralment neutra: tot artefacte tècnic comporta decisions i prioritats. El document demana «responsabilitat»: la possibilitat d'identificar de qui és la responsabilitat.

Proposa «desarmar la IA»: sostreure-la a la lògica de la competència armamentística (militar, econòmica i cognitiva), trencar els monopolis, fer-la discutible, refutable i, per tant, habitable. La propietat de les dades no es pot confiar només al sector privat, sinó que s'ha de reglamentar com un bé comú. La qualitat d'una civilització es mesura no pel poder dels seus mitjans, sinó per la cura que sap oferir, per la capacitat de reconèixer un rostre a l'altre i no una funció.^[10] Desarmar vol dir aquí custodiar la llibertat davant del control social i la mercantilització. Desarmar vol dir qüestionar una cultura del poder que només sap sofisticar les formes de violència institucional.^[5]

Lleó identifica dos corrents ideològics que interpreten el progrés com una superació de l'ésser humà. El transhumanisme imagina una potenciació de l'ésser humà per mitjà de tecnologies (biomedicina, dispositius, algorismes) per incrementar el rendiment i les capacitats. El posthumanisme va més enllà: critica l'antropocentrisme i planteja una hibridació entre l'ésser humà, la màquina i l'ambient fins a imaginar una nova etapa evolutiva. Aquestes dues visions porten a una perillosa visió per a la igualtat i dignitat de les persones: si l'ésser humà és tractat com a matèria per ser perfeccionat o superat, aleshores es torna més fàcil acceptar que alguns siguin considerats menys útils, menys desitjables, menys dignes.Exposa el papa que l'humanisme cristià no rebutja la ciència ni la tècnica, sinó que les assumeix amb gratitud i realisme, cercant dota-la d'una vocació més alta.^[10]

El quart capítol, que és el més extens, parla de les conseqüències concretes de la revolució digital en la vida quotidiana. I remarca la necessitat de salvaguardar per damunt de tot la veritat, el treball i la llibertat.^[12] L'encíclica fa una proposta de crear i fomentar una “ecologia de la comunicació” que custodiï la veritat, la llibertat i el pensament crític enmig de totes les actuals innovacions tecnològiques per tal de vetllar per la democràcia davant dels riscos d'“homologació i domini” que vivim. Tot mostrant la preocupació tant per les “narratives mediàtiques polaritzades” amplificades pels algorismes com per la “preocupant pèrdua de la memòria històrica”.^[17] Cercar la veritat és una tasca dura, difícil, que demana molt d’esforç. L'aparença i la promesa de veritat de la IA amb poc esforç pot ser font de confusió en el camp social i educatiu. I aquí trobem una crida, que no passa per a fomentar-ne un ús crític —un reclam que s’ha convertit en un lloc comú però buit de contingut— sinó, justament, a «aprendre a prescindir de la IA».^[18]

El papa aborda la intel·ligència artificial com una nova qüestió que afecta greument els treballadors i al món laboral. Descriu una imatge força negativa dels riscos que l'ús generalitzat de la intel·ligència artificial pot generar com la desqualificació dels treballadors o, la vigilància automatitzada entre altres fets que no dubta a anomenar "noves formes d'esclavitud". En resposta, defensa, en particular, la regulació estatal de les eines d'intel·ligència artificial, el paper també important dels sindicats i el respecte pels criteris socials en la innovació.^[19] "Les noves formes de treballar no són necessàriament millors", afirma Lleó XIV i convoca a empresaris, sindicats i polítics a defensar els treballadors de les noves formes de desigualtat i pobresa "amb una multitud d'exclosos envoltats de màquines i sistemes automatitzats que han ocupat el seu lloc".^[20]

Cal tenir especial cura de l'educació en aquesta nova societat i tenir present que la Doctrina social de l’Església convida les famílies, les escoles, les comunitats cristianes i les institucions públiques a una aliança educativa renovada. Per a Lleó XIV l'educació té a hores d'ara tres reptes: 1) el que és sociopolític, 2) el que és pedagògic i 3) el que és intel·lectual. Considera que els estats encara no han garantit l'accés a l'educació de qualitat per a tothom. La formació contínua dels docents ha de ser un punt important davant els canvis constants, i aquesta ha de centrar-se a atendre l'alumne, en com utilitzar les tecnologies i les seves informacions. Finalment, proposa una perspectiva ben necessària i innovadora: la “higiene de l'atenció”. Els sistemes educatius han de cuidar-se d'allò que els alumnes estudien, quan estudien, com estudien i per què ho estudien. Els continguts han de ser justificats per un amor a la veritat i no ser vistos només com un flux d'informació fragmentada.^[21] En l’àmbit de la universitat, el gran repte és la integració dels coneixements, educant “tant en la capacitat de connectar i fusionar sabers per interpretar la complexitat com en les tècniques de verificació dels fets”.^[22]

El darrer i cinquè capítol convoca a la «pau mundial» i a una civilització de l'amor, fonamentada en la fraternitat, la justícia, la pau i el perdó. El papa remarca les situacions i perills de guerra a l'era digital, considerant que la idea tradicional de la “guerra justa” ha de ser superada i substituïda per resoldre els conflictes pel diàleg, la diplomàcia i el multilateralisme.^[12] La revolució digital està modificant la gramàtica dels conflictes: a la guerra visible se sumen noves formes híbrides. La IA pot potenciar la defensa i la protecció de civils, però també fer opaques les responsabilitats i reduir l'enemic a una dada i la víctima a un dany col·lateral. Accelerant els temps de decisió i fent que l’ús de la força sigui més impersonal i distant de la responsabilitat moral. Davant d'aquestes transformacions, els principis de la Doctrina social de l'Església ens dona criteris per a jutjar si les tecnologies serveixen realment a la humanitat o acaben per sotmetre-la.^[10]

La possibilitat de delegar les responsabilitats personals a sistemes automatitzats de decisions que impliquen la vida i la mort contribueix a rebaixar el llindar ètic del recurs a la violència i a dissoldre la percepció de les conseqüències reals de les decisions preses. En aquest marc sorgeix una autèntica cultura del poder, en la qual l’eficàcia dels mitjans tendeix a substituir el judici moral i la protecció dels civils queda subordinada a lògiques estratègiques. Enfront d'aquests fets, Magnifica humanitas proclama que “no existeix algoritme que pugui fer que la guerra sigui moralment acceptable”, reafirmant que el discerniment sobre l’ús de la força no pot reduir-se en cap cas a un càlcul tècnic. Així mateix, que aquesta transformació és fomentada per narratives públiques que presenten la guerra com a inevitable i fins i tot necessària, enfosquint la memòria històrica de conflictes bèl·lics i les seves dures conseqüències i adormint les consciències.

Com a alternativa a aquesta lògica, es proposa la perspectiva d'una "civilització de l’amor“, entesa com un projecte històric concret, fonamentat en la justícia, la fraternitat i el diàleg. La civilització de l’amor assumeix la mirada de les víctimes com a criteri de judici i reconeix en la diplomàcia i el diàleg els instruments ordinaris per a la construcció de la pau. En aquest horitzó, la pau no és signe de feblesa, sinó una opció exigent i realista. “Amb la pau no es perd res, mentre que amb la guerra tot es pot perdre”, apunta Lleó XIV-^[23]

En el nou món i els nous temps que ha obert la intel·ligència artificial, l'encíclica no acaba pas amb unes admonicions o directrius ni amb un veredicte sobre la IA. Finalitza l'encíclica no un programa sinó una invitació a una espiritualitat per a aquests nous temps. Prenent a Maria com a model d'activa humilitat, demana convertim-nos en teixidors d’esperança en el nostre món, compartint el que som i el que tenim.

L’aposta del papa Lleó XIV és explícita i sorprenent, ja que fins i tot el temps de la IA pot convertir-se en un temps en què s'edifiqui la civilització de l'amor. Les últimes paraules del document remeten de nou al seu títol: la grandesa de la humanitat, la Magnifica humanitas en la qual Déu ha posat el seu estatge.^[24]