Magnifica Humanitas (1) : Humanisme en temps de la IA

 

  La lectura pausada de l’Encíclica del Papa Lleó XIV  et va captivant a mida que hi progresses perquè parla amb llenguatge clar i transparent d’un tema cabdal i complex. Quan arribes al final se’t fa necessari condensar en pocs apartats el més essencial. Al meu parer serien aquests:

   Ètica i doctrina social de l’Església. –

   L’encíclica planteja una relació molt estreta entre l’ètica humanista i la doctrina social de l’Església. El text no contraposa humanisme i cristianisme, sinó que presenta la doctrina social com una forma d’”humanisme integral” arrelat en l’Evangeli i orientat a custodiar la dignitat humana en el context contemporani, especialment davant la revolució digital i la intel·ligència artificial.  Des de la introducció, el document afirma que la gran qüestió del nostre temps és “romandre sent humans” davant del poder tecnològic. Aquí l’ètica humanista apareix vinculada a la dignitat irreductible de cada persona, la fraternitat, la justícia social, el desenvolupament integral,  i la defensa dels més vulnerables.

   El capítol I insisteix que la doctrina social no és un sistema ideològic ni un programa polític tancat, sinó un “discerniment comunitari” sobre les transformacions històriques. La relació amb l’ètica humanista és clara. l’Església entra en diàleg amb les ciències humanes i socials, reconeix l’autonomia de les realitats terrenals, i considera “aliats” tots els qui cerquen “la veritat, la bondat i la bellesa”.

 La dignitat de la persona, la destinació universal dels béns, l’opció pels pobres, la subsidiarietat, la solidaritat, la pau,  i la cura de la casa comuna constitueixen els criteris ètics universals per orientar la tecnologia, l’economia, la política, l’educació, i la governança digital perquè la persona no sigui reduïda a individu consumidor o agent productiu.

  L’antropologia implícita en molts discursos sobre la IA.-

  No es pot equiparar la intel·ligència artificial amb la intel·ligència humana. Una part de la cultura de la IA elabora una antropologia que redueix l’home a informació, capacitat de càlcul, optimització, predicció, eficiència, i processament de dades. Aquesta visió identifica la intel·ligència humana amb funcions cognitives computables.

   L’encíclica veu en certes narratives de la IA una antropologia transhumanista o posthumanista que concep l’ésser humà com a material modificable, com una estructura imperfecta, corregible tècnicament, susceptible de millora indefinida i potencialment superable. Aquesta antropologia refusa els límits, la fragilitat humana és vista com un defecte, una fallada, o una limitació que cal eliminar L’encíclica denuncia explícitament aquesta mentalitat: “tot allò que representa un ‘límit’ [...] tendeix a ser llegit principalment com un defecte que cal corregir” La IA i la biotecnologia poden acabar assumint una funció quasi religiosa, prometen superar el sofriment, la dependència, la vulnerabilitat, fins i tot la mort.

  Contràriament a aquesta reducció antropològica, l’encíclica defineix la persona com relacional, no es comprèn des de l’autosuficiència sinó des de la comunió, la reciprocitat i la dependència mútua. La persona madura en l’amor, en la responsabilitat, en la fraternitat i en la vulnerabilitat compartida. “L’ésser humà no floreix malgrat el límit, sinó sovint a través del límit” . L’humà inclou, a més de la intel·ligència, el cos, l´afectivitat, la consciència moral, l’experiència, la memòria, el  sofriment, l’amor i la transcendència. Tot això des d’un antropologia que concep la llibertat humana com irreductible: “Un algoritme pot predir patrons però no pot esgotar la llibertat humana, perquè “el futur d’una persona no és calculable”.

   Políticament, les institucions han de governar la IA, no sotmetre-s’hi.-

  La IA no és neutral, modela la societat, redistribueix poder i afecta drets, relacions i llibertats. Correspon a la funció essencial de les institucions , que són espais de discerniment moral i social, orientar políticament la tecnologia, establir límits, protegir els vulnerables i impedir que el mercat o el poder tecnològic privat es converteixin en sobirans de fet. La pregunta decisiva és: “La tecnologia fa créixer les persones i els pobles en humanitat i fraternitat?”

  La llibertat política exigeix institucions fortes per garantir  la informació veraç en l’espai públic que eviti les manipulacions massives i qualsevol forma de control social que debiliti la deliberació democràtica. En aquest sentit són particularment il·lustratius els apartats del capítol IV parlant de “Veritat i democràcia”, “Comunicació i imaginari col·lectiu”, i “Per una ecologia de la comunicació”.

   A la regulació ètica i jurídica cal afegir la protecció del treball com la base de la cohesió social. La IA va associada a la transformació del treball en aspectes com l’automatització, la desocupació i  la precarització que poden contribuir a l’increment de les desigualtats. Les institucions públiques són responsables de garantir transicions justes que protegeixin la dignitat laboral i impedeixin que la productivitat tecnològica beneficiï només uns pocs. L’Estat no pot limitar-se a facilitar la innovació econòmica; ha de custodiar el teixit humà i social.

   L’encíclica no defensa un control estatal absolut de la tecnologia sinó que la seva visió és més aviat cooperativa, subsidiària i participativa, entenent les institucions com espais de responsabilitat compartida. “Cap mà per si sola és suficient”. Per això la crida a les universitats, a la societat civil, les comunitats religioses, els investigadors, els sindicats i els moviments socials a treballar conjuntament pel control democràtica de la IA.

   Tot i que l’encíclica no ho formuli en termes geopolítics explícits, hi ha una preocupació molt clara perquè el poder digital privat pugui esdevenir superior al poder democràtic, acumulant dades sense control, condicionant comportaments, controlant infraestructures cognitives i modelant l’imaginari col·lectiu, de manera que les institucions públiques poden acabar subordinades a lògiques econòmiques i tecnocràtiques. La llibertat política exigeix institucions fortes i per això no són admissibles les institucions febles davant corporacions fortes.

La relació entre institucions públiques i IA és, en el fons, una qüestió antropològica i política. L’encíclica considera que la tècnica no pot definir sola el futur humà, i que la política continua essent necessària perquè és l’espai on una societat decideix què vol protegir, quins límits accepta i quina idea de persona defensa.

   La pau desarmada i desarmant.-

El darrer capítol versa sobre la Cultura del poder i la civilització de l’amor, sobre la guerra i la pau. Però una pau desarmada.

  “El risc de la tecnologia separada de l’ètica i la responsabilitat fa més rapida i impersonal la decisió sobre la vida i la mort i presenta l’ús de la força com una opció immediata i viable”. Babel i la reconstrucció de Jerusalem (“Peça per peça”) són dues lògiques oposades.

   El món digital i la IA poden reforçar una lògica de dominació, de vigilància massiva, d’armes autònomes, de manipulació social, concentració de poder i noves formes de guerra. La pau “armada” és en el fons una estabilitat basada en la por, una pau aparent sostinguda per l’equilibri de forces. És la prolongació moderna de Babel, una civilització tècnicament poderosa però humanament fràgil. En ella es prenen decisions de rearmament i es concep la guerra com instrument de política internacional, se la prepara abans de fer-se i se l’arriba a considerar com una violència neta i necessària.

Les armes passen a ser agents morals artificials, amb autonomia operativa que fan la guerra més viable y menys subjecta al control humà. Però no hi ha algoritme que pugui fer que la guerra sigui moralment acceptable. A partir d’un suposat realisme polític, en una època de notable ceguesa cultural i espiritual, s’encadenen guerres asimètriques i híbrides, també en el terreny econòmic, financer i informàtic. Un corrent on es perden tots els límits ètics, en una mena d’enllaç de nihilisme i pragmatisme que fa que s’assumeixi la convicció cultural i antropològica que la guerra forma part inevitablement de la naturalesa humana.

   Enfront d’aquesta realitat cal construir la civilització de l’amor, a partir d’una lectura atenta de la història, una esperança teologal que dona a la realitat un horitzó i una direcció. Per això cal desarmar les paraules, construir la pau en la justícia i assumir la mirada de les víctimes. Cal rellançar el diàleg i retornar a la cultura de la negociació, de la diplomàcia i el multilateralisme perquè el ciberespai no es converteixi en un lloc d’enfrontament . Cal també una reforma de la ONU perquè la crisi de conviccions i de valors afecta també els fonaments ètics de la vida dels pobles. La IA obliga a redefinir la idea de seguretat, a construir una pau desarmada però activa, políticament responsable i socialment compromesa. La pau desarmada és un tasca activa de civilització.