Magnifica Humanitas (i 2): Contra la dissociació de ciència i ètica

 

 

  L’antropòleg i sociòleg recentment traspassat Edgar Morin , en la síntesi del seu pensament complex recollida a “La via: per al futur de la humanitat” (2011), parlant del nou coneixement científic, denunciava els problemes que es podien derivar de la separació entre ciència i ètica en un món abocat a l’abisme en el que el desenvolupament del desenvolupament engendra i accentua la seva crisi i condueix a la humanitat a probables catàstrofes en cadena. Ho deia amb aquestes paraules: “La disjunció entre ciència i ètica, necessària durant els primers segles de la ciència occidental, ja no pot seguir mantenint-se, donats el profunds problemes ètics i polítics plantejats pels desenvolupaments contemporanis de les ciències”.

  Ha plogut molt en el camp de les ciències des d’aquella advertència d’Edgar Morin, i avui ens trobem davant l’abisme de l’hegemonia social de la tecnologia al que podem veure’ns abocats, concretat sobretot en el domini de la IA. El Manifest Palantir, publicat unes setmanes abans de l’encíclica Magnifica Humanitas, és el paradigma de la pretensió tecnològica contrària a la magnífica humanitat que proclama Lleó XIV.

   Justament l’encíclica de Lleó XIV, “Magnifica Humanitas”, parteix de la mateixa preocupació que manifestava E. Morin per aprofundir en les conseqüències d’aquesta dissociació entre ètica i IA  en el món actual. El colonialisme, diu el Papa mostra en l’actualitat un rostre inèdit: s’apropia de dades transformant les vides personals en informació exportable (les noves terres rares), creant noves formes d’esclavitud amb les exigències que imposen les plataformes i cadenes de subministres que alimenten la indústria tecnològica i l’economia digital. Quan la tècnica es converteix en criteri absolut i crida al bandejament de l’ètica mitjançant la superació incontrolada de la condició de l´home com a ésser relacional, correm el risc de caure en el control social que la recopilació massiva de dades i l’ús de sistemes algorítmics fan possible. La llibertat en l`era digital, ens diu,  no és només una qüestió interior, és també un assumpte públic. Per això cal la recerca d’una ètica i una responsabilitat compartides.

   L’encíclica descriu amb contundència les formes d’esclavitud i dependència creades per la IA, des de la seva forma de producció fins a l’expansió social i econòmica dels seus continguts, en l’apartat 173 que val la pena reproduir: “Aquesta visió distorsionada de l’ésser humà avui es tradueix en formes de submissió diverses vinculades directament a l’economia digital. En el món de la IA res no és immaterial o màgic. Cada resposta que sembla immediata i perfecta prové d’una llarga cadena de mediacions, d’una xarxa extensa de recursos naturals, d’infraestructures energètiques i, sobretot, de persones. Una part significativa del funcionament de l’economia digital se sustenta en el treball silenciós de milions d’éssers humans, emprats en activitats poc visibles però essencials: etiquetatge de dades, moderació de continguts —sovint pèssims— i entrenament de models. En molts casos es tracta de joves, la majoria dones, que treballen dur a canvi de remuneracions mínimes. A aquest ardu treball invisible s’hi afegeix la tasca, encara més brutal, de l’extracció dels recursos necessaris per a la producció dels dispositius i microprocessadors en què es basa la IA. En algunes regions del món, adolescents i infants treballen en condicions perilloses en la trituració dels materials dels quals s’obtenen les terres rares. Cossos marcats, mutilats, consumits perquè el flux dels càlculs no s’interrompi. A més, les xarxes criminals utilitzen plataformes a internet, sistemes de missatgeria, pagaments anònims i tècniques de perfilat per reclutar, controlar i traslladar víctimes del tràfic de persones, moltes vegades menors d’edat, convertint homes i dones en “dades” a rastrejar i “paquets” per transferir dins dels mateixos circuits digitals que sustenten gran part de l’economia global. Aquesta realitat interpel·la profundament la consciència moral del nostre temps. No n’hi ha prou amb invocar l’eficiència ni lloar els beneficis de la innovació, si aquests es basen en una cadena d’explotació que es manté oculta deliberadament. Si una tecnologia promet emancipació, però produeix noves formes de subordinació global, contradiu el principi fonamental de la dignitat de la persona”.

   El risc de la tecnologia separada de l’ètica i la responsabilitat es fa més evident en l’aplicació de la IA als sistemes militars que conformen la base d’una nova cultura del poder amb la normalització de la guerra: “la facilitat creixent amb què es poden utilitzar els sistemes d’armes amb autonomia operativa fa que la guerra sigui més “viable” i menys subjecta al control humà ... A vegades es parla d’”agents morals artificials”, com si una màquina pogués garantir, amb una coherència més gran que un ésser humà, la distinció entre el bé i el mal. Però el judici moral no es pot reduir a un càlcul: implica consciència, responsabilitat personal i reconeixement de l’altre com a persona. Per això no és lícit confiar a sistemes artificials decisions letals o, en qualsevol cas, irreversibles. No existeix cap algorisme que pugui fer que la guerra sigui moralment acceptable. La IA no allibera el conflicte de la seva intrínseca inhumanitat: només el pot fer més ràpid i impersonal” (apartats 197 i 198).

   La pretensió de subordinar l’ètica i la responsabilitat a la força de la tecnologia sota les formes més desenvolupades de la IA en la nova cultura del poder es mostrava amb tota la seva cruesa en el Manifest Palantir. Lleó XIV combat, sense esmentar-les directament, les tesis d’aquesta pretensió dels cercles tecnològics que lideren i emparen les polítiques de Trump amb una visió antropològica radicalment oposada. La diferència no és només política o econòmica. És una diferència sobre què és l’ésser humà, què és el poder i quin lloc ha d’ocupar la tecnologia dins la societat. L’encíclica trenca l’equivalència entre el poder tecnològic i el dret a governar.

   En el discurs Palantir la seguretat nacional, l’avantatge geopolític i el control del risc tenen un paper central mediatitzades per la IA que és presentada com a necessitat estratègica inevitable en una lògica de competició permanent. Sosté la tesi XII d’aquest manifest tecnopolític: “L’era atòmica arriba al seu final. Una era de dissuasió, l’era atòmica, arriba a la seva fi, i una nova era de dissuasió, basada en la IA, està a punt de començar”. En altres paraules, la dissuasió nuclear deixa de ser l’únic eix de l’equilibri mundial, i la intel·ligència artificial es converteix en el nou factor determinant de superioritat estratègica. Els conflictes futurs es decidiran per la velocitat de decisió, la superioritat algorítmica, la capacitat de processar dades i l’autonomia dels sistemes. La idea central és que la IA substituirà gradualment l’arma nuclear com a principal mecanisme de dissuasió global.

   El paradigma Palantir es fonamenta en el tecnosobiranisme, el govern algorítmic (no democràtic) i la racionalitat estratègica en una concepció militarista de la història. Magnifica Humanitas, en canvi, proposa una ecologia humanística que tingui en compte els límits del poder tecnològic sotmès al bé comú i a la primacia de la dignitat humana. Quan el text considera que la IA és ja un ambient, una atmosfera, ens està dient que la IA no és només una eina, és un medi que configura una nova percepció cultural tot condicionant les relaciones socials, l’economia i la política. Per això la resposta no pot ser només tècnica i jurídica sinó ètica i civilitzadora.