La IA, eina o apocalipsi?

 

 

 En qüestió de pocs mesos l’interès per la IA ha passat de centrar-se en la seva utilitat com instrument complementari de la intel·ligència humana a constituir un reclam urgent i immediat sobre els seus riscos, fins a posar en evidència una preocupació que per moments resulta apocalíptica. Constato aquesta dramàtica evolució en una breu selecció de textos, fets i declaracions (entre molts altres que se’n podrien escollir) que demostren com la IA acapara de manera creixent la necessitat de confrontar els seus riscos des d’un punt de vista existencial, històric, social, polític, econòmic, filosòfic i religiós. En dos anys aquesta necessitat s’ha fet més i més imperativa i en els darrers mesos s’ha convertit en ineludible.

   Daniel Innerarity a “Una teoria crítica de la  inteligencia artificial”, 2025, p.374). Segons una nota prèvia del mateix autor l’obra la va escriure entre 2021 i 2024:

 “Hace tiempo que los algoritmos han perdido el encanto de la objetividad y la inocencia. Los sistemes de decisión algorítmica no son soluciones neutrales a problemes dados, del mismo modo que tampoco son irrelevantes los datos que utilizan para que el sistema aprenda. Los resultados que propociona la inteligencia artificial no son menos discriminatorios que las estrtucturas en las que se programan los algoritmos o los datos a partir de los cuales se entrenan”

  Yuval Noah Harari a “Nexus. Una Breu història de les xarxes d’informació des de l’edat de pedra fins a la IA”, 2024, p. 282:

   “Fins ara, totes les xarxes d’informació  de la història depenien  dels creadors de mites humans i dels buròcrates humans per funcionar... Ara, però, els humans hauran de lluitar  amb els creadors de mites digitals i els buròcrates digitals... Gent de tots els països i àmbits de la vida , incloent-hi fins i tot els dictadors, potser es trobarà sotmesa a una intel·ligència aliena que podria controlar tot el que fem sense que tinguem la més petita idea del que està fent”

   El febrer de 2026 es va fer públic l’Informe Internacional sobre la seguretat de la IA elaborat per grups d’experts independents. Hi ha una breu recensió en català. L’exposició de l’informe, que compara els resultats d’enguany amb els del precedent 2025, és exhaustiva en tots els apartats, amb referències explícites als reptes per a la responsabilitat dels polítics en cada conclusió. De l’edició completa en castellà en transcric literalment algunes consideracions d’entre els riscos exposats en el capítol 2 (riscos derivats de l’ús maliciós, del mal funcionament i riscos sistèmics:

 “ En principio, un sistema de IA podría socavar el control humano si alguien lo diseña o le da instrucciones para hacerlo. Esto podría ocurrir debido a intenciones maliciosas o a la creencia de que es deseable reducir el control humano sobre los sistemas de IA. A medida que las personas crean vínculos emocionales cada vez más fuertes con los sistemas de IA algunas personas también pueden tratar de eliminar las restriccions de los sistemas de IA por motivos éticos. Existe una gran incertidumbre sobre la prevalencia de tales motivos y sobre si las personas que los poseen serían capaces de dirigir futuros sistemas de IA para que mermen”  ........ Los sistemas de IA de uso general pueden proporcionar información detallada relevante para el desarrollo de armas biológicas y químicas. Por ejemplo, pueden generar instrucciones, solucionar problemas en los procedimientos y orientar a los actores maliciosos para superar los obstáculos técnicos y normativos... En los escenarios de pérdida de control, uno o más sistemas de IA de uso general operan fuera del control de las personas, y recuperar el control resulta extremadamente costoso o imposible. Estos escenarios hipotéticos varían en gravedad, pero algunos expertos dan crédito a resultados tan graves como la marginación o la extinción de la humanidad.

  Encíclica “Magnifica Humanitas” de Lleó XIV, 15 de maig de 2026:

 “Confiar en la pràctica a un algoritme el poder de seleccionar qui és digne i qui no ... significa encomanar-li la tasca de redefinir els límits de les possibilitats humanes” (paràgraf 103). “Qui controla la IA pot imposar la seva visió moral que es convertirà en la infraestructura invisible dels sistemes” (paràgraf 107) . “Petits grups molt influents poden orientar informacions i consums, condicionar processos democràtics i incidir en les dinàmiques econòmiques en benefici propi” (paràgraf 108) . “Desarmar no significa renunciar a la tecnologia sinó impedir-li el domini sobre allò humà” (paràgraf 110). “Una visió antihumana segons la qual la plenitud de la vida consistiria en tenir més, reduir la fragilitat, eliminar el que és imprevist i controlar-ho tot” (paràgraf 112).

Declaracions de Jacob Coxon, enginyer dimissionari de la tecnològica Anthropic el 8 de setembre de 2026:

   “No subestimeu el poder d’aquesta tecnologia. Aviat seran sistemes sobrehumans capaços de piratejar qualsevol cosa, revolucionar qualsevol camp d’un dia per un altre i d’adquirir poder i recursos reals... Les persones que estan  construint IA creuen sincerament que podrien matar-nos a tots a finals d’aquesta dècada. Això no és un truc de màrqueting ... Potser molts executius i investigadors moderaran el seu llenguatge a la premsa per semblar sensats, però escolto les mateixes persones expressar por en privat. Cap altra activitat humana presenta aquest nivell de perill”.

  Poques hores després, Evan Hubinger, el seu superior i líder de l’equip de ciència d’alineació a Anthropic, va respondre amb un missatge contundent:

“En Jacob té raó. Nosaltres creiem que la IA podria matar tots els humans. Penso que la probabilitat és superior al 10 % dins de la pròxima dècada. Crec que Anthropic ho està fent el millor possible, però encara no tenim un pla per resoldre l’alineament d’una superintel·ligència i tampoc estem clarament encaminats a aconseguir-ho”.

   El mateix fundador d’Anthropic, Dario Amodei, demana frenar el desenvolupament de la IA de frontera, advertint del risc de perdre el control. El 15 de setembre 2026 afirma en una entrevista a “Sunday Morning”:

 “La indústria va mentir sobre el perill que suposa i el govern i els ciutadans han d’intervenir: no els mentiré, existeixen perills reals”. CoincidinT amb aquestes declaracions, Sam Altman, d’Open AI i Elon Musk de XAI, s’han sumat de manera inèdita a advertir sobre els riscos de seguretat de la IA en el sector. A finals de juliol d’aquest 2026 la tecnològica Open AI, creadora del ChatGPT, havia piratejat l’empresa Hugging Face actuant de manera autònoma durant unes proves de control, sense que els desenvolupadors ho haguessin ordenat. Els governs d’EEUU i Xina s’han negat a moderar el desenvolupament de la IA de frontera, al·legant que les tecnològiques exageren els riscos i miren només pel seus interessos comercials. Trump sosté que “L’únic control o límit que necessita la IA és un president fort i intel·ligent (d’un alt coeficient intel·lectual!) i EEUU el té de sobres”.

   Sense caure en l’alarmisme apocalíptic de la fi de la humanitat, però mirant de posar els riscos de l’acceleració de la IA en un punt de ponderació que tingui en compte tots els antecedents, i sobretot les opinions dels mateixos operadors de les tecnològiques i les reflexions i propostes des del camp de la filosofia, de la història, de la sociologia, les religions, l’economia, la sociologia i la teoria política entorn de la democràcia, posaria l’accent en aquests aspectes:

-       Caldrà seguir els successius Informes Internacionals d’experts independents en la matèria. De l’Informe d’enguany no sembla pas que els riscos s’hagin de considerar exagerats, tot i la prudència en senyalar  els terminis i les responsabilitats dels polítics per fer-hi front.

-       Els investigadors que construeixen els models més avançats poden estar advertint d'un risc que els governs que competeixen per dominar aquesta tecnologia tenen incentius per no frenar. El problema no és només si la IA pot arribar a ser perillosa, sinó si la competició geopolítica farà que empreses i estats desenvolupin capacitats més ràpidament del que poden desenvolupar mecanismes de seguretat.

-       El permanent estat d’alerta global i democràtic sobre el desenvolupament i l’acceleració de la IA , així com les mesures que s’hagin de prendre per a la seva moderació, o supressió si fos el  cas, constitueixen el millor antídot per a la salvaguarda de la preeminència de la intel·ligència humana enfront de la superintel·ligència artificial.

-       No cal pensar en un final apocalíptic de la història humana per la IA. Però sí convé pensar en la catàstrofe que podria suposar un cicle històric dominat pel descontrol de la IA en la subversió de la democràcia, la recerca de capacitats bèl·liques autònomes, la concentració del poder social i polític en unes poques elits autòcrates, la instrumentalització maliciosa de l’economia i la biologia, la colonització del llenguatge, els aprenentatges, el coneixement i la cultura.

-       El propòsit de la tecnologia IA de superar els límits de la condició humana, de la seva fragilitat, podria portar-nos a l’absurda i paradoxal conseqüència d’utilitzar-los de manera il·limitada per crear un transhumanisme alienat i sotmès.