D’una banda, “oportunitats apassionants”, com ara la millora del treball, de les condicions de vida de les persones, dels instruments mèdics i de les interaccions personals; de l’altra, “riscos greus”, com l’ús no regulat de les anomenades armes “intel·ligents”, el consegüent perill d’atemptats terroristes, fomentant així “la bogeria de la guerra” o les intervencions destinades a desestabilitzar les institucions legítimes de govern, arribant, per exemple, a condicionar les eleccions polítiques. Vicis (possibles i reals) i virtuts de la Intel·ligència Artifical (IA) i les noves tecnologies, el papa Francesc els posa a la balança al seu Missatge per la 57a Jornada Mundial de la Pau, que se celebrarà l’1 de gener de 2024. Intel·ligència artificial i pau és el títol del document en què el Pontífex dirigeix els seus millors desitjos de pau -més commovedors que mai en un món esquinçat per les guerres- al poble de Déu, a les nacions, als Caps d’Estat i de Govern, els representants de les diferents religions i la societat civil.

No a la bogeria de la guerra

És una pau, de la qual parla el Papa, que passa també pel progrés de la ciència i de la tècnica, que “en la mesura que contribueix a un millor ordre de la societat humana”, condueix “a la millora de l’home i a la transformació del món”. Per contra, aquest mateix món que s’ha convertit en l’escenari d’una tercera guerra mundial a trossos “no necessita realment les noves tecnologies per contribuir al desenvolupament inic del mercat i del comerç d’armes, tot fomentant la bogeria de la guerra”. En fer-ho”, escriu el papa Francesc, “no només la intel·ligència, sinó el cor mateix de l’home, correran el risc de tornar-se cada cop més ‘artificials'”.

Assoliments extraordinaris
En el seu Missatge, Jorge Mario Bergoglio aplaudeix els “extraordinaris èxits de la ciència i de la tècnica”, gràcies als quals “s’han remeiat innombrables mals que afligien la vida humana i causaven grans patiments”. Alhora, aquests avenços tecnocientífics “estan posant en mans de l’home un vast ventall de possibilitats”, i algunes -adverteix el Papa- poden representar “un risc per la supervivència i un perill per la casa comuna”. “La llibertat i la convivència pacífica es veuen amenaçades quan els éssers humans sucumbeixen a la temptació de l’egoisme, de l’interès propi, de l’afany de lucre i de la set de poder”.

Sistemes d’armes autònomes letals

La mirada està posada a l’escenari internacional: “La possibilitat de dur a terme operacions militars mitjançant sistemes de control remot ha conduït a una percepció menor de la devastació que causen i de la responsabilitat del seu ús, contribuint a un enfocament encara més fred i distant de la immensa tragèdia de la guerra”, escriu el Papa. La investigació sobre tecnologies emergents en l’àmbit dels anomenats “sistemes d’armes autònomes letals”, inclòs l’ús bèl·lic de la intel·ligència artificial, és un “seriós motiu de preocupació ètica”.

Mai, diu, els sistemes d’armes autònomes no poden ser “subjectes moralment responsables”. Una màquina, per intel·ligent que sigui, “segueix sent una màquina”. És “imperatiu”, per tant, “garantir una supervisió humana adequada, significativa i coherent dels sistemes d’armament”.

“Tampoc podem ignorar la possibilitat que armes sofisticades caiguin en mans equivocades, facilitant, per exemple, atacs terroristes o intervencions destinades a desestabilitzar institucions governamentals legítimes”.

Aplanar el camí a la pau

Per tant, les aplicacions tècniques més avançades s’haurien d’utilitzar “per aplanar els camins de la pau”: “Des d’un punt de vista més positiu, si la intel·ligència artificial s’utilitzés per promoure el desenvolupament humà integral, podria introduir importants innovacions a l’agricultura, l’educació i la cultura, una millora del nivell de vida de nacions i pobles sencers, el creixement de la fraternitat humana i l’amistat social”, subratlla el Pontífex. En aquest sentit, parla d’una “algorètica”, com el “desenvolupament ètic dels algorismes” en l’experimentació, el disseny, la producció, la distribució i la comercialització. Fases en què “les institucions educatives i els responsables de la presa de decisions tenen un paper essencial per exercir”.

Un tractat sobre l’ús i el desenvolupament de la IA
Diverses vegades al seu Missatge, el Papa demana controls i supervisió d’aquests processos. I llança una proposta a la comunitat internacional perquè “treballi unida per tal d’adoptar un tractat internacional vinculant” que reguli el desenvolupament i l’ús de la intel·ligència artificial en les múltiples formes, tenint en compte la veu de totes les parts interessades, incloses les marginades al debat global.

Profundes transformacions

Moltes, massa, són de fet les “profundes transformacions” que les noves tecnologies ja han provocat en els àmbits de la comunicació, l’administració pública, l’educació, el consum, les interaccions personals i altres innombrables aspectes de la vida quotidiana.

“Les tecnologies que empren una multiplicitat d’algorismes poden extreure, a partir dels rastres digitals deixats a Internet, dades que permeten controlar els hàbits mentals i relacionals de les persones amb fins comercials o polítics, sovint sense coneixement, restringint el seu exercici conscient de la llibertat d’elecció”.

El tema del treball
El Missatge papal aborda finalment el tema del treball: “Tasques que abans eren prerrogativa exclusiva del treball humà estan sent ràpidament absorbides per les aplicacions industrials de la intel·ligència artificial”, escriu el Papa. També en aquest cas, “hi ha un risc substancial d’avantatge desproporcionat per a uns quants a costa de l’empobriment de molts”. La crida és perquè la comunitat internacional tingui com a “alta prioritat” el respecte de la dignitat dels treballadors i la importància de l’ocupació per al benestar econòmic de les persones, les famílies i les societats, la seguretat a l’ocupació i uns salaris justos .

Crida a les escoles i institucions

D’aquí també la crida a les institucions perquè eduquin en l’ús de la intel·ligència artificial: “Cal que els usuaris de totes les edats, però especialment els joves, desenvolupin una capacitat de discerniment en l’ús de les dades i continguts recollits a la web o produïts per sistemes d’intel·ligència artificial”, ha remarcat el papa Francesc. “Les escoles, les universitats i les societats científiques estan cridades a ajudar els estudiants i els professionals a assumir els aspectes socials i ètics del desenvolupament i de l’ús de la tecnologia.”

L’oració del Papa
Com a conclusió del Missatge, una pregària del bisbe de Roma per a l’Any Nou:

“Que el desenvolupament ràpid de formes d’intel·ligència artificial no augmenti les massa desigualtats i injustícies ja presents al món, sinó que ajudi a posar fi a guerres i conflictes, i a alleujar moltes formes de patiment que afligeixen la família humana.”

Et recomanem