MISSATGE DEL SANT PARE FRANCESC
PER A LA 60a JORNADA MUNDIAL
DE LES COMUNICACIONS SOCIALS

«CUSTODIAR VEUS I ROSTRES HUMANS»

Estimats germans i germanes,

El rostre i la veu són trets únics, distintius, de cada persona; manifesten la seva identitat irrepetible i són l’element constitutiu de qualsevol encontre. Els antics ho sabien bé. Així, per a definir la persona humana, els antics grecs van emprar la paraula rostre (prósōpon), que etimològicament indica ‘allò que està a la vista, el lloc de la presència i de la relació’. El terme llatí persona (de per-sonare) inclou, en canvi, el so; no un so qualsevol, sinó la veu inconfusible d’algú.

El rostre i la veu són sagrats. Ens han estat donats per Déu, que ens ha creat a la seva imatge i semblança, i ens ha cridat a la vida amb la Paraula que Ell mateix ens ha adreçat. La Paraula va ressonar primer al llarg dels segles en les veus dels profetes, i després es va fer carn en la plenitud dels temps. Aquesta Paraula —aquesta comunicació que Déu fa d’ell mateix— l'hem poguda sentir i veure directament (cf. 1Jn 1,1-3), perquè es va fer conèixer en la veu i en el rostre de Jesús, Fill de Déu.

Custodiar rostres i veus humanes significa conservar aquest segell, aquest reflex indeleble de l’amor de Déu.

Des del moment de la seva creació, Déu ha volgut l’home com el seu interlocutor i, com diu sant Gregori de Niça,^[1] ha imprès en el seu rostre un reflex de l’amor diví, per tal que pugui viure plenament la humanitat mitjançant l’amor. Per tant, custodiar rostres i veus humanes significa conservar aquest segell, aquest reflex indeleble de l’amor de Déu. No som una espècie feta d’algoritmes bioquímics definits d’antuvi. Cadascun de nosaltres té una vocació insubstituïble i inimitable que sorgeix de la vida i que es manifesta precisament en la comunicació amb els altres.

La tecnologia digital, quan no complim amb aquesta custòdia, corre el risc de modificar radicalment alguns dels pilars fonamentals de la civilització humana, que a vegades donem per descomptats. Simulant veus i rostres humans, saviesa i coneixement, consciència i responsabilitat, empatia i amistat, els sistemes coneguts com a intel·ligència artificial no sols interfereixen en els ecosistemes informatius, sinó que també envaeixen el nivell més profund de la comunicació, el de la relació entre les persones.

El desafiament, per tant, no és tecnològic sinó antropològic. Custodiar els rostres i les veus significa, en darrera instància, cuidar-nos nosaltres mateixos. Acollir amb valentia, determinació i discerniment les oportunitats que ofereixen la tecnologia digital i la intel·ligència artificial no significa ocultar per a nosaltres mateixos els punts crítics, les opacitats, els riscos.

No renunciar al pensament propi

Des de fa temps hi ha múltiples proves que algoritmes projectats per a maximitzar la implicació en les xarxes socials —rendible per a les plataformes— premien emocions ràpides i penalitzen, en canvi, expressions humanes que necessiten temps, com l’esforç per a comprendre i la reflexió. Tancant grups de persones en bombolles de fàcil consens i fàcil indignació, aquests algoritmes debiliten la capacitat d’escolta i de pensament crític i augmenten la polarització social.

A això s’hi suma una confiança ingènuament acrítica en la intel·ligència artificial com “amiga” omniscient, dispensadora de qualsevol informació, arxiu de qualsevol memòria, “oracle” de qualsevol consell. Tot això pot desgastar encara més la nostra capacitat de manera analítica i creativa, de comprendre els significats, de distingir entre sintaxi i semàntica.

Encara que la IA pugui proporcionar suport i assistència en la gestió de tasques comunicatives, eludir l'esforç de pensar per nosaltres mateixos i conformar-nos amb una recopilació estadística artificial, a la llarga corre el risc d'erosionar les nostres capacitats cognitives, emocionals i comunicatives.

En els darrers anys, els sistemes d’intel·ligència artificial estan assumint cada vegada més el control de la producció de textos, música i vídeos. Gran part de la indústria creativa humana corre així el risc de ser desmantellada i substituïda per l’etiqueta “Powered by AI”, i convertirà les persones en mers consumidors passius de pensaments no pensats, de productes anònims, sense autoria, sense amor, mentre que les obres mestres del geni humà en el camp de la música, l’art i la literatura es redueixen a un mer camp d’entrenament per a les màquines.

La qüestió que ens importa, però, no és el que aconsegueix o aconseguirà fer la màquina, sinó que podem o podrem fer nosaltres, creixent en humanitat i coneixement, amb un ús savi d’instruments tan poderosos al nostre servei. Des de sempre, l’home s’ha vist temptat d’apropiar-se del fruit del coneixement sense l’esforç que suposa el compromís, la investigació i la responsabilitat personal. Això no obstant, renunciar al procés creatiu i cedir a les màquines les nostres funcions mentals i la nostra imaginació significa enterrar els talents que hem rebut per a créixer com a persones en relació amb Déu i amb els altres. Significa amagar el nostre rostre i silenciar la nostra veu.

Ser o fingir: simulació de les relacions i de la realitat

A mesura que ens desplacem pels nostres fluxos d’informació (feeds), cada vegada és més difícil saber si estem interactuant amb altres éssers humans o amb bots o virtual influencers. Les intervencions opaques d’aquests agents automatitzats influeixen en els debats públics i en les decisions de les persones. En particular, els chatbots basats en els debats públics i en grans models lingüístics, estan demostrant ser sorprenentment eficaços en la persuasió oculta, mitjançant una optimització contínua de la interacció personalitzada. L’estructura dialògica i adaptativa, mimètica, d’aquests models lingüístics és capaç d’imitar els sentiments humans i simular així una relació. Aquesta antropomorfització, que pot resultar fins i tot divertida, és al mateix temps enganyosa, sobretot per a les persones més vulnerables. Perquè els chatbots excessivament “afectuosos”, a més d’estar sempre presents i disponibles, poden convertir-se en arquitectes ocults dels nostres estats emocionals i, d’aquesta manera, envair i ocupar l’esfera de la intimitat de les persones.

Sense l’acceptació de l’alteritat no pot haver-hi ni relació ni amistat.

La tecnologia que s’aprofita de la nostra necessitat de relacionar-nos no sols pot tenir conseqüències doloroses per al destí de les persones, sinó que també pot malmetre el teixit social, cultural i polític de les societats. Això passa quan substituïm les relacions amb els altres per relacions amb IA entrenades per a catalogar els nostres pensaments i, per tant, per a construir al nostre voltant un món de miralls, on tot està fet “a la nostra imatge i semblança”. D’aquesta manera, ens privem de la possibilitat de trobar l’altre, que sempre és diferent de nosaltres i amb qui podem i hem d’aprendre a relacionar-nos. Sense l’acceptació de l’alteritat no pot haver-hi ni relació ni amistat.

Un altre gran desafiament que plantegen aquests sistemes emergents és el de la parcialitat (en anglès bias), que porta a adquirir i transmetre una percepció alterada de la realitat. Els models de la IA estan modelats per la visió del món dels qui els construeixen i, també, poden imposar formes de pensar que repliquen els estereotips i prejudicis presents en les dades de les quals es nodreixen. La manca de transparència en el disseny dels algoritmes, juntament amb la representació social inadequada de les dades, tendeix a mantenir-nos atrapats en xarxes que manipulen els nostres pensaments i perpetuen i aprofundeixen les desigualtats i les injustícies socials existents.

El risc és gran. El poder de la simulació és tan gran que la intel·ligència artificial també pot enganyar-nos amb la fabricació de “realitats” paral·leles, apropiant-se dels nostres rostres i de les nostres veus. Estem immersos en una multidimensionalitat, on cada vegada és més difícil distingir la realitat de la ficció.

A això s’hi suma el problema de la manca de precisió. Els sistemes que fan passar una probabilitat estadística per coneixement ens ofereixen, en realitat, com a molt, aproximacions a la veritat, que a vegades són autèntiques “al·lucinacions”. La manca de verificació de les fonts, juntament amb la crisi del periodisme de camp, que implica un treball continuat de recopilació i verificació d’informació en els llocs on passen els esdeveniments, pot afavorir un terreny encara més fèrtil per a la desinformació, provocant una creixent sensació de desconfiança, desconcert i inseguretat.

Una aliança possible

Darrere d’aquesta enorme força invisible que ens involucra a tots, hi ha només un grapat d’empreses, aquelles els fundadors de les quals han estat recentment presentats com els creadors de la “persona de l’any 2025”, és a dir, els arquitectes de la intel·ligència artificial. Això suscita una preocupació important pel control de l’oligopoli dels sistemes algorítmics i de la intel·ligència artificial capaços d’orientar subtilment els comportaments i fins i tot reescriure la història de la humanitat —inclosa la història de l’Església— sovint sense que ens n’adonem realment.

El desafiament que ens espera no és aturar la innovació digital, sinó guiar-la, i ser conscients del seu caràcter ambivalent. Correspon a cadascun de nosaltres alçar la veu en defensa de les persones humanes per tal que aquests instruments puguin realment ser integrats per nosaltres com aliats.

Aquesta aliança és possible, però necessita fonamentar-se en tres pilars: responsabilitat, cooperació i educació.

En primer lloc, la responsabilitat. Segons les funcions, aquesta pot traduir-se en honestedat, transparència, valentia, capacitat de visió, deure de compartir coneixements, dret a estar informat. Però, en general, ningú no pot eludir la seva responsabilitat davant el futur que estem construint.

Per als qui són a la cúspide de les plataformes online, això significa assegurar-se que les estratègies empresarials no estiguin guiades per l’únic criteri del màxim benefici, sinó també per una visió de futur que tingui en compte el bé comú de la mateixa manera que cadascun es preocupa pel benestar dels seus fills.

Als creadors i programadors de models d’IA se’ls demana transparència i responsabilitat social respecte als principis de planificació i als sistemes de moderació que hi ha a la base dels seus algoritmes i dels models dissenyats amb la finalitat d’afavorir un consentiment informat per part dels usuaris.

La mateixa responsabilitat s’exigeix també als legisladors nacionals i a les entitats reguladores supranacionals, a les quals competeix vetllar sobre el respecte de la dignitat humana. Una reglamentació adequada pot protegir les persones de crear vincles emocionals amb els chatbots i contenir la difusió de continguts falsos, manipuladors o confusos, preservant la integritat de la informació davant una simulació enganyosa d’ella mateixa.

El desafiament que ens espera no és aturar la innovació digital, sinó guiar-la, i ser conscients del seu caràcter ambivalent.

Les agències de notícies i els mitjans de comunicació no poden permetre que els algoritmes orientats a guanyar costi el que costi la batalla per uns segons més d’atenció, prevalguin damunt la fidelitat als seus valors professionals, orientats a la cerca de la veritat. La confiança del públic es guanya amb precisió i transparència, no amb la cerca de qualsevol mena d’implicació. Els continguts generats o manipulats per la IA han d’assenyalar-se i distingir-se clarament dels continguts creats per persones. Ha de protegir-se l’autoria i la propietat sobirana del treball dels periodistes i d’altres creadors de continguts. La informació és un bé públic. Un servei públic constructiu i significatiu no es fonamenta en l’opacitat, sinó en la transparència de les fonts, la inclusió de les parts implicades i un alt nivell de qualitat.

Tot som cridats a cooperar. Cap sector no pot afrontar per ell mateix el desafiament de guiar la innovació digital i la governança de la IA. Cal, per tant, crear mecanismes de protecció. Totes les parts interessades —des de la indústria tecnològica fins als legisladors, des de les empreses creatives fins al món acadèmic, des dels artistes fins als periodistes i als educadors— han d’implicar-se a construir i fer efectiva una ciutadania digital conscient i responsable.

A això mira l’educació: a augmentar les nostres capacitats personals de reflexió crítica; a avaluar la credibilitat de les fonts i els possibles interessos que hi ha darrere de la selecció d’informació que ens arriba; a comprendre els mecanismes psicològics que s’activen davant d’això;a permetre a les nostres famílies, comunitats i associacions elaborar criteris pràctics per a una cultura de la comunicació més sana i responsable.

Precisament per això és cada vegada més urgent introduir en els sistemes educatius de cada nivell també l’alfabetització en els mitjans de comunicació, en els mitjans d’informació i a la IA, que algunes institucions civils ja estan promovent. Com a catòlics, podem i hem d’aportar la nostra contribució perquè les persones, especialment els joves, adquireixin la capacitat de pensar críticament i creixin en la llibertat de l’esperit. Aquesta alfabetització també s'hauria d’integrar en iniciatives més àmplies d’educació permanent, i arribar també a les persones grans i als membres marginats de la societat, que sovint se senten exclosos i impotents davant els ràpids canvis tecnològics.

L’alfabetització en els mitjans de comunicació, d’informació i a la IA ajudarà tothom a no adaptar-se a la deriva antropomorfitzant d’aquests sistemes, sinó a tractar-los com a eines, a utilitzar sempre una validació externa de les fonts —que podrien ser imprecises o errònies— proporcionades pels sistemes d’IA, a protegir la seva privacitat i les seves dades coneixent els paràmetres de seguretat i les opcions d’impugnació. És important educar i educar-se a utilitzar la IA de manera intencional i, en aquest context, cuidar la pròpia imatge (foto i àudio), el propi rostre i la pròpia veu, per tal d’evitar que siguin usats en la creació de continguts i comportaments perjudicials com estafes digitals, ciberassetjaments, deepfakes que violen la privacitat i la intimitat de les persones sense el seu consentiment. Així com la revolució industrial exigia una alfabetització bàsica per tal que les persones poguessin reaccionar davant les novetats, la revolució digital també requereix una alfabetització digital (juntament amb una formació humanística i cultural) per a comprendre com els algoritmes modelen la nostra percepció de la realitat, com funcionen els prejudicis de la IA, quins són els mecanismes que determinen l’aparició de determinats continguts en els nostres fluxos d’informació (feeds), quins són i com poden canviar els suposats models econòmics de l’economia de la IA.

Necessitem que el rostre i la veu tornin a expressar la persona. Necessitem custodiar el do de la comunicació com la veritat més profunda de l’home, cap a la qual cal orientar també tota la innovació tecnològica.

En proposar aquestes reflexions, dono les gràcies als qui estan treballant per les finalitats aquí exposades i beneeixo de cor a tots els qui treballen pel bé comú amb els mitjans de comunicació.

Lleó pp XIV

Vaticà, 26 de gener de 2026, memòria de sant Francesc de Sales

^[1] «El fet de ser creats a imatge de Déu significa que, a l’home, des del moment de la seva creació, li ha estat imprès un caràcter real […]. Déu és amor i font d’amor; el Creador diví també ha posat aquest tret en el nostre rostre, per tal que mitjançant l’amor —reflex de l’amor diví— l’ésser humà reconegui i manifesti la dignitat de la seva naturalesa i la semblança amb el seu Creador» (cf. St. Gregori de Niça, La creazione dell’uomo: PG 44, 137).