Papa Leon al XIV-lea avertizează că pericolul unei Apocalipse AI este major

Vaticanul a avertizat cu privire la riscul unei Apocalipse declanşate de inteligenţa artificială (AI) cu ani înainte ca marile firme tehnologice americane să tragă un semnal de alarmă la Consiliul de Securitate al Naţiunilor Unite de miercuri – o îngrijorare pe care Leon al XIV-lea o plasează în centrul papalităţii sale, transmite joi Reuters.

Leon, care în luna mai le-a cerut liderilor mondiali să adopte reguli globale pentru supravegherea industriei, şi-a reînnoit avertismentele cu privire la AI la o reuniune de la Vatican joi şi se aşteaptă să facă acelaşi lucru vineri într-un discurs la sediul din Paris al organismului ONU pentru cultură şi educaţie, UNESCO, potrivit Agerpres.

„Acest lucru nu se întâmplă în ziua zero pentru Sfântul Scaun”, a declarat pentru Reuters reverendul Paolo Benanti, un important consilier al Vaticanului pe probleme de AI, referindu-se la apelurile recente pentru o încetinire a progresului acestei tehnologii care au fost susţinute de directorii generali ai companiilor Anthropic, OpenAI şi xAI, printre altele.

„Puterea transformatoare a AI ar putea produce o amploare a schimbărilor societale care este foarte greu de preconizat”, a spus Benanti, un academician italian care a participat recent la summitul AI găzduit de regele Charles al III-lea al Marii Britanii.

Reverendul a declarat că nu poate dezvălui detalii despre conţinutul discuţiilor confidenţiale ale summitului.

Într-un discurs adresat Academiei Pontificale de Ştiinţe, joi, papa Leon a spus că AI poate fi benefică pentru umanitate, dar a introdus „noi pericole pentru securitate şi pace internaţională”. El i-a îndemnat pe liderii globali să „guverneze cu înţelepciune” în supravegherea tehnologiei.

Leon, primul papă născut în SUA, a avertizat frecvent cu privire la posibilele pericole ale dezvoltării AI pe parcursul pontificatului său şi a discutat public pentru prima dată problema chiar din a treia zi de mandat.

În apelul său din mai, publicat ca primul său document major, Leon a avertizat că sistemele de AI răspândesc dezinformare, prioritizează conflictele şi ar putea conduce lumea pe calea unui război fără sfârşit.

Cardinalul Pietro Parolin, cel mai înalt diplomat al Vaticanului, a reiterat apelul lui Leon pentru reglementarea internaţională a industriei la un eveniment de la Roma săptămâna trecută, avertizând că ţările nu pot „merge singure” în privinţa acestei tehnologii.

„Viitorul umanităţii este cu adevărat în joc aici”, a subliniat Parolin. Lumea, a spus el, are nevoie „de implicarea tuturor în stabilirea unor reguli comune care pot guverna cu adevărat acest fenomen”.

Cofondatorul Anthropic, Chris Olah, a vorbit la evenimentul de lansare al Vaticanului pentru documentul papei din mai, cunoscut sub numele de enciclică.

Întrebat dacă Vaticanul este în dialog continuu cu vreo firmă de inteligenţă artificială, Benanti a subliniat natura descentralizată a bisericii globale şi a spus că unele discuţii sunt conduse de episcopi locali.

Pe 16 septembrie, conferinţa episcopală americană a declarat că a creat un nou grup de lucru pentru inteligenţă artificială, după ce mai mulţi dintre liderii săi s-au întâlnit cu directori ai companiilor tehnologice în acea zi.

„Dialogul s-a concentrat pe modalităţi de a menţine orice sistem de inteligenţă artificială în slujba umanităţii şi pe nevoia urgentă de a aborda pericolele reale şi prezente – pe care le prezintă o astfel de tehnologie”, se arată într-un comunicat.

Vaticanul a început să avertizeze cu privire la riscurile AI în 2019, găzduind două conferinţe în acel an despre posibilele pericole ale acestei tehnologii. Regretatul papă Francisc i-a avertizat pe participanţii de la unul dintre evenimente că dezinformarea răspândită de inteligenţa artificială ar putea declanşa un război mondial.

De asemenea, Vaticanul a colaborat în 2020 cu Microsoft, IBM, Organizaţia Naţiunilor Unite pentru Alimentaţie şi Agricultură şi guvernul italian pentru a lansa un apel la dezvoltarea unei inteligenţe artificiale care „nu are ca unic scop un profit mai mare sau înlocuirea treptată a persoanelor la locul de muncă”.

Papa Leon a cerut supravegherea în special a dezvoltării sistemelor de armament, cum ar fi cele utilizate în războiul Rusia-Ucraina. El a spus în enciclica sa că astfel de arme au avansat „practic dincolo de orice posibilitate umană de a le guverna”.

Pledoaria Vaticanului pe scena globală împotriva armelor autonome datează de zeci de ani, a spus Benanti, comparând dronele alimentate de inteligenţa artificială cu minele terestre care sunt nediscriminatorii în ceea ce priveşte ţintele lor.

Preotul a comparat avertismentele Vaticanului cu privire la riscurile inteligenţei artificiale cu modul în care papii au cerut de mult timp dezarmarea nucleară.

„Dacă armele nucleare pot distruge umanitatea, manipularea conţinutului generativ bazat pe inteligenţă artificială în spaţiile sociale poate distruge capacităţile oamenilor de a rămâne uniţi ca societate”, a spus el.

„Armele nucleare trebuie depozitate în interiorul instalaţiilor şi le poţi număra şi controla. Inteligenţa artificială nu este atât de vizibilă”, a mai punctat el.