EXCLUSIV | Poate o mașină decide cine trăiește și cine moare? Răspunsul ICRC pentru STIRIPESURSE.RO privind armele autonome și Inteligența Artificială

Un interviu realizat de Dr. Adrian Leonard Mociulschi

După apelul comun al ONU și al Comitetului Internațional al Crucii Roșii (ICRC), care avertizează asupra riscurilor asociate armelor autonome și solicită noi reguli internaționale pentru utilizarea acestora, dezbaterea privind rolul Inteligenței Artificiale în războiul viitorului a revenit în prim-planul agendei internaționale. Pe măsură ce sistemele militare capabile să selecteze și să atace ținte cu un grad tot mai ridicat de autonomie devin o realitate, guvernele, organizațiile internaționale și experții în drept umanitar discută despre limitele care trebuie impuse acestor tehnologii.

Georgia Hinds este consilier juridic în cadrul Comitetului Internațional al Crucii Roșii (ICRC), unde lucrează pe teme legate de dreptul internațional umanitar, tehnologiile emergente și sistemele de arme autonome. În interviul de mai jos, vorbește despre motivele pentru care ICRC consideră că anumite arme autonome trebuie interzise, iar utilizarea altora trebuie strict limitată pentru a păstra controlul și responsabilitatea umană asupra folosirii forței.

Adrian Leonard Mociulschi: Comitetul Internațional al Crucii Roșii și Organizația Națiunilor Unite au avertizat că omenirea se apropie de o „linie roșie morală”, pe măsură ce sistemele de arme autonome devin tot mai capabile să identifice și să atace ființe umane fără intervenție umană directă. În centrul acestei dezbateri se află principiul potrivit căruia deciziile care implică viața și moartea trebuie să rămână supuse judecății și responsabilității umane.

De ce este esențială menținerea unui control uman semnificativ asupra sistemelor de arme autonome și asupra utilizării forței, din perspectiva demnității umane, a responsabilității morale și a dreptului internațional umanitar?

Georgia Hinds: Menținerea controlului uman asupra folosirii forței este esențială pentru respectarea dreptului internațional. Dreptul internațional umanitar impune ca, atunci când sunt folosite arme, oamenii să poată anticipa, controla și limita efectele acestora. Armele autonome fac acest lucru mai dificil, deoarece detaliile privind cine sau ce va fi vizat, precum și locul și momentul în care vor avea loc atacurile, depind de modul în care senzorii sistemului reacționează la factori de mediu care se pot schimba rapid în timpul unui conflict armat.

Acest lucru nu înseamnă neapărat că oamenii trebuie să controleze direct arma în orice moment. Înseamnă însă că anumite tipuri de arme autonome nu vor putea fi niciodată compatibile cu dreptul internațional și, prin urmare, trebuie interzise. Este cazul sistemelor care funcționează în mod imprevizibil, de exemplu al celor bazate pe forme complexe și opace de Inteligență Artificială, de tip „black box”, care operează în moduri ce nu pot fi anticipate sau explicate.

În cazul altor sisteme autonome, comandanții și operatorii trebuie să stabilească limite stricte privind parametrii de funcționare, inclusiv tipurile de ținte care pot fi vizate, zona și durata operațiunii, precum și posibilitatea dezactivării sistemului, pentru a menține controlul asupra modului în care este aplicată forța.

Există, de asemenea, preocupări etice serioase legate de perspectiva delegării către mașini a deciziilor privind viața și moartea. Uciderea unor persoane pe baza unui proces decizional automatizat ar submina simultan atât responsabilitatea și capacitatea de decizie a celui care utilizează forța, cât și demnitatea umană a persoanei împotriva căreia aceasta este folosită.

Adrian Leonard Mociulschi: Dacă anumite sisteme autonome riscă să reducă controlul și responsabilitatea umană asupra folosirii forței, apare inevitabil întrebarea dacă actualele reguli internaționale sunt suficiente. Dezvoltarea Inteligenței Artificiale, a roboticii și a sistemelor de arme autonome avansează mai repede decât multe dintre cadrele juridice și mecanismele de guvernanță existente, în timp ce dreptul internațional umanitar oferă de mult timp protecții esențiale pentru civili și stabilește limite privind desfășurarea războiului.

De ce consideră ICRC că sunt necesare urgent noi reguli internaționale privind sistemele de arme autonome și ce riscuri umanitare asociază organizația cu diminuarea rolului uman în deciziile de identificare a țintelor și de atac?

Georgia Hinds: Dreptul internațional umanitar existent reglementează deja și limitează utilizarea armelor autonome. De exemplu, acesta interzice sistemele de arme autonome care sunt în mod inerent nediscriminatorii. Cu toate acestea, ICRC consideră că regulile actuale nu oferă răspunsuri complete la toate problemele umanitare, juridice și etice ridicate de apariția armelor autonome.

În ultimul deceniu, în cadrul discuțiilor desfășurate sub egida Convenției privind anumite arme convenționale (CCW), statele au exprimat opinii diferite cu privire la modul exact în care dreptul internațional umanitar trebuie aplicat pentru a stabili limite și cerințe privind proiectarea și utilizarea armelor autonome. Din acest motiv, suntem convinși că sunt necesare urgent noi reguli care să aducă claritate juridică și să răspundă riscurilor umanitare și preocupărilor etice fundamentale. Reguli noi, cu caracter obligatoriu din punct de vedere juridic, ar oferi predictibilitate și stabilitate.

Aceste sisteme sunt deja dezvoltate și utilizate, iar cursa pentru creșterea gradului de autonomie al sistemelor de armament este în plină desfășurare. În absența unor reguli clare și specifice, aceste evoluții pot conduce la practici care erodează protecțiile pe care dreptul internațional umanitar și principiile umanității le oferă victimelor conflictelor armate.

ICRC identifică sistemele de arme autonome drept una dintre cele mai îngrijorătoare aplicații ale Inteligenței Artificiale în război, din cauza implicațiilor lor umanitare, juridice și etice. Aceste sisteme sporesc riscul escaladării conflictelor, al producerii de victime civile și al încălcării dreptului internațional umanitar. În lipsa unor măsuri rapide, proliferarea lor va face reglementarea mult mai dificilă și va crește probabilitatea utilizării abuzive de către actori nestatali sau organizații criminale.

ICRC și ONU solicită adoptarea unui instrument juridic obligatoriu care să interzică sistemele inerent imprevizibile sau concepute pentru a viza direct ființe umane și să impună restricții stricte pentru celelalte sisteme autonome, astfel încât utilizarea acestora să rămână compatibilă cu dreptul internațional umanitar.

A șaptea Conferință de Revizuire a Convenției privind anumite arme convenționale (CCW), programată pentru noiembrie 2026, reprezintă o oportunitate crucială pentru ca statele să înceapă negocierile în vederea adoptării unui astfel de instrument. Statele trebuie să acționeze acum pentru a se asigura că generațiile viitoare vor moșteni o lume în care folosirea forței rămâne sub controlul judecății și responsabilității umane.

Adrian Leonard Mociulschi: Necesitatea unor reguli internaționale mai clare pentru armele autonome ridică însă și o întrebare mai amplă, care depășește sfera reglementării juridice și privește direcția în care dorim să evolueze relația dintre tehnologie și umanitate. Inteligența Artificială oferă oportunități considerabile în domenii precum medicina, intervenția în caz de dezastre, cercetarea științifică și acțiunea umanitară. Totuși, aceleași progrese tehnologice pot spori autonomia sistemelor militare și pot remodela modul în care sunt purtate conflictele armate.

Privind spre viitor, ce principii ar trebui să ghideze relația dintre Inteligența Artificială, sistemele de arme autonome și umanitate, astfel încât inovația tehnologică să servească securității umane, păstrând în același timp autonomia decizională, responsabilitatea, demnitatea umană și respectul pentru dreptul internațional umanitar?

Georgia Hinds: ICRC are o lungă istorie în evaluarea impactului noilor tehnologii asupra războiului. De-a lungul secolului XX, am analizat efectele gazelor toxice după ororile Primului Război Mondial, ale armelor incendiare, munițiilor cu dispersie și minelor antipersonal.

De fiecare dată când o nouă tehnologie și-a făcut apariția pe câmpul de luptă, au existat voci care au susținut că aceasta va face războiul „mai uman”, mai puțin letal sau mai precis. De exemplu, atunci când au fost dezvoltate primele arme chimice, unii afirmau că acestea ar reprezenta un mijloc mai blând de neutralizare a adversarului.

În realitate însă, calitățile promovate ale noilor tehnologii nu au condus la mai multă precizie, distincție și precauție, ci la accelerarea, amplificarea și escaladarea distrugerii, cu consecințe devastatoare pentru populația civilă. Dacă privim numeroasele conflicte aflate în desfășurare în prezent, în care sunt folosite arme sofisticate din punct de vedere tehnologic, nu observăm rezultate mai bune pentru civili, ci vedem distrugeri pe scară largă și inacceptabile.

Aceste lecții ale istoriei ne obligă să analizăm cu luciditate militarizarea Inteligenței Artificiale și afirmațiile potrivit cărora aceasta ar putea reduce suferința civililor. ICRC subliniază necesitatea unei abordări centrate pe om în ceea ce privește utilizarea AI în domeniul militar, o abordare care să aibă în vedere persoanele afectate de aceste tehnologii și să garanteze că cei care folosesc sisteme bazate pe AI își pot respecta obligațiile legale și etice.

Controlul și judecata umană trebuie păstrate în toate deciziile care pot afecta viața și demnitatea persoanelor implicate în conflicte armate. Inovația tehnologică trebuie să servească umanității, nu să o pună în pericol.

Adrian Leonard Mociulschi: Vă mulțumim pentru timpul acordat și pentru răspunsurile oferite cititorilor ȘTIRIPESURSE.RO. Mulțumim, de asemenea, Comitetului Internațional al Crucii Roșii (ICRC) pentru disponibilitate și pentru facilitarea acestui dialog pe o temă de importanță majoră pentru viitorul umanității, al tehnologiei și al dreptului internațional umanitar.

În loc de concluzii

Dezbaterea privind armele autonome nu privește doar viitorul tehnologiei, ci și limitele pe care societatea este dispusă să le accepte atunci când este vorba despre utilizarea forței. Din perspectiva ICRC, menținerea controlului și a responsabilității umane asupra deciziilor care implică viața și moartea reprezintă o condiție esențială pentru protejarea demnității umane și respectarea dreptului internațional umanitar în era Inteligenței Artificiale.

Un interviu realizat de Dr. Adrian Leonard Mociulschi