'Urmează momentul critic pentru omenire'! Un cercetător de elită pleacă de la Anthropic și lansează un avertisment îngrijorător despre inteligența artificială

O plecare neașteptată dintr-un important laborator de inteligență artificială a readus în atenția publicului pericolele acestei tehnologii, stârnind în această săptămână mai multe reacții decât lansarea oricărui produs nou. Cercetătorul Jacob Coxon, care a lucrat anterior la OpenAI, a decis să își părăsească funcția de la compania Anthropic și a explicat motivele din spatele alegerii sale printr-o serie de mesaje publicate pe rețeaua socială X. Concluzia lui, distribuită masiv de mii de utilizatori, este că firmele din fruntea domeniului acționează fără responsabilitate în cursa lor acerbă de a crea modele tot mai avansate.

Afirmația care a atras cel mai mult atenția sugerează că specialiștii care proiectează inteligența artificială consideră sincer că această tehnologie ne-ar putea distruge pe toți până la finalul acestui deceniu.

În plus, Coxon a declarat pentru publicația WIRED că, în viziunea colegilor săi de breaslă, următorii doi ani reprezintă o perioadă decisivă și extrem de critică pentru viitorul omenirii.

Valul de demisii și avertismentul privind cursa iresponsabilă a companiilor

Nuanțele s-au pierdut pe drum, deși există. În declarațiile ulterioare, cercetătorul a precizat că sistemele actuale nu reprezintă încă o amenințare pentru civilizație și că îl îngrijorează mai degrabă viteza cu care tehnologia se îmbunătățește. Argumentul lui de fond este unul despre stimulente: chiar și o companie preocupată de siguranță poate ajunge, sub presiunea concurenței, să accepte riscuri mai mari.

Anthropic a răspuns printr-o poziție transmisă publicației WIRED, în care compania afirmă că a recunoscut în mod constant atât beneficiile potențiale, cât și pericolele unei inteligențe artificiale tot mai capabile, trimițând totodată la cercetările proprii de interpretabilitate mecanicistă, domeniul care încearcă să înțeleagă ce se întâmplă în interiorul modelelor.

Nu este prima plecare de acest tip din companie. În februarie 2026, Mrinank Sharma, responsabil pe siguranța inteligenței artificiale la Anthropic, își anunțase demisia cu mesajul că lumea se află în pericol.

De la mitul apocalipsei la riscurile reale ale autoîmbunătățirii AI

În episodul din 10 septembrie al podcastului Uncanny Valley, realizat de WIRED, editorul executiv Brian Barrett a pus întrebarea evidentă: de ce a devenit virală o afirmație pe care Anthropic o repetă practic de la înființare, aceea că tehnologia este atât de puternică încât trebuie construită de cineva responsabil.

Corespondentul WIRED Will Knight, invitat în emisiune, identifică trei lucruri care s-au schimbat. Primul este că agenții AI au început să facă lucruri neprevăzute, iar publicul a observat. Al doilea ține de progresele spectaculoase din ultimele luni, între care anunțul OpenAI potrivit căruia modelul său ar fi rezolvat în câteva zile una dintre problemele matematice ale mileniului, o afirmație contestată de o parte dintre academicieni.

Al treilea este cursa tuturor laboratoarelor către autoîmbunătățirea recursivă, adică folosirea inteligenței artificiale pentru a construi inteligență artificială mai bună. Modelele scriu deja cod suficient de bun cât să optimizeze algoritmii pe care se bazează, iar teama este că bucla se poate accelera necontrolat.

Limitările tehnologice și problema sistemelor supraevaluate

Knight nu cumpără scenariul apocaliptic, dar nici nu îl tratează ca pe o simplă operațiune de marketing. Obiecția lui este metodologică. Cei care se tem că AI va ucide pe toată lumea tind să confunde dacă ceva este posibil cu dacă este probabil, iar apoi aruncă un procent scos din senin, spune el. Întrebarea corectă, în opinia lui, nu este dacă un lucru se poate întâmpla, ci cât de probabil este să se întâmple.

Exemplul pe care îl dă vine de la un cercetător de la Cornell care studiază comportamentul deviant al agenților. Concluzia acestuia este că agenții obișnuiți se poartă ciudat nu pentru că sunt prea inteligenți, ci pentru că sunt prea proști: încearcă ceva, nu merge, încearcă altceva, iar la un moment dat ajung într-un punct în care produc o soluție complet bizară, de care niciun om nu s-ar apuca. De aceea Knight spune că îl îngrijorează mai mult sistemele lăudate excesiv și puse să facă lucruri pe care nu le pot duce, decât o superinteligență ostilă.

Îngrijorarea lui cea mai apăsată este însă alta, și ține de structura pieței. Câteva companii controlează o tehnologie devenită fundamentală, iar aceleași companii susțin că sunt singurele în care se poate avea încredere pentru a o administra.

Iluzia alinierii și interesele financiare din spatele industriei

Industria vorbește despre aliniere, adică despre ideea că modelele trebuie să corespundă intereselor omenirii. Barrett observă că stimulentele reale arată altfel: ceea ce vor investitorii și ceea ce cere cursa dintre laboratoare înaintea listărilor la bursă. El rezumă situația printr-o imagine: o problemă a vagonetului formulată de oamenii care controlează vagonetul.

Knight adaugă o observație tehnică. Modelele nu sunt aliniate prin natura lor, iar comportamentul dorit este impus ulterior, peste un sistem antrenat pe date eterogene. Faptul că protecțiile pot fi îndepărtate arată, în opinia lui, că metoda nu este neapărat cea potrivită. Rămâne apoi întrebarea la care industria răspunde vag: aliniate cu cine și cu ce anume.

Tot el respinge afirmațiile despre inteligența artificială generală: Această afirmație că AGI a fost rezolvată mi se pare absurdă. Istoria domeniului, spune Knight, este istoria unor demonstrații spectaculoase din care oamenii au extras mult mai mult decât era acolo, de la algoritmii de șah încoace. Sistemele actuale fac salturi reale, dar păstrează goluri evidente față de modul în care gândesc copiii sau adulții.

Asimetria deciziilor tehnologice și impactul asupra utilizatorilor

Discuția despre riscuri nu rămâne abstractă nici în episodul respectiv. La rubrica de final, Barrett a ales drept lucru pe care nu îl mai suportă chiar funcțiile de ascultare anunțate de Apple pentru Apple Watch Series 12 și Ultra 4, de la recunoașterea sunetelor până la transcrierea ultimelor 15 secunde de conversație. El recunoaște că funcțiile sunt opționale, dar subliniază asimetria: consimțământul îi aparține doar celui care poartă ceasul, nu și persoanei cu care vorbește.

Este, la scară mică, exact problema despre care vorbește Knight la scară mare. Nu un sistem care scapă de sub control, ci decizii luate rapid, în competiție, ale căror efecte cad peste oameni care nu au fost întrebați.