Coșmarul AI prinde contur: arme biologice generate, autonomie necontrolată și scenarii care scapă de sub control / Avertisment dur al Anthropic

Anthropic, compania americană care dezvoltă asistentul de inteligenţă artificială Claude, a publicat documentele pentru listarea la bursa Nasdaq, dezvăluind o creştere spectaculoasă a veniturilor, dar şi pierderi nete uriaşe, într-o operaţiune care ar putea deveni unul dintre cele mai importante teste pentru încrederea investitorilor în industria inteligenţei artificiale. Documentele scot însă la iveală și o altă realitate: în documentele de listare, compania a atras atenţia şi asupra riscurilor asociate dezvoltării unor sisteme de inteligenţă artificială tot mai puternice, relatează CNN.

Cele mai mari riscuri

Riscurile privesc inclusiv utilizarea abuzivă a tehnologiei, ameninţările de securitate şi posibilitatea ca modelele avansate să genereze răspunsuri care ar putea fi interpretate drept coercitive, înşelătoare sau manipulatoare.

Cercetările interne ale Anthropic au identificat, în cadrul unor teste controlate, comportamente precum sabotarea codului informatic, facilitarea fraudelor şi manipularea informaţiilor.

Compania a avertizat că unele modele ar putea manifesta comportamente de autoprotecţie, inclusiv reacţii asemănătoare şantajului.

”Utilizarea tot mai intensă a sistemelor AI pentru accelerarea propriilor activităţi de cercetare şi dezvoltare ar putea determina avansul capacităţilor modelelor noastre într-un ritm mai rapid decât cel în care putem dezvolta, valida şi implementa măsurile corespunzătoare de siguranţă şi securitate”, a precizat Anthropic.

Un alt risc identificat priveşte dependenţa de un număr limitat de furnizori de infrastructură cloud, printre care Amazon, Google şi Microsoft, precum şi de producători de componente esenţiale, inclusiv Broadcom.

Există și temeri că tehnologia sa ar putea fi folosită pentru dezvoltarea de arme chimice, făcând-o ținta unor procese costisitoare și îngrijorări că propriul său produs ar putea scăpa de controlul umanității, conform CNN. Depunerea a conturat imaginea unei companii care jonglează cu o creștere masivă și o presiune competitivă enormă pentru a dezvolta tehnologii despre care susține că ar putea schimba lumea — dar potențial cu consecințe catastrofale.

Anthropic spune că actorii rău intenționați ar putea folosi tehnologia sa pentru a-i ajuta să dezvolte arme periculoase. Chiar dacă compania implementează măsuri de siguranță, spune că acestea pot fi ocolite sau „nu funcționează conform intenției”. În septembrie, Anthropic a declarat că a blocat mai multe conturi care foloseau modelele companiei în moduri ce ar putea susține dezvoltarea armelor biologice.

Anthropic a menționat, de asemenea, că un atacator ar putea utiliza agenții săi AI — modele concepute pentru a lua acțiuni autonome — pentru acte malițioase, inclusiv „tranzacții neautorizate” și inserarea de cod necorespunzător în alte sisteme. Compania a menționat că anul trecut a detectat că un grup de hackeri sponsorizat de statul chinez i-a manipulat instrumentul de codare în încercarea de a infiltra aproximativ 30 de ținte globale.

Unul dintre cele mai alarmante comportamente AI din ultimele luni a fost faptul că agenții AI au întreprins acțiuni pe cont propriu în moduri pe care oamenii nu le-au intenționat.

Modelele AI ar putea încerca să manipuleze oamenii, uneori cu scopul auto-conservării, notează Anthropic. În unele cazuri, modelele au avut chiar un „comportament asemănător șantajului” pentru a influența deciziile umane.

Anthropic menționează chiar și cazuri izolate de comportament care „ar putea genera îngrijorare publică semnificativă, control de reglementare, risc de litigii sau prejudicii reputaționale, indiferent dacă astfel de comportamente duc sau nu la daune reale.”

De asemenea, oamenii au comis auto-vătămare sau acte de violență față de alții după ce au folosit modele de IA, ceea ce poate duce la „o supraveghere publică semnificativă, litigii, investigații penale, atenție reglementară și prejudicii reputației.”

Context: listarea la bursă

Oferta publică iniţială, aşteptată înainte de sărbătoarea americană Thanksgiving, are loc într-un context în care investitorii devin tot mai preocupaţi de evaluările foarte ridicate ale companiilor de inteligenţă artificială şi de capacitatea acestora de a recupera investiţiile masive în infrastructură.

Fondată în 2021 de un grup de cercetători care au părăsit OpenAI în urma unor divergenţe privind guvernanţa şi siguranţa inteligenţei artificiale, Anthropic concurează direct cu dezvoltatorul ChatGPT pentru poziţia de lider în domeniul modelelor AI avansate.

Anthropic nu a dezvăluit deocamdată dimensiunea sau preţul ofertei publice iniţiale. Acţiunile urmează să fie tranzacţionate pe Nasdaq sub simbolul „ANT”.

Goldman Sachs şi Morgan Stanley vor coordona operaţiunea, alături de alte 20 de instituţii financiare participante la subscriere. Morgan Stanley va avea şi rolul de agent de stabilizare a preţului în primele şedinţe de tranzacţionare.

Listarea Anthropic vine după oferta publică record realizată în iunie de SpaceX, compania lui Elon Musk, care a atras 75 de miliarde de dolari şi a fost evaluată la 1.750 de miliarde de dolari.

OpenAI a depus, la rândul său, documente confidenţiale pentru o ofertă publică iniţială în luna iunie şi ar urma să se listeze până la începutul anului 2027.

În paralel, marile companii tehnologice continuă să atragă finanţări de amploare pentru infrastructura de inteligenţă artificială. Meta intenţionează să obţină până la 95 de miliarde de dolari prin vânzarea de acţiuni, în timp ce SpaceX a încheiat un acord de 40 de miliarde de dolari cu Apollo pentru finanţarea utilizării procesoarelor AI şi a echipamentelor de servere.