Avertisment privind pericolele inteligenței artificiale: Anthropic a blocat tentative de folosire a AI pentru dezvoltarea armelor biologice

Compania Anthropic transmite că a identificat și a întrerupt încercările de a utiliza modelul său de inteligență artificială pentru „activități rău intenționate” care ar putea sprijini dezvoltarea de arme biologice.

Această afirmație a fost făcută într-un raport recent de informații despre amenințări al firmei, conform Mediafax.

Este cea mai recentă dintr-o serie tot mai mare de avertismente din partea cercetătorilor în domeniul inteligenței artificiale și a experților din industrie, cu privire la potențialele riscuri ale tehnologiei pentru umanitate.

Avertismentul a determinat apeluri la acțiune. Senatorul american Bernie Sanders a cerut o pauză a dezvoltării inteligenței artificiale avansate și o interzicere a superinteligenței artificiale, potrivit BBC.

Trump vrea în continuare ca industria IA să evolueze

Președintele american Donald Trump a respins până acum astfel de temeri. El a declarat joi că este îngrijorat că „dacă nu câștigăm în domeniul inteligenței artificiale, vom fi puși într-o poziție foarte proastă”.

Alte companii de inteligență artificială publică rapoarte similare cu cele ale Anthropic.

Google a transmis marți că o persoană a încercat să utilizeze instrumentul său de inteligență artificială Gemini pentru a „completa un ghid tehnic pas cu pas pentru sintetizarea agenților biologici transformați în arme”.

Modelul de inteligență artificială Claude al Anthropic a fost folosit și într-o campanie de spionaj cibernetic legată de Rusia și de o instituție de propagandă iraniană, potrivit raportului Anthropic citat de BBC.

Cazuri diverse de atacuri cibernetice

Cazurile îngrijorătoare detectate în ultimele opt luni au variat de la aplicații false de dating și escrocherii cu Wi-Fi în hoteluri, până la sisteme de supraveghere concepute pentru a identifica disidenții.

Anthropic a acuzat, de asemenea, firmele chineze de inteligență artificială că încearcă să reproducă capacitățile lui Claude, potrivit aceleiași surse.

IA, folosită pentru posibila dezvoltare a armelor biologice

Pe lângă detectarea utilizării modelelor sale pentru operațiuni cibernetice și de influență, supraveghere, escrocherii și fraude și dezvoltarea de arme, Anthropic a declarat că a blocat oamenii de știință care au folosit inteligența artificială în moduri care ar putea sprijini dezvoltarea de arme biologice.

Raportul a evidențiat „cinci studii de caz ale unor actori care utilizează modelele noastre în moduri care ar putea sprijini dezvoltarea armelor biologice”.

Utilizarea biologică abuzivă, a afirmat acesta, este „unul dintre cele mai grave riscuri ale modelului de inteligență artificială de frontieră”. Fără măsurile de siguranță corecte, astfel de capabilități „ar putea avea consecințe catastrofale”, a precizat Anthropic.