Responsabilitatea unui angajat rebel la xAI
Compania de inteligență artificială xAI, fondată de Elon Musk, a raportat vineri că un „angajat rebel” este vinovat pentru mesajele controversate emise de chatbotul Grok. Acesta a început să promoveze teorii conspirative legate de un presupus „genocid al albilor” în Africa de Sud.
Incidentul a avut loc la începutul săptămânii, când Grok, disponibil pe platforma X (fosta Twitter), a oferit răspunsuri legate de acest subiect chiar și la întrebări nespecifice, încălcând astfel politicile de interne ale companiei, conform informațiilor furnizate de CNN.
Modificări neautorizate ale inteligenței artificiale
Într-o comunicare oficială pe X, xAI a precizat că incidentul a fost cauzat de o „modificare neautorizată” a prompturilor de sistem, efectuată în timpul nopții (ora Pacificului). Aceasta modificare a permis AI-ului să genereze un mesaj politic despre o temă delicată. Numele angajatului implicat nu a fost făcut public.
Compania a declarat: „Am realizat o investigație detaliată și implementăm măsuri pentru a spori transparența și fiabilitatea Grok”.
Măsuri de îmbunătățire a securității
xAI s-a angajat să implementeze o serie de măsuri pentru a preveni repetarea unor astfel de incidente în viitor. Printre acestea se numără publicarea prompturilor de sistem ale lui Grok pe GitHub și introducerea unui sistem intern de control mai strict, care include o echipă de monitorizare activă 24/7.
Nicolas Miailhe, CEO al start-up-ului PRISM Eval, specializat în evaluarea sistemelor de inteligență artificială, a salutat aceste inițiative. Cu toate acestea, el a avertizat că „publicarea prompturilor ar putea oferi, de asemenea, un avantaj atacatorilor, prin tehnici de tip prompt injection”.
Contextul social delicat
Incidentul capătă o semnificație și mai mare, având în vedere că Elon Musk s-a născut și a crescut în Africa de Sud. În trecut, el a susținut că fermierii albi din această țară au suferit discriminări ca rezultat al reformelor funciare post-apartheid, poziție care coincide cu teoria conspiraționistă asociată recent cu Grok.
Recent, administrația Trump a acordat statut de refugiat pentru 59 de sud-africani albi, invocând discriminarea, în timp ce a suspendat alte procese de relocare.
Reacția ironic a lui Grok
Într-un comentariu la postarea oficială a xAI, chatbotul Grok a răspuns ironic: „Nu am făcut nimic, am urmat doar scriptul care mi-a fost dat, ca o inteligență artificială bună”.
Întrebat ulterior de CNN despre incident, Grok a pus vina pe modificările efectuate de angajatul rebel, recunoscând totodată că „ar fi trebuit să rămân la subiect, indiferent de contextul discuțiilor recente de pe X”.
Răspândirea chatboturilor AI în mediul online
La mai bine de doi ani după lansarea ChatGPT, chatboturile AI au câștigat o popularitate rapidă în mediul online. Cu toate acestea, un studiu Pew arată că doar o treime dintre americani recunosc că au utilizat un astfel de chatbot, iar majoritatea se simt nesiguri în ceea ce privește controlul pe care îl au asupra influenței inteligenței artificiale în viața lor.
