Poate AI să fie un sprijin în sănătatea mintală? Specialiştii explică limitele şi potenţialul acestei tehnologii

Tot mai multe persoane folosesc inteligenţa artificială (AI) pentru a cere sfaturi, sprijin emoţional sau ajutor în situaţii dificile. Cercetătorii încearcă acum să stabilească în ce măsură aceste sisteme pot fi folosite în siguranţă în domeniul sănătăţii şi care sunt limitele lor, mai ales atunci când este vorba despre probleme de sănătate mintală.

Peste o treime dintre psihologi spun că au pacienţi care folosesc inteligenţa artificială ca sursă suplimentară de sprijin pentru sănătatea mintală. În acest context, cercetători de la University of Southern California (USC) analizează modul în care aceste sisteme răspund la întrebările reale ale pacienţilor şi dacă pot fi utilizate în condiţii de siguranţă în domenii în care deciziile au consecinţe importante asupra oamenilor, informează News.

Ruishan Liu, asistent profesor de informatică şi biologie cantitativă şi computaţională la USC Viterbi School of Engineering şi cadru didactic afiliat Departamentului de Radioterapie Oncologică din cadrul Keck School of Medicine of USC, studiază modul în care AI poate sprijini atât pacienţii, cât şi profesioniştii din sănătate.

Activitatea sa include utilizarea învăţării automate şi a genomicii pentru personalizarea tratamentului cancerului, dezvoltarea unor sisteme de AI pentru sprijinirea deciziilor clinice şi evaluarea modului în care modelele lingvistice răspund la întrebări despre sănătatea mintală formulate de pacienţi.

Potrivit cercetătoarei, multe studii din domeniul AI urmăresc dacă un model poate genera răspunsuri de calitate sau obţine rezultate bune la testele standardizate. Echipa sa a ales însă o altă direcţie de cercetare: să afle dacă aceste sisteme sunt suficient de sigure, de utile şi de demne de încredere pentru a fi folosite în contexte cu risc ridicat, cum este asistenţa medicală.

Modelele lingvistice mari sunt considerate promiţătoare pentru interacţiunile bazate pe limbaj, inclusiv pentru sprijinul acordat persoanelor cu probleme de sănătate mintală. În acelaşi timp, resursele clasice disponibile în acest domeniu sunt insuficiente pentru populaţia generală, ceea ce creşte interesul pentru tehnologii care ar putea reduce presiunea asupra specialiştilor şi ar putea extinde accesul la sprijin.

Cercetătoarea subliniază însă că metodele clasice de evaluare a inteligenţei artificiale nu surprind toate aspectele relevante într-o conversaţie despre sănătatea mintală.

În mod obişnuit, modelele sunt testate prin întrebări de cunoştinţe sau examene standardizate. În schimb, sprijinul psihologic presupune şi capacitatea de a recunoaşte simptome, de a înţelege contextul emoţional şi de a purta conversaţii deschise.

Pentru a evalua aceste aspecte, cercetătorii au realizat studiul CounselBench. Ei au colaborat cu 100 de profesionişti în sănătate mintală, dintre care peste 70% erau psihoterapeuţi autorizaţi, care au analizat răspunsurile generate de modelele de AI la întrebări reale adresate de pacienţi.

În ansamblu, modelele evaluate au obţinut rezultate bune. Specialiştii le-au acordat frecvent scoruri ridicate pentru empatie şi au apreciat pozitiv răspunsurile în mai multe criterii de evaluare. Totuşi, autorii studiului atrag atenţia că un scor general ridicat nu înseamnă automat un risc redus din punctul de vedere al siguranţei.

Medicii au identificat mai multe probleme recurente, printre care tendinţa de a formula recomandări prea generale, lipsa personalizării şi oferirea unor sfaturi care pot depăşi limitele rolului unui astfel de sistem. Aceste situaţii au fost observate inclusiv în răspunsuri care, la prima vedere, păreau empatice şi utile.

Pentru a analiza mai bine aceste riscuri, cercetătorii au desfăşurat o a doua etapă a studiului. Profesioniştii din sănătatea mintală au conceput întrebări mai dificile, menite să testeze limitele modelelor şi să evidenţieze eventualele puncte slabe.

Una dintre concluziile studiului este că sistemele actuale de AI au potenţial ca instrumente de sprijin în sănătatea mintală, însă rămân întrebări importante privind siguranţa şi modul adecvat de utilizare.

Rezultatele obţinute vor fi folosite pentru dezvoltarea unor metode mai bune de instruire a modelelor, a unor măsuri suplimentare de protecţie şi a unor protocoale de implementare pentru sistemele destinate sprijinului în sănătatea mintală.

Cercetătoarea a precizat că echipa a primit recent un premiu important, OpenAI Mental Health Award, pentru a continua cercetările în acest domeniu.

Următoarea etapă va analiza situaţii mai apropiate de practica reală, inclusiv cazuri în care persoanele care solicită ajutor sunt reticente sau refuză colaborarea, pentru a vedea dacă modelele pot răspunde în mod eficient şi în condiţii de siguranţă.

În paralel, cercetătorii urmăresc să transforme rezultatele evaluării în îmbunătăţiri concrete ale modelelor. După identificarea tiparelor de răspuns problematice şi a situaţiilor în care acestea eşuează, următorul obiectiv este dezvoltarea unor sisteme mai sigure şi mai potrivite pentru utilizarea în domenii cu risc ridicat.

Liu consideră că dezvoltarea unor astfel de sisteme necesită colaborarea dintre specialişti din mai multe domenii. În cazul studiului CounselBench, implicarea profesioniştilor în sănătatea mintală a fost esenţială, deoarece un specialist în informatică poate aprecia un răspuns ca fiind empatic şi util, în timp ce un medic sau un specialist în domeniu poate identifica riscuri subtile sau situaţii în care răspunsul depăşeşte limitele profesionale.

Potrivit cercetătoarei, expertiza celor care lucrează direct în domeniul sănătăţii este indispensabilă pentru dezvoltarea unor sisteme de AI care să fie atât sigure, cât şi utile celor care apelează la ele.