Descoperirea care poate schimba tot ce știm despre IA: Conștiința nu ar avea legătură cu inteligența

Conștiința ar putea avea mai puțin de-a face cu inteligența decât se credea până acum. Un cercetător susține că aceasta ar fi apărut, în urma evoluției, ca o modalitate prin care organismele își gestionează conflictele interne și își asigură supraviețuirea. În această perspectivă, sistemele de inteligență artificială de astăzi nu ar fi conștiente, deoarece nu au propriile interese de care să depindă supraviețuirea lor.

Ideea că o inteligență suficient de avansată ar ajunge inevitabil să dezvolte conștiință este una frecvent întâlnită în cultura populară. De la roboții umanoizi din filmele science-fiction până la scenariile despre o IA care ar prelua controlul asupra oamenilor, inteligența și conștiința sunt adesea tratate ca două etape ale aceluiași proces.

Cercetătorul Jeff Stibel propune însă o explicație diferită. Într-un studiu publicat în Frontiers in Neuroscience, acesta susține că inteligența și conștiința au funcții distincte și că apariția conștiinței ar fi fost legată de o altă presiune fundamentală: necesitatea organismelor de a-și menține propria existență într-un mediu instabil.

„La nivel proximal, cogniția și conștiința sunt diferite”, explică Stibel pentru Popular Mechanics. Potrivit cercetătorului, cogniția are rolul de a construi o reprezentare cât mai corectă a lumii, de a anticipa ce urmează să se întâmple și de a identifica semnalele relevante.

Conștiința ar avea însă o altă misiune: gestionarea conflictelor interne ale unui sistem a cărui supraviețuire este în joc.

Inteligența nu înseamnă automat conștiință

Stibel separă ceea ce numește cogniție de o a doua capacitate, controlul. Acesta se referă la toate mecanismele prin care un organism își menține viabilitatea.

Cercetătorul identifică trei niveluri ale acestui control.

Primul este proto-controlul, prin care un organism își păstrează integritatea și stabilește o graniță între ceea ce îi aparține și ceea ce se află în exterior.

Al doilea este meta-controlul, care gestionează conflictele dintre cerințe interne diferite. Un organism poate, de exemplu, să aibă simultan nevoie de hrană și de odihnă și să fie nevoit să decidă ce prioritate acordă fiecăreia.

Al treilea nivel este ceea ce Stibel numește „settling”, adică o formă de reglare care integrează aceste conflicte la nivelul întregului organism și le raportează la propria sa existență.

Potrivit teoriei sale, tocmai acest ultim nivel reprezintă conștiința.

„Sentimentul este implementarea”, afirmă cercetătorul.

Și bacteriile pot „înțelege” mediul fără să fie conștiente

Pentru a explica diferența dintre inteligență și conștiință, Stibel folosește inclusiv exemplul bacteriilor.

Fără creier și fără sistem nervos, bacteriile pot reacționa la schimbările din mediul înconjurător. Ele pot urmări, de exemplu, un gradient de glucoză, deplasându-se către o sursă de hrană.

Acest comportament presupune o formă rudimentară de procesare a informației. În același timp, bacteriile își mențin integritatea prin membrana care separă interiorul celulei de mediul exterior.

Cu toate acestea, faptul că un organism poate procesa informații și poate reacționa eficient la mediul înconjurător nu înseamnă neapărat că are o experiență conștientă.

Aceeași distincție poate fi aplicată și în cazul inteligenței artificiale.

De ce ChatGPT și alte sisteme de IA nu ar fi conștiente

Modelele lingvistice de mari dimensiuni, precum ChatGPT sau Gemini, pot procesa cantități uriașe de informații și pot rezolva sarcini complexe. Ele nu își stabilesc însă singure scopurile fundamentale.

Obiectivele lor sunt definite de oameni, iar modul în care răspund este determinat de arhitectura, antrenarea și regulile sistemului.

În teoria lui Stibel, acest lucru este esențial. Un sistem poate fi foarte inteligent și totuși să nu fie conștient.

Cercetătorul nu exclude însă posibilitatea ca o IA să ajungă vreodată să dezvolte conștiință. Faptul că un sistem este construit de oameni nu ar împiedica, în sine, apariția acestei proprietăți.

Diferența ar fi că o astfel de IA ar trebui să aibă propriile interese și să fie nevoită să își mențină existența în mod independent.

Cu alte cuvinte, simpla creștere a inteligenței artificiale nu ar fi suficientă.

Cum ar putea fi testată teoria

Stibel propune și o serie de teste prin care teoria sa ar putea fi verificată.

Unul dintre ele ar presupune menținerea constantă a informațiilor primite de un sistem, în timp ce sunt modificate alte condiții, precum întârzierile sau conflictele dintre sarcini. Cercetătorii ar putea observa astfel dacă aceste conflicte determină schimbări specifice în procesarea informației.

Alte teste ar urmări modul în care atenția, memoria și performanța motorie se modifică în raport unele cu celelalte. Dacă aceste funcții sunt perturbate separat sau împreună, cercetătorii ar putea obține indicii despre existența unui mecanism care le integrează.

Un alt criteriu important ar fi apariția unei forme de auto-model, prin care sistemul să își reprezinte propria existență și să țină cont de consecințele propriilor acțiuni.

În cazul inteligenței artificiale, întrebarea decisivă ar fi dacă un agent poate dezvolta astfel de mecanisme atunci când este pus în situații în care propria funcționare și resursele de care depinde sunt amenințate.

Conștiința ar avea nevoie de „mize” proprii

În concluzia teoriei sale, Stibel susține că o formă de conștiință ar putea apărea în cazul unor agenți capabili să își mențină singuri existența, să funcționeze în condiții reale de resurse limitate și să își ajusteze permanent comportamentul în funcție de consecințele propriilor acțiuni.

„Conștiința ar trebui să fie posibilă”, susține cercetătorul, „dar numai la agenții care trebuie să se mențină pe ei înșiși și condițiile de care depind operațiunile lor, să opereze în limite reale de resurse, să utilizeze un automodel funcțional și să acționeze în bucle închise unde consecințele schimbă viabilitatea viitoare.”

Teoria nu demonstrează că inteligența artificială nu poate deveni niciodată conștientă. Ea propune însă o altă întrebare decât cea folosită de obicei în discuțiile despre IA: nu cât de inteligent este un sistem, ci dacă are ceva de pierdut.

În această perspectivă, o IA care doar execută obiective stabilite de oameni nu ar avea încă motivul fundamental care, potrivit lui Stibel, a făcut posibilă apariția conștiinței în organismele vii.