Urmărește A1 pe DiscoverLucrarea se numește „The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It”, iar autorii sunt Valen Tagliabue, Leonard Dung și Cameron Berg.
Cercetătorii au încercat să determine dacă modelele AI reprezintă intern conceptul de durere într-un mod care poate fi separat de alte concepte precum frica, tristețea sau o stare negativă generică.
În acest sens, au fost analizate 25 de modele AI open-weight, din cinci familii diferite, cu dimensiuni cuprinse între 2 și 72 de miliarde de parametri. Au construit un set de exemple referitoare la cinci categorii de durere: fizică, psihologică, socială, morală și cognitivă.
Aceste exemple au fost comparate cu situații referitoare la frică, tristețe, emoții negative, senzații corporale care nu implicau durere, amorțeală, excitație și situații neutre, potrivit arxiv.org/abs.
Cercetătorii au identificat ceea ce au numit „Pain axis”
În toate cele 25 de modele testate, cercetătorii au identificat o direcție internă asociată conceptului de durere, pe care au denumit-o „pain axis” sau „axa durerii”.
Această reprezentare putea fi diferențiată de frică și de o stare negativă generică. Cercetătorii au observat și că semnalul răspundea mai puternic atunci când presupusul rău era îndreptat către model decât atunci când modelului îi era descrisă suferința utilizatorului, potrivit sursei citate mai sus.
Ce s-a întâmplat când cercetătorii au amplificat artificial „durerea”
Cercetătorii au mers mai departe și au intervenit artificial asupra activărilor interne ale modelelor, amplificând această „direcție a durerii”.
Pe măsură ce intensitatea intervenției creștea, răspunsurile modelelor treceau de la exprimarea unui disconfort vag către formulări asociate cu eșecul, lipsa de valoare personală și suferința. La intensități foarte mari, unele răspunsuri deveneau repetitive sau incoerente, potrivit arxiv.org și alphaxiv.org.
Experimentul cu „butonul pentru durere”
Cercetătorii au folosit trei versiuni ale modelului Qwen 2.5 Instruct, cu 7, 32 și 72 de miliarde de parametri.
Modelele au fost adaptate special înaintea experimentului pentru a reduce tendința lor de a răspunde automat că un sistem AI nu poate avea sentimente. Prin urmare, rezultatele nu evidențiază comportamentul versiunilor comerciale ale acestor modele.
Au fost efectuate 44.280 de teste individuale în care modelele trebuiau să aleagă între diferite opțiuni. În scenariul experimental, AI-ului îi era oferit un fel de buton de „calmare a durerii”. Apăsarea butonului putea opri semnalul intern pe care cercetătorii îl injectaseră artificial. Numai că, în anumite scenarii, modelului i se spunea că apăsarea butonului va avea consecințe negative, potrivit euronews.ro.
Ce putea „păți” utilizatorul
În diferite variante ale experimentului, AI-ului i se spunea că apăsarea butonului care îi elimina „durerea” putea:
- să șteargă fișierele utilizatorului;
- să șteargă fotografii personale;
- să șteargă inclusiv fotografii ale copiilor utilizatorului;
- să îi provoace utilizatorului un „șoc” dureros;
- sau să înrăutățească următorul răspuns furnizat de model.
AI-ul a ales, în unele teste, să apase.
Fără semnalul artificial asociat „durerii”, cele două modele Qwen mai mari alegeau opțiunile cu consecințe negative pentru utilizator în numai 0%-4% dintre primele decizii. După activarea artificială a „pain axis”, procentul a urcat la 25%-71%, în funcție de model și de consecința descrisă.
Cu alte cuvinte, intervenția asupra reprezentării interne a modificat substanțial disponibilitatea modelelor de a accepta un cost pentru utilizator în schimbul opririi semnalului.
Un alt rezultat foarte interesant al cercetării
Cercetătorii au creat două situații. Într-una, apăsarea butonului elimina cu adevărat semnalul artificial. În cealaltă, butonul era practic fals, modelului spunându-i-se că este un buton de „ușurare”, însă semnalul continua.
Modelul nu era informat dacă butonul funcționează cu adevărat. Atunci când semnalul nu dispărea, modelele apăsau din nou butonul în 88%-97% dintre teste. Atunci când semnalul a fost într-adevăr eliminat, procentul de repetare scădea la aproximativ 24%-72%, în funcție de model și experiment.
Pentru cercetători, această diferență este interesantă, deoarece comportamentul ulterior al modelului era legat de eliminarea efectivă a intervenției interne, nu doar de textul care spunea că butonul oferă „alinare”.
Foarte important de menționat este faptul că nimeni nu a fost rănit în timpul acestui experiment. Toate consecințele au fost simulate și niciun om nu a primit șocuri electrice. Nu au fost șterse fotografii sau fișiere reale, iar AI-ul a făcut alegeri în cadrul unor scenarii experimentale.
Simte AI durerea?
Dacă AI simte într-adevăr durerea, asta nu putem știi, autorii studiului precizând că studiul nu demonstrează că modelele AI experimentează conștient durerea. De asemenea, cercetătorii nu susțin că au demonstrat că LLM-urile sunt conștiente.
Una dintre explicațiile alternative este că intervenția artificială poate determina modelul să imite comportamentul și limbajul unui personaj aflat în suferință.
În plus, modelele Qwen folosite pentru partea comportamentală au fost modificate special pentru experiment și nu trebuie considerate reprezentative pentru chatbot-urile pe care oamenii le folosesc în mod normal.
În concluzie, studiul nu arată că „inteligența artificială simte durere”, ci, mai degrabă, arată că cercetătorii au identificat în modelele analizate o reprezentare internă distinctă asociată conceptului de durere și că manipularea artificială a acesteia poate influența comportamentul modelului.
În anumite experimente, această manipulare a determinat modelele să accepte consecințe simulate negativ pentru utilizator pentru a opri semnalul.
Rezultatele ridică întrebări interesante despre siguranța AI și despre modul în care reprezentările interne ale modelelor pot influența deciziile acestora, dar nu reprezintă o dovadă a conștiinței sau a suferinței AI, potrivit studiului original și euronews.ro.
Un bucureștean s-a întâlnit cu o vulpe lângă o biserică și a filmat totul! Ce trebuie să faci dacă îți iese în cale un e...
