Adaugă-ne ca sursă preferată în GoogleÎn ultima perioadă, există o îngrijorare importantă legată de modul în care modelele de limbaj precum ChatGPT duc la expresii similare în rândul utilizatorilor.
Modelele AI au fost antrenate cu ajutorul conținutului creat de oameni, dar acesta pare sintetizat în răspunsurile oferite de chatboți, scrie Gizmodo.
Un nou studiu a analizat acest fenomen și a confirmat îngrijorările experților.
Studiul a fost publicat în jurnalul Trends in Cognitive Sciences și realizat de experți din cadrul University of Southern California.
Cum afectează inteligența artificială gândurile oamenilor
Echipa de cercetători a analizat peste 130 de studii pentru a înțelege mai bine cum afectează modelele lingvistice mari diversitatea cognitivă. Au examinat cercetări dintr-o varietate de domenii, de la lingvistică la informatică.
Echipa a descoperit că, în ciuda faptului că modelele de inteligență artificială extrag informații din baze de date uriașe, ele produc în mod constant rezultate mai puțin variate decât gândirea umană.
Acest lucru se întâmplă parțial deoarece, deși aceste modele pot fi antrenate pe o cantitate aparent nesfârșită de idei și gânduri generate de oameni, ele nu sunt capabile să proceseze tot acest material într-un mod care să ia în considerare diversitatea opiniilor existente.
Citește și: De ce milioane de utilizatori boicotează ChatGPT. OpenAI ar putea pierde o sumă enormă în acest an
În schimb, modelele tind să favorizeze modele și tipare consistente pe care le pot identifica în datele pe care au fost antrenate.
„Pentru că aceste modele sunt antrenate să capteze și să reproducă regulile statistice din datele pe care au fost antrenate, care adesea reprezintă în mod excesiv limbile și ideologiile dominante, rezultatele lor reflectă frecvent o parte îngustă și distorsionată a experienței umane,” a declarat într-un comunicat autorul principal al studiului, Zhivar Sourati.
Unele modele chiar recunosc acest lucru. OpenAI afirmă explicit, de exemplu, că ChatGPT este „înclinat către perspective occidentale”. De asemenea, xAI a ajustat în mod evident chatbotul său Grok pentru a reflecta opiniile CEO-ului Elon Musk în mai multe situații.
Inteligența artificială afectează gândirea umană
Rezultatul interacțiunii cu modele care favorizează puternic anumite perspective e că oamenii încep să asimileze acele perspective.
Cercetări anterioare au arătat că interacțiunea cu modelele AI poate schimba efectiv modul în care gândesc oamenii. În acest proces, gândurile oamenilor sunt aliniate mai mult cu informațiile oferite de chatbot. Modelele folosesc, de asemenea, raționament de tip „chain-of-thought”, care reflectă o formă liniară de gândire.
Citește și: Cum afectează video-urile AI creierul copiilor. Experții trag un semnal de alarmă
Ele sunt incapabile de stiluri mai abstracte de raționament, care pot necesita salturi logice mai puțin evidente, dar uneori foarte eficiente.
Una dintre cele mai interesante observații ale cercetătorilor a fost că, deși indivizii care folosesc modelele AI pentru a genera idei produc adesea un volum mai mare de idei (dar cu mai puțină creativitate), grupurile de oameni generează de fapt mai puține idei atunci când folosesc aceste modele, comparativ cu situațiile în care colaborează direct și își împărtășesc ideile între ei.
Practic, utilizarea modelului îi fixează pe oameni într-un anumit mod de gândire și reduce diversitatea perspectivelor care ar putea să apară în mod natural prin discuții și schimb de experiențe.
Vezi mai multe stiri externe pe observatornews.ro
Un satelit NASA s-a prăbușit pe Pământ. Ce misiune a avut în spațiu... Pericolul ascuns în Oceanul Atlantic care ar putea schimba lumea. Europa va fi grav afectată...
