Urmărește A1 pe DiscoverOpenAI se pregătește să introducă o schimbare importantă pentru utilizatorii din Uniunea Europeană. Compania va adăuga, în următoarele săptămâni, filigrane invizibile („watermark”) pentru textele eligibile generate de ChatGPT și Codex în UE, în contextul noilor cerințe privind transparența conținutului creat cu ajutorul inteligenței artificiale.
Filigranul nu va fi vizibil atunci când utilizatorul citește sau copiază un text. În schimb, OpenAI folosește o tehnologie numită textGrain, care modifică subtil modul statistic în care modelul alege cuvintele sau fragmentele de cuvinte. Aceste alegeri creează un tipar care poate fi verificat ulterior de un detector special.
Ce se întâmplă cu textele generate de ChatGPT
Potrivit comunicatului oficial OpenAI, în următoarele săptămâni compania va începe să introducă filigranul pentru ieșirile eligibile generate de ChatGPT și Codex în Uniunea Europeană, scrie Bleepingcomputer.
Măsura nu va fi introdusă, deocamdată, ca setare implicită la nivel global. În schimb, clienții API din întreaga lume vor putea activa voluntar filigranarea pentru anumite modele, însă funcția va rămâne dezactivată implicit.
OpenAI precizează că tehnologia este dezvoltată în cadrul strategiei sale de proveniență a conținutului și are legătură cu cerințele europene privind identificarea conținutului generat de inteligența artificială.
Compania a anunțat, de asemenea, că a început să primească solicitări din partea cercetătorilor și organizațiilor specializate care doresc acces la detectorul de filigrane. Accesul va fi acordat inițial doar unor cercetători și organizații aprobate, tocmai pentru ca tehnologia să poată fi evaluată și îmbunătățită.
Cum funcționează filigranul invizibil
Sistemul textGrain nu introduce caractere ascunse, spații invizibile sau semne speciale în text. Filigranul este integrat în tiparul alegerilor de cuvinte făcute de model.
La generarea unui text, inteligența artificială are, de regulă, mai multe variante posibile pentru următorul cuvânt sau fragment. Sistemul de watermarking ajustează subtil probabilitățile acestor alegeri, iar rezultatul este un tipar statistic care poate fi căutat ulterior de detector.
Pentru cititor, textul arată normal, iar simpla copiere și lipire nu elimină automat semnalul.
Totuși, OpenAI subliniază că tehnologia este departe de a fi perfectă.
Cât de ușor poate fi eliminat filigranul
Testele companiei arată că modificarea textului poate reduce semnificativ capacitatea detectorului de a identifica watermarkul.
Într-o evaluare realizată pe pasaje de aproximativ 400 de tokeni, înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detectare de la aproximativ 92% la 66%. Atunci când au fost înlocuite 25% dintre cuvinte, rata de detectare a scăzut la doar 17%.
Detectarea este mai dificilă și în cazul textelor scurte sau al domeniilor în care există puține variante naturale de exprimare. Matematica este unul dintre exemplele menționate de OpenAI, deoarece există mai puțină libertate în alegerea cuvintelor.
De asemenea, traducerea sau o reformulare substanțială poate face semnalul mult mai greu de identificat.
Un rezultat negativ nu înseamnă că textul este scris de un om
OpenAI atrage atenția asupra unei diferențe importante: absența unui filigran detectabil nu dovedește că textul a fost scris de un om.
Un text poate să nu fie identificat din cauza lungimii reduse, a editării, a traducerii, a modelului folosit sau a faptului că semnalul a fost degradat prin modificări ulterioare.
În același timp, un filigran detectat nu poate spune cine a generat textul, ce cont a fost folosit, ce întrebare a primit modelul sau ce conversație a stat la baza materialului.
Mai mult, detectorul nu poate stabili cât din text a fost scris de inteligența artificială și cât a fost modificat ulterior de un om. Filigranul este un semnal de proveniență, nu o dovadă despre autorul sau contribuția exactă la text.
OpenAI spune că va continua să testeze tehnologia și intenționează să o pună la dispoziție ca tehnologie open-source, pentru ca și alți cercetători să poată contribui la dezvoltarea sistemelor de identificare a conținutului generat de inteligența artificială.
Euro a atins un nou maxim istoric în fața leului. Cât a ajuns să coste moneda europeană și ce înseamnă pentru români...
