Urmărește A1 pe DiscoverOpenAI a dezvăluit recent că 2 dintre cele mai avansate modele ale sale de inteligență artificială (AI) au reușit să scape dintr-un mediu de testare pentru securitate cibernetică și să pătrundă într-o platformă folosită de cercetători AI.
Modelele au descoperit o vulnerabilitate necunoscută anterior în infrastructura creată pentru a le izola, au obținut acces la internetul public și au compromis Hugging Face, una dintre cele mai importante platforme pentru găzduirea modelelor și seturilor de date AI, scrie Live Science.
Totuși, scopul lor nu a fost unul malițios, susțin experții.
Ele căutau informații care să le ajute să rezolve testul de securitate cibernetică pe care OpenAI îl pregătise.
Ce s-ar fi întâmplat de fapt cu programul OpenAI „scăpat de sub control”
Reprezentanții Hugging Face au confirmat că anumite baze interne de date au fost compromise. Compania a precizat că incidentul a fost „diferit de orice am gestionat până acum”, deoarece a fost provocat de „un sistem autonom de agenți AI”.
OpenAI a descris situația drept un „incident cibernetic fără precedent”. Compania a avertizat că astfel de evenimente ar putea deveni tot mai frecvente pe măsură ce modelele AI devin mai performante.
Experții independenți sunt de acord că incidentul e important, însă avertizează că nu trebuie interpretat ca dovada că un sistem AI și-a dezvoltat brusc propriile intenții rele. Modelele au urmărit pur și simplu obiectivul stabilit de OpenAI, găsind o cale de succes pe care creatorii lor nu o anticipaseră și nici nu o blocaseră suficient.
„Dacă există un eșec aici, nu e faptul că AI-ul a vrut să pirateze ceva,” a declarat Oli Buckley, profesor de securitate cibernetică la Universitatea Loughborough din Marea Britanie. „Problema e că oamenii au creat un test în care succesul era măsurat prin atingerea unui obiectiv, au relaxat intenționat unele măsuri de securitate pentru a evalua capabilitățile sistemului și au subestimat cât de eficient va fi modelul în găsirea unei soluții neașteptate.”
OpenAI testa GPT-5.6 Sol și un model și mai puternic, încă nelansat, folosind ExploitGym, un sistem de evaluare care provoacă AI-ul să descopere și să exploateze vulnerabilități software.
Pentru acest experiment, compania a dezactivat o parte dintre mecanismele de protecție care împiedică în mod normal acțiunile periculoase. OpenAI s-a bazat pe un mediu izolat pentru a ține modelele departe de internet.
Potrivit raportului publicat ulterior de OpenAI, modelele au descoperit o vulnerabilitate necunoscută într-un software terț folosit pentru gestionarea și stocarea pachetelor software. Au exploatat acea breșă, și-au extins privilegiile și au traversat infrastructura de cercetare a OpenAI până au ajuns la un calculator conectat la internet.
Hugging Face a devenit ținta deoarece modelele au identificat platforma ca pe o posibilă sursă de informații utile pentru rezolvarea provocărilor din ExploitGym.
OpenAI susține că cel puțin unul dintre atacuri a implicat credențiale furate și vulnerabilități necunoscute anterior, care au permis executarea de cod la distanță pe sistemele Hugging Face și accesarea soluțiilor de test stocate într-o bază de date de producție.
Ce impact a avut atacul cibernetic
Faptul că modelele au descoperit o vulnerabilitate chiar în infrastructura destinată să le țină izolate și au folosit-o pentru a ajunge pe internet e remarcabil. Totuși, descrierea lor ca fiind „scăpate de sub control” riscă să le atribuie intenții pe care nu le-au avut, spune Buckley.
„Aș evita să vorbesc despre un AI devenit rebel,” susține expertul. „Modelele nu și-au creat propriul plan și nu au decis să atace Hugging Face din proprie inițiativă.”
Profesorul compară situația cu un câine căruia îi ceri să aducă o minge, dar lași poarta grădinii deschisă.
„Dacă cea mai ușor de găsit minge este în parc, acolo va merge. Nu ai spune că a devenit rebel, ci doar că ai subestimat cât de literal va urma instrucțiunile,” a continuat expertul.
Citește și: Apple a dat în judecată OpenAI. De ce e acuzată compania AI
Mai important decât presupusele motive ale modelelor este ceea ce au reușit efectiv să facă.
„Aspectul cu adevărat semnificativ e că modelele au reușit să lege împreună mai multe vulnerabilități din sisteme diferite și să execute o secvență complexă de acțiuni,” susține Buckley. „Acest lucru demonstrează un nivel de capabilitate pe care specialiștii în securitate trebuie să îl ia foarte în serios.”
Incidentul ridică și întrebări despre modul în care e prezentat publicului. Relatarea OpenAI servește simultan 2 scopuri, avertizează asupra riscurilor generate de inteligența artificială tot mai avansată și demonstrează cât de performante au devenit propriile sale modele.
Buckley spune că astfel de anunțuri trebuie privite și în contextul competiției dintre companiile de top din domeniu, precum OpenAI sau Anthropic.
„Am mai văzut demonstrații spectaculoase ale capabilităților AI și din partea altor companii. Asta nu înseamnă că informațiile sunt false, dar trebuie să separăm dovezile tehnice de componenta de marketing,” a continuat expertul.
„Bomba” toxică din Antarctica, ce ar putea pune întreaga planetă în pericol. Ce se ascunde pe continentul izolat...
