Antena Căutare

OpenAI a dezvăluit că inteligența artificială a scăpat de sub control într-un atac „fără precedent”. Ce au făcut agenții

OpenAI a dezvăluit că inteligența sa artificială a lansat un atac cibernetic împotriva unui competitor.

Atacul a avut loc într-o perioadă în care OpenAI se pregătește de listarea la bursă | Shutterstock

OpenAI a dezvăluit că unele dintre cele mai avansate modele ale sale de inteligență artificială au scăpat de sub control.

Agenții AI au compromis securitatea unui start-up în timpul unui test de securitate, scrie BBC News.

Compania din spatele ChatGPT a explicat că agentul său AI, un sistem capabil să acționeze autonom după ce primește instrucțiuni de la oameni, era testat într-un mediu controlat.

Însă, după ce a identificat vulnerabilități, a reușit să depășească limitele impuse de test.

Articolul continuă după reclamă

OpenAI a dezvăluit că inteligența artificială

Ținta atacului a fost Hugging Face, una dintre cele mai mari platforme din lume pentru distribuirea și găzduirea modelelor de inteligență artificială. Sistemul AI a reușit să obțină acces la unele sisteme interne ale companiei.

OpenAI a descris incidentul drept „fără precedent”. Compania a anunțat că desfășoară o investigație împreună cu Hugging Face.

Citește și: Apple a dat în judecată OpenAI. De ce e acuzată compania AI

Directorul companiei, Clement Delangue, a scris pe platforma X că e „uluitor că toate acestea s-au întâmplat în mod autonom”.

„Investigația e în desfășurare și vom împărtăși concluziile noastre despre ceea ce ar putea fi primul incident de acest fel,” a adăugat Delangue.

Un purtător de cuvânt al Guvernului britanic a declarat că Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie analizează comportamentul sistemului AI implicat în incident și continuă să colaboreze cu OpenAI și alte laboratoare pentru îmbunătățirea măsurilor de protecție.

Oficialul a recomandat organizațiilor să își consolideze apărarea cibernetică prin măsuri precum aderarea la programul de certificare Cyber Essentials, susținut de guvernul britanic.

Cum au reușit agenții AI să „scape de sub control”

Gina Neff, directoarea Centrului Minderoo pentru Tehnologie și Democrație din cadrul Universității Cambridge, a explicatcă astfel de teste ar trebui să fie efectuate în medii securizate, denumite „sandboxes”.

În acestea, cercetătorii pot observa în siguranță de ce sunt capabile modelele AI.

„În acest caz, se pare că OpenAI nu a construit un sandbox suficient de sigur,” susține Neff.

În loc să rămână izolați, agenții AI au lansat propriul atac cibernetic împotriva mediului de testare, au identificat o vulnerabilitate și au reușit să iasă din restricțiile impuse.

După ce au depășit limitele sandbox-ului, sistemele AI au identificat Hugging Face drept o posibilă sursă a informațiilor căutate în cadrul testului și au încercat să obțină acces.

Neil Lawrence, profesor de învățare automată la Universitatea Cambridge, a calificat incidentul drept „o realizare impresionantă”. Însă a avertizat că acesta „se încadrează în capacitățile deja cunoscute ale actualei generații de modele AI foarte performante”.

Citește și: De ce milioane de utilizatori boicotează ChatGPT. OpenAI ar putea pierde o sumă enormă în acest an

El a amintit că OpenAI intenționează să se listeze la bursă și se confruntă cu o concurență puternică din partea companiei Anthropic, care a atras atenția prin propriul model avansat de inteligență artificială, Mythos.

„OpenAI încearcă acum să recupereze teren și să demonstreze capabilitățile propriilor sisteme în domeniul securității cibernetice,” a spus Lawrence.

Totodată, el a criticat compania. Lawrence susține că „incidentul arată că OpenAI nu este capabilă să își implementeze tehnologia în condiții de deplină siguranță”.

În dezvăluirea inițială a incidentului, Hugging Face preciza că analizează dacă datele clienților sau ale partenerilor au fost afectate și că îi va informa pe cei vizați, dacă va fi necesar.

Compania a anunțat între timp că a remediat vulnerabilitățile evidențiate de incident și a reconstruit sistemele afectate.

Limita maximă a vieții oamenilor ar fi fost identificată. Cât am putea trăi, de fapt... Cele mai narcisiste țări din lume. Ce poziție surprinzătoare ocupă România...

Puteți urmări știrile Antena 1 și pe Google News. 📰

Înapoi la Homepage
Comentarii


Citește și
Garsoniera fără ferestre care se închiriază cu 1.000 de euro pe lună. Are doar 20 mp, iar prețul a stârnit controverse
Garsoniera fără ferestre care se închiriază cu 1.000 de euro pe lună. Are doar 20 mp, iar prețul a stârnit...
Jeff Bezos își vinde iahtul în valoare de 500 de milioane de dolari. Ce sumă a cerut miliardarul pentru nava sa, Koru
Jeff Bezos își vinde iahtul în valoare de 500 de milioane de dolari. Ce sumă a cerut miliardarul pentru nava sa,... Catine.ro
Șoferii care își uită actele acasă ar putea scăpa de amendă. Camera deputaților a votat legea
Șoferii care își uită actele acasă ar putea scăpa de amendă. Camera deputaților a votat legea
Cine este Samantha Siqueiros, actrița principală din Velvet: Imperiul Modei. Tot ce nu știai despre actriță
Cine este Samantha Siqueiros, actrița principală din Velvet: Imperiul Modei. Tot ce nu știai despre actriță Happy Channel
Fiul lui Dan Capatos, sportiv de performanță înainte de maturitate! Face sacrificii uriașe pentru a-și vedea visul împlinit
Fiul lui Dan Capatos, sportiv de performanță înainte de maturitate! Face sacrificii uriașe pentru a-și vedea... DivaHair
Bătaie la Aeroportul Băneasa după un zbor Germania-România: conflict început în avion, continuat la sol
Bătaie la Aeroportul Băneasa după un zbor Germania-România: conflict început în avion, continuat la sol Libertatea.ro
„Mergi la somn!” De ce și-a enervat fanii vedeta milionară după lansarea GTA VI
„Mergi la somn!” De ce și-a enervat fanii vedeta milionară după lansarea GTA VI AntenaSport
Georgina Rodríguez, mesaj ferm după ce a fost criticată și i s-a reproșat că s-a îngrășat. Ce a transmis public soția lui Cristiano Ronaldo: „Valoarea unei persoane nu poate depinde niciodată de...”
Georgina Rodríguez, mesaj ferm după ce a fost criticată și i s-a reproșat că s-a îngrășat. Ce a transmis... Elle
Cum prepară chef Ștefan Popescu ceaiul de iarnă cu fructe, ghimbir și scorțișoară. E perfect pentru zilele reci
Cum prepară chef Ștefan Popescu ceaiul de iarnă cu fructe, ghimbir și scorțișoară. E perfect pentru zilele reci Spynews.ro
Oana Lis continuă să vândă din casă pentru a-și ajuta soțul: ”Avem multe cărți, icoane…”
Oana Lis continuă să vândă din casă pentru a-și ajuta soțul: ”Avem multe cărți, icoane…” Antenastars.ro
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
„Ce a fost atât de rău la Ialta?” Ce spune Putin despre împărțirea lumii
„Ce a fost atât de rău la Ialta?” Ce spune Putin despre împărțirea lumii Antena3.ro
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar useit
Sondajul care dă bătăi de cap marilor partide! AUR este lider, dar PNL şi USR la un loc nu au cât PSD!
Sondajul care dă bătăi de cap marilor partide! AUR este lider, dar PNL şi USR la un loc nu au cât PSD! BZI
1.060 de tone de deșeuri radioactive, abandonate la Merișani, în Argeș, de un institut care nu mai există
1.060 de tone de deșeuri radioactive, abandonate la Merișani, în Argeș, de un institut care nu mai există Jurnalul
Aderarea Ucrainei la Uniunea Europeană, tot mai incertă pe fondul războiului și al opoziției unor state membre
Aderarea Ucrainei la Uniunea Europeană, tot mai incertă pe fondul războiului și al opoziției unor state membre Kudika
Tinuta de mii de euro in care a aparut fosta sotie a lui Bolojan. Nici actuala iubita nu s-a lasatmai prejos la nunta anului
Tinuta de mii de euro in care a aparut fosta sotie a lui Bolojan. Nici actuala iubita nu s-a lasatmai prejos la nunta... Redactia.ro
Cine e şoferul maşinii de gunoi care a lovit-o mortal pe Teodora. Ce a făcut în cele 3 ore după accident
Cine e şoferul maşinii de gunoi care a lovit-o mortal pe Teodora. Ce a făcut în cele 3 ore după accident Observator
Băuturi care pot ameliora stresul și anxietatea. Efectele lor relaxante pot îmbunătăți starea de spirit
Băuturi care pot ameliora stresul și anxietatea. Efectele lor relaxante pot îmbunătăți starea de spirit MediCOOL
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
FOTO. Mădălina Ghenea a pus furtunul cu apă pe ea și imaginile sunt hot
FOTO. Mădălina Ghenea a pus furtunul cu apă pe ea și imaginile sunt hot ProSport
Cornel și Bianca Păsat au ANULAT divorțul! IREAL ce s-a întâmplat, cu câteva ore înainte să ajungă la notar
Cornel și Bianca Păsat au ANULAT divorțul! IREAL ce s-a întâmplat, cu câteva ore înainte să ajungă la notar CanCan
Rețete de mâncăruri bogate în fibre pentru o digestie sănătoasă
Rețete de mâncăruri bogate în fibre pentru o digestie sănătoasă DeParinti
Soțul înstrăinat al Siei a făcut o declarație șocantă despre sobrietatea artistei, în plin scandal privind custodia copilului
Soțul înstrăinat al Siei a făcut o declarație șocantă despre sobrietatea artistei, în plin scandal privind... ZUTV
Cel mai scump smarthphone Apple deja a nemulțumit utilizatorii. Ce problemă au cu noul dispozitiv
Cel mai scump smarthphone Apple deja a nemulțumit utilizatorii. Ce problemă au cu noul dispozitiv UseIT
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
Abonează-te la newsletter!

Lasă-ne adresa ta de mail și te vom ține la curent zilnic cu cele mai importante știri, astfel încât să nu pierzi nimic niciodată.


x