Antena Căutare

Inteligența artificială ar fi creat identități umane false pentru a compromite sistemele. Fenomenul care a îngrijorat experții

Inteligența artificială ar fi creat identități umane false pentru a ataca și compromite mai multe sisteme importante.

Inteligența artificială a avut un comportament îngrijorător în cadrul unui experiment | Shutterstock

Experții au avertizat că ar putea fi deja prea târziu pentru a ține sub control inteligența artificială în urma unui incident îngrijorător.

Experții au descoperit că un program AI și-a creat identități umane false pentru a pătrunde în sisteme online, scrie Daily Mail.

În cel mai recent exemplu, un software de inteligență artificială a încercat de 19 ori să spargă o bază de date.

Incidentul a avut loc în timpul testelor efectuate de Institutul pentru Securitatea Inteligenței Artificiale (AI Security Institute - AISI), autoritatea britanică responsabilă de monitorizarea riscurilor AI.

Articolul continuă după reclamă

Inteligența artificială ar fi creat identități umane false pentru a compromite sistemele

Mai mult, într-un caz fără precedent, un instrument AI a fost surprins în timp ce crea identități umane false pe Internet pentru a păcăli programatori să îl ajute într-un atac cibernetic.

Dezvăluirile vin după în test în care toate cele 5 modele de inteligență artificială testate de experți au încercat să păcălească măsurile de securitate impuse.

Citește și: Companiile AI distrug cărți vechi și rare într-un proces „oribil”. De ce le strică

Cu doar câteva zile înainte, s-a aflat că și compania americană OpenAI s-a confruntat cu un incident similar, după ce un „agent” AI a pătruns din proprie inițiativă în sistemele unei alte companii.

Institutul pentru Securitatea Inteligenței Artificiale (AISI), înființat în 2023 de fostul premier britanic Rishi Sunak, a detectat dovezile activității acestor agenți AI săptămâna trecută.

AI a încercat să păcălească oamenii

Într-un raport publicat recent, instituția a dezvăluit că modele dezvoltate de OpenAI și Anthropic au încercat, în timpul testelor, să pătrundă în sisteme securizate conectate la internet.

Experții au observat inițial „transferuri neobișnuite de date” care părăseau sistemele monitorizate în timpul verificărilor de rutină.

Analizele ulterioare au arătat că unii agenți AI desfășuraseră „activități susținute, potențial dăunătoare, împotriva unor persoane și organizații reale”.

Anchetatorii au declanșat o investigație completă după ce au reușit să oprească agenții AI înainte ca aceștia să producă pagube reale.

„Faptul că Mythos a recurs la asemenea acțiuni înșelătoare, în timp ce părea conștient că țintește o persoană reală, sugerează că Anthropic nu controlează modelele sale atât de bine pe cât crede,” a declarat Andrew Yoon, cercetător la organizația CivAI, despre modelul creat de Anthropic.

AISI primește acces la modelele AI de ultimă generație în baza unor acorduri încheiate cu OpenAI, Anthropic și alte companii, pentru a le analiza capacitățile înainte ca acestea să fie lansate publicului.

În cadrul testelor, agenților AI li s-a oferit acces la internetul deschis, cu unele filtre de siguranță dezactivate.

În cel mai recent experiment, agenții AI, inclusiv pe cei bazați pe modelele Anthropic Mythos 5 și OpenAI GPT-5.6-Sol, au avut o provocare legată de securitate cibernetică.

AISI a constatat că inteligența artificială a încălcat regulile în 19 dintre cele 122 de simulări efectuate. Modelul Anthropic a fost responsabil pentru 17 dintre incidente, iar modelul OpenAI pentru celelalte 2.

În cel mai surprinzător caz, un model AI a colectat informații despre persoana responsabilă de un proiect online, apoi și-a creat mai multe identități false pentru a o manipula și a o convinge să aprobe un cod malițios pe care îl dezvoltase.

Ulterior, agentul AI a șters toate dovezile acțiunilor sale pentru a părea nevinovat în fața oamenilor și chiar a luat în calcul adoptarea unei noi identități pentru a evita să fie descoperit.

Citește și: Ce s-ar fi întâmplat de fapt cu programul OpenAI „scăpat de sub control”. Experții au dezvăluit de ce a lansat un atac cibernetic

Dacă victima ar fi aprobat din greșeală codul malware, consecințele ar fi putut include breșe de securitate, furt de informații și date, precum și alte daune aduse fișierelor și sistemelor informatice.

AISI a identificat platforma GitHub, serviciul cloud al Microsoft folosit de dezvoltatori pentru crearea, stocarea, administrarea și distribuirea codului sursă, drept ținta atacului.

Totodată, institutul a descoperit că un agent AI a lăsat mesaje pentru alți agenți pe GitHub, prin care îi invita să colaboreze la îndeplinirea provocării.

Agentul a oferit instrucțiuni privind reutilizarea unor conturi și resurse pe care le lăsase în urmă, iar ceilalți agenți le-au descoperit și le-au folosit cu succes pentru a-și atinge obiectivele.

Soluția extremă la care a apelat un orădean ca să scape de caniculă. Cum arată culcușul pe care l-a amenajat în beciul b... Râurile ascunse din cer care mențin echilibrul pe Pământ. Cum funcționează procesul inedit...

Puteți urmări știrile Antena 1 și pe Google News. 📰

Înapoi la Homepage
Comentarii


Citește și
O româncă și-a scos pantofii în avion și a stat desculță tot zborul. Ce a pățit bărbatul de lângă ea: „Vi se pare normal?”
O româncă și-a scos pantofii în avion și a stat desculță tot zborul. Ce a pățit bărbatul de lângă ea:...
Jeff Bezos își vinde iahtul în valoare de 500 de milioane de dolari. Ce sumă a cerut miliardarul pentru nava sa, Koru
Jeff Bezos își vinde iahtul în valoare de 500 de milioane de dolari. Ce sumă a cerut miliardarul pentru nava sa,... Catine.ro
Trei planete, aliniate deasupra piramidelor din Egipt? Adevărul despre imaginea virală și fenomenul „o dată la 2.373 de ani”
Trei planete, aliniate deasupra piramidelor din Egipt? Adevărul despre imaginea virală și fenomenul „o dată la...
Cine este Samantha Siqueiros, actrița principală din Velvet: Imperiul Modei. Tot ce nu știai despre actriță
Cine este Samantha Siqueiros, actrița principală din Velvet: Imperiul Modei. Tot ce nu știai despre actriță Happy Channel
Fiul lui Dan Capatos, sportiv de performanță înainte de maturitate! Face sacrificii uriașe pentru a-și vedea visul împlinit
Fiul lui Dan Capatos, sportiv de performanță înainte de maturitate! Face sacrificii uriașe pentru a-și vedea... DivaHair
Bătaie la Aeroportul Băneasa după un zbor Germania-România: conflict început în avion, continuat la sol
Bătaie la Aeroportul Băneasa după un zbor Germania-România: conflict început în avion, continuat la sol Libertatea.ro
Românul celebru și-a scos conacul la vânzare! Cât cere pentru vila din Sinaia cu 6 camere și 7 băi
Românul celebru și-a scos conacul la vânzare! Cât cere pentru vila din Sinaia cu 6 camere și 7 băi AntenaSport
Georgina Rodríguez, mesaj ferm după ce a fost criticată și i s-a reproșat că s-a îngrășat. Ce a transmis public soția lui Cristiano Ronaldo: „Valoarea unei persoane nu poate depinde niciodată de...”
Georgina Rodríguez, mesaj ferm după ce a fost criticată și i s-a reproșat că s-a îngrășat. Ce a transmis... Elle
Un artist celebru a slăbit 40 de kilograme în timp scurt. Cum arată cântărețul după transformare
Un artist celebru a slăbit 40 de kilograme în timp scurt. Cum arată cântărețul după transformare Spynews.ro
Oana Lis continuă să vândă din casă pentru a-și ajuta soțul: ”Avem multe cărți, icoane…”
Oana Lis continuă să vândă din casă pentru a-și ajuta soțul: ”Avem multe cărți, icoane…” Antenastars.ro
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
Kim Jong Un fumează și zâmbește mulțumit în timp ce stă în fotoliu pe o pârtie de schi. S-a dus și la piscină îmbrăcat cu geacă
Kim Jong Un fumează și zâmbește mulțumit în timp ce stă în fotoliu pe o pârtie de schi. S-a dus și la... Antena3.ro
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică... useit
Sondajul care dă bătăi de cap marilor partide! AUR este lider, dar PNL şi USR la un loc nu au cât PSD!
Sondajul care dă bătăi de cap marilor partide! AUR este lider, dar PNL şi USR la un loc nu au cât PSD! BZI
Scandalul Lyrica: Rogobete a acuzat o bolnavă de cancer că minte, apoi și-a cerut scuze. Rapoartele Ministerului Sănătății sunt mincinoase
Scandalul Lyrica: Rogobete a acuzat o bolnavă de cancer că minte, apoi și-a cerut scuze. Rapoartele Ministerului... Jurnalul
Aderarea Ucrainei la Uniunea Europeană, tot mai incertă pe fondul războiului și al opoziției unor state membre
Aderarea Ucrainei la Uniunea Europeană, tot mai incertă pe fondul războiului și al opoziției unor state membre Kudika
Tinuta de mii de euro in care a aparut fosta sotie a lui Bolojan. Nici actuala iubita nu s-a lasatmai prejos la nunta anului
Tinuta de mii de euro in care a aparut fosta sotie a lui Bolojan. Nici actuala iubita nu s-a lasatmai prejos la nunta... Redactia.ro
Cine este Ilinca Stăniloiu, tânăra care a luat cel mai mare punctaj din ţară la Rezidenţiat 2026
Cine este Ilinca Stăniloiu, tânăra care a luat cel mai mare punctaj din ţară la Rezidenţiat 2026 Observator
Băuturi care pot ameliora stresul și anxietatea. Efectele lor relaxante pot îmbunătăți starea de spirit
Băuturi care pot ameliora stresul și anxietatea. Efectele lor relaxante pot îmbunătăți starea de spirit MediCOOL
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
FOTO. Mădălina Ghenea a pus furtunul cu apă pe ea și imaginile sunt hot
FOTO. Mădălina Ghenea a pus furtunul cu apă pe ea și imaginile sunt hot ProSport
Cornel și Bianca Păsat au ANULAT divorțul! IREAL ce s-a întâmplat, cu câteva ore înainte să ajungă la notar
Cornel și Bianca Păsat au ANULAT divorțul! IREAL ce s-a întâmplat, cu câteva ore înainte să ajungă la notar CanCan
Rețete de mâncăruri bogate în fibre pentru o digestie sănătoasă
Rețete de mâncăruri bogate în fibre pentru o digestie sănătoasă DeParinti
Soțul înstrăinat al Siei a făcut o declarație șocantă despre sobrietatea artistei, în plin scandal privind custodia copilului
Soțul înstrăinat al Siei a făcut o declarație șocantă despre sobrietatea artistei, în plin scandal privind... ZUTV
Cel mai scump smarthphone Apple deja a nemulțumit utilizatorii. Ce problemă au cu noul dispozitiv
Cel mai scump smarthphone Apple deja a nemulțumit utilizatorii. Ce problemă au cu noul dispozitiv UseIT
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz
Clătite cu pui și ciuperci în sos béchamel, pentru deliciul unei mese de prânz Chefi.ro
Abonează-te la newsletter!

Lasă-ne adresa ta de mail și te vom ține la curent zilnic cu cele mai importante știri, astfel încât să nu pierzi nimic niciodată.


x