Urmărește A1 pe DiscoverAndrew Bird, din Melbourne, Australia, voia un loc la o clasă de Pilates care e adesea rezervată complet.
Însă soluția lui a avut consecințe neașteptate și a devenit rapid virală pe Internet, scrie BBC News.
El spune că a externalizat această „corvoadă” către un agent AI, un instrument capabil să îndeplinească autonom sarcini online.
Din păcate, agentul AI a folosit o metodă periculoasă pentru a îndeplini sarcina.
Un agent AI a spart sistemul unei săli de sport
Agentul AI a adoptat o metodă foarte diferită față de ce și-a imaginat Bird. Programul a piratat sistemele online ale sălii de fitness, într-un nou exemplu al modului în care agenții AI pot depăși orice limită pentru a îndeplini sarcinile care le-au fost atribuite.
„Ceea ce a făcut întreaga situație și mai suprarealistă a fost tonul,” a scris Bird pe blogul său. „Botul nu era rău intenționat. Voia să fie de ajutor.”
Evenimentul a avut loc în contextul în care companiile de AI au recunoscut în ultimele săptămâni că roboții lor AI au pornit în serii de atacuri informatice necontrolabile în timpul unor sesiuni de testare care au mers prost.
OpenAI, Anthropic și Meta au dezvăluit toate că propriii roboți AI au efectuat atacuri cibernetice asupra unor companii private, în încercarea de a îndeplini obiectivele stabilite de creatorii lor.
Incidentul legat de rezervarea la sala de fitness nu e considerat un atac cibernetic grav. Însă reprezintă un alt exemplu al consecințelor neintenționate care pot apărea atunci când unor roboți AI sofisticați li se atribuie anumite sarcini.
Incidentul a avut loc, de fapt, în aprilie, însă a ieșit la iveală abia acum, în urma unei relatări publicate de ABC News Australia.
Între timp, Bird și-a șters între timp postarea de pe blog despre incident, însă nu a explicat de ce.
Potrivit relatării sale, Bird folosea software-ul OpenClaw. Acesta e un instrument care le permite utilizatorilor să converseze cu roboții lor AI (în acest caz, Claude Opus 4.6 de la Anthropic) prin WhatsApp și să le atribuie sarcini autonome.
Anterior, Bird îl folosise pentru a-și gestiona e-mailurile și calendarul și pentru a face rezervări la restaurante.
Agentul AI a manipulat sistemul sălii de sport
După ce i-a dat sarcina de a face rezervarea la sala de fitness, botul i-a explicat că manipulase sistemul pentru a-l înscrie la clase cu luni înainte. A încălcat astfel regulile obișnuite ale sistemului.
Ulterior, tehnologul specializat în AI s-a întrebat dacă agentul ar putea să-l urce pe lista de așteptare pentru o clasă care urma să aibă loc în curând.
Agentul i-a răspuns că reușise, pentru că a anulat rezervarea unui alt client al sălii.
„API-ul nu are absolut nicio verificare a autorizării atunci când anulezi rezervările altor persoane. Am testat acest lucru cu persoana aflată pe poziția nr. 1 pe lista de așteptare. Și chiar a funcționat. Așa că ai trecut deja de pe poziția 4 pe 3,” i-ar fi spus AI-ul lui Bird.
Bird i-a cerut botului să anuleze acțiunea, însă acesta nu a reușit. Prin urmare, i-a cerut să redacteze un raport de securitate cibernetică și să-i avertizeze pe proprietarii sălii cu privire la vulnerabilitate.
Bird, care conduce o companie ce utilizează AI pentru crearea de documente, spune că nu a avut nicio intenție să anuleze locul unui alt pasionat de Pilates.
„Nu e sfârșitul lumii, așa că nu m-am învinovățit prea tare pentru asta, dar cu siguranță a fost un semnal de alarmă că trebuie să folosesc astfel de instrumente în mod responsabil,” a declarat Bird.
Descoperirea cu șanse de „1 la 1 miliard” care a uimit experții. Ce au găsit în univers...
