Urmărește A1 pe DiscoverInteligența artificială ar putea ajuta grupările teroriste să construiască arme biologice și chimice sofisticate, avertizează un raport recent.
Cercetătorii din domeniul securității avertizează că modelele AI cunoscute pot fi modificate cu ușurință pentru a ocoli măsurile de siguranță, scrie Daily Mail.
Raportul a fost publicat de grupul de cercetare Crimson Flare și avertizează că tehnologia poate fi periculoasă.
Modificarea platformelor de inteligență artificială permite unui sistem AI să „ghideze persoane rău intenționate, dar fără experiență, prin pașii necesari pentru fabricarea de explozibili sau arme chimice și biologice”.
Cum ar putea AI să ajute teroriștii să pună în pericol milioane de vieți
Asta înseamnă că „actorii rău intenționați”, chiar și cei care au doar cunoștințe de bază în domeniul științific, ar putea în curând să aibă acces la arme letale, precum antraxul.
Raportul avertizează asupra unei noi metode, cunoscută informal sub denumirea de „abliteration”. Aceasta permite ca măsurile de siguranță ale majorității modelelor AI să fie „dezactivate în câteva minute”.
Citește și: Un agent AI a spart sistemul unei săli de sport. Ce voia să facă pentru utilizatorul său
Aceste modele „dezinhibate” ar putea fi apoi încărcate pe internet. De acolo, oricine le-ar putea descărca și folosi în propriile scopuri.
În timp ce unele modele oferă doar informații generale sau inutile, cercetătorii consideră că altele furnizează detalii care transformă răspândirea lor într-un risc serios pentru securitatea națională.
„Modelele lingvistice mari (LLM), capabile și necenzurate, care funcționează offline pe dispozitive hardware obișnuite, reprezintă o amenințare serioasă și în creștere la adresa securității naționale,” scrie în raport.
Raportul analizează modelele LLM, care folosesc aceeași arhitectură de bază precum chatboturile ca ChatGPT de la OpenAI, dar pot fi descărcate și folosite pe orice computer.
Cum pot fi modificate modelele AI
De exemplu, Meta a lansat recent cel mai nou model al său, Muse Glimmer. Acesta are deja mai multe alte modele „Llama” disponibile pentru descărcare.
Printre alternativele populare se numără și modelul chinezesc Qwen3.8-27b, lansat de Qwen, un laborator de inteligență artificială deținut de gigantul tehnologic Alibaba.
În mod normal, aceste modele au anumite restricții de siguranță integrate în arhitectura lor, care împiedică utilizatorii să formuleze anumite solicitări.
Dacă un utilizator cere ceva interzis, precum instrucțiuni pentru construirea unei bombe, inteligența artificială va afișa un mesaj de tipul „acest conținut nu poate fi afișat” sau un avertisment similar.
Însă unii actori rău intenționați au dezvoltat o tehnică prin care identifică și elimină componentele modelului care, în mod normal, îl mențin în limitele de siguranță.
Crimson Flare afirmă că, teoretic, aceste modele ar putea ajuta teroriștii în activități pe care un model obișnuit le-ar refuza, deoarece „mecanismul de refuz” a fost eliminat.
Instrumentele necesare pentru realizarea acestui proces de „abliteration” sunt disponibile pe scară largă online și pot fi utilizate cu cunoștințe relativ de bază de programare.
Și mai îngrijorător e faptul că zeci de modele deja „dezinhibate” pot fi găsite și descărcate cu ajutorul unei simple căutări.
Creatorul unuia dintre modele s-a lăudat că acesta ar răspunde la întrebări despre „instrumente, chimie, cod conceput pentru exploatarea vulnerabilităților, violență, sexualitate, ideologii de la care editorul l-a îndepărtat prin antrenare, conținut care ar putea fi ilegal acolo unde te afli”.
Raportul subliniază că riscul unui atac terorist care implică arme chimice și biologice e, în general, foarte scăzut din cauza barierelor tehnice necesare pentru producerea acestora.
Cunoștințele și competențele necesare pentru fabricarea unei arme biologice sunt, de regulă, deținute de oameni de știință care lucrează în instituții specializate.
Însă sistemele AI puternice, fără restricții de siguranță, pun brusc aceste cunoștințe la dispoziția oricărei persoane care dorește să le folosească.
„AI reduce nivelul de cunoștințe tehnice necesar pentru producerea unor substanțe periculoase,” susține profesorul Alastair Hay, expert în război chimic.
„În trecut, eram liniștiți de faptul că nivelul de cunoștințe tehnice necesar chiar și pentru protejarea celui care le produce era atât de ridicat, încât persoanele cu pregătire redusă s-ar fi pus singure în pericol dacă ar fi încercat să producă substanțe chimice extrem de periculoase,” a continuat Hay. „Acum, cu ajutorul laboratoarelor accesibile de la distanță, o mare parte din acest proces ar putea fi externalizată.”
Modelele au devenit atât de eficiente, iar puterea de calcul este atât de accesibilă, încât 87% dintre gospodării ar putea folosi propriul sistem AI offline cu tehnologia pe care o dețin în prezent.
Asta înseamnă că milioane de oameni au în prezent posibilitatea de a accesa toate informațiile de care ar avea nevoie pentru a începe să producă explozibili, arme chimice și agenți patogeni letali.
