AI-ul considerat prea periculos pentru public tocmai a fost lansat. De ce sunt îngrijorați experții

Urmărește A1 pe Discover

Modelul AI Claude Mythos de la Anthropic a fost descris drept prea periculos și puternic pentru a fi pus la dispoziția publicului.

Acum, însă, compania a lansat o versiune modificată a modelului AI, scrie IFL Science.

Lansarea a ridicat numeroase semne de întrebare legate de acest model AI, dincolo de îngrijorările experților legate de această tehnologie.

Unii se întreabă dacă descrierea precedentă a fost doar o unealtă de marketing sau dacă acest model AI chiar e periculos pentru public.

AI-ul considerat prea periculos pentru public tocmai a fost lansat

Numit Fable 5, noul sistem e un model din clasa Mythos, despre care Anthropic afirmă că a fost „făcut sigur pentru utilizarea generală”. Compania l-a lansat publicului pe 9 iunie, alături de o postare pe blog în care și-a explicat decizia.

Citește și: Apple nu va lansa Siri AI în Europa. De ce nu va fi disponibil noul serviciu

„Capacitățile Fable 5 depășesc orice model pe care l-am pus vreodată la dispoziția publicului,” scrie pe blog-ul oficial. „E de ultimă generație în aproape toate testele de performanță AI, demonstrând rezultate excepționale în inginerie software, activități bazate pe cunoaștere, analiză vizuală, cercetare științifică și multe alte domenii.”

Compania recunoaște însă că lansarea unui model atât de performant implică și riscuri.

„Fără măsuri de protecție, capacitățile sale în domenii precum securitatea cibernetică ar putea fi folosite abuziv pentru a provoca daune serioase,” continuă mesajul. „Din acest motiv, am lansat modelul cu mecanisme de siguranță care fac ca anumite solicitări să fie redirecționate către următorul nostru model ca performanță, Claude Opus 4.8.”

Anthropic spune că aceste măsuri de protecție sunt intenționat stricte și conservatoare. Uneori pot bloca solicitări complet inofensive, dar vor interzice în totalitate anumite categorii de subiecte. De exemplu, orice cerere legată de dezvoltarea armelor biologice va fi respinsă imediat.

Compania lansează, de asemenea, Claude Mythos 5 pentru un grup restrâns de experți în securitate cibernetică și operatori de infrastructură critică. Această versiune e asemănătoare cu Fable 5, însă are restricții ceva mai relaxate.

Mythos a ridicat mai multe semne de întrebare

Mythos a atras atenția în aprilie 2026, când Anthropic a sugerat că nu îl va lansa imediat publicului deoarece modelul era extrem de eficient în identificarea unor vulnerabilități necunoscute în sistemele informatice.

Aceste vulnerabilități ar putea fi exploatate de hackeri pentru a compromite sau chiar paraliza sisteme informatice importante.

„Nu am antrenat în mod explicit Mythos Preview pentru a avea aceste capacități,” a susținut atunci compania. „Ele au apărut ca rezultat secundar al îmbunătățirilor generale în programare, raționament și autonomie. Aceleași îmbunătățiri care fac modelul mult mai eficient la repararea vulnerabilităților îl fac și mult mai eficient la exploatarea acestora.”

În loc să îl lanseze public, Anthropic a oferit acces unui grup select de companii pentru a identifica și remedia slăbiciunile infrastructurii lor digitale.

Printre acestea s-au numărat Amazon Web Services, Google, Microsoft, Apple și alte companii importante care susțin funcționarea internetului modern.

Modelul ar putea fi folosit teoretic pentru a provoca daune semnificative sistemelor financiare, bazelor de date private sau infrastructurilor critice de securitate națională.

Din acest motiv, mai multe guverne, instituții financiare și experți în securitate cibernetică și-au exprimat îngrijorarea.

Citește și: ONU lansează un avertisment urgent legat de AI. De ce e periculoasă tehnologia pentru planetă

Alți comentatori consideră că Anthropic nu face decât să creeze entuziasm în jurul noilor sale modele într-o piață AI din ce în ce mai competitivă.

Unele dintre cele mai mari companii din domeniu, inclusiv Anthropic, OpenAI și xAI/Grok al lui Elon Musk sunt așteptate să se listeze la bursă în viitorul apropiat, la evaluări financiare uriașe.

OpenAI, compania din spatele ChatGPT, speră, de exemplu, să atingă o evaluare de până la 1.000 de miliarde de dolari în jurul lunii septembrie.

Aceste evaluări se bazează în mare măsură pe promisiunea unor câștiguri viitoare. Totuși, există îndoieli reale cu privire la capacitatea acestor sisteme de a genera profituri sustenabile pe termen lung și chiar dacă vor produce schimbările pozitive pe care le promit.