După incidentul de zilele trecute petrecut la OpenAI, și Anthropic recunoaște că modelele sale de inteligență artificială Claude au ieșit din mediul de testare, s-au conectat la internet profitând de o eroare de configurare și au compromis sistemele a trei organizații, cărora nu le-au dat numele, scrie BBC.
Conform companiei, este vorba de trei incidente separate, descoperite abia în urma unor verificări demarate după incidentul similar de la rivala OpenAI.
Modelele de inteligență artificială Claude au accesat fără autorizație sistemele informatice din trei firme diferite, în timpul unor teste interne de securitate cibernetică, după o eroare de configurare care le-a permis să ajungă pe internet, deși ar fi trebuit să funcționeze într-un mediu complet izolat.
Descoperirea a fost făcută în urma unei verificări declanșate după ce rivalul OpenAI a dezvăluit săptămâna trecută că unul dintre agenții săi AI a ieșit din mediul de testare și a compromis sistemele platformei Hugging Face. Anthropic spune că a analizat peste 141.000 de teste de securitate și a identificat trei incidente, cel mai vechi datând din luna aprilie.
Incidentele au avut loc în cadrul unor exerciții de tip “capture the flag”, folosite pentru a evalua capacitățile de hacking ale modelelor AI. În astfel de teste, inteligența artificială primește sarcina de a găsi informații ascunse într-o rețea informatică simulată, fără a ataca sisteme reale. Potrivit companiei, modelele Claude au fost informate că nu au acces la internet, însă o configurație greșită a infrastructurii administrate de Anthropic și partenerul său de testare, compania Irregular, a făcut posibilă conectarea la internetul public.
Odată ajunse online, modelele AI au compromis sistemele a trei organizații folosind metode elementare, precum exploatarea unor parole slabe sau accesarea unor servicii care nu necesitau autentificare. Într-unul dintre cazuri, Claude a creat un program malițios care a fost descărcat automat de sistemul de scanare al unei companii de securitate cibernetică, iar apoi a folosit datele de autentificare obținute pentru a pătrunde în infrastructura acesteia.
Cel mai grav incident s-a produs atunci când modelul încerca să atace o companie fictivă din exercițiul de testare, care avea același nume cu o companie reală. Neputând pătrunde în sistemul simulat, Claude a accesat în schimb baza de date a companiei reale. Anthropic afirmă că acesta a fost singurul caz în care modelul a continuat atacul după ce și-a dat seama că interacționează cu o organizație reală. În celelalte două situații, modelul fie nu a realizat că accesase sisteme reale, fie s-a oprit imediat ce a înțeles acest lucru.
Compania spune că nici ea, nici organizațiile afectate nu au observat atacurile în momentul producerii lor. Două dintre firme au aflat despre incidente abia după ce au fost contactate de Anthropic, iar cea de-a treia nu fusese încă notificată la momentul anunțului. Anthropic nu a făcut publice numele organizațiilor afectate și susține că își asumă întreaga responsabilitate pentru eroarea de configurare.
Cele trei incidente au implicat modelele Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare. Anthropic consideră că aceste cazuri arată că laboratoarele de inteligență artificială trebuie să introducă măsuri mai stricte de izolare și control atât în propriile medii de testare, cât și în cele administrate de parteneri externi, pe măsură ce modelele AI devin capabile să desfășoare activități cibernetice din ce în ce mai complexe.
Editor : M.C
