SUA au ordonat companiei Anthropic să suspende accesul cetățenilor străini la ultimele sale modele de inteligență arificială Fable 5 și Mythos 5. Guvernul american invocă „motive de securitate națională”, relatează Reuters.
Compania anunță că a primit o directivă de la autoritatea americană de control al exporturilor prin care trebuie să suspende accesul la modelele AI Fable 5 și Mythos 5 pentru toți cetățenii străini.
Anthropic afirmă că nu a primit detalii concrete despre riscul invocat de guvernul american, iar reprezentanții companiei au primit doar „dovezi verbale privind existența unei posibile vulnerabilități”. Compania contestă măsura și consideră că o astfel de problemă nu justifică retragerea modelelor AI abia lansate.
Anthropic a anunțat vineri că va „dezactiva brusc” cele mai avansate modele de inteligență artificială ale sale pentru toți utilizatorii.
Motivul invocat: un jailbreak raportat care ar permite identificarea unor vulnerabilități în cod, lucru care ar putea genera probleme complicate și chiar amenința securitatea cibernetică a SUA. După lansarea noilor modele au fost mai multe analize care raportau diverse probleme.
Compania „lucrează pentru clarificarea situației”
Anthropic a declarat că lucrează pentru clarificarea situației și pentru restabilirea accesului la modelele Fabio și Mythos cât mai rapid posibil. Cu doar două zile înainte de emiterea ordinului, chiar Anthropic ceruse public o supraveghere mai strictă a inteligenței artificiale, susținând posibilitatea blocării modelelor considerate prea periculoase. Totuși, compania afirmă că măsura adoptată vineri nu respectă principiile unei reglementări corecte și bazate pe dovezi.
„Securitatea națională trebuie să aibă prioritate și anumite aspecte sunt mai importante decât veniturile companiilor, atenția mediatică sau evaluările înainte de listarea la bursă”, transmite Kirsten Davies, directorul pentru informații al Pentagonului.
Decizia vine într-un moment în care relațiile dintre Anthropic și administrația americană păreau să se îmbunătățească după o perioadă tensionată. Potrivit informațiilor prezentate de Anthropic, conflictul a început din momentul în care compania a refuzat să permită Armatei Americane să folosească modelele sale pentru supraveghere internă și pentru sisteme de arme autonome. Ulterior, guvernul a inclus Anthropic pe o listă neagră, măsură care încă nu a intrat în vigoare.
Anthropic este o companie fondată de cercetători plecați de la OpenAI tocmai pentru că erau îngrijorați de faptul că modelele de inteligență artificială nu sunt suficient controlate. Luna trecută, firma a depus documentația pentru listarea la bursă.
La începutul acestei săptămâni, Anthropic a lansat modelul Claude Fable 5, considerat foarte performant, dar care a fost programat cu „restricții privind utilizarea în domenii considerate riscante, inclusiv în activități de securitate cibernetică”. Experții în securitate au avertizat că modelele din clasa Mythos pot accelera semnificativ atacurile cibernetice sofisticate dacă ajung în mâinile unor persoane rău intenționate. Riscul este considerat deosebit de mare în sectoare precum cel bancar, unde infrastructura informatică este complexă și include sisteme vechi conectate între ele.
Amazon Web Services a anunțat vineri seara că Anthropic i-a solicitat să retragă accesul la Fable 5 și Mythos 5 pentru toți utilizatorii din toate regiunile, inclusiv pentru americani.
De asemenea, mai mulți angajați importanți ai Anthropic s-au născut în afara Statelor Unite. Compania însă nu a precizat dacă aceștia ar putea pierde accesul la modelele afectate de ordin.
Editor : M.C
