Inteligența artificială face ca operațiunile de supraveghere statale să fie mai rapide, mai ieftine și mai ușor de automatizat. Anthropic spune că a identificat persoane și structuri legate de guvernele din China, Mali și Iran care au folosit modele Claude pentru a analiza date, a întocmi dosare și a identifica potențiale ținte ale supravegherii.
Operațiuni de supraveghere desfășurate de state din întreaga lume folosesc Claude pentru a-și eficientiza activitatea, a anunțat Anthropic într-un raport privind amenințările, publicat joi, relatează Axios.
Pe măsură ce modelele de inteligență artificială devin mai performante, barierele pentru guvernele interesate să-i spioneze pe disidenți, politicieni, jurnaliști și activiști pentru drepturile omului devin tot mai mici.
Anthropic a identificat persoane cu legături cu guvernele din Mali, China și Iran care au folosit diferite modele Claude pentru a-și eficientiza operațiunile de supraveghere.
În Mali, un consultant care lucra pentru autoritățile din domeniul securității naționale a folosit Claude pentru a crea un sistem care colectează date de la operatorii de telefonie mobilă din țară și întocmește dosare despre persoane.
Anthropic a dezvăluit și un alt caz în care actori iranieni au folosit Claude pentru a crea și implementa o extensie malițioasă pentru browserul Firefox, care „colecta identitățile utilizatorilor de pe rețelele sociale”.
De la „mai multe echipe de analiști” la un singur birou
Un serviciu de informații pentru afaceri religioase din China și-a redus operațiunile de la „mai multe echipe de analiști” la „un singur birou, care folosește un asistent AI pentru a realiza mii de investigații pe lună”, potrivit raportului. Guvernele au folosit Claude și pentru analizarea acestor informații și selectarea persoanelor care urmau să fie supravegheate, arată documentul.
De exemplu, autoritățile chineze au folosit Claude pentru a analiza date de pe rețelele sociale, pentru a determina cât de sensibile din punct de vedere politic erau postările și apoi pentru a selecta posibile ținte pentru ceea ce numeau „control”. Acesta putea include interogatorii coercitive sau o monitorizare mai atentă a deplasărilor și comunicațiilor unei persoane.
În iunie, Anthropic a blocat și un cont care folosise Claude pentru a construi o platformă comercială de supraveghere destinată spionării persoanelor din Iran și din Golful Persic. Compania de inteligență artificială a detectat această utilizare înainte ca platforma să devină operațională.
Anthropic constată că inteligența artificială trece de la statutul de instrument experimental la utilizarea sa în activitatea de zi cu zi a aparatului de supraveghere al statelor.
Un serviciu chinez de securitate de stat a creat chiar și un manual intern pentru utilizarea AI în operațiunile de supraveghere, în timp ce alți oficiali au folosit Claude pentru a automatiza rapoartele zilnice de informații și pentru a interoga bazele de date guvernamentale de supraveghere.
Munca unor echipe de analiști, automatizată cu AI
Instrumentele AI fac supravegherea desfășurată de state mai ieftină și mai eficientă, fără să schimbe fundamental persoanele pe care guvernele le aleg drept ținte, a declarat pentru Axios Jacob Klein, șeful departamentului de informații privind amenințările din cadrul Anthropic.
Inteligența artificială le permite tot mai mult unor angajați sau contractori individuali ai guvernelor să automatizeze activități pentru care, în trecut, era nevoie de echipe de analiști, a adăugat Klein. „Practic, automatizează părți ale activității din cadrul aparatului de informații”, a spus el.
Guvernele nu au avut nevoie de acces la cele mai performante modele Anthropic pentru a-și extinde semnificativ operațiunile de supraveghere. Toate cazurile de supraveghere prezentate în raport au implicat Claude Haiku, Sonnet sau Opus, și nu modelele mai noi Anthropic din clasele Fable sau Mythos.
Anthropic susține că a blocat toate conturile asociate operațiunilor de supraveghere pe care le-a identificat și că și-a consolidat măsurile de protecție pe baza constatărilor făcute.
Blocarea accesului la Claude nu înseamnă însă neapărat și încetarea operațiunilor respective. Klein a declarat că Anthropic a observat actori care au trecut la modele open-source după ce măsurile de protecție sau intervențiile companiei au creat prea multe obstacole. În Mali, guvernul a ajuns în cele din urmă să implementeze local platforma de supraveghere, folosind alte modele.
Utilizarea inteligenței artificiale în astfel de operațiuni nu mai este doar un scenariu ipotetic, iar Anthropic se așteaptă ca performanțele AI să continue să crească.
„Statele autoritare folosesc astăzi inteligența artificială pentru supraveghere, represiune și operațiuni de influență”, a declarat Klein. „Nu mai este ceva ipotetic.”
Editor : M.I.
