Apocalipsa deepfake și „halucinațiile” inteligenței artificiale. Sistemele de detectare a unui atac nuclear nu sunt pregătite pentru AI

Încă de la începutul erei nucleare, factorii de decizie și strategii politici au încercat să evite scenariul în care o țară își folosește armele nucleare în mod accidental. Odată cu răspândirea rapidă a inteligenței artificiale și dezvoltarea tehnologiei deepfake, pericolul declanșării unui război nuclear din cauza informațiilor false a devenit încă și mai mare decât era în timpul Războiului Rece.

În 1983, un sistem de avertizare timpurie a Uniunii Sovietice a indicat faptul că Statele Unite ar fi lansat un atac nuclear. Mesajul ar fi putut declanșa un contraatac din partea URSS care ar fi avut consecințe catastrofale.

Dezastrul a fost evitat datorită unui singur om: Stanislav Petrov, ofițerul sovietic care a determinat că era vorba de o alarmă falsă. Dacă le-ar fi raportat incidentul superiorilor săi, liderii sovietici ar fi putut decide să lanseze cele mai puternice arme create vreodată asupra Statelor Unite.

Odată cu dezvoltarea inteligenței artificiale, a apărut riscul ca decizia de a folosi armele nucleare să fie luată de sisteme AI, în loc de oameni. SUA au introdus unele măsuri pentru a se asigura că oamenii continuă să fie cei care iau decizia finală în privința lansării unui atac nuclear.

Totuși, inteligența artificială prezintă un alt risc înșelător asupra securității nucleare. Tehnologia deepfake poate fi folosită pentru a crea sau modifica videoclipuri, imagini și înregistrări audio pentru a genera informații false despre oameni și evenimente.

La câteva săptămâni după ce Rusia a invadat Ucraina, un videoclip deepfake care s-a răspândit rapid în mediul online îl arăta pe președintele ucrainean Volodimir Zelenski spunându-le ucrainenilor să depună armele. În 2023, un videoclip creat folosind tehnici similare i-a făcut pe oameni să creadă că președintele rus Vladimir Putin a întrerupt programul normal al televiziunii de stat pentru a anunța o mobilizare totală a forțelor armate.

La un singur „deepfake” distanță de un dezastru

Într-un scenariu dus la extrem, un videoclip deepfake l-ar putea convinge pe liderul unui stat cu arme nucleare că un adversar a lansat un atac preventiv sau un sistem de informații bazat pe AI ar putea declanșa alarme false despre mobilizări sau atacuri cu „bombe murdare”.

Președintele american Donald Trump a accesat și redistribuit videoclipuri deepfake de mai multe ori pe rețelele sociale. La fel au făcut și o parte din consilierii săi apropiați. Pe măsură ce sfera datelor reale este infiltrată tot mai mult de informațiile false, riscul ca astfel de deepfake-uri să influențeze deciziile de securitate națională cu o miză uriașă, inclusiv cele privind armele nucleare, este tot mai mare.

Dacă acest tip de dezinformare l-ar induce în eroare pe președintele Statelor Unite, chiar și pentru câteva minute, ar putea fi un dezastru pentru restul lumii, se arată într-o analiză Foreign Affairs. Legea nu îi cere președintelui SUA să se consulte cu nimeni atunci când decide ca armata să lanseze un atac nuclear.

Atât forțele nucleare americane, cât și cele rusești sunt pregătite să lanseze un atac încă din momentul în care rachetele inamice sunt detectate în aer. Asta înseamnă că liderii celor două țări nu au decât câteva minute ca să determine dacă adversarul a lansat într-adevăr un atac nuclear sau nu.

Dezinformarea alimentată de AI ar putea declanșa crize în lanț. Dacă sistemele AI sunt folosite pentru a interpreta datele de avertizare timpurie, acestea ar putea „halucina” un atac care nu este real, ceea ce i-ar pune pe oficialii americani într-o situație similară cu cea în care s-a găsit Petrov în urmă cu patru decenii.

Pericolul unui război nuclear este mai mare astăzi decât a fost în ultimele decenii

Deepfake-urile care sunt transmise în mediul online sunt aproape la fel de periculoase. Un lider american ar putea, spre exemplu, să confunde testarea unor rachete balistice intercontinentale de către Rusia cu declanșarea unor atacuri nucleare sau exerciții militare organizate de China cu un atac asupra aliaților Statelor Unite din Asia.

Administrația Trump a publicat în luna iulie un plan de acțiune AI care cere utilizarea agresivă a instrumentelor de inteligență artificială în cadrul Departamentului Apărării (numit, mai nou, Departamentul de Război), cea mai mare birocrație din lume.

Pentagonul a cerut fonduri din partea Congresului SUA pentru a adăuga tehnologii noi în sistemele de comandă, control și comunicații nucleare. Guvernul american ar trebui să limiteze integrarea inteligenței artificiale și a automatizării doar în domeniile securității cibernetice, afacerilor și analizelor, precum și în cazul unor sarcini simple, ca atunci când un generator de rezervă este pornit în timpul unei pene de curent, potrivit Foreign Affairs.

Pericolul unui război nuclear este mai mare astăzi decât a fost în ultimele decenii. Rusia a amenințat că va folosi arme nucleare în Ucraina, China își extinde rapid arsenalul nuclear, Coreea de Nord are capacitatea de a lovi Statele Unite cu rachete balistice intercontinentale, iar politicile privind neproliferarea armamentului nuclear continuă să fie eliminate sau ignorate.

În aceste condiții, este cu atât mai important să ne asigurăm că oamenii – nu mașinăriile AI antrenate folosind date false sau incomplete – sunt cei care evaluează acțiunile, intențiile și scopurile adversarilor, pentru a evita riscurile informaționale dăunătoare care ar putea provoca în ultimă instanță o catastrofă.

Editor : Raul Nețoiu