Ce sunt „viermii IA” cu capacitate de autoreplicare și de ce Anthropic își face griji în legătură cu aceștia. „Viermi” vs „Viruși”

Data publicării:
IA
Foto: Profimedia

Avertismentele privind ceea ce ar putea face inteligența artificială în viitor – alături de rapoarte alarmante despre ceea ce a reușit deja să facă – sunt emise atât de rapid încât chiar și experții în securitate au dificultăți în a stabili ce anume ar trebui să îi îngrijoreze.

Cu toate acestea, un raport publicat săptămâna trecută de echipa de cercetare ofensivă a Anthropic a atras atenția prin descrierea unei amenințări noi și concrete, lipsită de trăsături umane sau de speculații apocaliptice, notează The Guardian.

„Echipa roșie”, așa cum sunt numiți acești testeri interni, a declarat că a creat un program de IA rău intenționat care s-a răspândit în mod autonom prin televizoarele „inteligente” conectate la internet și ar putea face același lucru în interiorul altor dispozitive obișnuite. Deși mașinile care rulează IA au nevoie, de obicei, de o putere de calcul considerabilă, cercetătorii au afirmat că programul lor și-a împărțit părți ale sale între 15 televizoare și a reușit totuși să funcționeze folosind o mică parte din puterea fiecăruia.

De la IA la Harry Potter

Pe lângă faptul că amintește de horcruxurile care păstrau fragmente din sufletul Lordului Voldemort în viață în diverse obiecte din seria Harry Potter, raportul a alarmat unii specialiști, deoarece securitatea, în general precară, a televizoarelor inteligente și a multor alte dispozitive din „Internetul lucrurilor” ar fi foarte greu de remediat, chiar și printr-un efort concertat.

„Este un motiv de îngrijorare, la fel ca orice alt val de atacuri cibernetice. Trebuie să atenuăm posibilele efecte”, a declarat Joshua Saxe, care a condus dezvoltarea eforturilor Meta în domeniul securității IA. „Mă îngrijorează în acest moment faptul că membrii comunității de securitate cibernetică nu iau aceste riscuri reale atât de în serios pe cât ar trebui.”

Daune. Viermi „istorici”

Daunele provocate de astfel de „viermi IA” ar putea fi uimitor de mari. Virusii informatici care se autoreplică, care nu au nevoie să păcălească un om pentru a se propaga, sunt cunoscuți sub numele de viermi, iar viermii din trecut au provocat unele dintre cele mai grave ravagii din istoria internetului.

Printre aceștia se numără viermele Morris din 1988, care a apărut înainte ca internetul să devină accesibil publicului larg, când un student la masterat a lansat un program care a profitat de diverse vulnerabilități software și parole slabe, copiindu-se atât de rapid încât multe calculatoare infectate au încetinit până la blocare. Statele Unite și Israelul au introdus viermii în spionajul internațional cu ajutorul viermelui Stuxnet, care a acționat în secret la sfârșitul anilor 2000, sabotând centrifugele nucleare iraniene. Alți viermi, precum NotPetya din Rusia și WannaCry, atribuit Coreei de Nord, au provocat pagube în valoare de zeci de miliarde de dolari la nivel mondial.

Multe dintre cei mai distructivi viermi informatici din lume s-au bazat pe vulnerabilități cunoscute pe care proprietarii dispozitivelor nu le-au remediat, uneori chiar și la câteva luni după ce patch-urile au devenit disponibile. Echipa Anthropic a prevăzut că un vierme asemănător celui creat de ei ar putea funcționa în același mod și ar fi mai greu de oprit, deoarece dispozitivele inteligente primesc patch-uri mai rar decât telefoanele sau laptopurile. Mai grav, ei au emis ipoteza că un vierme bazat pe IA s-ar putea adapta în continuare la alte tipuri de hardware, cercetând vulnerabilitățile recent dezvăluite.

Viermi vs Viruși

Ceea ce diferențiază viermii bazați pe IA de virușii obișnuiți care se reproduc este faptul că modelele de IA pot învăța pe parcurs, a afirmat Ariel Herbert-Voss, unul dintre primii experți în securitate de la OpenAI, care conduce acum startup-ul de securitate IA RunSybil. Infrastructura existentă de securitate cibernetică nu este pregătită pentru proliferarea unor astfel de amenințări, a spus Herbert-Voss. „Trebuie să le oferim echipelor noastre de securitate condiții mai bune. Trebuie să le punem la dispoziție mai multe resurse pentru a remedia problemele.”

Scopuri benefice

Viermii ar putea fi folosiți și în scopuri benefice, a sugerat Chris Inglis, fost director adjunct al Agenției Naționale de Securitate (NSA), care a ocupat funcția de director național pentru securitate cibernetică în administrația Biden de la Casa Albă.

„Întrebarea dacă viermii IA sunt plauzibili a fost lămurită de mai multe incidente majore din ultimele șase luni”, a declarat Inglis printr-un mesaj digital. „Întrebarea mai pertinentă este cum îi vom folosi, cum îi vom contracara și/sau cum îi vom combina cu alte tehnologii emergente.”

Cercetătorii de la Anthropic au afirmat că un vierme de IA de succes ar trebui să aibă o capacitate mai mare pe dispozitive mai puțin performante decât este posibil în prezent – dar au adăugat că tendințele actuale vor face acest lucru posibil până la sfârșitul anului. Cercetarea lor vine în continuarea unui articol publicat de experții de la Universitatea din Toronto în urmă cu câteva luni, în care s-a demonstrat infectarea unui computer de dimensiuni normale și capacitatea acestuia de a se răspândi către mașini similare mai rapid decât viermele de televiziune.

Măsuri de securitate

„Capacitățile s-au dezvoltat foarte rapid”, a declarat coautorul și doctorandul din Toronto, Jonas Guan.

Guan și alți experți au afirmat că, din punct de vedere practic, un vierme bazat pe IA nu ar trebui să se afle în fruntea listei temerilor legate de IA. Versiunea Anthropic se mișcă foarte încet, a spus Guan, iar viermii au acțiuni previzibile și detectabile, care pot fi blocate la mai multe niveluri. Măsurile elementare de securitate, inclusiv utilizarea parolelor puternice și a autentificării în doi pași, ar opri majoritatea viermilor și a altor atacuri cibernetice, au afirmat experții.

„Nimic din toate acestea nu este cu adevărat fezabil sau semnificativ”, a declarat Juan Andres Guerrero-Saade, vicepreședinte de cercetare la firma de securitate SentinelOne. „Este o acțiune de hacking ingenioasă, care capătă o amplificare mult mai mare în serviciul narațiunilor apocaliptice ridicole care sugerează că modelele au o minte și o voință proprie.”

Furtuna IA

„Afirmația că o mare parte din toate acestea ține de marketing este corectă, dar realitatea depășește cu mult orice campanie de relații publice”, a declarat Gadi Evron, care organizează luna aceasta la San Francisco o conferință despre securitatea IA, intitulată „Unprompted”. „Indiferent de afirmațiile laboratoarelor, acestea nu ne avertizează suficient. Trebuie să înțelegem că nimeni nu poate opri furtuna IA.”

Editor : Sebastian Eduard

Urmărește știrile Digi24.ro și pe Google News

Partenerii noștri
Digieconomic
Când poate ANAF să verifice averea unei persoane fizice și cum se justifică diferențele dintre venituri și...
Digi FM
Nepotul lui Ion Țiriac a lucrat ca electrician la noua arenă sportivă a familiei. Alexandru are 18 ani...
Descarcă aplicația Digi FM
Pro FM
Thalia, spectaculoasă la 55 de ani. Într-un costum auriu mulat, a făcut senzație alături de Karol G, cu 20 de...
Descarcă aplicația Pro FM
Film Now
Prima reacție a lui Robert Pattinson după ce a fost confirmat în rolul lui James Bond: „O șansă unică în...
Adevarul
„Honey trap”, arma veche a spionajului care îi poate vulnerabiliza chiar și pe cei mai puternici oameni. De...
Newsweek
Pensionarii pierd bani în toate scenariile analizate de Guvern pentru indexarea pensiilor. Inflația, prea mare
Digi FM
Cum s-a schimbat viața unei tinere britanice după ce s-a trezit din somn vorbind cu un accent complet diferit
Descarcă aplicația Digi FM
Digi World
Cum ar fi arătat Pământul dacă viața nu ar fi existat niciodată? O simulare dezvăluie o lume surprinzătoare
Digi Animal World
Un crab „înarmat” cu un cuțit a terorizat un bărbat și câinele său, în Florida. Imaginile au devenit virale...
Film Now
„Două frumuseți!” Glenn Close, apariție rară în public alături de fiica sa. Annie este și ea actriță
UTV
Andra Gogan, premiată de Forbes România la 28 de ani. Artista a intrat în topul „30 Under 30” după succesul...