Momentul Mythos și cei cinci zei ai inteligenței artificiale: de ce noul model AI a devenit prea periculos pentru a fi lansat pe piață

Cinci experți în domeniul tehnologiei au ajuns să dețină controlul aproape total asupra modelelor de inteligență artificială care vor transforma viitorul omenirii. O competiție liberă între marile lor companii părea a fi calea cea mai bună pentru ca America să se asigure că va câștiga cursa AI contra Chinei. Însă, această abordare s-ar putea să devină istorie odată cu apariția noului model Mythos, despre care se spune că este atât de performant încât ar putea destabiliza întreg sistemul financiar, potrivit Business Insider.

Progresul uimitor de rapid al modelelor AI a devenit acum o amenințare chiar pentru securitatea națională a Statelor Unite, ceea ce i-a pus în gardă pe membrii administrației Trump, care până nu demult își doreau ca domeniul inteligenței artificiale să rămână cât mai liber.

În același timp, opinia tot mai negativă a alegătorilor din SUA despre inteligența artificială a transformat domeniul AI într-una din principalele probleme care vor influența alegerile prezidențiale din 2028.

Abordarea laissez-faire în domeniul AI, dominat de companiile de tehnologie ale lui Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind), Elon Musk (xAI), Mark Zuckerberg (Meta) și Sam Altman (OpenAI), nu mai este nici sustenabilă din punct de vedere politic, nici înțeleaptă din punct de vedere strategic, se arată într-o analiză The Economist.

Modelul Claude Mythos anunțat de Anthropic în aprilie este atât de performant în depistarea vulnerabilităților de software încât ar putea pune în pericol infrastructura critică, inclusiv a băncilor și spitalelor.

Noile modele prezintă riscuri tot mai mari în domeniul biosecurității și ar putea fi folosite de escroci în mediul online pentru a produce pagube la scară industrială.

Întâlnire de urgență cu directorii marilor bănci americane

Șeful Anthropic, Dario Amodei, și-a dat seama că Mythos este prea periculos pentru a fi lansat pe piața liberă. Astfel, modelul va fi folosit doar de aproximativ 50 de mari firme de informatică, software și finanțe pentru a se apăra mai bine în fața atacurilor cibernetice.

Secretarul Trezoreriei Statelor Unite, Scott Bessent, a fost atât de alarmat de noul model AI de la Anthropic încât a convenit o întâlnire de urgență cu directorii marilor bănci americane pentru a-i avertiza de noile pericole.

Nu este prima oară când Washingtonul reacționează la ceea ce se întâmplă în domeniul AI. Cu câteva săptămâni în urmă, Pentagonul a intervenit după ce Amodei a refuzat să permită folosirea modelului Anthropic în armele autonome și în sistemele de supraveghere în masă.

Și atunci administrația Trump a fost alarmată de puterea pe care o singură firmă o deține asupra unei tehnologii esențiale pentru securitatea națională.

Americanii sunt mult mai sceptici în privința inteligenței artificiale decât cetățenii altor țări. Șapte din zece americani cred că progresul AI va duce la pierderea multor joburi. Casa lui Sam Altman, șeful OpenAI, a fost atacată de două ori în ultima perioadă.

Istoria arată că, în privința unor tehnologii atât de revoluționare precum inteligența artificială, momentul Mythos era inevitabil. De la John D. Rockefeller și până la Henry Ford, marile inovații industriale ale Americii au fost conduse mereu de un grup mic de oameni care au devenit extrem de puternici.

Mythos, „punctul de plecare” al transformării industriei AI

Cu toate că „zeii” AI nu sunt încă mai dominanți decât predecesorii lor din alte domenii care au schimbat lumea, reglementarea inteligenței artificiale va fi extrem de problematică – pentru că miza este una uriașă și progresul AI este uimitor de rapid.

Principalele riscuri asociate cu modelul Mythos au legătură cu furtul de identitate la scară largă, exploatarea informațiilor despre piața financiară și a vulnerabilităților de software, tranzacționarea pe baza informațiilor privilegiate (insider trading) și „perturbarea sistemică a pieței financiare”, potrivit unui raport recent publicat de American Securities Association.

Logan Graham, șeful unei echipe de la Anthropic care testează noile modele AI pentru a depista toate capacitățile lor periculoase, a spus că Mythos este „punctul de plecare” pentru un moment de transformare a industriei sau o „evaluare a ceea ce trebuie să se întâmple acum”.

Mythos „a găsit vulnerabilități, iar în unele cazuri a creat mecanisme de exploatare atât de sofisticate încât au fost ratate de cercetători în securitate care lucrează de zeci de ani, precum și de toate instrumentele automatizate proiectate pentru a le depista”, a mai spus Graham pentru New York Times.

Cursa înarmării dintre hackeri și companiile care se grăbesc să își securizeze sistemele va deveni tot mai aprinsă, a avertizat și Jared Kaplan, unul dintre fondatorii Anthropic. „După cum spune sloganul, acesta este cel mai puțin capabil model la care vom avea acces în viitor.”

Editor : Raul Nețoiu