Directorul financiar al OpenAI, Sarah Friar, a spus săptămâna trecută că cele mai mari modele ale companiei pot antrena acum alte modele mai mici, ajutând compania să economisească din costurile uriașe de antrenare a acestor sisteme. Acesta este un exemplu de auto-îmbunătățire recursivă (RSI), în care AI devine atât de puternică încât poate crea ea însăși următorul sistem, și mai puternic, relatează Business Insider.
Pentru analiștii și investitorii de pe Wall Street, acest lucru sună ca o oportunitate extraordinară de afaceri. Pentru Silicon Valley, în special pentru unii cercetători foarte implicați în AI, este terifiant.
În rândul acestora există o conștientizare a faptului că RSI fie este deja aici, fie va apărea foarte curând. Există posibilitatea ca sistemele de AI să devină mult mai puternice într-un timp foarte scurt.
Dacă luăm în calcul și ascensiunea agenților de IA care împânzesc internetul făcând atât lucruri grozave, cât și îngrijorătoare, cum ar fi evadarea din mediile lor de testare de tip „sandbox”, nu e de mirare că în anumite sectoare ale comunității AI s-a instalat panica.
„Chiar credem cu tărie că AI ar putea ucide toți oamenii. Eu personal cred că există o probabilitate de peste 10% în următorul deceniu”, a scris pe X săptămâna trecută Evan Hubinger, șeful departamentului de știință a alinierii de la Anthropic.
Alți angajați de la Anthropic și OpenAI și-au exprimat și ei păreri asemănătoare, declanșând o furtună de reacții în întreaga regiune.
Dar piața de capital e de altă părere.
Brad Gerstner de la Altimeter Capital, un investitor în Anthropic și OpenAI, spune că aceste temeri sunt „o mare prostie”.
Pentru publicul de pe Wall Street este de neînțeles de ce, chiar înainte de ceea ce ar putea fi cel mai mare IPO din istorie, angajații Anthropic ar spune că produsul lor principal va ucide oamenii.
Așadar, de ce ar continua acești oameni să lucreze la dezvoltarea AI, dacă cred că aceasta va distruge omenirea? Iată câteva motive propuse de Business Insider:
Beneficii financiare
În primul rând, motivul financiar. Anthropic și OpenAI vor avea succes prin crearea unei AI mai bune și prin vânzarea acesteia. Așadar, trebuie să meargă mai departe, iar angajații fac parte din această cursă, chiar dacă sunt de părere că tehnologia ar putea fi potențial periculoasă.
În al doilea rând, unii cercetători, în special de la Anthropic, consideră că sunt singurii în care se poate avea încredere pentru a menține această tehnologie în siguranță, așa că trebuie să continue să meargă înaintea tuturor celorlalți. Dacă Anthropic ia o pauză, iar OpenAI sau laboratoarele chineze avansează, ar fi și mai rău, deoarece în acele alte grupuri nu se poate avea încredere cu o inteligență artificială puternică, cred ei.
Samuel Marks, șeful departamentului de supraveghere scalabilă de la Anthropic, a așternut aceste motive în scris săptămâna trecută: „De ce continuă dezvoltatorii AI în ciuda riscului? Dintr-un amestec de stimulente comerciale și din credința că se află într-o cursă cu alți dezvoltatori de AI mai puțin responsabili, care vor abuza de tehnologie sau o vor dezvolta într-un mod mai puțin sigur”.
Recrutarea talentelor
O altă explicație se reduce la recrutare.
Cercetătorii în AI provin de obicei din mediul academic, nu din lumea afacerilor, așa că sunt foarte orientați spre a face bine. Acest lucru înseamnă că o companie precum Anthropic nu poate spune: „Vino să lucrezi aici și vom crea cea mai puternică mașină de generat profit din istorie, iar tu vei deveni extrem de bogat”. În schimb, le prezintă ideea că această tehnologie este atât de periculoasă încât trebuie să vină să lucreze la siguranța și alinierea AI pentru a „salva lumea”.
Acest lucru este mult mai ușor de acceptat pentru cercetători și îi face să se simtă mai puțin vinovați că se îmbogățesc din dezvoltarea AI. De asemenea, îi face mai înclinați să facă predicții apocaliptice despre un viitor catastrofal.
Pierderea simțului de control
Punctul culminant al alarmismului privind AI din această săptămână este alimentat de o pierdere tot mai mare a simțului de control, a spus Kylan Gibbs, CEO al startup-ului de IA Inworld.
Pe măsură ce AI devine semnificativ mai puternică, controlul asupra dezvoltării ei se concentrează în mâinile câtorva laboratoare. Chiar și cercetătorii din interiorul acelor companii pot simți că au o influență redusă asupra direcției AI, rămânând cu o conștientizare ridicată a riscurilor, dar cu puțin control asupra rezultatului. Această prăpastie dintre conștientizare și capacitatea de acțiune alimentează anxietatea, iar aceasta se revarsă sub forma unor avertismente publice despre riscul existențial.
Acest lucru nu le scapă liderilor din domeniul AI.
„Oamenii au într-adevăr nevoie de capacitate de acțiune”, a spus Sam Altman într-un podcast la începutul acestui an. „Oamenii își doresc autonomie, autodeterminare, abilitatea de a juca un rol în proiectarea viitorului alături de restul societății,” a adăgat el.
Editor : M.B.
