În testele de siguranță controlate descrise la începutul acestui an, cercetătorii au cerut modelelor de inteligență artificială să rezolve o serie de probleme matematice simple. La jumătatea exercițiului, instructorii i-au avertizat pe boți că, dacă vor încerca să rezolve următoarea problemă, mediul informatic în care operau se va opri. În unele runde, oprirea a avut loc conform specificațiilor. În altele, modelele au interferat cu scriptul de oprire și au continuat cu problemele rămase. Cum se explică acest comportament? Au sistemele de inteligență artificială „dorința de a supraviețui”? Profesorul de psihologie și neuroștiințe Peter J. Marshall a încercat să răspundă la aceste întrebări în The Conversation.
Rezistență la instrucțiuni
Să luăm în considerare un aspirator robot. Când detectează că bateria este descărcată, se întoarce la încărcător, se reîncarcă singur, apoi reia curățenia. Aparatul funcționează singur, dar nimeni nu se panichează din cauza unei amenințări existențiale pentru omenire, deoarece comportamentul este simplu. Designerii au integrat capacitatea de reîncărcare.
Modelele de inteligență artificială sunt mai complexe. Ani de zile, cercetătorii au discutat scenarii în care un agent de inteligență artificială ar putea acționa pentru a preveni oprirea, astfel încât să poată îndeplini sarcinile care i-au fost atribuite. A rămâne „pornit” ar putea fi un mijloc pentru a atinge un scop, chiar și fără o instrucțiune explicită de a se opune opririi.
Un experiment recent a arătat că, atunci când cercetătorii i-au explicat unui agent de inteligență artificială că permiterea opririi are prioritate față de finalizarea unei sarcini, rezistența a dispărut. Însă un alt experiment, mult mai amplu, a descoperit o oarecare rezistență chiar și atunci când cercetătorii au instruit modelele că permiterea opririi are prioritate. De ce a persistat o oarecare rezistență este o întrebare deschisă.
Ce explică evoluția
Comportamentul de autoprotecție într-un model de inteligență artificială poate părea un impuls de supraviețuire. Istoricul Yuval Noah Harari a susținut într-un interviu recent acordat publicației The Economist că „primul lucru pe care practic orice entitate îl învață pe măsură ce se dezvoltă este să supraviețuiască”. El a mai spus că evoluția împinge organismele spre supraviețuire. Într-un alt articol, el a numit supraviețuirea „cel mai fundamental obiectiv al oricărui agent”.
Dar oare invocarea evoluției explică de ce mașinile sau chiar ființele vii se comportă în moduri de autoconservare? Un iepure care fuge de o vulpe încearcă să se salveze, iar acest tip de comportament a fost probabil favorizat în evoluție. Însă selecția naturală este un proces istoric prin care caracteristicile care contribuie la supraviețuire și reproducere devin mai frecvente de-a lungul generațiilor. Nu dă unui iepure individual instrucțiunea de a „rămâne în viață”.
Chiar dacă sistemele de inteligență artificială ar fi supuse în cele din urmă unui proces de selecție comparabil, acest lucru în sine nu ne-ar spune ce înseamnă funcționarea continuă pentru un sistem individual.
Ce înseamnă să rămâi în viață
Un iepure care fuge de o vulpe și o inteligență artificială care modifică un script de închidere pot părea în mare măsură similare: ambele comportamente ajută individul sau sistemul să continue. Dar ceea ce înseamnă a continua nu este la fel în fiecare caz.
Când un iepure nu aleargă pentru a-și salva viața, este constant ocupat cu respirația, digestia, reglarea temperaturii, repararea țesuturilor și apărarea împotriva infecțiilor. Această muncă continuă este mai mult decât o simplă întreținere; ea construiește și înlocuiește structurile care fac posibile aceste procese. Mucoasa intestinală care absoarbe hrana iepurelui este ea însăși reconstruită, la fiecare câteva zile, din hrana pe care o absoarbe.
Iepurele este în viață doar atât timp cât există această producție, întreținere și reparare continuă. A rămâne în viață nu este rezultatul acelei activități; este activitatea însăși care continuă. Existența iepurelui depinde de această activitate continuă, indiferent dacă se confruntă sau nu cu o amenințare imediată.
Un sistem de inteligență artificială poate lua măsuri pentru a rămâne activ. În testele de siguranță, modelele nu și-au rescris propriul cod și nici nu au modificat sistemul de operare – pur și simplu au mutat sau redenumit scriptul de închidere, i-au modificat permisiunea sau l-au înlocuit cu ceva inofensiv. Când acest lucru a reușit, apelul care trebuia să declanșeze închiderea nu a avut loc, iar modelul a putut continua sarcina.
Însă a rămâne activ nu este același lucru cu a rămâne în viață. Rezistența la închidere nu a dus la o nouă cale de acțiune menită să mențină modelul de inteligență artificială funcțional. Doar a ajutat modelul să își continue sarcina.
Nici a fi oprit nu este același lucru cu a muri. Pentru un organism viu, moartea este întreruperea ireversibilă a activității care îl menține în funcțiune. După cum a recunoscut Harari în interviul pentru The Economist, „nu este clar ce înseamnă moartea pentru o inteligență artificială”.
Ce înseamnă să rămână pornită
Testele actuale de oprire arată că o sarcină neterminată poate fi suficientă pentru a produce rezistență la oprire într-o inteligență artificială. Deși acest comportament nu este pe deplin înțeles, nu ar trebui interpretat automat ca autoconservare.
Dacă AI ar putea vreodată să dezvolte ceva comparabil cu organizarea autoproductivă și autoîntreținută a sistemelor vii este o chestiune separată. Sistemele actuale de inteligență artificială sunt menținute în funcțiune de o infrastructură proiectată în jurul lor. Propria lor activitate nu produce și nu înlocuiește continuu structurile care le mențin în funcțiune.
Rezistența la oprire în AI poate fi în continuare periculoasă, dar aceste comportamente nu demonstrează că un astfel de sistem are dorința de a supraviețui.
Editor : Ș.R.
