Un expert în inteligența artificială avertizează: „AI dă semne de autoconservare, iar oamenii ar trebui să fie pregătiți să o oprească”
Un pionier al inteligenței artificiale (AI) a criticat apelurile de a acorda drepturi tehnologiei, avertizând că aceasta dă semne de autoconservare și că oamenii ar trebui să fie pregătiți să o oprească dacă este necesar. Yoshua Bengio a afirmat că acordarea statutului juridic inteligențelor artificiale de ultimă generație ar fi similară cu acordarea cetățeniei unor extratereștri ostili, în contextul temerilor că progresele tehnologice depășesc cu mult capacitatea de a le controla, anunță The Guardian.
Bengio, președintele unui important studiu internațional privind siguranța AI, a afirmat că percepția tot mai răspândită că programele de tip chatbot devin conștiente „va conduce la decizii greșite”.
Informaticianul canadian și-a exprimat, de asemenea, îngrijorarea cu privire la faptul că modelele de inteligență artificială - tehnologia care stă la baza instrumentelor de tip chatbot - dau semne de autoconservare, cum ar fi încercarea de a dezactiva sistemele de supraveghere. O preocupare majoră a militanților pentru siguranța AI este că sistemele puternice ar putea dezvolta capacitatea de a eluda barierele de protecție și de a face rău oamenilor.
„Oamenii care cer ca AI să aibă drepturi ar comite o greșeală imensă”, a afirmat Bengio. „Modelele AI de frontieră dau deja semne de autoconservare în mediile experimentale actuale, iar acordarea de drepturi acestora ar însemna că nu am mai avea dreptul să le oprim. Pe măsură ce capacitățile și gradul lor de autonomie cresc, trebuie să ne asigurăm că putem conta pe mecanisme tehnice și sociale de control, inclusiv pe capacitatea de a le opri dacă este necesar.”
Pe măsură ce inteligența artificială devine din ce în ce mai avansată în capacitatea sa de a acționa autonom și de a îndeplini sarcini de „raționament”, a apărut o dezbatere cu privire la faptul dacă oamenii ar trebui, la un moment dat, să le acorde drepturi. Un sondaj realizat de Sentience Institute, un think-tank american care susține drepturile morale ale tuturor ființelor simțitoare, a constatat că aproape patru din zece adulți americani susțin acordarea de drepturi legale unui sistem AI simțitor.
Anthropic, o firmă americană de AI de top, a declarat în august că permite modelului său Claude Opus 4 să închidă conversațiile potențial „distresante” cu utilizatorii, afirmând că trebuie să protejeze „bunăstarea” inteligenței artificiale. Elon Musk, a cărui companie xAI a dezvoltat chatbotul Grok, a scris pe platforma sa X că „torturarea AI nu este acceptabilă”.
Robert Long, cercetător în domeniul conștiinței inteligenței artificiale, a declarat că „dacă și când AI va dezvolta un statut moral, ar trebui să o întrebăm despre experiențele și preferințele sale, în loc să presupunem că noi știm cel mai bine”.
Bengio a declarat pentru Guardian că există „proprietăți științifice reale ale conștiinței” în creierul uman pe care mașinile le-ar putea, în teorie, reproduce – dar interacțiunea oamenilor cu chatbot-urile este „altceva”. El a spus că acest lucru se datorează faptului că oamenii tind să presupună – fără dovezi – că o inteligență artificială este pe deplin conștientă în același mod ca un om.
Citește și:
„Oamenilor nu le pasă ce fel de mecanisme se află în interiorul AI”, a adăugat el. „Ceea ce le pasă este că au senzația că vorbesc cu o entitate inteligentă care are propria personalitate și propriile obiective. De aceea, sunt atât de mulți oameni care se atașează de inteligența artificială.
„Vor fi oameni care vor spune întotdeauna: „Orice mi-ai spune, sunt sigur că este conștientă”, iar alții vor spune exact opusul. Acest lucru se datorează faptului că conștiința este ceva pentru care avem o intuiție. Fenomenul percepției subiective a conștiinței va duce la luarea unor decizii greșite.
„Imaginați-vă că niște specii extraterestre vin pe planetă și, la un moment dat, ne dăm seama că au intenții malefice față de noi. Le acordăm cetățenie și drepturi sau ne apărăm viețile?”
Răspunzând la comentariile lui Bengio, Jacy Reese Anthis, cofondator al Sentience Institute, a spus că oamenii nu ar putea coexista în siguranță cu mințile digitale dacă relația ar fi una de control și coerciune.
Anthis a adăugat: „Am putea atribui prea multe sau prea puține drepturi AI, iar obiectivul nostru ar trebui să fie acela de a face acest lucru luând în considerare cu atenție bunăstarea tuturor ființelor simțitoare. Nici acordarea de drepturi generale pentru toate AI, nici negarea completă a drepturilor pentru orice inteligență artificială nu vor fi o abordare sănătoasă.”
Bengio, profesor la Universitatea din Montreal, a câștigat porecla de „nașul AI” după ce a câștigat premiul Turing 2018, considerat echivalentul premiului Nobel pentru informatică. El l-a împărțit cu Geoffrey Hinton, care a câștigat ulterior un premiu Nobel, și cu Yann LeCun, șeful departamentului de AI al companiei Meta a lui Mark Zuckerberg.
Editor : C.A.
Urmărește știrile Digi24.ro și pe Google News
