Legea UE privind Inteligența Artificială are lacune în favoarea poliției și a autorităților din domeniul migrației, spun experții

Data publicării:
Europe,Map,With,Virtual,Gavel,And,Sound,Block,And,Ai
Legea UE privind Inteligența Artificială are lacune, avertizează experții. Foto: Shutterstock

Uniunea Europeană a interzis unele utilizări „inacceptabile” ale inteligenței artificiale începând cu 2 februarie, o premieră mondială pentru limitarea tehnologiei în curs de dezvoltare, notează Politico.

Dar criticii spun că interdicțiile au prea multe lacune care permit poliției europene și autorităților din domeniul migrației să folosească inteligența artificială – inclusiv tehnologia care poate identifica rapid fețele pe camerele de securitate – pentru a ajuta la urmărirea autorilor infracțiunilor grave, cum ar fi atacurile teroriste.

Legea AI a Uniunii Europene nu mai permite utilizarea inteligenței artificiale pentru a stabili dacă cineva va comite o infracțiune, astfel de acțiuni de „poliție predictivă” fiind unele dintre cele șapte categorii de utilizare a AI interzise acum. De asemenea, este interzisă folosirea imaginilor de pe internet pentru a construi o bază de date pentru recunoașterea facială sau deducerea emoțiilor unei persoane din datele biometrice.

În timp ce interdicțiile au intrat în vigoare de duminică, guvernele mai au la dispoziție până în august să desemneze autoritățile care le vor aplica.

Actul AI este o premieră mondială în stabilirea regulilor privind modul în care poate fi utilizată noua tehnologie. Vicepreședinta Comisiei Europene responsabilă de suveranitatea tehnologiei, securitatea și democrația, Henna Virkkunen, a lăudat, anul trecut, proiectul de lege ca fiind unul care „îi va proteja pe cetățenii noștri”, fiind totodată un „facilitator pentru inovare”. Crearea de garanții pentru tehnologia în curs de dezvoltare este considerată esențială pentru a permite utilizarea pe scară largă. Alte părți ale legii vor fi implementate treptat în următorul an și jumătate.

Regulile diferențiază UE de alte părți ale lumii unde există puține reguli similare care să guverneze tehnologia, subliniind poziția sa de avangardă în materie de reglementare. Președintele american Donald Trump a adoptat o abordare opusă, eliminând un ordin executiv privind siguranța AI al predecesorului său, Joe Biden.

Brando Benifei, un parlamentar italian care a ajutat la negocierea regulilor, a declarat că interdicțiile au ca scop evitarea ca AI să poată fi folosită pentru „controlul societății” sau „comprimarea libertăților noastre”.

„Interdicțiile sunt foarte concentrate pe un domeniu de îngrijorare, care este legat de protecția democrațiilor noastre”, a spus el.

Aplicarea lor ar putea fi însă complicată. Poliția europeană și autoritățile din domeniul migrației folosesc, de asemenea, mai multe practici de inteligență artificială , cum ar fi recunoașterea facială în timp real în spațiile publice, și au reușit să asigure liste lungi de scutiri în regulament pentru a continua să facă acest lucru.

Academicienii și activiștii sunt îngrijorați și urmăresc îndeaproape cum va fi aplicată legea.

„Putem chiar să ne întrebăm dacă putem vorbi cu adevărat de o interdicție dacă există atât de multe excepții”, a spus Nathalie Smuha, profesor asistent și cercetător în etica AI la Universitatea KU Leuven. 

Inspirația: Hollywood sau China

O interdicție totală a anumitor utilizări a AI nu era în cărți când Comisia Europeană și-a instruit experții să pregătească o strategie AI în 2018.

Experții și oficialii de rang înalt s-au răzgândit rapid, a spus Smuha, care a coordonat activitatea grupului de experți, pentru că și-au dat seama că legislația existentă ar putea să nu abordeze anumite practici.

Prima schiță a Comisiei pentru noile reguli de inteligență artificială din aprilie 2021 sugera deja interzicerea mai multor practici, cum ar fi cele care „distorsionează comportamentul unei persoane” prin tehnici subliminale sau exploatează grupuri vulnerabile.

Când proiectul de lege a ajuns la Parlamentul European pentru discuție, parlamentarii au adăugat la această listă în timp ce negociau cu oficialii guvernamentali. Forma finală a legii a fost convenită în decembrie 2023. 

Kim Van Sparrentak, un parlamentar olandez al Verzilor implicat în negocierile Actului AI, a declarat că interdicțiile listei se încadrează în trei categorii.

„Lucruri care existau deja pe care știam că nu le dorim, și lucruri pe care ni le putem imagina fie din filmele de la Hollywood într-o oarecare măsură, fie din China”, a spus ea.

Un caz care a influențat redactarea a fost o controversă din Țările de Jos în 2019 din cauza autorităților fiscale olandeze care au folosit un algoritm pentru a detecta frauda alocațiilor de îngrijire a copilului, o mișcare care a dus la acuzarea pe nedrept de fraudă a aproximativ 26.000 de persoane.

O astfel de practică ar putea fi acum interzisă, intrând sub controlul predictiv al poliției. 

„Dacă vrei o societate care se bazează pe statul de drept, nu poți trata oamenii în mod constant ca și cum ar fi deja potențiali infractori”, a spus Van Sparrentak.

În mod similar, interdicția de a folosi imagini cu fețele oamenilor de pe internet provine de la Clearview AI, cu sediul în SUA, o firmă de recunoaștere facială investigată pentru că a introdus miliarde de imagini în baza sa de date.

Legea AI interzice utilizarea „sistemelor AI care creează sau extind baze de date de recunoaștere facială prin adunarea în bloc a imaginilor faciale de pe Internet”.

Este posibil ca Beijingul să fi inspirat și alte interdicții, cum ar fi interzicerea punctajului social, comparativ cu sistemul chinez de clasificare a persoanelor pe baza comportamentului lor.

Migrația

Activitățile pentru drepturile digitale au subliniat „diferitele lacune grave” ale legii, în special pentru poliție și migrație, a scris un grup de 22 de organizații într-o scrisoare deschisă în ianuarie.

„Cea mai flagrantă lacună este faptul că interdicțiile nu sunt valabile pentru autorităților de aplicare a legii și de migrație”, a declarat Caterina Rodelli, analist de politici UE la grupul pentru drepturile digitale Access Now. 

O excepție flagrantă este interzicerea recunoașterii faciale în timp real în locuri publice. În principiu, oamenii legii nu vor mai putea face asta, dar țările UE încă pot permite excepții, în special pentru cele mai grave infracțiuni.

De asemenea, inteligența artificială nu poate fi folosită pentru a detecta emoții în școli sau birouri, dar asta nu e valabil pentru aplicarea legii și problema migrației. Activiștii au avertizat că acest lucru ar putea permite utilizarea detectorilor de minciuni AI, care scanează o față pentru orice semne de înșelăciune, la granițe.

Van Sparrentak a spus că acest tip de scutiri reprezintă o linie roșie pentru guvernele UE în timpul negocierilor, forțând discuțiile de ultimă oră să se întindă la 36 de ore.

Editor : Ș.R.

Urmărește știrile Digi24.ro și pe Google News

Partenerii noștri
Playtech
Ajutorul de 50.000 de lei pentru pensionarii români, soluția la înghețarea pensiilor. Cum scapă de...
Digi FM
Cum reacționează soțul Simonei Țăranu atunci când ea primește mesaje de la fotbaliști celebri?
Pro FM
Ce dieta ține Delia Matache ca să fie în forma maximă la 43 de ani
Film Now
Martin Scorsese, impresionat de filmele românești: "Îmi plac mult". Îl laudă pe Radu Jude: "Vezi lumea...
Adevarul
Cum a reușit un primar de origine română să-i învingă pe extremiști în Hollywoodul Germaniei. Îndemn pentru...
Newsweek
1.000.000 de pensii cresc cu 250 lei din aprilie. Șeful Casei de Pensii spune cine primește banii
Digi FM
Selena Gomez și Benny Blanco, într-o zi obișnuită din viața lor. Cei doi logodnici, însoțiți de bodyguarzi la...
Digi World
Cercetătorii au descoperit celulele creierului care îţi spun să nu mai mănânci. Cum știe creierul că te-ai...
Digi Animal World
O focă, descoperită într-o cameră de hotel din Țările de Jos. „Crezi că ai văzut totul, apoi se întâmplă așa...
Film Now
Apariția lui Tom Cruise la Super Bowl împarte internauții în două tabere. „Ce s-a întâmplat cu fața lui?”, „E...
UTV
Andreea Bălan, declarații surprinzătoare despre George Burcea. „Nu mai e același lucru. Acum, toată creșterea...