Comisia Europeană a publicat miercuri versiunea finală a Codului de bune practici privind transparența conținutului generat de inteligența artificială, un document care explică modul în care companiile, platformele și operatorii de sisteme AI trebuie să aplice noile obligații prevăzute în AI Act, regulamentul european privind inteligența artificială.
Noile reguli se vor aplica din 2 august 2026 și vizează, în special, etichetarea imaginilor, videoclipurilor, înregistrărilor audio și textelor generate sau manipulate cu ajutorul inteligenței artificiale. Practic, utilizatorii vor trebui să fie informați când interacționează cu un chatbot, când văd un deepfake sau când citesc un text generat automat pe teme de interes public.
Comisia Europeană susține că aceste reguli sunt necesare într-un context în care devine tot mai greu pentru utilizatori să facă diferența dintre conținutul creat de oameni și cel generat artificial.
Riscurile vizate sunt dezinformarea, manipularea la scară largă, fraudele, impersonarea unor persoane reale și inducerea în eroare a consumatorilor.
„Europenii au dreptul să știe dacă ceea ce văd, aud sau citesc a fost făcut sau modificat de IA, în special atunci când un astfel de conținut poate modela dezbaterea publică. Transparența este modul în care protejăm încrederea. Prezentul Cod de bune practici oferă furnizorilor și implementatorilor de IA o modalitate clară și practică de a eticheta conținutul generat de IA și deepfake-urile, în conformitate cu normele Regulamentului privind IA, care se vor aplica de la 2 august. Îi invit să adere la cod și să dea dovadă de spirit de lider în dezvoltarea și implementarea unei IA responsabile și de încredere”, a declarat Henna Virkkunen, vicepreședintă executivă a Comisiei Europene pentru suveranitate tehnologică, securitate și democrație.
Codul a fost elaborat de șase experți independenți, cu contribuții din partea a peste 180 de părți interesate, printre care furnizori de sisteme AI, operatori, IMM-uri, reprezentanți ai mediului academic, instituții publice și organizații ale societății civile. Printre autori se află și profesoara româncă Mădălina Botan, de la SNSPA, vicepreședintă a unuia dintre grupurile de lucru implicate în redactarea Codului.
Vezi documentul aici.
Citește și: Din august 2026, AI Act devine pe deplin aplicabil în UE. Ce trebuie să știe firmele din România și ce amenzi riscă
Ce se schimbă pentru utilizatori
Cea mai vizibilă schimbare pentru utilizatori va fi apariția unor etichete clare pentru conținutul generat sau modificat cu ajutorul inteligenței artificiale.
Deepfake-urile vor trebui marcate ca atare, iar imaginile, videoclipurile și materialele audio generate artificial vor trebui să poată fi identificate. De asemenea, textele generate sau manipulate de AI, publicate pe teme de interes public, trebuie etichetate clar atunci când nu există o revizuire umană sau control editorial.
Asta înseamnă că un material video care imită o persoană reală, o imagine creată artificial, o înregistrare audio generată cu voce sintetică sau un text produs automat despre alegeri, sănătate, economie ori alte teme de interes public va trebui semnalat astfel încât utilizatorul să înțeleagă că materialul nu este autentic.
În cazul chatboturilor și al sistemelor interactive, utilizatorii trebuie informați încă de la început că interacționează cu o inteligență artificială, nu cu o persoană reală.
Cum vor fi marcate imaginile, videoclipurile și textele generate de AI
Codul stabilește că furnizorii de sisteme AI generative trebuie să folosească soluții de marcare care pot fi citite automat. Cu alte cuvinte, conținutul generat sau modificat de AI trebuie să conțină semnale tehnice care să permită identificarea lui ca fiind artificial.
Aceste marcaje pot include metadate, watermark-uri invizibile, semnături digitale sau alte soluții tehnice care indică faptul că materialul a fost generat ori modificat cu ajutorul inteligenței artificiale.
Documentul arată, însă, că, în multe cazuri, o singură metodă de marcare nu este suficientă. De aceea, Codul recomandă folosirea unei combinații de soluții tehnice, pentru ca marcajele să fie eficiente, robuste, fiabile și interoperabile. Scopul este ca un conținut generat de AI să poată fi identificat chiar dacă este redistribuit, comprimat, modificat sau publicat pe mai multe platforme.
În cazul imaginilor și videoclipurilor, marcajele pot fi integrate direct în fișier sau în metadatele acestuia. Pentru materialele audio pot fi folosite soluții similare, adaptate formatului sonor. În cazul textelor, situația este mai complicată, deoarece textul simplu nu poate păstra metadate în același mod ca o imagine sau un videoclip. Din acest motiv, documentul vorbește despre soluții speciale de marcare a textelor generate automat.
Platformele și companiile trebuie să poată verifica dacă un conținut a fost generat artificial
Codul nu se limitează doar la obligația de a marca materialele generate de AI. Furnizorii vor trebui să pună la dispoziție și soluții de detecție, astfel încât marcajele să poată fi verificate.
Aceste soluții pot lua mai multe forme: specificații publice, programe software, biblioteci tehnice sau servicii cloud accesibile prin API. Scopul este ca utilizatorii, platformele, cercetătorii, jurnaliștii, autoritățile sau alte părți interesate să poată verifica dacă un conținut a fost produs sau manipulat de un anumit sistem AI.
Rezultatul verificării trebuie afișat clar și într-un mod ușor de înțeles. Cu alte cuvinte, nu este suficient ca sistemul să detecteze tehnic marcajul; informația trebuie prezentată astfel încât utilizatorul să înțeleagă dacă materialul este generat de AI, modificat de AI sau autentic.
Documentul mai prevede că aceste mecanisme trebuie testate, monitorizate și actualizate periodic, pentru a rămâne eficiente în fața tehnologiilor care evoluează rapid.
Ce etichete ar putea vedea utilizatorii
Ghidul prevede inclusiv posibilitatea folosirii unor iconițe europene comune pentru marcarea conținutului generat sau modificat de AI.
Sunt prevăzute iconițe distincte pentru conținut complet generat de inteligența artificială și pentru conținut parțial modificat cu AI. Variantele propuse includ etichete de tip „AI GENERATED” și „AI MODIFIED”, pentru ca utilizatorii să înțeleagă rapid dacă un material este creat integral artificial sau doar modificat parțial.
Aceste iconițe sunt gândite pentru a fi ușor de observat, ușor de înțeles și utilizabile pe platforme diferite. Comisia Europeană a menționat că designul lor a fost testat în mai multe state membre, iar variantele cu text explicit au fost considerate mai clare pentru utilizatori.
În practică, o astfel de etichetă ar putea apărea peste o imagine, într-un colț al unui videoclip, lângă un text publicat online sau într-un alt loc vizibil, în funcție de formatul conținutului.
Eticheta trebuie să fie vizibilă de la prima expunere
Una dintre regulile importante din Cod este că eticheta trebuie afișată cel târziu în momentul în care utilizatorul vede sau aude pentru prima dată conținutul respectiv.
Asta înseamnă că avertismentul nu ar trebui ascuns într-un meniu, într-o pagină separată sau într-un text greu de găsit. Eticheta trebuie să fie vizibilă imediat, fără ca utilizatorul să fie nevoit să caute explicații suplimentare.
Pentru conținutul vizual, Codul recomandă ca eticheta să fie plasată într-un loc ușor de observat, de exemplu într-un colț al imaginii sau al videoclipului, fără să fie acoperită de alte elemente grafice. Ea trebuie să rămână vizibilă suficient timp pentru a putea fi observată.
Documentul cere ca etichetarea să fie accesibilă și pentru persoanele cu dizabilități, copii sau vârstnici. În cazul conținutului audio, urmează să fie dezvoltate soluții specifice, inclusiv o variantă de icon dedicată materialelor sonore.
Ce obligații au furnizorii de sisteme AI
Pentru furnizorii de sisteme AI generative, obligația principală este să marcheze automat conținutul produs sau modificat de sistemele lor. Marcajul trebuie să fie detectabil automat și suficient de rezistent pentru a nu dispărea imediat după modificări simple ale fișierului.
Furnizorii trebuie să se asigure că soluțiile folosite sunt eficiente, fiabile, robuste și interoperabile. În plus, trebuie să prevină eliminarea ușoară a marcajelor și să ofere instrumente de verificare.
Codul mai prevede obligații legate de testare, monitorizare, instruirea personalului și cooperarea cu autoritățile de supraveghere a pieței. Aderarea la Cod poate ajuta companiile să demonstreze că au luat măsuri pentru respectarea AI Act, însă documentul precizează că semnarea Codului nu reprezintă, în sine, o dovadă definitivă de conformitate.
Ce obligații au operatorii care folosesc AI
A doua parte a Codului se referă la operatorii care folosesc sisteme AI pentru a produce sau publica deepfake-uri ori texte generate artificial.
Aceștia trebuie să eticheteze clar deepfake-urile și textele generate sau manipulate de AI atunci când sunt publicate pentru a informa publicul cu privire la chestiuni de interes public și nu au trecut printr-o revizuire umană ori prin control editorial.
De exemplu, o companie, o platformă sau o instituție care publică automat texte generate de AI despre decizii politice, sănătate publică sau alte teme importante trebuie să informeze publicul că textul a fost produs sau modificat artificial.
Operatorii trebuie să aibă și proceduri interne de conformare. Acestea pot include desemnarea persoanei sau structurii cu responsabilitate editorială, măsuri organizatorice și resurse umane pentru verificarea conținutului înainte de publicare.
Codul precizează, însă, că aceste reguli nu trebuie să afecteze libertatea presei, independența editorială sau protecția surselor jurnalistice.
Platformele online sunt încurajate să ajute utilizatorii să eticheteze conținutul
Documentul face referire și la rolul platformelor online și al motoarelor de căutare. Acestea sunt încurajate să ofere soluții prin care cei care încarcă sau distribuie conținut să poată aplica mai ușor etichetele cerute de AI Act.
De exemplu, o platformă ar putea introduce, în interfața de încărcare a unui videoclip sau a unei imagini, opțiuni prin care utilizatorul să marcheze conținutul ca fiind generat sau modificat de AI.
Pentru platformele foarte mari, care au deja obligații de reducere a riscurilor în baza Digital Services Act, aceste soluții pot deveni importante în combaterea dezinformării și a manipulării online.
Vor exista reguli speciale pentru conținut artistic, satiric sau creativ
Codul prevede și situații în care etichetarea poate fi aplicată diferit, pentru a nu afecta nejustificat expresia artistică, satira, ficțiunea sau creațiile similare.
În cazul unor opere artistice, creative, satirice sau fictive, obligația de informare rămâne importantă, însă modul în care este făcută etichetarea poate fi adaptat contextului. Scopul este ca publicul să fie informat fără ca eticheta să afecteze forma artistică sau experiența de consum a operei.
De asemenea, pentru textele publicate pe teme de interes public, obligația de etichetare este legată de absența controlului uman. Dacă există revizuire umană reală și responsabilitate editorială, situația poate fi tratată diferit.
Codul este deschis pentru semnături
Codul este acum deschis pentru semnături, iar Comisia Europeană invită furnizorii și operatorii de sisteme AI să adere la el.
După aprobarea de către Comisie și de către Comitetul pentru AI, companiile care semnează Codul vor putea folosi acest instrument pentru a demonstra mai ușor conformitatea cu obligațiile relevante din AI Act.
Documentul va fi completat ulterior prin orientări ale Comisiei Europene, care vor clarifica domeniul de aplicare al obligațiilor legale și aspectele practice care nu sunt detaliate în Cod.
Noile reguli de transparență completează obligațiile deja prevăzute în AI Act pentru modelele de AI de uz general și pentru sistemele cu grad ridicat de risc. Scopul declarat al Comisiei Europene este ca utilizarea inteligenței artificiale în Uniunea Europeană să fie mai transparentă, mai sigură și mai ușor de înțeles pentru public.
Editor : A.D.
