Sute de conturi de pe TikTok obțin miliarde de vizualizări prin difuzarea de conținut generat de inteligență artificială, inclusiv materiale anti-imigranți și sexualizate, potrivit unui raport citat de The Guardian.
Cercetătorii au declarat că au descoperit 354 de conturi axate pe IA care au publicat 43.000 de postări realizate cu instrumente IA generative și au acumulat 4,5 miliarde de vizualizări într-o perioadă de o lună.
Potrivit AI Forensics, o organizație non-profit cu sediul la Paris, unele dintre aceste conturi încearcă să manipuleze algoritmul TikTok – care decide ce conținut văd utilizatorii – prin postarea unei cantități mari de conținut, în speranța că acesta va deveni viral.
Unul dintre conturi a postat de până la 70 de ori pe zi sau la aceeași oră din zi, ceea ce indică faptul că este un cont automat, iar majoritatea conturilor au fost lansate la începutul anului.
Luna trecută, TikTok a dezvăluit că pe platformă existau cel puțin 1,3 miliarde de postări generate de IA. Peste 100 de milioane de materiale sunt încărcate pe platformă în fiecare zi, ceea ce indică faptul că materialele etichetate ca fiind generate de IA reprezintă o mică parte din catalogul TikTok. Rețeaua oferă utilizatorilor și opțiunea de a reduce cantitatea de conținut generat de IA pe care o văd.
Dintre conturile care au postat conținut cel mai frecvent, jumătate s-au concentrat pe conținut legat de corpul feminin. „Aceste femei generate de IA sunt întotdeauna atractive în mod stereotipic, cu ținute sexualizate sau decolteuri”, se arată în raport.
AI Forensics a descoperit că conturile nu au etichetat jumătate din conținutul pe care l-au postat și că mai puțin de 2% purtau eticheta TikTok pentru conținut generat de AI – ceea ce, potrivit avertismentului organizației non-profit, ar putea crește potențialul înșelător al materialului. Cercetătorii au adăugat că, uneori, conturile scapă de moderarea TikTok timp de luni de zile, în ciuda faptului că postează conținut interzis de termenii și condițiile de utilizare.
Cercetătorii au afirmat că zeci de conturi dezvăluite în studiu au fost ulterior șterse, indicând faptul că unele au fost eliminate de moderatori.
O parte din conținut a luat forma unor segmente de știri false cu relatări inventate anti-imigranți și materiale care sexualizau corpurile feminine, inclusiv fete care păreau a fi minore. Categoria corpului feminin a reprezentat jumătate din cele mai active 10 conturi, a spus AI Forensics, în timp ce unele dintre știrile false prezentau mărci de difuzare cunoscute, precum Sky News și ABC.
Unele dintre postări au fost șterse de TikTok după ce au fost semnalate platformei de către Guardian.
TikTok a declarat că afirmațiile din raport sunt „nefondate” și că cercetătorii au ales această platformă pentru o problemă care afecta mai multe platforme. În august, Guardian a dezvăluit că aproape unul din zece dintre canalele YouTube cu cea mai rapidă creștere la nivel global afișau doar conținut generat de IA.
„Pe TikTok, eliminăm conținutul dăunător generat de inteligența artificială (AIGC), blocăm crearea a sute de milioane de conturi de bot, investim în tehnologii de etichetare IA de vârf și oferim oamenilor instrumente și educație pentru a controla modul în care experimentează acest conținut pe platforma noastră”, a declarat un purtător de cuvânt al TikTok.
Cele mai populare conturi evidențiate de AI Forensics în ceea ce privește vizualizările au postat „slop”, termenul pentru conținutul creat de IA care este fără sens, bizar și conceput pentru a aglomera fluxurile de social media ale oamenilor – cum ar fi animale care concurează într-un concurs olimpic de scufundări sau bebeluși vorbitori. Cercetătorii au recunoscut că o parte din conținutul slop era „distractiv” și „drăguț”.
Ghidurile TikTok interzic utilizarea AI pentru a reprezenta surse autoritare false, asemănarea cu persoane sub 18 ani sau asemănarea cu adulți care nu sunt persoane publice.
„Această investigație a [conturilor automate] arată modul în care conținutul IA este acum integrat în platforme și într-un ecosistem viral mai larg”, au spus cercetătorii.
„Linia neclară dintre conținutul autentic uman și conținutul sintetic generat de IA pe platformă semnalează o nouă turnură către mai mult conținut generat de IA în fluxurile utilizatorilor.”
Cercetătorii au analizat datele din perioada mijlocul lunii august – mijlocul lunii septembrie. O parte din conținut încearcă să obțină bani de la utilizatori, inclusiv prin promovarea suplimentelor alimentare prin intermediul unor influenceri falși, promovarea instrumentelor care ajută la crearea de conținut viral generat de IA și căutarea de sponsori pentru postări.
AI Forensics, care a evidențiat și prevalența conținutului IA pe Instagram, a declarat că salută decizia TikTok de a permite utilizatorilor să limiteze cantitatea de conținut AI pe care o văd, dar că etichetarea trebuie îmbunătățită.
„Având în vedere cantitatea structurală și deloc neglijabilă de eșecuri în identificarea unui astfel de conținut, rămânem sceptici cu privire la succesul acestei funcții”, au afirmat ei.
Cercetătorii au adăugat că TikTok ar trebui să ia în considerare crearea unei funcții exclusiv pentru IA în aplicație, pentru a separa conținutul generat de AI de postările create de oameni.
„Platformele trebuie să depășească etichetele slabe sau opționale de «conținut AI» și să ia în considerare separarea conținutului generativ de materialul creat de oameni sau găsirea unui sistem echitabil care să impună etichetarea sistematică și vizibilă a conținutului AI”, au afirmat ei.
Citește și:
SUA a suspendat toate cererile de imigrare din 19 ţări non-europene. Lista statelor vizate
Editor : B.E.
