Pe măsură ce extremismul islamist și cel de dreapta sunt în creștere, la fel se întâmplă și cu extremismul nihilist – cel care nu este motivat de o ideologie specifică, ci pur și simplu de „distrugere și haos”, relatează Sky News.
Extremiștii violenți utilizează inteligența artificială pentru a trece neobservați de moderatorii rețelelor sociale, potrivit liderului uneia dintre principalele echipe europene de prevenire a violenței.
În cadrul forumului TikTok Trust and Safety din Dublin, Judy Korn, director general al Violence Prevention Network, a declarat că natura extremismului se schimbă în același timp cu tacticile utilizate.
„În timp ce extremismul islamist și cel de extremă dreapta sunt în creștere”, a afirmat Korn, „cea mai accentuată creștere a ideologiilor se înregistrează în domeniul violenței neclare și al extremismului violent nihilist”.
Extremismul nihilist, a spus ea, nu este motivat de o ideologie care depășește pur și simplu „distrugerea și haosul” – ceea ce îl face mai greu de detectat pe rețelele sociale, deoarece nu va activa filtrele tradiționale de conținut.
În același timp, extremiștii violenți folosesc IA generativă pentru a-și răspândi mesajele.
„AI-ul este mult mai inteligent decât extremiștii violenți, deoarece învață mai repede decât un om cum să producă conținut care transmite mesajul dorit fără a încălca reglementările și fără a încălca liniile directoare ale platformei”, a mai precizat Korn.
Extremiștii violenți devin, de asemenea, din ce în ce mai tineri.
În Regatul Unit, peste 50 % dintre persoanele trimise la programul de deradicalizare Prevent au sub 18 ani, iar una din cinci persoane arestate pentru terorism este, din punct de vedere legal, minoră, potrivit poliției antiteroriste.
În cadrul evenimentului, TikTok a anunțat o serie de noi măsuri pentru a-și proteja mai bine utilizatorii, inclusiv noi mesaje educative pentru utilizatorii care caută termeni legați de extremism în Germania.
Pe lângă măsurile împotriva extremismului, TikTok a anunțat și un nou watermark invizibil care va ajuta utilizatorii să recunoască conținutul creat cu ajutorul inteligenței artificiale.
Compania dispune de ani buni de instrumente de detectare a inteligenței artificiale, inclusiv sistemul de etichetare C2P, larg adoptat, care încorporează informații în metadatele conținutului.
„Provocarea comună a industriei este că, cu aceste metode, etichetele ar putea fi eliminate dacă descărcați conținutul reîncărcat sau reeditat în altă parte”, a declarat Jade Nester, directorul departamentului de politici publice privind datele, Europa, la TikTok.
„Aceste marcaje invizibile ne ajută să rezolvăm această problemă prin adăugarea unui marcaj tehnologic robust pe care numai noi îl putem citi”.
TikTok a anunțat, de asemenea, lansarea unui nou „centru de wellness” pentru a încuraja utilizatorii să se concentreze asupra bunăstării lor mentale prin meditație, afirmații și controlul timpului petrecut în fața ecranului.
Citește și:
Avertismentul șefului Google: „Nu mai credeți orbește ceea ce vă spune inteligența artificială”
Unul din pionierii sistemelor AI crede că marile companii de tehnologie au făcut o greșeală crucială: „Este un drum fără ieșire”
Editor : A.M.G.
