Facebook combate mesajele ofensatoare cu inteligența artificială

Facebook vrea să creeze un program de inteligenţă artificială care să monitorizeze conţinuturile publicate pe reţeaua de socializare. programul ar putea astfel să semnaleze automat materialele ofensatoare difuzate în timpul unui streaming video live, relatează News.ro. 

Până acum, Facebook s-a bazat pe utilizatorii săi pentru a raporta conţinuturile ofensatoare, care sunt apoi verificate de angajaţi ai companiei, pentru ca acestea să nu fie contrare „standardelor comunităţii”. Deciziile asociate chestiunilor spinoase generate de controversele generate de anumite conţinuturi sunt luate de obicei de manageri de top din structura companiei americane.

Însă, recent Facebook a început să folosească tot mai mult inteligenţa artificială pentru a descoperi conţinuturile ofensatoare de pe site-ul său.

„Este vorba de un algoritm care detectează nuditatea, violenţa sau oricare alte lucruri care nu corespund politicilor noastre”, a precizat Joaquin Candela, directorul departamentului de învăţare automatizată din cadrul companiei americane. 

Facebook a început deja să utilizeze programe automatizate pentru a semnala conţinuturile video extremiste, a dezvăluit agenţia de presă Reuters, în iunie.

În prezent, noul program automatizat este testat în cadrul Facebook Live, serviciul de streaming folosit de utilizatorii care efectuează transmisiuni video live pe site-ul platformei.

Facebook foloseşte, de asemenea, programe automatizate pentru a analiza zecile de milioane de semnalări pe care le primeşte în fiecare săptămână, pentru a putea să selecteze conţinuturile raportate şi să le direcţioneze apoi spre experţii companiei, specializaţi în analizarea de conţinuturi.

Numeroşi observatori au acuzat Facebook că a facilitat victoria lui Donald Trump în alegerile prezidenţiale de pe 8 noiembrie, permiţând susţinătorilor acestuia să distribuie articole mincinoase. Peste 1 milion de distribuiri au fost înregistrate pe Facebook asociate unor link-uri cu ştiri false, precum, de exemplu, acela în care internauţii erau asiguraţi, în mod eronat, că Papa Francisc susţinea candidatura politicianului republican sau acela potrivit căruia un agent FBI care investiga e-mailurile candidatei democrate Hillary Clinton a fost găsit decedat.

Cu toate acestea, stabilirea cu certitudine a faptului că un anumit conţinut instigă la ură sau la intimidare, de exemplu, necesită un anumit context, au precizat reprezentanţii Facebook.

Compania Facebook a fost implicată în acest an în mai multe controverse generate de activitatea de moderare a conţinuturilor difuzate pe site-ul său - de la plângeri venite din întreaga lume după eliminarea unei fotografii legendare, realizată în timpul Războiului din Vietnam, din cauza nudităţii, şi până la permisiunea acordată utilizatorilor de a publica şi de a distribui ştiri false.