Cine este părere că poate face ușor diferența între o voce umană reală și una „deepfake” se înșală. Majoritatea oamenilor nu pot. Într-un nou studiu publicat, în revista PLoS One, cercetătorii au arătat că, atunci când oamenii ascultă voci umane - alături de versiuni generate de AI ale acelorași voci - nu pot identifica precis care sunt reale și care sunt false, arată Live Science.
Majoritatea dintre noi am experimentat probabil vocile inteligenței artificiale (AI) prin intermediul asistenților personali precum Siri sau Alexa, cu intonația lor monotonă și pronunția mecanică, care ne dau impresia că putem distinge cu ușurință între o voce generată de AI și o persoană reală. Dar oamenii de știință spun că ascultătorul obișnuit nu mai poate face acum diferența între vocile reale și vocile „deepfake”.
„Vocile generate de AI sunt acum peste tot în jurul nostru. Cu toții am vorbit cu Alexa sau Siri sau am primit apeluri de la sisteme automate de servicii pentru clienți”, a declarat într-o declarație autoarea principală a studiului, Nadine Lavan, conferențiar în psihologie la Universitatea Queen Mary din Londra. „Aceste voci nu sună chiar ca voci umane reale, dar era doar o chestiune de timp până când tehnologia AI să înceapă să producă un discurs natural, care sună uman”.
Studiul a sugerat că, în timp ce vocile generice, create de la zero, nu erau considerate realiste, clonele vocale antrenate pe vocile unor persoane reale - audio deepfake - s-au dovedit a fi la fel de credibile ca și omologii lor din viața reală.
Pericolul clonării vocilor
Oamenii de știință au dat participanților la studiu mostre de 80 de voci diferite (n.r. 40 de voci generate de AI și 40 de voci umane reale) și le-au cerut să eticheteze care dintre ele considerau că sunt reale și care generate de AI. În medie, doar 41% dintre vocile AI create de la zero au fost clasificate eronat ca fiind umane, ceea ce sugerează că, în majoritatea cazurilor, este încă posibil să le deosebești de persoanele reale.
Cu toate acestea, în cazul vocilor generate de AI clonate de la oameni, majoritatea (58%) au fost clasificate eronat ca fiind umane. Doar puțin mai mult (62%) dintre vocile umane au fost clasificate corect ca fiind umane, ceea ce i-a determinat pe cercetători să concluzioneze că nu există o diferență statistică în capacitatea noastră de a distinge vocile persoanelor reale de clonele lor deepfake.
Rezultatele au implicații potențial profunde pentru etică, drepturile de autor și securitate, a spus Lavan. Dacă infractorii ar folosi AI pentru a clona vocea ta, ar deveni mult mai ușor să ocolească protocoalele de autentificare vocală la bancă sau să-ți păcălească persoanele dragi să transfere bani.
Am asistat deja la mai multe incidente de acest gen. Pe 9 iulie, de exemplu, Sharon Brightwell a fost înșelată cu 15.000 de dolari. Brightwell a ascultat ceea ce credea că era fiica ei plângând la telefon, spunându-i că a avut un accident și că are nevoie de bani pentru reprezentare legală pentru a nu ajunge la închisoare. „Nimeni nu m-ar putea convinge că nu era ea”, a spus Brightwell despre fabricarea realistă a AI la momentul respectiv.
Pericol de fraudă. Probleme de etică
Vocile AI realiste pot fi folosite și pentru a fabrica declarații și interviuri cu politicieni sau celebrități. Înregistrările audio false pot fi folosite pentru a discredita persoane sau pentru a incita la tulburări, semănând diviziune socială și conflicte. De exemplu, escrocii au creat recent un clonă AI a vocii premierului Queensland, Steven Miles, folosindu-i profilul pentru a încerca să convingă oamenii să investească într-o înșelătorie cu Bitcoin.
Cercetătorii au subliniat că clonele vocale pe care le-au folosit în studiu nu erau nici măcar deosebit de sofisticate. Le-au creat cu ajutorul unui software disponibil în comerț și le-au antrenat cu doar patru minute de înregistrări vocale umane.
„Procesul a necesitat cunoștințe minime, doar câteva minute de înregistrări vocale și aproape niciun cost financiar”, a declarat Navan în comunicat. „Acest lucru demonstrează cât de accesibilă și sofisticată a devenit tehnologia vocală bazată pe inteligența artificială”.
Deși deepfake-urile oferă o multitudine de oportunități pentru actorii răuvoitori, nu totul este negativ; pot exista și oportunități mai pozitive care vin odată cu puterea de a genera voci AI la scară largă.
„Ar putea exista aplicații pentru îmbunătățirea accesibilității, educației și comunicării, unde vocile sintetice personalizate de înaltă calitate pot îmbunătăți experiența utilizatorului”, a spus Navan.
Citește și Jeff Bezos: „Inteligenţa artificială este într-o bulă speculativă, dar beneficiile pentru societate vor fi gigantice”
Editor : C.A.
