Dicţionarul Cambridge a dezvăluit că verbul „hallucinate” („a halucina”) a fost ales cuvântul anului 2023, după ce termenul a obţinut o definiţie suplimentară legată de producerea de informaţie falsă de către inteligenţa artificială (AI). Atribuirea unui nou sens cuvântului reflectă „o mişcare subtilă, dar profundă în ceea ce priveşte percepţia: AI-ul, nu utilizatorul, este cel care «halucinează»”, spune un expert în etică AI la Universitatea Cambridge.
Halucinaţiile AI, denumite şi confabulaţii, par câteodată absurde, dar pot părea pe deplin plauzibile, chiar şi atunci când sunt inexacte factual sau de-a dreptul ilogice.
Definiţia tradiţională a cuvântului „a halucina” se referă la a vedea, auzi, simţi sau mirosi ceva care nu există, de obicei din cauza unei condiţii de sănătate sau în urma administrării unui drog.
Noua definiţie adiţională din Dicţionarul Cambridge spune: „Când o formă de inteligenţă artificială (un sistem informatic care are o parte din calităţile creierului uman, cum ar fi abilitatea de a produce limbaj într-un fel care pare uman) halucinează înseamnă că produce informaţie falsă”, scrie Agerpres, preluând dpa.
După o creştere iniţială a interesului în ceea ce priveşte instrumente pentru inteligenţa artificială generativă (AI), cum ar fi ChatGPT, atenţia publicului a migrat către limitările AI şi a modalităţilor prin care acestea pot fi depăşite.
Cum „halucinează” AI
Instrumente AI, în special cele care folosesc modele lingvistice mari (LLM), s-au dovedit capabile de a genera discurs plauzibil, dar deseori face acest lucru folosind „fapte” false, eronate sau inventate.
Acestea „halucinează” într-o manieră încrezătoare şi câteodată credibilă.
„Faptul că AI-ul poate «halucina» ne aminteşte că oamenii au în continuare nevoie să-şi aducă abilităţile de gândire critică în folosul acelor instrumente”, a spus Wendalyn Nichols, manager editorial al Dicţionarului Cambridge.
„AI sunt fantastice în ceea ce priveşte căutarea printr-o cantitate mare de date pentru a extrage informaţii specifice şi a le consolida. Şi cu cât le ceri să fie mai originale, cu atât există probabilitatea mai mare de a o lua razna”, a mai spus ea.
„În cel mai bun caz, modelele lingvistice mari pot fi doar la fel de fiabile ca şi datele folosite pentru învăţare”.
„Expertiza umană este fără îndoială mai importantă - şi mai căutată - ca oricând, pentru a crea informaţii oficiale şi la zi pe baza cărora poate fi învăţat LLM-ul”.
Efectele „halucinațiilor” AI
O firmă de avocatură din Statele Unite a folosit ChatGPT pentru documentare juridică, iar drept urmare a ajuns să menţioneze mai multe cazuri fictive în sala de judecată.
Iar într-un clip video promoţional Google pentru propriul chatbord, Bard, instrumentul AI a comis o eroare factuală referitoare la Telescopul Spaţial James Webb.
Noua definiţie ilustrează o tendinţa în creştere în ceea ce priveşte antropomorfizarea tehnologiei AI, folosirea unor metafore umane atunci când vorbim, scriem sau gândim despre maşini.
„Folosirea răspândită a termenului «halucina» în legătură cu greşeli produse de sisteme precum ChatGPT oferă o perspectivă fascinantă a felului în care gândim despre inteligenţa artificială şi a felului în care o antropomorfizăm. Informaţii inexacte şi amăgitoare au existat dintotdeauna, fie că a fost vorba despre zvonuri, propagandă sau fake news”, a spus Henry Shevlin, specialist în etică AI la Universitatea Cambridge.
„În timp ce acestea sunt considerate în mod normal produsul minţii umane, «a halucina» este un verb sugestiv, care se referă la un subiect ce experimentează o deconectare de la realitate.”
„Alegerea lingvistică reflectă o mişcare subtilă, dar profundă în ceea ce priveşte percepţia: AI-ul, nu utilizatorul, este cel care «halucinează»”.
„Deşi acest lucru nu sugerează credinţa extinsă în înţelepciunea AI, subliniază disponibilitatea noastră de a atribui atribute similare celor umane inteligenţei artificiale.”
„Pe măsură ce acest deceniu trece, mă aştept ca vocabularul nostru psihologic să se extindă suplimentar pentru a cuprinde abilităţi stranii ale noilor inteligenţe pe care le creăm”.
Editor : Bogdan Păcurar
