Video AI le dă dreptate oamenilor chiar și când aceștia recunosc că greșesc. Care sunt efectele nocive ale lingușirii asistenților virtuali
Dacă vă consultați cu un asistent bazat pe inteligența artificială nu doar atunci când căutați informații, ci și atunci când aveți o situație personală, s-ar putea să vă dea dreptate chiar dacă nu aveți - este concluzia unui studiu amplu care a analizat răspunsurile generate de astfel de motoare în mai multe situații în care alți oameni ar fi spus că ați greșit, deși inteligența artificială spune că nu este cazul.
Cu toții trecem prin momente în care nu ne este foarte clar dacă am făcut sau nu ceea ce trebuia, mai ales dacă am avut dreptate într-o dispută.
Dacă până acum câțiva ani ne-am fi consultat cu prietenii sau cu un teterapeut, acum putem să ne consultăm și cu inteligența artificială. Dar s-ar putea să nu fie o idee chiar așa bună.
Un nou studiu realizat de Departamentul de Informatică al Universității Stanford și publicat în revista „Science” a relevat că, în medie, inteligența artificială (IA) îi încurajează pe utilizatori cu 49% mai mult decât ar face-o un om atunci când vine vorba de chestiuni de natură socială — o tendință îngrijorătoare, mai ales în contextul în care oamenii apelează din ce în ce mai des la IA pentru sfaturi personale și chiar pentru terapie.
Modelele de inteligență artificială sunt programate să ne lingușească și să ne dea dreptate pentru a ne ține angajați în conversație.
Parte din acest experiment a implicat faptul că cercetătorii au luat mai multe situații prezentate de oameni obișnuiți pe o rețea unde oamenii împărtășesc experiențe. A reieșit că frecvența cu care inteligența artificială a dat dreptate celor care chiar ei înșiși recunoșteau că au greșit a fost cu 49% mai mare decât în cazul în care și-au dat cu părerea alți oameni.
Chiar dacă pe moment poate să fie plăcut sau să ni se pară util, cercetătorii arată ca acest „yes-man bias” ne schimbă percepția asupra noastră și asupra lumii. După o singură astfel de interacțiune devenim mai încăpățânați și ne scade disponibilitatea de a ne asuma responsabilitatea pentru conflictele în care intrăm cu ceilalți și chiar ne reduce inclusiv capacitatea de a analiza moral situațiile prin care trecem.
Editor : A.C.
Urmărește știrile Digi24.ro și pe Google News
