AI începe să facă cumpărături în locul utilizatorilor. Băncile avertizează asupra noilor riscuri
Agenții AI capabili să aleagă produse și să facă achiziții în numele utilizatorilor ar putea crește riscurile de fraudă, escrocherii și încălcări ale confidențialității datelor, avertizează mai multe bănci internaționale. Instituțiile financiare cer introducerea unor reguli clare înainte ca noua formă de comerț online să fie adoptată pe scară largă.
Avertismentul vine în contextul în care companiile de tehnologie dezvoltă rapid așa-numitul „agentic commerce”, în care inteligența artificială nu se limitează la recomandarea unui produs, ci poate participa efectiv la procesul de cumpărare.
Potrivit Reuters, OpenAI, Anthropic, Google și Meta se numără printre companiile care promovează chatboturile AI drept instrumente pentru cumpărături, într-un model în care utilizatorul poate delega unui agent AI selectarea produselor și efectuarea achizițiilor.
În paralel, retailerii încearcă să se adapteze la schimbarea modului în care sunt descoperite produsele online. Retailerul britanic John Lewis a anunțat că ponderea căutărilor provenite de la agenți AI a ajuns în septembrie la 2,5%, față de numai 0,3% cu un an înainte.
AI ar putea cumpăra produsul greșit sau cheltui prea mult
Bank of America, NatWest, ING, Capital One, Commonwealth Bank of Australia și ASB Bank arată într-un raport comun de marți, 22 septembrie, că există interes din partea consumatorilor pentru posibilitatea de a delega cumpărăturile către inteligența artificială.
Problema este că tehnologia avansează mai rapid decât standardele industriei și mecanismele actuale de protecție a consumatorilor.
Printre temerile identificate se numără situațiile în care un agent AI cumpără un produs greșit, depășește bugetul stabilit sau facilitează, direct ori indirect, pierderea banilor prin fraude și escrocherii.
O problemă suplimentară este stabilirea responsabilității atunci când o tranzacție efectuată prin intermediul inteligenței artificiale produce un prejudiciu. Consumatorii nu știu întotdeauna ce protecție au și cui trebuie să se adreseze atunci când apar probleme, potrivit raportului.
„Consumatorii nu au certitudinea că inteligența artificială va acționa în interesul lor”, se arată în raport. „Sunt îngrijorați că agenții AI ar putea cumpăra produsul greșit sau ar putea cheltui prea mult - sau, și mai grav, că și-ar putea pierde banii în urma unor escrocherii și fraude. Nu știu cu certitudine dacă vor fi protejați sau cui vor trebui să se adreseze dacă lucrurile merg prost.”
Datele cardului, printre principalele riscuri
Băncile atrag atenția și asupra modului în care agenții AI ar putea gestiona informațiile financiare. Un astfel de sistem ar putea solicita datele cardului unui utilizator și apoi să le introducă direct pe site-ul unui comerciant. De asemenea, agentul ar putea direcționa cumpărătorul către o metodă de plată care oferă protecții mai reduse în cazul unei fraude sau al unui litigiu.
Pe măsură ce agentul AI primește o autonomie mai mare pentru efectuarea unei achiziții, devin astfel importante atât securitatea datelor, cât și regulile privind autorizarea tranzacțiilor și răspunderea în cazul unei probleme.
Băncile cer reguli pentru cumpărăturile realizate prin AI
Instituțiile financiare intenționează să discute cu autoritățile mai multe principii pentru reglementarea acestui nou tip de comerț.
Printre propuneri se află informarea explicită atunci când un agent AI este implicat într-o tranzacție, precum și o transparență mai mare privind criteriile pe baza cărora inteligența artificială alege un produs, un comerciant sau o metodă de plată.
Raportul mai susține că atât consumatorii, cât și comercianții ar trebui să poată alege liber serviciile de comerț electronic bazate pe AI pe care le utilizează, iar diferitele sisteme ar trebui să fie interoperabile.
Te-ar putea interesa și De ce consideră Fitch investițiile în inteligența artificială riscante. Țările din categoria junk sunt extrem de vulnerabile