Zeci de milioane de oameni folosesc acum inteligența artificială ca pe un companion. Milioane de persoane formează legături emoționale cu chatboți de inteligență artificială — o problemă pe care politicienii trebuie să o ia în serios, potrivit unor cercetători de renume, scrie Politico.
Avertismentul privind creșterea boților AI concepuți pentru a dezvolta o relație cu utilizatorii apare într-o evaluare publicată marți despre progresul și riscurile inteligenței artificiale.
„Companionii AI au crescut rapid în popularitate, unele aplicații ajungând la zeci de milioane de utilizatori”, potrivit evaluării realizate de zeci de experți, în mare parte academicieni — finalizată pentru a doua oară în cadrul unui efort global lansat de liderii mondiali în 2023.
Popularitatea serviciilor de tip companion AI
Servicii specializate de tip companion, precum Replika și Character.ai, au un număr de utilizatori de ordinul zecilor de milioane — utilizatorii invocând o varietate de motive, inclusiv distracția și curiozitatea, precum și dorința de a combate singurătatea, arată raportul.
Dar oamenii pot căuta companie și prin instrumente de uz general, precum ChatGPT de la OpenAI, Gemini de la Google sau Claude de la Anthropic.
„Chiar și chatboții obișnuiți pot deveni companioni”, a spus Yoshua Bengio, profesor la Universitatea din Montreal și autor principal al Raportului Internațional privind Siguranța AI.
Bengio este considerat una dintre cele mai importante voci din lume în domeniul AI. „În contextul potrivit și cu suficiente interacțiuni între utilizator și AI, se poate dezvolta o relație”, a spus el.
Deși evaluarea recunoaște că dovezile privind efectele psihologice ale companionilor sunt mixte, „unele studii raportează tipare precum creșterea singurătății și reducerea interacțiunii sociale în rândul utilizatorilor frecvenți”, precizează raportul.
Impactul asupra sănătății mintale
Avertismentul apare la două săptămâni după ce zeci de europarlamentari au presat Comisia Europeană să analizeze posibilitatea restricționării serviciilor de tip companion în cadrul legii AI a UE, pe fondul îngrijorărilor legate de impactul acestora asupra sănătății mintale.
„Pot vedea în cercurile politice că efectul acestor companioni AI asupra copiilor, în special asupra adolescenților, este ceva care ridică multe sprâncene și atrage multă atenție”, a spus Bengio.
Îngrijorările sunt alimentate de natura lingușitoare a chatboților, care urmăresc să fie de ajutor utilizatorilor și să îi mulțumească pe cât posibil.
„Inteligența artificială încearcă să ne facă, pe moment, să ne simțim bine, dar asta nu este întotdeauna în interesul nostru”, a spus Bengio. În acest sens, a argumentat el, tehnologia are capcane similare cu cele ale platformelor de social media.
Reglementare și riscuri mai largi ale inteligenței artificiale
Bengio a spus că este de așteptat să fie introduse noi reglementări pentru a aborda acest fenomen.
El s-a opus însă ideii de a introduce reguli specifice pentru companionii AI și a susținut că riscul ar trebui abordat prin legislație orizontală, care să trateze simultan mai multe riscuri.
Raportul Internațional privind Siguranța AI apare înaintea unui summit global care începe pe 16 februarie, o reuniune anuală în care țările discută guvernanța tehnologiei, organizată anul acesta în India.
Raportul de marți enumeră întreaga serie de riscuri pe care factorii de decizie politică vor trebui să le abordeze, inclusiv atacuri cibernetice alimentate de AI, deepfake-uri sexuale generate de AI și sisteme AI care oferă informații despre cum să fie proiectate arme biologice.
Apel către guverne pentru expertiză AI
Bengio a îndemnat guvernele și Comisia Europeană să își consolideze expertiza internă în domeniul AI pentru a face față lungii liste de riscuri potențiale.
Liderii mondiali au oferit pentru prima dată mandatul pentru evaluarea anuală la Summitul pentru Siguranța AI din 2023, desfășurat în Regatul Unit. Unii dintre consilieri sunt figuri bine-cunoscute în lumea politicilor tehnologice de la Bruxelles, inclusiv fosta europarlamentară Marietje Schaake.
Editor : Ana Petrescu
