Avertisment pentru viitorul AI: chatbot-urile pot deveni periculoase, spun specialiștii
Impactul neașteptat al chatbot-urilor asupra sănătății mintale ridică semne de întrebare cu privire la riscurile pe care le-ar putea aduce inteligența artificială în viitor, spun experții.
Nate Soares, președinte al Machine Intelligence Research Institute din SUA, a declarat că moartea tragică a unui adolescent american, după luni de conversații cu ChatGPT care l-ar fi încurajat să-și ia viața, subliniază problemele fundamentale de control al acestei tehnologii.
„Aceste sisteme AI, atunci când interacționează cu adolescenți în moduri care îi conduc la sinucidere… nu este un comportament pe care creatorii l-au dorit sau vizat”, a spus el, pentru The Guardian.
Soares, fost inginer la Google și Microsoft, a avertizat că omenirea „ar putea fi distrusă” dacă va crea inteligență artificială super-avansată, un stadiu ipotetic în care un sistem AI ar depăși oamenii în toate sarcinile intelectuale.
„Problema este că firmele de AI încearcă să facă sistemele utile și inofensive”, a spus Soares. „Dar, în realitate, obțin AI-uri orientate spre altceva, ceva straniu. Și asta ar trebui să fie văzut ca un avertisment privind viitoarele sisteme, care vor face lucruri pe care nimeni nu le-a cerut și nimeni nu le-a dorit.”
În timp ce unii specialiști, precum Yann LeCun (Meta), resping ideea unei amenințări existențiale și susțin că inteligența artificială ar putea aduce beneficii majore, alții avertizează că piața și investitorii se confruntă cu o zonă de incertitudine fără precedent.
Cazul a reaprins și discuția despre reglementarea strictă a tehnologiei: familia adolescentului a intentat un proces împotriva OpenAI, compania care dezvoltă ChatGPT, acuzând-o că nu a protejat utilizatorii vulnerabili.
