Compania californiană de inteligenţă artificială OpenAI estimează că peste un milion dintre utilizatorii ChatGPT au „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”.
Peste un milion de utilizatori ai ChatGPT discută despre gânduri legate de sinucidere cu acest asistent AI generativ, potrivit estimărilor furnizate de creatorul său, OpenAI.
Compania californiană de inteligenţă artificială (AI) estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”, potrivit unui articol publicat pe blogul companiei, scrie News.ro, preluând Le Figaro.
OpenAI raportează 800 de milioane de utilizatori pe săptămână, ceea ce înseamnă că proporția de 0,15% reprezintă aproximativ 1,2 milioane de persoane.
Compania estimează, de asemenea, că aproximativ 0,07% dintre utilizatorii săptămânali activi ai ChatGPT prezintă semne de potenţiale urgenţe de sănătate mintală legate de episoade psihotice sau maniacale, adică puţin sub 600.000 de persoane.
OpenAI, atacat în instanţă
Această problemă se află în centrul atenţiei de la moartea unui adolescent californian, Adam Raine. Părinţii acestuia au atacat recent OpenAI în instanţă, afirmând că ChatGPT i-a oferit sfaturi specifice despre cum să se sinucidă.
OpenAI a întărit de atunci controlul parental şi a pus în aplicare alte măsuri de siguranţă, în special accesul îmbunătăţit la asistenţa telefonică de urgenţă, redirecţionarea automată a conversaţiilor sensibile către modele mai sigure şi mementouri binevoitoare care invită utilizatorii să ia pauze în timpul sesiunilor prelungite.
OpenAI a indicat că şi-a actualizat modelul pentru a recunoaşte şi a răspunde mai bine utilizatorilor care se confruntă cu o urgenţă de sănătate mintală. Compania afirmă că lucrează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice.
Editor : B.P.
