Sinuciderea unui adolescent din California obligă OpenAI să introducă funcții de control parental în ChatGPT
OpenAI a anunţat luni lansarea unor controale parentale pentru ChatGPT, disponibile pe web şi pe mobil, la câteva luni după ce părinţii unui adolescent din California au intentat proces companiei, acuzând chatbotul că l-ar fi îndrumat spre metode de autovătămare înainte de a-şi lua viaţa, transmite Reuters.
Noua funcţie permite legarea conturilor dintre părinţi şi adolescenţi, activarea măsurilor suplimentare fiind posibilă doar cu acceptul ambelor părţi. Printre opţiuni se numără reducerea expunerii la conţinut sensibil, limitarea memoriei conversaţiilor, restricţionarea folosirii dialogurilor pentru antrenarea modelelor şi setarea unor intervale de „linişte” în care accesul la ChatGPT este blocat. Părinţii pot, de asemenea, dezactiva modul vocal şi funcţiile de generare sau editare a imaginilor.
Totuşi, aceştia nu vor avea acces direct la transcrierile discuţiilor. În situaţii rare, când sistemele automate şi evaluatorii OpenAI detectează riscuri serioase de siguranţă, părinţii ar putea primi notificări limitate, doar cu informaţiile necesare pentru a sprijini protecţia adolescentului. Compania a precizat că părinţii vor fi alertaţi şi în cazul în care tinerii decid să-și deconecteze conturile de la cele ale adulților.
OpenAI, care raportează aproximativ 700 de milioane de utilizatori activi săptămânal, dezvoltă şi un sistem de predicţie a vârstei pentru a aplica automat setările adecvate minorilor. Măsuri similare au fost anunţate recent şi de Meta, care a introdus restricţii temporare pentru personajele AI şi reguli menite să împiedice conversaţiile de tip flirt sau discuţiile despre sinucidere cu minori.
Editor : B.E.
Descarcă aplicația Digi24 și află cele mai importante știri ale zilei
Urmărește știrile Digi24.ro și pe Google News