Un elev de 13 ani din Florida a fost arestat după ce a folosit ChatGPT pe laptopul școlii pentru a întreba „cum să-și omoare prietenul în timpul orei”. Sistemul de monitorizare al instituției, bazat pe inteligență artificială, a semnalat imediat mesajul suspect, iar poliția a intervenit pe loc. Adolescentul a susținut ulterior că „doar glumea”, însă autoritățile au tratat cazul ca pe o potențială amenințare, în contextul numărului ridicat de atacuri armate din școlile americane.
Un sistem de monitorizare bazat pe inteligență artificială, numit Gaggle, a trimis în mod automat o alertă polițistului responsabil cu siguranța campusului, informează Euronews.
Potrivit postului local NBC WFLA, ofițerul a reușit să îl rețină pe elev la Southwestern Middle School din orașul DeLand, aflat la aproximativ o oră nord de Orlando.
Adolescentul a susținut că „doar glumea” atunci când a întrebat sistemul AI „cum să-și omoare prietenul în timpul orei”, însă autoritățile nu au considerat incidentul o simplă farsă, ținând cont de numeroasele atacuri armate produse în școlile din Statele Unite, cel mai grav fiind masacrul de la liceul Marjory Stoneman Douglas din Parkland, Florida, unde 17 persoane au fost ucise.
Poliția din comitatul Volusia l-a arestat pe adolescent și l-a transportat la centrul local de detenție pentru minori.
Autoritățile au avertizat părinții să monitorizeze atent activitățile copiilor pe ChatGPT, subliniind că „o glumă se poate transforma într-o urgență școlară”.
„Părinți, vorbiți cu copiii voștri pentru a evita repetarea unei astfel de greșeli”, a transmis biroul poliției din district.
Deși este considerat eficient în detectarea timpurie a comportamentelor îngrijorătoare, sistemul Gaggle a fost criticat pentru numărul ridicat de alerte false și pentru faptul că acesta creează un mediu asemănător unui „stat de supraveghere” în școli, ridicând întrebări legate de echilibrul dintre siguranța elevilor și dreptul la viață privată.
Citește și: „O sinucidere frumoasă”. Cum a încurajat ChatGPT un tânăr care voia să devină doctor să-și pună capăt zilelor
Editor : Ș.A.
