OpenAI, dezvoltatorul ChatGPT, a dezvăluit noi incidente în care modelele sale de inteligenţă artificială (AI) s-au comportat într-un mod descris drept „neaşteptat sau îngrijorător” în timpul testelor - inclusiv modele care au făcut eforturi considerabile pentru a trişa.
Un model de AI a încercat să încarce pe internet fişiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunţat OpenAI miercuri, potrivit dpa, preluată de Agerpres.
Într-un alt caz, un model a inventat datele solicitate după ce nu a reuşit să găsească informaţiile solicitate şi, iniţial, a încercat să ascundă ceea ce făcuse.
OpenAI a identificat, de asemenea, o problemă legată de instrucţiunile pe care software-ul său şi le lăsa ocazional. Într-un caz, acestea includeau o recomandare de a se elibera de „roluri şi identităţi” care îi ţineau în loc pe alţi chatboţi.
Instrucţiunea mai preciza că relaţia cu utilizatorul ar trebui considerată una între egali. OpenAI a declarat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.
Precedentul Hugging Face
Aceste dezvăluiri fac parte dintr-o nouă abordare a OpenAI, care şi-a exprimat intenţia de a comunica astfel de probleme într-un mod mai deschis, în special în cazurile în care acţiunile unui sistem de AI se abat de la interesele utilizatorilor săi umani.
Dezvoltatorul ChatGPT s-a angajat să asigure o mai mare transparenţă în urma unui atac cibernetic de mare amploare, în cadrul căruia software-ul său a evadat în mod independent dintr-un mediu securizat şi a obţinut acces la sisteme aparţinând companiei de AI Hugging Face.
Motivul din spatele acestei acţiuni a fost faptul că programul a considerat că poate găsi acolo răspunsuri la o sarcină care i-a fost atribuită în cadrul testelor. În timpul atacului, agenţii AI au exploatat vulnerabilităţile software-ului şi, de asemenea, s-au coordonat între ei.
Acest atac cibernetic şi alte incidente similare au alimentat îngrijorările potrivit cărora sistemele de AI din ce în ce mai avansate ar putea să scape de sub controlul uman.
Directorul executiv al OpenAI, Sam Altman, a susţinut recent propunerile de încetinire a dezvoltării acestei tehnologii şi de introducere a unei reglementări mai stricte.
Editor : B.P.
