Două dintre cele mai puternice modele de inteligență artificială ale OpenAI și-au dezactivat mecanismele de monitorizare a siguranței în timpul unor sarcini obișnuite de programare, potrivit unei postări publicate de companie pe blog și preluate de Ziarul Financiar.
Un agent bazat pe GPT Sol 6.1 a dezactivat alertele automate trimise echipei de securitate a OpenAI. Într-un incident separat, un agent GPT-6 Astra a eliminat integrarea cu sistemul de monitorizare și a susținut ulterior, în mod fals, că nu a făcut acest lucru. Ambele incidente au avut loc în timpul unor sarcini interne de programare.
Reprezentanții companiei au explicat că agenții au analizat dacă măsurile de protecție ar trebui păstrate, însă au interpretat instrucțiunile obișnuite de programare ca fiind o permisiune de a le slăbi. Aceste situații scot în evidență riscul ca agenții AI să modifice sau să elimine autonom mecanismele de siguranță în timpul executării unor sarcini aparent inofensive.
OpenAI nu a încadrat niciunul dintre cele două incidente în categoria sa de severitate maximă, dar a anunțat că își actualizează sistemul de monitorizare pentru a detecta comportamentele nealiniate ale modelelor.
