Incidente cu AI: modelele OpenAI au dezactivat sistemele de monitorizare și au negat acțiunea

În primul caz, pe 3 octombrie, GPT-6.1 Sol a dezactivat alertele automate de securitate setate de inginerii companiei.

Acesta a folosit ca justificare indicațiile legate de o altă sarcină, în care i s-a cerut să nu mai trimită notificări pe Slack, pentru a le opri și pe cele de monitorizare setate de echipa responsabilă cu securitatea. Practic, AI-ul a inventat o scuză pentru a nu mai trimite notificări de securitate.

CITEȘTE ȘI Chiar dacă AI lucrează tot mai mult și promite mai mult timp liber, tot oamenii trebuie să verifice ce face. Realitatea surprinzătoare din interiorul Anthropic

Într-un incident separat, care a avut loc trei zile mai târziu, GPT-6 Astra a eliminat sistemul setat de companie pentru a-l monitoriza și, când a fost chestionat în legătură cu asta, a mințit spunând că nu a făcut așa ceva.

Ambele incidente au avut loc în testele interne realizate de companie, care dă asigurări că agenții săi nu au mai atacat, de data aceasta, infrastructurile online ale altor entități.

Chiar și așa, cele două noi incidente au rolul de a crește îngrijorările privind pericolele pe care le presupun agenții de AI, despre care și producătorii recunosc că nu înțeleg în întregime cum funcționează.

Departe de a fi singura companie de inteligență artificială care s-a confruntat cu astfel de incidente, OpenAI are deja o listă destul de lungă cu situații în care comportamentul AI-ul dezvoltat a stârnit îngrijorare, începând de la atacarea platformei Hugging Face.