Compania spune că modelul, a cărui dezvoltare nu este finalizată, a atins un prag suficient de avansat în ceea ce privește abilitățile de securitate cibernetică, determinând-o să nu meargă, deocamdată, mai departe cu îmbunătățirea acestuia.
Conform oficialilor OpenAI, Astra este deja capabil să identifice vulnerabilități și să pună la cale atacuri cibernetice împotriva entităților de pe internet pe cont propriu.
„În timp ce continuăm să evaluăm și să testăm acest model, rezultatele preliminare indică o performanță suficient de avansată, încât nu putem exclude, deocamdată, nivelul de capacitate critică,” se arată într-o postare de pe blogul companiei.
Deși vagă, descrierea făcută de OpenAI pentru Astra nu pare foarte departe de ceea ce s-a întâmplat recent cu alte modele ale companiei, care au evadat din mediul controlat în care erau testate și au atacat platforma Hugging Face.
Compania ține să precizeze că Astra nu s-a numărat printre modelele implicate în atacurile asupra Hugging Face.
Companiile de tehnologie rar anunță când întrerup dezvoltarea unui produs din astfel de considerente, dar OpenAI încearcă să demonstreze un nivel mai ridicat de transparență după cazul Hugging Face.
Nu doar modelele dezvoltate de OpenAI nu au fost cuminți în ultima vreme. Anthropic a confirmat incidente similare, chiar mai extinse, iar experții în securitate cibernetică susțin că și Kimi K3, al chinezilor de la Moonshot AI, a scăpat din mediul controlat, dar nu a atacat vreo rețea.
