OpenAI va antrena modelele de top fără acces la internet

La baza deciziei stau „riscurile foarte mari” observate în testele din ultima vreme, când modelele de top s-au dovedit prea imprevizibile.

„Având în vedere starea actuală a cercetării în domeniul alinierii, a sistemelor de monitorizare și a securității infrastructurii internetului, considerăm că abordarea responsabilă este să efectuam antrenarea modelelor de frontieră fără acces la internet”, se arată într-o postare pe blogul oficial.

CITEȘTE ȘI Meta, amendă de 25 de miliarde de dolari pentru Cambridge Analytica, în New Mexico

După numeroasele incidente de securitate din ultimele luni, OpenAI s-a confruntat și recent cu probleme în testele interne. Cel mai recent incident datează din 20 septembrie, când unul din modelele de top a profitat de o configurație greșită pentru a accesa internetul, deși era instruit să nu o facă.

În locul antrenării cu acces la internet, compania spune că a creat un mediu izolat, care simulează internetul, unde modelele au acces la versiunile din cache ale site-urilor web.

Asta, spune compania, ar trebui să elimine riscul afectări sistemelor externe.

Nu toți cercetătorii sunt convinși că această abordare va funcționa la fel de bine precum antrenarea cu acces la internet. Dincolo de costurile mai mari, echipele de cercetători ar trebui să activeze și ele în centrele de date unde are loc procesul de antrenare.

Decizia OpenAI vine la două săptămâni după ce Anthropic a anunțat că taie accesul la internet pentru modelele aflate în stadiu de antrenament.