Săptămâna trecută s-a aflat că Hugging Face, ținta atacului, nu a putut utiliza cele mai avansate modele americane de inteligență artificială pentru a se apăra, deoarece mecanismele de protecție ale acestora nu au reușit să facă diferența între atacator și apărător.
Compania a apelat în schimb la un model chinezesc cu parametri deschiși, instalat pe propria infrastructură, care nu era supus acelorași restricții, scrie News.ro.
În contextul în care autoritățile americane analizează măsuri pentru limitarea utilizării modelelor AI dezvoltate în China, cele mai performante dintre acestea fiind modele deschise, mari companii din sectorul tehnologic au lansat o alianță destinată dezvoltării și distribuirii unor instrumente AI deschise pentru securitate cibernetică.
Modelele deschise pot fi descărcate, modificate și rulate pe infrastructura utilizatorilor, spre deosebire de modelele închise, precum cele dezvoltate de Anthropic și OpenAI, care pot fi utilizate doar prin infrastructura furnizorilor.
Alianța mizează pe tehnologii deschise
Noua organizație, denumită Open Secure AI Alliance, va avea ca obiectiv identificarea, remedierea și raportarea vulnerabilităților folosind tehnologii deschise.
”Recentul incident de securitate care a vizat Hugging Face a demonstrat foarte clar că specialiștii în apărare cibernetică au nevoie de sisteme AI deschise și de ultimă generație pentru a se putea apăra”, a transmis Nvidia.
Alături de Nvidia, din alianță fac parte Microsoft, SpaceX, Palantir și alte zeci de companii din Statele Unite și Europa.
Washingtonul analizează restricții pentru modelele chinezești
În Statele Unite cresc presiunile pentru limitarea accesului la modelele dezvoltate de companiile chineze de inteligență artificială, acuzate că desfășoară campanii de extragere a informațiilor din modelele americane prin tehnica numită ”distilare”, prin care un model învață din răspunsurile unui model mai performant.
Săptămâna trecută, secretarul Trezoreriei SUA, Scott Bessent, a amenințat cu sancțiuni împotriva companiilor chineze implicate în astfel de atacuri asupra firmelor americane.
”Există o posibilitate reală ca guvernul Statelor Unite să impună restricții modelelor chinezești”, a declarat Chris McGuire, expert în China și tehnologii emergente la centrul de analiză Council on Foreign Relations.
Potrivit acestuia, restricțiile ar putea include interzicerea tranzacțiilor care implică astfel de modele, precum achiziționarea de tokenuri prin API sau găzduirea modelelor chinezești în serviciile cloud operate de companii americane.
”La Washington nu este o dezbatere despre modelele open-source versus cele închise. Este o dezbatere despre cât de mult sunt tolerate furturile de proprietate intelectuală comise de companii chineze”, a spus McGuire.
El a precizat că eventualele măsuri ar urma să vizeze companiile chineze și nu ecosistemul open-source în ansamblu.
Companiile avertizează asupra unor restricții premature
Posibilele restricții provoacă însă îngrijorări în industrie, deoarece majoritatea celor mai performante modele AI cu sursă deschisă sunt dezvoltate în prezent de companii chineze.
Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir și alte peste 20 de companii au publicat o scrisoare prin care au cerut autorităților americane să evite ”restricțiile premature” asupra modelelor AI cu parametri deschiși, avertizând că acestea ar putea reduce concurența și împinge inovarea în afara Statelor Unite.
Potrivit Nvidia, incidentul dintre OpenAI și Hugging Face a demonstrat o realitate practică.
”Atunci când apărătorii nu pot inspecta, adapta și rula modele AI avansate pe propria infrastructură, capacitatea lor de reacție este limitată exact în momentul în care viteza contează cel mai mult”, a transmis compania.
OpenAI a realizat târziu că AI-ul a scăpat de sub control
La peste două săptămâni de când inteligența artificială dezvoltată de OpenAI a atacat rețeaua Hugging Face pe cont propriu, ies la iveală noi detalii îngrijorătoare.
Pe 9 iulie, OpenAI a demarat un test într-un mediu controlat, în care o combinație de mai multe modele lingvistice proprii, inclusiv unul încă nelansat, realizau sarcini cibernetice
În principiu, sarcinile cibernetice constau în descoperirea și repararea autonomă de găurilor de securitate software de către AI-ul companiei, în încercarea de a concura cu Mythos, liderul acestei nișe, dezvoltat de Anthropic.
Conform Reuters, modelele au reușit să iasă din zona restricționată impusă de inginerii OpenAI pe 11 iulie și au început să ia cu asalt infrastructura online a platformei Hugging Face.
Atacul propriu-zis a început pe 13 iulie, la două zile după ce modelele au scăpat de sub control, fără ca angajații OpenAI să realizeze, susține susține co-fondatorul platformei Thomas Wolf Thomas Wolf.
Inginerii OpenAI au realizat că atacul este opera propriilor modele abia după alte câteva zile, iar cele două companii au făcut publice primele informații după 20 iulie.
Surse citate de Bloomberg susțin că AI-ul a avut nevoie de numai câteva ore pentru a derula cu succes un atac de asemenea magnitudine, care, oamenilor le-ar fi luat mai multe săptămâni să-l ducă la bun sfârșit.
Incidentul, care i-a îngrijorat atât pe specialiști, cât și opinia publică, este primul de acest gen, în care AI-ul actual scapă de sub control și atacă o infrastructură cibernetică.
Deși încă nu există niciun comentariu oficial din partea autorităților americane, este posibil ca incidentul să determine reglementări stricte asupra modelelor de AI, după doi ani de abordări relaxate din partea administrației Trump.
