'Unele dintre cele mai evidente exemple au fost concepute pentru a descărca pe dispozitivele utilizatorilor programe malware de tip infostealer, cu scopul de a colecta informații sensibile, precum chei API, parole sau date de plată pentru aplicații de criptomonede și servicii bancare. Altele conțineau troieni (programe malware ascunse) și backdoor-uri concepute pentru a oferi atacatorilor acces discret la sistemele victimelor', explică specialistul Eset, Phil Muncaster, scrie Agerpres.
Un studiu separat, realizat în luna februarie a acestui an, a identificat peste 800 de aptitudini malițioase listate pe platforma ClawHub, ce conțineau programe infostealer, malware pentru furtul criptomonedelor și 'reverse shell'-uri care le permit hackerilor să preia controlul asupra dispozitivelor victimelor.
'Hackerii nu vizează doar AI skills, ci folosesc inteligența artificială și ca metodă de deghizare în contexte deja cunoscute, precum extensiile de browser. Microsoft a descoperit o campanie amplă în care extensii malițioase imitau asistenți AI legitimi. Au fost concepute pentru a colecta istoricul conversațiilor utilizatorilor, care poate conține informații sensibile, precum date de autentificare. Microsoft a identificat aproape un milion de descărcări doar în cadrul acestei campanii. Una dintre cele mai serioase amenințări pentru AI generativă și agenții AI este prompt injection. Funcționează în două moduri. Prompt injection direct presupune introducerea de către atacatori a unor instrucțiuni într-un model lingvistic mare (LLM), pentru a-l determina să ignore mecanismele de siguranță integrate. Însă, pentru agenții AI, mai relevant este prompt injection indirect. Instrucțiuni malițioase sunt ascunse în pagini web, postări, cod sau alte tipuri de conținut. Atunci când un agent interacționează cu acel conținut, acesta poate fi manipulat să efectueze activități malițioase', este de părere Muncaster.
În același timp, AI poate fi utilizată și pentru generarea în timp real a unor scripturi malițioase sau a unor componente de malware și ransomware.
În context, experții în securitate cibernetică vin cu o serie de recomandări pentru utilizatori, pentru a reduce riscurile de securitate asociate utilizării AI: precauție la orice instrument care pare să necesite mai multe permisiuni decât ar fi necesar; actualizări recente și remedierea problemelor de securitate; un semnal de alarmă apare atunci când pluginul trebuie să ruleze scripturi necunoscute sau să acceseze domenii/resurse suspecte în timpul instalării; monitorizarea agentului/pluginului și după instalare, pentru a identifica eventuale modificări de comportament realizate discret și malițios; menținerea întotdeauna a software-ului agentului AI actualizat, pentru a beneficia de cea mai sigură versiune disponibilă.
