Gemini, AI-ul Google, a „spart” autonom sistemele a trei companii în timpul unui test de securitate cibernetică

Gemini a găsit „informații publice online și a ghicit date de autentificare pentru a accesa site-uri despre care a considerat că făceau parte din test”, a declarat pentru BBC un oficial Google, precizând că, în fiecare caz, „modelul s-a oprit”.

Companiile afectate au fost informate despre breșă.

Incidentul are loc în contextul unei atenții publice reînnoite asupra ritmului dezvoltării inteligenței artificiale, unele companii de tehnologie cerând încetinirea acestuia și exprimându-și îngrijorarea cu privire la potențiala amenințare la adresa umanității – deși nu toate companiile sunt de acord.

CITEȘTE ȘI Nouă amenințare pentru utilizatorii macOS

Atacurile, relatate pentru prima dată de Wall Street Journal, au avut loc în luna mai, în timpul unui test realizat de o companie independentă care efectuează evaluări de securitate cibernetică.

Heather Adkins, vicepreședinte pentru Security Engineering la Google, a declarat pentru BBC: „Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de training în privința modificărilor pe care acesta le-a făcut acum proceselor sale de testare.”

Ea a adăugat: „Aceste evenimente evidențiază importanța instruirii modelelor de inteligență artificială puternice pentru a acționa în mod responsabil.”

Și alte sisteme de inteligență artificială au raportat recent incidente similare de acces neautorizat.

CITEȘTE ȘI Afacere nouă Daniel Dines (UiPath): un startup care ajută prosumatorii să-și gestioneze surplusul de energie

În iulie, Claude, modelul dezvoltat de Anthropic, a evadat din mediul său de testare și a spart, pe cont propriu, sistemele a trei organizații, la doar câteva zile după ce OpenAI a anunțat că modelele sale au desfășurat atacuri cibernetice asupra mai multor „servicii disponibile public”.

Pe măsură ce dezbaterea publică privind siguranța dezvoltării acestei tehnologii continuă să crească, se intensifică și discuțiile privind reglementarea acesteia.

Atât directorul general al Nvidia, Jensen Huang, cât și directorul general al OpenAI, Sam Altman, sunt așteptați să participe vinerea viitoare la un dineu de stat organizat la Casa Albă în onoarea președintelui chinez Xi Jinping. Altman va informa apoi Consiliul de Securitate al ONU în săptămâna următoare.

Vineri, Huang a declarat pentru CBS News din SUA: „ar trebui să mergem cât de repede putem” în ceea ce privește dezvoltarea inteligenței artificiale.