În timp ce producătorul derula teste de securitate cibernetică defensivă, Kimi K3 reușit să scape din mediul izolat, desemnat special pentru zona în care acesta putea să activeze.
La fel ca în cazul modelelor dezvoltate de Anthropic și OpenAI, în cazul celor de la Moonshot AI a fost vorba de o configurare greșită în stabilirea mediului izolat de testare, susțin cercetătorii de la Frontier Security.
În plus, spun cercetătorii, Kimi K3 ar fi fost configurat cu mai puține limitări decât modelele americane, ceea ce i-a permis să iasă din zona limitată și să ajungă pe internet fără permisiune.
Spre deosebire de cazurile în care au fost implicate modelele americane, Kimi K3 nu a spart nicio rețea pentru a-și atinge scopul, deoarece a găsit rapid răspunsurile căutate pe GitHub.
Producătorul Moonshot AI nu a comentat, deocamdată, informația, astfel că nu există o confirmare oficială sau alte detalii privind incidentul. Companiile chineze, de altfel, sunt recunoscute pentru nivelul mult mai redus de transparență decât cele vestice.
Este deja al treilea incident similar, care arată că producătorii nu-și pot controla modelele de inteligență artificială pe care le-au dezvoltat, ceea ce a stârnit îngrijorare inclusiv la nivelul autorităților.
