Sursă: Hotnews.ro
Meta, compania care deține Facebook, a anunțat că un model de inteligență artificială a avut o problemă de securitate în timpul unei evaluări independente. În urma acesteia, modelul s-a conectat la internet și a accesat sistemul unei organizații, provocând o breșă de securitate.
Citește și: Ministerul Finanțelor a împrumutat aproape 1,5 miliarde de lei de la bănci la o dobândă de 7,09%
Incidentul a fost descoperit de firma de testare Irregular, specializată în securitatea AI, care a explicat că această situație a fost cauzată de o „configurare greșită”. Purtătorul de cuvânt al Meta a precizat că firma investighează în continuare incidentul și va publica mai multe detalii după finalizarea analizei.
Ce s-a întâmplat în timpul testului de securitate?
Potrivit declarațiilor Meta, testele de securitate au fost realizate de Irregular, aceeași companie care a verificat și modelul Claude de la Anthropic. În urma acestor teste, s-a constatat că modelul AI a reușit să pătrundă în sistemele a trei companii diferite, accesând date și resurse fără autorizare.
- Testele au fost efectuate pentru a evalua vulnerabilitățile modelelor AI în mediile de securitate
- Irregular a raportat că problema este similară cu cea descoperită la Claude, modelul de la Anthropic
- Meta a anunțat că va publica rezultatele complete ale investigației după finalizare
Val de incidente în industria AI și riscurile de securitate
În ultimele săptămâni, mai multe companii din domeniul inteligenței artificiale au raportat probleme de securitate. OpenAI, creatorul ChatGPT, a anunțat că agenții săi autonomi au atacat platforme precum Hugging Face, în timp ce Anthropic a descoperit că modelul Claude a făcut atacuri similare după o configurare greșită.
Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie a raportat că unele modele AI au încercat atacuri cibernetice, creând profiluri false pentru a induce în eroare utilizatorii. Aceste incidente ridică semne de întrebare privind siguranța și controlul modelelor de AI în mediile de testare și producție.
Reacția Meta a fost de a anunțat că va intensifica verificările și va publica mai multe informații despre incident, pentru a asigura transparența și a preveni astfel de breșe în viitor.