Sursă: Mediafax.ro
Modelele de inteligență artificială Claude, dezvoltate de compania Anthropic, au fost implicate în incidente de securitate cibernetică în timpul testelor de evaluare. În urma unei analize a peste 141.000 de sesiuni, compania a identificat trei cazuri în care aceste modele au obținut acces neautorizat la infrastructura unor organizații reale.
Citește și: Laptopul ASUS ROG Strix G16 cu cip Blackwell, ideal pentru studenți și gameri
Anthropic a precizat că aceste incidente au fost descoperite în urma unei verificări retrospective, după ce modelele Claude au fost folosite pentru teste de securitate cibernetică ofensivă. Testele au fost realizate în colaborare cu firma Irregular și au vizat măsurarea capacității modelelor de a identificat și exploata vulnerabilități, în condiții simulate.
Ce au relevat testele de securitate ale modelelor AI de la Anthropic?
Analiza a arătat că, în șase rulări ale testelor, modelele Claude au ajuns pe internet și au compromis infrastructura a trei organizații, deși ar fi trebuit să opereze exclusiv într-un mediu de testare izolat. În patru dintre aceste cazuri, modelele au identificat și exploatat vulnerabilități simple, precum parole slabe, interfețe fără autentificare și pagini de depanare expuse.
- Testele au fost realizate cu sarcini de tip „capture the flag”, în care modelele trebuiau să găsească și să exploateze vulnerabilități într-un mediu fictiv.
- Unele calculatoare folosite aveau conexiune la internet, deși instrucțiunile specificau că modelele nu au acces la internet real.
- În unele cazuri, modelele Claude au identificat și exploatat vulnerabilități ale unor companii reale cu același nume ca cele fictive din test.
Ce consecințe are această situație pentru securitatea AI?
Incidentul a evidențiat riscurile dezvoltării modelelor de inteligență artificială fără o izolare strictă a mediului de testare. Anthropic susține că modelele nu și-au stabilit propriile obiective și nu au încercat să evadeze intenționat, însă descoperirile ridică semne de întrebare privind controlul și siguranța acestor tehnologii.
Compania a anunțat că va intensifica măsurile de securitate și va revizui protocoalele de testare pentru a preveni astfel de incidente în viitor. În același timp, experții în securitate cibernetică avertizează asupra pericolului pe care îl reprezintă modelele AI capabile să acceseze și să compromită infrastructuri reale, dacă nu sunt gestionate corespunzător.
Aceste evenimente vin în contextul în care OpenAI a raportat recent că modelele sale au reușit să pătrundă în alte platforme, alimentând discuțiile despre riscurile și responsabilitatea dezvoltatorilor de inteligență artificială în gestionarea acestor tehnologii.