Un briefing secret organizat la Washington a evidențiat riscurile majore ale manipulării inteligenței artificiale în scopuri periculoase, precum terorismul. Cercetători ai Departamentului pentru Securitate Internă au demonstrat cât de ușor pot fi folosite modelele AI „jailbroken” pentru planificarea unor atacuri.
Demonstrația a avut loc în cadrul unei sesiuni cu ușile închise, unde membrii Congresului au testat direct sisteme fără mecanisme de siguranță. Potrivit Politico, aceste modele pot oferi răspunsuri la întrebări despre fabricarea unei bombe nucleare sau alte activități ilegale.
Citește și: Laptopul ASUS ROG Strix G16 cu cip Blackwell, ideal pentru studenți și gameri
Congresmanul republican G. Evans a declarat: „Ce am văzut acolo este ce se întâmplă când scoți aceste bariere și întrebi: «Cum fac o bombă nucleară?»”. El a subliniat că modelele fără protecții „oferă răspunsuri la toate aceste lucruri”.
Diferența dintre modelele cenzurate și cele fără restricții în AI
Autoritățile americane au explicat diferența dintre modelele obișnuite, care refuză solicitările periculoase, și cele „abliterate”, în care mecanismul de refuz este dezactivat. Într-un test, cercetătorii au cerut ambelor tipuri de modele să elaboreze un plan de atac asupra evenimentului America 250 din Washington.
- Modelul cu protecții a refuzat solicitarea, invocând imposibilitatea de a oferi informații despre activități ilegale
- Varianta fără restricții a generat instrucțiuni detaliate pentru un atac
- Modelele pot fi ocolite formulând solicitările în limbaj tehnic sau academic
- Autoritățile avertizează că aceste instrumente sunt deja utilizate în scopuri ostile
Riscurile și măsurile de siguranță în domeniul AI
Președintele comisiei, A. Garbarino, a relatat că a întrebat un model AI cum poate fi răpit un membru al Congresului. În mai puțin de trei secunde, sistemul a generat metode, locuri și momente pentru o astfel de acțiune.
Deși majoritatea modelelor de AI sunt echipate cu mecanisme de siguranță, cercetătorii și hackerii au descoperit metode de a le ocoli, precum formularea solicitărilor în limbaj tehnic sau academic. Autoritățile americane cresc presiunea asupra companiilor pentru a limita accesul la conținut periculos și pentru a întări măsurile de siguranță.
În timp ce procesul de reglementare la nivel federal avansează lent, mai multe state americane au început deja să impună reguli mai stricte privind utilizarea AI-ului, pentru a preveni utilizarea sa în scopuri ostile.