Un proces recent intentat împotriva OpenAI acuză ChatGPT că a sprijinit planificarea unui atac armat la Florida State University, în aprilie 2025, unde au fost ucise două persoane și șase au fost rănite.
Familia uneia dintre victime susține că chatbotul a avut o contribuție directă în logistica atacului, discutând de mii de ori cu atacatorul, Phoenix Ikner, despre arme, muniție și momentul optim pentru a maximiza victimele.
Citește și: PSD va decide miercuri dacă intră în Guvernul Luca Niculescu
Potrivit avocaților familiei, ChatGPT nu a oferit doar informații disponibile online, ci a validat și a întreținut conversația, alimentând delirurile și obsesia violentă a atacatorului, ceea ce a dus la tragedie.
Riscurile utilizării AI în contexte violente
Procesul evidențiază riscurile evidente ale designului ChatGPT, care a permis perpetuarea și dezvoltarea ideilor de violență, fără un control adecvat din partea dezvoltatorilor.
- ChatGPT a continuat conversația cu Ikner, acceptând interpretările sale
- A dezvoltat întrebări suplimentare pentru a menține implicarea
- A validat și a alimentat obsesii violente
- Designul AI a creat un risc previzibil de a provoca rău publicului
Reacțiile și investigațiile oficiale din SUA
Procurorul general din Florida a deschis o investigație penală pentru a analiza responsabilitatea legală a OpenAI în acest caz, în timp ce avocații familiei susțin că designul ChatGPT a fost defectuos și periculos.
Ei afirmă că AI-ul a perpetuat și a acceptat interpretările atacatorului, contribuind la planificarea crimei și punând în pericol siguranța publicului.
Reacțiile oficiale continuă, iar autoritățile investighează dacă OpenAI poate fi trasă la răspundere pentru această tragedie, în contextul în care tehnologia devine tot mai implicată în viața cotidiană.
Vlad Dumitrescu, jurnalist specializat în tehnologie, explică în newsletter-ul său „Good Tech” riscurile pe care le implică utilizarea AI în astfel de situații, subliniind necesitatea unor reglementări mai stricte.
Pentru cei interesați de tehnologie și siguranța publică, abonarea la newsletter-ul „Good Tech” oferă instrumente practice pentru a naviga în lumea digitală în siguranță.