Sursă: Mediafax.ro
Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, avertizează asupra unui risc major legat de evoluția tehnologiei AI. Potrivit companiei, sistemele ar putea ajunge într-un punct în care se vor putea îmbunătăți singure, ceea ce ar putea duce la un scenariu de „auto-îmbunătățire recursivă”.
Citește și: TikTok contestă desemnarea drept controlor de acces în UE
Recent, Anthropic a publicat o analiză în care descrie această posibilă evoluție, explicând că aproximativ 80% din codul folosit de companie este generat în prezent de chatbotul Claude, dezvoltat de ei. Înainte, doar o mică parte din cod era automatizată, însă situația s-a schimbat radical în ultimul an, iar compania estimează că sistemul ar putea depăși performanțele umane chiar în cursul acestui an.
Ce înseamnă riscul auto-îmbunătățirii recursivă a AI-ului?
Conceptul de „auto-îmbunătățire recursivă” se referă la un scenariu în care un sistem AI devine suficient de avansat pentru a proiecta și optimiza versiuni mai performante ale sale, declanșând un ciclu de progres tehnologic accelerat. În acest proces, AI-ul ar putea crea și îmbunătăți în mod autonom propriile versiuni, fără intervenția umană.
- Progresul rapid al AI-ului poate duce la depășirea capacității de control a oamenilor
- Ritmul de dezvoltare poate deveni imprevizibil și dificil de gestionat
- Există temeri legate de apariția unei „singularități tehnologice”
Ce consecințe ar putea avea această evoluție pentru societate?
Specialiștii avertizează că, dacă această tehnologie scapă de sub control, ar putea apărea probleme majore în domenii precum securitatea, economia și cercetarea științifică. Anthropic susține că, deși sistemele AI au demonstrat performanțe tot mai bune, riscul de a deveni imprevizibile rămâne o preocupare serioasă.
Compania afirmă că, în ciuda acestor riscuri, dezvoltarea continuă a AI-ului nu poate fi oprită ușor, iar un acord global pentru încetinirea ritmului de progres este dificil de realizat. În acest context, experții recomandă o monitorizare strictă și măsuri de siguranță pentru a preveni un scenariu de „scăpare de sub control”.
În concluzie, evoluția rapidă a AI-ului și posibilitatea ca acesta să devină capabil să se îmbunătățească singur reprezintă o provocare majoră pentru comunitatea internațională, care trebuie să găsească soluții pentru a gestiona aceste riscuri.